מיקרוסופט הדגימה השבוע את VASA–1, מסגרת ליצירת סרטונים של אנשים מדברים מתמונת סטילס, דגימת אודיו ותסריט טקסט, וטוענת - בצדק - שהיא מסוכנת מכדי להיות משוחררת לציבור.

סרטונים אלה שנוצרו בינה מלאכותית, שבהם אנשים יכולים להיות מונפשים בצורה משכנעת לדבר מילות תסריט בקול משובט, הם בדיוק מסוג הדברים שוועדת הסחר הפדרלית של ארה"ב הזהיר בחודש שעבר, אחרי קודם לכן מציע כלל כדי למנוע שימוש בטכנולוגיית AI להונאות התחזות.

הצוות של מיקרוסופט מכיר בכך הרבה הודעה, מה שמסביר שהטכנולוגיה לא יוצאת לאור בגלל שיקולים אתיים. הם מתעקשים שהם מציגים מחקר ליצירת דמויות אינטראקטיביות וירטואליות ולא להתחזות לאף אחד. ככזה, אין מוצר או API מתוכנן.

"המחקר שלנו מתמקד ביצירת מיומנויות רגשיות ויזואליות עבור אווטרים וירטואליים בינה מלאכותית, במטרה ליישומים חיוביים", מצהירים רדמונד בופינים. "אין הכוונה ליצור תוכן המשמש להטעיה או להטעיה.

"עם זאת, כמו טכניקות אחרות ליצירת תוכן קשורות, זה עדיין עלול להיות שימוש לרעה לצורך התחזות לבני אדם. אנו מתנגדים לכל התנהגות ליצירת תוכן מטעה או מזיק של אנשים אמיתיים, ומעוניינים ליישם את הטכניקה שלנו לקידום גילוי הזיוף".

קווין סוראס, יו"ר Token, עסק לאימות ביומטרי, ודובר תדיר בנושא AI גנרי, אמר הקופה באימייל שלמרות שהיו הדגמות טכנולוגיות קודמות של פרצופים המונפשים ממסגרת דוממת וקובץ קול משובט, ההדגמה של מיקרוסופט משקפת את המצב העכשווי.

"ההשלכות על התאמה אישית של אימיילים ותקשורת המונים עסקית אחרת היא נהדרת", הוא סבר. "אפילו הנפשת תמונות ישנות יותר. במידה מסוימת זה פשוט כיף, ובמידה אחרת יש לו יישומים עסקיים מוצקים שכולנו נשתמש בהם בחודשים ובשנים הקרובים".

ה"כיף" של זיופים עמוקים היה 96 אחוז פורנו ללא הסכמה, כאשר מוֹעֳרָך [PDF] בשנת 2019 על ידי חברת אבטחת הסייבר Deeptrace.

אף על פי כן, החוקרים של מיקרוסופט מציעים שליכולת ליצור אנשים בעלי מראה מציאותי ולהכניס מילים לפה יש שימושים חיוביים.

"טכנולוגיה כזו טומנת בחובה את ההבטחה להעשיר את התקשורת הדיגיטלית, להגביר את הנגישות לבעלי לקות תקשורתית, לשנות את החינוך, שיטות עם שיעורי AI אינטראקטיביים ומתן תמיכה טיפולית ואינטראקציה חברתית בתחום הבריאות", הם מציעים במסמך עבודת מחקר שאינו מכיל את המילים "פורנו" או "מידע מוטעה".

אמנם ניתן לטעון כי וידאו שנוצר בינה מלאכותית אינו זהה לחלוטין לזיוף עמוק, האחרון מוגדר על ידי מניפולציה דיגיטלית בניגוד לשיטה מחוללת, ההבחנה הופכת לבלתי מהותית כאשר ניתן להעלות זיוף משכנע ללא השתלת גזירה והדבקה.

כשנשאל מה דעתו על כך שמיקרוסופט לא משחררת את הטכנולוגיה הזו לציבור מחשש לשימוש לרעה, הביע סורייס ספק לגבי כדאיותן של הגבלות.

"מיקרוסופט ואחרות התאפקו לעת עתה עד שהם יפתרו את בעיות הפרטיות והשימוש", אמר. "איך מישהו יסדיר מי משתמש בזה מהסיבות הנכונות?"

Surace הוסיף כי ישנם כבר מודלים של קוד פתוח שהם מתוחכמים באופן דומה, והצביע עליהם EMO. "אפשר למשוך את קוד המקור מ-GitHub ולבנות סביבו שירות שללא ספק יתחרה בפלט של מיקרוסופט", הוא ציין. "בגלל אופי הקוד הפתוח של החלל, וויסות זה יהיה בלתי אפשרי בכל מקרה."

עם זאת, מדינות ברחבי העולם מנסות להסדיר אנשים המיוצרים בינה מלאכותית. קנדה, סין, וה UKבין שאר המדינות, לכולם יש תקנות שניתן להחיל על זיופים עמוקים, שחלקם מגשימים מטרות פוליטיות רחבות יותר. בריטניה רק ​​השבוע עשה את זה לא חוקי ליצור תמונה מזויפת מינית מפורשת ללא הסכמה. השיתוף של תמונות כאלה כבר נאסר על פי חוק הבטיחות המקוון של בריטניה משנת 2023.

בינואר, קבוצה דו-מפלגתית של מחוקקים אמריקאים הציג חוק Disrupt Explicit Forged Images and Non-Consensual Edits Act משנת 2024 (DEFIANCE Act), הצעת חוק שיוצרת דרך לקורבנות של תמונות מזויפות עמוקות שלא בהסכמה להגיש תביעה אזרחית לבית המשפט.

וביום שלישי, 16 באפריל, התקיימה ועדת הסנאט האמריקאי לענייני משפט, ועדת המשנה לפרטיות, טכנולוגיה וחוק. שימוע שכותרתו "פיקוח על בינה מלאכותית: זיופים עמוקים בבחירות".

בהערות מוכנות, ריול גופטה, מנכ"ל DeepMedia, חברה לגילוי זיוף עמוק, אמר:

אבל תחשוב על היישומים השיווקיים. ®

• הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
• PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
• PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
• PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
• PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
• מקור: https://go.theregister.com/feed/www.theregister.com/2024/04/20/microsoft_deepfake_vasa/