היכולת המדהימה של AI גנרטיבי ליצור תמונות חזותיות משתפרת ו יותר נגיש, אבל עם הדגמים שלהם המבוססים על ספריות מסיביות של אמנות קיימת, אמנים מחפשים בטירוף דרכים למנוע את קצירת עבודתם ללא רשותם. כלי חדש, בשם מבשר רעות Nightshade, יכול להיות התשובה.
הטריק כרוך בשימוש ב"התקפות הרעלת נתונים" אופטימליות וספציפיות להנחיות המשחיתות את הנתונים הדרושים לאימון מודלים של AI כאשר הם מוזנים למחולל תמונות.
"הרעלה הייתה וקטור התקפה ידוע במודלים של למידת מכונה במשך שנים", אמר פרופסור בן ז'או פענוח. "גוון לילה אינו מעניין כי הוא עושה הרעלה, אלא כי הוא מרעיל מודלים של בינה מלאכותית, שאיש לא חשב שזה אפשרי כי המודלים האלה כל כך גדולים."
המאבק בגניבת קניין רוחני ובזיוף בינה מלאכותית הפך מכריע מאז שדגמי AI גנרטיביים נכנסו למיינסטרים השנה. ביולי, צוות חוקרים ב-MIT הציע באופן דומה מזריק פיסות קוד קטנות שיגרמו לתמונה לעיוות, מה שיהפוך אותה לבלתי שמישה.
AI Generative מתייחס למודלים של AI המשתמשים בהנחיות ליצירת טקסט, תמונות, מוזיקה או סרטונים. Google, אמזון בעברית, מיקרוסופט, ו meta כולם השקיעו רבות בהבאת כלי AI גנרטיביים לצרכנים.
כפי שג'או הסביר, Nightshade עוקף את הבעיה של מערכי הנתונים הגדולים של מודל בינה מלאכותית על ידי מיקוד להנחיה - למשל, בקשות ליצור תמונה של דרקון, כלב או סוס.
"לתקוף את כל הדגם אין היגיון", אמר ג'או. "מה שאתה כן רוצה לתקוף הוא הנחיה אינדיבידואלית, פוגעת במודל ומשביתה אותו מליצור אמנות."
כדי להימנע מזיהוי, הסביר צוות המחקר, יש לעצב את הטקסט והתמונה בתוך הנתונים המורעלים כך שיראו טבעיים ובעלי מבנה כדי להטעות גם גלאי יישור אוטומטיים וגם פקחים אנושיים כדי להשיג את האפקט המיועד.
למרות שמערך הנתונים הרעיל של Nightshade הוא רק הוכחה לקונספט, ג'או אמר שהדרך הקלה ביותר להונות מודל בינה מלאכותית כמו Stable Diffusion לחשוב שחתול הוא כלב היא פשוט תיוג שגוי של כמה מאות תמונות של חתול ככלב.
אפילו ללא כל תיאום, אמנים יכולים להתחיל ליישם את כדורי הרעל האלה בהמוניהם, וזה עלול לגרום למודל AI לקרוס.
"ברגע שמספיק התקפות הופכות לפעילות על אותו מודל, המודל הופך חסר ערך", אמר ג'או. "במילה חסר ערך, אני מתכוון, אתה נותן לזה דברים כמו 'תן לי ציור', וזה יוצא עם מה שנראה כמו קליידוסקופ של פיקסלים. המודל מטומטם למעשה לגרסה של משהו הדומה למחולל פיקסלים אקראי".
Zhao אמר ש-Nightshade אינו מחייב כל פעולה נגד מחולל התמונות בינה מלאכותית עצמו, אלא נכנס לתוקף כאשר מודל ה-AI מנסה לצרוך את הנתונים ש-Nightshade נכלל בהם.
"זה לא עושה להם כלום אלא אם הם לוקחים את התמונות האלה ומכניסים אותן לנתוני האימון", הוא אמר, וכינה זאת פחות מתקפה ויותר כמו הגנה עצמית או גדר תיל עם קצות רעל המכוונות למפתחי בינה מלאכותית שלא. לכבד את בקשות ההצטרפות והנחיות אל תגרד.
"זה נועד לפתור את הבעיה הזו", אמר ג'או. "אז עקיצת התיל הזה עם איזה רעל. אלא אם כן תתרוצץ ותסגיר את הדברים האלה, אתה לא תסבול".
נערך על ידי ריאן אוזאווה.
