משטרת בולטימור עצרה את דאז'ון לסלי דריאן, המנהלת הספורטיבית לשעבר של תיכון פיקסוויל (PHS), על כך שהתחזה למנהל בית הספר באמצעות תוכנת בינה מלאכותית כדי לגרום לזה להיראות כאילו הוא השמיע אמירות גזעניות ואנטישמיות.
דריין, מבולטימור, מרילנד, הואשמה לאחר מכן בתגמול עדים, מעקב, גניבה ושיבוש פעולות בית הספר. הוא נעצר בשעת לילה מאוחרת בניסיון לעלות על טיסה בנמל התעופה BWI Thurgood Marshall. אנשי הביטחון עצרו אותו מכיוון שהנשק המוצהר שהיה עמו היה ארוז בצורה לא נכונה ובעקבותיה בדיקת רקע גילתה צו מעצר פתוח.
"ב-17 בינואר 2024, משטרת מחוז בולטימור נודעה על הקלטת קול המופצת ברשתות החברתיות", אמר רוברט מק'קולו, מפקד משטרת מחוז בולטימור, במסיבת עיתונאים זורמת היום. "נטען כי הקול שנלכד בקובץ האודיו שייך למר אריק אייסוורט, המנהל בבית הספר התיכון פיקסוויל. כעת יש לנו ראיות חותכות לכך שההקלטה לא הייתה אותנטית.
"משטרת מחוז בולטימור הגיעה לקביעה הזו לאחר ביצוע חקירה מקיפה, שכללה הבאת מנתח משפטי שהתקשר עם ה-FBI כדי לבדוק את ההקלטה. תוצאות הניתוח הצביעו על כך שההקלטה מכילה עקבות של תוכן שנוצר בינה מלאכותית".
מקולו אמר כי חוות דעת שנייה מאת מנתח משפטי מאוניברסיטת קליפורניה, ברקלי, קבעה גם כי ההקלטה אינה אותנטית.
"בהתבסס על הממצאים הללו וחקירה נוספת, נקבע שההקלטה נוצרה באמצעות שימוש בטכנולוגיית בינה מלאכותית", אמר.
על פי הצו שהוצא למעצרו של דאריין, קובץ האודיו שותף באמצעות מדיה חברתית ב-17 בינואר לאחר שנשלח בדוא"ל למורים בבית הספר. ההקלטה נשמעה כאילו המנהל אריק אייזוורט אמר הערות מלהיבות מספיק כדי לעורר ביקור משטרתי כדי לייעץ לגבי אמצעי אבטחה מיגונים לצוות.
"יצוין כי ההערות בהקלטה דיברו על תסכולים לכאורה של [אייסוורט] עם ציוני המבחנים של סטודנטים אפרו-אמריקאים והצהרות שהם (הסטודנטים האפרו-אמריקאים) לא היו מסוגלים 'לבדוק את דרכם מתוך שקית נייר'." הצו אומר.
"ההקלטה המשיכה להעיר הערות מזלזלות על אנשים יהודים ושני מורים ש'מעולם לא היו צריכים להתקבל לעבודה' בבית הספר. ההקלטה תיארה שיחה בין [Eiswert] ואחד מעוזרי המנהלים של PHS".
ואז כולם נערמו פנימה
הקליפ, על פי הצו, הוביל להדחתו הזמנית של אייזוורט מתפקידו ול"גל של הודעות מלאות שנאה ברשתות החברתיות ושיחות רבות לבית הספר", ושיבש באופן משמעותי את פעילות בית הספר. המשטרה טוענת שזה הוביל לאיומים על אייזוורט ולחששות לגבי שלומו.
אייזוורט אמר לחוקרים כי הוא מאמין שקטע האודיו היה מזויף מכיוון ש"מעולם לא היו לו שיחות בהקלטה". והוא אמר שהוא מאמין שדריאן אחראי בשל ההיכרות הטכנית שלו עם בינה מלאכותית ויש לו מניע אפשרי: אייסוורט אמר ש"היו שיחות עם דאריין על כך שהחוזה שלו לא יחודש בסמסטר הבא בגלל אתגרי ביצועי עבודה תכופים."
אתגרים אלה מתוארים במונחים ספציפיים יותר בצו. תקרית אחת כללה את נזיפה של אייסוורט בדאריאן על פיטורי מאמן ותיק ללא אישור.
אחר הוא שאייזוורט חקר את הטיפול של דריין בכספי בית הספר. "בדצמבר 2023, דאריין היה נושא לחקירת גניבה אפשרית [Eiswert] שנפתחה", נכתב בצו. מכאן, אישום תגמול העד.
הצד השני שנשמע בהקלטה אמר לחוקרים שהשיחה לא התקיימה ואמר שהדברים לא נשמעים כמו משהו שאייסוורט היה אומר.
ראיונות עם דריין ושותפיו בבית הספר מראים שהקובץ נשלח לכתובות של בית הספר הציבורי במחוז בולטימור מחשבון Gmail, TJFOUST9. אחד האנשים שרואיינו ציין שדריאן "הפצירה בה לבדוק בחשבון האימייל שלה BCPS אם יש הודעה 'מוזרה'".
לאחר מכן, איש צוות אחר – ש"היה לו קשה לעבוד תחת הנהגתו של [אייסוורט] מסיבות שונות" – חשפה כי היא העבירה את המייל לטלפון סלולרי של תלמיד PHS, שידעה שיפיץ במהירות את המסר בכלי מדיה חברתית שונים ובכל רחבי העולם. בית הספר." זימון לחשבון הדוא"ל הקודם שלה באוניברסיטה הצביע על כך שהקובץ הועבר לארגוני חדשות ול-NAACP.
במהלך הראיון הראשוני שלו עם החוקרים, דאריין הכחיש שהכיר מישהו בשם "TJ Foust" והכחיש כל מעורבות ביצירה והפצה של ההקלטה.
תאשים את הסבתא
לאחר מכן, החוקרים שלחו זימונים לגוגל ול-AT&T כדי לקבל מידע בעלות על חשבון ופרטי כתובת IP. הם קבעו שכתובת הג'ימייל נוצרה ב-15 באוגוסט 2022 בכתובת IP הקשורה למגורים של סבתו של דאריין בלוס אנג'לס. עוד הם גילו שמספר הטלפון לשחזור חשבון TJFOUST9 היה משויך לחשבון T-Mobile US הרשום לדריאן.
כלי הבינה המלאכותית הספציפיים שבהם השתמשו לכאורה על ידי דאריין לא נחשפו. עם זאת, הצו מציין שמשרד BCPS לטכנולוגיית מידע בדק את הגישה לרשת של דאריין ומצא מספר מקרים שבהם הוא חיפש כלים של OpenAI באמצעות Bing Chat.
אנחנו נכנסים לגבול חדש שמדאיג אותנו עמוקות
OpenAI Voice Engine, כלי ליצירת קולות סינתטיים, לא היה זמין לציבור בזמן הפשעים לכאורה. זה היה הודיע ב-29 במרץ 2024. עם זאת, חברות אחרות אוהבות ElevenLabs מציעים טכנולוגיית שיבוט קול כבר זמן רב יותר.
במהלך מסיבת העיתונאים קרא ג'ון אולשבסקי, מנהל מחוז בולטימור, לנקוט משנה זהירות בכל הקשור לתקשורת הציבורית.
"ברור שאנחנו גם נכנסים לגבול חדש ומדאיג כשאנחנו ממשיכים לאמץ את הטכנולוגיה המתפתחת ואת הפוטנציאל שלה לחדשנות ולטובות חברתיות", אמר.
"עלינו גם לשמור על ערנות כלפי מי שהיו משתמשים בו למטרות זדון. זה ידרוש מאיתנו להיות מודעים יותר ובעלי אבחנה רבה יותר לגבי האודיו שאנו שומעים והתמונות שאנו רואים. נצטרך להיות זהירים בשיפוט שלנו". ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoData.Network Vertical Generative Ai. העצים את עצמך. גישה כאן.
- PlatoAiStream. Web3 Intelligence. הידע מוגבר. גישה כאן.
- PlatoESG. פחמן, קלינטק, אנרגיה, סביבה, שמש, ניהול פסולת. גישה כאן.
- PlatoHealth. מודיעין ביוטכנולוגיה וניסויים קליניים. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2024/04/25/ai_voice_arrest/
