האגודה הלאומית להפרעות אכילה (NEDA) הסירה את הצ'אטבוט של טסה בגלל מתן עצות רעות לאנשים.
בפוסט שעכשיו ויראלי, שרון מקסוול אמרה שהעצה של טסה להחלמה בטוחה מהפרעת אכילה מנוגדת ישירות להנחיות רפואיות. הבוט של העמותה האמריקאית המליץ על מקסוול לספור קלוריות, לשקול את עצמה מדי שבוע, ואפילו הציע היכן לקנות קליפרים לעור למדידת שומן בגוף.
במציאות, החלמה בטוחה היא א תהליך רב שלבי שכולל התבוננות, חמלה וקבלה; פסיכותרפיה; תכנית טיפול שהופקה על ידי רופאים; הסרת טריגרים; התמקדות מועטה או לא במשקל ובמראה; ומאמצים מתמשכים למנוע הישנות. ספירת קלוריות ומדידת שומן בגוף ייראה מנוגד לכל זה או לרוב זה.
"כל דבר שטסה הציעה היו דברים שהובילו להתפתחות הפרעת האכילה שלי", מקסוול, שמתארת את עצמה כאקטיביסטית שמנה ויועצת הכוללת משקל, אמר באינסטגרם. "הרובוט הזה גורם נזק."
NEDA אישרה כי סגרה את טסה וחקרה את הפלט של התוכנה. ב הצהרה, הארגון אמר ביום שלישי: "הגיע לידיעתנו אמש שייתכן שהגרסה הנוכחית של הצ'אטבוט טסה, המריץ את התוכנית Body Positive, סיפקה מידע שהיה מזיק ולא קשור לתוכנית."
להחליף את עושי הצרות הבשרניים?
החשיבה המחודשת על עצות אוטומטיות מפוקפקות מגיעה בדיוק כמו המנכ"לית הזמנית של NEDA, אליזבת תומפסון לפי הדיווחים החליטו להחליף את קו הסיוע המופעל על ידי האגודה בצ'אטבוט החל מה-1 ביוני.
זה לא באמת קשור לצ'אטבוט. מדובר בקריסת איגוד, פשוט ופשוט
אבי הרפר - שכשותפה ל-NEDA סייעה להשיק את Helpline Associates United (HAU), איגוד המייצג צוות בעמותה - טענה כי ההחלטה לסגור את קו הסיוע, לעזוב את בני האדם ולהחליפם בתוכנה הייתה נקמה נגד ההתאגדות שלהם.
"NEDA טוענת שזה היה שינוי שציפו לו זמן רב וש-AI יכול לשרת טוב יותר את הסובלים מהפרעות אכילה. אבל אל תלך שולל - זה לא באמת קשור לצ'אטבוט. מדובר בקריסת איגוד, פשוט ופשוט", היא נתבע.
הארפר אמרה שהיא שוחררה מהאגודה, יחד עם שלושה עמיתים נוספים, ארבעה ימים לאחר שהתאחדו במרץ. מובן שנאמר להם שהתפקידים שלהם לא יבוטלו עד יוני, אז ייסגר קו הסיוע בן עשרות השנים. ה-HAU ניסתה לנהל משא ומתן עם NEDA במשך חודשים, ולא הצליחה להגיע לשום מקום, אמרה.
הקבוצה עתרה לשיפור תנאי העבודה, ולא ביקשה העלאת שכר בניסיון לשכנע את העמותה להכיר מרצון בקבוצה בשנה שעברה. ה-HAU, שהצטרפה ל-Communications Workers of America Union, הגישה כעת תלונות בטענה לנהלי עבודה בלתי הוגנים ל-NLRB, כלב השמירה של ארה"ב במקום העבודה.
"אנחנו מתכננים להמשיך להילחם. למרות שאנו יכולים לחשוב על מקרים רבים שבהם הטכנולוגיה יכולה להועיל לנו בעבודה שלנו על קו הסיוע, אנחנו לא מתכוונים לתת לבוסים שלנו להשתמש בצ'אט בוט כדי להיפטר מהאיגוד שלנו ומהעבודות שלנו. התמיכה שמגיעה מאמפתיה והבנה יכולה להגיע רק מאנשים", אמר הרפר.
תומפסון, לעומת זאת, אמר הקופה הטענה שה-NEDA יחליף את שירות קו הסיוע שלו בצ'אט בוט היו לא נכונות. לדבריה, קו הסיוע פשוט נסגר מסיבות עסקיות, בניגוד להחלפה בשירות מבוסס תוכנה או כתוצאה מפעילות איגודית. טסה, טען תומפסון, הוא פרויקט נפרד שעשוי להיות מופעל מחדש בעקבות המחדל הזה.
"יש קצת בלבול, שהתחיל בדיווח מבולבל, שטסה מחליף את קו הסיוע שלנו או שהתכוונו שהוא יחליף את קו הסיוע", אמר לנו המנכ"ל הזמני.
"זה פשוט לא נכון. צ'אטבוט, אפילו תוכנית אינטואיטיבית ביותר, לא יכול להחליף אינטראקציה אנושית. היו לנו סיבות עסקיות לסגירת קו הסיוע והיינו בתהליך של הערכה זו במשך שלוש שנים.
"אנחנו רואים בטסה, תוכנית שאנחנו מריצים באתר שלנו מאז פברואר 2022, כתוכנית ואפשרות אחרת לגמרי. אנו מצטערים שאירועים מעוררי סנסציה החליפו עובדות לגבי מה טסה יכולה לעשות, מה היא אמורה לעשות ומה היא תעשה בעתיד".
'מַעֲבָר'
זכור NPR בשבוע שעבר רץ קטע רדיו שכללה הקלטה שהתקבלה מפגישה וירטואלית בסוף מרץ בה שוחררו צוות קו הסיוע של NEDA.
ניתן לשמוע את ג'ף קראדוק, יו"ר מועצת המנהלים של NEDA אומר למקורבים: "אנו, בכפוף לתנאי האחריות המשפטית שלנו, [נתחיל] לסיים את קו הסיוע כפי שפועל כעת... עם מעבר לטסה, הטכנולוגיה הנעזרת בבינה מלאכותית הצפויה בסביבות ה-1 ביוני."
לנו, נראה ש-NEDA ביטלה את העובדים האנושיים ואת קו הסיוע שלה, והשאירה אותו עם טסה, שהושקה ברכות לפני שנה. זה היה עתה הזמן של טסה לזרוח, ובידי הציבור היא הפציצה. העמותה ציינה לעובדים במרץ שהתוכנה מחליפה אותם, ועכשיו טוענת שהתוכנית היא במקום זאת רק מקור מידע חלופי שאינו יכול להחליף אנשים.
NEDA מוקדם יותר אמר זה יפנה לטכנולוגיה הנעזרת בבינה מלאכותית מכיוון שהאחריות של הפעלת קו סיוע, עם אלו שמתקשרים מתאבדים יותר ויותר או סובלים ממשבר רפואי, הייתה גדולה מדי, ושהשימוש בשירות גובר מאז המגיפה. כתוצאה מכך, קו הסיוע הושבת השבוע.
תומפסון תיאר את טסה כ"תוכנית אלגוריתמית" ואמר לנו שזו לא "מערכת בינה מלאכותית מתפקדת במיוחד" כמו ChatGPT.
הצ'טבוט תוכנן להתמודד עם בעיות של דימוי גוף שלילי, והחל כפרויקט מחקר שמומן על ידי NEDA ב-2018; הוא פותח ומתארח על ידי X2AI, חברה הבונה ופורסת צ'אטבוטים לבריאות הנפש. אומרים שמומחי הפרעות אכילה תרמו ליצירת הבוט.
השפה הזו מנוגדת למדיניות ולאמונות הליבה שלנו כארגון הפרעות אכילה
"טסה עברה בדיקות קפדניות במשך מספר שנים. בשנת 2021 א עבודת מחקר פורסם בשם 'היעילות של צ'טבוט למניעת הפרעות אכילה: ניסוי קליני אקראי''. היו 700 משתתפים שהשתתפו במחקר זה שהוכיח שהמערכת מועילה ובטוחה. ב-NEDA, לא הייתה לנו השקה שקטה של Tessa ללא מחקר הקצה הזה", אמר תומפסון.
הבוסית הבכירה הודתה שהעמותה שלה מודאגת מהעצה של טסה לגבי ירידה במשקל והגבלת קלוריות, וחוקרת את הנושא עוד יותר.
"השפה הזאת מנוגדת למדיניות ולאמונות הליבה שלנו כארגון הפרעות אכילה", היא אמרה לנו. NEDA, כאמור, לא מוותרת לחלוטין על צ'אטבוטים ומתכננת להחזיר את טסה לאינטרנט בעתיד.
"אנחנו נמשיך לעבוד על הבאגים ולא נשיק מחדש עד שהכל יגוהץ. כאשר נעשה את ההשקה, נדגיש גם מה זה טסה, מה זה לא, וכיצד למקסם את חווית המשתמש", היא אישרה.
הקופה ביקש מקסוול והארפר תגובה נוספת. ®
- הפצת תוכן ויחסי ציבור מופעל על ידי SEO. קבל הגברה היום.
- PlatoAiStream. Web3 Data Intelligence. הידע מוגבר. גישה כאן.
- הטבעת העתיד עם אדריאן אשלי. גישה כאן.
- קנה ומכירה של מניות בחברות PRE-IPO עם PREIPO®. גישה כאן.
- מקור: https://go.theregister.com/feed/www.theregister.com/2023/05/31/ai_chatbot_eating_union/
