Національна асоціація розладів харчової поведінки (NEDA) видалила свій чат-бот Tessa за роздачу людям поганих порад.

У повідомленні, яке зараз поширюється, Шерон Максвелл сказала, що поради Тесси щодо безпечного одужання від розладу харчової поведінки прямо суперечать медичним рекомендаціям. Американський некомерційний бот порекомендував Максвелл рахувати калорії, щотижня зважуватися і навіть підказав, де купити шкірні штангенциркулі для вимірювання жиру в організмі.

Насправді безпечне відновлення — це a багатоетапний процес це включає споглядання, співчуття та прийняття; психотерапія; план лікування, складений лікарями; зняття тригерів; невелика або повна відсутність уваги до ваги та зовнішнього вигляду; і постійні зусилля, щоб уникнути рецидиву. Підрахунок калорій і вимірювання жиру в організмі здавалося б протилежним всьому або більшій частині цього.

«Усе, що запропонувала Тесса, призвело до розвитку мого розладу харчової поведінки», — Максвелл, яка описує себе як активістку з питань жиру та консультанта з питань ваги, сказав в Instagram. «Цей робот завдає шкоди».

NEDA підтвердила, що вимкнула Tessa та досліджує результати програмного забезпечення. В заяву, організація заявила у вівторок: «Минулого вечора ми дізналися, що поточна версія чат-бота Tessa, який запускає програму Body Positive, могла надавати інформацію, яка була шкідливою та не пов’язаною з програмою».

Замінити м'ясистих порушників порядку?

Переосмислення сумнівних автоматизованих консультацій відбувається саме тоді, коли тимчасовий генеральний директор NEDA Елізабет Томпсон як повідомляється, вирішив замінити телефонну лінію асоціації, керовану людьми, на чат-бота з 1 червня.

Справа не в чат-боті. Це просто і зрозуміло про розрив профспілок

Еббі Гарпер, яка як співробітник NEDA допомогла створити профспілку Helpline Associates United (HAU), яка представляє персонал некомерційної організації, стверджувала, що рішення закрити лінію допомоги, відмовитися від її співробітників і замінити їх програмним забезпеченням було помстою за об’єднання в профспілку.

«NEDA стверджує, що це була довгоочікувана зміна, і що штучний інтелект може краще обслуговувати людей з розладами харчової поведінки. Але не обманюйте себе — це насправді не про чат-бота. Це просто і зрозуміло про розрив профспілок», – сказала вона стверджував,.

Харпер сказала, що її випустили з асоціації разом із трьома іншими колегами через чотири дні після того, як вони об’єдналися в профспілку в березні. Зрозуміло, що їм сказали, що їхні ролі не будуть усунені до червня, коли закриється телефонна лінія допомоги, яка існувала десятиліттями. За її словами, HAU місяцями намагалася домовитися з NEDA, але нічого не досягла. 

Група подала петицію про покращення умов праці та не вимагала підвищення зарплати, намагаючись переконати асоціацію добровільно визнати групу минулого року. HAU, який приєднався до Профспілки працівників зв’язку Америки, подав скарги на несправедливу трудову практику до NLRB, контролюючого органу США. 

«Ми плануємо продовжувати боротьбу. Хоча ми можемо пригадати багато випадків, коли технології можуть принести нам користь у нашій роботі на гарячій лінії, ми не дозволимо нашим босам використовувати чат-бота, щоб позбутися нашої профспілки та наших робочих місць. Підтримка, яка випливає із співпереживання та розуміння, може виходити лише від людей», – сказав Харпер. 

Томпсон, однак, сказав Реєстр що заяви, що NEDA замінить свою службу довіри на чат-бота, були неправдивими. За її словами, гарячу лінію просто закрили з «ділових причин», а не замінили програмною службою або в результаті профспілкової діяльності. Томпсон стверджував, що «Тесса» — це окремий проект, який може бути відновлений після цієї катастрофи.

«Виникла невелика плутанина, яка почалася через змішані повідомлення про те, що Тесса замінить нашу лінію довіри або що ми мали намір, щоб вона замінила лінію довіри», — сказав нам тимчасовий виконавчий директор.

«Це просто неправда. Чат-бот, навіть інтуїтивно зрозуміла програма, не може замінити спілкування людей. У нас були комерційні причини закрити лінію довіри, і ми тривали в процесі оцінки.

«Ми розглядаємо Tessa, програму, яку ми запускаємо на нашому веб-сайті з лютого 2022 року, як зовсім іншу програму та варіант. Нам шкода, що сенсаційні події замінили факти щодо того, що Тесса може зробити, що вона має робити та що буде робити в майбутньому».

"перехід"

Майте на увазі, що NPR публікувався минулого тижня радіотвір який включав запис, отриманий під час віртуальної зустрічі наприкінці березня, під час якої співробітники служби довіри NEDA були звільнені.

Джефф Креддок, голова правління NEDA, сказав колегам: «Ми, згідно з умовами наших юридичних обов’язків, [почнемо] згортати лінію довіри, яка зараз працює… з переходом на Tessa, технологію, що підтримує штучний інтелект. приблизно 1 червня».

На нашу думку, здається, що NEDA припинила роботу своїх працівників і телефонної лінії довіри, залишивши її з Тесою, яка була плавно запущена рік тому. Настав час Тесси сяяти, і в руках публіки він розбомбив. У березні некомерційна організація повідомила співробітникам, що програмне забезпечення замінює їх, і тепер стверджує, що програма є лише альтернативним джерелом інформації, яке не може замінити людей.

НЕДА раніше сказав він буде спрямований на технології з підтримкою штучного інтелекту, оскільки відповідальність за роботу лінії довіри, з тими, хто телефонує все частіше суїцидальними або страждає від медичної кризи, була занадто великою, і що використання послуги різко зросло після пандемії. Через це на цьому тижні гарячу лінію припинили роботу.

Томпсон описав Tessa як «алгоритмічну програму» і сказав нам, що це не «високофункціональна система ШІ», як ChatGPT.

Чат-бот був розроблений для вирішення проблем, пов’язаних із негативним образом тіла, і розпочався як дослідницький проект, фінансований NEDA у 2018 році; його розробила та розмістила X2AI, компанія, що розробляє та розгортає чат-ботів для психічного здоров’я. Кажуть, що до створення бота долучилися експерти з розладів харчової поведінки.

Така мова суперечить нашій політиці та основним переконанням організації, що займається розладами харчової поведінки

«Тесса проходила суворе тестування протягом кількох років. У 2021 році а дипломну роботу було опубліковано під назвою «Ефективність чат-бота для профілактики розладів харчової поведінки: рандомізоване клінічне дослідження». У цьому дослідженні взяли участь 700 учасників, які довели, що система корисна та безпечна. У NEDA ми б не мали спокійного запуску Tessa без цього дослідження бекенда», — сказав Томпсон.

Головний бос визнав, що її асоціація була занепокоєна порадами Тесси щодо схуднення та обмеження калорій, і досліджує проблему далі.

«Така мова суперечить нашій політиці та основним переконанням організації, що займається розладами харчової поведінки», — сказала вона нам. NEDA, незважаючи на це, не відмовляється повністю від чат-ботів і планує повернути Тессу в Інтернет у майбутньому.

«Ми продовжимо працювати над помилками і не будемо перезапускати, доки все не виправимо. Коли ми зробимо запуск, ми також висвітлимо, чим є Tessa, чим не є Tessa, і як максимізувати взаємодію з користувачем», — підтвердила вона.

Реєстр звернувся до Максвелла та Харпера за подальшими коментарями. ®

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoAiStream. Web3 Data Intelligence. Розширення знань. Доступ тут.
• Карбування майбутнього з Адріенн Ешлі. Доступ тут.
• Купуйте та продавайте акції компаній, які вийшли на IPO, за допомогою PREIPO®. Доступ тут.
• джерело: https://go.theregister.com/feed/www.theregister.com/2023/05/31/ai_chatbot_eating_union/