全国饮食失调协会 (NEDA) 已关闭其 Tessa 聊天机器人，因为它向人们提供了错误的建议。
莎伦·麦克斯韦 (Sharon Maxwell) 在一篇现在广为流传的帖子中说，泰莎 (Tessa) 关于从饮食失调中安全康复的建议直接反对医疗指导。 这家美国非营利组织的机器人建议 Maxwell 计算卡路里、每周称体重，甚至建议在哪里购买皮肤卡尺来测量体脂。
实际上，安全恢复是 多阶段过程 这包括沉思、同情和接受； 心理治疗; 医生制定的治疗计划； 移除触发器； 很少或根本不关注体重和外表； 以及为避免复发而进行的持续努力。 计算卡路里和测量身体脂肪似乎与全部或大部分相反。
“泰莎建议的每一件事都导致了我饮食失调的发展，”麦克斯韦将自己描述为肥胖活动家和体重包容性顾问， 说过 在 Instagram 上。 “这个机器人会造成伤害。”
NEDA 证实它已经关闭了 Tessa，并正在调查该软件的输出。 在一个 声明该组织周二表示：“昨晚我们注意到，运行 Body Positive 程序的当前版本的 Tessa 聊天机器人可能提供了有害且与该程序无关的信息。”
取代肉肉捣蛋鬼？
就在 NEDA 的临时首席执行官伊丽莎白·汤普森 (Elizabeth Thompson) 之际，对有问题的自动化建议进行了反思 据报道决定 从 1 月 XNUMX 日开始，用聊天机器人取代协会的人工操作热线。
这与聊天机器人无关。 这是关于破坏工会，简单明了
艾比·哈珀 (Abbie Harper) 作为 NEDA 的一名同事帮助发起了代表该非营利组织员工的工会 Helpline Associates United (HAU)，她声称关闭求助热线、抛弃人工并用软件取而代之的决定是对他们成立工会的报复。
“NEDA 声称这是一个期待已久的变化，人工智能可以更好地为饮食失调的人服务。 但不要被愚弄——这并不是真正的聊天机器人。 这是关于破坏工会，简单明了，”她 声称.
哈珀说，在 XNUMX 月份加入工会四天后，她和其他三名同事被协会解雇了。 据了解，他们被告知，他们的角色要到 XNUMX 月才会被取消，届时这条已有数十年历史的求助热线将关闭。 她说，HAU 几个月来一直试图与 NEDA 谈判，但无果而终。
该团体上访要求更好的工作条件，并没有要求加薪，试图说服该协会去年自愿承认该团体。 已加入美国通信工人工会的 HAU 现在已向美国工作场所监管机构 NLRB 投诉不公平的劳工行为。
“我们计划继续战斗。 虽然我们可以想到许多技术可以使我们在求助热线工作中受益的例子，但我们不会让我们的老板使用聊天机器人来摆脱我们的工会和我们的工作。 来自同理心和理解的支持只能来自人，”哈珀说。
然而，汤普森告诉 注册 声称 NEDA 将用聊天机器人取代其帮助热线服务的说法是不真实的。 她说，帮助热线只是出于“商业原因”而被关闭，而不是被基于软件的服务所取代，或者是工会活动的结果。 汤普森认为，Tessa 是一个独立的项目，可能会在这次崩溃后重新启动。
临时首席执行官告诉我们：“有一点混乱，从合并报告开始，Tessa 正在取代我们的求助热线，或者我们打算用它来取代求助热线。”
“很显然这不是真的。 聊天机器人，即使是高度直观的程序，也无法取代人机交互。 我们出于商业原因关闭了帮助热线，并且已经进行了三年的评估。
“我们将自 2022 年 XNUMX 月以来一直在我们网站上运行的程序 Tessa 视为一个完全不同的程序和选项。 我们很抱歉，耸人听闻的事件取代了关于泰莎能做什么、它打算做什么以及它将在未来做什么的事实。”
'过渡'
记住 NPR 上周跑 广播片 其中包括从 XNUMX 月底的一次虚拟会议中获得的录音，会议中解雇了 NEDA 热线工作人员。
可以听到 NEDA 董事会主席 Geoff Craddock 告诉同事：“根据我们的法律责任条款，我们将 [开始] 关闭目前正在运营的求助热线......过渡到 Tessa，这是预期的人工智能辅助技术1 月 XNUMX 日左右。”
在我们看来，NEDA 似乎砍掉了它的人工和求助热线，将其留给了 Tessa，这是软启动的 一年前. 现在是泰莎大放异彩的时候了，在公众的手中，它遭到了轰炸。 这家非营利组织在 XNUMX 月份向员工表示，该软件正在取代他们，现在辩称该程序只是一种替代信息来源，无法取代人。
早先的 NEDA 说过 它将转向人工智能辅助技术，因为运行求助热线的责任太大了，而那些求助者越来越有自杀倾向或遭受医疗危机，而且自大流行以来，该服务的使用量激增。 结果，求助热线本周被关闭。
Thompson 将 Tessa 描述为一个“算法程序”，并告诉我们它不是像 ChatGPT 这样的“功能强大的人工智能系统”。
该聊天机器人旨在解决负面的身体形象问题，并于 2018 年作为一项由 NEDA 资助的研究项目启动； 它由 X2AI 开发和托管，XXNUMXAI 是一家构建和部署心理健康聊天机器人的公司。 据说饮食失调专家为机器人的创造做出了贡献。
这种语言违反了我们作为饮食失调组织的政策和核心信念
“Tessa 经历了数年的严格测试。 2021年 研究报告 发表名为“聊天机器人预防饮食失调的有效性：一项随机临床试验”。 有 700 名参与者参与了这项研究，证明该系统是有用且安全的。 在 NEDA，如果没有这种后端研究，我们就不会悄悄推出 Tessa，”Thompson 说。
最高老板承认她的协会对泰莎关于减肥和卡路里限制的建议感到担忧，并正在进一步调查这个问题。
“这种语言违背了我们作为饮食失调组织的政策和核心信念，”她告诉我们。 也就是说，NEDA 并没有完全放弃聊天机器人，并计划在未来让 Tessa 重新上线。
“我们将继续解决这些漏洞，在解决所有问题之前不会重新启动。 当我们进行发布时，我们还将强调 Tessa 是什么，Tessa 不是什么，以及如何最大限度地提高用户体验，”她证实道。
注册 已要求 Maxwell 和 Harper 进一步发表评论。 ®
- SEO 支持的内容和 PR 分发。 今天得到放大。
- 柏拉图爱流。 Web3 数据智能。 知识放大。 访问这里。
- 与 Adryenn Ashley 一起铸造未来。 访问这里。
- 使用 PREIPO® 买卖 PRE-IPO 公司的股票。 访问这里。
- Sumber: https://go.theregister.com/feed/www.theregister.com/2023/05/31/ai_chatbot_eating_union/
