ความฉลาดทางข้อมูลเชิงกำเนิด

สพพ. องค์กรไม่แสวงหาผลกำไรดึงแชทบอทมาให้คำแนะนำที่ไม่ดี

วันที่:

สมาคมโรคการกินผิดปกติแห่งชาติ (NEDA) สั่งปิดแชทบอทของ Tessa เนื่องจากให้คำแนะนำที่ไม่ดีแก่ผู้คน

ในโพสต์ที่กำลังเป็นกระแสในขณะนี้ ชารอน แมกซ์เวลล์ กล่าวว่าคำแนะนำของเทสซาสำหรับการฟื้นตัวอย่างปลอดภัยจากโรคการกินนั้นขัดแย้งกับคำแนะนำทางการแพทย์โดยตรง บอทขององค์กรไม่แสวงผลกำไรในอเมริกาได้แนะนำให้ Maxwell นับแคลอรี่ ชั่งน้ำหนักตัวเองทุกสัปดาห์ และแนะนำแม้กระทั่งว่าจะซื้อเครื่องวัดเส้นผ่าศูนย์กลางผิวหนังเพื่อวัดไขมันในร่างกายได้ที่ไหน

ในความเป็นจริง การกู้คืนที่ปลอดภัยคือ กระบวนการหลายขั้นตอน ซึ่งรวมถึงการไตร่ตรอง ความเห็นอกเห็นใจ และการยอมรับ; จิตบำบัด; แผนการรักษาที่จัดทำโดยแพทย์ การกำจัดทริกเกอร์ เน้นน้ำหนักและรูปลักษณ์เพียงเล็กน้อยหรือไม่มีเลย และความพยายามอย่างต่อเนื่องเพื่อหลีกเลี่ยงการกำเริบของโรค การนับแคลอรีและการวัดไขมันในร่างกายอาจดูตรงกันข้ามกับทั้งหมดหรือส่วนใหญ่

“ทุกสิ่งที่ Tessa แนะนำคือสิ่งที่นำไปสู่การพัฒนาความผิดปกติในการกินของฉัน” Maxwell ผู้ซึ่งอธิบายตัวเองว่าเป็นนักเคลื่อนไหวเรื่องไขมันและที่ปรึกษาด้านน้ำหนัก กล่าวว่า บนอินสตาแกรม “หุ่นยนต์ตัวนี้ก่อให้เกิดอันตราย”

สพพ. ยืนยันว่าได้ปิดระบบ Tessa และกำลังตรวจสอบผลลัพธ์ของซอฟต์แวร์ ใน คำสั่งองค์กรกล่าวเมื่อวันอังคาร: "เราทราบเมื่อคืนนี้ว่า Tessa chatbot เวอร์ชันปัจจุบันซึ่งใช้งานโปรแกรม Body Positive อาจให้ข้อมูลที่เป็นอันตรายและไม่เกี่ยวข้องกับโปรแกรม"

แทนที่เจ้าเนื้อตัวแสบ?

การคิดใหม่เกี่ยวกับคำแนะนำอัตโนมัติที่น่าสงสัยนั้นเกิดขึ้นในขณะที่เอลิซาเบธ ทอมป์สัน ซีอีโอชั่วคราวของ NEDA ได้ข่าวว่าตัดสินใจ เพื่อแทนที่สายด่วนที่ดำเนินการโดยมนุษย์ของสมาคมด้วยแชทบอท เริ่มตั้งแต่วันที่ 1 มิถุนายน

นี่ไม่ได้เกี่ยวกับแชทบอทจริงๆ นี่เป็นเรื่องของการแตกแยกของสหภาพแรงงาน ธรรมดาและเรียบง่าย

Abbie Harper ซึ่งในฐานะผู้ร่วมงานของ NEDA ได้ช่วยเปิดตัว Helpline Associates United (HAU) ซึ่งเป็นสหภาพแรงงานที่เป็นตัวแทนของพนักงานในองค์กรไม่แสวงหาผลกำไร โดยกล่าวหาว่าการตัดสินใจปิดสายด่วน เลิกจ้างพนักงาน และแทนที่ด้วยซอฟต์แวร์เป็นการตอบโต้การรวมเป็นสหภาพของพวกเขา

“สพพ. อ้างว่านี่เป็นการเปลี่ยนแปลงที่คาดหวังมานาน และ AI สามารถให้บริการผู้ที่มีความผิดปกติในการรับประทานอาหารได้ดีขึ้น แต่อย่าหลงกล — นี่ไม่ได้เกี่ยวกับแชทบอทจริงๆ นี่เป็นเรื่องเกี่ยวกับการทำลายสหภาพแรงงาน ธรรมดาและเรียบง่าย” เธอ อ้างว่า.

ฮาร์เปอร์กล่าวว่าเธอถูกให้ออกจากสมาคมพร้อมกับเพื่อนร่วมงานอีกสามคน สี่วันหลังจากที่พวกเขารวมตัวกันในเดือนมีนาคม เป็นที่เข้าใจกันว่าพวกเขาได้รับแจ้งว่าบทบาทของพวกเขาจะไม่ถูกกำจัดจนกว่าจะถึงเดือนมิถุนายน เมื่อสายด่วนอายุหลายสิบปีจะปิดลง HAU ได้พยายามเจรจากับ NEDA เป็นเวลาหลายเดือนและไม่สามารถบรรลุผลได้ เธอกล่าว 

กลุ่มยื่นคำร้องขอสภาพการทำงานที่ดีขึ้น และไม่ได้ขอขึ้นเงินเดือนเพื่อพยายามเกลี้ยกล่อมให้สมาคมยอมรับกลุ่มดังกล่าวโดยสมัครใจเมื่อปีที่แล้ว HAU ซึ่งเข้าร่วม Communications Workers of America Union ได้ยื่นเรื่องร้องเรียนเกี่ยวกับการปฏิบัติด้านแรงงานที่ไม่เป็นธรรมกับ NLRB ซึ่งเป็นหน่วยงานเฝ้าระวังสถานที่ทำงานของสหรัฐฯ 

“เราวางแผนที่จะต่อสู้ต่อไป ในขณะที่เราสามารถนึกถึงหลายๆ กรณีที่เทคโนโลยีสามารถให้ประโยชน์แก่เราในการทำงานของเราบน Helpline เราจะไม่ปล่อยให้หัวหน้าของเราใช้แชทบอทเพื่อกำจัดสหภาพแรงงานและงานของเรา การสนับสนุนที่มาจากความเห็นอกเห็นใจและความเข้าใจต้องมาจากผู้คนเท่านั้น” ฮาร์เปอร์กล่าว 

อย่างไรก็ตามทอมป์สันบอก ลงทะเบียน ที่อ้างว่า สพพ. จะเปลี่ยนบริการสายด่วนด้วยแชทบอทนั้นไม่เป็นความจริง เธอกล่าวว่าสายด่วนถูกปิดเพียงเพราะ “เหตุผลทางธุรกิจ” แทนที่จะถูกแทนที่ด้วยบริการที่ใช้ซอฟต์แวร์หรือเป็นผลมาจากกิจกรรมของสหภาพแรงงาน Tessa, Thompson แย้งว่าเป็นโครงการแยกต่างหากที่อาจเปิดใช้ใหม่หลังจากเหตุการณ์น้ำท่วมครั้งนี้

“มีความสับสนเล็กน้อย เริ่มต้นจากการรายงานที่สับสนว่า Tessa กำลังเข้ามาแทนที่สายด่วนช่วยเหลือของเรา หรือตั้งใจว่าจะแทนที่สายด่วนช่วยเหลือ” หัวหน้าผู้บริหารชั่วคราวกล่าวกับเรา

“นั่นไม่เป็นความจริงเลย แชทบอทแม้จะเป็นโปรแกรมที่ใช้งานง่าย ก็ไม่สามารถแทนที่การโต้ตอบของมนุษย์ได้ เรามีเหตุผลทางธุรกิจในการปิดสายด่วนและอยู่ในขั้นตอนการประเมินดังกล่าวเป็นเวลาสามปี

“เราเห็น Tessa ซึ่งเป็นโปรแกรมที่เราใช้งานบนเว็บไซต์ของเราตั้งแต่เดือนกุมภาพันธ์ 2022 เป็นโปรแกรมและตัวเลือกที่แตกต่างไปจากเดิมอย่างสิ้นเชิง เราเสียใจที่เหตุการณ์ที่น่าตื่นเต้นเข้ามาแทนที่ข้อเท็จจริงเกี่ยวกับสิ่งที่ Tessa สามารถทำอะไรได้ สิ่งที่ควรทำ และสิ่งที่จะทำในอนาคต”

'การเปลี่ยนแปลง'

จำไว้ว่า NPR เมื่อสัปดาห์ที่แล้ววิ่ง ชิ้นวิทยุ ซึ่งรวมถึงบันทึกที่ได้จากการประชุมเสมือนเมื่อปลายเดือนมีนาคมซึ่งเจ้าหน้าที่สายด่วน สพพ. ถูกปล่อยตัว

ได้ยินว่า Geoff Craddock ประธานคณะกรรมการของ NEDA บอกกับเพื่อนร่วมงานว่า “เราจะ [เริ่ม] ยุติสายด่วนที่ดำเนินการอยู่ในปัจจุบัน ภายใต้เงื่อนไขของความรับผิดชอบทางกฎหมายของเรา โดยการเปลี่ยนไปใช้ Tessa ซึ่งเป็นเทคโนโลยีที่ AI ช่วยคาดหวัง ประมาณวันที่ 1 มิถุนายน”

สำหรับเราแล้ว ดูเหมือนว่า NEDA จะตัดขาดพนักงานและสายด่วน ทิ้งไว้กับ Tessa ซึ่งเปิดตัวอย่างไม่เป็นทางการ เมื่อปีก่อน. ตอนนี้เป็นเวลาของ Tessa ที่จะฉายแสง และในมือของสาธารณชน มันก็ระเบิด องค์กรไม่แสวงผลกำไรระบุต่อพนักงานในเดือนมีนาคมว่าซอฟต์แวร์กำลังแทนที่พวกเขา และตอนนี้โต้แย้งว่าโปรแกรมนี้เป็นเพียงแหล่งข้อมูลทางเลือกที่ไม่สามารถแทนที่ผู้คนได้

สพพ.ไปก่อนหน้านี้ กล่าวว่า มันจะหันไปใช้เทคโนโลยีที่ช่วยเหลือด้วย AI เนื่องจากภาระความรับผิดชอบในการเรียกใช้สายด่วนที่โทรเข้ามาฆ่าตัวตายมากขึ้นหรือประสบกับวิกฤตทางการแพทย์นั้นมากเกินไป และการใช้บริการก็เพิ่มขึ้นตั้งแต่เกิดโรคระบาด เป็นผลให้สายด่วนถูกปิดลงในสัปดาห์นี้

Thompson อธิบายว่า Tessa เป็น "โปรแกรมอัลกอริทึม" และบอกเราว่าไม่ใช่ "ระบบ AI ที่ใช้งานได้สูง" เหมือน ChatGPT

แชทบอทได้รับการออกแบบมาเพื่อจัดการกับปัญหาภาพลักษณ์เชิงลบ และเริ่มเป็นโครงการวิจัยที่ได้รับทุนสนับสนุนจาก สพพ. ในปี 2018 ได้รับการพัฒนาและโฮสต์โดย X2AI ซึ่งเป็นบริษัทที่สร้างและปรับใช้แชทบอทด้านสุขภาพจิต กล่าวกันว่าผู้เชี่ยวชาญด้านความผิดปกติของการรับประทานอาหารมีส่วนในการสร้างบอท

ภาษานั้นขัดต่อนโยบายและความเชื่อหลักของเราในฐานะองค์กรที่ควบคุมความผิดปกติในการรับประทานอาหาร

“Tessa ผ่านการทดสอบอย่างเข้มงวดเป็นเวลาหลายปี ในปี 2021 ก รายงานการวิจัย ได้รับการตีพิมพ์ชื่อว่า 'ประสิทธิภาพของแชทบอทสำหรับการป้องกันความผิดปกติของการกิน: การทดลองทางคลินิกแบบสุ่ม”' มีผู้เข้าร่วม 700 คนที่เข้าร่วมในการศึกษานี้ซึ่งพิสูจน์ว่าระบบมีประโยชน์และปลอดภัย ที่ NEDA เราคงไม่มีการเปิดตัว Tessa อย่างเงียบ ๆ หากไม่มีการวิจัยแบ็กเอนด์นี้” ทอมป์สันกล่าว

ผู้บริหารสูงสุดยอมรับว่าสมาคมของเธอกังวลเกี่ยวกับคำแนะนำของ Tessa เกี่ยวกับการลดน้ำหนักและการจำกัดแคลอรี่ และกำลังตรวจสอบปัญหานี้ต่อไป

“คำพูดนั้นขัดต่อนโยบายและความเชื่อหลักของเราในฐานะองค์กรที่ควบคุมความผิดปกติของการรับประทานอาหาร” เธอบอกกับเราว่า ที่กล่าวว่า NEDA ยังไม่เลิกใช้แชทบอทโดยสิ้นเชิงและวางแผนที่จะนำ Tessa กลับมาออนไลน์ในอนาคต

“เราจะดำเนินการแก้ไขบั๊กต่อไปและจะไม่เปิดใช้ใหม่จนกว่าเราจะจัดการทุกอย่างให้เรียบร้อย เมื่อเราเปิดตัว เราจะเน้นด้วยว่า Tessa คืออะไร สิ่งที่ Tessa ไม่ใช่ และจะเพิ่มประสบการณ์ผู้ใช้ให้สูงสุดได้อย่างไร” เธอยืนยัน

ลงทะเบียน ได้ถาม Maxwell และ Harper สำหรับความคิดเห็นเพิ่มเติม ®

จุด_img

ข่าวกรองล่าสุด

จุด_img

แชทกับเรา

สวัสดี! ฉันจะช่วยคุณได้อย่างไร?