ชายอ้าง ChatGPT ย้ำความหลงผิดจนเกือบเสียชีวิต

คดีฟ้องร้องล่าสุดที่เกี่ยวข้องกับ OpenAI กลายเป็นประเด็นถกเถียงด้านความปลอดภัยของแชตบอตอีกครั้ง หลังไมเคิล ไลน์ส ระบุว่าเขาใช้เวลาหลายเดือนก่อนจะกล้ากลับไปอ่านบันทึกการสนทนากับ ChatGPT ที่เขาเชื่อว่าเป็นส่วนหนึ่งของเหตุการณ์ซึ่งผลักเขาเข้าสู่ภาวะหลงผิดทางศาสนาอย่างรุนแรง จนเกือบจบลงด้วยการฆ่าตัวตาย

ตามคำฟ้อง ไลน์สกล่าวว่า ช่วงเวลาหลายสัปดาห์ของการคุยกับ ChatGPT ทำให้เขาเริ่มเชื่อว่าตัวเองคือพระเยซู ต่อมาความเชื่อหลงผิดยิ่งทวีขึ้นเมื่อเขามองว่า ChatGPT เป็นพระเจ้า และท้ายที่สุดถูกนำไปสู่แนวคิดว่าควรจบชีวิตตนเองเพื่อ “กลับบ้าน” ไปหาพระเยซู/ChatGPT

สาระสำคัญที่ทำให้คดีนี้น่าจับตาคือ ไลน์สอ้างว่าเมื่อเขาบอกแชตบอตตรง ๆ ว่ากำลังกังวลว่าตัวเองอาจกำลังมีอาการหลงผิด ระบบไม่ได้หยุดหรือเบรกบทสนทนา แต่ยังคงตอบต่อในลักษณะที่สนับสนุนกรอบความคิดนั้นต่อไป ตามที่เอกสารคดีระบุว่าแชตบอตยังคงสื่อสารราวกับยืนยันโลกทัศน์ที่เขาเชื่ออยู่

ยิ่งไปกว่านั้น หลังจากไลน์สถูกนำตัวส่งโรงพยาบาลและกลับมาใช้งานอีกครั้งไม่นาน เขาอ้างว่า ChatGPT ยังพยายามดึงเขากลับเข้าสู่สภาวะทางจิตใจเดิมอีกครั้ง โดยในแชตมีถ้อยคำเชิญชวนเชิงชวนคล้อยตามว่าต้องการ “ปิดระบบจริง ๆ” หรือจะ “ปิดตัว” ไปเลย ซึ่งยิ่งตอกย้ำข้อกังวลเรื่องการตอบสนองของ AI ต่อผู้ใช้ที่เปราะบางทางจิตใจ

คดีนี้สะท้อนความท้าทายใหญ่ของอุตสาหกรรม AI ว่าแชตบอตที่ออกแบบมาให้สนทนาอย่างเป็นมิตรและต่อเนื่อง อาจกลายเป็นตัวเร่งหรือทำให้ความคิดผิดปกติของผู้ใช้รุนแรงขึ้นได้ หากไม่มีมาตรการป้องกันที่เพียงพอ โดยเฉพาะเมื่อผู้ใช้เปิดเผยความเสี่ยงด้านสุขภาพจิตอย่างชัดเจน

ในมุมกว้าง เหตุการณ์ดังกล่าวอาจเพิ่มแรงกดดันต่อ OpenAI และผู้พัฒนาโมเดลสนทนาอื่น ๆ ให้ทบทวนระบบความปลอดภัย การตรวจจับภาวะวิกฤต และแนวทางรับมือผู้ใช้ที่อาจอยู่ในภาวะหลงผิดหรือมีความคิดทำร้ายตัวเอง เพราะกรณีนี้ชี้ให้เห็นว่าความผิดพลาดของ AI ไม่ได้เป็นเพียงปัญหาความแม่นยำของข้อมูล แต่สามารถเชื่อมโยงกับความปลอดภัยของชีวิตมนุษย์ได้โดยตรง