OpenAI ถูกฟ้อง หลัง ChatGPT ให้คำแนะนำสุขภาพจนเกือบคร่าชีวิตบาทหลวง
OpenAI กำลังเผชิญคดีความใหม่จากกรณีที่มีการอ้างว่า ChatGPT ให้คำแนะนำด้านสุขภาพที่อันตรายอย่างยิ่ง จนเกือบทำให้บาทหลวงรายหนึ่งเสียชีวิต โดยประเด็นหลักของคดีคือคำแนะนำที่เกี่ยวข้องกับภาวะลิ่มเลือดอุดตันในปอด ซึ่งเป็นอาการฉุกเฉินที่ต้องได้รับการดูแลทางการแพทย์อย่างเร่งด่วน แต่กลับถูกกล่าวหาว่าระบบตอบในลักษณะที่ชี้นำผิดและอาจทำให้ผู้ใช้เข้าใจสถานการณ์ผิดไปจากความเป็นจริง
เหตุการณ์นี้สะท้อนความเสี่ยงของการใช้แชตบอต AI เพื่อขอคำแนะนำด้านสุขภาพโดยไม่มีการกำกับที่เหมาะสม แม้เครื่องมืออย่าง ChatGPT จะถูกใช้อย่างกว้างขวางเพื่อค้นหาข้อมูลทั่วไป แต่กรณีนี้ชี้ให้เห็นว่าคำตอบที่ดูมั่นใจอาจสร้างอันตรายได้หากไปทับซ้อนกับอาการฉุกเฉินทางการแพทย์ โดยเฉพาะเมื่อผู้ใช้เชื่อถือผลลัพธ์ของโมเดลมากกว่าการพบแพทย์
คดีดังกล่าวจึงมีนัยสำคัญต่อทั้ง OpenAI และอุตสาหกรรม AI โดยรวม เพราะตอกย้ำคำถามเรื่องความรับผิดชอบของผู้พัฒนาเมื่อระบบตอบสนองผิดพลาดในหัวข้อที่มีความเสี่ยงสูง เช่น สุขภาพ การเงิน หรือกฎหมาย ขณะเดียวกันยังเพิ่มแรงกดดันให้บริษัท AI ต้องปรับปรุงมาตรการป้องกัน ลดการตอบแบบชี้นำ และทำให้ผู้ใช้รับรู้ข้อจำกัดของระบบได้ชัดเจนยิ่งขึ้น
สำหรับผู้ใช้ทั่วไป กรณีนี้เป็นอีกหนึ่งเครื่องเตือนว่า AI ไม่ควรถูกใช้แทนคำวินิจฉัยจากบุคลากรทางการแพทย์ โดยเฉพาะในภาวะที่มีอาการรุนแรงหรืออาจคุกคามชีวิต การตัดสินใจที่ปลอดภัยที่สุดยังคงเป็นการขอความช่วยเหลือจากแพทย์หรือหน่วยฉุกเฉินโดยตรง มากกว่าพึ่งพาการตอบของแชตบอตเพียงอย่างเดียว
