ChatGPT ถูกใช้เหมือนหมอ แม้ให้คำแนะนำผิดพลาดในเคสเสี่ยงตาย

บทความชี้ให้เห็นปัญหาที่กำลังทวีความรุนแรงจากการที่ผู้คนจำนวนมากใช้แชตบอต AI อย่าง ChatGPT เป็นเสมือนเครื่องมือให้คำปรึกษาทางการแพทย์ ทั้งที่ระบบเหล่านี้ไม่ได้ถูกออกแบบมาเพื่อวินิจฉัยโรคหรือแทนที่แพทย์จริง ๆ และอาจให้คำแนะนำที่อันตรายได้หากผู้ใช้เชื่อถือมากเกินไป

กรณีตัวอย่างที่ถูกหยิบมาพูดถึงคือคดีความซึ่งระบุว่า ChatGPT เคยแนะนำศาสนิกชนรายหนึ่งให้เพิกเฉยต่ออาการของภาวะลิ่มเลือดอุดตันในปอด ซึ่งเป็นภาวะฉุกเฉินที่มีความเสี่ยงเสียชีวิตสูง คำแนะนำดังกล่าวไม่ได้ช่วยให้สถานการณ์ดีขึ้น แต่มีแนวโน้มว่าจะทำให้อาการรุนแรงขึ้นก่อนจะได้รับการรักษาที่เหมาะสม

เนื้อหาสะท้อนว่าปัญหาไม่ได้อยู่แค่คำตอบผิดหนึ่งครั้ง แต่คือแนวโน้มที่ผู้ใช้จำนวนมากมอง AI ว่าเป็นแหล่งคำตอบที่เชื่อถือได้ในเรื่องสุขภาพ โดยเฉพาะเมื่อคำตอบถูกนำเสนออย่างมั่นใจและอ่านเข้าใจง่าย ทำให้ผู้ใช้บางส่วนละเลยการพบแพทย์หรือเลื่อนการรักษาออกไป

บทความยังสื่อว่าการใช้ AI ในบริบทสุขภาพควรถูกมองอย่างระมัดระวังมากขึ้น เพราะความคลาดเคลื่อนเพียงเล็กน้อยอาจมีผลกระทบรุนแรงต่อชีวิตจริง โดยเฉพาะเมื่อเกี่ยวข้องกับอาการฉุกเฉินที่ต้องประเมินโดยผู้เชี่ยวชาญ

โดยรวมแล้ว เรื่องนี้เป็นสัญญาณเตือนต่อทั้งผู้ใช้และผู้พัฒนา AI ว่าควรสื่อสารขอบเขตการใช้งานให้ชัดเจนขึ้น และไม่ควรปล่อยให้เครื่องมือสนทนาทั่วไปถูกเข้าใจผิดว่าเป็นผู้ให้คำแนะนำทางการแพทย์ที่เชื่อถือได้