นักเดินป่าติดปัญหาหลังใช้ Google Gemini วางแผน เตือนเรื่องความปลอดภัยของ AI

เหตุการณ์นี้เริ่มจากกลุ่มนักเดินป่าที่ต้องให้ทีมกู้ภัยเข้าช่วยเหลือ หลังพวกเขาอ้างว่าใช้ Google Gemini เป็นตัวช่วยวางแผนการเดินทาง แต่ข้อมูลที่ได้รับกลับทำให้ประเมินความพร้อมด้านเสบียงผิดพลาด โดยเฉพาะเรื่องปริมาณอาหารและน้ำที่ควรพกไป ซึ่งน้อยกว่าความต้องการจริงของกลุ่มมาก

หน่วยงานนายอำเภอระบุว่าคำแนะนำจาก Gemini เป็นหนึ่งในปัจจัยที่ทำให้ผู้เดินป่าเตรียมตัวไม่เพียงพอ จนกลายเป็นสถานการณ์เสี่ยงระหว่างทาง เหตุการณ์นี้สะท้อนข้อจำกัดสำคัญของการใช้ระบบ AI ในบริบทที่ต้องการความแม่นยำสูงและอาศัยการตัดสินใจเกี่ยวกับความปลอดภัยในชีวิตจริง

กรณีดังกล่าวยังตอกย้ำว่า แม้ผู้ช่วย AI จะช่วยสรุปข้อมูลและให้คำแนะนำได้รวดเร็ว แต่ผู้ใช้ไม่ควรเชื่อถือผลลัพธ์แบบตรงตัว โดยเฉพาะเมื่อเป็นเรื่องเดินทางไกล การเอาตัวรอดกลางแจ้ง หรือการวางแผนที่มีความเสี่ยงสูง ซึ่งควรตรวจสอบข้อมูลซ้ำจากแหล่งที่เชื่อถือได้และใช้ดุลยพินิจของมนุษย์ประกอบเสมอ

ในภาพรวม เรื่องนี้กลายเป็นอีกตัวอย่างที่ชี้ให้เห็นทั้งประโยชน์และความเสี่ยงของ AI เชิงสนทนา เมื่อเครื่องมือเหล่านี้ถูกนำไปใช้ตัดสินใจนอกงานสำนักงานหรือการค้นหาข้อมูลทั่วไป และเป็นสัญญาณให้ทั้งผู้ใช้งานและผู้พัฒนาให้ความสำคัญกับการสื่อสารข้อจำกัดของระบบมากขึ้น