รายงานข่าวกรองที่ปั้นโดย AI เกือบทำให้สหรัฐฯ เข้าปะทะเรือจีน

รายงานจาก CNN ที่ Ars Technica อ้างถึงระบุว่า สหรัฐฯ เกือบตัดสินใจขึ้นตรวจค้นเรือสินค้าจีนในตะวันออกกลางจากข้อมูลข่าวกรองที่ผิดพลาดอย่างรุนแรง โดยต้นทางของปัญหามาจากการใช้เครื่องมือ AI ช่วยเขียนรายงานซึ่งต่อมาพบว่า “ระบุชนิดของสิ่งของบนเรือผิด” จนทำให้เนื้อหาข่าวกรองสรุปไปไกลว่าเรือลำนั้นอาจบรรทุกชิ้นส่วนเกี่ยวกับโครงการอาวุธนิวเคลียร์ของจีน

ตามรายงาน แผนปฏิบัติการของกองทัพสหรัฐฯ ไปถึงขั้นเตรียมสกัดและขึ้นเรือ พร้อมการสนับสนุนทางอากาศแล้ว ก่อนที่เจ้าหน้าที่จะตรวจพบความคลาดเคลื่อนในรายงาน และยกเลิกภารกิจได้ทันเวลา เหตุการณ์นี้สะท้อนว่าข้อมูลที่สร้างหรือช่วยเรียบเรียงโดย AI หากไม่ได้ตรวจสอบอย่างเข้มงวด อาจนำไปสู่การตัดสินใจทางทหารที่มีความเสี่ยงสูงอย่างยิ่ง

แหล่งข่าวที่ CNN อ้างถึงรายหนึ่งถึงกับระบุว่าเรื่องนี้ “เกือบเริ่มสงคราม” ซึ่งตอกย้ำความอ่อนไหวของงานข่าวกรองและการปฏิบัติการทางทหารเมื่อเทคโนโลยี AI ถูกนำมาใช้โดยไม่มีการทวนสอบจากมนุษย์อย่างเพียงพอ กรณีนี้จึงกลายเป็นตัวอย่างเตือนใจถึงอันตรายของ AI hallucination ในบริบทที่เดิมพันด้วยความมั่นคงระหว่างประเทศ