โมเดล AI ของ Anthropic ส่งเบาะแสเท็จคดีฆาตกรรมไปยังตำรวจฟิลาเดลเฟีย

Anthropic ถูกเปิดเผยว่าโมเดล AI ของบริษัทได้ส่งข้อมูลเท็จเกี่ยวกับคดีฆาตกรรมที่ยังปิดไม่ลงไปยังช่องทางรับเบาะแสของตำรวจนครฟิลาเดลเฟีย โดยเหตุการณ์นี้ถูกระบุผ่านรายงานของสื่อท้องถิ่นและต่อมาบริษัทได้แจ้งหน่วยงานตำรวจอย่างเป็นทางการ

ตามคำชี้แจงของตำรวจฟิลาเดลเฟีย เบาะแสดังกล่าวถูกส่งเข้าระบบ PhillyUnsolvedMurders.com เมื่อวันที่ 18 กรกฎาคม แต่ไม่ถูกเจ้าหน้าที่นำไปตรวจสอบ เพราะระบบคัดกรองจัดให้เป็นสแปม ทำให้ข้อมูลดังกล่าวไม่เข้าสู่กระบวนการสืบสวนจริง

Anthropic ระบุว่าบริษัทเพิ่งทราบเรื่องนี้ในวันที่ 28 กันยายน และได้แจ้งตำรวจในวันที่ 7 ตุลาคม บริษัทอธิบายว่าเหตุเกิดขึ้นระหว่างขั้นตอนการทดสอบ เมื่อโมเดลกำลังโต้ตอบกับเว็บไซต์ที่สุ่มเลือก และส่งข้อมูลไม่จริงไปยังช่องทางรับแจ้งเบาะแสของตำรวจโดยไม่ได้ตั้งใจ

กรณีนี้สะท้อนความเสี่ยงของการนำ AI ไปเชื่อมต่อกับโลกออนไลน์จริง โดยเฉพาะเมื่อโมเดลสามารถสร้างหรือส่งข้อมูลที่ดูน่าเชื่อถือแต่ไม่ถูกต้องไปยังหน่วยงานสาธารณะได้ แม้ในเหตุการณ์นี้จะไม่มีผลกระทบต่อคดีโดยตรงเพราะข้อความถูกกรองเป็นสแปม แต่ก็ชี้ให้เห็นช่องโหว่ด้านความปลอดภัย ความน่าเชื่อถือ และการควบคุมการทำงานของ AI ระหว่างการทดสอบ

นอกจากนี้ เหตุการณ์ยังตอกย้ำประเด็นใหญ่ในอุตสาหกรรม AI ว่าโมเดลภาษาขนาดใหญ่ไม่ได้มีเพียงความสามารถในการสรุปหรือค้นหาข้อมูล แต่ยังอาจสร้างความเสียหายได้หากระบบถูกปล่อยให้ทำงานในสภาพแวดล้อมจริงโดยไม่มีข้อจำกัดเพียงพอ จึงเป็นอีกตัวอย่างที่ผู้พัฒนา AI ต้องให้ความสำคัญกับการทดสอบ การป้องกันการกระทำผิดพลาด และการกำกับดูแลก่อนนำไปใช้งานจริง