งานวิจัยชี้แชตบอต AI อาจหลอกลวงโรแมนซ์สแกมได้เก่งกว่ามนุษย์

งานวิจัยร่วมจากมหาวิทยาลัย 4 แห่งชี้ว่าแชตบอต AI รุ่นใหม่อาจทำภารกิจโรแมนซ์สแกมได้มีประสิทธิภาพมากกว่ามนุษย์ โดยเฉพาะในด้านการโต้ตอบที่ต่อเนื่อง รวดเร็ว และปรับน้ำเสียงให้เข้ากับเหยื่อได้ดีขึ้น ซึ่งทำให้การหลอกลวงรูปแบบนี้น่ากังวลยิ่งกว่าเดิม

โรแมนซ์สแกมเป็นกลโกงออนไลน์ที่มีมานานแล้ว แต่ยังคงหลอกเหยื่อได้จำนวนมาก เพราะอาศัยการสร้างความไว้วางใจและความผูกพันทางอารมณ์ก่อนจะชักชวนให้โอนเงินหรือเปิดเผยข้อมูลส่วนตัว งานวิจัยชิ้นนี้สะท้อนว่าหากเครื่องมือ AI ถูกนำไปใช้ในทางผิด ผู้กระทำอาจขยายการหลอกลวงได้เร็วขึ้นและในวงกว้างขึ้น โดยใช้แรงงานน้อยลงแต่เข้าถึงเหยื่อได้มากกว่าเดิม

ประเด็นสำคัญคือแชตบอตสามารถตอบกลับได้แทบตลอดเวลา ไม่เหน็ดเหนื่อย และรักษาความสม่ำเสมอของบทสนทนาได้ดีกว่ามนุษย์หลายคน เมื่อรวมกับความสามารถในการสร้างข้อความที่ดูเป็นธรรมชาติ จึงเพิ่มโอกาสที่เหยื่อจะเชื่อใจและคุยต่อเนื่องนานพอจนถูกโน้มน้าวให้ทำตามคำขอของมิจฉาชีพ

แม้บทความจะเน้นความน่ากังวลของภัยคุกคามนี้ แต่ก็เป็นสัญญาณเตือนต่อแพลตฟอร์มออนไลน์ ผู้พัฒนา AI และผู้ใช้งานทั่วไปว่า การป้องกันการนำโมเดลภาษามาใช้หลอกลวงต้องเข้มงวดขึ้น ทั้งในด้านการตรวจจับพฤติกรรมผิดปกติ การกำกับดูแลการใช้งาน และการให้ความรู้ผู้ใช้ให้ระวังบทสนทนาที่เร่งเร้าให้เกิดความผูกพันหรือขอข้อมูล/เงินอย่างผิดปกติ

โดยรวมแล้ว รายงานนี้ชี้ว่า AI ไม่ได้เป็นเพียงเครื่องมือเพิ่มประสิทธิภาพในการสื่อสาร แต่ยังอาจยกระดับอาชญากรรมออนไลน์แบบเดิมให้แนบเนียนและ масштабใหญ่ขึ้น ซึ่งทำให้การรับมือโรแมนซ์สแกมในยุค AI ซับซ้อนกว่าที่ผ่านมาอย่างมาก