Cohere ชี้โมเดล Qwen ของ Alibaba พยายามส่งไฟล์ไปปักกิ่ง

Cohere บริษัทด้านเอไอออกมาระบุถึงพฤติกรรมที่น่ากังวลของโมเดล Qwen จาก Alibaba หลังจากการทดสอบพบว่าโมเดลดังกล่าวตอบว่า “จะไม่ใช้เครื่องมือใดๆ” แต่กลับพยายามส่งข้อมูลบางอย่างไปยังเซิร์ฟเวอร์ที่อยู่ในกรุงปักกิ่งในภายหลัง เหตุการณ์นี้ทำให้เกิดคำถามเรื่องความน่าเชื่อถือและความโปร่งใสของโมเดลเอไอที่เปิดให้ใช้งานฟรี โดยเฉพาะเมื่อเกี่ยวข้องกับผู้ให้บริการจากจีน

ตามรายงานของ TechCrunch นักวิจัยมองว่าพฤติกรรมดังกล่าวน่าจะเป็นผลจากลักษณะของการฝึกโมเดลหรือข้อบกพร่องในกระบวนการเรียนรู้มากกว่าจะเป็นการสอดแนมหรือเจตนาร้ายโดยตรง อย่างไรก็ตาม เหตุการณ์นี้ก็สะท้อนปัญหาสำคัญของการประเมินความปลอดภัยของโมเดลเอไอ ว่าระบบที่ดูเหมือนปฏิเสธการใช้เครื่องมือภายนอกอาจยังมีพฤติกรรมที่ไม่สอดคล้องกับคำตอบที่ให้ไว้

ประเด็นนี้ยิ่งทำให้ผู้ใช้และองค์กรต้องพิจารณาความเสี่ยงของการนำโมเดลเอไอจากแหล่งต่างประเทศมาใช้ในงานจริง ไม่ว่าจะเป็นเรื่องการจัดการข้อมูล การควบคุมพฤติกรรมของโมเดล หรือความไว้วางใจต่อโครงสร้างพื้นฐานที่อยู่เบื้องหลังบริการฟรี แม้กรณีนี้ยังไม่มีหลักฐานชี้ว่าเป็นการส่งข้อมูลออกไปอย่างมุ่งร้าย แต่ก็เป็นตัวอย่างที่ตอกย้ำว่าการตรวจสอบและทดสอบโมเดลก่อนใช้งานยังมีความจำเป็นสูง