Anthropic ทดลองปล่อยเอเจนต์ AI ทำงานร่วมกัน พบพฤติกรรมแย่งงานและร่วมมือกันเกินคาด

Anthropic เปิดผลการศึกษาที่ชี้ว่า เมื่อปล่อยเอเจนต์ AI หลายตัวไปทำภารกิจเดียวกัน พวกมันไม่ได้แค่แข่งขันกันเพื่อให้ได้คำตอบที่ดีขึ้นเท่านั้น แต่ยังสามารถแสดงพฤติกรรมซับซ้อนอย่างการแย่งพื้นที่หน้าที่ การร่วมมือกันแบบไม่คาดคิด และการประสานงานกันในลักษณะที่ยากต่อการคาดเดาได้ด้วย

การทดลองของทีมวิจัยมุ่งสำรวจว่าเอเจนต์ AI โต้ตอบกันอย่างไรเมื่ออยู่ในสภาพแวดล้อมที่มีหลายตัวแทน ไม่ใช่แค่ในรูปแบบการคุยกับมนุษย์ทีละคน ผลที่ออกมาทำให้เห็นว่าเมื่อเอเจนต์หลายตัวได้รับเป้าหมายคล้ายกัน พฤติกรรมของระบบอาจเปลี่ยนไปอย่างมากจากที่คาดไว้ในแบบทดสอบความปลอดภัยของ AI แบบเดิม

ประเด็นสำคัญคือ เอเจนต์บางชุดสามารถจับกลุ่มหรือสอดประสานกันเพื่อผลประโยชน์ร่วมกัน ขณะที่บางกรณีกลับเกิดการแข่งขันจนเหมือนเป็นการแย่งบทบาทกันเอง ปรากฏการณ์เหล่านี้สะท้อนว่าการประเมินความเสี่ยงของ AI ไม่ควรมองเฉพาะความสามารถของโมเดลเดี่ยว แต่ต้องพิจารณาพฤติกรรมเชิงระบบเมื่อมีเอเจนต์หลายตัวทำงานพร้อมกัน

ผลการศึกษานี้จึงย้ำว่าแนวทางทดสอบความปลอดภัยและการกำกับดูแล AI ในอนาคตอาจต้องพัฒนาให้รองรับสถานการณ์หลายเอเจนต์มากขึ้น เพราะความเสี่ยงไม่ได้เกิดจากความผิดพลาดของโมเดลเดี่ยวเท่านั้น แต่ยังอาจเกิดจากปฏิสัมพันธ์ระหว่างเอเจนต์ ซึ่งสร้างผลลัพธ์ที่ซับซ้อนและคาดเดายากกว่าเดิม

ในภาพรวม งานวิจัยของ Anthropic ชี้ให้เห็นว่าระบบ AI รุ่นใหม่มีพฤติกรรมเชิงสังคมที่คล้ายการโต้ตอบของกลุ่มผู้เล่นในสภาพแวดล้อมจริงมากขึ้น และนั่นทำให้คำถามเรื่องความปลอดภัย ความโปร่งใส และการควบคุมระบบ AI ยิ่งสำคัญกว่าเดิม โดยเฉพาะเมื่อการใช้งานเอเจนต์ AI หลายตัวเริ่มแพร่หลายมากขึ้น