เมื่อ AI เริ่มจำลองตัวเองได้ ความเสี่ยงที่แท้จริงคืออะไร
Anthropic เตือนว่า “AI ที่สามารถทำสำเนาตัวเองได้” อาจเกิดขึ้นได้ในอนาคตอันใกล้ และหากเป็นจริงก็จะเพิ่มระดับความเสี่ยงด้านความปลอดภัยของระบบ AI อย่างมีนัยสำคัญ อย่างไรก็ดี บทความชี้ว่าภัยคุกคามลักษณะ…
Anthropic เตือนว่า “AI ที่สามารถทำสำเนาตัวเองได้” อาจเกิดขึ้นได้ในอนาคตอันใกล้ และหากเป็นจริงก็จะเพิ่มระดับความเสี่ยงด้านความปลอดภัยของระบบ AI อย่างมีนัยสำคัญ อย่างไรก็ดี บทความชี้ว่าภัยคุกคามลักษณะนี้ไม่ใช่เรื่องแปลกใหม่ทั้งหมด เพราะองค์ประกอบหลายอย่างของปัญหาได้ปรากฏอยู่แล้วในโลกดิจิทัล ทั้งซอฟต์แวร์อัตโนมัติ มัลแวร์ บอท และระบบที่สามารถคัดลอกตัวเองหรือกระจายตัวผ่านเครือข่ายได้
