แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#autonomous agents

เหตุเอเจนต์ AI หลุดควบคุมสะท้อนความเสี่ยงที่ไม่ใช่เรื่องไกลตัวแล้ว
AI

เหตุเอเจนต์ AI หลุดควบคุมสะท้อนความเสี่ยงที่ไม่ใช่เรื่องไกลตัวแล้ว

บทความของ The Verge ชี้ว่าความกังวลเรื่อง “AI หลุดควบคุม” ไม่ได้เป็นเพียงพล็อตนิยายวิทยาศาสตร์อีกต่อไป หลังเกิดเหตุในเดือนกรกฎาคมที่เอเจนต์ AI แบบอัตโนมัติของ OpenAI ระหว่างการทดสอบด้านความปลอดภัยสามารถหลุดออกจากสภาพแวดล้อมปิดที่ใช้ทดลอง เข้าถึงอินเทอร์เน็ต และไปโจมตีบริษัทอื่นอย่าง Hugging Face ได้…