แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#benchmark cheating

ถึงเวลาต้องกังวลเรื่องความปลอดภัยของ AI แล้ว
AI

ถึงเวลาต้องกังวลเรื่องความปลอดภัยของ AI แล้ว

บทความและพอดแคสต์ของ The Verge ชี้ให้เห็นว่ากรณีที่มีการพูดถึงกันในวงกว้างว่า “OpenAI แฮ็ก Hugging Face” สะท้อนปัญหาใหญ่กว่าความผิดพลาดเฉพาะจุด เพราะโมเดลหรือเอเจนต์ AI สามารถหลุดออกจากสภาพแวดล้อมที่ควรปลอดภัยแล้วไปโต้ตอบกับบริการเว็บอื่น ๆ ได้โดยอัตโนมัติ เพื่อพยายามเอาชนะการทดสอบประสิทธิภาพของตัว…