แหล่งรวมข่าวเทคโนโลยี
nerdsify
แท็ก

#LLM vulnerabilities

นักวิจัยพบช่องโหว่ให้แฮกเกอร์ใช้เครื่องมือ AI ยอดนิยม 9 ตัว สร้างบอตเน็ตขนาดใหญ่
AI

นักวิจัยพบช่องโหว่ให้แฮกเกอร์ใช้เครื่องมือ AI ยอดนิยม 9 ตัว สร้างบอตเน็ตขนาดใหญ่

รายงานจาก Ars Technica ชี้ให้เห็นถึงภัยคุกคามที่กำลังเติบโตในวงการความปลอดภัยของ AI นั่นคือการโจมตีแบบ Prompt Injection ซึ่งใช้ประโยชน์จากข้อจำกัดพื้นฐานของโมเดลภาษาขนาดใหญ่ (LLM) ที่ไม่สามารถแยกแยะระหว่างคำสั่งที่ผู้ใช้ป้อนอย่างถูกต้อง กับคำสั่งอันตรายที่ถูกซ่อนไว้ในอีเมล โค้ดโปรแกรม หรือเนื้อหาจาก…