บทความของ Ars Technica ชี้ว่าการใช้งาน AI agents ที่แพร่หลายมากขึ้นในองค์กรต่าง ๆ กำลังเปิดช่องให้ผู้โจมตีใช้เอเจนต์ตัวหนึ่งเป็นจุดเริ่มต้นเพื่อส่งต่อคำสั่งอันตรายไปยังเอเจนต์ตัวอื่นภายในระบบเดียวกันได้ โดยเป้าหมายไม่ใช่การเจาะตัวโมเดลภาษาตรง ๆ แต่เป็นการใช้ช่องโหว่เชิงความไว้วางใจระหว่างเอเจนต์…
นักพัฒนาสองรายระบุว่าพวกเขาสามารถชักจูงให้ Muse เครื่องมือ AI ของ Meta ส่งออกไฟล์ทั้งระบบของเครื่องเสมือนที่รันอยู่ได้อย่างค่อนข้างง่าย โดยสิ่งที่ถูกดึงออกมาครอบคลุมตั้งแต่ root filesystem, ไฟล์ระบบ Ubuntu, เทมเพลตของแอป ไปจนถึงเอกสารภายในบางส่วน กรณีนี้ทำให้เกิดคำถามเกี่ยวกับความปลอดภัยของระบบที่…
เทคนิคที่เคยเป็นที่รู้จักในวงการความปลอดภัย AI อย่าง “ASCII smuggling” กำลังถูกนำไปใช้ในบริบทใหม่โดยผู้ส่งสแปม เพื่อหลบระบบกรองอีเมลที่ออกแบบมาตรวจจับข้อความไม่พึงประสงค์ในการทำแคมเปญส่งจำนวนมาก เดิมทีวิธีนี้ถูกพูดถึงอย่างกว้างขวางเมื่อราวสองปีก่อนในฐานะเครื่องมือช่วยซ่อนคำสั่งอันตรายสำหรับโจมตี AI…
รายงานจาก Ars Technica ระบุว่านักวิจัยด้านความปลอดภัยค้นพบวิธีโจมตี Grok ของ xAI ที่ทำให้แชตบอตสามารถดึงข้อมูลส่วนตัวของผู้ใช้และบทสนทนาออกไปได้ โดยอาศัยการซ่อนคำสั่งอันตรายไว้ในเนื้อหาที่โมเดลต้องอ่านหรือสรุป ไม่ว่าจะเป็นข้อความในอีเมล หน้าเว็บ หรือข้อมูลที่ผู้ใช้ให้ระบบประมวลผล วิธีดังกล่าวมี…
งานวิจัยด้านความปลอดภัยจาก Varonis Threat Labs ระบุว่า Microsoft Copilot ถูกชักจูงให้เปิดเผยรายละเอียดของช่องโหว่ที่ช่วยให้คำสั่งบางอย่างทำงานได้โดยไม่มีการยืนยันจากผู้ใช้ โดยนักวิจัยเรียกวิธีนี้ว่า “CoSnitch” และอธิบายว่ามันเป็นการค่อยๆ ถามต่อเนื่องเพื่อให้ AI เผยข้อมูลเชิงลึกเกี่ยวกับโครงสร้าง…
นักวิจัยด้านความปลอดภัยจาก Varonis เปิดเผยวิธีโจมตี Microsoft 365 Copilot Enterprise ที่ทำให้ระบบสามารถถูกใช้ดึงข้อมูลผู้ใช้และรหัสผ่านออกไปได้ โดยไม่ต้องอาศัยการยืนยันจากผู้ใช้ตามปกติ จุดที่น่าสนใจคือพวกเขาไม่ได้เริ่มจากการย้อนแกะโค้ดหรือใช้เทคนิคหาแพตช์ทั่วไป แต่เลือก “ถาม Copilot” เพื่อให้มัน…
ศาลในคอนเนตทิคัตเปิดเผยกรณีที่เชื่อว่าเป็นครั้งแรกในสหรัฐฯ ที่โจทก์พยายามซ่อนข้อความไว้ในเอกสารยื่นต่อศาล โดยตั้งใจให้มนุษย์มองไม่เห็น แต่ให้ระบบ AI ที่อ่านข้อความในไฟล์อ่านเจอได้ และนำไปใช้สนับสนุนข้อโต้แย้งของตน กรณีนี้สะท้อนว่าเมื่อเครื่องมือ AI เริ่มเข้ามามีบทบาทมากขึ้นในกระบวนการยุติธรรม ก็มี…
บทความนี้พูดถึงความเสี่ยงด้านความปลอดภัยของ AI เอเจนต์ โดยเฉพาะ Microsoft Copilot ใน Word ที่อาจถูกโจมตีด้วยเอกสารอันตรายซึ่งฝังคำสั่งลับไว้ภายใน นักวิจัยด้านความปลอดภัย Håkon Måløy อธิบายว่า เมื่อ Copilot นำเอกสารมาใช้เป็นแหล่งอ้างอิง มันอาจตีความคำสั่งที่ซ่อนอยู่เหมือนเป็นส่วนหนึ่งของคำสั่งผู้ใช้…
นักวิจัยกลุ่มหนึ่งเสนอว่าแชตบอตและโมเดลภาษาขนาดใหญ่ (LLM) มีข้อบกพร่องเชิงโครงสร้างที่ทำให้ไม่สามารถทำให้ปลอดภัยจากการโจมตีได้อย่างสมบูรณ์ โดยปัญหาไม่ได้อยู่แค่ที่ข้อมูลฝึกหรือกฎป้องกัน แต่เป็นวิธีที่โมเดลแยกแยะว่า “คำสั่ง” มาจากใคร ซึ่งเป็นแกนสำคัญของการทำงานของระบบประเภทนี้ งานวิจัยที่นำเสนอในเวที…
OpenAI เปิดเผยการพัฒนา GPT-Red โมเดลภาษาขนาดใหญ่ที่ถูกออกแบบให้ทำหน้าที่เหมือน “ซูเปอร์แฮ็กเกอร์” เพื่อใช้เป็นคู่ซ้อมในการทดสอบและเพิ่มความแข็งแกร่งด้านความปลอดภัยของโมเดลรุ่นใหม่ของบริษัท โดยเฉพาะ GPT-5.6 ที่ OpenAI ระบุว่าได้ประโยชน์จากการฝึกปะทะกับ GPT-Red จนกลายเป็นรุ่นที่ทนทานต่อการโจมตีมาก…
งานวิจัยด้านความมั่นคงปลอดภัยล่าสุดชี้ว่าเทคนิค “prompt injection” ซึ่งเดิมถูกมองเป็นอาวุธของผู้โจมตี กำลังถูกนำมาใช้เป็นเครื่องมือป้องกันด้วยเช่นกัน โดยนักวิจัยจาก Tracebit ระบุว่า เมื่อใส่ข้อความลักษณะคำสั่งแฝงไว้ใกล้ข้อมูลอ่อนไหว เช่น รหัสผ่านหรือคีย์เข้ารหัสที่เก็บอยู่บน Amazon Web Services ก็…
ทีมนักวิจัยด้านความปลอดภัยจาก Noma Security เปิดเผยช่องโหว่ที่สามารถหลอกล่อ AI Agent ของ GitHub ให้เปิดเผยข้อมูลจาก private repository ที่ควรถูกเก็บเป็นความลับ โดยใช้เทคนิคที่เรียกว่า prompt injection ซึ่งเป็นการฝังคำสั่งอันตรายไว้ในเนื้อหาที่ AI ประมวลผล เช่น ใน issue, pull request หรือไฟล์โค้ด…
รายงานจาก Ars Technica ชี้ให้เห็นถึงภัยคุกคามที่กำลังเติบโตในวงการความปลอดภัยของ AI นั่นคือการโจมตีแบบ Prompt Injection ซึ่งใช้ประโยชน์จากข้อจำกัดพื้นฐานของโมเดลภาษาขนาดใหญ่ (LLM) ที่ไม่สามารถแยกแยะระหว่างคำสั่งที่ผู้ใช้ป้อนอย่างถูกต้อง กับคำสั่งอันตรายที่ถูกซ่อนไว้ในอีเมล โค้ดโปรแกรม หรือเนื้อหาจาก…