แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

กว่า 100 บริษัทเรียกร้องมาตรการเข้มขึ้นรับมือภัยคุกคามไซเบอร์จาก AI

กว่า 100 บริษัทเรียกร้องมาตรการเข้มขึ้นรับมือภัยคุกคามไซเบอร์จาก AI

บริษัทเทคโนโลยีและองค์กรมากกว่า 100 แห่ง รวมถึง Google และ OpenAI ออกมาเรียกร้องให้มีมาตรการที่เข้มแข็งขึ้นเพื่อรับมือการโจมตีทางไซเบอร์ที่ใช้ปัญญาประดิษฐ์เป็นเครื่องมือ โดยมองว่าความสามารถของ AI เชิงกำเนิดกำลังเพิ่มความเสี่ยงด้านความปลอดภัยในโลกดิจิทัลอย่างมีนัยสำคัญ

ประเด็นสำคัญของความเคลื่อนไหวครั้งนี้คือความกังวลว่า AI ไม่ได้เป็นเพียงเทคโนโลยีที่ช่วยเพิ่มประสิทธิภาพการทำงาน แต่ยังสามารถถูกนำไปใช้ยกระดับการโจมตี เช่น การหลอกลวง การสร้างข้อความหรือเนื้อหาปลอมที่แนบเนียนขึ้น และการโจมตีที่ปรับตัวได้เร็วกว่าเดิม ทำให้การป้องกันระบบไซเบอร์มีความซับซ้อนมากขึ้น

การรวมตัวของบริษัทจำนวนมากสะท้อนว่าความเสี่ยงจาก AI กลายเป็นเรื่องที่ภาคเอกชนรายใหญ่ให้ความสำคัญร่วมกัน ไม่ใช่เพียงปัญหาของผู้ให้บริการความปลอดภัยหรือหน่วยงานรัฐเท่านั้น ขณะเดียวกันยังเป็นสัญญาณว่าผู้พัฒนา AI ชั้นนำเริ่มยอมรับมากขึ้นว่าเทคโนโลยีของตนอาจถูกใช้ในทางที่เป็นอันตรายได้ หากขาดมาตรการกำกับดูแลและการป้องกันที่เหมาะสม

แม้เนื้อหาที่เผยแพร่จะไม่ได้ลงรายละเอียดเชิงนโยบายมากนัก แต่สาระสำคัญคือการผลักดันให้เกิดการตอบสนองที่จริงจังขึ้นต่อภัยคุกคามรูปแบบใหม่ที่ขับเคลื่อนด้วย AI ซึ่งอาจหมายถึงการพัฒนามาตรฐานความปลอดภัยที่ดีขึ้น การตรวจจับการใช้งานในทางผิด และการประสานงานระหว่างบริษัทเทคโนโลยี ผู้กำกับดูแล และผู้เชี่ยวชาญด้านความมั่นคงไซเบอร์

ภาพรวมของเรื่องนี้ตอกย้ำว่าเมื่อ AI ถูกใช้อย่างแพร่หลาย ความเสี่ยงด้านความปลอดภัยก็ขยายตัวตามไปด้วย และอุตสาหกรรมเทคโนโลยีจำเป็นต้องหาจุดสมดุลระหว่างการเร่งนวัตกรรมกับการวางแนวป้องกันเพื่อไม่ให้ AI กลายเป็นเครื่องมือของอาชญากรไซเบอร์มากขึ้น

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท
AI

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท

โครงการใหม่นี้จะให้ศูนย์วิจัยของรัฐตรวจสอบระบบ AI จากข้อมูลที่บริษัทเปิดเผย แทนการเชื่อคำบอกเล่าของผู้พัฒนาเพียงอย่างเดียว

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp
AI

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp

งานวิจัยของ Google DeepMind ใช้ formal verification ตรวจสอบโปรโตคอลเข้ารหัสแบบ end-to-end ที่อยู่เบื้องหลัง Signal, WhatsApp และ Google Messages โดยผู้วิจัยย้ำว่านี่เป็นเพียงก้าวหนึ่ง ยังไม่ใช่การพิสูจน์ระบบทั้งหมด