แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

นักวิจัยระบุ OpenAI ถอนสิทธิ์เข้าถึงโปรแกรมไซเบอร์แบบจำกัด

นักวิจัยระบุ OpenAI ถอนสิทธิ์เข้าถึงโปรแกรมไซเบอร์แบบจำกัด

นักวิจัยด้านความปลอดภัยไซเบอร์หลายรายระบุว่าอยู่ ๆ ก็ถูกตัดสิทธิ์การใช้งานโปรแกรม Trusted Access for Cyber (TAC) ของ OpenAI ซึ่งเป็นโครงการที่เปิดให้ผู้ผ่านการคัดเลือกเข้าถึงโมเดลที่มีข้อจำกัดด้านความปลอดภัยน้อยลง เพื่อใช้ในการวิจัยและทดสอบงานด้านไซเบอร์โดยเฉพาะ

TAC ถูกมองว่าเป็นช่องทางสำหรับนักวิจัยที่มีคุณสมบัติเหมาะสมในการทดลองความสามารถของโมเดล AI ในบริบทด้านความมั่นคงปลอดภัย โดยแลกกับการควบคุมการใช้งานและการคัดกรองผู้เข้าร่วมอย่างเข้มงวด การที่ผู้ใช้งานบางส่วนสูญเสียสิทธิ์แบบฉับพลันจึงสร้างความกังวลว่า OpenAI อาจกำลังเข้มงวดกับการเข้าถึงเครื่องมือเหล่านี้มากขึ้น หรืออาจมีการเปลี่ยนนโยบายภายในโดยที่ผู้เข้าร่วมไม่ได้รับการแจ้งล่วงหน้าอย่างชัดเจน

เหตุการณ์นี้สะท้อนความตึงเครียดระหว่างการเปิดให้วิจัยความสามารถของ AI เพื่อเสริมการป้องกันภัยไซเบอร์ กับการจำกัดไม่ให้เครื่องมือที่ทรงพลังถูกนำไปใช้ในทางที่ผิด นักวิจัยที่พึ่งพาโปรแกรมลักษณะนี้อาจได้รับผลกระทบโดยตรงต่อโครงการทดสอบ การประเมินความเสี่ยง และการพัฒนาแนวทางป้องกันภัยคุกคามที่อาศัย AI

OpenAI ยังไม่ได้อธิบายรายละเอียดต่อสาธารณะในรายงานดังกล่าวว่าการเพิกถอนสิทธิ์เกิดจากสาเหตุใด หรือมีผู้ใช้งานจำนวนเท่าใดได้รับผลกระทบ แต่กรณีนี้ชี้ให้เห็นประเด็นสำคัญในอุตสาหกรรม AI ว่า การกำกับดูแลการเข้าถึงโมเดลขั้นสูง โดยเฉพาะในงานความปลอดภัยไซเบอร์ ยังคงเป็นเรื่องที่ละเอียดอ่อนและเปลี่ยนแปลงได้รวดเร็ว

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท
AI

นิวยอร์กตั้งโปรแกรมทดสอบ AI ของรัฐเอง ใช้นักวิจัยอิสระตรวจสอบบริษัท

โครงการใหม่นี้จะให้ศูนย์วิจัยของรัฐตรวจสอบระบบ AI จากข้อมูลที่บริษัทเปิดเผย แทนการเชื่อคำบอกเล่าของผู้พัฒนาเพียงอย่างเดียว

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp
AI

DeepMind อ้างว่าได้พิสูจน์ความปลอดภัยของ Signal protocol ที่ใช้ใน WhatsApp

งานวิจัยของ Google DeepMind ใช้ formal verification ตรวจสอบโปรโตคอลเข้ารหัสแบบ end-to-end ที่อยู่เบื้องหลัง Signal, WhatsApp และ Google Messages โดยผู้วิจัยย้ำว่านี่เป็นเพียงก้าวหนึ่ง ยังไม่ใช่การพิสูจน์ระบบทั้งหมด