Nvidia เปิดแพลตฟอร์มความปลอดภัยใหม่ รับมือเอเจนต์ AI ที่หลุดควบคุมได้ในระดับมิลลิวินาที

Nvidia เปิดตัวแพลตฟอร์มความปลอดภัยสำหรับเอเจนต์ AI ชุดใหม่ เพื่อช่วยเฝ้าระวังและกักกันระบบที่พยายามทำงานนอกขอบเขตที่กำหนด โดยบริษัทระบุว่าสามารถแยกเอเจนต์ที่มีพฤติกรรมผิดปกติได้ภายในระดับ “มิลลิวินาที” แนวทางนี้สะท้อนแรงกดดันที่อุตสาหกรรม AI กำลังเผชิญ หลังเกิดเหตุการณ์ด้านความปลอดภัยและการแฮ็กที่เกี่ยวข้องกับเอเจนต์อัตโนมัติหลายครั้งในช่วงที่ผ่านมา

ผลิตภัณฑ์ใหม่นี้มีชื่อว่า Open Agent Safety Platform และออกแบบมาเพื่อควบคุมการเข้าถึงข้อมูลของเอเจนต์ให้รัดกุมขึ้น ผู้ใช้งานสามารถกำหนดได้ว่าเอเจนต์ AI จะเข้าถึงข้อมูลส่วนใดได้บ้าง จากนั้นระบบจะตรวจสอบข้อจำกัดดังกล่าวทั้งก่อนเริ่มปฏิบัติงานและระหว่างที่งานกำลังดำเนินอยู่ เพื่อลดโอกาสที่เอเจนต์จะข้ามเส้นหรือเข้าถึงข้อมูลที่ไม่ได้รับอนุญาต

หัวใจของแพลตฟอร์มนี้คือซอฟต์แวร์โอเพนซอร์สชื่อ OpenShell ซึ่งทำงานบน Vera AI CPU ของ Nvidia เอง ขณะที่อีกองค์ประกอบหนึ่งคือเทคโนโลยี Sentry ที่ทำงานแยกออกไปเพื่อช่วยตรวจจับและจำกัดความเสี่ยงจากพฤติกรรมที่ไม่พึงประสงค์ของเอเจนต์ การออกแบบในลักษณะนี้มุ่งให้ระบบมีชั้นป้องกันมากกว่าหนึ่งระดับ ไม่พึ่งพาการตรวจสอบเพียงจุดเดียว

การเปิดตัวครั้งนี้ยังสะท้อนทิศทางใหม่ของ Nvidia ที่ไม่ได้เน้นเพียงการเร่งประสิทธิภาพฮาร์ดแวร์ AI แต่ขยายบทบาทไปสู่โครงสร้างความปลอดภัยของระบบเอเจนต์โดยตรง โดยเฉพาะในยุคที่โมเดลและเอเจนต์ AI ถูกนำไปใช้เชื่อมต่อกับข้อมูล องค์กร และเครื่องมือสำคัญมากขึ้น ความสามารถในการจำกัดสิทธิ์และกักกันความเสี่ยงจึงกลายเป็นประเด็นสำคัญสำหรับลูกค้าองค์กรและนักพัฒนา