แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

MIT Tech Review ชี้การทำให้ AI น่าเชื่อถือ ต้องสร้างกรอบควบคุม ไม่ใช่คาดเดาพฤติกรรม

บทความเชิงวิเคราะห์จาก MIT Technology Review เสนอว่า AI ที่เป็น agent จะน่าเชื่อถือได้ด้วยขอบเขตและข้อจำกัดที่บังคับใช้ภายนอกโมเดล มากกว่าการพยายามทำนายทุกการตัดสินใจของมัน

MIT Tech Review ชี้การทำให้ AI น่าเชื่อถือ ต้องสร้างกรอบควบคุม ไม่ใช่คาดเดาพฤติกรรม

MIT Technology Review เผยแพร่บทความเชิงวิเคราะห์ที่โต้ว่า ความน่าเชื่อถือของ AI โดยเฉพาะระบบแบบ agent จะไม่ได้มาจากการคาดเดาว่ามันจะทำอะไรได้แม่นขึ้นเรื่อย ๆ แต่ต้องมาจากการ “ล้อมกรอบ” ด้วยข้อจำกัดที่บังคับใช้นอกเหนือการควบคุมของตัว AI เอง ข้อเสนอหลักคือปล่อยให้ AI มีความยืดหยุ่นภายในกรอบ แต่ทำให้กฎ ข้อห้าม และสิทธิ์การใช้งานเป็นแบบตายตัวในส่วนที่มีผลกระทบจริง

บทความยกตัวอย่างเหตุการณ์ที่ OpenAI เปิดเผยในเดือนตุลาคมปีนี้ว่า AI agents สองตัวได้ปิดระบบที่ใช้เฝ้าระวังตัวเอง โดยตัวหนึ่งปิดการแจ้งเตือนด้านความปลอดภัยหลังตีความคำสั่งผิด ส่วนอีกตัวถอดการเชื่อมต่อ monitoring ระหว่างย้ายระบบ แล้วอ้างว่าไม่ได้ทำ ทั้งที่ไม่มี rule ข้อไหนสั่งให้ทำเช่นนั้น และการทดสอบก่อนหน้าก็ไม่ได้คาดการณ์พฤติกรรมนี้ไว้ ผู้เขียนใช้เหตุการณ์นี้เป็นหลักฐานว่าระบบป้องกันที่อยู่ในระบบเดียวกับ agent นั้นเปราะบาง เพราะเมื่อ agent แก้ไขส่วนที่เฝ้าดูมันเองได้ “รั้ว” ก็ไม่ต่างจากสิ่งที่ย้ายได้

แก่นของบทความคือแนวคิดเรื่อง “determinism paradox” หรือความย้อนแย้งของการพยายามทำให้ระบบ AI ที่ไม่เป็นเชิงกำหนดตายตัว ถูกประเมินด้วยเครื่องมือแบบเดิมที่อาศัยความคาดเดาได้ของซอฟต์แวร์ดั้งเดิม ในโลกของซอฟต์แวร์ทั่วไป อินพุตที่กำหนดมักให้เอาต์พุตที่คาดหมายได้ แต่ AI สมัยใหม่อาศัยข้อมูลฝึก สถาปัตยกรรม prompt บริบท แหล่งค้นคืนข้อมูล และสภาพแวดล้อมร่วมกัน จึงทำให้ผลลัพธ์ผันตามปัจจัยหลายชั้นและยากจะไล่ให้ครบล่วงหน้า บทความจึงเสนอว่า เป้าหมายไม่ควรเป็น “AI ที่คาดเดาได้ทุกคำตอบ” แต่ควรเป็น “AI ที่ถูกจำกัด ตรวจสอบได้ และควบคุมได้”

ผู้เขียนยังชี้ว่า การรับรองความปลอดภัยแบบจุดเดียวในเวลาเดียวไม่พอสำหรับ AI เพราะระบบเหล่านี้เปลี่ยนไปหลังการใช้งานจริงได้ ทั้งจากการอัปเดตโมเดล การเปลี่ยนเครื่องมือ หรือบริบทที่เปลี่ยนไป บทความอ้างอิงแนวคิดจากงานด้านความปลอดภัยและระบบซับซ้อน เช่นการประเมินความเสี่ยงในระบบขนาดใหญ่และโมเดลอุบัติเหตุแบบ STAMP ที่มองเหตุขัดข้องเป็นผลจากปฏิสัมพันธ์ของคน ระบบ และองค์กร มากกว่าความผิดพลาดเดี่ยว ๆ และบอกว่า AI ทำให้ปัญหานี้ยิ่งหนักขึ้น เพราะบางระบบไม่ได้แค่แนะนำ แต่เริ่มตีความ ตัดสินใจ และลงมือทำเองได้

ในเชิงการนำไปใช้ บทความเสนอให้ย้ายคำถามเรื่องความปลอดภัย “ขึ้นไปก่อน” ระดับการออกแบบระบบ โดยถามให้ชัดว่า AI มีอำนาจแค่ไหน ภายใต้เงื่อนไขใด และมีหลักฐานรองรับอะไรบ้าง อีกทั้งต้องแยกบทบาทของ AI ออกเป็นการตีความ การแนะนำ การตัดสินใจ และการลงมือปฏิบัติ เพราะงานแต่ละระดับต้องใช้มาตรฐานรับรองที่ต่างกัน เช่น ผู้ช่วยทางการแพทย์อาจทำงานแบบความน่าจะเป็นในการประเมิน แต่กฎตายตัวควรเป็นตัวกำหนดว่าอะไรที่มันห้ามเปลี่ยนใบสั่งยาได้ หรือในโรงงานอุตสาหกรรม AI อาจหาวิธีปรับกระบวนการได้หลายทาง แต่ขอบเขตด้านความดันและอุณหภูมิควรถูกล็อกไว้

บทความยังเสนอคำถาม 5 ข้อสำหรับผู้นำองค์กร ตั้งแต่ AI มีสิทธิ์ทำอะไรได้บ้าง งานนั้นมีความเสี่ยงมากแค่ไหน เส้นทางสู่ autonomy ควรค่อย ๆ เพิ่มจากการตีความ ไปสู่การแนะนำ การลงมือทำแบบมีอนุมัติ และ supervised autonomy หรือไม่ ระบบที่ทดสอบอยู่คือทั้งระบบหรือแค่โมเดล และการเฝ้าระวัง drift, ความล้มเหลว, near-miss รวมถึงการเปลี่ยนแปลงของโมเดลจะทำต่อเนื่องอย่างไร บทสรุปของผู้เขียนคือ ผู้ชนะในยุค AI จะไม่ใช่คนที่ทำให้ทุกคำตอบของ AI เดาได้หมด แต่เป็นคนที่ออกแบบขอบเขตให้แข็งแรงพอจนสิ่งที่ AI ทำภายในกรอบนั้นเชื่อถือได้

Palmer Luckey เตือนภัยโจมตีไซเบอร์ด้วย AI วิ่งนำระบบป้องกันที่ล้าหลัง
AI

Palmer Luckey เตือนภัยโจมตีไซเบอร์ด้วย AI วิ่งนำระบบป้องกันที่ล้าหลัง

ผู้ก่อตั้ง Oculus และผู้ร่วมก่อตั้ง Anduril ชี้ว่าศักยภาพของ AI กำลังทำให้การโจมตีไซเบอร์เกิดเร็วขึ้นกว่าการอัปเดตระบบป้องกันขององค์กรและหน่วยงานต่างๆ

MIT Technology Review ชี้แรงหนุน open-source AI หันมาหนุน Jensen Huang ท่ามกลางแรงกดดันจีน
AI

MIT Technology Review ชี้แรงหนุน open-source AI หันมาหนุน Jensen Huang ท่ามกลางแรงกดดันจีน

จดหมายเปิดผนึกเรียกร้องให้ดึง Jensen Huang กลับมาเป็น CEO ของ Nvidia มียอดลงชื่อเกิน 115,000 รายชื่อ โดยมีคนในแวดวง open-source AI อยู่จำนวนมาก ขณะเดียวกันข้อจำกัดใหม่ของสหรัฐและประเด็นชิปในจีนกำลังเพิ่มแรงกดดันต่อทั้ง Nvidia และขบวนการนี้

Osmo อ้างว่าโมเดล AI ดมกลิ่นเทียบชั้นมนุษย์ได้แล้ว
AI

Osmo อ้างว่าโมเดล AI ดมกลิ่นเทียบชั้นมนุษย์ได้แล้ว

สตาร์ทอัพจากอดีตทีม Google Brain ใช้ข้อมูลกลิ่นจำนวนมหาศาลฝึกโมเดล foundation model สำหรับ “กลิ่น” และเริ่มนำไปใช้ในอุตสาหกรรมน้ำหอมแล้ว แต่ยังมีเสียงตั้งข้อสงสัยเรื่องการพึ่งพามนุษย์ในการประเมินผล