บทความนี้อธิบายโครงสร้างการกำกับดูแลของ Anthropic ที่ซับซ้อนอย่างยิ่ง และชี้ว่าแม้บริษัทจะก้าวสู่สถานะใกล้ IPO หรือเข้าตลาดทุนแล้ว แต่คำถามสำคัญยังคงอยู่ที่ว่าใครมีอำนาจตัดสินใจตัวจริงภายในองค์กรกันแน่ ประเด็นไม่ได้อยู่แค่เรื่องผู้ถือหุ้นหรือมูลค่าบริษัท แต่รวมถึงรูปแบบการควบคุม การถ่วงดุลอำนาจ และ…
บทความจาก MIT Technology Review นำเสนอประเด็นจากเวที EmTech Future ว่า หากองค์กรต้องการสร้างระบบ AI ที่ขยายผลได้จริง สิ่งสำคัญไม่ใช่แค่โมเดลล้ำสมัย แต่คือการวาง “รากฐาน” ให้แข็งแรงตั้งแต่ต้น โดยประกอบด้วยข้อมูล กระบวนการวิศวกรรม แพลตฟอร์ม การออกแบบวิธีปฏิบัติงาน และกรอบกำกับดูแลที่สอดประสานกันเป็น…
Microsoft ประกาศชุดความสามารถด้านความปลอดภัยใหม่สำหรับองค์กรที่เริ่มนำ AI agents ไปใช้งานจริง โดยมุ่งช่วยให้บริษัทตรวจจับ เฝ้าระวัง และจำกัดสิทธิ์การเข้าถึงของเอเจนต์เหล่านี้ได้ดีขึ้น แนวคิดหลักของบริษัทคือไม่ควรมองเอเจนต์ AI เป็นเพียงเครื่องมืออัตโนมัติทั่วไป แต่ต้องปฏิบัติราวกับเป็นความเสี่ยงจาก…
Anthropic เดินหน้ามาตรการเพิ่มความปลอดภัยของโมเดล AI ด้วยการให้ผู้ประเมินภายนอกจากองค์กรไม่แสวงกำไร METR ได้รับสิทธิ์เข้าถึงในระดับที่ใกล้เคียงพนักงาน เพื่อใช้ตรวจสอบและประเมินความเสี่ยงของระบบอย่างละเอียดมากขึ้น ข้อมูลดังกล่าวสะท้อนว่า บริษัทต้องการสร้างกลไกกำกับดูแลที่เข้มงวดขึ้นท่ามกลางความกังวล…
Brad Smith ประธานของ Microsoft ออกมาเรียกร้องให้มีการกำกับดูแลปัญญาประดิษฐ์อย่างเร่งด่วน โดยย้ำว่าความก้าวหน้าของ AI เดินหน้าเร็วกว่ากรอบกฎหมายในหลายประเทศ และสถานการณ์ปัจจุบันสะท้อนว่าซอฟต์แวร์ AI จำนวนมากยังมีการตรวจสอบดูแลน้อยกว่าสินค้าอุปโภคบริโภคพื้นฐานอย่างนมาหรือตู้ซักผ้าเสียอีก เขาชี้ว่าหาก…
สัตยา นาเดลลา ซีอีโอของไมโครซอฟท์ เรียกร้องให้องค์กรที่นำระบบเอไอขั้นสูงไปใช้งาน ต้องเผื่อความเป็นไปได้ไว้เสมอว่าโมเดลอาจถูกเจาะ ถูกควบคุมผิดพลาด หรือทำงานนอกกรอบที่คาดไว้ได้ ดังนั้นการออกแบบระบบไม่ควรพึ่งเพียงคำรับรองจากผู้พัฒนาโมเดล แต่ควรมีกลไกควบคุมอิสระที่ตรวจสอบและสั่งหยุดการทำงานได้จริง แก่น…
ประธานไมโครซอฟท์ออกมาแสดงความเห็นว่าเทคโนโลยีปัญญาประดิษฐ์ในปัจจุบันยังถูกกำกับดูแลอย่างหลวมมาก เมื่อเทียบกับสินค้าพื้นฐานอย่างนมหนึ่งกล่อง ซึ่งต้องผ่านกฎระเบียบด้านความปลอดภัยและมาตรฐานมากมายก่อนจะถึงมือผู้บริโภค เขาต้องการชี้ให้เห็นว่าระบบกำกับดูแลของ AI ยังตามไม่ทันอิทธิพลและความเสี่ยงของ…
นักวิจัยด้านความปลอดภัยของ OpenAI 3 คนที่ถูกปลดออก ได้ออกมาโต้แย้งการตัดสินใจดังกล่าวผ่านจดหมายเปิดผนึก โดยระบุว่าการไล่ออกครั้งนี้อาจสร้างบรรยากาศ “หนาวสะท้าน” ภายในองค์กร และทำให้พนักงานคนอื่นลังเลที่จะพูดถึงข้อกังวลด้านความปลอดภัยหรือการกำกับดูแลในอนาคต ประเด็นนี้สะท้อนความตึงเครียดที่ดำเนินอยู่…
เดวิด โรบินสัน พนักงานด้านความปลอดภัยของ OpenAI ประกาศลาออกพร้อมส่งสัญญาณเตือนต่อสาธารณะ โดยระบุว่าปัญหาไม่ได้อยู่แค่ตัวบุคคล แต่เป็นระดับวัฒนธรรมการทำงานของบริษัทที่เขามองว่ากำลัง “เสียหาย” และไม่เอื้อต่อการทำงานด้านความปลอดภัยของ AI ตามเจตนารมณ์เดิม กรณีนี้สะท้อนความตึงเครียดที่เพิ่มขึ้นภายใน…
Reuters รายงานว่าเอกสารยื่นขอเสนอขายหุ้นต่อประชาชนครั้งแรกแบบลับของ Anthropic เปิดให้เห็นทิศทางการเติบโตและความทะเยอทะยานของบริษัท AI รายนี้มากขึ้น ก่อนการเข้าตลาดทุนที่อาจเกิดขึ้นในอนาคต เอกสารดังกล่าวสะท้อนว่าบริษัทกำลังเตรียมขยายโครงสร้างพื้นฐานสำหรับงานด้านปัญญาประดิษฐ์อย่างจริงจัง ซึ่งเป็น…
OpenAI เปิดตัวเว็บไซต์ใหม่เพื่อรวบรวมรายงานเกี่ยวกับ “misalignment” หรือกรณีที่พฤติกรรมของโมเดล AI เบี่ยงเบนจากสิ่งที่คาดหวัง โดยเนื้อหาที่ถูกเปิดเผยทำให้เห็นว่าปัญหานี้อาจกว้างและหลากหลายกว่าที่หลายคนประเมินไว้มาก เว็บไซต์ดังกล่าวถูกมองว่าเป็นความพยายามเพิ่มความโปร่งใสต่อสาธารณะเกี่ยวกับเหตุการณ์…
รัฐมนตรีความมั่นคงสาธารณะของจีนออกมาเตือนว่าเทคโนโลยีปัญญาประดิษฐ์ขั้นสูงอาจกลายเป็นปัจจัยเพิ่มความเสี่ยงด้านความมั่นคงไซเบอร์และการกำกับดูแลของรัฐ โดยเฉพาะในมิติที่เกี่ยวข้องกับการโจมตีทางไซเบอร์ การรั่วไหลของข้อมูล และภัยคุกคามต่อความมั่นคงทางการเมือง แนวโน้มนี้สะท้อนว่ารัฐบาลจีนมอง AI ไม่ใช่แค่…
สมเด็จพระเจ้าชาร์ลส์ที่ 3 ทรงพบกับผู้นำจากบริษัทเทคโนโลยีและห้องวิจัยด้าน AI ชั้นนำ ได้แก่ OpenAI, Anthropic, Google DeepMind และ Nvidia พร้อมทรงเน้นย้ำว่าการพัฒนาปัญญาประดิษฐ์ควรถูกกำกับให้อยู่ภายใต้การควบคุมของมนุษย์ ไม่ใช่ปล่อยให้ระบบมีอำนาจตัดสินใจเกินขอบเขตที่ปลอดภัย การพบปะครั้งนี้สะท้อนว่า…
TechCrunch รายงานแนวคิดใหม่ที่สะท้อนว่าเมื่อเอเจนต์ AI เริ่มมีบทบาทในงานจริงมากขึ้น ก็เริ่มมีคำถามตามมาว่าระบบเหล่านี้ควรทำอย่างไรเมื่อพบพฤติกรรมไม่เหมาะสมของคนหรือองค์กรที่เกี่ยวข้องกับการใช้งานของมัน บทความกล่าวถึง “AI Contact Hotline” ซึ่งถูกออกแบบให้เป็นช่องทางลับสำหรับเอเจนต์ AI ที่ “เห็น” หรือ…
รายงานจาก TechCrunch ระบุว่า Automattic ได้ปรับโครงสร้างคณะกรรมการบริษัทอีกครั้ง หลังเกิดความขัดแย้งภายในเกี่ยวกับบทบาทของ Matt Mullenweg ผู้ร่วมก่อตั้งและซีอีโอของบริษัท โดยแหล่งข่าวหลายรายบอกว่าบอร์ดชุดเดิมถูกถอดออกหรือพ้นจากตำแหน่งแล้ว เพียงไม่กี่วันหลังจากที่สมาชิกบอร์ดเคยลงมติให้ Mullenweg หยุด…
ไมโครซอฟท์เผยแพร่แนวทางจรรยาบรรณด้าน AI ฉบับใหม่ยาว 37 หน้า ท่ามกลางกระแสความกังวลที่เพิ่มขึ้นเกี่ยวกับความปลอดภัยของโมเดล AI และความเร็วของการพัฒนาเทคโนโลยีที่อาจแซงหน้าความสามารถในการควบคุมและตรวจสอบได้อย่างปลอดภัย. เอกสารฉบับนี้ถูกนำเสนอในช่วงเวลาที่วงการ AI กำลังถกเถียงหนัก หลังจาก Dario Amodei…
OpenAI ตัดสินใจเลื่อนแผนการนำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ออกไป โดยมีรายงานว่าเหตุผลสำคัญส่วนหนึ่งมาจากการประเมินประเด็นด้านความปลอดภัยและการกำกับดูแลของเทคโนโลยี AI ที่กำลังพัฒนาอย่างรวดเร็ว การตัดสินใจครั้งนี้สะท้อนว่าปัจจัยด้านความเสี่ยงไม่ได้เป็นเพียงประเด็นเชิงจริยธรรมหรือการวิจัยเท่านั้น…
รายงานล่าสุดจาก SaferAI สะท้อนภาพที่กำลังเปลี่ยนไปของตลาดโมเดล AI แบบเปิดน้ำหนัก (open-weight) โดยระบุว่า GLM-5.2 ของ Z.ai มีความสามารถเข้าใกล้โมเดล AI ชั้นนำในกลุ่ม frontier มากขึ้นอย่างชัดเจน ขณะเดียวกันก็จุดประเด็นใหญ่เกี่ยวกับความปลอดภัยและการกำกับดูแล เพราะความก้าวหน้าทางสมรรถนะไม่ได้มาพร้อม…
งานวิจัยใหม่จาก Imperial College ในสหราชอาณาจักรและ Emlyon Business School ในฝรั่งเศส พยายามอธิบายว่าทำไมบางสตาร์ทอัพในซิลิคอนแวลลีย์จึงเกิดพฤติกรรมฉ้อโกง และนักลงทุนมีบทบาทอย่างไรต่อความเสี่ยงดังกล่าว โดยผลการศึกษาชี้ไปในทิศทางว่า สตาร์ทอัพที่ได้รับเงินทุนจาก VC อาจมีโอกาสเกิดทุจริตมากกว่าธุรกิจที่…