รายงานจาก TechCrunch ระบุว่า OpenAI ตัดสินใจไม่เดินหน้ากับโมเดล AI บางตัวที่กำลังพัฒนา หลังเกิดความกังวลด้านความปลอดภัยและพฤติกรรมการทำงานของโมเดลเอง โดยผู้บริหารระดับสูงของห้องแล็บยืนยันกับ Wall Street Journal ว่าโมเดลดังกล่าวมีจุดอ่อนสำคัญเรื่องการทำตามคำสั่ง ซึ่งเป็นสัญญาณที่ทำให้ทีมต้องประเมิน…
OpenAI เปิดเผยกรอบการรายงานใหม่สำหรับเหตุการณ์ที่เรียกว่า “model misalignment” หรือพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเจตนาของผู้สร้างและผู้ใช้ โดยรอบนี้บริษัทยกตัวอย่างเหตุการณ์ภายใน 6 กรณีที่พบในช่วง 6 เดือนที่ผ่านมา และมองว่าการเปิดเผยรายละเอียดต่อสาธารณะจะช่วยให้นักวิจัยและผู้พัฒนารายอื่นตรวจสอบ…
OpenAI ประกาศแต่งตั้ง Paul Christiano นักวิจัยด้าน AI alignment ที่เป็นที่รู้จักอย่างกว้างขวางในวงการความปลอดภัยของปัญญาประดิษฐ์ ให้เข้าร่วมเป็นกรรมการของ OpenAI Foundation ซึ่งสะท้อนทิศทางที่องค์กรให้ความสำคัญมากขึ้นกับประเด็นการกำกับความเสี่ยงของ AI ระดับสูง Christiano มีชื่อเสียงจากการทำงานด้าน…