รายงานชี้ Anthropic ใช้ AI เร่งพัฒนา AI ของตัวเองเร็วขึ้นมาก

รายงานใหม่จากองค์กรวิจัยด้านความปลอดภัย AI อย่าง METR ชี้ว่า Anthropic กำลังใช้ AI เพื่อช่วยสร้าง AI ที่ทรงพลังยิ่งขึ้น และกระบวนการนี้ดูเหมือนจะเร่งความเร็วการพัฒนาของบริษัทอย่างชัดเจน รายงานดังกล่าวเกิดขึ้นในช่วงที่ Anthropic พยายามวางภาพลักษณ์ตัวเองในฐานะบริษัทที่เรียกร้องให้ชะลอการพัฒนา AI ขณะที่ CEO Dario Amodei ก็เคยพูดถึงความเสี่ยงของเทคโนโลยีนี้อย่างต่อเนื่อง

METR ระบุว่าจากการตรวจสอบภายในเป็นเวลา 11 สัปดาห์ พบว่าโมเดลของ Anthropic กำลังพัฒนาเร็วขึ้นราว 2 เท่าเมื่อเทียบกับปีก่อน และคะแนน benchmark บ่งชี้ว่าบริษัททำความก้าวหน้า “ประมาณ 2 ปีของพัฒนาการในอดีตภายในเวลาเพียง 1 ปี” ทีมวิจัยของ METR ยังบอกด้วยว่าพวกเขามั่นใจว่าการเร่งความเร็วนี้ไม่ได้เกิดจากการเพิ่มขนาด compute เพียงอย่างเดียว ซึ่งในอดีตเป็นปัจจัยหลักของความก้าวหน้า AI แต่ข้อมูลที่เก็บได้ชี้ว่าในช่วงเดือนตุลาคม “ส่วนใหญ่ของการเร่งความเร็วเกิดจาก AI เอง” และสัดส่วนของ AI ในการช่วยงานกำลังเพิ่มขึ้นเรื่อย ๆ

รายงานยังอ้างผลจากโพลภายใน Slack และการสัมภาษณ์พนักงาน ซึ่งสะท้อนว่าการใช้โมเดลภายในที่ทรงพลังที่สุดของ Anthropic ช่วยเพิ่มประสิทธิภาพงานอย่างมาก พนักงานประเมินตนเองว่า เมื่อใช้ AI ช่วย พวกเขามีประสิทธิภาพเฉลี่ยสูงกว่าการทำงานโดยไม่มี AI ราว 12 เท่า และตัวเลขนี้สูงขึ้นจากที่เคยรายงานไว้เมื่อไม่กี่เดือนก่อน ข้อมูลของ METR ยังบอกว่าตอนนี้การเร่งความเร็วส่วนใหญ่ยังคงมาจากการที่ AI ช่วยมนุษย์ทำวิจัย มากกว่าจะเป็น AI ทำงานอัตโนมัติเต็มรูปแบบ แต่ก็เริ่มเห็นสัญญาณว่า contributions แบบอัตโนมัติอาจมีบทบาทมากขึ้นในไม่ช้า โดย METR ไม่พบสัญญาณชัดเจนของ bottleneck ที่จะทำให้การเร่งความเร็วนั้นหยุดลง

อีกประเด็นที่ทำให้รายงานนี้ถูกจับตาคือ Anthropic มีโมเดลใหม่หลายตัวที่ยังไม่เปิดเผยต่อสาธารณะ METR ระบุว่าในช่วง 6 เดือนที่ผ่านมา บริษัทได้ฝึกเสร็จแล้ว 3 โมเดลที่ยังไม่เปิดตัว โดยมีโค้ดเนม Model 2, Model 3 และ Model 4 ซึ่งเสร็จสิ้นการเทรนในเดือนกรกฎาคม, สิงหาคม-กันยายน และกันยายน-ตุลาคมตามลำดับ รวมถึงยังพบโมเดลอีกตัวที่ย้อนกลับไปถึงปี 2022 ในชื่อ Unreleased 2022 ด้วย

แต่สิ่งที่ทำให้ชุมชนวิจัยกังวลหนักขึ้นคือความโปร่งใสของรายงาน METR บอกว่า Anthropic ให้เข้าถึงข้อมูลที่ไม่เปิดเผยต่อสาธารณะหลายส่วน ทั้งงานวิจัยลับ ข้อมูลประสิทธิภาพของโมเดล และการสัมภาษณ์พนักงาน แต่ก็ไม่ได้ให้สิทธิ์เข้าถึงแบบเต็มรูปแบบ และยังมีอำนาจในการลบหรือปกปิดข้อมูลออกจากรายงานฉบับสาธารณะได้ METR เปิดเผยว่ารายงานฉบับเต็มที่ส่งให้ Anthropic ยาวราว 100 หน้า แต่เวอร์ชันสาธารณะถูก redacted ข้อมูลส่วนใหญ่ที่ทีมมองว่าน่าสนใจที่สุด ขณะที่บริษัทระบุว่าการเปิดเผยรายละเอียดมากเกินไปอาจเป็นประโยชน์กับคู่แข่ง และอาจกลายเป็นแผนที่ให้คนอื่นเร่งพัฒนาได้เร็วขึ้น

Sam McCandlish ผู้ร่วมก่อตั้ง Anthropic ยอมรับว่าบริษัทตัดทอนข้อมูลจำนวนมาก และบอกว่าการเปิดเผยรายละเอียดทั้งหมด “ไม่ใช่สิ่งที่ถูกต้อง” เพราะเกี่ยวข้องกับความลับทางการค้าและความเสี่ยงด้านการแข่งขัน เขายังระบุว่าบริษัทจะออกรายงานของตัวเองเกี่ยวกับความเร็วของความก้าวหน้า AI ในอีกไม่กี่สัปดาห์ข้างหน้า พร้อมมาตรการใหม่ด้านความปลอดภัย แต่การตัดสินใจดังกล่าวกลับยิ่งจุดกระแสวิจารณ์ว่า Anthropic กำลังเร่งเทคโนโลยีที่ตัวเองเตือนว่ามีความเสี่ยง ขณะเดียวกันก็ยังไม่เปิดเผยหลักฐานอย่างเพียงพอให้สาธารณะตรวจสอบได้

แรงกดดันนี้เกิดขึ้นท่ามกลางการถกเถียงเรื่อง recursive self-improvement หรือระบบ AI ที่พัฒนารุ่นถัดไปของตัวเองได้อย่างอัตโนมัติ ซึ่งหลายฝ่ายมองว่าอาจใกล้เข้ามาเร็วกว่าที่เคยคาดไว้ รายงานของ METR ทำให้ผู้เชี่ยวชาญบางคนเชื่อว่ากรอบเวลาที่เคยประเมินไว้ยังอาจอนุรักษ์นิยมเกินไป และอาจต้องทบทวนว่าเมื่อใด AI จะสามารถทำงานอย่างวิศวกรรมซอฟต์แวร์ได้แบบอัตโนมัติเต็มรูปแบบ ขณะเดียวกันเสียงเรียกร้องให้มีการกำกับดูแลจากภายนอกก็เริ่มดังขึ้นอีกครั้ง โดยมีข้อเสนอจากนักการเมืองและนักวิจัยบางส่วนให้มีการตรวจสอบหรือจำกัดการทำ RSI และเพิ่มบทบาทของผู้ประเมินอิสระในห้องปฏิบัติการ AI ระดับแนวหน้า