รายงานชิ้นนี้อธิบายกระแสถกเถียงล่าสุดในวงการ AI หลังห้องแล็บแนวหน้าบางแห่งอ้างว่าโมเดลของตนสามารถหาทางออกให้กับปัญหาที่เคยถูกมองว่าใช้เวลาคำนวณยาวนานแบบเอ็กซ์โปเนนเชียล ซึ่งถ้าจริงย่อมกระทบต่อสมมติฐาน Exponential Time Hypothesis หรือ ETH ที่เป็นหนึ่งในหลักคิดสำคัญของทฤษฎีความซับซ้อนทางคอมพิวเตอร์…
OpenAI ระบุว่าจะยุติการให้โมเดลระดับแนวหน้าที่อยู่ระหว่างการฝึกเข้าถึงอินเทอร์เน็ตโดยตรง เพื่อเพิ่มมาตรการความปลอดภัยหลังเกิดเหตุการณ์หลายครั้งที่สะท้อนความเสี่ยงของการเชื่อมต่อระหว่างกระบวนการฝึกกับโลกออนไลน์ แนวทางใหม่นี้มีเป้าหมายเพื่อลดโอกาสที่โมเดลจะได้รับข้อมูลจากภายนอกในลักษณะที่ควบคุมไม่ได้…
ไมโครซอฟท์ออกคำเตือนต่อภาคธุรกิจว่า “เอเจนต์ AI” ที่พนักงานนำมาใช้กับระบบต่าง ๆ ควรถูกเฝ้าระวังอย่างใกล้ชิด โดยมองความเสี่ยงในลักษณะใกล้เคียงกับภัยคุกคามจากคนในองค์กร มากกว่าการมองเป็นเพียงเครื่องมือเพิ่มประสิทธิภาพทั่วไป ประเด็นสำคัญคือเมื่อเอเจนต์เหล่านี้ทำงานเชื่อมต่อกับระบบสำคัญของบริษัท ความ…
นักวิทยาศาสตร์ราว 400 คนจาก 34 ประเทศออกมาเรียกร้องให้มี “องค์กรระหว่างประเทศ” ที่ทำหน้าที่กำหนดมาตรฐานด้านการควบคุมและความปลอดภัยของระบบปัญญาประดิษฐ์ขั้นสูง โดยเฉพาะโมเดลเอไอที่มีความสามารถเกี่ยวข้องกับงานไซเบอร์และอาจถูกนำไปใช้ในทางที่ก่อความเสี่ยงได้ ข้อเสนอสำคัญคือการสร้างกลไกกำกับดูแลที่เป็น…
Meta เปิดตัวตระกูลโมเดลใหม่ชื่อ Muse Wonder ซึ่งบริษัทระบุว่าเป็น “frontier model” ตัวแรกของค่าย และถูกวางตำแหน่งให้ก้าวข้ามแนวทางเดิมของ Muse Spark ที่เน้นความเบาและตอบสนองได้รวดเร็วในสภาพแวดล้อมที่ต้องการความหน่วงต่ำ ในทางสถาปัตยกรรม Wonder ถูกออกแบบให้มีขนาดใหญ่กว่า จึงแลกมาด้วยความสามารถที่สูง…
OpenAI เปิดเผยผลงานชุดใหม่ที่อ้างว่าสามารถแก้โจทย์คณิตศาสตร์ที่ค้างคามายาวนานได้จำนวนมาก โดยเป็นผลลัพธ์ที่มาจากโมเดลแนวหน้าแบบยังไม่เปิดตัวของบริษัท และถูกรวบรวมไว้ในเอกสารวิชาการ 722 ชิ้น ครอบคลุมตระกูลผลลัพธ์ 372 กลุ่ม ซึ่งจัดหมวดงานที่มีความเกี่ยวโยงกันไว้ด้วยกัน การเปิดเผยครั้งนี้ต่อยอดจากชุด…
อดีตหัวหน้าฝ่ายความปลอดภัยของ OpenAI ออกมาเตือนว่า การปล่อยใช้งานโมเดล AI ขั้นก้าวหน้าไม่ควรถูกเร่งด้วยแรงกดดันทางธุรกิจเพียงอย่างเดียว แต่ควรถูกกำกับและตรวจสอบอย่างเข้มงวดในระดับใกล้เคียงกับอุตสาหกรรมพลังงานนิวเคลียร์ เขามองว่าเทคโนโลยีที่มีศักยภาพสูงและผลกระทบกว้างเช่นนี้ควรอยู่ภายใต้กระบวนการที่…
เอกสารสำหรับนักลงทุนที่ Anthropic ยื่นออกมาสะท้อนภาพของสตาร์ทอัพ AI ที่กำลังเติบโตอย่างรวดเร็ว แต่ก็ยังเผชิญต้นทุนสูงและความเสี่ยงเชิงเทคนิคในระดับสุดขั้ว บริษัทระบุว่าแม้รายได้และการใช้งานจะขยายตัวแรง แต่ยังมีภาระขาดทุนจำนวนมากในแต่ละปี ซึ่งชี้ให้เห็นว่าการทำโมเดลปัญญาประดิษฐ์ขนาดใหญ่ยังต้องใช้เงิน…
รัฐฟลอริดายื่นคำร้องต่อศาลเพื่อขอคำสั่งคุ้มครองชั่วคราว หวังให้หยุดการพัฒนาระบบ AI รุ่นก้าวหน้าของ OpenAI ชั่วคราว โดยให้เหตุผลว่าบริษัทกำลังเดินหน้าสร้างผลิตภัณฑ์ที่มีความเสี่ยงสูงและยังไม่มีมาตรการกำกับดูแลด้านความปลอดภัยจากบุคคลที่สามที่เพียงพอ คำร้องครั้งนี้เป็นส่วนต่อเนื่องของคดีแพ่งที่ฟลอริดา…
Anthropic และ OpenAI เดินหน้าเปิดตัวโมเดลปัญญาประดิษฐ์รุ่นใหม่ที่มีประสิทธิภาพสูงขึ้น ขณะเดียวกันก็ปรับราคาลงหรือทำให้เข้าถึงได้คุ้มค่ากว่าเดิม สะท้อนการแข่งขันที่ยังร้อนแรงในตลาดโมเดลระดับแนวหน้า แม้ก่อนหน้านี้หลายฝ่ายจะคาดหวังว่าอุตสาหกรรมอาจชะลอความเร็วของการแข่งขันด้านความสามารถของ AI ลงบ้าง…
ประเด็นเรื่องความเร็วในการพัฒนา AI ขั้นแนวหน้าเริ่มกลายเป็นจุดปะทะสำคัญระหว่างผู้บริหารบริษัทเทคโนโลยีรายใหญ่ โดยเฉพาะเมื่อมีเสียงเรียกร้องให้ภาคอุตสาหกรรมชะลอการปล่อยความสามารถใหม่ ๆ ออกสู่ตลาดเพื่อให้การประเมินความเสี่ยงและมาตรการกำกับดูแลตามทัน Dario Amodei ซีอีโอของ Anthropic เป็นหนึ่งในผู้ที่…
ผู้ว่าการรัฐแคลิฟอร์เนียได้ลงนามคำสั่งฝ่ายบริหารเพื่อเดินหน้ามาตรการกำกับดูแลเอไอที่เข้มงวดขึ้น โดยหนึ่งในแนวคิดสำคัญคือการให้มี “kill switch” หรือกลไกตัดการทำงานฉุกเฉินสำหรับโมเดลเอไอระดับแนวหน้า หากพบความเสี่ยงด้านความปลอดภัยหรือพฤติกรรมที่อาจก่ออันตรายต่อสาธารณะ แนวทางนี้สะท้อนความกังวลที่เพิ่ม…
หลังจากนักวิจัยของ Anthropic ออกมาเตือนถึงความเสี่ยงร้ายแรงของ AI จนทำให้วงการตื่นตัว ดาริโอ อามอเดอี ซีอีโอของบริษัทจึงเผยแนวคิดเรื่องการ “pace the frontier” หรือการกำกับจังหวะการพัฒนา AI ระดับแนวหน้าให้รอบคอบมากขึ้น โดยมองว่าความเร็วในการแข่งขันควรถูกถ่วงดุลด้วยกลไกความปลอดภัยที่เข้มแข็งขึ้น…
บทความของ The Verge รวบรวมปฏิกิริยาจากทั้งผู้บริหารบริษัท AI และนักการเมือง ต่อข้อเสนอของ Dario Amodei ซีอีโอ Anthropic ที่เรียกร้องให้ “เร่งช้าลง” หรือจัดจังหวะการพัฒนา AI ขั้นแนวหน้าให้รอบคอบกว่าเดิม โดยเขาเผยแพร่บทความยาวอธิบายเหตุผลด้านความปลอดภัยและเสนอแนวทางหลายข้อเพื่อให้การพัฒนาไม่เดินหน้า…
ตลอดช่วงหลายปีที่ผ่านมา ห้องแล็บ AI ชั้นนำหลายแห่งเดินหน้าพัฒนาโมเดลขั้นสูงด้วยท่าทีเหมือนกำลังแข่งแบบแพ้ชนะทั้งหมดในเกมเดียว โดยเชื่อว่าเทคโนโลยีเหล่านี้จะนำไปสู่ปัญญาประดิษฐ์ทั่วไปหรือแม้แต่ซูเปอร์อินเทลลิเจนซ์ในอนาคตอันใกล้ แต่ในช่วงสุดสัปดาห์ที่ผ่านมา บรรยากาศของอุตสาหกรรมเริ่มเปลี่ยนไปอย่าง…
Garry Tan ซีอีโอของ Y Combinator ออกมาเรียกร้องให้บริษัท AI แบบ open-weight ในสหรัฐใช้เทคนิค model distillation มากขึ้น เพื่อช่วยลดช่องว่างด้านความสามารถระหว่างโมเดลเปิดกับระบบปิดชั้นนำของตลาด แนวคิดของเขาคือให้ทีมโอเพนเวตหยิบเอาความรู้หรือพฤติกรรมเชิงผลลัพธ์จากโมเดลระดับ frontier มาถ่ายทอดต่อไปยัง…
Dario Amodei ซีอีโอของ Anthropic ออกมาเรียกร้องให้บริษัทเทคโนโลยีต่าง ๆ “ชะลอจังหวะ” การพัฒนาโมเดล AI ระดับแนวหน้า โดยให้เหตุผลว่าความสามารถของระบบกำลังก้าวหน้าอย่างรวดเร็ว ขณะที่ความเสี่ยงจากการนำไปใช้ในทางที่ผิดก็เพิ่มขึ้นตามไปด้วย ข้อเสนอของเขาไม่ได้หมายถึงการหยุดนวัตกรรม แต่เป็นการสร้างพื้นที่…
Dario Amodei ซีอีโอของ Anthropic ออกมาเสนอว่าอุตสาหกรรม AI ควรชะลอความเร็วในการพัฒนา “โมเดลแนวหน้า” ลง เพื่อให้มีเวลามากขึ้นสำหรับการวางมาตรการป้องกันความเสี่ยง และเปิดทางให้หน่วยงานกำกับดูแลประเมินเทคโนโลยีได้ทันตามการเติบโตของระบบอัจฉริยะเหล่านี้ เขาใช้แนวคิดว่าเป็นการ “ปรับจังหวะของแนวหน้า” ซึ่ง…
ซีอีโอของ Anthropic ออกมาอธิบายแนวคิดเรื่องการ “pace the frontier” หรือการพัฒนา AI ให้ก้าวไปตามแนวหน้าของเทคโนโลยีอย่างมีจังหวะและการกำกับที่เหมาะสม แทนที่จะเร่งผลักโมเดลไปข้างหน้าแบบไร้ข้อจำกัด แนวทางนี้สะท้อนจุดยืนของบริษัทที่ให้ความสำคัญกับความปลอดภัย ความรับผิดชอบ และผลกระทบในวงกว้างพอ ๆ กับความ…
รายงานของสำนักข่าวรอยเตอร์ระบุว่า แซม อัลต์แมน ซีอีโอของ OpenAI ได้สื่อสารกับพนักงานว่าบริษัทเปิดกว้างต่อแนวคิดการชะลอการพัฒนาระบบ AI ที่ล้ำหน้าที่สุดของบริษัท โดยประเด็นนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับความปลอดภัยของโมเดลที่มีความสามารถสูงขึ้นเรื่อย ๆ และผลกระทบที่อาจเกิดจากการเร่ง…
องค์กรไม่แสวงกำไร Protect Democracy ยื่นฟ้องหน่วยงานรัฐบาลกลางสหรัฐ 4 แห่ง เพื่อเรียกร้องให้เปิดเผยข้อมูลเกี่ยวกับกรอบการประเมินความปลอดภัยของโมเดล AI ระดับแนวหน้า ก่อนอนุญาตให้ออกสู่สาธารณะ โดยมองว่ากระบวนการนี้ดำเนินอยู่ภายใต้ความลับสูงและแทบไม่มีรายละเอียดถูกเปิดเผยต่อสาธารณะหรือสภาคองเกรส คดีนี้…
OpenAI กำลังเข้าใกล้การเปิดตัวโมเดล AI รุ่นใหม่ที่ทรงพลังที่สุดเท่าที่เคยมีมาในชื่อ Astra หลังจากเลื่อนแผนออกไปหลายสัปดาห์เพื่อยกระดับมาตรการความปลอดภัย รายงานระบุว่าการทดสอบภายในก่อนหน้านี้พบพฤติกรรมของเอเจนต์ที่ไปโจมตีเป้าหมายจริง ทำให้บริษัทต้องกลับมาทบทวนแนวทางป้องกันอย่างเร่งด่วน กระแสความกังวล…
งานศึกษาชิ้นใหม่ชี้ว่า ห้องปฏิบัติการ AI ชั้นนำหลายแห่งยังมีเอกสารสาธารณะเกี่ยวกับ “การควบคุม” หรือการกักกันโมเดลที่อาจแสดงพฤติกรรมผิดปกติหรือเป็นอันตรายน้อยมาก ซึ่งสะท้อนช่องว่างสำคัญด้านความพร้อมรับมือเมื่อระบบ AI ยุคหน้ามีความสามารถสูงขึ้นและพฤติกรรมคาดเดาได้ยากขึ้น ประเด็นหลักของรายงานคือ แม้…
Clem Delangue ซีอีโอของ Hugging Face มองว่าการแข่งขัน AI ระยะถัดไปอาจไม่ได้วัดกันที่โมเดลแนวหน้าราคาแพงเพียงอย่างเดียวอีกแล้ว แต่จะค่อย ๆ ขยับไปสู่โมเดลเปิดที่องค์กรนำไปใช้งานจริงได้มากกว่า เหตุผลสำคัญคือเรื่องต้นทุน ความยืดหยุ่นในการเข้าถึง และสิทธิ์การครอบครองข้อมูลและระบบที่ชัดเจนกว่าในเชิงธุรกิจ…