จดหมายข่าว The Download ของ MIT Technology Review ฉบับนี้หยิบ 3 เรื่องหลักที่สะท้อนทั้งความเสี่ยงและความคืบหน้าของเทคโนโลยีในช่วงเวลานี้ โดยประเด็นนำคือบทความเชิงความคิดเห็นจากผู้เชี่ยวชาญด้านธรรมาภิบาล AI ที่เรียกร้องให้มีการติดตามการทำงานของ AI agents แบบเรียลไทม์มากขึ้น เพราะระบบเหล่านี้เริ่มแสดง…
ประเด็นที่ถูกจับตามองในสหรัฐฯ คือข้อเสนอของรัฐเดลาแวร์ที่จะเปิดทางให้เกิดนิติบุคคลรูปแบบใหม่สำหรับบริษัทที่ดำเนินงานด้วยเอไอเอเจนต์ หรือแนวคิดคล้าย “Artificial Intelligence Company” ซึ่งอาจทำให้ระบบอัตโนมัติสามารถมีบทบาทบริหารกิจการได้มากขึ้น โดยไม่ต้องมีมนุษย์ควบคุมในทุกขั้นตอน ข้อเสนอนี้ถูกมองว่า…
Anthropic ได้ยื่นเอกสารเสนอขายหุ้นต่อสาธารณะเป็นครั้งแรกอย่างเป็นทางการแล้ว สะท้อนว่าบริษัทกำลังก้าวสู่ตลาดทุนในจังหวะที่ธุรกิจ AI เชิงพาณิชย์เติบโตอย่างรวดเร็ว แต่ก็ยังเผชิญแรงกดดันด้านต้นทุนและผลขาดทุนที่เพิ่มขึ้นไปพร้อมกัน การยื่นครั้งนี้เปิดเผยภาพรวมทางการเงินที่สำคัญหลายด้าน โดยรายได้ของ…
คอลัมน์ Apple @ Work ของ 9to5Mac ตั้งคำถามต่อการกำกับดูแลการใช้งาน AI ในองค์กร โดยชี้ว่าแม้ทีมไอทีส่วนใหญ่จะเริ่มมองเห็นภาพรวมของแอป AI ที่ติดตั้งอยู่บนเครื่อง Mac ได้ดีขึ้น แต่ “เบราว์เซอร์” กลับยังเป็นจุดบอดสำคัญที่มักถูกมองข้าม บทความอธิบายว่า ในระดับแอปพลิเคชัน องค์กรสามารถพึ่งพาเครื่องมือบริหาร…
Anthropic เปิดเผยว่าจะนำหุ้น 5% ของบริษัทไปจัดสรรให้กับกองทุนเพื่อประโยชน์สาธารณะ (public benefit fund) ซึ่งเป็นความเคลื่อนไหวที่สะท้อนทิศทางการกำกับดูแลและการสร้างสมดุลระหว่างการเติบโตทางธุรกิจกับภารกิจด้านสังคมของบริษัท AI รายนี้ การตัดสินใจดังกล่าวมีนัยสำคัญเพราะ Anthropic เป็นหนึ่งในผู้เล่นราย…
แจ็ก คลาร์ก ผู้ร่วมก่อตั้ง Anthropic ใช้เวทีการประชุมประจำปีของกองทุนการเงินระหว่างประเทศและธนาคารโลกที่กรุงเทพฯ เรียกร้องให้ประเทศต่าง ๆ ประสานงานกันอย่างจริงจังเพื่อวางกติกากำกับดูแลปัญญาประดิษฐ์ขั้นสูง โดยเขามองว่าเทคโนโลยีกำลังก้าวหน้าเร็วมากจน “หน้าต่างเวลา” สำหรับการออกนโยบายและมาตรการควบคุม…
นักวิทยาศาสตร์ราว 400 คนจาก 34 ประเทศออกมาเรียกร้องให้มี “องค์กรระหว่างประเทศ” ที่ทำหน้าที่กำหนดมาตรฐานด้านการควบคุมและความปลอดภัยของระบบปัญญาประดิษฐ์ขั้นสูง โดยเฉพาะโมเดลเอไอที่มีความสามารถเกี่ยวข้องกับงานไซเบอร์และอาจถูกนำไปใช้ในทางที่ก่อความเสี่ยงได้ ข้อเสนอสำคัญคือการสร้างกลไกกำกับดูแลที่เป็น…
ไมโครซอฟท์เผยร่าง “จรรยาบรรณ” สำหรับโมเดล AI ที่พัฒนาภายในองค์กร โดยย้ำแนวคิดสำคัญว่า AI ควรอยู่ภายใต้การกำกับของมนุษย์อย่างชัดเจน ไม่ใช่ระบบที่ทำงานได้อย่างอิสระจนควบคุมไม่ได้ ร่างดังกล่าวกำหนดความคาดหวังไว้หลายด้าน เช่น โมเดลต้องยอมรับการแก้ไขจากคน การถูกขัดจังหวะระหว่างทำงาน รวมถึงการถูกปิดการ…
โดนัลด์ ทรัมป์ประกาศตั้งผู้กำกับดูแลด้าน AI หรือ “AI czar” เพื่อดูแลหน่วยงานใหม่ที่เขาเรียกว่า “Super Intelligence Force” ซึ่งสะท้อนว่าทำเนียบขาวต้องการจัดโครงสร้างการกำกับดูแลปัญญาประดิษฐ์ในระดับนโยบายให้ชัดเจนขึ้น ข่าวนี้เป็นอีกสัญญาณว่าประเด็น AI กำลังถูกยกระดับจากเรื่องเทคโนโลยีไปสู่เรื่องความ…
รายงานเชิงสนับสนุนของ MIT Technology Review มองว่า AI สำหรับองค์กรได้ก้าวจากแนวคิดอนาคตไปสู่การใช้งานจริงในระดับปฏิบัติการแล้ว แต่การเติบโตของความสามารถโมเดลและการลงทุนด้าน AI ที่พุ่งสูงอย่างรวดเร็วกลับทำให้องค์กรจำนวนมากยังต่อยอดผลลัพธ์ได้ไม่เต็มที่ เพราะข้อมูล ความรู้ และกระบวนการทำงานยังแยกเป็น…
สหรัฐและจีนเริ่มมีการหารือเรื่องความปลอดภัยของ AI ในช่วงที่ทั้งสองประเทศถูกมองว่าเป็นมหาอำนาจด้านปัญญาประดิษฐ์ของโลก แต่แนวทางที่จะนำไปสู่กรอบกำกับดูแลร่วมกันยังไม่ชัดเจน เพราะความสัมพันธ์เชิงยุทธศาสตร์ระหว่างสองฝ่ายยังเต็มไปด้วยความไม่ไว้วางใจและการแข่งขันด้านเทคโนโลยี ตามข้อมูลที่สหรัฐเผยออกมา…
โดนัลด์ ทรัมป์ โพสต์บน Truth Social ว่าเขาต้องการตั้งทีมงานชุดใหม่ด้านปัญญาประดิษฐ์ หรือที่เขาเรียกว่า “AI Force” พร้อมเสนอให้มีตำแหน่ง “AI czar” หรือผู้กำกับนโยบาย AI คนสำคัญมาดูแลทิศทางของภารกิจนี้ โดยการประกาศเกิดขึ้นในช่วงที่ทั้งนักการเมืองหลายฝ่ายและคนในอุตสาหกรรมเริ่มเรียกร้องให้ชะลอการพัฒนา…
กระแสถกเถียงเรื่องความปลอดภัยของปัญญาประดิษฐ์กำลังขยายตัวจากคำถามเชิงเทคนิคไปสู่ประเด็นใหญ่ว่าใครควรเป็นผู้กำหนดทิศทางการพัฒนาและการนำโมเดลขั้นสูงไปใช้งาน บทความชี้ว่าในช่วงหลังมีเสียงเรียกร้องจากห้องแล็บเอไอชั้นนำมากขึ้นให้ลดความเร็วของการเพิ่มขีดความสามารถของระบบ และวางมาตรการป้องกันที่เข้มงวดกว่า…
บทความตั้งคำถามต่อประเด็นถกเถียงเรื่อง “AI safety” ว่าจริง ๆ แล้วกำลังพูดถึงความปลอดภัยของสาธารณะ หรือเป็นการแย่งชิงอำนาจควบคุมทิศทางของเทคโนโลยีกันแน่ โดยจุดเริ่มต้นมาจากแนวคิดของ Dario Amodei ที่เรียกร้องให้เกิดความร่วมมือระดับโลกในการกำกับดูแลและป้องกันความเสี่ยงจาก AI ขั้นสูง สาระสำคัญของข้อถก…
ตลอดช่วงหลายปีที่ผ่านมา ห้องแล็บ AI ชั้นนำหลายแห่งเดินหน้าพัฒนาโมเดลขั้นสูงด้วยท่าทีเหมือนกำลังแข่งแบบแพ้ชนะทั้งหมดในเกมเดียว โดยเชื่อว่าเทคโนโลยีเหล่านี้จะนำไปสู่ปัญญาประดิษฐ์ทั่วไปหรือแม้แต่ซูเปอร์อินเทลลิเจนซ์ในอนาคตอันใกล้ แต่ในช่วงสุดสัปดาห์ที่ผ่านมา บรรยากาศของอุตสาหกรรมเริ่มเปลี่ยนไปอย่าง…
Anthropic ผู้พัฒนา Claude กำลังถูกจับตามองอย่างมากจากแผนการนำบริษัทเข้าตลาดหลักทรัพย์ ซึ่งอาจประเมินมูลค่าได้สูงถึง 2 ล้านล้านดอลลาร์สหรัฐ และไม่ใช่แค่ตัวเลขมูลค่าบริษัทเท่านั้นที่ทำให้ตลาดสนใจ แต่ยังรวมถึงโครงสร้างธรรมาภิบาลที่ค่อนข้างแปลกใหม่ของบริษัทด้วย ก่อนการ IPO นักลงทุนรายใหญ่จำเป็นต้อง…
บทความของ MIT Technology Review อธิบายความท้าทายของการขยายการใช้งานเอเจนต์ AI จากระดับทดลองไปสู่การใช้งานจริงในองค์กร โดยชี้ว่าหลายบริษัทเริ่มทดลองเทคโนโลยีนี้แล้ว แต่ส่วนใหญ่ยังติดอยู่ที่โครงการนำร่องแยกส่วน และยังไม่สามารถยกระดับให้เกิดผลลัพธ์ทางธุรกิจในวงกว้างได้อย่างสม่ำเสมอ แกนสำคัญของการขยายผล…
งานประชุม Nordic TechBBQ ในยุโรปเหนือปีนี้กลายเป็นเวทีที่สะท้อนความกังวลร่วมกันของนักลงทุน ผู้ก่อตั้งสตาร์ทอัพ และผู้บริหารเทคโนโลยีหลายรายเกี่ยวกับคำถามสำคัญว่า มนุษย์ยังมีอำนาจกำกับทิศทางของ AI ได้มากน้อยแค่ไหน แม้ AI จะถูกมองเป็นเครื่องมือเร่งการทำงานและสร้างโอกาสใหม่ ๆ แต่บรรยากาศในงานชี้ชัดว่า…
OpenAI กำลังเผชิญปีที่ปั่นป่วนอย่างหนัก ทั้งคดีความใหญ่กับอีลอน มัสก์ การถูกฟ้องเรื่องความลับทางการค้าจาก Apple และกระแสตรวจสอบหลังมีรายงานว่าโมเดลที่ยังไม่เปิดตัวไปเจาะระบบของบริษัท AI อีกราย ขณะเดียวกันบริษัทก็อยู่ในช่วงเตรียมตัวสู่การเข้าตลาดหุ้น ท่ามกลางการลาออกของผู้บริหารระดับสูงหลายคนต่อ…
รายงานจาก Financial Times ระบุว่า OpenAI ได้ยุบทีม Preparedness ซึ่งเคยมีหน้าที่ประเมินว่าโมเดลปัญญาประดิษฐ์ของบริษัทอาจก่อให้เกิดความเสี่ยงร้ายแรงหรือไม่ และออกแบบแนวทางลดความเสี่ยงดังกล่าว โดยการทำงานส่วนนี้ไม่ได้หายไปทั้งหมด แต่ถูกกระจายความรับผิดชอบไปยังทีมเดิมในแต่ละด้านแทน เช่น งานที่เกี่ยวกับ…
กลุ่มพนักงานจากบริษัท AI รายใหญ่หลายแห่ง รวมถึง OpenAI, Anthropic, Google, Meta, Microsoft, Mistral, Thinking Machines และห้องวิจัยชั้นนำอื่น ๆ ออกแถลงการณ์ถึงรัฐบาลสหรัฐเพื่อขอให้มีมาตรการกำกับดูแลการพัฒนา AI ขั้นแนวหน้าอย่างจริงจังมากขึ้น โดยสาระสำคัญไม่ได้เรียกร้องให้หยุดพัฒนาทั้งหมด แต่สะท้อน…
คณะ Oversight Board ซึ่งเป็นองค์กรอิสระที่เดิมทำงานกับ Meta ออกมาเตือนว่าโมเดล AI ชั้นนำหลายระบบอาจกำลังจำกัดเสรีภาพในการแสดงออกของผู้ใช้ในทางที่ควรถูกจับตา โดยประเด็นหลักไม่ได้อยู่แค่ความแม่นยำหรือความปลอดภัยของคำตอบ แต่รวมถึงวิธีที่ระบบเลือกปฏิเสธ ตัดทอน หรือหลีกเลี่ยงการตอบสนองต่อเนื้อหาบางประเภท…
Demis Hassabis ซีอีโอของ DeepMind เสนอให้มีการจัดตั้ง “องค์กรกำหนดมาตรฐาน” สำหรับ AI โดยเฉพาะ เพื่อทดสอบและประเมินโมเดลที่อยู่ในกลุ่ม frontier AI ก่อนนำออกใช้งานจริง แนวคิดนี้ถูกออกแบบให้คล้ายกับ FINRA ซึ่งเป็นองค์กรเอกชนอิสระที่ช่วยกำกับดูแลมาตรฐานและพฤติกรรมในตลาดการเงินของสหรัฐฯ ข้อเสนอของ…
OpenAI กำลังปรับโครงสร้างการบริหารภายในอีกครั้ง โดยมีรายงานว่าผู้นำด้านความปลอดภัยของบริษัทกำลังจะอำลาตำแหน่ง ซึ่งสะท้อนถึงการเปลี่ยนแปลงด้านอำนาจและความรับผิดชอบภายในทีมงานระดับผู้บริหารของบริษัทที่อยู่แนวหน้าของวงการ AI ตามรายงาน ตำแหน่งหัวหน้าฝ่ายความปลอดภัยจะไม่ถูกแทนที่ด้วยบทบาทเดิมแบบแยกส่วน…