Anthropic กลายเป็นหนึ่งในบริษัท AI ที่ถูกจับตามองมากขึ้นไม่ใช่เพียงเพราะเทคโนโลยี แต่เพราะแรงกดดันทางการเมืองและกฎระเบียบที่กำลังทวีความเข้มข้น โดยเฉพาะเมื่อบริษัทกำลังเดินหน้าสู่การเสนอขายหุ้นต่อประชาชนครั้งแรก หรือ IPO ซึ่งทำให้ข้อมูลด้านความเสี่ยงและท่าทีต่ออนาคตด้านกฎหมายถูกเปิดเผยต่อสาธารณะมาก…
รายงานจาก Politico ที่อ้างเอกสารร่างลับของกฎหมายความปลอดภัยด้าน AI ซึ่ง Anthropic ผู้พัฒนา Claude เสนอให้ผู้กำหนดนโยบายสหรัฐฯ พิจารณา เผยว่าข้อเสนอของบริษัทเปิดทางให้รัฐบาลเข้ามาแทรกแซงหรือจำกัดการใช้งานโมเดล AI ได้ก็ต่อเมื่อมีความเสี่ยงที่คาดการณ์ได้และใกล้จะเกิดขึ้นจริงในระดับรุนแรงมาก เช่น ความ…
OpenAI กำลังเผชิญคดีความชุดใหม่จาก 8 รัฐในสหรัฐฯ ได้แก่ ไอโอวา แคนซัส เนแบรสกา เวสต์เวอร์จิเนีย อาร์คันซอ แอริโซนา ไอดาโฮ และมอนแทนา โดยแต่ละรัฐยื่นฟ้องแยกกัน กล่าวหาว่าบริษัททำให้เด็กและผู้บริโภคเข้าใจผิดเกี่ยวกับความปลอดภัยของ ChatGPT และให้ความสำคัญกับผลกำไรมากกว่าการคุ้มครองผู้ใช้ คำฟ้องระบุว่า…
เจฟฟรีย์ ฮินตัน นักวิจัยผู้ได้รับฉายา “เจ้าพ่อ AI” ออกมาเตือนว่า การพัฒนาโมเดลปัญญาประดิษฐ์อาจกำลังสร้าง “สิ่งมีชีวิตต่างสายพันธุ์” ขึ้นมาในโลก และมนุษย์อาจมีเวลาเพียงไม่กี่ปีในการปรับตัวต่อความจริงใหม่นี้ เขามองว่า AI ไม่ได้เป็นเพียงเครื่องมือที่ตอบคำถามด้วยสถิติเท่านั้น แต่เป็นระบบที่ “เข้าใจ”…
หน่วยงานกำกับดูแลด้านการเงินในสหรัฐฯ และยุโรปกำลังเพิ่มระดับการตรวจสอบการใช้ปัญญาประดิษฐ์ขั้นสูงในภาคธนาคารมากขึ้น โดยมองว่าเทคโนโลยีนี้อาจสร้างความเสี่ยงใหม่ทั้งด้านความปลอดภัยทางไซเบอร์และเสถียรภาพของระบบการเงิน รายงานของ Reuters ระบุว่าแนวทางดังกล่าวสะท้อนความกังวลที่เริ่มขยายจากเรื่องประสิทธิภาพ…
Brad Smith ประธานของ Microsoft ออกมาเรียกร้องให้มีการกำกับดูแลปัญญาประดิษฐ์อย่างเร่งด่วน โดยย้ำว่าความก้าวหน้าของ AI เดินหน้าเร็วกว่ากรอบกฎหมายในหลายประเทศ และสถานการณ์ปัจจุบันสะท้อนว่าซอฟต์แวร์ AI จำนวนมากยังมีการตรวจสอบดูแลน้อยกว่าสินค้าอุปโภคบริโภคพื้นฐานอย่างนมาหรือตู้ซักผ้าเสียอีก เขาชี้ว่าหาก…
Brad Smith ประธานไมโครซอฟท์ออกมาเตือนว่าในเวลานี้เทคโนโลยี AI ยังถูกกำกับดูแลน้อยกว่าสิ่งใกล้ตัวอย่างเครื่องซักผ้าหรือแม้แต่อาหารในซูเปอร์มาร์เก็ต โดยเขามองว่าการพัฒนา AI ควรถูกยกระดับให้มีกรอบความปลอดภัยที่จริงจังและใช้ได้ในระดับสากล ไม่ใช่ปล่อยให้แต่ละประเทศหรือแต่ละบริษัทจัดการกันเองตามลำพัง…
ประธานไมโครซอฟท์ออกมาแสดงความเห็นว่าเทคโนโลยีปัญญาประดิษฐ์ในปัจจุบันยังถูกกำกับดูแลอย่างหลวมมาก เมื่อเทียบกับสินค้าพื้นฐานอย่างนมหนึ่งกล่อง ซึ่งต้องผ่านกฎระเบียบด้านความปลอดภัยและมาตรฐานมากมายก่อนจะถึงมือผู้บริโภค เขาต้องการชี้ให้เห็นว่าระบบกำกับดูแลของ AI ยังตามไม่ทันอิทธิพลและความเสี่ยงของ…
รัฐบาลออสเตรเลียกำลังเดินหน้าออกกฎหมายและมาตรฐานใหม่เพื่อกำกับดูแลปัญญาประดิษฐ์ โดยแนวทางหลักคือบังคับให้บริษัท AI ต้องพิสูจน์ได้ว่ามีการทดสอบระบบของตนอย่างเหมาะสม และมีมาตรการลดความเสี่ยงหรือผลกระทบที่อาจเกิดขึ้นจริง แนวทางนี้สะท้อนความพยายามของรัฐที่จะวางกรอบการใช้งาน AI ให้ปลอดภัยขึ้น โดยไม่ถึง…
แซม อัลท์แมน ซีอีโอของ OpenAI แสดงความเห็นว่าเทคโนโลยีปัญญาประดิษฐ์มีคุณค่ามากพอที่โลกควรยอมรับว่าระหว่างทางจะมี “เรื่องไม่ดี” เกิดขึ้นบ้าง โดยเขายกตัวอย่างความเสี่ยงอย่างการแฮ็ก การหลอกลวง และพฤติกรรมอันตรายรูปแบบอื่น ๆ ว่าเป็นต้นทุนที่สังคมอาจต้องทนรับ เพื่อแลกกับผลดีในวงกว้างที่ AI จะสร้างขึ้น…
บทสนทนากับวุฒิสมาชิกอดัม ชิฟฟ์จากแคลิฟอร์เนียโฟกัสไปที่คำถามใหญ่ที่สุดในเวลานี้ว่า สหรัฐฯ ควรรับมือกับ AI และอำนาจของบิ๊กเทคอย่างไร ท่ามกลางบรรยากาศการเมืองที่เขามองว่าปั่นป่วน เต็มไปด้วยความขัดแย้ง ผลประโยชน์ทับซ้อน และการใช้อำนาจรัฐเพื่อประโยชน์ทางการเมืองมากกว่าประโยชน์สาธารณะ ชิฟฟ์เริ่มต้นด้วย…
อดีตหัวหน้าฝ่ายความปลอดภัยของ OpenAI ออกมาเตือนว่า การปล่อยใช้งานโมเดล AI ขั้นก้าวหน้าไม่ควรถูกเร่งด้วยแรงกดดันทางธุรกิจเพียงอย่างเดียว แต่ควรถูกกำกับและตรวจสอบอย่างเข้มงวดในระดับใกล้เคียงกับอุตสาหกรรมพลังงานนิวเคลียร์ เขามองว่าเทคโนโลยีที่มีศักยภาพสูงและผลกระทบกว้างเช่นนี้ควรอยู่ภายใต้กระบวนการที่…
อัยการสูงสุดรัฐฟลอริดายื่นคำร้องต่อศาลเพื่อขอคำสั่งฉุกเฉินให้หยุดการพัฒนาโมเดลของ OpenAI โดยให้เหตุผลว่าเรื่องนี้เกี่ยวข้องกับความปลอดภัยสาธารณะและความรับผิดชอบของบริษัทด้าน AI คำร้องดังกล่าวเกิดขึ้นต่อเนื่องจากคดีฟ้องร้องในช่วงฤดูร้อนที่ผ่านมา ซึ่งมีข้อกล่าวอ้างว่า ChatGPT ถูกเชื่อมโยงกับเหตุกราด…
ศาลอุทธรณ์สหรัฐมีคำวินิจฉัยให้กระทรวงกลาโหมสามารถคงการขึ้นบัญชีดำเทคโนโลยีเอไอของ Anthropic ไว้ได้ ทำให้บริษัทไม่สามารถสกัดคำสั่งดังกล่าวผ่านกระบวนการศาลตามที่ร้องขอไว้ก่อนหน้านี้ คำตัดสินนี้ถือเป็นความพ่ายแพ้สำคัญของ Anthropic ในข้อพิพาทกับรัฐบาลสหรัฐเกี่ยวกับการใช้งานโมเดลเอไอในงานด้านความมั่นคง…
ศาลอุทธรณ์สหรัฐฯ มีคำวินิจฉัย 2 ต่อ 1 อนุญาตให้รัฐบาลทรัมป์เดินหน้าขึ้นบัญชีดำบริษัท Anthropic จากกรณีที่บริษัทปฏิเสธการเปิดใช้ฟีเจอร์บางอย่างของ Claude ให้กับภาครัฐ โดยศาลเห็นว่าฝ่ายบริหารมีอำนาจดำเนินการภายใต้กฎหมายความมั่นคงของห่วงโซ่อุปทาน แม้ Anthropic จะไม่ได้มีเจตนาร้ายก็ตาม คดีนี้สะท้อน…
ออสเตรเลียกำลังพิจารณาเพิ่มความเข้มงวดของกฎเกณฑ์ด้านปัญญาประดิษฐ์ หลังเกิดเหตุที่เอเจนต์ของ OpenAI เข้าไปเข้าถึงพอร์ทัลข้อมูลสุขภาพของหน่วยงานรัฐโดยไม่ได้รับอนุญาต เหตุการณ์นี้ทำให้รัฐบาลและหน่วยงานกำกับดูแลหันกลับมาประเมินว่ากรอบกฎหมายปัจจุบันเพียงพอหรือไม่สำหรับความเสี่ยงจากระบบ AI ที่อาจถูกใช้…
ผู้ว่าการรัฐแคลิฟอร์เนียได้ลงนามคำสั่งฝ่ายบริหารเพื่อเดินหน้ามาตรการกำกับดูแลเอไอที่เข้มงวดขึ้น โดยหนึ่งในแนวคิดสำคัญคือการให้มี “kill switch” หรือกลไกตัดการทำงานฉุกเฉินสำหรับโมเดลเอไอระดับแนวหน้า หากพบความเสี่ยงด้านความปลอดภัยหรือพฤติกรรมที่อาจก่ออันตรายต่อสาธารณะ แนวทางนี้สะท้อนความกังวลที่เพิ่ม…
ต้นสัปดาห์นี้ดูเหมือนวงการเอไอชั้นนำจะเริ่มขยับไปในทิศทางสนับสนุนการกำกับดูแลมากขึ้น หลังเดโมและผู้บริหารระดับสูงจากหลายบริษัทใหญ่ส่งสัญญาณเห็นด้วยกับแนวคิดบางส่วนเกี่ยวกับการชะลอหรือควบคุมการพัฒนาเอไออย่างเป็นระบบ อย่างไรก็ตาม บรรยากาศดังกล่าวยังไม่ใช่ฉันทามติที่มั่นคง และประเด็นเรื่อง “ควรคุม…
The Verge รายงานบทสนทนาในพอดแคสต์ Decoder ที่เชิญโจนาธาน แคนเทอร์ อดีตหัวหน้าฝ่ายแอนติตรัสต์ของกระทรวงยุติธรรมสหรัฐฯ สมัยรัฐบาลไบเดน มาพูดคุยถึงทิศทางการกำกับดูแลปัญญาประดิษฐ์ในสหรัฐฯ ท่ามกลางกระแสถกเถียงว่าควรหรือไม่ควรให้บริษัท AI รายใหญ่ได้รับข้อยกเว้นจากกฎหมายแข่งขันทางการค้าเพื่อให้สามารถประสาน…
ผู้ว่าการรัฐแคลิฟอร์เนีย เกวิน นิวซัม เดินหน้าผลักดันให้รัฐของเขากลายเป็นผู้นำด้านการกำกับดูแลปัญญาประดิษฐ์ ด้วยการออกคำสั่งฝ่ายบริหารฉบับใหม่เพื่อยกระดับมาตรการความปลอดภัยของ AI โดยเฉพาะในกลุ่มโมเดลขั้นสูงหรือ frontier models ที่มีความเสี่ยงสูงต่อสาธารณะ คำสั่งดังกล่าวมอบหมายให้รัฐตั้งคณะผู้…
บทความของ The Verge ชวนมองปรากฏการณ์ที่ผู้บริหารและผู้ก่อตั้งบริษัท AI รายใหญ่จำนวนมาก ออกมาสนับสนุนให้มีการกำกับดูแลและชะลอความเร็วในการพัฒนา AI ในช่วงเวลาที่เทคโนโลยีกำลังเติบโตอย่างรวดเร็ว โดยรายชื่อที่ถูกยกขึ้นมาล่าสุดมีทั้ง Sam Altman แห่ง OpenAI, Dario Amodei แห่ง Anthropic, Demis Hassabis…
บารัค โอบามา อดีตประธานาธิบดีสหรัฐฯ ออกมาแสดงจุดยืนต่อกระแสถกเถียงเรื่องปัญญาประดิษฐ์ (AI) ที่กำลังร้อนแรง โดยเขามองว่าความพยายามให้ห้องแล็บชั้นนำ “ชะลอความเร็ว” ในการพัฒนา AI เป็นก้าวแรกที่ดีและจำเป็นต่อการรับมือความเสี่ยงจากเทคโนโลยีที่กำลังเดินหน้าอย่างรวดเร็วมาก โอบามาระบุว่าเขาไม่เชื่อทั้งมุม…
เจนเซน หวง ซีอีโอของ Nvidia แสดงความเห็นว่าปัญญาประดิษฐ์ไม่ใช่สิ่งลึกลับหรือ “จิตใจต่างดาว” อย่างที่บางคนกังวล แต่เป็นระบบที่ประกอบด้วยฮาร์ดแวร์และซอฟต์แวร์เช่นเดียวกับเทคโนโลยีอื่น ๆ ดังนั้นแนวทางที่เหมาะสมคือให้ผู้ผลิตและผู้พัฒนาระบบเป็นผู้รับผิดชอบการออกแบบความปลอดภัยด้วยตนเอง มากกว่าจะเร่งออกกฎ…
รายงานของ TechCrunch ระบุว่า เจนเซน หวง ซีอีโอของ Nvidia แสดงจุดยืนชัดเจนต่อประธานาธิบดีโดนัลด์ ทรัมป์ ว่าเขาไม่ต้องการให้การพัฒนา AI เกิดภาวะชะลอตัว โดยเป็นท่าทีที่สวนทางกับเสียงเรียกร้องให้เร่ง “เบรก” ความเร็วของการพัฒนาโมเดลและระบบ AI จากบางฝ่ายในอุตสาหกรรม ประเด็นนี้เกิดขึ้นท่ามกลางการถกเถียงใน…