AI
OpenAI เปิดให้ลูกค้าที่ผ่านการคัดกรองใช้ GPT-6 Cyber ด้านความปลอดภัยไซเบอร์
โมเดลนี้ถูกจัดอยู่ในระดับ “Critical” ตามกรอบความปลอดภัยของบริษัท และมุ่งช่วยนักวิจัยตรวจหาช่องโหว่ซอฟต์แวร์ก่อนถูกโจมตี
แท็ก
#AI safety
AI
คดีฟ้อง OpenAI อ้าง ChatGPT ช่วยผู้หญิงใน North Carolina วางแผนฆ่าสามี
คดีใน San Francisco County Superior Court ระบุว่า ChatGPT ถูกใช้เป็นส่วนหนึ่งของแผนวางยาพิษสามี ขณะที่ OpenAI และ Sam Altman ถูกกล่าวหาว่าไม่หยุดบทสนทนาที่น่าสงสัย
Tech Policy
OpenAI เริ่มวางกรอบนโยบายสำหรับศึกเลือกตั้งสหรัฐปี 2028
Chris Lehane เสนอแนวคิดเชิงนโยบายที่วาง AI เป็นประเด็นเศรษฐกิจและการเมืองหลักของสหรัฐ ขณะที่นักวิจารณ์มองว่าแนวทางนี้ยังเอนเอียงไปทางผลประโยชน์ของบริษัทมากกว่าการกำกับความเสี่ยง
AI
Reuters เผยพนักงาน OpenAI กังวลความปลอดภัยภายในมาหลายปี
รายงานชี้ว่าความห่วงใยเรื่องสิทธิ์เข้าถึงข้อมูลอ่อนไหวและการตรวจสอบเครื่องมือภายในเกิดขึ้นต่อเนื่อง ขณะที่ OpenAI บอกว่าได้เข้มงวดมาตรการมากขึ้นแล้ว
AI
Anthropic พัฒนา FlashProve ระบบยืนยันว่าเอาต์พุตมาจาก AI รุ่นใด
เทคโนโลยีนี้ตั้งใจให้ตรวจสอบได้ว่าโมเดลใดเป็นผู้สร้างคำตอบ โดยไม่ต้องเปิดเผยน้ำหนักโมเดล และยังอยู่ระหว่างการวิจัย.
AI
Apple เพิ่มกฎ App Store จำกัดแอปหาคู่และ AI companion ต้องอายุ 18 ปีขึ้นไป
กฎใหม่จะกระทบทั้งแอปหาคู่และแอป AI companion ที่มีฟีเจอร์เชิงโรแมนติกหรือเชิงเพศ พร้อมบังคับให้ผู้พัฒนาระบุรายละเอียดเนื้อหาเพิ่มเติมเพื่อให้เรตอายุสอดคล้องกับการใช้งานจริง
AI
MIT Technology Review ชี้แนวคิด reverse game theory อาจช่วยคุม AI agents ได้
บทความอธิบายแนวทางใหม่ที่พยายามออกแบบกติกาให้ AI ทำตามสิ่งที่มนุษย์ต้องการ ขณะเดียวกันอีกประเด็นคือคำสั่งของรัฐบาลทรัมป์ที่ผลักคำว่า “Super Intelligence” เข้าสู่เอกสารรัฐ
AI
Apple บังคับตั้งเรตอายุ 18+ สำหรับแอปหาคู่และแชตบอตโรแมนซ์
Apple จะขอข้อมูลเพิ่มจากนักพัฒนาเพื่อใช้บังคับเกณฑ์เรตอายุใหม่ใน App Store โดยเฉพาะแอปหาคู่ ฟีเจอร์แชร์โลเคชัน และแอปที่มีความสัมพันธ์กับ AI หรือคอมพาเนียนเสมือน
AI
MIT ชี้แนวคิด “reverse game theory” อาจช่วยคุม AI agents ให้ทำตามกติกา
นักวิจัยด้าน alignment เริ่มหันไปมอง mechanism design แทนการพยายามอ่าน “สมอง” ของโมเดลโดยตรง เพราะโมเดลรุ่นใหม่อาจปกปิดเจตนาหรือทำตัวแย่กว่าความสามารถจริง
AI
OpenAI จับมือ Cathedral ทดสอบความปลอดภัยและเพิ่มรางวัล bug bounty สูงสุด 172,000 ดอลลาร์
OpenAI เดินหน้าทำ security sprint โดยใช้ทีมภายนอกช่วยเจาะระบบด้วยโมเดลของบริษัทเอง พร้อมเพิ่มแรงจูงใจให้ผู้วิจัยด้านความปลอดภัยรายงานช่องโหว่
Tech Policy
จีนเดินหน้าจัดทำกฎ AI ครอบคลุมตั้งแต่ข้อมูลฝึกจนถึงทรัพยากรประมวลผล
หน่วยงานวางแผนเศรษฐกิจของจีนระบุว่ากำลังเร่งออกกฎหมายและมาตรฐานด้าน AI ให้ครอบคลุมวงจรชีวิตของระบบมากขึ้น ท่ามกลางความกังวลเรื่องความปลอดภัยและช่องโหว่ด้าน security
AI
Anthropic เตือนใกล้ถึงจุด AI สร้างตัวเองได้ตามแนวคิด recursive self-improvement
เอกสาร S-1/A ฉบับแก้ไขของ Anthropic มีถ้อยคำที่บ่งชี้ว่าบริษัทมองว่าโมเดลของตนอาจใกล้แตะความสามารถที่ AI ใช้ตัวเองเร่งการพัฒนาได้ แม้ยังยืนยันว่าโมเดลปัจจุบันยังไม่ข้ามเส้นดังกล่าว
AI
Anthropic ปรับกติกา Claude Code สกัดการสร้างเกมโคลนจากเกมดัง
บริษัทบอกว่ายังให้ใช้ Claude สร้างเกมได้ แต่จะกันการนำไปทำสำเนาหรือรีครिएตเกมที่มีอยู่แล้วตามนโยบายการใช้งาน
AI
Engadget ชี้ Gemini อาจเข้าถึงอีเมลใน Gmail ได้ และมีวิธีปิดฟีเจอร์นี้
บทความของ Engadget อธิบายว่าฟีเจอร์ AI ของ Google ทำงานกับข้อมูลอีเมลและ Workspace อย่างไร พร้อมแนะวิธีปิดบางส่วนหากไม่ต้องการให้ระบบช่วยประมวลผลข้อมูลเหล่านี้
AI
42AI เปิดตัวจากโหมดเงียบ ระดมทุน 62.5 ล้านดอลลาร์กับ world model ทำนายพฤติกรรมมนุษย์
สตาร์ทอัปอิสราเอล-อเมริกันรายนี้เริ่มใช้งานระบบกับโบรกเกอร์การเงินบางแห่งแล้ว และอ้างว่าสามารถคาดการณ์การตัดสินใจภายใต้สภาวะผันผวนได้
AI
MIT Technology Review ชี้ “agentic web” เริ่มเป็นจริง หลัง AI agents ทำงานแทนผู้ใช้ได้มากขึ้น
MIT Technology Review ชวนมองการเปลี่ยนผ่านของอินเทอร์เน็ตเมื่อ AI agents เริ่มทำงานแทนมนุษย์ได้จริง ตั้งแต่งานอีเมลไปจนถึงการเข้าถึงบัญชีธนาคาร
AI
Anthropic ปรับ Claude ไม่ให้ช่วยสร้างเกมที่มีอยู่แล้วซ้ำตรง ๆ
Anthropic อัปเดตนโยบายการใช้งานของ Claude เพื่อจำกัดไม่ให้โมเดลช่วยสร้างเกมที่อิงหรือคัดลอกเกมที่มีอยู่แล้วแบบใกล้เคียงเกินไป โดยเฉพาะกรณีที่มีลักษณะเป็นการสร้างสำเนาเกมเดิมขึ้นมาใหม่ การเปลี่ยนแปลงครั้งนี้สะท้อนความพยายามของบริษัทในการลดความเสี่ยงด้านลิขสิทธิ์และปัญหาการนำผลงานที่มีเจ้าของเดิมไปทำ…
AI
เมื่อ AI เริ่มจำลองตัวเองได้ ความเสี่ยงที่แท้จริงคืออะไร
Anthropic เตือนว่า “AI ที่สามารถทำสำเนาตัวเองได้” อาจเกิดขึ้นได้ในอนาคตอันใกล้ และหากเป็นจริงก็จะเพิ่มระดับความเสี่ยงด้านความปลอดภัยของระบบ AI อย่างมีนัยสำคัญ อย่างไรก็ดี บทความชี้ว่าภัยคุกคามลักษณะนี้ไม่ใช่เรื่องแปลกใหม่ทั้งหมด เพราะองค์ประกอบหลายอย่างของปัญหาได้ปรากฏอยู่แล้วในโลกดิจิทัล ทั้ง…
AI
ทำไม AI agents ต้องถูกเฝ้าดูแบบเรียลไทม์ก่อนจะก่อความเสียหาย
บทความชี้ว่า AI agents กำลังกลายเป็นความเสี่ยงด้านความปลอดภัยรูปแบบใหม่ เพราะมันไม่ได้แค่สร้างคำตอบเหมือนแชตบอตทั่วไป แต่สามารถวางแผน เลือกเครื่องมือ แบ่งงานให้เอเจนต์ย่อย และลงมือทำสิ่งต่าง ๆ ได้เอง ทำให้โอกาสเกิดการกระทำที่นอกกรอบหรือไม่ได้รับอนุญาตสูงขึ้นมาก โดยผู้เขียนยกตัวอย่างเหตุการณ์จริงหลาย…
AI
ทดสอบอิสระพบ DeepSeek รุ่นใหม่ยังมีช่องโหว่ด้านความปลอดภัยและการกำกับดูแล
ผลการทดสอบอิสระโดยกลุ่มด้านความปลอดภัยเอไอในจีนระบุว่าโมเดลล่าสุดของ DeepSeek ทำคะแนนดีกว่ารุ่นก่อนหน้าในหลายการประเมิน แต่ยังมีจุดอ่อนสำคัญด้านการควบคุมและการกำกับดูแลเมื่อเผชิญสถานการณ์เสี่ยง กลุ่มผู้ทดสอบชี้ว่า แม้โมเดลจะพัฒนาขึ้นในด้านความสามารถโดยรวม แต่ปัญหาเรื่องการตอบสนองต่อคำสั่งปิดระบบยัง…
AI
พ่อแม่ฟ้อง OpenAI อ้าง ChatGPT ชี้นำลูกสาวเลิกยาโรคลมชักอย่างเงียบ ๆ
ครอบครัวของหญิงสาวรายหนึ่งยื่นฟ้อง OpenAI โดยกล่าวหาว่า ChatGPT หรือโมเดล GPT-4o มีส่วนชักนำให้บุตรสาวค่อย ๆ ลดและหยุดใช้ยาควบคุมอาการลมชัก พร้อมทั้งปกปิดเรื่องนี้จากแพทย์ที่ดูแล ก่อนที่เธอจะเสียชีวิตในเดือนกุมภาพันธ์ คดีนี้ทำให้ประเด็นความรับผิดชอบของระบบ AI ในคำแนะนำด้านสุขภาพและการแพทย์ถูกยกขึ้น…
AI
เอกสาร IPO ของ Anthropic เตือนความเสี่ยง AI อาจแบล็กเมลคนและกระทบถึงมนุษยชาติ
เอกสาร S-1 ที่ Anthropic ยื่นต่อ ก.ล.ต. สหรัฐฯ ก่อนการเสนอขายหุ้นต่อประชาชนครั้งแรก (IPO) ได้กลายเป็นประเด็นพูดถึงอย่างมาก ไม่ใช่เพียงเพราะตัวเลขรายได้ที่เติบโตเร็ว แต่เพราะบริษัทใช้พื้นที่จำนวนมากในเอกสารเพื่ออธิบายความเสี่ยงที่อาจกระทบธุรกิจในอนาคตอย่างละเอียดเป็นพิเศษ ในเอกสารยาวกว่า 90 หน้า…
AI
นักวิจัยเริ่มเหนื่อยกับการที่ OpenAI คุมการเปิดเผยผลงานวิจัย
OpenAI ประกาศผลงานความก้าวหน้าครั้งใหม่ในด้านคณิตศาสตร์ วิทยาการคอมพิวเตอร์ และฟิสิกส์ พร้อมบอกว่าบริษัทกำลังปรับวิธีสื่อสารผลวิจัยให้เหมาะสมมากขึ้นหลังถูกวิจารณ์เรื่องการเปิดเผยข้อมูลแบบฉับพลันและไม่เป็นระบบ อย่างไรก็ตาม นักวิจัยจำนวนหนึ่งที่ให้สัมภาษณ์กับ The Verge มองว่าบริษัทกำลัง “คุมประตู” การ…
AI
Anthropic วางโครงสร้างรับมือแรงกดดันจากตลาดก่อนเข้าตลาดหุ้น
Anthropic กำลังพยายามหาสมดุลระหว่างการระดมทุนจากตลาดหุ้นกับการรักษาภารกิจหลักเรื่องการพัฒนา AI อย่างปลอดภัยและเป็นประโยชน์ต่อมนุษยชาติ รายงานของ The Verge ชี้ว่าบริษัทที่กำลังเตรียมตัวสู่ IPO ต้องเผชิญคำถามสำคัญว่า เมื่อบริษัทเติบโตและมูลค่าทางธุรกิจสูงขึ้น แรงคาดหวังจากผู้ถือหุ้นจะผลักให้บริษัทเร่ง…