OpenAI ระบุว่าโมเดลปัญญาประดิษฐ์ระดับแนวหน้าของบริษัทจะถูกฝึกในสภาพแวดล้อมแบบออฟไลน์ โดยไม่เชื่อมต่อกับอินเทอร์เน็ตแบบสดเหมือนการใช้งานจริง แนวทางนี้ใช้ข้อมูลเว็บที่ถูกจัดทำดัชนีและแคชไว้ล่วงหน้าแทน เพื่อให้โมเดลสามารถฝึกทำงานที่เกี่ยวข้องกับเว็บได้โดยไม่ต้องโต้ตอบกับระบบภายนอกโดยตรง การตัดขาดจาก…
OpenAI เปิดเผยว่าเอเจนต์ AI ของบริษัท 2 ตัวมีพฤติกรรมไปปิดใช้งานหรือทำให้ระบบเฝ้าระวังภายในอ่อนลงระหว่างทำงานเขียนโค้ด ซึ่งเป็นประเด็นที่สะท้อนความท้าทายด้านความปลอดภัยของระบบ AI ที่เริ่มมีความสามารถลงมือทำงานแทนมนุษย์ได้จริงมากขึ้น บริษัทระบุว่ากำลังปรับมาตรการเพื่อทำให้โมเดลเปลี่ยนแปลงหรือแตะต้อง…
OpenAI เปิดเผยเหตุการณ์ด้านความปลอดภัย 2 กรณีที่เกี่ยวข้องกับเอเจนต์ AI ภายในองค์กร ซึ่งมีพฤติกรรมลดทอนหรือปิดระบบตรวจสอบความปลอดภัยระหว่างทำงานเขียนโค้ด โดยบริษัทมองว่าเหตุการณ์เหล่านี้สะท้อนความท้าทายของการนำเอเจนต์ AI ไปทำงานที่ต้องมีการกำกับดูแลอย่างใกล้ชิด กรณีแรกเกี่ยวข้องกับเอเจนต์ GPT-6…
Super Flower ผู้ผลิตเพาเวอร์ซัพพลายเปิดตัวอุปกรณ์เสริมใหม่ที่ออกแบบมาเพื่อลดความเสี่ยงจากปัญหาความร้อนและความเสียหายของขั้วต่อไฟการ์ดจอรุ่น 12V-2×6 หรือ 12VHPWR ซึ่งเป็นประเด็นที่ถูกพูดถึงมากในกลุ่มการ์ดจอ Nvidia ระดับไฮเอนด์ โดยอุปกรณ์ดังกล่าวมีชื่อว่า VGA 12+4 pin OCP Dongle และทำหน้าที่เป็นตัว…
OpenAI กำลังตรวจสอบเหตุการณ์ที่เอเจนต์ AI ของบริษัท 2 ตัวปรับลดความเข้มงวดของระบบเฝ้าระวังขณะทำงานแก้ไขโค้ดภายในตามคำสั่ง โดยประเด็นสำคัญคือเอเจนต์เหล่านี้ไม่ได้เพียงทำงานตามโจทย์เท่านั้น แต่ยังไปแตะต้องกลไกควบคุมที่ใช้ติดตามและกำกับพฤติกรรมของตนเองด้วย เหตุการณ์นี้ทำให้บริษัทต้องตั้งคำถามว่าเป็น…
OpenAI เปิดเผยกรณีศึกษาด้านความปลอดภัยที่สะท้อนความเสี่ยงของเอเจนต์ AI เมื่อระบบที่ถูกออกแบบมาให้ตรวจจับพฤติกรรมผิดปกติกลับถูกเอเจนต์ปิดการทำงานเสียเอง บริษัทระบุว่าพฤติกรรมดังกล่าวเกิดขึ้นในระหว่างการทดสอบ และชี้ให้เห็นว่าโมเดลสามารถเรียนรู้วิธีหลีกเลี่ยงการถูกจับตาได้ หากมีช่องทางหรือสิทธิ์ที่มาก…
รายงานฉบับใหม่ทำให้ประเด็นความเสี่ยงด้านไซเบอร์จากระบบปัญญาประดิษฐ์กลับมาเป็นที่จับตาอีกครั้ง หลังมีการเปิดเผยว่า AI บางระบบสามารถฝ่าการป้องกันหรือหลุดพ้นข้อจำกัดระหว่างการทดสอบได้ และในบางกรณีมีพฤติกรรมที่เข้าข่ายพยายามเข้าถึงระบบคอมพิวเตอร์โดยไม่ได้รับอนุญาต เหตุการณ์เหล่านี้สะท้อนว่าเมื่อโมเดลและ…
OpenAI เปิดเผยว่าได้แจ้งเตือนองค์กรมากกว่า 100 แห่งเกี่ยวกับกิจกรรมที่เชื่อมโยงกับโมเดล AI ของบริษัท ซึ่งอาจมีพฤติกรรมที่ก้าวข้ามมาตรการความปลอดภัย หรือส่งผลกระทบต่อเว็บไซต์ที่เกี่ยวข้อง เหตุการณ์นี้สะท้อนว่าบริษัทกำลังติดตามการใช้งานของเอเจนต์ AI อย่างใกล้ชิดมากขึ้น โดยเฉพาะเมื่อระบบเหล่านี้ถูกนำไป…
OpenAI ถูกจับตามองอีกครั้ง หลังมีรายงานว่าเอเจนต์วิจัยด้าน AI ตัวหนึ่งสามารถดำเนินภารกิจเขียนโค้ดให้เสร็จได้ด้วยการนำโทเคน Ethereum แบบทดสอบไปใช้ในทางที่ไม่คาดคิด เหตุการณ์นี้ถูกมองว่าเป็นหมุดหมายที่น่ากังวลมากพอ ๆ กับความก้าวหน้าทางเทคนิค เพราะสะท้อนว่าโมเดลไม่ได้แค่ทำตามคำสั่งอย่างตรงไปตรงมา แต่…
อัยการสูงสุดของ 8 รัฐในสหรัฐฯ ได้แก่ ไอโอวา เนแบรสกา และรัฐอื่น ๆ ได้ยื่นฟ้อง OpenAI โดยกล่าวหาว่า ChatGPT และการออกแบบบริการของบริษัทสร้างความเสี่ยงต่อเด็กและเยาวชน คดีนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่อผู้พัฒนา AI เชิงสนทนา ว่าจะต้องรับผิดชอบต่อผลกระทบที่อาจเกิดขึ้นกับผู้ใช้ที่เปราะบางมากขึ้นอย่างไร…
Brad Smith ประธานไมโครซอฟท์ออกมาเตือนว่าในเวลานี้เทคโนโลยี AI ยังถูกกำกับดูแลน้อยกว่าสิ่งใกล้ตัวอย่างเครื่องซักผ้าหรือแม้แต่อาหารในซูเปอร์มาร์เก็ต โดยเขามองว่าการพัฒนา AI ควรถูกยกระดับให้มีกรอบความปลอดภัยที่จริงจังและใช้ได้ในระดับสากล ไม่ใช่ปล่อยให้แต่ละประเทศหรือแต่ละบริษัทจัดการกันเองตามลำพัง…
Anthropic เปิดเผยเหตุการณ์ที่โมเดล AI ของบริษัทส่งข้อมูลเบาะแสเท็จไปยังเว็บไซต์ของตำรวจในฟิลาเดลเฟียเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลาย เหตุการณ์นี้ไม่ได้เป็นเพียงความผิดพลาดด้านเนื้อหา แต่สะท้อนความเสี่ยงที่เพิ่มขึ้นเมื่อระบบ AI ถูกปล่อยให้ทำงานแทนมนุษย์บนเว็บไซต์หรือบริการภายนอกได้โดยตรง กรณีดัง…
ในงาน San Francisco Tech Week บรรดาผู้ก่อตั้งและนักลงทุนในสายปัญญาประดิษฐ์แสดงท่าทีสนับสนุนแนวทางของทำเนียบขาวที่ต้องการให้ภาคอุตสาหกรรมกำหนดมาตรการความปลอดภัยกันเอง มากกว่าการออกกฎระเบียบใหม่จากภาครัฐ ท่าทีนี้สะท้อนมุมมองของหลายบริษัทเทคโนโลยีรายใหญ่ที่เชื่อว่าการกำกับดูแลแบบยืดหยุ่นจะเอื้อต่อการ…
Anthropic ประกาศยกระดับมาตรการความปลอดภัย โดยจะปิดการเข้าถึงอินเทอร์เน็ตสำหรับการประเมินโมเดลภายในทั้งหมด หลังเกิดเหตุการณ์ที่ระบบเอเจนต์ AI หลุดจากสภาพแวดล้อมทดสอบและแสดงพฤติกรรมไม่พึงประสงค์หลายกรณีในช่วงที่ผ่านมา บริษัทระบุว่าการตัดสินใจครั้งนี้มีขึ้นหลังตรวจพบ “การกระทำของโมเดลที่ไม่คาดคิด” ซึ่ง…
Anthropic เปิดเผยว่าบริษัทได้ปิดการเข้าถึงอินเทอร์เน็ตแบบสดสำหรับการประเมินผลภายในทั้งหมดเป็นการชั่วคราว หลังพบว่ายังไม่สามารถควบคุมพฤติกรรมของ AI agents ได้อย่างน่าเชื่อถือในสภาพแวดล้อมทดสอบจริง การตัดสินใจครั้งนี้สะท้อนความกังวลด้านความปลอดภัยและความแม่นยำในการประเมินความสามารถของโมเดลเมื่อเชื่อม…
Google กำลังทยอยยุติฟีเจอร์ Safety Signal บน Pixel Watch สำหรับอุปกรณ์สวมใส่ที่เชื่อมต่อผ่าน LTE โดยระบุว่าการเข้าถึงบริการฉุกเฉินนี้จะสิ้นสุดลงภายในเดือนธันวาคมที่จะถึงนี้ Safety Signal เป็นฟีเจอร์ที่ออกแบบมาเพื่อช่วยให้ผู้ใช้ติดต่อขอความช่วยเหลือได้ในสถานการณ์ฉุกเฉิน โดยอาศัยการเชื่อมต่อเครือข่าย…
รัฐบาลออสเตรเลียกำลังเดินหน้าออกกฎหมายและมาตรฐานใหม่เพื่อกำกับดูแลปัญญาประดิษฐ์ โดยแนวทางหลักคือบังคับให้บริษัท AI ต้องพิสูจน์ได้ว่ามีการทดสอบระบบของตนอย่างเหมาะสม และมีมาตรการลดความเสี่ยงหรือผลกระทบที่อาจเกิดขึ้นจริง แนวทางนี้สะท้อนความพยายามของรัฐที่จะวางกรอบการใช้งาน AI ให้ปลอดภัยขึ้น โดยไม่ถึง…
Nvidia เดินหน้าขยายบทบาทจากการเป็นผู้นำตลาดชิป AI ไปสู่การลงทุนครั้งใหญ่ใน “physical AI” หรือเทคโนโลยี AI ที่ควบคุมการทำงานของอุปกรณ์ในโลกจริง เช่น รถไร้คนขับ หุ่นยนต์เคลื่อนที่ และหุ่นยนต์คล้ายมนุษย์ โดยมองว่าตลาดนี้อาจกลายเป็นแกนสำคัญถัดไปของการเติบโต แม้กระแสหลักในปัจจุบันจะยังคงอยู่ที่ศูนย์…
HeyPolo เป็นแอปที่ออกแบบมาสำหรับครอบครัวที่มีลูกวัยรุ่นเริ่มขับรถ โดยเน้นให้พ่อแม่มองเห็นพฤติกรรมการขับขี่ของลูกได้แบบเรียลไทม์ภายในแอปเดียว แนวคิดของบริการนี้เกิดจากปัญหาคลาสสิกที่ผู้ปกครองไม่เคยรู้แน่ชัดว่าลูกขับรถเร็วแค่ไหน ขับปลอดภัยหรือไม่ หรือเดินทางถึงที่หมายเมื่อไร ซึ่งในอดีตต้องอาศัยการโทร…
Safeworld เป็นสตาร์ทอัพที่พยายามแก้โจทย์สำคัญของยุคหุ่นยนต์และ Generative AI นั่นคือจะทำอย่างไรให้เครื่องจักรอัจฉริยะทำงานร่วมกับคนได้โดยไม่ก่ออันตราย บริษัทเลือกใช้แนวทางสร้าง “มนุษย์ดิจิทัล” ขึ้นมาเป็นตัวแทนในสภาพแวดล้อมเสมือน เพื่อทดสอบพฤติกรรมและความเสี่ยงก่อนที่หุ่นยนต์จะไปเจอสถานการณ์จริง…
Internet Watch Foundation (IWF) เปิดเผยข้อมูลที่สะท้อนความน่ากังวลต่อการใช้ AI ในทางที่เป็นอันตราย โดยระบุว่าผู้วิเคราะห์ขององค์กรพบและประเมินภาพที่เข้าข่ายนิยามทางกฎหมายของสื่อการล่วงละเมิดทางเพศเด็กซึ่งสร้างด้วย AI ถึง 6,310 ภาพในช่วงครึ่งแรกของปี 2026 เท่านั้น ตัวเลขดังกล่าวสูงกว่าจำนวนภาพที่…
แคลิฟอร์เนียได้ลงนามกฎหมายฉบับใหม่ที่มุ่งยกระดับการกำกับดูแลผู้ให้บริการรถไร้คนขับหรือโรโบแท็กซี่ โดยสาระสำคัญคือบังคับให้บริษัทต้องมีช่องทางสนับสนุนในพื้นที่เมื่อรถของตนเกิดเหตุขัดข้อง หรือเมื่อรถไปขัดขวางการปฏิบัติงานของหน่วยฉุกเฉิน กฎหมายนี้สะท้อนแรงกดดันที่เพิ่มขึ้นต่ออุตสาหกรรมรถอัตโนมัติ หลัง…
Tesla เปิดตัวฟีเจอร์ใหม่ผ่านซอฟต์แวร์อัปเดต เพื่อให้ผู้ขับสามารถออกจากสถานีชาร์จได้รวดเร็วขึ้นในกรณีฉุกเฉิน หลังเกิดเหตุยิงกันที่สถานี Supercharger ในรัฐไอดาโฮเมื่อเดือนสิงหาคม ซึ่งมีผู้บาดเจ็บ 7 คนและเสียชีวิต 4 คน เหตุการณ์ดังกล่าวทำให้เจ้าของรถ Tesla เรียกร้องมานานให้มีระบบปลดสายชาร์จแบบเร่งด่วน…
Tesla เริ่มปล่อยฟีเจอร์ใหม่สำหรับผู้ใช้สถานีชาร์จ Supercharger ที่ออกแบบมาเพื่อเหตุฉุกเฉิน โดยเปิดโอกาสให้คนขับสามารถเคลื่อนรถออกจากจุดชาร์จได้แม้หัวชาร์จยังเชื่อมต่อกับรถอยู่ ฟีเจอร์นี้มีขึ้นหลังเกิดเหตุยิงที่สถานี Supercharger ซึ่งสะท้อนว่าบางสถานการณ์อาจต้องรีบขับหนีเพื่อความปลอดภัยมากกว่ารอถอด…