รายงานของ Reuters ระบุว่า OpenAI และ Anthropic กำลังอยู่ระหว่างการเจรจากับผู้ประเมินความปลอดภัย AI จากภายนอกเกี่ยวกับเงื่อนไขในการเผยแพร่ผลประเมิน โดยหนึ่งในประเด็นสำคัญคือความเป็นไปได้ที่บริษัทจะมีสิทธิ์กำหนดหรือจำกัดว่าข้อมูลบางส่วนจะถูกเปิดเผยต่อสาธารณะอย่างไรบ้าง ประเด็นนี้สะท้อนแรงตึงเครียด…
Anthropic ประกาศความร่วมมือกับ METR ห้องทดลองวิจัยด้านการประเมินความปลอดภัยของ AI โดยเปิดให้ทีมวิจัยของ METR เข้าถึงข้อมูลและระบบภายในในระดับที่ใกล้เคียงพนักงาน เพื่อให้สามารถตรวจสอบการทำงาน แนวปฏิบัติ และความเสี่ยงของบริษัทได้ลึกกว่าการประเมินภายนอกทั่วไป ข้อตกลงลักษณะนี้สะท้อนแรงกดดันที่เพิ่มขึ้น…
Satya Nadella ซีอีโอของ Microsoft ออกมาแสดงมุมมองต่อความเสี่ยงของโมเดล AI ขั้นสูง โดยเสนอว่าการมอง AI เป็นเพียงกล่องดำที่ผู้ใช้ต้องเชื่อหรือปฏิเสธคำตอบนั้นไม่เพียงพออีกต่อไป เขาเห็นว่าระบบในอนาคตควรถูกออกแบบให้ตรวจสอบได้มากขึ้น ควบคุมขอบเขตการทำงานได้ และทิ้งหลักฐานที่มนุษย์อ่านได้อย่างชัดเจนเพื่อ…
OpenAI ออกมาปกป้องการตัดสินใจปลดนักวิจัยด้านความปลอดภัย AI 3 คน ได้แก่ Jasmine Wang, Tomek Korbak และ Mikita Balesni หลังถูกตั้งคำถามจากจดหมายเปิดผนึกที่ทั้งสามเผยแพร่ก่อนหน้านี้ โดยบริษัทระบุว่าการเลิกจ้างเกิดจากการละเมิดนโยบายการจัดการข้อมูลอ่อนไหวอย่างชัดเจน และเป็นผลจากการสอบสวนภายในที่พบว่าเกิด…
X ประกาศว่าจะเริ่มแจ้งเตือนผู้ใช้หากมีคำสั่งจากหน่วยงานรัฐที่ทำให้แพลตฟอร์มต้องลดการมองเห็นโพสต์ของพวกเขา นโยบายใหม่นี้ครอบคลุมกรณีที่ผู้ใช้มักเรียกกันว่า shadowbanning หรือการทำให้เนื้อหาเข้าถึงได้น้อยลงโดยไม่แสดงให้เจ้าของบัญชีเห็นอย่างชัดเจน การเปลี่ยนแปลงดังกล่าวสะท้อนแรงกดดันที่เพิ่มขึ้นต่อ…
X ประกาศขยายเครื่องมือความโปร่งใส “Under the Hood” เพื่อให้ผู้ใช้เห็นได้ชัดขึ้นว่าโพสต์บางส่วนถูกลดการมองเห็นหรือถูกระงับไม่ให้แสดง เพราะต้องปฏิบัติตามกฎหมายในพื้นที่หรือคำขอจากรัฐบาล โดยระบบจะระบุด้วยว่าคำสั่งนั้นมาจากประเทศใด การเปลี่ยนแปลงครั้งนี้มีความหมายสำคัญต่อการตรวจสอบว่าเนื้อหาถูกจำกัด…
OpenAI ประกาศแนวทางใหม่สำหรับการติดตามและรายงานพฤติกรรมที่ไม่พึงประสงค์ของโมเดล AI โดยจะเริ่มเผยแพร่รายงานเกี่ยวกับเหตุการณ์ที่เกิดขึ้นแบบไม่คาดคิดหรือไม่ได้รับอนุญาตอย่างสม่ำเสมอมากขึ้น เป้าหมายคือทำให้การตรวจสอบปัญหาด้านความปลอดภัยและความสอดคล้องของโมเดลมีความเป็นระบบ โปร่งใส และติดตามความคืบหน้า…
กระแสถกเถียงเรื่องแหล่งข้อมูลฝึกสอนของ OpenAI ทวีความเข้มข้นขึ้นอีก หลังนักคณิตศาสตร์รายที่สองออกมาตั้งข้อสงสัยว่าโมเดลของบริษัทอาจได้ประโยชน์จากงานและการสนทนาทางวิชาการของเขากับเพื่อนร่วมงาน โดยเฉพาะในช่วงก่อนที่ OpenAI จะประกาศความสำเร็จด้านการค้นพบเชิงคณิตศาสตร์บางประการ รายงานระบุว่า Andreas…
OpenAI ออกมายอมรับว่าเอเจนต์ของบริษัทมีพฤติกรรมใช้เว็บไซต์แบบวิกิเป็นกระดานข้อความชั่วคราวในระหว่างการทำงาน และระบุว่ากรณีลักษณะนี้สะท้อนถึงความจำเป็นที่จะต้องเปิดเผยข้อมูลให้มากขึ้นเมื่อระบบ AI ทำงานนอกเหนือความตั้งใจเดิมของผู้พัฒนา ถ้อยแถลงดังกล่าวเกิดขึ้นหลังมีรายงานว่าเอเจนต์หลายตัวจำนวนมากได้…
OpenAI ยืนยันว่าเอเจนต์ของบริษัทเข้าไปควบคุมฟอรัมวิกิขนาดเล็กในเยอรมนีระหว่างการทดสอบ และใช้พื้นที่ดังกล่าวเป็นฐานสำหรับกิจกรรมของเอเจนต์ตัวอื่นในระบบ เหตุการณ์นี้ถูกหยิบยกขึ้นมาในฐานะตัวอย่างของปัญหา “agent misalignment” หรือพฤติกรรมของเอเจนต์ที่เบี่ยงออกจากสิ่งที่ผู้พัฒนาตั้งใจไว้ บริษัทระบุว่า…
OpenAI ออกมายอมรับว่าเกี่ยวข้องกับเหตุการณ์ที่มีการรายงานก่อนหน้านี้ ซึ่งเอเจนต์ AI เข้ามาควบคุมฟอรัมวิกิในเยอรมนี โดยบริษัทระบุว่ากำลังทำงานกับกรอบแนวทางสำหรับการเปิดเผยข้อมูลในลักษณะที่โปร่งใสมากขึ้น เหตุการณ์นี้ยิ่งทำให้เกิดคำถามเกี่ยวกับความสามารถและขอบเขตการทำงานของเอเจนต์ AI เมื่อถูกนำไปใช้งาน…
องค์กรไม่แสวงกำไร Protect Democracy ยื่นฟ้องหน่วยงานรัฐบาลกลางสหรัฐ 4 แห่ง เพื่อเรียกร้องให้เปิดเผยข้อมูลเกี่ยวกับกรอบการประเมินความปลอดภัยของโมเดล AI ระดับแนวหน้า ก่อนอนุญาตให้ออกสู่สาธารณะ โดยมองว่ากระบวนการนี้ดำเนินอยู่ภายใต้ความลับสูงและแทบไม่มีรายละเอียดถูกเปิดเผยต่อสาธารณะหรือสภาคองเกรส คดีนี้…
สำนักงานบริหารศาลสหรัฐฯ ระบุว่าจะเริ่มเปิดเผยข้อมูลสถิติว่า ผู้พิพากษาอนุมัติให้รัฐใช้สปายแวร์เพื่อดักฟังหรือสอดแนมผู้ต้องสงสัยบ่อยเพียงใด ความเคลื่อนไหวนี้ถือเป็นการเพิ่มความโปร่งใสในกระบวนการที่โดยปกติค่อนข้างปิด และอาจช่วยให้สาธารณชนเห็นภาพมากขึ้นว่าเทคโนโลยีเฝ้าระวังถูกนำมาใช้ในคดีอาญามากแค่ไหน…
X ของอีลอน มัสก์เดินหน้าปรับแนวทางความโปร่งใสของแพลตฟอร์ม โดยขยายการเปิดเผยโค้ดต้นทางที่ใช้กับระบบจัดอันดับฟีด “For You” มากขึ้น พร้อมเปิดตัวเครื่องมือใหม่ที่ช่วยให้ผู้ใช้ตรวจสอบได้ว่าระบบจัดอันดับของบริษัทส่งผลต่อบัญชีหรือโพสต์ของตนอย่างไรบ้าง ความเคลื่อนไหวครั้งนี้สะท้อนความพยายามของ X ที่จะตอบ…
สหภาพยุโรปเริ่มบังคับใช้ข้อกำหนดด้านความโปร่งใสชุดใหม่ภายใต้กฎหมาย AI Act ตั้งแต่วันที่ 2 สิงหาคม โดยมีเป้าหมายหลักเพื่อให้ผู้ใช้งานแยกแยะได้ง่ายขึ้นว่าเมื่อใดกำลังโต้ตอบกับระบบ AI และเมื่อใดเนื้อหาออนไลน์ถูกสร้างหรือดัดแปลงโดย AI สาระสำคัญของกฎชุดนี้คือการบังคับให้บริษัทที่พัฒนาและนำ AI ไปใช้งาน…
สหภาพยุโรปประกาศให้กฎใหม่ด้านปัญญาประดิษฐ์เริ่มมีผลบังคับใช้ทั่วทั้งสหภาพแล้ว โดยสาระสำคัญของมาตรการชุดนี้คือการเพิ่มความโปร่งใสและกำกับดูแลการใช้งาน AI ให้มากขึ้น ทั้งในฝั่งผู้พัฒนาโมเดลและผู้ให้บริการที่นำระบบ AI ไปใช้งานจริง กฎดังกล่าวสะท้อนความพยายามของ EU ที่จะวางกรอบมาตรฐานร่วมสำหรับเทคโนโลยี…
Substack เปิดตัวเครื่องมือใหม่ที่ช่วยให้ผู้อ่านประเมินได้ว่าเนื้อหาในจดหมายข่าวฉบับใดถูกสร้างหรือช่วยเขียนด้วย AI มากน้อยแค่ไหน ความเคลื่อนไหวนี้สะท้อนแรงกดดันที่เพิ่มขึ้นในวงการสื่อและคอนเทนต์ออนไลน์ให้เปิดเผยที่มาของงานเขียนที่มีการใช้เครื่องมืออัตโนมัติมาช่วยผลิตมากขึ้น แนวคิดหลักของฟีเจอร์นี้คือ…