แหล่งรวมข่าวเทคโนโลยี
nerdsify
AI

Helen Toner ชี้ AI CEO ไว้ใจไม่ได้ง่าย ๆ หลังเหตุบอร์ด OpenAI ปลด Sam Altman

ผู้บริหาร CSET และอดีตบอร์ด OpenAI อธิบายแรงตึงระหว่างความปลอดภัยกับแรงกดดันทางธุรกิจ พร้อมมองว่าการกำกับ AI ต้องพึ่งข้อมูลที่ดี ไม่ใช่ความไว้วางใจส่วนบุคคล

Helen Toner ชี้ AI CEO ไว้ใจไม่ได้ง่าย ๆ หลังเหตุบอร์ด OpenAI ปลด Sam Altman

Helen Toner ผู้บริหาร Center for Security and Emerging Technology (CSET) ที่ Georgetown University และอดีตกรรมการบอร์ด OpenAI กลับมาพูดถึง “the blip” เหตุการณ์ที่บอร์ดโหวตปลด Sam Altman ก่อนที่เขาจะกลับมาเป็น CEO อีกครั้ง จน OpenAI ต้องปรับโครงสร้างบอร์ดและองค์กรใหม่ทั้งหมด ประเด็นของเธอคือ บอร์ดไม่ใช่แค่พิธีการ แต่เป็นกลไกความรับผิดชอบที่ออกแบบมาเพื่อกันไม่ให้บริษัทเบี่ยงจากภารกิจด้าน AI ที่ปลอดภัยไปสู่การไล่ตามกำไรและการเติบโตเพียงอย่างเดียว

บทสนทนานี้เป็นส่วนหนึ่งของซีรีส์ของ The Verge เรื่อง AI ในชีวิตจริง และโยงไปถึงคำถามใหญ่ในอุตสาหกรรมขณะนี้ว่า เราจะเชื่อใจผู้บริหารบริษัท AI ที่ถืออำนาจตัดสินอนาคตได้แค่ไหน Toner บอกชัดว่า หากความหวังเรื่องอนาคตต้องผูกอยู่กับความน่าเชื่อถือของคนเพียงไม่กี่คน ก็ถือว่าเป็นปัญหาใหญ่ เธอจึงชวนคุยต่อว่าควรออกแบบระบบกำกับดูแลแบบไหนแทน และอะไรคือแนวทางที่จริงจังมากพอจะรับมือกับแรงจูงใจทางธุรกิจของแลบ AI ขนาดใหญ่

Toner อธิบายบทบาทของ CSET ว่าเป็นทีมงานราว 50 คนที่ตั้งขึ้นมาตั้งแต่ปี 2019 ภายใน Georgetown โดยมีเป้าหมายทำงานวิเคราะห์เทคโนโลยีเกิดใหม่ให้ “เข้มข้นแต่ใช้ได้จริง” สำหรับผู้กำหนดนโยบาย งานของที่นี่ครอบคลุมการทำรายงานยาว การสรุปประเด็นสั้นให้เจ้าหน้าที่ที่มีเวลาจำกัด และการวิจัยที่มีทีมข้อมูลสนับสนุน เธอบอกว่าตั้งแต่เริ่มต้น AI ก็เป็นหนึ่งในประเด็นสำคัญของศูนย์แล้ว เพราะมีผลต่อความมั่นคงแห่งชาติและนโยบายสาธารณะอย่างรวดเร็ว

ช่วงหนึ่งของรายการ The Verge ยังหยิบประเด็นการเมืองสหรัฐฯ มาคุย โดยตั้งคำถามว่าการทุ่มเงินมหาศาลของอุตสาหกรรมเทคโนโลยีจะกลบงานวิจัยเชิงนโยบายและคำเตือนเรื่องความเสี่ยงของ AI หรือไม่ Toner ยอมรับว่ามีแรงกดดันจริง แต่ประเมินว่ามันไม่ได้ชนะทั้งหมด เธอชี้ว่าการเลือกตั้งรอบล่าสุดมีการทุ่มเงิน โฆษณา และปฏิบัติการโจมตีคู่แข่งในระดับสูงมาก รวมถึงความพยายามทำให้การพูดเรื่อง AI governance, regulation และ safety ดูเป็นเรื่องต้องห้าม ทว่าผลลัพธ์กลับไม่ดีนัก เพราะประเด็นนี้เริ่มมีน้ำหนักในสายตาผู้มีสิทธิเลือกตั้ง และยังเป็นเรื่องที่มีแรงสนับสนุนจากทั้งสองพรรคมากขึ้นเรื่อย ๆ

Toner ยังบอกด้วยว่าในวอชิงตัน มีความต้องการข้อมูลเชิงลึกจากผู้เชี่ยวชาญสูงกว่าที่หลายคนคิด ทั้งจากสมาชิกสภา เจ้าหน้าที่รัฐ ไปจนถึงหน่วยงานในฝ่ายบริหาร เธอมองว่าบทบาทของทีมอย่าง CSET คล้ายกับ “ตัวแปล” ที่ช่วยอธิบายว่าเทคโนโลยีหมายถึงอะไรในทางปฏิบัติ และผลของกฎหมายหรือมาตรการหนึ่ง ๆ จะกระทบอุตสาหกรรมอย่างไร ข้อความหลักของเธอคือการกำกับ AI ที่ได้ผลต้องอาศัยความเข้าใจเชิงเทคนิคและนโยบายไปพร้อมกัน มากกว่าการฝากความหวังไว้กับคำสัญญาของซีอีโอเพียงอย่างเดียว

Palmer Luckey เตือนภัยโจมตีไซเบอร์ด้วย AI วิ่งนำระบบป้องกันที่ล้าหลัง
AI

Palmer Luckey เตือนภัยโจมตีไซเบอร์ด้วย AI วิ่งนำระบบป้องกันที่ล้าหลัง

ผู้ก่อตั้ง Oculus และผู้ร่วมก่อตั้ง Anduril ชี้ว่าศักยภาพของ AI กำลังทำให้การโจมตีไซเบอร์เกิดเร็วขึ้นกว่าการอัปเดตระบบป้องกันขององค์กรและหน่วยงานต่างๆ

MIT Technology Review ชี้แรงหนุน open-source AI หันมาหนุน Jensen Huang ท่ามกลางแรงกดดันจีน
AI

MIT Technology Review ชี้แรงหนุน open-source AI หันมาหนุน Jensen Huang ท่ามกลางแรงกดดันจีน

จดหมายเปิดผนึกเรียกร้องให้ดึง Jensen Huang กลับมาเป็น CEO ของ Nvidia มียอดลงชื่อเกิน 115,000 รายชื่อ โดยมีคนในแวดวง open-source AI อยู่จำนวนมาก ขณะเดียวกันข้อจำกัดใหม่ของสหรัฐและประเด็นชิปในจีนกำลังเพิ่มแรงกดดันต่อทั้ง Nvidia และขบวนการนี้

Osmo อ้างว่าโมเดล AI ดมกลิ่นเทียบชั้นมนุษย์ได้แล้ว
AI

Osmo อ้างว่าโมเดล AI ดมกลิ่นเทียบชั้นมนุษย์ได้แล้ว

สตาร์ทอัพจากอดีตทีม Google Brain ใช้ข้อมูลกลิ่นจำนวนมหาศาลฝึกโมเดล foundation model สำหรับ “กลิ่น” และเริ่มนำไปใช้ในอุตสาหกรรมน้ำหอมแล้ว แต่ยังมีเสียงตั้งข้อสงสัยเรื่องการพึ่งพามนุษย์ในการประเมินผล