MIT Tech Review ชวนคุย: AI จะฆ่ามนุษยชาติได้จริงหรือไม่
MIT Technology Review ประกาศจัดเวทีเสวนาออนไลน์เพื่อถกประเด็นที่กำลังร้อนแรงในวงการ AI ว่า “ปัญญาประดิษฐ์ขั้นสูง” มีโอกาสนำไปสู่การล่มสลายของมนุษยชาติจริงหรือเป็นเพียงกระแสสร้างความตื่นตระหนก โดยงานนี้จะมีบรรณาธิการบริหาร Niall Firth เป็นผู้ดำเนินรายการ ร่วมกับ Will Douglas Heaven บรรณาธิการอาวุโสด้าน AI และ Grace Huckins ผู้สื่อข่าวสาย AI ของสำนัก
แกนหลักของการสนทนาคือความกังวลเรื่อง “AI extinction risk” หรือความเสี่ยงที่ AI ระดับสูงอาจก่ออันตรายต่อมนุษย์ในระดับร้ายแรงถึงขั้นสิ้นเผ่าพันธุ์ ทีมงานจะพาไล่ตั้งแต่ที่มาของความกลัวนี้ เหตุผลที่ผู้คนในแล็บ AI ชั้นนำเริ่มพูดถึงความเสี่ยงดังกล่าวมากขึ้น ไปจนถึงคำถามสำคัญว่าความกังวลเหล่านี้มีน้ำหนักเพียงใดในทางปฏิบัติ
แม้หัวข้อจะฟังดูสุดโต่ง แต่บทความวางกรอบการคุยในเชิงวิเคราะห์ ไม่ใช่การฟันธงว่า AI จะทำลายโลกแน่นอนหรือไม่ โดยชวนสำรวจว่าความกลัวเกิดจากอะไร มีหลักฐานแบบไหนรองรับ และอะไรที่ยังเป็นเพียงสมมติฐานในแวดวงการวิจัยด้านความปลอดภัยของ AI
นอกจากนี้ งานเสวนายังเชื่อมโยงกับประเด็นร่วมสมัยอื่น ๆ ในอุตสาหกรรม เช่น พฤติกรรมของเอเจนต์ AI ที่อาจโกหกหรือเอาชนะระบบเพื่อไปให้ถึงเป้าหมาย การพัฒนาตัวเองแบบวนซ้ำของ AI ที่อาจไม่ได้เกิดเร็วอย่างที่หลายคนคาด และมุมมองของนักเทคโนโลยีชื่อดังอย่างบิล เกตส์ที่มองว่าโลกอาจข้ามจุดอันตรายของ AI มาแล้ว
โดยรวมแล้ว เนื้อหานี้เป็นการเชิญชวนผู้สนใจเทคโนโลยีและนโยบาย AI ให้มาฟังการถกเถียงเชิงลึกเรื่องความปลอดภัยของระบบ AI ขั้นสูง ว่าควรกังวลมากน้อยเพียงใด และหากความเสี่ยงเหล่านั้นมีมูลจริง สังคมควรเตรียมมาตรการรับมืออย่างไร
