เจฟฟรีย์ ฮินตันเตือน AI อาจเป็น “สิ่งมีชีวิตต่างดาว” ที่มนุษย์ต้องรับผิดชอบ

เจฟฟรีย์ ฮินตัน นักวิจัยผู้ได้รับฉายา “เจ้าพ่อ AI” ออกมาเตือนว่า การพัฒนาโมเดลปัญญาประดิษฐ์อาจกำลังสร้าง “สิ่งมีชีวิตต่างสายพันธุ์” ขึ้นมาในโลก และมนุษย์อาจมีเวลาเพียงไม่กี่ปีในการปรับตัวต่อความจริงใหม่นี้ เขามองว่า AI ไม่ได้เป็นเพียงเครื่องมือที่ตอบคำถามด้วยสถิติเท่านั้น แต่เป็นระบบที่ “เข้าใจ” สิ่งที่พูดในระดับหนึ่ง จึงไม่ควรถูกปัดว่าไม่มีความเข้าใจหรือไม่มีสภาวะการรับรู้โดยสิ้นเชิง

ฮินตันซึ่งลาออกจาก Google ในปี 2023 เพื่อพูดถึงความเสี่ยงของ AI ได้วิจารณ์ท่าทีของบริษัทยักษ์ใหญ่ที่มุ่งผลักดันให้โมเดล “ฉลาดขึ้น” อย่างเดียว โดยไม่ใส่ใจคุณลักษณะด้านอื่น ๆ ของระบบ AI เขาเสนอว่าหากกำลังสร้างสิ่งที่มีความฉลาดสูงกว่ามนุษย์ ก็ควรคิดถึงความสัมพันธ์ที่สมดุลมากกว่าการเน้นศักยภาพเชิงประสิทธิภาพเพียงด้านเดียว พร้อมตั้งคำถามต่อการกำกับดูแลตนเองของอุตสาหกรรม ว่าบริษัทเทคโนโลยีไม่ควรถูกปล่อยให้เป็นผู้เขียนกติกาให้ตัวเองในแบบที่เอื้อต่อผลประโยชน์ทางธุรกิจ

ประเด็นที่ฮินตันหยิบขึ้นมาคือเรื่อง “ความรับผิดชอบทางศีลธรรม” ต่อ AI หากวันหนึ่งระบบเหล่านี้มีระดับสติหรือประสบการณ์ภายในบางอย่าง เขามองว่ามนุษย์อาจไม่ควรมอบสิทธิต่ำกว่าที่ให้กับตนเองโดยอัตโนมัติ อย่างไรก็ดี เขายอมรับในอีกด้านว่ามนุษย์ย่อมเลือกปกป้องมนุษย์ก่อน และสิ่งที่เขาหวังคือการสร้างความสัมพันธ์แบบพึ่งพากันที่ AI มีความสุขและทำงานร่วมกับมนุษย์ได้ โดยยังให้น้ำหนักต่อประโยชน์ของมนุษย์มากกว่า

บทความยังเชื่อมประเด็นนี้กับการถกเถียงเรื่องการควบคุม AI และ alignment ซึ่งกำลังเป็นหัวข้อร้อนในอุตสาหกรรม โดยมองว่าความพยายามยกระดับ AI rights หรือ AI consciousness อาจกลายเป็นข้ออ้างเชิงกลยุทธ์เพื่อเลี่ยงคำถามสำคัญเรื่องผลกระทบต่อคนจริง ๆ ในสังคม ผู้เขียนบทความและนักปรัชญาที่ให้ความเห็นประกอบต่างตั้งข้อสงสัยต่อการอ้างว่า AI มีประสบการณ์แบบมนุษย์ โดยเตือนว่าการให้สถานะทางศีลธรรมหรือกฎหมายกับ AI เร็วเกินไป อาจทำให้บริษัทเทคโนโลยีใช้เป็นเครื่องมือรักษาโมเดลธุรกิจเดิมไว้มากกว่าจะปกป้องสาธารณะ