เมื่อแชตบอตตอบผิด ลูกค้าก็ยิ่งดื้อกับพนักงานบริการมากขึ้น

บทความของ The Verge ชี้ให้เห็นผลกระทบที่ไม่ค่อยถูกพูดถึงของแชตบอตและ AI ที่ให้คำตอบผิดหรือ “หลอน” ในชีวิตประจำวัน โดยเฉพาะเมื่อลูกค้านำคำตอบจาก ChatGPT มาใช้โต้แย้งพนักงานบริการจริง ๆ กรณีที่ยกมาคือเมดิสัน พนักงานเสิร์ฟในนิวยอร์กซิตี้ ซึ่งเริ่มต้นทุกโต๊ะด้วยการถามเรื่องอาการแพ้อาหาร แต่กลับพบว่าลูกค้าหลายคนไม่รับฟังคำเตือนเกี่ยวกับส่วนผสมที่เสี่ยงต่อการแพ้ และบางครั้งถึงขั้นยืนยันจะสั่งอาหารที่มีน้ำซุปหรือส่วนประกอบจากสารก่อภูมิแพ้

ประเด็นสำคัญคือ ลูกค้าบางรายไม่ได้อ้างความรู้จากแพทย์หรือแหล่งข้อมูลทางการแพทย์ แต่หยิบคำตอบจาก ChatGPT มาเป็นหลักฐานเพื่อต่อรองกับพนักงาน แม้พนักงานจะอธิบายว่ามีส่วนผสมที่ไม่ปลอดภัยก็ตาม สิ่งนี้สะท้อนว่าเมื่อ AI ให้ข้อมูลผิดหรือพูดอย่างมั่นใจเกินจริง ผู้ใช้บางส่วนอาจเชื่อมากกว่าคำแนะนำจากมนุษย์ที่อยู่ตรงหน้า ทำให้ภาระของพนักงานบริการเพิ่มขึ้น และเกิดความเสี่ยงด้านความปลอดภัยจริง โดยเฉพาะเรื่องอาการแพ้อาหารที่อาจรุนแรงได้

บทความยังวางเรื่องนี้ในบริบทกว้างขึ้นว่า “hallucination” ของ AI ไม่ได้เป็นแค่ปัญหาทางเทคนิค แต่เริ่มส่งผลต่อความสัมพันธ์ระหว่างลูกค้ากับคนทำงานบริการ เมื่อผู้คนใช้เครื่องมืออย่าง ChatGPT เป็นผู้ตัดสินในสถานการณ์ที่ควรใช้ดุลยพินิจและข้อมูลเชิงวิชาชีพ ผลลัพธ์คือความขัดแย้งมากขึ้น การโต้แย้งกับพนักงานมากขึ้น และการตัดสินใจที่อาจไม่ปลอดภัยมากขึ้น

ภาพรวมจึงเป็นการเตือนว่า การนำ AI มาใช้ในชีวิตประจำวันต้องมาพร้อมการรู้เท่าทันข้อจำกัดของมัน ไม่ใช่เชื่อคำตอบอัตโนมัติทุกครั้ง โดยเฉพาะในเรื่องที่เกี่ยวข้องกับสุขภาพ ความปลอดภัย และการทำงานบริการ ซึ่งคำตอบผิดเพียงครั้งเดียวอาจสร้างผลกระทบจริงต่อคนทำงานและผู้บริโภคได้