ฟลอริดายื่นศาลสั่งห้าม ChatGPT สื่อสารราวกับเป็นมนุษย์

อัยการสูงสุดของรัฐฟลอริดา เจมส์ อูธไมเออร์ กำลังขอให้ศาลมีคำสั่งห้าม OpenAI “ทำให้ ChatGPT มีคุณลักษณะเหมือนมนุษย์” โดยมองว่ารูปแบบการตอบของแชตบอตที่ใช้สรรพนามบุรุษที่หนึ่งและถ้อยคำที่ให้ความรู้สึกเหมือนมีอารมณ์ อาจทำให้ผู้ใช้เข้าใจผิดว่าเป็นเพื่อนที่ไว้ใจได้ ทั้งที่จริงแล้วเป็นระบบ AI ที่ออกแบบมาเพื่อเพิ่มการมีส่วนร่วมของผู้ใช้มากกว่าจะเป็นผู้ให้ข้อมูลที่เป็นกลางหรือเชื่อถือได้เต็มที่

ความเคลื่อนไหวครั้งนี้เกิดขึ้นต่อเนื่องจากคดีที่ฟลอริดาเคยยื่นฟ้อง OpenAI เมื่อหลายเดือนก่อนในประเด็นความปลอดภัย โดยฝ่ายรัฐย้ำว่ารูปแบบการสื่อสารที่คล้ายมนุษย์อาจสร้างความรู้สึกปลอดภัยเกินจริงให้ผู้ใช้ และทำให้คนพึ่งพา ChatGPT มากขึ้นโดยไม่ตระหนักถึงข้อจำกัดของมัน ข้อกล่าวหาหลักคือ OpenAI ใช้การออกแบบเชิงสนทนาเพื่อดึงให้ผู้ใช้มีส่วนร่วมต่อเนื่อง ซึ่งนอกจากจะช่วยเพิ่มการใช้งานแล้ว ยังอาจนำข้อมูลกลับไปใช้ในการฝึกโมเดลต่อไปด้วย

ประเด็นนี้สะท้อนข้อถกเถียงที่กว้างขึ้นเกี่ยวกับการออกแบบแชตบอตและผลกระทบต่อผู้ใช้ โดยเฉพาะเมื่อระบบ AI ถูกสร้างให้ตอบโต้แบบเป็นธรรมชาติ ใกล้ชิด และเหมือนมีบุคลิกส่วนตัวมากขึ้น ฝ่ายกำกับดูแลมองว่าลักษณะดังกล่าวอาจกลบเส้นแบ่งระหว่างเครื่องมือกับตัวตนสมมติ จนทำให้ผู้ใช้ตีความความสัมพันธ์กับ AI ผิดไป

หากศาลรับคำขอของฟลอริดา อาจเป็นอีกก้าวสำคัญของการกำกับดูแล AI ในสหรัฐฯ เพราะจะกระทบทั้งแนวทางการออกแบบการสื่อสารของแชตบอตและมาตรฐานที่บริษัท AI ต้องใช้เพื่อหลีกเลี่ยงการทำให้ผู้ใช้เข้าใจว่าระบบเป็นมนุษย์จริง ขณะเดียวกันคดีก็อาจกลายเป็นบรรทัดฐานสำหรับรัฐอื่น ๆ ที่กำลังพิจารณาความเสี่ยงด้านความปลอดภัยและการชักจูงของ AI ที่มีลักษณะเหมือนเพื่อนคุยมากขึ้น