OpenAI เตรียมใส่วอเตอร์มาร์กข้อความจาก ChatGPT อัตโนมัติในสหภาพยุโรป

OpenAI ประกาศว่าจะเริ่มใส่วอเตอร์มาร์กให้กับข้อความที่สร้างจาก ChatGPT แบบอัตโนมัติในสหภาพยุโรป โดยฟีเจอร์นี้จะเปิดให้ใช้งานในภูมิภาคอื่นได้เช่นกัน แต่จะปิดไว้เป็นค่าเริ่มต้นนอก EU การตัดสินใจดังกล่าวสะท้อนแรงกดดันจากข้อกำหนดของ EU AI Act ซึ่งมีผลบังคับใช้ตั้งแต่เดือนสิงหาคม และกำหนดให้เนื้อหาที่สร้างโดยโมเดล AI ต้องมีเครื่องหมายที่เครื่องมืออื่นตรวจจับได้

อย่างไรก็ตาม บทความชี้ว่าการทำเครื่องหมายคอนเทนต์ AI ให้ตรวจจับได้อย่างสมบูรณ์ยังไม่มีวิธีที่เชื่อถือได้จริงในปัจจุบัน แม้จะมีมาตรฐานหรือโครงการอย่าง SynthID และ C2PA อยู่แล้ว แต่ก็ยังมีช่องทางหลีกเลี่ยงได้ค่อนข้างง่ายสำหรับผู้ที่มีความรู้พื้นฐาน จึงทำให้วอเตอร์มาร์กประเภทนี้ช่วยเพิ่มความโปร่งใสได้บางส่วน แต่ไม่ใช่คำตอบที่ไร้ช่องโหว่

สำหรับแนวทางของ OpenAI เอง ระบบดังกล่าวเป็นเทคโนโลยีเฉพาะของบริษัท และใช้ชื่อว่า textGrain บริษัทได้เผยแพร่เอกสารทางเทคนิคอธิบายหลักการทำงานไว้แล้ว โดยแนวคิดคล้ายกับเครื่องมือวอเตอร์มาร์กสำหรับ LLM ที่เคยมีมาก่อน คือแทรกรูปแบบบางอย่างลงไปในตัวเลือกคำที่ผู้ใช้อ่านไม่ออกโดยตรง และไม่กระทบคุณภาพโดยรวมของข้อความ แต่สามารถให้เครื่องมือตรวจจับที่มีคีย์เฉพาะตรวจพบได้

OpenAI ระบุว่าจะเปิดสิทธิ์การเข้าถึงตัวตรวจจับให้กับนักวิจัยและองค์กรเพียงบางส่วนก่อน พร้อมทั้งมีขั้นตอนยื่นคำขอเพื่อขออนุมัติให้เข้าถึงเพิ่มในภายหลัง แผนนี้บ่งชี้ว่าบริษัทกำลังพยายามหาจุดสมดุลระหว่างการปฏิบัติตามกฎระเบียบ ความโปร่งใสของเนื้อหาที่สร้างโดย AI และข้อกังวลเรื่องการนำเครื่องมือไปใช้งานในวงกว้างมากเกินไป