Google ปิดฟีเจอร์ AI แก้ภาพใน Google Earth หลังเปิดใช้ได้วันเดียว

Google ตัดสินใจยกเลิกฟีเจอร์ใหม่ใน Google Earth ที่เพิ่งเปิดให้ใช้งานเมื่อวันพฤหัสบดี หลังจากเปิดโอกาสให้ผู้ใช้แก้ไขภาพถ่ายดาวเทียมด้วยคำสั่งข้อความจาก AI ได้โดยตรง ฟีเจอร์ดังกล่าวทำให้เกิดคำถามทันทีว่าเครื่องมือที่มีความสามารถระดับนี้อาจถูกนำไปสร้างภาพบิดเบือนความจริงของสถานที่จริงได้ง่ายเพียงใด

เครื่องมือนี้ทำงานในลักษณะคล้ายการสร้างภาพด้วย AI แต่แทนที่จะสร้างภาพขึ้นมาใหม่ทั้งหมด ผู้ใช้สามารถสั่งให้ระบบเปลี่ยนแปลงภาพถ่ายโลกจริงที่อยู่บน Google Earth ได้ จึงเกิดประเด็นด้านความน่าเชื่อถือและความเสี่ยงต่อการสร้างข้อมูลเท็จ ตัวอย่างที่ถูกยกขึ้นมาคือการทดลองใส่องค์ประกอบอย่างผู้ลี้ภัยบริเวณชายแดนเม็กซิโก และหลุมระเบิดใกล้โรงพยาบาลในกาซา ซึ่งสะท้อนว่าฟีเจอร์นี้สามารถถูกใช้สร้างภาพชวนเข้าใจผิดในประเด็นอ่อนไหวได้

Google เคยตอบสนองในเบื้องต้นว่าภาพที่สร้างด้วย Nano Banana 2 ใน Google Earth มีลายน้ำดิจิทัลกำกับ และบริษัทได้ป้องกันการสร้างภาพในหัวข้อที่เป็นอันตราย อย่างไรก็ตาม ภายในวันถัดมา บริษัทเปลี่ยนท่าทีและประกาศหยุดฟีเจอร์นี้ลง แสดงให้เห็นว่ามาตรการกำกับที่มีอยู่ยังไม่เพียงพอเมื่อเครื่องมือแตะพื้นที่ของภาพจริงที่ผู้คนอาจเชื่อถือเป็นหลักฐานได้ง่าย

กรณีนี้ตอกย้ำความท้าทายของผู้พัฒนา AI ในการนำเทคโนโลยีสร้างภาพไปใช้กับข้อมูลภูมิศาสตร์หรือภาพถ่ายโลกจริง แม้มีระบบป้องกันบางส่วน แต่หากผู้ใช้สามารถนำไปดัดแปลงเป็นภาพหลอกลวงหรือกระทบประเด็นการเมืองและความขัดแย้งได้ ก็ย่อมกระทบต่อความไว้วางใจในแพลตฟอร์มและต่อภาพรวมของการกำกับดูแล generative AI ในผลิตภัณฑ์สาธารณะ