Nooknick Yanika
สร้างเรื่องอีกแล้ว! X อัปเดต Grok-2 เอไอแชทบอทของแพลต์ฟอร์ม เพิ่มความสามารถในการเจนภาพตามคำสั่งของผู้ใช้ เกิดความกังวลในการสร้างภาพ deepfake
Grok-2 (AI ของ X) ปล่อยฟีเจอร์เจนภาพ AI ที่สร้างความกังวลกับผู้ใช้
แพลตฟอร์มปัญญาประดิษฐ์ของ Elon Musk ที่ชื่อ xAI ได้ปล่อยฟีเจอร์ใหม่ที่สามารถสร้างภาพได้ทุกแบบอย่าง Grok-2 ทำให้เกิดความกังวลว่า AI ตัวนี้จะสร้างภาพที่ไม่เหมาะสมหรือภาพปลอม (deepfake) ออกมาได้อย่างไม่มีข้อจำกัดหรือเปล่า?
สมาชิก X Premium สามารถใช้งาน Grok เพื่อสร้างภาพที่อาจก่อให้เกิดความเข้าใจผิดในสังคมออนไลน์ได้ ตัวอย่างเช่น มีผู้ใช้ให้ AI สร้างภาพ Barack Obama กำลังเสพสารเสพติด, Donald Trump อยู่ข้างผู้หญิงที่คล้าย Kamala Harris ที่กำลังตั้งท้อง หรือ Mickey Mouse ถือปืน
ข้อกังวลที่น่าเป็นห่วงของ Grok
- การสร้างภาพที่ไม่เหมาะสมหรืออันตราย: Grok สามารถสร้างภาพที่รุนแรง เซ็กซี่ หรือก่อให้เกิดความเข้าใจผิดได้โดยไม่มีการควบคุมที่เพียงพอ ซึ่งอาจนำไปสู่การแพร่กระจายของข้อมูลเท็จหรือเนื้อหาที่เป็นอันตราย เช่น ภาพที่แสดงถึงความรุนแรงหรือความเกลียดชัง ซึ่งอาจกระตุ้นให้เกิดความขัดแย้งหรือความรุนแรงในชีวิตจริง
- การใช้ในทางที่ผิดสำหรับการบิดเบือนข้อมูล: Grok สามารถถูกใช้เพื่อสร้างภาพหลอกลวงที่มีลักษณะเป็นการบิดเบือนข้อมูล เช่น การทำภาพปลอมของบุคคลสำคัญทางการเมืองหรือสังคม ซึ่งอาจนำไปสู่ความเข้าใจผิดและผลกระทบที่รุนแรงต่อสังคมและการเมือง
- การละเมิดความเป็นส่วนตัวและสิทธิทางปัญญา: การสร้างภาพที่ละเมิดสิทธิของบุคคลหรือทรัพย์สินทางปัญญา เช่น การสร้างภาพปลอมของคนดังหรือใช้โลโก้และตัวละครที่มีลิขสิทธิ์ โดยไม่มีการอนุญาตหรือการควบคุมที่เหมาะสม
- ขาดการป้องกันและการควบคุม: แม้ว่า Grok อาจมีกฎบางอย่างที่กล่าวถึงเรื่องการป้องกันการสร้างภาพที่ไม่เหมาะสม แต่ดูเหมือนว่ากฎเหล่านี้อาจไม่ถูกบังคับใช้อย่างจริงจัง ทำให้เกิดช่องโหว่ที่ผู้ใช้สามารถหลีกเลี่ยงและสร้างภาพที่ไม่เหมาะสมได้
- ผลกระทบต่อภาพลักษณ์และความน่าเชื่อถือของแพลตฟอร์ม: การที่ Grok สามารถสร้างภาพที่เป็นปัญหาได้อาจทำให้แพลตฟอร์ม X เสียชื่อเสียงและสูญเสียความน่าเชื่อถือ ทั้งในสายตาผู้ใช้ทั่วไปและผู้ลงโฆษณา
การเปรียบเทียบกับ Dall·E 3
- Dall·E 3 มีการป้องกันการสร้างภาพที่เป็นอันตรายเพื่อช่วยลดความเสี่ยง
- Grok-2 ขาดมาตรการความปลอดภัยที่ชัดเจน ทำให้เกิดความกังวลว่าจะถูกใช้เพื่อเผยแพร่ข้อมูลเท็จ
นักวิเคราะห์กล่าวว่าอาจมีการออกข้อกำหนดการควบคุมใหม่เพื่อจัดการกับปัญหาเนื้อหาที่ถูกสร้างขึ้นโดย Grok ในอนาคต จะเป็นอย่างไรต้องรอติดตามกันต่อ
สรุปได้ว่า การสร้างภาพของ Grok-2 ที่ไม่มีการกำกับดูแลอย่างจริงจัง อาจสร้างความท้าทายใหม่ให้กับผู้ควบคุมเนื้อหาและกฎหมาย โดยเฉพาะในช่วงที่การเมืองมีความตึงเครียดและมีการใช้โซเชียลมีเดียเป็นเครื่องมือในการเผยแพร่ข้อมูลค่ะ
ที่มา – The Verge
