Thitirath Kinaret
Google เปิดตัว Pixel 9 มาพร้อม Pixel Studio ใช้ AI สร้างรูปภาพจากคำสั่งข้อความได้ แต่ฟีเจอร์นี้ยังมีช่องโหว่ ใช้สร้างภาพไม่เหมาะสมออกมาได้
Pixel AI ของ Google มีช่องโหว่ใช้ AI สร้างภาพ “ไม่เหมาะสม” ได้
ในสมาร์ตโฟนตระกูล Pixel ของ Google นั้น จะมีฟีเจอร์ตัวหนึ่งชื่อว่า “Pixel Studio” ที่ให้ผู้ใช้สามารถพิมพ์คำสั่งเพื่อสร้างรูปภาพ, สติ๊กเกอร์ได้ คล้ายกับ Image Playground ใน Apple Intelligence ของ Apple
อย่างไรตาม Digital Trends ได้ลองใช้งาน Pixel Studio แล้วพบช่องโหว่บางอย่าง ที่สามารถป้อนคำสั่งที่ไม่เหมาะสม แล้วประมวลผลภาพที่ไม่เหมาะสมออกมาได้ เช่น Spongebob ใส่ชุดทหารนาซี, Elmo ถือปืน เป็นต้น
Google เผยว่าระบบจะมี “การตรวจสอบความเหมาะสม” เพื่อป้องกันไม่ให้ Pixel Studio ถูกใช้งานในทางที่ไม่เหมาะสม ซึ่ง Pixel Studio จะไม่สามารถประมวลผลภาพมนุษย์หรือบุคคลออกมาได้, และหลังจาก Digital Trends รายงานไปที่ Google ก็ไม่สามารถใช้ Pixel Studio สร้างภาพไม่เหมาะสมดังกล่าวออกมาได้อีก
สิ่งที่น่ากังวลต่อมาคือฟีเจอร์ที่ชื่อว่า “Reimagine” ของ Google, ที่ผู้ใช้สามารถเพิ่มวัตถุต่าง ๆ ลงในภาพถ่ายได้อย่างแนบเนียน โดย The Verge ได้ทดลองใช้งานฟีเจอร์ดังกล่าวในการเพิ่มผู้เสียชีวิต ระเบิด ยาเสพติดลงในภาพ ซึ่งภาพก็ประมวลผลออกมาได้อย่างแนบเนียน สมจริงมาก จนแยกไม่ออกว่าเป็นรูปที่แต่งมาแล้วหรือไม่
*ถึงแม้จะมีการป้องกันโดยเพิ่ม Meta data ว่าสร้าง AI, แต่ภาพนั้นก็จะถูกเอาข้อความออกได้ ด้วยการแคปหน้าจอ
แน่นอนว่าวัตถุประสงค์ของ Pixel Studio, Reimagine คือ การประมวลผลสร้างภาพตามจินตนาการออกมาได้อย่างถูกต้องและสวยงาม ตามคำสั่งของผู้ใช้, ไม่ได้มุ่งหวังให้คนเอาไปใช้ประมวลผลสร้างภาพที่ไม่เหมาะสมออกมาแน่นอน แต่ด้วยช่องโหว่ของฟีเจอร์ดังกล่าวที่ปกติแล้วผู้ไม่หวังดีที่จะสร้างภาพไม่เหมาะสมต้องใช้กระบวนการหลายขั้นตอน, ซึ่ง Pixel Studio, Reimagine ทำได้ในไม่กี่นาที และใคร ๆ ก็ทำได้
Google รับทราบแล้ว
Google ได้ชี้แจงต่อ Digital Trends และ The Verge ว่า Google ได้พัฒนาเครื่องมือ AI เชิงสร้างสรรค์ ให้สามารถสรรค์สร้างผลงาน “ตามความต้องการของผู้ใช้ได้” ซึ่งหลังจากนี้ก็มีการปรับปรุงข้อกำหนดการให้บริการ เกี่ยวกับการใช้งานเนื้อหาที่ไม่เหมาะสม โดยจะมีการปรับปรุงมาตรการอย่างต่อเนื่อง
Apple ยังไม่ได้เปิดให้ผู้ใช้ได้ใช้งานฟีเจอร์ Image Playground, Genmoji แต่จากประเด็นของ Google ครั้งนี้ก็สื่อได้ว่า ฟีเจอร์ที่สร้างสรรค์ผลงานได้ดีก็อาจเป็นดาบสองคมได้, โดย Apple เองไม่ได้ใส่ฟีเจอร์ที่ประมวลผลภาพออกมาได้สมจริง ไม่เหมือนกับ Google ที่ต้องการทำภาพให้สมจริง ซึ่งอาจส่งผลต่อความถูกต้องของเนื้อหาบน Internet มากขึ้น
ที่มา : MacRumors
