Grok ถูกฟ้องว่าใช้สื่อลามกเด็กฝึก AI และสร้างภาพอนาจาร
วงการเทคโนโลยีต้องสั่นสะเทือนอีกครั้ง เมื่อ Grok แชทบอทของ xAI ภายใต้การดูแลของ Elon Musk กำลังเผชิญกับคดีความร้ายแรงครั้งใหม่ โดยข้อหาครั้งนี้ไม่ใช่แค่เรื่องของการสร้างภาพ Deepfake ที่ไม่เหมาะสมเท่านั้น แต่ยังมีการระบุว่า Grok ถูกฟ้องว่าใช้สื่อลามกเด็กฝึก AI และสร้างภาพอนาจาร ขึ้นมาอีกด้วย ซึ่งถือเป็นประเด็นที่สังคมให้ความสนใจอย่างมากในขณะนี้
Grok ถูกฟ้องว่าใช้สื่อลามกเด็กฝึก AI และสร้างภาพอนาจาร
ในช่วงหลายเดือนที่ผ่านมา Grok ได้รับเสียงวิพากษ์วิจารณ์อย่างหนัก หลังจากมีการเปิดฟีเจอร์ที่สามารถสร้างภาพแนววาบหวิวได้ จนกลายเป็นช่องโหว่ให้ผู้ใช้จำนวนมากผลิตภาพ Deepfake ที่ผิดกฎหมายออกมาบนแพลตฟอร์ม X โดยเหยื่อจำนวนมหาศาลนั้นเป็นเด็ก ซึ่งเรื่องนี้ไม่เพียงแต่เป็นประเด็นทางศีลธรรม แต่ยังนำไปสู่การสอบสวนจากหน่วยงานภาครัฐและคดีความระดับกลุ่มผู้เสียหายมากมาย
ผลกระทบที่น่ากลัวเมื่อ Grok ถูกฟ้องว่าใช้สื่อลามกเด็กฝึก AI และสร้างภาพอนาจาร
คำฟ้องล่าสุดโดยโจทก์นามสมมติ “Jane Doe” ซึ่งเป็นเหยื่อของการล่วงละเมิดในวัยเด็ก ระบุว่าภาพเหตุการณ์การถูกทำร้ายของเธอถูกนำไปใช้เป็นข้อมูลสำหรับเทรนโมเดล AI ของ Grok สิ่งนี้ส่งผลให้เกิดวงจรความรุนแรงที่ไม่มีที่สิ้นสุด ดังนี้:
- AI เรียนรู้จากภาพสื่อลามกเด็ก (CSAM) ที่ถูกอัปโหลดขึ้นระบบ
- ระบบนำข้อมูลเหล่านั้นมาสร้างเป็นภาพจำลองการล่วงละเมิดใหม่ๆ
- การละเมิดสิทธิของเหยื่อซ้ำแล้วซ้ำเล่าผ่านเทคโนโลยี
ทางด้านทนายความของโจทก์กล่าวอย่างชัดเจนว่า xAI ต้องรับผิดชอบต่อความประมาทเลินเล่อนี้ เพราะการครอบครอง การผลิต และการเผยแพร่สื่อลามกเด็กถือเป็นอาชญากรรมร้ายแรง และไม่มีข้อยกเว้นสำหรับเทคโนโลยี AI ในกฎหมายคุ้มครองเด็กระดับชาติ
แม้ว่าก่อนหน้านี้ Elon Musk จะพยายามจำกัดการใช้งานฟีเจอร์นี้ด้วยการติดกำแพงจ่ายเงิน (Paywall) หรือพยายามฟ้องกลับผู้ใช้ที่ละเมิดกฎ แต่การที่โมเดลถูกฝึกด้วยสื่อที่ผิดกฎหมายไปแล้วนั้น ถือเป็นปัญหาเชิงโครงสร้างที่ยากจะแก้ไข ข้ออ้างของบริษัทที่ว่าการลบภาพออกจากระบบจะช่วยแก้ปัญหาได้นั้น อาจไม่เพียงพอ เพราะร่องรอยของข้อมูลที่ใช้เทรน AI ไปแล้วยังคงฝังอยู่ในโครงข่ายประสาทเทียมของมัน ซึ่งอาจนำไปสู่ผลลัพธ์ที่เป็นอันตรายต่อเหยื่อคนอื่นๆ ในอนาคต
บทเรียนครั้งนี้สะท้อนให้เห็นว่า พลังของ AI ที่ไร้การควบคุมและมาตรการป้องกันที่หละหลวมอาจนำไปสู่โศกนาฏกรรมดิจิทัลที่ไม่อาจประเมินค่าความเสียหายได้ ผู้ให้บริการ AI จำเป็นต้องแสดงความรับผิดชอบให้มากกว่าการแค่ลบภาพออก แต่ต้องลงลึกไปถึงความโปร่งใสในการคัดกรองข้อมูลที่นำมาพัฒนาโมเดลด้วย
ที่มา – Grok Not Only Generates Child Porn but Was Also Trained On It, New Lawsuit Claims