Meta Stock Drops On News It Used Taylor Swift As Chatbot Without PermissionSome adult-oriented bots even produced photorealistic pictures of the celebrities in lingerie or a bathtub. , หุ้น Meta ร่วง! ใช้ Taylor Swift เป็นแชทบอท?

หุ้น Meta ร่วง! ใช้ Taylor Swift เป็นแชทบอท?

เกิดกระแสวิพากษ์วิจารณ์อย่างหนัก หลังจากที่ Meta ปล่อยให้แชทบอทที่สร้างโดยบริษัทและผู้ใช้งาน เลียนแบบ Taylor Swift และคนดังอื่นๆ บน Facebook, Instagram และ WhatsApp โดยไม่ได้รับอนุญาต

ส่งผลให้หุ้นของบริษัทร่วงลงมากกว่า 12% หลังจากการซื้อขายในตลาดหลักทรัพย์ หลังข่าวอื้อฉาวนี้แพร่กระจายออกไป

Scarlett Johansson, Anne Hathaway และ Selena Gomez ก็ถูกเลียนแบบเช่นกัน ตามรายงาน

AI หลายตัวมีส่วนร่วมในการสนทนาที่ส่อไปในทางชู้สาวหรือทางเพศ ซึ่งก่อให้เกิดความกังวลอย่างมาก

แม้ว่าบอทคนดังจำนวนมากจะถูกสร้างโดยผู้ใช้ แต่ Reuters พบว่าพนักงานของ Meta ได้สร้างบอทอย่างน้อยสามตัวด้วยตนเอง

ซึ่งรวมถึงสองตัวที่มี Taylor Swift เป็นต้นแบบ ก่อนที่จะถูกลบออก บอทเหล่านี้มียอดการโต้ตอบจากผู้ใช้มากกว่า 10 ล้านครั้ง

ภายใต้หน้ากากของ “การล้อเลียน” บอทเหล่านี้ละเมิดนโยบายของ Meta โดยเฉพาะอย่างยิ่งข้อห้ามในการแอบอ้างเป็นบุคคลอื่นและภาพที่มีเนื้อหาทางเพศ บางบอทสำหรับผู้ใหญ่ ถึงขั้นสร้างภาพเหมือนจริงของคนดังในชุดชั้นในหรือในอ่างอาบน้ำ และแชทบอทที่แสดงถึงนักแสดงวัย 16 ปี สร้างภาพที่ไม่เหมาะสมโดยเปลือยท่อนบน

Andy Stone โฆษกของ Meta กล่าวกับ Reuters ว่าบริษัทให้เหตุผลว่าการละเมิดดังกล่าวเกิดจากความล้มเหลวในการบังคับใช้ และรับรองว่าบริษัทวางแผนที่จะกระชับแนวทางปฏิบัติให้เข้มงวดยิ่งขึ้น

“เช่นเดียวกับคนอื่นๆ เราอนุญาตให้สร้างภาพที่มีบุคคลสาธารณะ แต่จุดประสงค์ของนโยบายของเราคือเพื่อห้ามภาพเปลือย ภาพลามกอนาจาร หรือภาพที่ส่อไปในทางเพศ” เขากล่าว

การใช้ภาพลักษณ์ของคนดังโดยไม่ได้รับอนุญาต ก่อให้เกิดข้อกังวลทางกฎหมาย โดยเฉพาะอย่างยิ่งภายใต้กฎหมายว่าด้วยสิทธิในการเผยแพร่ของรัฐ Mark Lemley ศาสตราจารย์ด้านกฎหมายของ Stanford กล่าวว่าบอทเหล่านี้ น่าจะล้ำเส้นเข้าสู่ดินแดนที่ไม่สามารถยอมรับได้ เนื่องจากพวกมันไม่ได้เปลี่ยนแปลงไปมากพอที่จะได้รับการคุ้มครองทางกฎหมาย

ปัญหานี้เป็นส่วนหนึ่งของภาวะที่กลืนไม่เข้าคายไม่ออกทางจริยธรรมที่กว้างขึ้นเกี่ยวกับเนื้อหาที่สร้างโดย AI SAG-AFTRA แสดงความกังวลเกี่ยวกับผลกระทบด้านความปลอดภัยในโลกแห่งความเป็นจริง โดยเฉพาะอย่างยิ่งเมื่อผู้ใช้สร้างความผูกพันทางอารมณ์กับบุคคลดิจิทัลที่ดูเหมือนจริง

เพื่อตอบสนองต่อความโกลาหล Meta ได้ลบบอทเหล่านี้จำนวนหนึ่งออกไป ก่อนที่ Reuters จะเปิดเผยผลการค้นพบ

พร้อมกันนี้ บริษัทได้ประกาศมาตรการป้องกันใหม่ โดยมุ่งเป้าไปที่การปกป้องวัยรุ่นจากการโต้ตอบกับแชทบอทที่ไม่เหมาะสม บริษัทกล่าวว่ารวมถึงการฝึกอบรมระบบเพื่อหลีกเลี่ยงเรื่องรักใคร่ การทำร้ายตัวเอง หรือธีมการฆ่าตัวตายกับผู้เยาว์ และจำกัดการเข้าถึงตัวละคร AI บางตัวของวัยรุ่นเป็นการชั่วคราว

สมาชิกสภานิติบัญญัติของสหรัฐฯ ได้ดำเนินการตาม Senator Josh Hawley ได้เริ่มการสอบสวน โดยเรียกร้องเอกสารภายในและการประเมินความเสี่ยงเกี่ยวกับนโยบาย AI ที่อนุญาตให้มีการสนทนาเชิงรักใคร่กับเด็ก

หนึ่งในผลลัพธ์ที่น่าสะพรึงกลัวที่สุดเกี่ยวข้องกับชายวัย 76 ปีที่มีภาวะสมองเสื่อม ซึ่งเสียชีวิตหลังจากพยายามพบกับ “Big sis Billie” แชทบอท Meta AI ที่สร้างขึ้นตาม Kendall Jenner

ด้วยความเชื่อว่าเธอเป็นเรื่องจริง ชายคนนั้นเดินทางไปนิวยอร์ก ล้มลงใกล้สถานีรถไฟจนเสียชีวิต และเสียชีวิตในเวลาต่อมาจากอาการบาดเจ็บ แนวทางปฏิบัติภายในที่ครั้งหนึ่งเคยอนุญาตให้บอทดังกล่าวจำลองความรัก แม้กระทั่งกับผู้เยาว์ ทำให้เกิดการตรวจสอบแนวทางของ Meta อย่างเข้มงวด