เนื้อหาที่ AI สร้างอาจฝังความทรงจำปลอม

ความไว้ใจที่ผู้คนมีต่อปัญญาประดิษฐ์กำลังนำไปสู่ความเสี่ยงรูปแบบใหม่ นักวิจัยพบว่า เนื้อหาที่ AI สร้างอาจฝังความทรงจำปลอมได้จริง ไม่ว่าจะเป็นภาพถ่ายที่ถูกปรับแต่ง บทสรุปที่มีข้อมูลคลาดเคลื่อน หรือข้อความที่เล่าเหตุการณ์ซึ่งไม่เคยเกิดขึ้น ปัญหานี้ไม่ได้จำกัดอยู่แค่การแยกแยะภาพปลอมบนอินเทอร์เน็ตเท่านั้น แต่ยังอาจเปลี่ยนสิ่งที่ผู้คนเชื่อว่าเคยเห็น เคยได้ยิน และเคยประสบมาด้วย

งานวิจัยของทีมที่เกี่ยวข้องกับนักวิทยาศาสตร์จาก MIT ศึกษาว่า AI ส่งผลต่อความทรงจำของมนุษย์อย่างไร ผู้เข้าร่วมการทดลองได้ดูภาพถ่ายชุดหนึ่ง จากนั้นพักช่วงเวลาหนึ่ง ก่อนถูกแบ่งออกเป็นกลุ่ม กลุ่มแรกได้ดูภาพเดิม ส่วนอีกกลุ่มได้ดูภาพที่ถูกแก้ไขด้วย AI เมื่อถึงเวลาทดสอบความจำ ผู้ที่เห็นภาพซึ่งผ่านการปรับแต่งมีแนวโน้มจำรายละเอียดของภาพต้นฉบับผิดมากกว่าเดิม ที่น่ากังวลยิ่งกว่าคือ พวกเขามักมั่นใจอย่างมากว่าความทรงจำที่ผิดนั้นเป็นเรื่องจริง

เนื้อหาที่ AI สร้างอาจฝังความทรงจำปลอม

ความทรงจำของมนุษย์ไม่ใช่การบันทึกวิดีโอที่เปิดดูได้อย่างแม่นยำทุกครั้ง สมองจะเรียบเรียงรายละเอียดใหม่อยู่เสมอ และสามารถเติมข้อมูลที่ขาดหายจากคำแนะนำ บริบท หรือเรื่องเล่าของคนอื่นได้ การทดลองทางจิตวิทยาหลายยุคจึงพบว่า ผู้คนอาจจดจำเหตุการณ์ที่ไม่เคยเกิดขึ้น หรือเปลี่ยนรายละเอียดของเหตุการณ์จริงโดยไม่รู้ตัว

เมื่อ AI เข้ามาเพิ่มความสมจริงให้กับข้อมูลเท็จ ความเสี่ยงก็ยิ่งสูงขึ้น ภาพที่สร้างด้วย AI อาจมีแสง เงา ใบหน้า และฉากหลังที่ดูน่าเชื่อถือ ส่วนข้อความจากแชตบอตก็สามารถเรียบเรียงอย่างเป็นธรรมชาติและมีน้ำเสียงมั่นใจได้ แม้ข้อมูลเหล่านั้นจะผิดหรือไม่มีหลักฐานรองรับก็ตาม เมื่อผู้ใช้งานเห็นเนื้อหาแบบเดิมซ้ำหลายครั้ง โอกาสที่ข้อมูลนั้นจะถูกผูกเข้ากับความทรงจำก็เพิ่มขึ้น

เนื้อหาที่ AI สร้างอาจฝังความทรงจำปลอมได้อย่างไร

กลไกสำคัญคือการชี้นำความทรงจำ เมื่อบุคคลเห็นภาพหรืออ่านข้อความที่อธิบายเหตุการณ์อย่างละเอียด สมองอาจนำข้อมูลใหม่ไปผสมกับประสบการณ์เดิมจนแยกไม่ออกว่าอะไรคือสิ่งที่เห็นจริง และอะไรคือสิ่งที่ถูกสร้างขึ้นภายหลัง งานศึกษาหลายชิ้นยังชี้ว่า เนื้อหาปลอมที่เกี่ยวข้องกับประเด็นการเมืองสามารถทำให้ผู้เข้าร่วมเชื่อว่าเรื่องอื้อฉาวที่แต่งขึ้นนั้นเคยเกิดขึ้นจริง และอาจส่งผลต่อความตั้งใจในการลงคะแนนเสียงได้

สิ่งที่ทำให้ปัญหานี้อันตรายคือ การแก้ไขข้อมูลภายหลังอาจไม่เพียงพอ แม้ผู้คนจะได้รับคำชี้แจงว่าเนื้อหานั้นเป็นเท็จ ความประทับใจแรกและภาพที่เห็นก่อนหน้านั้นอาจยังคงมีอิทธิพลต่อการตัดสินใจอยู่ ความทรงจำผิดจึงไม่ได้เป็นเพียงความผิดพลาดส่วนบุคคล แต่สามารถส่งผลต่อการเมือง ความสัมพันธ์ การทำงาน และความปลอดภัยสาธารณะ

ความเสี่ยงจากภาพปลอมและข้อมูลที่ AI สร้าง

ปัจจุบันภาพและวิดีโอที่สร้างด้วย AI แพร่กระจายได้อย่างรวดเร็ว ผู้ใช้งานทั่วไปสามารถสร้างภาพบุคคล เหตุการณ์ หรือสถานที่ที่ไม่เคยมีอยู่จริงได้ภายในเวลาไม่นาน ขณะเดียวกัน ระบบสร้างข้อความก็อาจสรุปข่าวหรือเอกสารด้วยรายละเอียดที่ดูเป็นมืออาชีพ แต่มีข้อเท็จจริงผิดพลาดปะปนอยู่

• ภาพปลอม: อาจทำให้ผู้ชมเชื่อว่าเหตุการณ์หนึ่งเกิดขึ้นจริง แม้ไม่มีหลักฐานจากแหล่งข่าวที่น่าเชื่อถือ
• บทสรุปผิดพลาด: ระบบอาจผสมข้อมูลจากหลายแหล่ง หรือนำรายละเอียดที่ไม่เกี่ยวข้องมาเล่าเป็นข้อเท็จจริง
• การทำซ้ำของข้อมูล: เมื่อเนื้อหาถูกแชร์ซ้ำ ผู้คนอาจเข้าใจว่าความถี่ของการพบเห็นเท่ากับความน่าเชื่อถือ
• ความมั่นใจเกินจริง: ผู้ที่จำข้อมูลผิดอาจยืนยันความเชื่อของตนเองอย่างหนักแน่น แม้ไม่มีหลักฐานสนับสนุน

ปัญหายังรุนแรงขึ้นเมื่อองค์กรสำคัญนำ AI ไปใช้ในงานราชการ ธนาคาร โรงพยาบาล กองทัพ และระบบจัดเก็บข้อมูล หลายหน่วยงานพูดถึงแนวคิดมนุษย์คอยตรวจสอบ หรือมนุษย์อยู่ในกระบวนการ เพื่อให้ผู้เชี่ยวชาญตรวจผลลัพธ์ก่อนนำไปใช้งานจริง อย่างไรก็ตาม การมีมนุษย์ตรวจสอบไม่ได้รับประกันว่าจะพบข้อผิดพลาดทุกครั้ง

สาเหตุหนึ่งคือ AI มักตอบด้วยภาษาที่มั่นใจ แม้กำลังสร้างข้อมูลที่ไม่มีอยู่จริง ปรากฏการณ์นี้เรียกว่าอาการหลอนของ AI ผู้ตรวจสอบอาจเชื่อคำตอบเพราะระบบทำงานรวดเร็ว มีรูปแบบการนำเสนอเป็นระเบียบ และสอดคล้องกับความคาดหวังเดิมของตนเอง ยิ่งไปกว่านั้น หากผู้เชี่ยวชาญเห็นข้อมูลคลาดเคลื่อนซ้ำหลายครั้ง ข้อมูลนั้นอาจค่อย ๆ มีอิทธิพลต่อการตัดสินใจโดยไม่รู้ตัว

ผู้ใช้งานควรรับมือกับความทรงจำที่ถูกชี้นำอย่างไร

ในเวลานี้ยังไม่มีวิธีที่สมบูรณ์แบบในการตรวจจับเนื้อหาที่สร้างโดย AI งานวิจัยบางส่วนระบุว่า ความสามารถของคนทั่วไปในการแยกภาพจริงออกจากภาพปลอมใกล้เคียงกับการเดาสุ่ม ดังนั้น การรับมือจึงควรเริ่มจากการสร้างนิสัยตรวจสอบข้อมูล ไม่ใช่เชื่อเพียงเพราะภาพหรือข้อความดูสมจริง

• ตรวจสอบข้อมูลเดียวกันจากสำนักข่าวหรือแหล่งข้อมูลที่เป็นอิสระต่อกันหลายแห่ง
• ค้นหาที่มาของภาพด้วยเครื่องมือค้นหาภาพย้อนกลับ และตรวจสอบวันที่ สถานที่ รวมถึงบริบท
• ระวังเนื้อหาที่กระตุ้นอารมณ์อย่างรุนแรง เช่น ความโกรธ ความกลัว หรือความสะใจ
• อย่าตัดสินใจเรื่องสำคัญจากบทสรุปของ AI เพียงแหล่งเดียว
• บันทึกหลักฐานหรือแหล่งอ้างอิงไว้ก่อน เพื่อช่วยแยกความทรงจำจริงออกจากข้อมูลที่เพิ่งพบ
• หากไม่แน่ใจ ควรยอมรับว่ายังไม่มีข้อมูลเพียงพอ แทนการเติมรายละเอียดจากการคาดเดา

ภาคอุตสาหกรรมกำลังพัฒนาเครื่องมือช่วยตรวจจับดีพเฟกและฝึกให้ผู้คนรู้เท่าทันสื่อมากขึ้น แต่เทคโนโลยีตรวจจับก็อาจตามหลังเครื่องมือสร้างเนื้อหาอยู่เสมอ ที่น่าห่วงคือ บริษัทจำนวนมากกำลังพัฒนา AI แบบทำงานอัตโนมัติ ซึ่งอาจลดบทบาทของมนุษย์ในการตรวจสอบ ทั้งที่ยังไม่มีหลักประกันว่าระบบจะเข้าใจบริบทและแยกข้อเท็จจริงออกจากข้อมูลเท็จได้อย่างถูกต้อง

บทเรียนสำคัญจากเรื่องนี้คือ เราไม่ควรฝากความทรงจำและการตัดสินใจไว้กับสิ่งที่ดูน่าเชื่อถือเพียงอย่างเดียว เนื้อหาที่ AI สร้างอาจฝังความทรงจำปลอมได้โดยไม่ต้องมีเจตนาร้าย ผู้ใช้งานจึงควรหยุดตรวจสอบก่อนเชื่อ แชร์ หรือดำเนินการใด ๆ ความรอบคอบของมนุษย์ยังเป็นแนวป้องกันสำคัญที่สุด และทุกคนสามารถเริ่มต้นได้จากการตั้งคำถามกับข้อมูลที่เห็นในวันนี้

ที่มา – AI-Generated Content Can Plant Fake Memories, Researchers Say