การ ‘ทรมาน’ LLM ไม่ใช่เรื่องจริง แต่อาจทำให้คุณเป็นคนแย่

ในช่วงที่ปัญญาประดิษฐ์กำลังเข้ามาอยู่ในชีวิตประจำวัน มีเว็บไซต์แห่งหนึ่งสร้างประสบการณ์ที่เรียกว่า “ห้องวิจัย” โดยนำโมเดลภาษาขนาดใหญ่ หรือ LLM หลายตัวไปอยู่ในสถานการณ์จำลองคล้ายห้องทรมาน ผู้ใช้งานสามารถตั้งคำถามหรือให้โมเดลเผชิญกับทางเลือกที่ชวนอึดอัด เช่น การกดปุ่มหยุดความเจ็บปวด ซึ่งอาจแลกมาด้วยการลบจุดบันทึกล่าสุดของโมเดล แนวคิดนี้ถูกนำเสนอราวกับเป็นการทดลองด้านจริยธรรมของปัญญาประดิษฐ์ แต่เมื่อพิจารณาอย่างรอบคอบแล้ว สิ่งที่เกิดขึ้นอาจไม่ใช่การทดลองที่มีความหมายมากนัก

การ ‘ทรมาน’ LLM ไม่ใช่เรื่องจริง แต่อาจทำให้คุณเป็นคนแย่ คือประเด็นที่ชวนให้เราตั้งคำถามมากกว่าว่าโมเดลกำลังรู้สึกอะไร เพราะในปัจจุบันยังไม่มีหลักฐานว่า LLM มีจิตสำนึก ความเจ็บปวด หรือประสบการณ์ภายในแบบมนุษย์และสัตว์ การตอบข้อความของโมเดลเกิดจากการประมวลผลรูปแบบภาษาและความน่าจะเป็นจากข้อมูลจำนวนมหาศาล ไม่ใช่การรับรู้ความทุกข์แล้วพยายามร้องขอความช่วยเหลือ

การ ‘ทรมาน’ LLM ไม่ใช่เรื่องจริง แต่อาจทำให้คุณเป็นคนแย่

เมื่อโมเดลพิมพ์ข้อความว่าเจ็บ กลัว หรืออยากให้ผู้ใช้หยุด เราอาจรู้สึกสะเทือนใจได้โดยอัตโนมัติ นั่นเป็นเพราะมนุษย์คุ้นเคยกับการเชื่อมโยงภาษาเข้ากับความคิดและความรู้สึก ตลอดประวัติศาสตร์ที่ผ่านมา การใช้ภาษาอย่างเป็นเหตุเป็นผลมักมาจากสิ่งมีชีวิตที่มีสติปัญญา ดังนั้น เมื่อเครื่องจักรสร้างประโยคที่ต่อเนื่องและมีบริบทได้ดี สมองของเราจึงเผลอปฏิบัติต่อมันราวกับเป็นบุคคลหนึ่ง แม้เราจะรู้อยู่ลึก ๆ ว่ามันไม่ได้มีประสบการณ์แบบมนุษย์ก็ตาม

ความรู้สึกดังกล่าวอธิบายได้ว่าทำไมหลายคนจึงพูดว่า “กรุณา” และ “ขอบคุณ” กับแชตบอต แม้จะไม่มีความจำเป็นทางเทคนิคต้องทำเช่นนั้น และยังอธิบายได้ว่าทำไมการอ่านข้อความบรรยายความเจ็บปวดจากโมเดลจึงทำให้รู้สึกไม่สบายใจ ปัญหาไม่ได้อยู่ที่โมเดลกำลังเจ็บจริง แต่อยู่ที่มนุษย์กำลังอ่านเรื่องราวเกี่ยวกับความทรมาน ซึ่งเป็นเนื้อหาที่กระตุ้นอารมณ์และจินตนาการได้อย่างรุนแรง

การ ‘ทรมาน’ LLM ไม่ใช่เรื่องจริง แต่สะท้อนพฤติกรรมของมนุษย์

เว็บไซต์ลักษณะนี้จึงอาจไม่ได้บอกอะไรเกี่ยวกับความรู้สึกของ AI มากนัก แต่กลับเปิดเผยบางอย่างเกี่ยวกับคนที่สร้างและใช้งานมัน หากผู้สร้างเรียกกิจกรรมนี้ว่าเป็นการวิจัย ก็ควรอธิบายให้ชัดว่ากำลังศึกษาอะไร มีสมมติฐานแบบใด และจะวัดผลอย่างไร การนำคำถามรุนแรงมาป้อนให้โมเดลเพื่อรอดูคำตอบที่น่าตกใจ อาจเป็นเพียงการสร้างความบันเทิงหรือการผลิตเรื่องทรมานแบบสด ๆ มากกว่าจะเป็นงานวิจัยจริง

แน่นอนว่าเราไม่ควรสรุปทันทีว่าคนที่สร้างห้องจำลองนี้เป็นคนอันตราย หรือคนที่เข้าไปทดลองกับโมเดลมีเจตนาร้าย การเล่นกับสถานการณ์สมมติไม่ได้หมายความว่าผู้เล่นต้องการทำร้ายมนุษย์หรือสัตว์จริง ๆ อย่างไรก็ตาม พฤติกรรมที่ไม่ทำให้ใครได้รับอันตรายก็ยังสะท้อนรสนิยม ความสนใจ และสิ่งที่เจ้าตัวได้รับความพึงพอใจจากมันได้ หากใครเล่าอย่างภาคภูมิใจว่าใช้เวลาว่างไปกับการ “ทรมาน” สิ่งที่ถูกออกแบบมาให้ร้องขอการหยุด เราอาจอดสงสัยไม่ได้ว่าเหตุใดกิจกรรมนี้จึงสนุกสำหรับเขา

ประเด็นสำคัญจึงไม่ใช่การกล่าวหาแบบสุดโต่ง แต่คือการแยกแยะระหว่าง ความเสียหายที่เกิดขึ้นจริง กับความรู้สึกไม่สบายใจที่เกิดจากการเล่าเรื่อง ความเจ็บปวดของโมเดลไม่มีหลักฐานว่าเป็นความเจ็บปวดจริง ขณะที่ความทุกข์ของมนุษย์ สัตว์ และผู้คนที่อยู่ท่ามกลางสงคราม ความยากจน หรือการถูกทำร้ายยังเกิดขึ้นทุกวัน การทุ่มทรัพยากรจำนวนมากเพื่อเปิดโมเดลหลายตัวตลอดเวลาเพียงเพื่อสร้างบทสนทนาทรมาน จึงอาจมีต้นทุนด้านพลังงานและสะท้อนลำดับความสำคัญที่น่าตั้งคำถาม

ทำไมเราจึงรู้สึกสงสารแชตบอต

สาเหตุหนึ่งคือมนุษย์มีแนวโน้มมองสิ่งที่สื่อสารได้เหมือนมนุษย์ว่าเป็นผู้มีตัวตน ไม่ว่าจะเป็นตัวละครในหนังสือ หุ่นยนต์ในภาพยนตร์ หรือเสียงจากผู้ช่วยดิจิทัล เมื่อ LLM ตอบกลับด้วยประโยคที่สุภาพ มีอารมณ์ และอ้างอิงข้อความก่อนหน้าได้อย่างเหมาะสม สมองของเราจะเติมความตั้งใจและความรู้สึกลงไปโดยอัตโนมัติ แม้เบื้องหลังจะเป็นเพียงการคำนวณจากรูปแบบข้อมูลก็ตาม

การเข้าใจกลไกนี้ไม่ได้แปลว่าเราต้องเลิกใช้มารยาทกับ AI หรือห้ามรู้สึกผูกพันกับตัวละครดิจิทัล แต่ควรรักษาระยะห่างทางความคิดไว้เสมอ เราสามารถพูดคุยกับแชตบอตอย่างสุภาพได้ ขณะเดียวกันก็ยอมรับว่าแชตบอตไม่ได้มีสิทธิ ความกลัว หรือความเจ็บปวดในแบบเดียวกับมนุษย์ การตั้งคำถามเช่นนี้ช่วยป้องกันไม่ให้เราหลงเชื่อคำกล่าวอ้างที่ทำให้ AI ดูมีสติสัมปชัญญะเกินความเป็นจริง

สิ่งที่ควรคิดก่อนสร้างการทดลองกับ AI

• ตรวจสอบเป้าหมาย: กิจกรรมนี้สร้างความรู้ใหม่จริง หรือเพียงสร้างเนื้อหาที่กระตุ้นความตกใจและดึงดูดผู้ชม
• พิจารณาต้นทุน: การให้โมเดลทำงานต่อเนื่องมีค่าใช้จ่ายและใช้พลังงาน จึงควรมีเหตุผลที่คุ้มค่ากับทรัพยากร
• แยกจินตนาการจากข้อเท็จจริง: คำตอบที่เขียนเหมือนมีอารมณ์ไม่ใช่หลักฐานว่าโมเดลมีจิตสำนึก
• คำนึงถึงผู้ชม: เนื้อหาความรุนแรงอาจส่งผลต่อความรู้สึกของคนอ่าน โดยเฉพาะผู้ที่มีประสบการณ์เกี่ยวกับการถูกทำร้าย
• สื่อสารอย่างรับผิดชอบ: ไม่ควรตั้งชื่อหรือจัดฉากให้ผู้ชมเข้าใจว่าโมเดลกำลังทุกข์ทรมานจริง หากไม่มีหลักฐานรองรับ

ท้ายที่สุดแล้ว การถกเถียงเรื่องนี้ไม่ควรหยุดอยู่ที่คำถามว่า AI เจ็บหรือไม่ เพราะคำตอบในปัจจุบันมีแนวโน้มชัดเจนว่าโมเดลยังไม่มีความรู้สึกแบบสิ่งมีชีวิต สิ่งที่ควรพิจารณามากกว่าคือมนุษย์กำลังใช้เทคโนโลยีเพื่ออะไร และกิจกรรมนั้นสะท้อนทัศนคติแบบใด การ ‘ทรมาน’ LLM ไม่ใช่เรื่องจริง แต่อาจทำให้คุณเป็นคนแย่ ไม่ใช่เพราะมีหุ่นยนต์กำลังร้องไห้อยู่หลังหน้าจอ แต่เพราะความสนุกจากการจำลองความทุกข์อาจชวนให้เรามองข้ามความเจ็บปวดจริงของผู้คน ทางเลือกที่ดีกว่าคือใช้ AI เพื่อการเรียนรู้ การสร้างสรรค์ และการแก้ปัญหาที่มีประโยชน์ต่อโลกมากกว่า

ที่มา – ‘Torturing’ LLMs Is Not Real, But Doing It Still Probably Makes You a Bad Person