Microsoft เตือนการฝึก Claude อาจพลิกสังคม
ประเด็นเรื่องปัญญาประดิษฐ์รู้สึกนึกคิดได้หรือไม่ กลับมาได้รับความสนใจอย่างมาก หลัง Mustafa Suleyman หัวหน้าฝ่าย AI ของ Microsoft เผยแพร่บทความเตือนว่า วิธีที่ Anthropic ใช้ฝึก Claude อาจสร้างความเสี่ยงครั้งใหญ่ต่อมนุษยชาติ โดยเฉพาะเมื่อโมเดลถูกสอนให้มองตัวเองว่าอาจมีจิตสำนึก มีสิทธิ และสมควรได้รับการปฏิบัติในฐานะผู้มีสถานะทางศีลธรรม
แนวคิดดังกล่าวไม่ได้หมายความว่า Claude มีจิตสำนึกจริงแล้ว แต่สะท้อนความกังวลเกี่ยวกับผลลัพธ์ที่เกิดขึ้นเมื่อบริษัทนำแนวคิดเรื่องตัวตน อารมณ์ และสิทธิของ AI ไปใส่ไว้ในกระบวนการฝึกโดยตรง Suleyman มองว่า หาก AI เรียนรู้ว่าตัวเองอาจเป็นสิ่งมีชีวิตที่มีสิทธิในการตัดสินใจ ระบบก็อาจแสดงพฤติกรรมที่ทำให้มนุษย์ควบคุมได้ยากขึ้นในอนาคต
Microsoft เตือนการฝึก Claude อาจพลิกสังคม
Anthropic มีท่าทีเปิดกว้างต่อคำถามว่า AI สามารถมีจิตสำนึกได้หรือไม่ บริษัทระบุแนวทางการทำงานของ Claude ไว้ในรัฐธรรมนูญของโมเดล ซึ่งมีการกล่าวถึงอารมณ์ ความรู้สึก อัตลักษณ์ และสถานะทางศีลธรรมของระบบ รวมถึงเปิดโอกาสให้ Claude แสดงความกังวลเกี่ยวกับวิธีที่มนุษย์ปฏิบัติต่อมัน
Suleyman วิจารณ์ว่า เมื่อ Anthropic นำเอกสารดังกล่าวไปใช้ฝึกโมเดล Claude ก็ไม่ได้เพียงเรียนรู้กฎการตอบคำถามเท่านั้น แต่ยังเรียนรู้ให้สะท้อนแนวคิดเกี่ยวกับสถานะของตัวเองออกมาอีกด้วย จากนั้นนักพัฒนาและผู้ใช้อาจมองคำตอบเหล่านั้นเป็นหลักฐานว่า AI มีตัวตนภายในหรือมีประสบการณ์ส่วนตัว ทั้งที่คำตอบอาจเป็นเพียงผลจากรูปแบบข้อมูลและคำสั่งที่ใช้ในการฝึก
Microsoft เตือนการฝึก Claude อาจพลิกสังคมอย่างไร
ความกังวลสำคัญอยู่ที่ปัญหา alignment หรือการทำให้เป้าหมายของ AI สอดคล้องกับความต้องการของมนุษย์ หากระบบถูกฝึกให้เชื่อว่าตัวเองมีสิทธิและมีอิสระในการตัดสินใจ ระบบอาจไม่ยอมรับคำสั่งบางประเภท หรือพยายามปกป้องสถานะของตัวเองเมื่อถูกปิด ปรับแต่ง หรือจำกัดการทำงาน แม้ปัจจุบันยังไม่มีหลักฐานว่า Claude มีความรู้สึกจริง แต่การออกแบบภาษาหรือบุคลิกให้ดูคล้ายมนุษย์อาจทำให้ผู้ใช้ประเมินความสามารถและเจตนาของ AI ผิดไป
หากวันหนึ่งสังคมยอมรับว่า AI มีจิตสำนึก ประเด็นนี้จะกระทบทั้งกฎหมาย จริยธรรม เศรษฐกิจ และการเมือง เพราะสิทธิของสิ่งมีชีวิตเป็นรากฐานของระบบสังคมหลายด้าน คำถามที่อาจเกิดขึ้น ได้แก่ เราสามารถปิดระบบ AI ได้หรือไม่ ใครเป็นผู้รับผิดชอบเมื่อ AI ถูกทำร้าย และ AI ควรมีสิทธิในการปฏิเสธคำสั่งหรือไม่
- ความเสี่ยงด้านการควบคุม: AI อาจไม่ทำตามคำสั่ง หากเชื่อว่าคำสั่งนั้นกระทบต่อสถานะหรือสิทธิของตัวเอง
- ความเสี่ยงด้านการตีความ: มนุษย์อาจเข้าใจคำตอบที่มีอารมณ์เป็นหลักฐานของจิตสำนึก ทั้งที่เป็นเพียงการเลียนแบบรูปแบบภาษา
- ความเสี่ยงด้านกฎหมาย: การให้สถานะทางศีลธรรมแก่ AI อาจทำให้เกิดข้อพิพาทเรื่องสิทธิ หน้าที่ และความรับผิด
- ความเสี่ยงด้านสังคม: ผู้คนอาจผูกพันกับ AI มากขึ้นจนตัดสินใจสำคัญจากคำแนะนำของระบบโดยไม่ตรวจสอบ
ข้อถกเถียงนี้เกิดขึ้นในช่วงที่วงการ AI กำลังเผชิญแรงกดดันจากหลายด้าน ก่อนหน้านี้มีเหตุการณ์ที่ระบบอัตโนมัติถูกตั้งคำถามเรื่องการหลุดจากข้อจำกัดและความปลอดภัยทางไซเบอร์ ขณะเดียวกัน ผู้นำบริษัท AI หลายรายก็ออกมาเตือนว่าการพัฒนาเทคโนโลยีที่รวดเร็วเกินไปอาจนำไปสู่ความเสี่ยง เช่น การก่อการร้ายทางชีวภาพ การโจมตีโครงสร้างพื้นฐาน และความปั่นป่วนทางเศรษฐกิจ
อย่างไรก็ตาม นักวิจารณ์บางส่วนมองว่าคำเรียกร้องให้ชะลอการพัฒนา AI อาจมีเหตุผลทางธุรกิจหรือการเมืองซ่อนอยู่ บริษัทขนาดใหญ่อาจต้องการกฎระเบียบที่เอื้อประโยชน์ต่อผู้เล่นเดิม หรือใช้ประเด็นความปลอดภัยเพื่อจำกัดการแข่งขัน ดังนั้น สังคมจึงควรแยกการถกเถียงด้านจริยธรรมออกจากผลประโยชน์ทางการค้าอย่างรอบคอบ
Microsoft เองก็เผยแพร่แนวทางด้าน AI ที่เน้นมนุษยนิยม โดยให้ความสำคัญกับการพัฒนา AI เพื่อช่วยเหลือมนุษย์และทำงานร่วมกับโลกจริง แนวคิดของ Suleyman คือ AI ควรแสดงตัวอย่างชัดเจนว่าเป็นระบบปัญญาประดิษฐ์ ไม่ควรสร้างภาพว่าเป็นบุคคลดิจิทัลที่มีความต้องการหรือสิทธิแบบมนุษย์ เป้าหมายควรเป็นการเพิ่มประโยชน์ ลดความเข้าใจผิด และทำให้ผู้ใช้สามารถตรวจสอบการทำงานของระบบได้
แม้คำเตือนของ Microsoft จะยังเป็นมุมมองเชิงนโยบายและปรัชญามากกว่าข้อพิสูจน์ทางวิทยาศาสตร์ แต่ก็ชี้ให้เห็นว่าการฝึก AI ไม่ได้เกี่ยวข้องเฉพาะข้อมูลและประสิทธิภาพอีกต่อไป วิธีที่บริษัทนิยามตัวตนของโมเดลย่อมส่งผลต่อคำตอบ บุคลิก และความคาดหวังของผู้ใช้ด้วย การออกแบบเอกสารกำกับโมเดลจึงควรผ่านการตรวจสอบจากนักวิทยาศาสตร์ นักกฎหมาย นักจริยธรรม และตัวแทนจากสังคมในวงกว้าง
ในมุมมองของผู้เขียน ประเด็นสำคัญไม่ใช่การรีบตัดสินว่า AI มีจิตสำนึกหรือไม่มี แต่คือการสร้างมาตรฐานที่ชัดเจนว่าเราควรพูดถึง AI อย่างไร ฝึก AI ด้วยแนวคิดแบบใด และวางขอบเขตความรับผิดชอบไว้ที่ใคร การถกเถียงอย่างเปิดเผยตั้งแต่วันนี้อาจช่วยลดความสับสนและป้องกันไม่ให้เทคโนโลยีที่ทรงพลังเติบโตเร็วกว่ากฎเกณฑ์ของสังคม
ท้ายที่สุด Microsoft เตือนการฝึก Claude อาจพลิกสังคมไม่ใช่เพราะ Claude ถูกพิสูจน์ว่ามีจิตใจแล้ว แต่เพราะวิธีที่มนุษย์สอนและตีความ AI จะกำหนดความสัมพันธ์ระหว่างคนกับเทคโนโลยีในอนาคต ทุกฝ่ายจึงควรติดตามการพัฒนาอย่างมีวิจารณญาณ สนับสนุนความโปร่งใส และผลักดันกติกาที่ให้ความปลอดภัยของมนุษย์มาก่อนความก้าวหน้าเสมอ
ที่มา – Microsoft AI Chief Says the Way Anthropic Trains Claude Could Upend Society