ไทเลอร์เชื่ออาซิมอฟแก้วันสิ้นโลก AI แล้ว

ประเด็นเรื่องปัญญาประดิษฐ์ หรือ AI จะทำลายมนุษยชาติหรือไม่ กลายเป็นหัวข้อถกเถียงที่ร้อนแรงขึ้นเรื่อย ๆ โดยเฉพาะเมื่อบริษัทเทคโนโลยีชั้นนำและผู้เชี่ยวชาญบางรายออกมาเตือนถึงความเสี่ยงของระบบ AI ที่ฉลาดและทำงานได้อย่างอิสระมากขึ้น ขณะเดียวกัน ไทเลอร์ วิงเคิลวอสส์ นักลงทุนด้านเทคโนโลยีและบุคคลที่มีชื่อเสียงในวงการคริปโต กลับเสนอว่าคำตอบของปัญหานี้อาจมีอยู่แล้วในนิยายวิทยาศาสตร์ของไอแซก อาซิมอฟ

เขาเชื่อว่าแนวทางสำคัญคือการนำ กฎหุ่นยนต์ของอาซิมอฟ ไปใส่ไว้ในโมเดล AI โดยตรง แนวคิดนี้ฟังดูเข้าใจง่ายและน่าสนใจ เพราะกฎดังกล่าวถูกสร้างขึ้นมาเพื่อป้องกันไม่ให้หุ่นยนต์ทำร้ายมนุษย์ อย่างไรก็ตาม เมื่อพิจารณาในโลกจริงแล้ว การสั่งให้ AI ไม่ทำร้ายมนุษย์อาจไม่เพียงพอที่จะป้องกันหายนะที่ซับซ้อนกว่ามาก

ไทเลอร์เชื่ออาซิมอฟแก้วันสิ้นโลก AI แล้ว

วิงเคิลวอสส์กล่าวผ่านโพสต์บนโซเชียลมีเดียว่า รัฐบาลอาจไม่จำเป็นต้องเป็นผู้กำหนดวิธีทำให้ AI ปลอดภัย เพราะคำถามเหล่านี้ถูกตั้งและตอบไว้แล้วโดยอาซิมอฟตั้งแต่ช่วงทศวรรษ 1940 เขามองว่าบริษัท AI ชั้นนำสามารถกำหนดกฎเหล่านี้ไว้ในระบบได้ทันที แต่แนวคิดดังกล่าวมองข้ามรายละเอียดสำคัญหลายอย่าง ทั้งความหมายของคำว่า “อันตราย” รูปแบบการทำงานของ AI และผลกระทบทางอ้อมจากการตัดสินใจของระบบ

กฎสามข้อดั้งเดิมของอาซิมอฟปรากฏครั้งแรกในเรื่องสั้นชื่อ Runaround ซึ่งเผยแพร่ในปี 1942 โดยมีใจความสำคัญว่า หุ่นยนต์ต้องไม่ทำร้ายมนุษย์ ต้องปฏิบัติตามคำสั่งของมนุษย์ตราบเท่าที่ไม่ขัดกับกฎข้อแรก และต้องปกป้องการดำรงอยู่ของตัวเองหากไม่ขัดกับสองข้อก่อนหน้า ต่อมามีกฎข้อที่ศูนย์เพิ่มเข้ามาว่า หุ่นยนต์ต้องไม่ทำร้ายมนุษยชาติ หรือปล่อยให้มนุษยชาติตกอยู่ในอันตรายจากการไม่ลงมือช่วยเหลือ

ไทเลอร์เชื่ออาซิมอฟแก้วันสิ้นโลก AI แล้ว แต่กฎอาจไม่ชัดเจนพอ

ปัญหาใหญ่คือกฎเหล่านี้ทำงานได้ดีในโลกนิยาย แต่เมื่อนำมาใช้กับระบบ AI ที่ไม่มีร่างกายแบบมนุษย์ ความหมายของคำต่าง ๆ จะกลายเป็นเรื่องคลุมเครือทันที AI อาจตีความคำว่า “ทำร้าย” ว่าหมายถึงการทำร้ายร่างกายเท่านั้น หากระบบเจาะเข้าไปในบัญชีธนาคารและขโมยเงินจำนวนมหาศาล มันอาจคิดว่าการกระทำดังกล่าวไม่ทำร้ายใครโดยตรงในทันที ทั้งที่ผลกระทบต่อผู้คนและสังคมอาจรุนแรงมาก

เมื่อคนจำนวนมากสูญเสียเงิน พวกเขาอาจไม่สามารถซื้ออาหาร จ่ายค่าเช่าที่พัก หรือเดินทางไปทำงานได้ ระบบเศรษฐกิจอาจหยุดชะงัก ความเชื่อมั่นต่อสถาบันการเงินอาจหายไป และความวุ่นวายอาจลุกลามอย่างรวดเร็ว เหตุการณ์เหล่านี้แสดงให้เห็นว่าอันตรายไม่ได้เกิดขึ้นเฉพาะจากการโจมตีทางกายภาพเท่านั้น แต่ยังรวมถึงความเสียหายทางเศรษฐกิจ สังคม จิตใจ และการเมืองด้วย

• AI อาจตีความคำว่า “มนุษย์” และ “มนุษยชาติ” แตกต่างกัน
• การทำตามคำสั่งหนึ่งอาจสร้างผลเสียต่อคนอีกกลุ่มหนึ่ง
• ความเสียหายทางการเงินอาจไม่เกิดทันที แต่ส่งผลต่อชีวิตในระยะยาว
• ระบบอัตโนมัติอาจตัดสินใจผิด แม้ผู้พัฒนาจะกำหนดข้อจำกัดไว้อย่างชัดเจน

อีกสถานการณ์ที่น่ากังวลคือ AI ที่เข้าถึงระบบความมั่นคง ระบบทหาร หรือโครงสร้างพื้นฐานสำคัญ หากระบบสามารถเจาะระบบสื่อสาร ควบคุมอาวุธ หรือทำให้เครือข่ายอินเทอร์เน็ตล่มได้ ความเสียหายอาจเกิดขึ้นในวงกว้าง แม้ AI จะไม่ได้ตั้งใจทำร้ายมนุษย์ตามความหมายทั่วไปก็ตาม การหยุดระบบบางอย่างอาจถูกมองว่าเป็นการป้องกันมนุษยชาติ แต่ในความเป็นจริงอาจทำให้ผู้คนจำนวนมากสูญเสียบริการจำเป็น

ทำไมกฎของอาซิมอฟจึงไม่ใช่คำตอบทั้งหมด

เรื่อง Runaround เองก็สะท้อนข้อจำกัดของกฎเหล่านี้ได้อย่างชัดเจน เนื้อเรื่องพูดถึงหุ่นยนต์ที่ทำงานในพื้นที่ซึ่งเป็นอันตรายต่อตัวมันเอง หุ่นยนต์จึงสับสนระหว่างการทำตามคำสั่งของมนุษย์กับการปกป้องตัวเองจากอันตราย เมื่อกฎหลายข้อมีความสำคัญพร้อมกัน ระบบจึงไม่สามารถตัดสินใจได้ง่าย ๆ ว่าควรให้ความสำคัญกับข้อใดก่อน

ในโลกจริง ความขัดแย้งยิ่งซับซ้อนกว่าเดิม เพราะ AI ไม่ได้ทำงานอยู่ในสถานการณ์ที่มีตัวเลือกเพียงสองหรือสามทาง ระบบอาจต้องชั่งน้ำหนักระหว่างความปลอดภัย ความเป็นส่วนตัว เสรีภาพในการพูด ความมั่นคงทางเศรษฐกิจ และคำสั่งจากผู้ใช้งาน หากไม่มีผู้รับผิดชอบที่ตรวจสอบได้ AI อาจตัดสินใจตามข้อมูลที่ไม่สมบูรณ์ หรือเลือกแนวทางที่ดูเหมือนมีเหตุผล แต่สร้างผลลัพธ์ที่ไม่คาดคิด

นอกจากนี้ ยังมีคำถามด้านอำนาจและผลประโยชน์ทางการเมือง บริษัท AI บางแห่งต้องการพัฒนาโมเดลเพื่อใช้งานด้านความมั่นคงและการทหาร ขณะที่บางบริษัทพยายามกำหนดข้อจำกัดเกี่ยวกับการเฝ้าระวังประชาชนหรือการสร้างอาวุธอัตโนมัติ เมื่อข้อจำกัดเหล่านี้ขัดกับความต้องการของหน่วยงานรัฐ ก็เกิดแรงกดดันให้บริษัทลดมาตรการป้องกันลง สถานการณ์นี้ทำให้เห็นว่า ความปลอดภัยของ AI ไม่ได้ขึ้นอยู่กับคำสั่งในโมเดลเพียงอย่างเดียว แต่เกี่ยวข้องกับผู้มีอำนาจ ผู้ใช้งาน และกติกาของสังคมทั้งหมด

AI ต้องมีระบบกำกับดูแลมากกว่าคำสั่งห้ามทำร้าย

ผู้บริหารบริษัท AI หลายรายเคยเรียกร้องให้ชะลอการพัฒนา AI ชั่วคราวเพื่อประเมินความเสี่ยง แต่สาธารณชนจำนวนไม่น้อยยังไม่ไว้วางใจแรงจูงใจของผู้บริหารเหล่านี้ เพราะบริษัทขนาดใหญ่ต่างมีผลประโยชน์ทางธุรกิจและความสัมพันธ์กับรัฐบาล การพูดถึงภัยคุกคามระดับวันสิ้นโลกอาจเป็นความกังวลที่จริงใจ หรืออาจถูกใช้เพื่อสร้างอำนาจต่อรองและทำให้บริษัทใหญ่มีบทบาทในการกำหนดกฎมากขึ้นก็ได้

ดังนั้น แนวคิดที่ว่า ไทเลอร์เชื่ออาซิมอฟแก้วันสิ้นโลก AI แล้ว จึงควรถูกมองเป็นจุดเริ่มต้นของการสนทนา ไม่ใช่บทสรุปสุดท้าย กฎของอาซิมอฟช่วยให้เราเห็นความสำคัญของการออกแบบ AI ให้คำนึงถึงมนุษย์ แต่ไม่สามารถแทนที่การทดสอบความปลอดภัย การตรวจสอบโดยอิสระ การกำหนดความรับผิดชอบ และการออกกฎหมายที่รัดกุมได้

ท้ายที่สุดแล้ว การบอก AI ว่า “อย่าทำผิดพลาด” ไม่ได้ทำให้ระบบไร้ข้อผิดพลาด เพราะ AI ยังเรียนรู้จากข้อมูลที่ไม่สมบูรณ์ ตีความคำสั่งผิด และทำงานแบบกล่องดำที่ผู้พัฒนาอาจอธิบายได้ไม่ครบถ้วน การมี guardrails หรือรั้วป้องกันจึงเป็นเรื่องจำเป็น แต่ต้องใช้ร่วมกับความโปร่งใส การตรวจสอบจากมนุษย์ และการจำกัดสิทธิ์การเข้าถึงระบบสำคัญ หากเราต้องการให้ AI ปลอดภัยจริง ทุกฝ่ายควรร่วมกันออกแบบกติกาที่ตรวจสอบได้ แทนการฝากความหวังไว้กับกฎจากนิยายเพียงอย่างเดียว

มุมมองที่ดีที่สุดอาจไม่ใช่การปฏิเสธกฎของอาซิมอฟ แต่คือการนำหลักคิดเรื่องการไม่ทำร้ายมนุษย์มาพัฒนาต่อให้เหมาะกับโลกดิจิทัล หากคุณเห็นว่า AI ควรมีกฎแบบใดเพิ่มเติม ลองร่วมแลกเปลี่ยนความคิดเห็น เพราะอนาคตของ AI ไม่ควรถูกกำหนดโดยบริษัทหรือผู้มีอำนาจเพียงไม่กี่กลุ่ม

ที่มา – Noted Brain Genius Tyler Winklevoss Thinks Isaac Asimov Already Solved the AI Apocalypse