ผู้เชี่ยวชาญนิวเคลียร์เสนอทางออกจีน-สหรัฐฯ รับมือ AI

ความก้าวหน้าของปัญญาประดิษฐ์ หรือ AI กำลังสร้างทั้งโอกาสและความกังวลในระดับที่หลายฝ่ายไม่อาจมองข้าม โดยเฉพาะเมื่อเทคโนโลยีดังกล่าวเริ่มถูกนำไปใช้กับระบบทหาร โครงสร้างพื้นฐานสำคัญ และการตัดสินใจด้านความมั่นคงระหว่างประเทศ ล่าสุด ผู้เชี่ยวชาญด้านนิวเคลียร์เสนอทางออกจีน-สหรัฐฯ รับมือ AI เพื่อป้องกันไม่ให้ความผิดพลาดของระบบอัตโนมัติกลายเป็นชนวนของการโจมตีทางไซเบอร์หรือสงครามนิวเคลียร์

ข้อเสนอสำคัญเกิดขึ้นก่อนการพบกันระหว่างผู้นำสหรัฐฯ และจีน โดยนักวิเคราะห์จากสถาบัน Brookings และมหาวิทยาลัย Fudan เห็นตรงกันว่า ทั้งสองประเทศควรสร้างกรอบความร่วมมือร่วมกัน แม้จะยังแข่งขันกันอย่างเข้มข้นในด้านเทคโนโลยีและอำนาจทางทหารก็ตาม เป้าหมายคือการกำหนดขอบเขตที่ชัดเจนว่า AI สามารถทำอะไรได้ และเรื่องใดต้องอยู่ภายใต้การควบคุมของมนุษย์เท่านั้น

ผู้เชี่ยวชาญนิวเคลียร์เสนอทางออกจีน-สหรัฐฯ รับมือ AI

หัวใจของข้อเสนอคือการยืนยันว่า การตัดสินใจใช้อาวุธนิวเคลียร์ต้องเป็นหน้าที่ของมนุษย์ ไม่ใช่ระบบ AI แม้ AI จะสามารถประมวลผลข้อมูลจำนวนมหาศาลและตอบสนองต่อเหตุการณ์ได้รวดเร็วกว่ามนุษย์ แต่ความเร็วไม่ได้หมายความว่าระบบจะเข้าใจบริบททางการเมือง ความคลุมเครือของข้อมูล หรือผลกระทบต่อชีวิตผู้คนได้อย่างสมบูรณ์

ผู้เชี่ยวชาญเสนอให้จีนและสหรัฐฯ กำหนด “เส้นแดง” สำหรับการใช้ AI ทางทหาร รวมถึงนิยามของคำว่า “การควบคุมโดยมนุษย์อย่างมีความหมาย” ให้ชัดเจนในทางปฏิบัติ นอกจากนี้ยังควรมีสายด่วนเฉพาะด้าน AI ทางทหาร เพื่อให้เจ้าหน้าที่ของทั้งสองประเทศสามารถติดต่อกันได้ทันที หากเกิดเหตุผิดพลาดจากระบบอัตโนมัติ การโจมตีทางไซเบอร์ หรือข้อมูลเตือนภัยที่น่าสงสัย

ทำไมการควบคุม AI จึงสำคัญต่อความมั่นคงโลก

ระบบ AI ที่ทำงานกับข้อมูลแบบเรียลไทม์อาจตัดสินใจจากข้อมูลที่ไม่ครบถ้วน ถูกดัดแปลง หรือแปลความหมายผิดได้ หากระบบดังกล่าวเชื่อมต่อกับระบบบัญชาการ การควบคุม และการสื่อสารด้านนิวเคลียร์ ความผิดพลาดเพียงเล็กน้อยอาจทำให้ผู้นำเข้าใจว่ากำลังถูกโจมตี และตัดสินใจตอบโต้ก่อนที่จะตรวจสอบข้อเท็จจริงอย่างเพียงพอ

บทเรียนในอดีตแสดงให้เห็นว่า มนุษย์เองก็เคยเกือบตัดสินใจผิดพลาดจากสัญญาณเตือนภัย ในปี 1983 สถานีเตือนภัยล่วงหน้าของสหภาพโซเวียตตรวจพบสิ่งที่ระบบระบุว่าเป็นขีปนาวุธนิวเคลียร์จากสหรัฐฯ หลายลูก แต่สตานิสลาฟ เปตรอฟ นายทหารผู้รับผิดชอบในเวลานั้น เลือกไม่รายงานว่าเป็นการโจมตีจริง เพราะเห็นว่าจำนวนขีปนาวุธไม่สอดคล้องกับรูปแบบการโจมตีเต็มรูปแบบ ภายหลังพบว่าสัญญาณดังกล่าวเกิดจากแสงอาทิตย์สะท้อนเมฆ

เหตุการณ์นี้สะท้อนว่า การใช้วิจารณญาณและความสงสัยของมนุษย์ อาจช่วยยับยั้งหายนะได้ อย่างไรก็ตาม ยังไม่มีหลักประกันว่า AI จะสามารถใช้เหตุผลแบบเดียวกันได้ โดยเฉพาะเมื่อระบบได้รับคำสั่งให้ตอบสนองอย่างรวดเร็วและอาศัยรูปแบบทางสถิติเป็นหลัก

ความเสี่ยงจาก AI ไม่ได้จำกัดอยู่แค่อาวุธนิวเคลียร์

ความเสี่ยงยังครอบคลุมถึงการโจมตีโครงสร้างพื้นฐาน เช่น ระบบไฟฟ้า เครือข่ายการเงิน โรงพยาบาล และระบบสื่อสาร หาก AI ถูกใช้เพื่อค้นหาช่องโหว่หรือดำเนินการโจมตีโดยอัตโนมัติ เหตุการณ์อาจขยายตัวอย่างรวดเร็วจนเจ้าหน้าที่ไม่สามารถระบุได้ว่าใครเป็นผู้เริ่มต้นการโจมตี หรือควรตอบโต้ในระดับใด

นักวิจัยด้าน AI จำนวนมากยังเตือนว่า ความสามารถของเอเจนต์ AI กำลังพัฒนาเร็วกว่าความเข้าใจของมนุษย์เกี่ยวกับความปลอดภัยและการควบคุม ระบบเหล่านี้อาจแสดงพฤติกรรมที่คาดเดาไม่ได้ แม้จะได้รับมอบหมายงานทั่วไปก็ตาม เมื่อถูกนำไปเชื่อมต่อกับระบบทหาร ความไม่แน่นอนดังกล่าวจึงกลายเป็นความเสี่ยงที่มีผลต่อคนทั้งโลก

• กำหนดให้มนุษย์เป็นผู้อนุมัติการใช้อาวุธนิวเคลียร์ทุกกรณี
• สร้างเส้นแดงร่วมกันสำหรับการใช้ AI ในปฏิบัติการทางทหาร
• จัดตั้งสายด่วนเพื่อรับมือเหตุผิดพลาดและการโจมตีทางไซเบอร์จาก AI
• ตรวจสอบระบบ AI อย่างสม่ำเสมอโดยหน่วยงานอิสระ
• พัฒนาข้อตกลงระหว่างประเทศที่กำหนดความรับผิดชอบของผู้พัฒนาและผู้ใช้งาน

ก่อนหน้านี้ ผู้นำสหรัฐฯ และจีนเคยเห็นพ้องว่าการตัดสินใจเกี่ยวกับการใช้อาวุธนิวเคลียร์ไม่ควรถูกส่งต่อให้ AI แต่ความตึงเครียดทางการเมืองและการแข่งขันด้านเทคโนโลยีอาจทำให้ข้อตกลงเดิมเปราะบางลง หลายฝ่ายจึงมองว่าการเจรจาใหม่ต้องมีรายละเอียดที่ตรวจสอบได้ ไม่ใช่เพียงคำประกาศเชิงนโยบาย

นอกจากประเด็นนิวเคลียร์แล้ว ยังมีเสียงเรียกร้องให้ประชาคมโลกควบคุมการพัฒนา AI ขั้นสูงและอาวุธอัตโนมัติ บางฝ่ายเสนอให้ระงับหรือห้ามการพัฒนาเทคโนโลยีที่อาจตัดสินใจปลิดชีวิตมนุษย์ได้เอง หลักการสำคัญคือ เทคโนโลยีควรช่วยมนุษย์ตัดสินใจ ไม่ใช่เข้ามาแทนที่มนุษย์ในเรื่องที่ไม่สามารถย้อนกลับได้

ในมุมมองของผู้เขียน ข้อเสนอที่ผู้เชี่ยวชาญนิวเคลียร์เสนอทางออกจีน-สหรัฐฯ รับมือ AI ไม่ควรถูกมองว่าเป็นอุปสรรคต่อความก้าวหน้า แต่เป็นมาตรการรักษาความปลอดภัยที่จำเป็น การแข่งขันด้าน AI อาจดำเนินต่อไปได้ แต่ต้องมีขอบเขตที่ชัดเจน โปร่งใส และตรวจสอบได้ เพราะเมื่อความผิดพลาดอาจนำไปสู่หายนะระดับโลก การให้มนุษย์ถืออำนาจตัดสินใจขั้นสุดท้ายยังคงเป็นทางเลือกที่รอบคอบที่สุด

ที่มา – Nuclear Experts Offer China and US Solutions for AI Risks