AI จ่อแทนที่การตัดสินใจมนุษย์ในสงคราม

เมื่อพูดถึงปัญญาประดิษฐ์ หลายคนอาจนึกถึงระบบช่วยกรองอีเมลขยะ การแนะนำเพลง หรือเครื่องมือจองร้านอาหาร งานเหล่านี้เป็นงานทั่วไปที่ความผิดพลาดมักไม่ก่อให้เกิดอันตรายร้ายแรง แต่เมื่อเทคโนโลยีเดียวกันถูกนำไปใช้ในสนามรบ คำถามที่ตามมาคือ เราควรปล่อยให้ระบบอัตโนมัติเป็นผู้ตัดสินใจเกี่ยวกับชีวิตและความตายมากเพียงใด

ประเด็นนี้กำลังได้รับความสนใจอย่างมาก หลัง Robin Geiss ผู้อำนวยการสถาบันวิจัยการลดอาวุธแห่งสหประชาชาติ หรือ UNIDIR เตือนว่า AI จ่อแทนที่การตัดสินใจมนุษย์ในสงคราม เขาตั้งคำถามสำคัญว่า เราจะยอมให้เครื่องจักรเลือกเป้าหมายและสังหารมนุษย์หรือไม่ พร้อมระบุว่านี่คือเส้นแบ่งทางศีลธรรมที่ไม่ควรถูกข้ามง่าย ๆ

AI จ่อแทนที่การตัดสินใจมนุษย์ในสงครามได้อย่างไร

ระบบ AI ทางทหารสามารถประมวลผลข้อมูลจำนวนมหาศาลจากภาพถ่ายดาวเทียม โดรน เรดาร์ เซนเซอร์ และฐานข้อมูลข่าวกรองได้รวดเร็วกว่ามนุษย์ นักพัฒนามองว่าความเร็วนี้อาจช่วยตรวจจับภัยคุกคามและตอบสนองต่อการโจมตีได้ทันเวลา อย่างไรก็ตาม การตัดสินใจในสงครามไม่ได้มีเพียงตัวเลขหรือรูปแบบข้อมูล เพราะยังเกี่ยวข้องกับบริบททางการเมือง กฎหมายระหว่างประเทศ ความตั้งใจของฝ่ายตรงข้าม และความปลอดภัยของพลเรือน

หากระบบได้รับข้อมูลไม่ครบถ้วน หรือเรียนรู้จากข้อมูลที่มีอคติ ผลลัพธ์ก็อาจผิดพลาดได้ ระบบที่ดูเหมือนมีความแม่นยำสูงอาจระบุอาคารพลเรือนเป็นฐานทัพ หรือเข้าใจการเคลื่อนไหวของผู้คนผิดไปจากความเป็นจริง เมื่อไม่มีมนุษย์ตรวจสอบอย่างรอบคอบ ความผิดพลาดเพียงครั้งเดียวอาจนำไปสู่การสูญเสียจำนวนมาก และทำให้สถานการณ์บานปลายจนควบคุมไม่ได้

AI จ่อแทนที่การตัดสินใจมนุษย์ในสงครามกับปัญหา “กล่องดำ”

ข้อกังวลสำคัญคือระบบ AI บางประเภททำงานเหมือนกล่องดำ ผู้ใช้อาจเห็นเพียงข้อมูลนำเข้าและคำตอบสุดท้าย แต่ไม่เข้าใจอย่างชัดเจนว่าระบบใช้เหตุผลใดในการเลือกเป้าหมาย เมื่อเจ้าหน้าที่ต้องตัดสินใจภายในเวลาไม่กี่วินาที การตรวจสอบคำแนะนำของเครื่องจักรอย่างละเอียดอาจทำได้ยาก ยิ่งระบบมีความซับซ้อนมากเท่าไร ความรับผิดชอบก็ยิ่งพร่าเลือนมากขึ้นเท่านั้น

ในสถานการณ์เช่นนี้ อาจเกิดคำถามว่าใครต้องรับผิดชอบเมื่อระบบทำงานผิดพลาด ผู้บังคับบัญชาที่อนุมัติการใช้ระบบ นักพัฒนาที่สร้างอัลกอริทึม บริษัทเทคโนโลยีที่ให้บริการ หรือผู้ปฏิบัติงานที่กดปุ่มโจมตี คำตอบที่ไม่ชัดเจนอาจทำให้ผู้มีอำนาจผลักความรับผิดชอบให้กันเอง และทำให้เหยื่อไม่ได้รับความยุติธรรม

António Guterres เลขาธิการสหประชาชาติ เคยเรียกร้องให้บางการตัดสินใจต้องคงไว้เป็นหน้าที่ของมนุษย์ตลอดไป โดยเฉพาะการตัดสินใจเกี่ยวกับการพรากชีวิต แนวคิดนี้สอดคล้องกับข้อเสนอของผู้เชี่ยวชาญและผู้นำทางศาสนาหลายฝ่ายที่ต้องการให้ประเทศต่าง ๆ กำหนดข้อจำกัดทางจริยธรรมที่เข้มงวดต่ออาวุธอัตโนมัติ

เหตุใดการใช้ AI ในสนามรบจึงเพิ่มขึ้น

การพัฒนา AI ที่รวดเร็วทำให้กองทัพสามารถนำเทคโนโลยีไปใช้กับงานหลากหลาย ตั้งแต่การวิเคราะห์ข่าวกรอง การวางแผนภารกิจ การควบคุมโดรน ไปจนถึงการรักษาความปลอดภัยทางไซเบอร์ ความขัดแย้งที่เกิดขึ้นทั่วโลกยังทำหน้าที่เป็นพื้นที่ทดสอบระบบจริง และสร้างแรงจูงใจให้บริษัทต่าง ๆ พัฒนาเครื่องมือที่ใช้งานได้เร็วขึ้น

บริษัทเทคโนโลยีเอกชนในสหรัฐอเมริกาหลายแห่งเข้าไปมีบทบาทกับงานด้านกลาโหมมากขึ้น บริษัทอย่าง Anduril และ Palantir เคยนำเสนอระบบวิเคราะห์ข้อมูลและเทคโนโลยีสนับสนุนการรบแก่พันธมิตรทางทหาร ขณะเดียวกัน บริษัทเหล่านี้ยังมีอิทธิพลต่อทิศทางการจัดซื้อและการปรับโครงสร้างระบบบัญชาการของกองทัพ

ในอดีต การพัฒนาเทคโนโลยีทางทหารของสหรัฐฯ มักอยู่ภายใต้ผู้รับเหมาด้านกลาโหมรายใหญ่ เช่น Lockheed Martin และ Northrop Grumman หน่วยงานทหารมีบทบาทกำกับดูแลเทคโนโลยีและกำหนดวิธีใช้งานอย่างชัดเจน แต่ปัจจุบันบริษัทจากซิลิคอนแวลลีย์เข้ามาแข่งขันมากขึ้น ทำให้เส้นแบ่งระหว่างนวัตกรรมเชิงพาณิชย์กับเครื่องมือทางทหารเริ่มเลือนราง

การเปลี่ยนแปลงนี้ทำให้เกิดความกังวลว่า ผู้บริหารบริษัทเทคโนโลยีเพียงไม่กี่คนอาจมีอิทธิพลต่อการตัดสินใจด้านความมั่นคงระดับประเทศ หากบริษัทมีแรงจูงใจด้านรายได้ ชื่อเสียง หรือการแข่งขันทางธุรกิจ ก็อาจผลักดันให้กองทัพใช้ AI ในวงกว้างก่อนที่จะมีการประเมินผลกระทบอย่างเพียงพอ

อาวุธอัตโนมัติกับเส้นแบ่งทางจริยธรรม

อาวุธอัตโนมัติอาจทำงานได้โดยไม่ต้องรอคำสั่งจากมนุษย์ทุกขั้นตอน ระบบสามารถค้นหา จัดประเภท และโจมตีเป้าหมายตามเกณฑ์ที่ตั้งไว้ จุดเด่นคือความเร็วและความสามารถในการทำงานต่อเนื่อง แต่จุดอ่อนคือระบบอาจไม่เข้าใจความแตกต่างระหว่างนักรบกับพลเรือน เด็กกับผู้ใหญ่ หรือภัยคุกคามจริงกับเหตุการณ์ที่เกิดขึ้นโดยบังเอิญ

กฎหมายมนุษยธรรมระหว่างประเทศกำหนดหลักการสำคัญ เช่น การแยกแยะเป้าหมาย ความได้สัดส่วน และการใช้กำลังเท่าที่จำเป็น หลักการเหล่านี้ต้องอาศัยการพิจารณาบริบทและดุลยพินิจ ไม่ใช่เพียงการคำนวณทางสถิติ ดังนั้น การให้ AI มีอำนาจตัดสินใจโดยอิสระจึงอาจขัดแย้งกับความรับผิดชอบที่มนุษย์ควรมีต่อการใช้กำลัง

• ต้องมีมนุษย์ควบคุม: การตัดสินใจโจมตีเป้าหมายควรมีเจ้าหน้าที่ที่สามารถหยุดหรือยกเลิกคำสั่งได้
• ต้องตรวจสอบได้: ระบบควรเก็บบันทึกข้อมูล เหตุผล และลำดับคำสั่งเพื่อใช้ตรวจสอบภายหลัง
• ต้องทดสอบอย่างเข้มงวด: กองทัพควรทดสอบระบบในสถานการณ์หลากหลาย รวมถึงเหตุการณ์ที่ข้อมูลไม่สมบูรณ์
• ต้องมีกฎระหว่างประเทศ: ประเทศต่าง ๆ ควรร่วมกันกำหนดมาตรฐานเกี่ยวกับอาวุธอัตโนมัติ
• ต้องรับผิดชอบต่อผลลัพธ์: ผู้พัฒนาและผู้ใช้งานต้องไม่สามารถปัดความรับผิดชอบให้กับอัลกอริทึม

ระบบ AI ทางทหารควรเดินหน้าอย่างไร

การเรียกร้องให้กำกับดูแล AI ไม่ได้หมายความว่าต้องหยุดการวิจัยทั้งหมด เทคโนโลยีอาจช่วยลดความเสี่ยงต่อทหารในภารกิจค้นหาและกู้ภัย ช่วยตรวจจับทุ่นระเบิด หรือช่วยวิเคราะห์ข้อมูลเพื่อป้องกันการโจมตี อย่างไรก็ตาม ประโยชน์เหล่านี้ควรเกิดขึ้นภายใต้กรอบที่ชัดเจน และไม่ควรนำมาใช้เป็นเหตุผลเพื่อเปิดทางให้เครื่องจักรตัดสินใจสังหารโดยไม่มีการควบคุม

แนวทางที่ปลอดภัยควรเริ่มจากการกำหนดระดับอำนาจของระบบให้ชัดเจน งานที่มีความเสี่ยงต่ำอาจใช้ระบบอัตโนมัติได้มากขึ้น แต่งานที่เกี่ยวข้องกับชีวิตมนุษย์ต้องมีมนุษย์ร่วมตัดสินใจเสมอ นอกจากนี้ หน่วยงานอิสระควรมีสิทธิเข้าตรวจสอบแบบจำลอง แหล่งข้อมูล วิธีฝึกระบบ และรายงานข้อผิดพลาด โดยไม่ปล่อยให้บริษัทเป็นผู้ประเมินตนเองเพียงฝ่ายเดียว

ประชาชนเองก็ควรมีส่วนร่วมในบทสนทนานี้ เพราะการใช้ AI ในสงครามไม่ได้กระทบเฉพาะทหารหรือผู้เชี่ยวชาญด้านเทคโนโลยี แต่กระทบต่อความมั่นคงของคนทั้งสังคม การตัดสินใจว่าจะอนุญาตให้เครื่องจักรทำอะไรได้บ้างจึงไม่ควรเกิดขึ้นหลังประตูปิดของบริษัทหรือกองทัพเท่านั้น

ท้ายที่สุด คำเตือนเรื่อง AI จ่อแทนที่การตัดสินใจมนุษย์ในสงคราม คือสัญญาณให้โลกเร่งวางกติกาก่อนที่เทคโนโลยีจะก้าวไปไกลเกินกว่าการควบคุม มนุษย์อาจใช้ AI เพื่อช่วยวิเคราะห์และปกป้องชีวิตได้ แต่ไม่ควรยกความรับผิดชอบทางศีลธรรมให้กับเครื่องจักร ความเร็วของนวัตกรรมจึงต้องเดินคู่กับความรอบคอบ ความโปร่งใส และความรับผิดชอบ หากคุณเห็นว่าการตัดสินใจเรื่องชีวิตควรอยู่ในมือมนุษย์ ร่วมแบ่งปันมุมมองและสนับสนุนการกำกับดูแล AI อย่างจริงจังตั้งแต่วันนี้

ที่มา – AI Is ‘on Track to Crowd Out Human Decision-Making’ in Warfare, U.N. Official Warns