เจรจาหุ่นยนต์สังหารอัตโนมัติ: ทบทวนอีก 2 ปี

ข่าวเรื่อง เจรจาหุ่นยนต์สังหารอัตโนมัติ: ทบทวนอีก 2 ปี อาจฟังดูเหมือนความสำเร็จครั้งใหญ่ของประชาคมโลก แต่เมื่อพิจารณารายละเอียดแล้ว ข้อตกลงที่เกิดขึ้นยังห่างไกลจากการเป็นสนธิสัญญาที่มีผลผูกพัน ประเทศต่าง ๆ เห็นชอบเพียงให้เดินหน้าหารือเกี่ยวกับระบบอาวุธสังหารที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ต่อไปจนถึงปี 2028

การประชุมดังกล่าวจัดขึ้นที่สำนักงานสหประชาชาติในนครเจนีวา ประเทศสวิตเซอร์แลนด์ ระหว่างวันที่ 16-20 พฤศจิกายน ภายใต้กรอบการทำงานของอนุสัญญาว่าด้วยอาวุธตามแบบบางชนิด หรือ Convention on Certain Conventional Weapons ซึ่งเป็นเวทีที่หลายประเทศใช้พูดคุยเรื่องอาวุธที่อาจสร้างความเสียหายร้ายแรงต่อมนุษยชาติ

เจรจาหุ่นยนต์สังหารอัตโนมัติ: ทบทวนอีก 2 ปี

ก่อนการประชุมจะเริ่มขึ้น หลายฝ่ายคาดหวังว่าประเทศสมาชิกจะสามารถกำหนดแนวทางร่วมกันเกี่ยวกับอาวุธสังหารอัตโนมัติ หรือ LAWS ได้อย่างจริงจัง ความหวังนี้ได้รับแรงสนับสนุนจากนักเคลื่อนไหว นักกฎหมาย องค์กรด้านมนุษยธรรม และแม้แต่เอกสารการทำงานจากสมเด็จพระสันตะปาปา ซึ่งเรียกร้องให้โลกควบคุมเทคโนโลยีที่สามารถตัดสินใจปลิดชีวิตมนุษย์ได้เอง

อย่างไรก็ตาม ผลลัพธ์สุดท้ายกลับเป็นเพียงการตกลงว่าจะดำเนินงานต่อและจัดทำรายละเอียดเพิ่มเติมในอนาคต ไม่มีการประกาศสนธิสัญญาใหม่ ไม่มีข้อห้ามที่ชัดเจน และไม่มีข้อผูกพันทางกฎหมายให้ประเทศต่าง ๆ ต้องหยุดพัฒนา หยุดทดสอบ หรือจำกัดการใช้งานระบบเหล่านี้

ทำไมข้อตกลงนี้จึงยังไม่ใช่ความสำเร็จที่แท้จริง

ตัวแทนจากสวิตเซอร์แลนด์โพสต์ข้อความบนโซเชียลมีเดียว่าเกิด “ก้าวสำคัญเกี่ยวกับอาวุธอัตโนมัติ” พร้อมวิดีโอช่วงที่ผู้เข้าร่วมประชุมปรบมือหลังรับรองเอกสารฉบับสุดท้าย ภาพดังกล่าวทำให้หลายคนเข้าใจในตอนแรกว่า ประเทศต่าง ๆ สามารถบรรลุข้อตกลงครั้งประวัติศาสตร์ได้แล้ว

แต่เมื่ออ่านเนื้อหาอย่างละเอียด เอกสารดังกล่าวมีลักษณะใกล้เคียงกับการบอกว่า “จะมีความคืบหน้าเพิ่มเติมในภายหลัง” มากกว่าจะเป็นกฎระเบียบที่นำไปใช้ได้ทันที นักเคลื่อนไหวระบุว่า ประเทศมหาอำนาจทางทหาร เช่น รัสเซียและสหรัฐอเมริกา มีส่วนทำให้ถ้อยคำในข้อตกลงอ่อนลง จนไม่สามารถระบุเนื้อหาของเครื่องมือทางกฎหมายหรือสถานะของข้อตกลงได้อย่างชัดเจน

เบียทริซ ฟิน นักกฎหมายชาวสวีเดนและนักเคลื่อนไหวด้านการต่อต้านอาวุธนิวเคลียร์ วิจารณ์ว่าข้อตกลงนี้ถูกลดทอนความเข้มข้นลงอย่างมาก แม้หลายประเทศจะสนับสนุนให้เริ่มการเจรจาสนธิสัญญาฉบับใหม่ แต่ข้อความสุดท้ายกลับเลือกใช้คำกว้าง ๆ อย่าง “จัดทำรายละเอียดเกี่ยวกับเครื่องมือ” แทนการกำหนดแนวทางที่มีผลบังคับใช้จริง

เจรจาหุ่นยนต์สังหารอัตโนมัติท่ามกลางเทคโนโลยีที่กำลังถูกใช้จริง

สิ่งที่น่ากังวลคือ การเจรจาทางการทูตอาจเดินช้ากว่าการพัฒนาเทคโนโลยีในสนามรบ ปัจจุบันโดรนและระบบปัญญาประดิษฐ์ถูกนำมาใช้เพื่อค้นหา ติดตาม และโจมตีเป้าหมายมากขึ้นเรื่อย ๆ บางระบบสามารถประมวลผลข้อมูลจำนวนมากและเสนอเป้าหมายให้ผู้ควบคุมได้ภายในเวลาไม่กี่วินาที ขณะที่ระบบที่มีความเป็นอิสระสูงอาจตัดสินใจโจมตีโดยไม่ต้องรอคำสั่งจากมนุษย์

รายงานหนึ่งระบุว่า โดรนของรัสเซียที่เชื่อว่าใช้ระบบอัตโนมัติอาจเคยเลือกและทำลายเป้าหมายภาคพื้นดินด้วยตัวเอง ระบบดังกล่าวมุ่งโจมตีเป้าหมายสำคัญ เช่น ถังแก๊สโพรเพน และเหตุการณ์ระหว่างปฏิบัติการอาจทำให้มีผู้เสียชีวิตหลายราย โดยไม่มีมนุษย์คอยตรวจสอบหรือสั่งยับยั้งการยิงในจังหวะสำคัญ

แม้รายละเอียดของเหตุการณ์จะยังต้องตรวจสอบเพิ่มเติม แต่กรณีนี้สะท้อนคำถามด้านจริยธรรมและกฎหมายได้อย่างชัดเจน หากเครื่องจักรเป็นผู้ตัดสินใจปลิดชีวิต ใครควรรับผิดชอบเมื่อเกิดความผิดพลาด ผู้พัฒนา ผู้บังคับบัญชา ผู้ผลิตซอฟต์แวร์ หรือประเทศที่นำระบบไปใช้งาน คำถามเหล่านี้ยังไม่มีคำตอบที่ทุกประเทศยอมรับร่วมกัน

บทบาทของสหรัฐฯ และอาวุธโจมตีอัตโนมัติ

สหรัฐฯ ถูกมองว่าเป็นหนึ่งในประเทศที่เดินหน้าพัฒนาอาวุธอัตโนมัติอย่างจริงจัง บริษัท Anduril Industries ซึ่งร่วมก่อตั้งโดยพาล์มเมอร์ ลักกี เปิดตัวระบบชื่อ Thunder โดยอธิบายว่าเป็นอากาศยานโจมตีแบบใบพัดที่ทำงานอัตโนมัติ และอาจเข้ามาเสริมหรือทดแทนภารกิจของเฮลิคอปเตอร์โจมตีในอนาคต

แนวคิดดังกล่าวทำให้เห็นภาพการใช้โดรนติดอาวุธเป็นฝูง เพื่อคุ้มกันอากาศยานที่มีนักบินเป็นมนุษย์ ระบบอัตโนมัติอาจบินเข้าสู่พื้นที่เสี่ยง ตรวจจับภัยคุกคาม และตอบโต้เป้าหมายในช่วงเวลาที่เฮลิคอปเตอร์หรือกำลังพลกำลังตกอยู่ในอันตราย จุดขายคือความเร็วและการลดความเสี่ยงต่อชีวิตทหาร แต่ในอีกด้านหนึ่ง การตัดสินใจที่เร็วเกินไปอาจเพิ่มโอกาสโจมตีผิดเป้าหมายและทำให้พลเรือนตกอยู่ในอันตราย

  • ความรับผิดชอบ: ต้องระบุให้ชัดว่าใครรับผิดเมื่อระบบอัตโนมัติทำงานผิดพลาด
  • การควบคุมโดยมนุษย์: มนุษย์ควรมีอำนาจตรวจสอบและยับยั้งการใช้กำลังถึงตาย
  • การคุ้มครองพลเรือน: ระบบต้องแยกแยะเป้าหมายทางทหารกับประชาชนได้อย่างน่าเชื่อถือ
  • ความโปร่งใส: ประเทศผู้พัฒนาควรเปิดเผยหลักเกณฑ์การใช้งานและมาตรการป้องกัน
  • กฎหมายระหว่างประเทศ: ควรมีข้อตกลงที่ชัดเจน ไม่ใช่เพียงการเลื่อนการตัดสินใจออกไป

อนาคตหลังการเจรจาหุ่นยนต์สังหารอัตโนมัติ

การให้เวลาหารืออีกสองปีอาจเปิดโอกาสให้ประเทศต่าง ๆ ทำความเข้าใจเทคโนโลยีและกำหนดมาตรฐานร่วมกันมากขึ้น แต่ก็มีความเสี่ยงเช่นกัน เพราะในช่วงเวลานี้ บริษัทและกองทัพอาจพัฒนาระบบใหม่ต่อไปโดยไม่มีกติกาสากลที่เข้มงวด หากระบบเหล่านี้ถูกนำไปใช้จริงมากขึ้น การออกกฎภายหลังอาจทำได้ยากกว่าเดิม

สิ่งที่ประชาชนควรจับตาคือคำว่า “การควบคุมโดยมนุษย์ที่มีความหมาย” จะถูกนิยามอย่างไร มนุษย์ต้องมีเวลามากพอในการตรวจสอบเป้าหมายหรือไม่ และการกดอนุมัติการโจมตีหลังจากระบบเลือกเป้าหมายไปแล้ว จะถือว่าเป็นการควบคุมจริงหรือเพียงพิธีกรรมเพื่อให้ดูเหมือนมีมนุษย์เกี่ยวข้อง

ในมุมมองของผู้เขียน การเลื่อนการตัดสินใจไม่ควรถูกนำเสนอว่าเป็นชัยชนะ เพราะเทคโนโลยีที่สามารถใช้กำลังถึงตายได้กำลังพัฒนาเร็วกว่ากระบวนการทางการเมือง การเจรจาหุ่นยนต์สังหารอัตโนมัติจำเป็นต้องเปลี่ยนจากการพูดคุยแบบกว้าง ๆ ไปสู่กฎที่ตรวจสอบได้ มีความรับผิดชอบ และให้ความสำคัญกับชีวิตพลเรือนอย่างแท้จริง หากประเทศต่าง ๆ ต้องใช้เวลาอีกสองปี ก็ควรใช้เวลานั้นเพื่อจัดทำข้อห้ามและมาตรการควบคุมที่ชัดเจน ไม่ใช่เพียงเลื่อนปัญหาออกไปอีกครั้ง

ท้ายที่สุด สังคมควรติดตามการเจรจาและเรียกร้องให้รัฐบาลเปิดเผยจุดยืนอย่างโปร่งใส เพราะอนาคตของอาวุธอัตโนมัติไม่ควรถูกกำหนดโดยผู้พัฒนาเทคโนโลยีหรือกองทัพเพียงฝ่ายเดียว การตัดสินใจว่าเครื่องจักรควรมีสิทธิ์เลือกผู้ที่จะมีชีวิตหรือเสียชีวิต เป็นเรื่องที่มนุษย์ทุกคนควรมีส่วนร่วมในการกำหนด

ที่มา – International Talks on Autonomous Killer Robots Achieve Historic Deal to…Think It Over for 2 More Years

ใส่ความเห็น

อีเมลของคุณจะไม่แสดงให้คนอื่นเห็น ช่องข้อมูลจำเป็นถูกทำเครื่องหมาย *