เกือบก่อสงคราม: สหรัฐฯ ขึ้นเรือจีนเพราะ AI ผิดพลาด

เกือบก่อสงคราม: สหรัฐฯ ขึ้นเรือจีนเพราะ AI ผิดพลาด กลายเป็นข่าวที่สะท้อนความเสี่ยงครั้งใหญ่ของการนำปัญญาประดิษฐ์มาใช้ในงานด้านความมั่นคงระหว่างประเทศ รายงานระบุว่า กองทัพสหรัฐฯ เคยพิจารณาเข้าตรวจค้นเรือที่ติดธงจีนในตะวันออกกลาง หลังได้รับข้อมูลจากเครื่องมือ AI ว่าเรือลำดังกล่าวอาจขนส่งชิ้นส่วนที่เกี่ยวข้องกับโครงการอาวุธนิวเคลียร์ของอิหร่าน อย่างไรก็ตาม ข้อมูลนั้นภายหลังถูกพบว่าไม่ถูกต้อง และปฏิบัติการถูกยกเลิกในนาทีสุดท้าย

เหตุการณ์นี้มีความสำคัญอย่างมาก เพราะการขึ้นตรวจค้นเรือของประเทศมหาอำนาจอีกประเทศหนึ่งอาจถูกมองว่าเป็นการคุกคามหรือการใช้กำลังโดยตรง หากเกิดการเผชิญหน้าระหว่างเจ้าหน้าที่ทั้งสองฝ่าย ผลลัพธ์อาจลุกลามเกินกว่าความผิดพลาดด้านข่าวกรองทั่วไป และนำไปสู่ความขัดแย้งทางทหารที่ไม่มีฝ่ายใดต้องการ

เกือบก่อสงคราม: สหรัฐฯ ขึ้นเรือจีนเพราะ AI ผิดพลาด

ตามข้อมูลจากรายงานต้นทาง ข่าวกรองที่เป็นปัญหาเริ่มต้นจากนักวิเคราะห์ของหน่วยบัญชาการปฏิบัติการพิเศษสหรัฐฯ ซึ่งนำแชตบอต AI มาใช้ในการทำงาน เครื่องมือดังกล่าววิเคราะห์สิ่งของบนเรือผิดพลาด และอ้างว่าอุปกรณ์เหล่านั้นอาจนำไปใช้ผลิตอาวุธนิวเคลียร์ได้ ต่อมาเจ้าหน้าที่บางส่วนจึงนำข้อมูลดังกล่าวไปประกอบการพิจารณาปฏิบัติการตรวจค้น

ประเด็นสำคัญคือ AI ไม่ได้มีความเข้าใจข่าวกรองเหมือนมนุษย์ที่ผ่านการฝึกฝน แต่ทำงานด้วยการประมวลผลรูปแบบของข้อมูลที่มีอยู่ หากข้อมูลต้นทางไม่ครบถ้วน คลุมเครือ หรือมีบริบทที่ซับซ้อน ระบบอาจสร้างคำตอบที่ฟังดูน่าเชื่อถือแต่ไม่ตรงกับความจริงได้ ปัญหานี้มักเรียกว่า AI hallucination หรืออาการที่ AI สร้างข้อมูลขึ้นมาโดยไม่มีหลักฐานรองรับ

เกือบก่อสงคราม: สหรัฐฯ ขึ้นเรือจีนเพราะ AI ผิดพลาด เกิดขึ้นได้อย่างไร

การตัดสินใจด้านความมั่นคงมักใช้ข้อมูลจากหลายแหล่ง ไม่ว่าจะเป็นภาพถ่ายดาวเทียม รายงานจากเจ้าหน้าที่ภาคสนาม การสื่อสารทางเรือ ข้อมูลการขนส่ง และการวิเคราะห์ทางภูมิรัฐศาสตร์ ปัญหาเกิดขึ้นเมื่อเจ้าหน้าที่ให้ความสำคัญกับคำตอบจาก AI มากเกินไป โดยไม่ได้ตรวจสอบกับหลักฐานอิสระหรือผู้เชี่ยวชาญเฉพาะด้าน

ในกรณีนี้ ระบบ AI ถูกกล่าวหาว่าวิเคราะห์สินค้าที่อยู่บนเรือจีนผิด และเชื่อมโยงข้อมูลดังกล่าวเข้ากับโครงการนิวเคลียร์ของอิหร่าน ทั้งที่ยังไม่มีหลักฐานเพียงพอ การเชื่อมโยงเช่นนี้มีความอ่อนไหวสูง เพราะจีนเป็นหนึ่งในประเทศที่มีอาวุธนิวเคลียร์ และความสัมพันธ์ระหว่างจีน สหรัฐฯ อิหร่าน และอิสราเอลล้วนมีความตึงเครียดอยู่แล้ว

• AI อาจสรุปข้อมูลผิดบริบท โดยเฉพาะเมื่อข้อมูลมีความกำกวม
• คำตอบที่ใช้ภาษามั่นใจ อาจทำให้ผู้ใช้งานเข้าใจว่าเป็นข้อเท็จจริงที่ผ่านการตรวจสอบแล้ว
• การตัดสินใจด้านทหารต้องมีมนุษย์รับผิดชอบ และไม่ควรปล่อยให้ระบบอัตโนมัติเป็นผู้ชี้ขาด
• ข้อมูลจากแหล่งเดียวไม่เพียงพอ สำหรับการดำเนินการที่อาจกระทบความสัมพันธ์ระหว่างประเทศ

บทเรียนจากการใช้ AI ในสนามรบ

เหตุการณ์เรือจีนไม่ได้เป็นเพียงกรณีเดียวที่ทำให้เกิดคำถามเกี่ยวกับการใช้ AI ในกองทัพ รายงานอีกชิ้นระบุว่า นักวิเคราะห์ข่าวกรองสหรัฐฯ อาจพึ่งพาระบบ Maven Smart System ของ Palantir มากเกินไปในปฏิบัติการโจมตีโรงเรียนแห่งหนึ่งในอิหร่าน ระบบดังกล่าวมีหน้าที่รวมข้อมูลจากหลายแหล่งเพื่อช่วยประเมินเป้าหมาย แต่การตัดสินใจที่ผิดพลาดอาจทำให้มีผู้เสียชีวิตจำนวนมาก รวมถึงเด็ก 123 คน

หากข้อมูลดังกล่าวได้รับการยืนยัน เหตุการณ์นี้จะยิ่งตอกย้ำว่า AI ไม่ควรถูกใช้เป็นเครื่องมือที่แทนที่การตรวจสอบของมนุษย์ โดยเฉพาะในสถานการณ์ที่เกี่ยวข้องกับชีวิตพลเรือนและกฎหมายระหว่างประเทศ ระบบอาจช่วยค้นหารูปแบบที่มนุษย์มองไม่เห็น แต่ก็ไม่สามารถรับผิดชอบต่อผลลัพธ์ทางศีลธรรมและกฎหมายได้ด้วยตัวเอง

ผู้เชี่ยวชาญจากองค์การสหประชาชาติระบุว่ามีเหตุผลเพียงพอที่จะตรวจสอบว่า การโจมตีโรงเรียนดังกล่าวอาจเข้าข่ายอาชญากรรมสงครามหรือไม่ ประเด็นนี้แสดงให้เห็นว่าความผิดพลาดของ AI ไม่ได้จบลงเพียงการแก้ไขข้อมูลในระบบ แต่สามารถนำไปสู่การสูญเสียชีวิต การตรวจสอบระหว่างประเทศ และความเสียหายต่อความน่าเชื่อถือของรัฐบาลได้

ทำไมมนุษย์ยังต้องตรวจสอบ AI

AI มีจุดเด่นด้านความเร็วและการประมวลผลข้อมูลจำนวนมหาศาล แต่ความเร็วไม่ควรถูกนำมาแทนที่ความรอบคอบ ในงานข่าวกรอง เจ้าหน้าที่ควรตรวจสอบที่มาของข้อมูล เปรียบเทียบกับหลักฐานจากหลายแหล่ง และประเมินความเป็นไปได้ของคำอธิบายอื่น ๆ ก่อนดำเนินการใด ๆ

นอกจากนี้ หน่วยงานที่ใช้ AI ควรกำหนดกฎเกณฑ์ที่ชัดเจน เช่น ห้ามใช้ผลลัพธ์จากแชตบอตเพียงแหล่งเดียวเพื่ออนุมัติการปฏิบัติการทางทหาร ต้องมีผู้เชี่ยวชาญตรวจสอบคำตอบทุกครั้ง และต้องเก็บบันทึกว่าระบบเสนอข้อมูลอย่างไร ใครเป็นผู้อนุมัติ และมีหลักฐานใดสนับสนุนการตัดสินใจ

สำหรับประชาชนทั่วไป ข่าว เกือบก่อสงคราม: สหรัฐฯ ขึ้นเรือจีนเพราะ AI ผิดพลาด เป็นเครื่องเตือนใจว่าเราควรตั้งคำถามกับข้อมูลที่สร้างโดย AI แม้ข้อมูลนั้นจะมาจากหน่วยงานขนาดใหญ่หรือใช้ถ้อยคำที่มั่นใจก็ตาม เทคโนโลยีอาจช่วยให้การทำงานมีประสิทธิภาพขึ้น แต่ความรับผิดชอบต่อข้อเท็จจริงยังคงอยู่ที่มนุษย์

ท้ายที่สุด กรณีนี้ควรผลักดันให้รัฐบาลและกองทัพทั่วโลกออกแบบระบบควบคุม AI ที่เข้มงวดขึ้น หากต้องการใช้ AI ในงานความมั่นคง ควรใช้เป็นเครื่องมือช่วยวิเคราะห์ ไม่ใช่ผู้ตัดสินใจแทนมนุษย์ เพราะความผิดพลาดเพียงครั้งเดียวอาจเปลี่ยนจากข้อมูลที่คลาดเคลื่อนให้กลายเป็นวิกฤตระหว่างประเทศได้ โปรดติดตามข่าวอย่างมีวิจารณญาณและตรวจสอบแหล่งข้อมูลก่อนเชื่อหรือแชร์

ที่มา – ‘Almost Started a War’: US Military Nearly Boarded a Chinese Ship Based on Bad Intel From AI