AI Palantir ถูกโยงเหตุสหรัฐฯ สังหารเด็กอิหร่าน 123 คน
เหตุโจมตีโรงเรียนประถมศึกษาชาจาราห์ ทาเยเบห์ ในเมืองมินับ ทางตอนใต้ของอิหร่าน กลายเป็นประเด็นที่ทำให้ทั่วโลกตั้งคำถามต่อการใช้ปัญญาประดิษฐ์ในสนามรบอย่างจริงจัง ขีปนาวุธโทมาฮอว์ก 2 ลูกพุ่งชนโรงเรียนในวันแรกของสงครามอิหร่าน ส่งผลให้มีผู้เสียชีวิตมากกว่า 150 คน และในจำนวนนี้มีเด็กอย่างน้อย 123 คน รายงานการสอบสวนภายในกระทรวงกลาโหมสหรัฐฯ ที่ยังไม่เปิดเผยต่อสาธารณะ ระบุว่าความผิดพลาดหลายชั้นอาจเกี่ยวข้องกับการพึ่งพาระบบ AI มากเกินไป
ประเด็นสำคัญที่ถูกจับตามองคือ AI Palantir ถูกโยงเหตุสหรัฐฯ สังหารเด็กอิหร่าน 123 คน โดยระบบที่ถูกกล่าวถึงคือ Maven Smart System แพลตฟอร์มรวบรวมข้อมูล วิเคราะห์ข่าวกรอง และช่วยจัดลำดับเป้าหมายทางทหาร ซึ่งพัฒนาโดย Palantir เทคโนโลยีดังกล่าวถูกออกแบบมาเพื่อช่วยให้เจ้าหน้าที่ประมวลผลข้อมูลจำนวนมากได้รวดเร็วขึ้น แต่เหตุการณ์ครั้งนี้สะท้อนว่า ความเร็วไม่สามารถทดแทนการตรวจสอบข้อเท็จจริงโดยมนุษย์ได้
AI Palantir ถูกโยงเหตุสหรัฐฯ สังหารเด็กอิหร่าน 123 คน
ตามข้อมูลจากเจ้าหน้าที่ที่ให้สัมภาษณ์กับสื่อ ระบบ Maven อาจมีบทบาทในการทำให้สถานที่ดังกล่าวถูกจัดเป็นเป้าหมายลำดับต้น ๆ ในวันเปิดฉากการโจมตี ฐานข้อมูลของสหรัฐฯ เคยระบุพื้นที่มินับว่าเป็นสถานที่ของกองกำลังพิทักษ์การปฏิวัติอิสลาม หรือ IRGC เนื่องจากข้อมูลเก่าที่ไม่ได้รับการปรับปรุง แม้ภาพถ่ายดาวเทียมเชิงพาณิชย์จะแสดงให้เห็นความแตกต่างอย่างชัดเจนว่า พื้นที่ดังกล่าวเป็นโรงเรียนที่มีสนามฟุตบอล กำแพงสีสันสดใส ทางเข้าแยกจากฐานทหาร และเครื่องหมายสำหรับกิจกรรมของเด็ก
เจ้าหน้าที่บางรายคาดหวังว่า Maven จะสามารถตรวจพบข้อมูลที่ล้าสมัยหรือความขัดแย้งระหว่างแหล่งข่าวได้โดยอัตโนมัติ อย่างไรก็ตาม ระบบไม่ได้รับผิดชอบในการตรวจสอบความถูกต้องของข้อมูลต้นทาง และไม่มีหลักฐานชัดเจนว่าซอฟต์แวร์ถูกออกแบบให้ทำหน้าที่แทนเจ้าหน้าที่ข่าวกรองในส่วนนี้ เมื่อข้อมูลที่ผิดพลาดถูกป้อนเข้าสู่ระบบ ผลลัพธ์ที่ออกมาก็มีโอกาสผิดพลาดตามไปด้วย
AI Palantir ถูกโยงเหตุสหรัฐฯ สังหารเด็กอิหร่าน 123 คน และข้อจำกัดของระบบอัตโนมัติ
Palantir ชี้แจงว่า บริษัทไม่ได้เป็นผู้รับผิดชอบต่อข้อมูลพื้นฐานหรือการระบุข้อบกพร่องของข่าวกรอง และรัฐบาลสหรัฐฯ ยังคงมีหน้าที่หลักในการประเมินคุณภาพของข้อมูลที่นำเข้าสู่ Maven ขณะเดียวกัน ผู้ที่คุ้นเคยกับการทำงานของโครงการระบุว่า หลังเกิดเหตุ บริษัทได้เพิ่มฟังก์ชันที่สามารถย้อนตรวจสอบข่าวกรองต้นทาง เพื่อค้นหาปัจจัยที่อาจทำให้เป้าหมายไม่ควรถูกโจมตี รวมทั้งแจ้งเตือนความไม่สอดคล้องและความคลาดเคลื่อนที่มนุษย์อาจมองข้าม
การเพิ่มฟังก์ชันดังกล่าวอาจช่วยลดความเสี่ยงในอนาคต แต่ก็ทำให้เกิดคำถามสำคัญว่า เหตุใดความสามารถเช่นนี้จึงไม่ได้ถูกใช้อย่างเข้มงวดตั้งแต่ก่อนเกิดการโจมตี และใครควรเป็นผู้ตัดสินใจขั้นสุดท้ายเมื่อข้อมูลจากระบบ AI ขัดแย้งกับภาพถ่ายดาวเทียม แหล่งข่าวภาคสนาม หรือสัญญาณว่าพื้นที่นั้นอาจเป็นเขตพลเรือน
ความผิดพลาดไม่ได้เกิดจาก AI เพียงอย่างเดียว
รายงานที่อ้างถึงการสอบสวนของเพนตากอนระบุว่า การพึ่งพา Maven มากเกินไปเป็นเพียงหนึ่งในสามปัจจัยที่นำไปสู่ความผิดพลาด อีกสองปัจจัยคือข่าวกรองที่ไม่ถูกต้องและภาพถ่ายดาวเทียมที่ล้าสมัย ฐานข้อมูลทางทหารยังคงติดป้ายพื้นที่มินับว่าเป็นสถานที่ทางทหารมาหลายปี ทั้งที่ภาพถ่ายตั้งแต่ปี 2018 แสดงให้เห็นองค์ประกอบของโรงเรียนอย่างชัดเจน
นักวิเคราะห์รายหนึ่งเคยสังเกตเห็นการเปลี่ยนแปลงของพื้นที่ตั้งแต่ปี 2019 และบันทึกข้อสังเกตไว้ในระบบหนึ่ง แต่ระบบดังกล่าวไม่ได้เชื่อมต่อกับฐานข้อมูลข่าวกรองหลักที่ใช้จัดทำแผนการโจมตี ทำให้ข้อมูลสำคัญไม่ถูกส่งต่อไปยังเจ้าหน้าที่ที่ประกอบชุดข้อมูลเป้าหมาย ความผิดพลาดลักษณะนี้แสดงให้เห็นว่า ปัญหาไม่ได้อยู่ที่อัลกอริทึมเท่านั้น แต่ยังรวมถึงการออกแบบกระบวนการทำงาน การเชื่อมต่อระหว่างหน่วยงาน และวัฒนธรรมองค์กรที่อาจให้ความสำคัญกับความเร็วมากกว่าการยืนยันข้อมูล
สถานการณ์ยิ่งซับซ้อนขึ้นเมื่อฝ่ายบริหารสหรัฐฯ ผลักดันการโจมตีครั้งใหญ่ตั้งแต่ช่วงเริ่มต้นของสงคราม มีเป้าหมายมากกว่า 1,000 แห่งถูกโจมตีภายใน 24 ชั่วโมง ความเร่งรีบดังกล่าวลดเวลาที่เจ้าหน้าที่จะใช้ตรวจสอบเป้าหมายซ้ำ และเพิ่มโอกาสที่ข้อมูลเก่าจะถูกนำไปใช้โดยไม่มีการเปรียบเทียบกับข้อมูลล่าสุด
บทเรียนด้านความรับผิดชอบและการคุ้มครองพลเรือน
อีกประเด็นหนึ่งที่น่ากังวลคือจำนวนบุคลากรในทีมลดความเสียหายต่อพลเรือนของกระทรวงกลาโหมสหรัฐฯ ซึ่งลดลงประมาณ 90 เปอร์เซ็นต์ในช่วงหลายปีที่ผ่านมา เหลือเจ้าหน้าที่ไม่ถึง 20 คนทั่วทั้งหน่วยงาน ส่วนทีมของกองบัญชาการกลางสหรัฐฯ ลดจาก 10 คนเหลือเพียง 1 คน และไม่มีสมาชิกทีมดังกล่าวตรวจสอบพื้นที่มินับก่อนมีการยิงขีปนาวุธ
คณะผู้เชี่ยวชาญอิสระของสหประชาชาติยังระบุว่า มีเหตุอันควรเชื่อว่าสหรัฐฯ อาจก่ออาชญากรรมสงครามจากการโจมตีที่ไม่เลือกเป้าหมาย รายงานระบุว่าสหรัฐฯ ไม่ได้ดำเนินการทุกวิถีทางที่เป็นไปได้เพื่อยืนยันว่าโรงเรียนเป็นเป้าหมายทางทหาร และความล้มเหลวดังกล่าวอาจเกินกว่าความประมาททั่วไป อย่างไรก็ตาม รัฐบาลสหรัฐฯ ยังไม่ได้ยอมรับความรับผิดชอบต่อสาธารณะ และกระทรวงกลาโหมยังคงระบุว่าการสอบสวนอยู่ระหว่างดำเนินการ
กรณีนี้ยังเชื่อมโยงกับเหตุการณ์อื่นที่สะท้อนความเสี่ยงของการใช้ AI โดยไม่ตรวจสอบแหล่งข้อมูล เช่น นักวิเคราะห์ปฏิบัติการพิเศษที่ใช้แชตบอตซึ่งสร้างข้อมูลเท็จเกี่ยวกับเรือธงจีน และทำให้กองทัพสหรัฐฯ เกือบเข้าไปตรวจค้นเรือลำนั้น เช่นเดียวกับการใช้ระบบจดจำใบหน้าในงานบังคับใช้กฎหมายที่ทำให้ผู้บริสุทธิ์ถูกจับกุม ทั้งที่อยู่ห่างจากสถานที่เกิดเหตุหลายร้อยกิโลเมตร
สิ่งที่สังคมควรเรียนรู้จากเหตุการณ์นี้
เหตุการณ์นี้ไม่ได้หมายความว่า AI ไม่มีประโยชน์ต่อการวิเคราะห์ข้อมูลทางทหาร แต่ชี้ให้เห็นว่าระบบอัตโนมัติไม่ควรถูกมองว่าเป็นผู้ตัดสินใจที่ปราศจากข้อผิดพลาด AI สามารถประมวลผลข้อมูลได้รวดเร็ว แต่ไม่สามารถรับประกันได้ว่าข้อมูลที่ได้รับนั้นถูกต้อง ทันสมัย หรือมีบริบทเพียงพอ การใช้ระบบเหล่านี้จึงต้องมีขั้นตอนตรวจสอบหลายชั้น รวมถึงการทบทวนโดยผู้เชี่ยวชาญที่มีอำนาจหยุดภารกิจได้จริง
- ตรวจสอบข้อมูลต้นทางก่อนนำเข้าสู่ระบบ AI
- เปรียบเทียบฐานข้อมูลกับภาพถ่ายดาวเทียมและข้อมูลภาคสนามล่าสุด
- กำหนดให้มนุษย์เป็นผู้อนุมัติเป้าหมายในขั้นสุดท้าย
- บันทึกเหตุผลของการตัดสินใจเพื่อให้ตรวจสอบย้อนหลังได้
- เพิ่มบุคลากรและอำนาจให้ทีมคุ้มครองพลเรือน
โดยสรุป AI Palantir ถูกโยงเหตุสหรัฐฯ สังหารเด็กอิหร่าน 123 คน เป็นประเด็นที่ควรถูกพิจารณาในกรอบของความรับผิดชอบร่วม ไม่ใช่การโยนความผิดให้เทคโนโลยีเพียงฝ่ายเดียว เพราะการโจมตีเกิดจากข้อมูลเก่า การสื่อสารที่ขาดหาย การเร่งปฏิบัติการ และการเชื่อผลลัพธ์จากระบบมากเกินไป ความเห็นส่วนตัวคือ เทคโนโลยีที่มีอำนาจตัดสินใจเกี่ยวกับชีวิตมนุษย์ควรถูกใช้อย่างระมัดระวังที่สุด และทุกองค์กรควรสร้างระบบที่ทำให้เจ้าหน้าที่กล้าหยุดคำสั่งเมื่อพบสัญญาณผิดปกติ มากกว่าผลักภาระความรับผิดชอบให้กับอัลกอริทึม