ระวังการผงาดขึ้นของคอมเพล็กซ์เพนตากอน-ซิลิคอน
ในช่วงไม่กี่ปีที่ผ่านมา ความสัมพันธ์ระหว่างกองทัพสหรัฐฯ กับบริษัทเทคโนโลยีเอกชนกำลังเปลี่ยนแปลงอย่างรวดเร็ว จนเกิดคำถามสำคัญว่า ใครควรมีอำนาจตัดสินใจขั้นสุดท้ายเกี่ยวกับการนำเทคโนโลยีที่ผลิตในประเทศไปใช้ทางทหาร ประเด็นนี้สะท้อนผ่านข้อพิพาทระหว่าง Anthropic บริษัทปัญญาประดิษฐ์กับกระทรวงกลาโหมสหรัฐฯ ซึ่งเกี่ยวข้องกับข้อจำกัดในการใช้ระบบ AI เพื่อการสอดแนมภายในประเทศและอาวุธอัตโนมัติ
เรื่องดังกล่าวไม่ได้เป็นเพียงความขัดแย้งระหว่างบริษัทหนึ่งกับรัฐบาลเท่านั้น แต่ยังเป็นสัญญาณของโครงสร้างอำนาจใหม่ที่เรียกว่า คอมเพล็กซ์เพนตากอน-ซิลิคอน หรือความสัมพันธ์แน่นแฟ้นระหว่างกระทรวงกลาโหมกับบริษัทเทคโนโลยีจากซิลิคอนแวลลีย์ โครงสร้างนี้กำลังมีอิทธิพลต่อความมั่นคงของชาติ การจัดสรรงบประมาณ และทิศทางการทำสงครามในอนาคต
ระวังการผงาดขึ้นของคอมเพล็กซ์เพนตากอน-ซิลิคอน
ในอดีต เทคโนโลยีทางทหารถูกพัฒนาโดยบริษัทรับเหมาด้านกลาโหมภายใต้ความร่วมมือและการกำกับดูแลของรัฐบาลอย่างใกล้ชิด รัฐบาลสหรัฐฯ เป็นเจ้าของเทคโนโลยีสำคัญและสามารถกำหนดวิธีใช้งานได้อย่างชัดเจน ตัวอย่างเช่น กองทัพไม่จำเป็นต้องขออนุญาตจาก Lockheed Martin ทุกครั้งก่อนนำเครื่องบินรบไปปฏิบัติภารกิจ
แต่ยุคเทคโนโลยีสมัยใหม่ทำให้สมดุลนี้เปลี่ยนไป บริษัทอย่าง SpaceX, Starlink, Palantir และ Anduril ไม่ได้เป็นเพียงผู้รับจ้างผลิตอุปกรณ์ให้กองทัพเท่านั้น หลายบริษัทเป็นเจ้าของซอฟต์แวร์ ระบบข้อมูล ดาวเทียม และแพลตฟอร์มสำคัญที่กองทัพต้องพึ่งพา เมื่อบริษัทเหล่านี้ถือครองทรัพย์สินทางปัญญาเอง พวกเขาจึงสามารถกำหนดเงื่อนไขการใช้งานได้มากกว่าบริษัทกลาโหมแบบดั้งเดิม
คอมเพล็กซ์เพนตากอน-ซิลิคอนกำลังเปลี่ยนอำนาจอย่างไร
ผู้บริหารบริษัทเทคโนโลยีรุ่นใหม่จำนวนมากไม่ได้มองตัวเองเป็นเพียงนักธุรกิจ พวกเขามักนำเสนอตัวเองในฐานะผู้ปกป้องประชาธิปไตย ผู้นำการเปลี่ยนแปลง และผู้กำหนดอนาคตของการทำสงคราม บุคคลเหล่านี้มีความคิดเห็นในประเด็นต่าง ๆ ตั้งแต่เทคโนโลยี การเมือง การย้ายถิ่นฐาน ความมั่นคงชายแดน ไปจนถึงคำถามว่าใครควรเป็นศัตรูของประเทศ
อิทธิพลของพวกเขาไม่ได้มาจากรายได้เพียงอย่างเดียว แต่มาจากเรื่องเล่าและภาพอนาคตที่สามารถดึงดูดนักลงทุนได้อย่างมหาศาล Palantir เป็นกรณีศึกษาที่ชัดเจน บริษัทวางตำแหน่งตัวเองเป็นผู้นำด้าน AI และระบบสงครามอัจฉริยะ แม้จะไม่ได้พัฒนาโมเดล AI ของตัวเองทั้งหมด แนวคิดที่นำเสนอคืออนาคตที่การรบจำนวนมากดำเนินการโดยระบบอัตโนมัติ เพียงกดปุ่มเดียวก็สามารถส่งโดรนหรือสั่งการหน่วยรบได้
- SpaceX และ Starlink: มีบทบาทสำคัญต่อการส่งจรวดและการสื่อสารผ่านดาวเทียมของกองทัพ รวมถึงการสื่อสารในสนามรบยูเครน
- Palantir: พัฒนาระบบวิเคราะห์ข้อมูลและนำเสนอภาพอนาคตของการทำสงครามที่ขับเคลื่อนด้วย AI
- Anduril: ผลิตโดรน อาวุธอัตโนมัติ และระบบเฝ้าระวัง พร้อมสื่อสารภาพลักษณ์ว่าเป็นผู้พิทักษ์ประชาธิปไตย
- Anthropic: กลายเป็นตัวอย่างสำคัญของบริษัทที่พยายามกำหนดเส้นแบ่งด้านจริยธรรมในการใช้ AI ทางทหาร
อย่างไรก็ตาม ภาพลักษณ์อันล้ำสมัยอาจไม่สอดคล้องกับประสิทธิภาพจริงเสมอไป เทคโนโลยีอาวุธอัตโนมัติที่ปรากฏในโฆษณาหรือวิดีโอประชาสัมพันธ์จำนวนมากยังไม่ได้ถูกใช้งานจริงในสนามรบอย่างเต็มรูปแบบ ขณะเดียวกัน รายงานเกี่ยวกับโดรนบางรุ่นของ Anduril ที่ประสบปัญหาทางเทคนิคในยูเครนก็สะท้อนว่าเทคโนโลยีการทหารยังต้องผ่านการทดสอบ ความปลอดภัย และการตรวจสอบอย่างเข้มงวด
บทเรียนจากคำเตือนของไอเซนฮาวร์
ประธานาธิบดีดไวต์ ไอเซนฮาวร์เคยเตือนประชาชนอเมริกันในสุนทรพจน์อำลาปี 1961 ให้ระวังอิทธิพลที่เกินขอบเขตของกลุ่มอุตสาหกรรมทหาร เขากังวลว่าบริษัทเอกชนและผลประโยชน์ทางเศรษฐกิจอาจเข้ามามีบทบาทเหนือการตัดสินใจด้านความมั่นคงของชาติ คำเตือนนี้ยังคงมีความหมายในปัจจุบัน เพียงแต่ผู้เล่นสำคัญไม่ได้จำกัดอยู่ที่ผู้ผลิตเครื่องบิน รถถัง หรือขีปนาวุธอีกต่อไป แต่รวมถึงบริษัทซอฟต์แวร์ คลาวด์ ดาวเทียม และ AI
ความแตกต่างที่สำคัญคือ บริษัทเทคโนโลยีสมัยใหม่สามารถควบคุมโครงสร้างพื้นฐานที่กองทัพใช้งานอยู่แล้ว หากบริการถูกระงับ เปลี่ยนเงื่อนไข หรือไม่อนุญาตให้ใช้งานในภารกิจบางประเภท รัฐบาลอาจประสบปัญหาในการหาทางเลือกทดแทนอย่างรวดเร็ว นี่คือเหตุผลที่ คอมเพล็กซ์เพนตากอน-ซิลิคอน อาจมีความเสี่ยงมากกว่าความสัมพันธ์ระหว่างรัฐบาลกับบริษัทกลาโหมในอดีต
ความเสี่ยงที่สังคมควรจับตา
ความเสี่ยงประการแรกคือการขาดความรับผิดชอบที่ชัดเจน หากระบบ AI ตัดสินใจผิดพลาดและทำให้เกิดความเสียหาย ใครควรรับผิดชอบ บริษัทผู้พัฒนา ผู้บังคับบัญชาทางทหาร หรือรัฐบาลที่นำระบบไปใช้งาน ความเสี่ยงประการที่สองคือการที่ผู้บริหารบริษัทสามารถเปลี่ยนนโยบายได้ตามความเชื่อส่วนตัว แม้บริษัทจะมีบทบาทต่อความมั่นคงระดับชาติ
ความเสี่ยงอีกด้านคือแรงจูงใจจากผลกำไร บริษัทที่ได้รับสัญญามูลค่ามหาศาลอาจมีแรงผลักดันให้ขยายตลาดอาวุธหรือสนับสนุนความขัดแย้งมากขึ้น แม้เทคโนโลยีบางอย่างยังไม่มีหลักฐานเพียงพอว่าช่วยลดความสูญเสียได้จริง นอกจากนี้ การแข่งขันระหว่างบริษัทเพื่อแย่งงบประมาณกลาโหมอาจทำให้การโฆษณาเกินจริงมีอิทธิพลเหนือการประเมินความปลอดภัย
กรณีของ Anthropic จึงมีความหมายกว้างกว่าการถกเถียงเรื่องจริยธรรมของ AI บริษัทเอกชนอาจได้รับเสียงชื่นชมเมื่อปฏิเสธการนำเทคโนโลยีไปใช้เป็นเครื่องมือสอดแนมหรือระบบอาวุธที่ไร้การควบคุม แต่ในอีกด้านหนึ่ง สังคมก็ต้องตั้งคำถามว่า เราควรปล่อยให้ผู้บริหารบริษัทที่ไม่ได้มาจากการเลือกตั้งมีอำนาจตัดสินใจเกี่ยวกับความมั่นคงของประเทศมากเพียงใด
ทางออกไม่ใช่การปฏิเสธเทคโนโลยีหรือยุติความร่วมมือระหว่างรัฐบาลกับเอกชนทั้งหมด แต่ควรสร้างกติกาที่โปร่งใส กำหนดความรับผิดชอบให้ชัดเจน และเปิดให้รัฐสภา ผู้เชี่ยวชาญอิสระ รวมถึงประชาชนสามารถตรวจสอบได้ รัฐบาลควรหลีกเลี่ยงการพึ่งพาบริษัทใดบริษัทหนึ่งมากเกินไป พร้อมส่งเสริมมาตรฐานที่ทำให้สามารถย้ายระบบหรือเปลี่ยนผู้ให้บริการได้เมื่อจำเป็น
ท้ายที่สุด ระวังการผงาดขึ้นของคอมเพล็กซ์เพนตากอน-ซิลิคอน ไม่ได้หมายความว่าเทคโนโลยีเป็นศัตรู แต่เป็นการเตือนว่าอำนาจทางเทคโนโลยีต้องมาพร้อมความรับผิดชอบ การตรวจสอบ และการควบคุมโดยสาธารณะ ในมุมมองของผู้เขียน รัฐบาลที่ตรวจสอบได้ย่อมปลอดภัยกว่าผู้บริหารบริษัทที่มีอำนาจสูงแต่ไม่มีใครเลือกตั้ง ดังนั้น ก่อนที่สงครามในอนาคตจะถูกตัดสินด้วยการกดปุ่มเพียงครั้งเดียว สังคมควรตัดสินให้ชัดเจนก่อนว่า ใครควรเป็นผู้ถือปุ่มนั้น