คำเตือน AI วันสิ้นโลกทำผู้คุมธนาคารกังวล

ความก้าวหน้าของปัญญาประดิษฐ์ หรือ AI กำลังสร้างทั้งโอกาสและความกังวลให้กับภาคการเงินทั่วโลก โดยเฉพาะเมื่อระบบ AI รุ่นใหม่สามารถทำงานได้อย่าง автономัสมากขึ้น รายงานของ Reuters ระบุว่า หน่วยงานกำกับดูแลธนาคารชั้นนำของสหรัฐฯ ซึ่งรวมถึงธนาคารกลางสหรัฐ หรือ Fed กำลังจับตาการนำ AI มาใช้ในธนาคารอย่างใกล้ชิด เพราะเกรงว่าความเสี่ยงอาจลุกลามจนกระทบเสถียรภาพทางการเงิน

ประเด็นนี้ทำให้ คำเตือน AI วันสิ้นโลกทำผู้คุมธนาคารกังวล กลายเป็นหัวข้อที่ได้รับความสนใจมากขึ้น แม้คำว่า “วันสิ้นโลก” จะฟังดูรุนแรง แต่ผู้เชี่ยวชาญไม่ได้หมายถึงเหตุการณ์เหนือธรรมชาติ หากหมายถึงสถานการณ์ที่ AI ถูกใช้โจมตีระบบธนาคารจำนวนมาก จนทำให้ข้อมูล เงินทุน และบริการทางการเงินหยุดชะงักพร้อมกัน

คำเตือน AI วันสิ้นโลกทำผู้คุมธนาคารกังวล

หน่วยงานกำกับดูแลของสหรัฐฯ ได้แก่ Office of the Comptroller of the Currency, Federal Deposit Insurance Corporation และ Federal Reserve มีรายงานว่ากำลังสอบถามธนาคารต่าง ๆ เกี่ยวกับการใช้งาน AI agent โดยเฉพาะระบบที่สามารถวิเคราะห์ภัยคุกคามทางไซเบอร์และตัดสินใจตอบโต้ได้ด้วยตัวเอง

คำถามสำคัญไม่ได้อยู่ที่ธนาคารใช้ AI หรือไม่เท่านั้น แต่ยังรวมถึงวิธีควบคุมระบบเหล่านี้ด้วย เจ้าหน้าที่ต้องการทราบว่าแต่ละธนาคารมีมนุษย์คอยติดตามและอนุมัติการทำงานของ AI หรือไม่ ระบบสามารถทำงานเกินขอบเขตอำนาจที่กำหนดได้หรือไม่ และมีปุ่มหยุดฉุกเฉินหรือกลไกตัดการทำงานทันทีเมื่อ AI แสดงพฤติกรรมน่าสงสัยหรือไม่

เหตุผลที่คำเตือน AI วันสิ้นโลกทำผู้คุมธนาคารกังวล

ภาคธนาคารถือเป็นหนึ่งในโครงสร้างพื้นฐานที่มีความอ่อนไหวสูง เพราะจัดเก็บทั้งข้อมูลส่วนบุคคล ข้อมูลธุรกิจ และเงินของลูกค้าจำนวนมหาศาล หาก AI ที่ถูกโจมตีหรือควบคุมผิดพลาดสามารถเข้าถึงระบบภายในได้ ผลกระทบอาจไม่จำกัดอยู่ที่ธนาคารแห่งเดียว แต่สามารถส่งต่อไปยังผู้ให้บริการชำระเงิน ตลาดทุน และสถาบันการเงินในประเทศอื่น ๆ

ความกังวลยังเพิ่มขึ้นจากการพัฒนาโมเดล AI ที่สามารถช่วยค้นหาช่องโหว่และสร้างการโจมตีทางไซเบอร์ได้รวดเร็วขึ้น บริษัทเทคโนโลยีและผู้เชี่ยวชาญด้านความปลอดภัยบางรายเตือนว่า การโจมตีในอนาคตอาจมีความซับซ้อนมากจนระบบป้องกันแบบเดิมรับมือไม่ทัน ขณะเดียวกัน AI ก็ถูกนำเสนอว่าเป็นเครื่องมือสำคัญในการตรวจจับและป้องกันภัยคุกคามเช่นเดียวกัน ทำให้เกิดสถานการณ์ที่ AI ต้องต่อสู้กับ AI

นอกจากภัยจากระบบภายในแล้ว ธนาคารยังแสดงความกังวลเกี่ยวกับ AI ภายนอกที่ผู้บริโภคใช้งาน เช่น ผู้ช่วยดิจิทัลที่อาจมีสิทธิ์เข้าถึงบัญชีหรือข้อมูลทางการเงิน หากผู้ใช้อนุญาตสิทธิ์มากเกินไป หรือระบบภายนอกถูกหลอกให้ทำงานที่ไม่พึงประสงค์ ความเสียหายอาจเกิดขึ้นโดยที่ธนาคารไม่สามารถควบคุมต้นเหตุได้โดยตรง

ยุโรปเร่งประเมินความเสี่ยงจาก AI ในระบบการเงิน

ความกังวลไม่ได้เกิดขึ้นเฉพาะในสหรัฐฯ เท่านั้น หน่วยงานกำกับดูแลในยุโรป รวมถึงธนาคารกลางอังกฤษและธนาคารกลางยุโรป ก็จับตาความเสี่ยงจาก AI agent เช่นกัน โดยกังวลว่าตลาดการเงินอาจเผชิญเหตุการณ์รุนแรงเร็วกว่าที่คาดไว้ ขณะที่แผนฟื้นฟูระบบของธนาคารบางแห่งอาจยังไม่พร้อมรับมือกับเหตุการณ์ที่เกิดจาก AI

ผู้บริหารธนาคารยุโรปรายหนึ่งให้ข้อมูลว่า อุตสาหกรรมอาจพบความเสียหายจาก AI อย่างมีนัยสำคัญภายในช่วงเวลาไม่กี่เดือนข้างหน้า ขณะที่ผู้บริหารในแวดวงเทคโนโลยีจำนวนมากก็เตือนว่า การโจมตีทางไซเบอร์ที่ใช้ AI จะเกิดขึ้นบ่อยและมีความซับซ้อนมากขึ้น เมื่อโมเดลต่าง ๆ มีความสามารถสูงกว่าเดิม

Andrew Bailey ผู้ว่าการธนาคารกลางอังกฤษและประธานคณะกรรมการเสถียรภาพทางการเงินของกลุ่ม G20 เคยเรียกร้องให้ประเทศต่าง ๆ ร่วมมือกันจัดการความเสี่ยงดังกล่าว เนื่องจากระบบการเงินโลกเชื่อมโยงกันผ่านผู้ให้บริการเทคโนโลยี โครงสร้างพื้นฐาน และธุรกรรมข้ามพรมแดน การโจมตีเพียงจุดเดียวจึงอาจสร้างผลกระทบเป็นวงกว้าง

ธนาคารควรวางมาตรการรับมืออย่างไร

แม้ AI จะช่วยเพิ่มประสิทธิภาพ ลดต้นทุน และตรวจจับธุรกรรมผิดปกติได้ดีขึ้น แต่ธนาคารไม่ควรปล่อยให้ระบบมีอิสระโดยไม่มีข้อจำกัด มาตรการที่ควรพิจารณามีดังนี้

• กำหนดขอบเขตอำนาจของ AI: ระบุให้ชัดเจนว่า AI agent สามารถเข้าถึงข้อมูลหรือดำเนินการใดได้บ้าง
• ให้มนุษย์มีอำนาจตัดสินใจขั้นสุดท้าย: การโอนเงิน การระงับบัญชี หรือการตอบโต้เหตุการณ์ร้ายแรงควรผ่านการตรวจสอบจากเจ้าหน้าที่
• ติดตามการทำงานแบบต่อเนื่อง: เก็บบันทึกคำสั่ง การตัดสินใจ และผลลัพธ์ของ AI เพื่อให้ตรวจสอบย้อนหลังได้
• สร้างระบบหยุดฉุกเฉิน: ธนาคารควรสามารถตัดการเชื่อมต่อหรือยุติการทำงานของ AI ได้ทันทีเมื่อพบความผิดปกติ
• ทดสอบสถานการณ์จำลอง: ควรทดสอบทั้งการโจมตีจากภายนอก ความผิดพลาดของโมเดล และการใช้ AI ที่เกินขอบเขต
• ประเมินผู้ให้บริการภายนอก: ธนาคารต้องตรวจสอบความปลอดภัยของบริษัทเทคโนโลยีและโมเดล AI ที่นำมาใช้งาน

เหตุการณ์โจมตีธนาคารในเอเชียบางส่วนยังสะท้อนว่า ความเสี่ยงไม่ได้เป็นเพียงเรื่องสมมติอีกต่อไป มีรายงานว่าบริษัทในญี่ปุ่นและเกาหลีใต้เผชิญการโจมตีทางไซเบอร์เพิ่มขึ้น และมีธนาคารบางแห่งตกเป็นเป้าหมาย โดยผู้เชี่ยวชาญเชื่อว่าผู้โจมตีอาจใช้ AI เพื่อช่วยวางแผนและดำเนินการโจมตีให้รวดเร็วขึ้น

อย่างไรก็ตาม การพูดถึงความเสี่ยงไม่ควรนำไปสู่การหยุดพัฒนา AI ทั้งหมด ธนาคารยังสามารถใช้เทคโนโลยีนี้เพื่อยกระดับความปลอดภัย วิเคราะห์การฉ้อโกง และช่วยเหลือลูกค้าได้ เพียงแต่ต้องออกแบบระบบให้มีความรับผิดชอบ โปร่งใส และตรวจสอบได้ การกำกับดูแลที่ดีควรเดินไปพร้อมกับนวัตกรรม ไม่ใช่รอให้เกิดความเสียหายแล้วจึงเริ่มแก้ไข

โดยสรุป คำเตือน AI วันสิ้นโลกทำผู้คุมธนาคารกังวล สะท้อนความจริงว่า AI กำลังเปลี่ยนจากเครื่องมือช่วยงานไปเป็นผู้ดำเนินการที่มีอำนาจมากขึ้น ภาคการเงินจึงต้องเตรียมทั้งเทคโนโลยี บุคลากร และกฎระเบียบให้พร้อม หากธนาคารวางระบบควบคุมอย่างรอบคอบ AI อาจเป็นเกราะป้องกันภัยไซเบอร์ได้ แต่หากละเลยความปลอดภัย ความเร็วของ AI ก็อาจกลายเป็นความเสี่ยงที่แพร่กระจายไปทั่วโลกได้เช่นกัน

ที่มา – Shifting AI Doomsday Predictions Reportedly Worry Banking Regulators