ตั้งแต่มีการบินด้วยเครื่องยนต์เมื่อกว่าศตวรรษที่แล้ว มีผู้เสียชีวิตจากอุบัติเหตุการบินพลเรือนประมาณ 185,000 คน อย่างไรก็ตาม ในช่วงห้าปีที่ผ่านมาในหมู่สายการบินของสหรัฐฯ ความเสี่ยงที่จะเสียชีวิตแทบจะเป็นศูนย์ ในความเป็นจริง คุณมีโอกาสถูกรางวัลลอตเตอรี่มากกว่าเสียชีวิตในฐานะผู้โดยสารบนสายการบินของสหรัฐฯ มากกว่า
การบินปลอดภัยได้อย่างไร? และเราสามารถนำบทเรียนด้านความปลอดภัยที่ได้รับมาอย่างยากลำบากจากการบินไปประยุกต์ใช้กับปัญญาประดิษฐ์ (AI) ได้หรือไม่?
เมื่อมนุษยชาติแนะนำเทคโนโลยีที่เปลี่ยนแปลงกระบวนทัศน์ใหม่ และเทคโนโลยีนั้นถูกนำมาใช้อย่างรวดเร็วทั่วโลก ผลกระทบในอนาคตนั้นไม่เป็นที่ทราบและมักเป็นสิ่งที่น่ากลัวโดยรวม การเปิดตัวการบินด้วยเครื่องยนต์ในปี 1903 โดยพี่น้องไรท์ก็ไม่มีข้อยกเว้น มีข้อโต้แย้งมากมายเกี่ยวกับเทคโนโลยีใหม่นี้ รวมถึงข้อกังวลทางศาสนา การเมือง และทางเทคนิค
ไม่นานหลังจากที่มีการแนะนำการบินด้วยเครื่องยนต์ อุบัติเหตุเครื่องบินครั้งแรกก็เกิดขึ้น และเมื่อบอกว่าไม่นาน ผมหมายถึงวันเดียวกันนั้นเอง เกิดขึ้นในการบินครั้งที่สี่ของพี่น้องไรท์ บุคคลแรกที่เสียชีวิตจากอุบัติเหตุเครื่องบินเสียชีวิตในอีกห้าปีต่อมาในปี 1908 ตั้งแต่นั้นมา มีอุบัติเหตุเครื่องบินมากกว่า 89,000 ครั้งทั่วโลก
ฉันเป็นนักวิจัยที่ศึกษาความปลอดภัยในการเดินทางทางอากาศ และฉันเห็นว่าอุตสาหกรรม AI ในปัจจุบันคล้ายกับช่วงปีแรกๆ ของอุตสาหกรรมการบิน ซึ่งแน่นอนว่ามีความปลอดภัยน้อยกว่า
แม้จะน่าเศร้า แต่อุบัติเหตุแต่ละครั้งและการเสียชีวิตแต่ละครั้งแสดงถึงช่วงเวลาแห่งการไตร่ตรองและการเรียนรู้ นักสืบสวนอุบัติเหตุพยายามสร้างอุบัติเหตุแต่ละครั้งขึ้นใหม่และระบุสารตั้งต้นของอุบัติเหตุและสาเหตุที่แท้จริง เมื่อนักสืบสวนระบุสิ่งที่นำไปสู่อุบัติเหตุแต่ละครั้งแล้ว ผู้ผลิตและผู้ดำเนินการเครื่องบินจึงใช้มาตรการด้านความปลอดภัยเพื่อให้มีผลบังคับใช้โดยหวังว่าจะป้องกันอุบัติเหตุเพิ่มเติม
ตัวอย่างเช่น หากนักบินในยุคแรกของการบินลืมลดล้อลงก่อนลงจอด อุบัติเหตุจากการลงจอดก็อาจเกิดขึ้นได้ ดังนั้นอุตสาหกรรมจึงคิดค้นระบบเตือนภัยที่จะแจ้งเตือนนักบินเกี่ยวกับสถานะที่ไม่ปลอดภัยของล้อลงจอด ซึ่งเป็นบทเรียนที่ได้เรียนรู้หลังจากเกิดอุบัติเหตุเท่านั้น กระบวนการเชิงรับนี้ แม้ว่าจำเป็น แต่ก็ต้องจ่ายในราคาแพงเพื่อเรียนรู้วิธีปรับปรุงความปลอดภัย
ตลอดศตวรรษที่ 20 โลกแห่งการบินได้จัดระเบียบและกำหนดมาตรฐานการปฏิบัติงาน ขั้นตอน และกระบวนการ ในปี 1938 ประธานาธิบดีแฟรงคลิน รูสเวลต์ ลงนามในพระราชบัญญัติการบินพลเรือนซึ่งก่อตั้งสำนักงานการบินพลเรือน สิ่งนี้เป็นจุดเริ่มต้นของสำนักงานบริหารการบินแห่งชาติ ซึ่งรวมถึงคณะกรรมการความปลอดภัยทางอากาศ
กระบวนทัศน์ด้านความปลอดภัยเชิงรับอย่างเต็มที่เปลี่ยนไปเมื่อเวลาผ่านไปเป็นเชิงรุก และในที่สุดก็เป็นการคาดการณ์ ในปี 1997 กลุ่มองค์กรการบินในอุตสาหกรรม แรงงาน และรัฐบาลได้รวมตัวกันเป็นกลุ่มที่เรียกว่า Commercial Aviation Safety Team พวกเขาเริ่มดูข้อมูลและพยายามค้นหาแนวโน้มและวิเคราะห์รายงานผู้ใช้เพื่อระบุความเสี่ยงและอันตรายก่อนที่มันจะกลายเป็นอุบัติเหตุเต็มรูปแบบ
กลุ่มนี้ ซึ่งรวมถึง FAA และ NASA ตัดสินใจตั้งแต่เนิ่นๆ ว่าจะไม่มีการแข่งขันระหว่างสายการบินเมื่อพูดถึงความปลอดภัย อุตสาหกรรมจะแบ่งปันข้อมูลด้านความปลอดภัยอย่างเปิดเผย ครั้งสุดท้ายที่คุณเห็นแคมเปญโฆษณาของสายการบินที่อ้างว่า “สายการบินของเราปลอดภัยกว่าของพวกเขา” คือเมื่อใด
Commercial Aviation Safety Team ช่วยให้อุตสาหกรรมเปลี่ยนจากเชิงรับไปสู่การคาดการณ์โดยใช้แนวทางที่ขับเคลื่อนด้วยข้อมูลและเป็นระบบในการจัดการกับปัญหาด้านความปลอดภัย สร้างข้อมูลนี้โดยใช้รายงานจากผู้คนและข้อมูลจากเครื่องบิน
ทุกๆ วัน มีเที่ยวบินเกิดขึ้นหลายล้านเที่ยวทั่วโลก และในทุกๆ เที่ยวบิน มีการบันทึกจุดข้อมูลหลายพันจุด ผู้เชี่ยวชาญด้านความปลอดภัยในการบินในปัจจุบันใช้เครื่องบันทึกข้อมูลการบิน ซึ่งใช้มานานในการตรวจสอบอุบัติเหตุหลังเกิดเหตุ เพื่อวิเคราะห์ข้อมูลจากทุกเที่ยวบิน การตรวจสอบข้อมูลทั้งหมดนี้อย่างใกล้ชิด นักวิเคราะห์ด้านความปลอดภัยสามารถตรวจจับเหตุการณ์และแนวโน้มที่เกิดขึ้นใหม่และน่ากังวล ตัวอย่างเช่น จากการวิเคราะห์ข้อมูล นักวิทยาศาสตร์ด้านความปลอดภัยที่ผ่านการฝึกอบรมสามารถตรวจจับได้ว่าการเข้าใกล้รันเวย์ของเครื่องบินบางลำมีความเสี่ยงมากขึ้นเนื่องจากปัจจัยต่างๆ เช่น ความเร็วลมที่มากเกินไปและการจัดตำแหน่งที่ไม่ดี ก่อนที่จะเกิดอุบัติเหตุจากการลงจอด
เพื่อเพิ่มขีดความสามารถเชิงรุกและการคาดการณ์ ใครก็ตามที่ดำเนินการภายในระบบการบินสามารถส่งรายงานความปลอดภัยที่ไม่ระบุชื่อและไม่ลงโทษ หากไม่มีการรับประกันว่าจะไม่เปิดเผยตัวตน ผู้คนอาจลังเลที่จะรายงานปัญหา และอุตสาหกรรมการบินจะพลาดข้อมูลสำคัญที่เกี่ยวข้องกับความปลอดภัย
ข้อมูลทั้งหมดนี้ถูกจัดเก็บ รวบรวม และวิเคราะห์โดยนักวิทยาศาสตร์ด้านความปลอดภัย ซึ่งดูที่ระบบโดยรวมและพยายามค้นหาสารตั้งต้นของอุบัติเหตุก่อนที่จะนำไปสู่อุบัติเหตุ ความเสี่ยงที่จะเสียชีวิตในฐานะผู้โดยสารบนเครื่องบินของสายการบินในสหรัฐฯ ตอนนี้น้อยกว่า 1 ใน 98 ล้าน คุณมีแนวโน้มที่จะเสียชีวิตในการขับรถไปสนามบินมากกว่าในอุบัติเหตุเครื่องบิน ตอนนี้ กว่า 100 ปีนับตั้งแต่มีการบินด้วยเครื่องยนต์ อุตสาหกรรมการบิน หลังจากเรียนรู้บทเรียนที่ยากลำบาก ก็กลายเป็นปลอดภัยอย่างยิ่ง
การบินปลอดภัยด้วยข้อมูลและความร่วมมือ
AI กำลังแทรกซึมเข้ามาในหลายแง่มุมของชีวิตอย่างรวดเร็ว ตั้งแต่รถยนต์ไร้คนขับไปจนถึงการดำเนินการทางกระบวนการยุติธรรมทางอาญา และการตัดสินใจจ้างงานและการให้กູ້ เทคโนโลยีนี้ยังห่างไกลจากความสมบูรณ์แบบ อย่างไรก็ตาม และข้อผิดพลาดที่เกิดจาก AI ได้ส่งผลกระทบที่เปลี่ยนแปลงชีวิต และในบางกรณีถึงขั้นเป็นอันตรายต่อชีวิต
เกือบทุกบริษัท AI พยายามที่จะใช้มาตรการด้านความปลอดภัยบางอย่าง แต่ดูเหมือนว่าพวกเขากำลังพยายามทำสิ่งเหล่านี้เป็นรายบุคคล เหมือนกับผู้เล่นยุคแรกๆ ในด้านการบิน และความพยายามเหล่านี้ส่วนใหญ่เป็นปฏิกิริยาตอบโต้ โดยรอให้ AI ทำผิดพลาดก่อนแล้วจึงค่อยดำเนินการ
จะเป็นอย่างไรถ้ามีกลุ่มเช่น Commercial Aviation Safety Team ที่บริษัท AI ทั้งหมด หน่วยงานกำกับดูแล สถาบันการศึกษา และผู้สนใจอื่นๆ มารวมตัวกันเพื่อเริ่มกระบวนการเชิงรุกและการคาดการณ์เพื่อให้แน่ใจว่า AI จะไม่นำไปสู่ภัยพิบัติ
จากมุมมองของการรายงาน ลองจินตนาการว่าหากอินเทอร์เฟซ AI ทุกตัวมีปุ่มรายงานที่ผู้ใช้สามารถคลิกเพื่อไม่เพียงแต่รายงานผลลัพธ์ที่อาจเกิดขึ้นและไม่ปลอดภัยไปยังแต่ละบริษัท แต่ยังรายงานสิ่งเดียวกันไปยังองค์กร AI ที่สร้างขึ้นบน Commercial Aviation Safety Team นอกจากนี้ ข้อมูลที่สร้างโดยระบบ AI เช่นเดียวกับที่เราเห็นในการบิน ก็สามารถรวบรวม รวบรวม และวิเคราะห์เพื่อหาภัยคุกคามด้านความปลอดภัยได้
แม้ว่าแนวทางนี้อาจไม่ใช่ทางออกที่ดีที่สุดในการป้องกันอันตรายจาก AI แต่ถ้า Big Tech นำบทเรียนที่ได้รับจากอุตสาหกรรมที่มีผลกระทบสูงอื่นๆ เช่น การบิน มาใช้ ก็อาจเรียนรู้ที่จะควบคุม ควบคุม และทำให้ AI ปลอดภัยยิ่งขึ้นสำหรับทุกคนที่จะใช้
บทเรียนจากอุตสาหกรรมการบินเพื่อความปลอดภัยของ AI
อุตสาหกรรมการบินแสดงให้เห็นว่า การบินปลอดภัยด้วยข้อมูลและความร่วมมือ โดยการแบ่งปันข้อมูลและการทำงานร่วมกันเพื่อความปลอดภัย เราสามารถลดอุบัติเหตุและเพิ่มความปลอดภัยในการบินได้อย่างมาก อุตสาหกรรม AI สามารถเรียนรู้จากสิ่งนี้ได้
สิ่งที่อุตสาหกรรม AI สามารถเรียนรู้ได้จากการบินคือการมุ่งเน้นที่การแบ่งปันข้อมูล การทำงานร่วมกัน และการสร้างวัฒนธรรมแห่งความปลอดภัยที่ทุกคนมีส่วนร่วมในการระบุและแก้ไขปัญหาที่อาจเกิดขึ้น การบินปลอดภัยด้วยข้อมูลและความร่วมมือ นั้นเป็นสิ่งที่สำคัญอย่างยิ่ง
โดยสรุปแล้ว การที่ การบินปลอดภัยด้วยข้อมูลและความร่วมมือ นั้นเป็นผลมาจากการเรียนรู้จากข้อผิดพลาดในอดีต การทำงานร่วมกัน และการใช้ข้อมูลเพื่อป้องกันอุบัติเหตุ สิ่งเหล่านี้เป็นสิ่งที่อุตสาหกรรม AI สามารถนำไปประยุกต์ใช้ได้อย่างมีประสิทธิภาพ
ที่มา – Flying Is Safe Thanks to Data and Cooperation—What the AI Industry Could Learn From Airlines on Safety
