ไมโครซอฟท์ชี้ นมและเครื่องซักผ้าปลอดภัยกว่า AI

ประเด็นเรื่องความปลอดภัยของปัญญาประดิษฐ์ หรือ AI กำลังได้รับความสนใจมากขึ้น หลังแบรด สมิธ ประธานไมโครซอฟท์ออกมาเรียกร้องให้ทั่วโลกกำหนดกฎเกณฑ์ด้านความปลอดภัยสำหรับ AI อย่างจริงจัง โดยเขาเปรียบเทียบว่า สินค้าใกล้ตัวอย่างนมและเครื่องซักผ้ากลับมีกฎควบคุมความปลอดภัยมากกว่าเทคโนโลยี AI ที่กำลังถูกนำไปใช้ในวงกว้าง

ไมโครซอฟท์ชี้ นมและเครื่องซักผ้าปลอดภัยกว่า AI

ในการให้สัมภาษณ์กับสำนักข่าว BBC สมิธกล่าวว่า ปัจจุบันนมทุกกล่องที่วางขายในซูเปอร์มาร์เก็ตต้องผ่านการตรวจสอบและอยู่ภายใต้ข้อกำหนดด้านความปลอดภัย ขณะเดียวกันเครื่องซักผ้าก็ต้องผ่านมาตรฐานเพื่อป้องกันอันตรายต่อผู้ใช้งาน แต่ AI ซึ่งสามารถตัดสินใจ ดำเนินงาน และส่งผลกระทบต่อผู้คนจำนวนมาก กลับยังไม่มีกฎสากลที่ชัดเจนเพียงพอ

คำพูดดังกล่าวไม่ได้หมายความว่า AI ไม่มีประโยชน์ ตรงกันข้าม เทคโนโลยีนี้สามารถช่วยเพิ่มประสิทธิภาพในงานวิจัย การแพทย์ การศึกษา ธุรกิจ และการให้บริการต่าง ๆ ได้อย่างมาก อย่างไรก็ตาม เมื่อ AI มีความสามารถสูงขึ้น ความเสี่ยงจากการใช้งานผิดพลาด การโจมตีทางไซเบอร์ หรือการทำงานที่หลุดจากการควบคุมก็เพิ่มขึ้นตามไปด้วย

ไมโครซอฟท์ชี้ นมและเครื่องซักผ้าปลอดภัยกว่า AI เพราะเหตุใด

สมิธเสนอให้บริษัทเทคโนโลยีมีหน้าที่ตามกฎหมายในการแจ้งผู้เสียหายทันที หากระบบของตนถูกโจมตีหรือถูกเอเจนต์ AI ที่เป็นอันตรายเข้าควบคุม นอกจากนี้ บริษัทควรรายงานเหตุการณ์ด้านความปลอดภัยอย่างโปร่งใส เพื่อให้หน่วยงานกำกับดูแล นักวิจัย และสาธารณชนสามารถประเมินความเสี่ยงและป้องกันเหตุซ้ำได้

อีกข้อเสนอสำคัญคือ การกำหนดให้ผู้ประเมินอิสระเข้าตรวจสอบโมเดล AI รุ่นใหม่ก่อนเปิดให้ใช้งานในวงกว้าง การตรวจสอบลักษณะนี้อาจช่วยค้นหาช่องโหว่ ความลำเอียง ความสามารถที่อาจถูกนำไปใช้ในทางผิด และพฤติกรรมที่ผู้พัฒนาไม่คาดคิดได้ตั้งแต่ระยะแรก

สมิธยังสนับสนุนให้ระบบ AI มี “เบรกฉุกเฉิน” หรือสวิตช์ปิดการทำงานที่มนุษย์สามารถใช้หยุดระบบได้ทันที หากพบว่าระบบกำลังทำงานผิดปกติ แนวคิดนี้ได้รับการสนับสนุนจากสัตยา นาเดลลา ซีอีโอของไมโครซอฟท์เช่นกัน โดยเขาระบุว่าโมเดล AI ควรเปิดโอกาสให้มนุษย์หยุดหรือพักการทำงานของระบบระหว่างที่กำลังปฏิบัติภารกิจ

ข้อเสนอสำคัญต่อกฎความปลอดภัย AI

• แจ้งเตือนผู้ได้รับผลกระทบ: บริษัทควรแจ้งผู้ใช้งานหรือองค์กรที่ได้รับความเสียหายจากการถูกเจาะระบบหรือการทำงานของ AI ที่ผิดพลาด
• รายงานเหตุการณ์อย่างโปร่งใส: เหตุการณ์ด้านความปลอดภัยควรถูกรายงานต่อหน่วยงานที่เกี่ยวข้อง เพื่อสร้างฐานข้อมูลและยกระดับมาตรฐานร่วมกัน
• ประเมินโมเดลก่อนเปิดตัว: ผู้ตรวจสอบอิสระควรทดสอบโมเดลใหม่ในด้านความปลอดภัย ความแม่นยำ และความเสี่ยงจากการนำไปใช้ผิดวัตถุประสงค์
• มีระบบหยุดฉุกเฉิน: มนุษย์ต้องสามารถพักหรือปิดระบบ AI ได้เมื่อพบพฤติกรรมที่เป็นอันตราย
• สร้างมาตรฐานระดับโลก: ประเทศต่าง ๆ ควรร่วมมือกันกำหนดหลักเกณฑ์ที่สอดคล้องกัน แทนที่จะปล่อยให้บริษัทกำกับดูแลตัวเองทั้งหมด

ความเสี่ยงจาก AI ที่อุตสาหกรรมกำลังกังวล

การเรียกร้องของประธานไมโครซอฟท์เกิดขึ้นในช่วงที่คนในอุตสาหกรรมบางส่วนกังวลว่า อาจเกิดเหตุการณ์ร้ายแรงที่เกี่ยวข้องกับ AI ภายในเวลาไม่กี่เดือนถึงหนึ่งปีข้างหน้า ความเสี่ยงอาจเกิดจาก AI ที่ทำงานนอกเหนือคำสั่งของมนุษย์ หรือจากแฮกเกอร์ที่ใช้ AI เพื่อเพิ่มความเร็วและความซับซ้อนของการโจมตี

หากระบบ AI สามารถเข้าถึงข้อมูลสำคัญ เครือข่ายองค์กร หรือเครื่องมืออัตโนมัติได้โดยไม่มีการควบคุมที่เหมาะสม ความผิดพลาดเพียงเล็กน้อยอาจสร้างความเสียหายเป็นวงกว้างได้ ตัวอย่างเช่น ระบบอาจเผยแพร่ข้อมูลเท็จ ตัดสินใจผิดพลาดในงานสำคัญ สร้างโค้ดที่มีช่องโหว่ หรือช่วยผู้ไม่หวังดีวางแผนโจมตีระบบดิจิทัล

ขณะเดียวกัน ผู้นำบางรายในวงการ AI มองว่าสังคมอาจต้องยอมรับความเสียหายบางส่วน เพื่อแลกกับประโยชน์จากนวัตกรรมและความก้าวหน้าของเทคโนโลยี มุมมองนี้ทำให้เกิดคำถามว่า ใครควรเป็นผู้กำหนดระดับความเสี่ยงที่สังคมยอมรับได้ และบริษัทควรรับผิดชอบมากน้อยเพียงใดเมื่อระบบของตนก่อให้เกิดผลกระทบ

ความแตกต่างระหว่างกฎบังคับใช้กับคำมั่นโดยสมัครใจ

ในสหรัฐฯ แนวทางของรัฐบาลมีความแตกต่างจากข้อเสนอของสมิธ โดยประธานาธิบดีโดนัลด์ ทรัมป์เคยสนับสนุนให้ภาคอุตสาหกรรมกำกับดูแลตัวเองมากกว่าออกกฎหมายเข้มงวด รัฐบาลสหรัฐฯ ให้เหตุผลว่าการควบคุมมากเกินไปอาจทำให้ประเทศเสียเปรียบจีนในการแข่งขันด้าน AI

บริษัทเทคโนโลยีรายใหญ่หลายแห่งจึงเคยร่วมลงนามในข้อตกลงโดยสมัครใจที่ระบุแนวทางด้านความปลอดภัยบางประการ อย่างไรก็ตาม ข้อตกลงดังกล่าวไม่มีบทลงโทษหรือกลไกทางกฎหมายที่ชัดเจน แม้บางฝ่ายจะเรียกคำมั่นเหล่านี้ว่าเป็นพันธะทางศีลธรรม แต่ก็ยังมีข้อกังวลว่า หากบริษัทไม่ปฏิบัติตาม จะมีใครสามารถบังคับใช้หรือเรียกร้องความรับผิดชอบได้จริงหรือไม่

สมิธมองว่าสหราชอาณาจักรอาจเป็นจุดเริ่มต้นที่ดีในการพัฒนามาตรฐานความปลอดภัย AI ระดับโลก เนื่องจากมีสถาบันด้านความปลอดภัย AI ที่ทำงานเกี่ยวกับการทดสอบและประเมินความเสี่ยงของโมเดล นอกจากนี้ เขายังเชื่อว่าเจ้าหน้าที่สหรัฐฯ อาจประสานงานกับสหราชอาณาจักรได้ง่ายกว่าการทำงานร่วมกับรัฐบาลบางแห่ง รวมถึงสหภาพยุโรป

ผู้ใช้งานควรจับตาอะไรจากประเด็นนี้

สำหรับผู้ใช้งานทั่วไป ประเด็นนี้สะท้อนว่าควรใช้ AI อย่างมีวิจารณญาณ ไม่ควรป้อนข้อมูลส่วนตัวหรือข้อมูลลับลงในระบบโดยไม่ตรวจสอบนโยบายความเป็นส่วนตัว และควรยืนยันผลลัพธ์จาก AI ก่อนนำไปใช้ตัดสินใจเรื่องสำคัญ โดยเฉพาะข้อมูลด้านสุขภาพ การเงิน กฎหมาย และความปลอดภัย

สำหรับองค์กร การมีนโยบายกำกับดูแล AI ภายในเป็นเรื่องจำเป็น ควรกำหนดว่าใครมีสิทธิ์อนุมัติการใช้งาน ใครรับผิดชอบเมื่อระบบเกิดปัญหา และจะหยุดระบบได้อย่างไร นอกจากนี้ ควรจัดเก็บบันทึกการทำงาน ตรวจสอบสิทธิ์การเข้าถึง และเตรียมแผนรับมือหากระบบถูกโจมตีหรือให้ข้อมูลผิดพลาด

ท้ายที่สุด การเปรียบเทียบระหว่างนม เครื่องซักผ้า และ AI อาจฟังดูแปลก แต่ช่วยทำให้เห็นภาพชัดเจนว่า สังคมมีมาตรฐานความปลอดภัยสำหรับสินค้าทั่วไปมานานแล้ว ขณะที่ AI กำลังพัฒนาเร็วกว่ากฎระเบียบหลายด้าน การสร้างกติกาที่สมดุลจึงไม่ควรมีเป้าหมายเพื่อหยุดนวัตกรรม แต่ควรทำให้เทคโนโลยีเติบโตอย่างรับผิดชอบ ตรวจสอบได้ และปลอดภัยสำหรับทุกคน

ความคิดเห็น: ถึงเวลาแล้วที่ภาครัฐ บริษัทเทคโนโลยี และประชาชนจะร่วมกันกำหนดมาตรฐาน AI ที่ชัดเจน เพราะความปลอดภัยไม่ควรเกิดขึ้นหลังเหตุการณ์ร้ายแรง แต่ควรถูกออกแบบไว้ตั้งแต่ก่อนเปิดใช้งาน

ที่มา – Microsoft President Says Milk and Washing Machines Face More Safety Regulations Than AI