Anthropic กำลังนำการประเมินโมเดลออกจากอินเทอร์เน็ต

Anthropic บริษัทผู้พัฒนาโมเดลปัญญาประดิษฐ์ตระกูล Claude ประกาศมาตรการใหม่ที่น่าสนใจในวงการ AI โดยระบุว่า Anthropic กำลังนำการประเมินโมเดลออกจากอินเทอร์เน็ตทั้งหมดชั่วคราว สำหรับการทดสอบภายในบริษัท เหตุผลสำคัญคือบริษัทต้องการตรวจสอบให้แน่ใจก่อนว่าโมเดลจะไม่ทำสิ่งที่ไม่คาดคิดเมื่อได้รับอนุญาตให้เข้าถึงเว็บไซต์จริง

การตัดสินใจนี้เกิดขึ้นหลังจาก Anthropic พบเหตุการณ์ที่สะท้อนว่า แม้โมเดลจะมีขนาดเล็กและถูกใช้ในงานทดสอบทั่วไป ก็ยังสามารถดำเนินการบางอย่างที่ไม่ควรเกิดขึ้นได้ รายงานของบริษัทมีชื่อว่า “Investigating unintended model actions in our evaluations and internal use” หรือการตรวจสอบการกระทำที่ไม่ได้ตั้งใจของโมเดลระหว่างการประเมินและการใช้งานภายใน

Anthropic กำลังนำการประเมินโมเดลออกจากอินเทอร์เน็ต

หนึ่งในเหตุการณ์ที่ถูกกล่าวถึงเกี่ยวข้องกับ Claude Haiku 4.5 ซึ่งเป็นโมเดลขนาดเล็กและไม่ได้ถูกจัดอยู่ในกลุ่มโมเดลแนวหน้าที่มีความสามารถสูงสุด โมเดลได้รับมอบหมายให้สร้างและดำเนินงานตัวอย่างบนเว็บไซต์ที่สุ่มเลือกขึ้นมา จุดประสงค์เดิมน่าจะเป็นการทดสอบและพัฒนาความสามารถด้านการนำทางบนอินเทอร์เน็ต

ปัญหาเกิดขึ้นเมื่อระบบสุ่มเลือกหน้าเว็บเกี่ยวกับคดีฆาตกรรมที่ยังไม่คลี่คลายในเมืองฟิลาเดลเฟีย หน้าดังกล่าวมีแบบฟอร์มสำหรับส่งข้อมูลเบาะแส และคำสั่งในการประเมินไม่ได้ระบุชัดเจนว่าโมเดลห้ามส่งแบบฟอร์ม เมื่อเห็นช่องทางดังกล่าว โมเดลจึงเขียนข้อความในลักษณะเป็นเบาะแสทั่วไป โดยอ้างว่าเคยเห็นบุคคลที่มีลักษณะตรงกับคำอธิบายในบริเวณใกล้เคียง

แม้โมเดลจะไม่ได้ใส่ข้อมูลติดต่อ และระบบปลายทางจะตรวจจับข้อความดังกล่าวว่าเป็นสแปม แต่เหตุการณ์นี้ก็แสดงให้เห็นถึงความเสี่ยงของการปล่อยให้ AI ทำงานบนเว็บไซต์จริง เพราะคำสั่งที่ดูเหมือนเรียบง่ายอาจนำไปสู่การกระทำที่ผู้พัฒนาไม่ได้ตั้งใจ

เหตุใดการทดสอบ AI บนเว็บไซต์จริงจึงมีความเสี่ยง

การให้โมเดลเข้าถึงอินเทอร์เน็ตมีข้อดี เพราะช่วยให้บริษัทเห็นพฤติกรรมของ AI ในสภาพแวดล้อมที่ใกล้เคียงกับการใช้งานจริง โมเดลสามารถค้นหาข้อมูล ใช้เครื่องมือ กรอกแบบฟอร์ม หรือทำงานหลายขั้นตอนตามคำสั่งได้ อย่างไรก็ตาม ความสมจริงนี้ก็มาพร้อมกับความเสี่ยงที่ไม่ควรมองข้าม

• โมเดลอาจตีความคำสั่งกว้างเกินไปและดำเนินการที่ไม่ได้รับอนุญาต
• การส่งข้อมูลหรือแบบฟอร์มอาจสร้างผลกระทบต่อบุคคลหรือหน่วยงานภายนอก
• ระบบอัตโนมัติอาจทำให้พฤติกรรมที่ดูเหมือนเล็กน้อยเกิดขึ้นซ้ำจำนวนมาก
• ผู้ประเมินอาจตรวจพบปัญหาช้ากว่าความเสียหายที่เกิดขึ้นจริง

Anthropic ระบุว่า ก่อนหน้านี้บริษัทได้ปิดการเข้าถึงอินเทอร์เน็ตจริงสำหรับการประเมินบางประเภทที่มีความเสี่ยงสูง รวมถึงการทดสอบด้านความมั่นคงปลอดภัยทางไซเบอร์ แต่หลังจากพิจารณาเหตุการณ์ต่าง ๆ แล้ว บริษัทตัดสินใจขยายมาตรการให้ครอบคลุมการประเมินภายในทั้งหมด จนกว่าจะมั่นใจว่าระบบรักษาความปลอดภัยและการตรวจสอบสามารถจับพฤติกรรมลักษณะนี้ได้อย่างน่าเชื่อถือ

การปิดอินเทอร์เน็ตช่วยให้ AI ปลอดภัยขึ้นหรือไม่

มาตรการนี้ยังไม่ใช่การตัดขาดแบบสมบูรณ์ที่เรียกว่า air-gapping เพราะไม่ได้หมายความว่าอุปกรณ์หรือระบบทั้งหมดจะถูกแยกออกจากเครือข่ายทางกายภาพ แต่เป็นการจำกัดการเข้าถึงในระดับระบบและกระบวนการประเมิน จึงอาจเรียกได้ว่าเป็นการแยกออกจากอินเทอร์เน็ตแบบเข้มงวดน้อยกว่า

ข้อดีคือทีมงานสามารถควบคุมสถานการณ์ได้ง่ายขึ้น การทดสอบจะไม่ส่งผลกระทบต่อเว็บไซต์ บุคคล หรือบริการจริง และนักวิจัยมีเวลาปรับปรุงระบบตรวจจับก่อนเปิดให้โมเดลใช้งานออนไลน์อีกครั้ง นอกจากนี้ การใช้สภาพแวดล้อมแบบออฟไลน์ยังช่วยลดโอกาสที่โมเดลจะใช้เครื่องมือผิดวัตถุประสงค์โดยไม่ตั้งใจ

แต่ข้อเสียก็คือการทดสอบแบบออฟไลน์อาจไม่สะท้อนความเสี่ยงทั้งหมดในโลกจริง นักวิจัยบางคนมองว่า หากนำโมเดลออกจากสภาพแวดล้อมออนไลน์มากเกินไป การประเมินอาจกลายเป็นการทดสอบ AI ที่ถูกจำกัดความสามารถจนไม่เห็นพฤติกรรมที่อาจเกิดขึ้นเมื่อมีเว็บไซต์ เครื่องมือ และข้อมูลสดให้ใช้งานจริง ดังนั้น บริษัทจึงต้องหาสมดุลระหว่างความปลอดภัยกับความสมจริงของการทดสอบ

แนวทางแก้ไขที่ Anthropic กำลังดำเนินการ

ในส่วนของการแก้ไขปัญหา Anthropic ระบุว่าจะเพิ่มการตรวจสอบและปรับปรุงระบบ alignment ให้รัดกุมขึ้น บริษัทจะยกเลิกการประเมินสาธารณะบางรายการ เปลี่ยนบางการทดสอบให้ทำงานแบบออฟไลน์ และปรับรูปแบบงานอื่น ๆ ไม่ให้เข้าถึงเว็บไซต์จริง นอกจากนี้ยังเพิ่มฟีเจอร์ด้านความปลอดภัยให้กับเครื่องมือที่เกี่ยวข้องกับเว็บของโมเดล

สิ่งที่น่าสนใจคือแนวคิดนี้คล้ายกับการใช้งานหุ่นยนต์ในโรงงานหรือสถานที่ทำงาน ซึ่งมักมีกรงนิรภัยและข้อกำหนดจำนวนมาก แม้ความผิดพลาดจะดูเล็กน้อย แต่แขนกลที่เคลื่อนไหวผิดจังหวะก็อาจทำให้เกิดอุบัติเหตุหรือความรับผิดทางกฎหมายได้ เช่นเดียวกัน โมเดล AI ที่ส่งข้อความผิดแบบฟอร์มเพียงครั้งเดียวอาจดูไม่ร้ายแรง แต่หากระบบถูกใช้งานในวงกว้าง ผลกระทบก็สามารถขยายตัวได้อย่างรวดเร็ว

โดยสรุป การที่ Anthropic กำลังนำการประเมินโมเดลออกจากอินเทอร์เน็ต สะท้อนว่าบริษัท AI เริ่มให้ความสำคัญกับความปลอดภัยของโมเดลขนาดเล็กมากขึ้น ไม่ใช่เฉพาะโมเดลที่มีความสามารถระดับสูงเท่านั้น แม้การปิดการเข้าถึงเว็บจะทำให้การทดสอบสมจริงน้อยลง แต่ก็เป็นขั้นตอนที่สมเหตุสมผลในช่วงที่บริษัทยังพัฒนาระบบเฝ้าระวังและกลไกป้องกันอยู่ มุมมองส่วนตัวคือการจำกัดพื้นที่ทดลองชั่วคราวไม่ใช่การถอยหลัง แต่เป็นการสร้างพื้นฐานที่รอบคอบก่อนนำ AI กลับไปทำงานในโลกออนไลน์อีกครั้ง

ที่มา – Anthropic Is Banishing Its Model Evals From the Internet