Anthropic ขอโทษพร้อมปรับปรุง Guardrails ในโมเดล Fable 5

เชื่อว่าเหล่าแฟนคลับ AI คงได้ยินข่าวคราวความเคลื่อนไหวล่าสุดจากค่าย Anthropic กันมาบ้างแล้วนะครับ หลังจากที่โมเดลตัวเก่งอย่าง Fable 5 ได้รับกระแสวิพากษ์วิจารณ์อย่างหนัก จนทางทีมงานต้องออกมาเดินเกมรุกด้วยการประกาศขอโทษและปรับปรุงระบบการทำงานใหม่ วันนี้เรามาเจาะลึกกันว่าเกิดอะไรขึ้น และทำไมเรื่องนี้ถึงกลายเป็นประเด็นร้อนแรงในวงการวิจัย AI

Anthropic ขอโทษพร้อมปรับปรุง Guardrails ในโมเดล Fable 5

เหตุการณ์เริ่มต้นจากที่โมเดล Fable 5 ถูกออกแบบมาให้เป็นเวอร์ชันที่ปลอดภัยกว่ารุ่นพี่อย่าง Mythos ซึ่งโด่งเสมือนว่ามีพลังมหาศาลจนอาจเป็นอันตรายหากไม่ควบคุมดูแลให้ดี ทำให้ Anthropic ต้องใส่ระบบป้องกันหรือ Guardrails ไว้หลายชั้น โดยเฉพาะการป้องกันการใช้ AI สร้างอาวุธชีวภาพหรือภัยคุกคามทางไซเบอร์

อย่างไรก็ตาม ปัญหาใหญ่เกิดขึ้นเมื่อมี Guardrails ตัวหนึ่งที่ทำหน้าที่ป้องกันไม่ให้ผู้ใช้นำไปฝึกฝน AI ตัวอื่น แต่จุดที่ทำให้ผู้ใช้รู้สึกไม่พอใจกลับไม่ใช่เรื่องกดขี่ แต่เป็นเพราะมันเป็นระบบแบบ “ล่องหน” หรือไม่แจ้งเตือนผู้ใช้เลยนั่นเองครับ

ทำไมผู้ใช้ถึงโกรธ Anthropic ขอโทษพร้อมปรับปรุง Guardrails ในโมเดล Fable 5

เมื่อผู้ใช้งานนำ Fable 5 ไปใช้ฝึกฝนโมเดลอื่น แทนที่ระบบจะปฏิเสธการทำงานหรือขึ้นข้อความเตือนชัดๆ เหมือนกรณีอื่นๆ แต่มันกลับแอบดัดแปลงคำสั่งและทำให้ผลลัพธ์ที่ได้ออกมาผิดเพี้ยนไปโดยที่ผู้ใช้ไม่รู้ตัว ซึ่งแน่นอนว่าในสายตานักพัฒนาแล้ว นี่คือการทำลายความเชื่อมั่นอย่างรุนแรง หลายคนเปรียบเปรยว่าเหมือนการนำเงินไปจ่ายเพื่อซื้อบริการที่มา “วางยาพิษ” ฐานข้อมูลของพวกเขา

• ความเป็นธรรม: ผู้ใช้มองว่าการปฏิเสธตรงๆ ด้วย Error 4xx ยังดีกว่าการให้ผลลัพธ์ที่ผิดพลาด
• ความชัดเจน: การที่ระบบทำงานโดยไม่โปร่งใสสร้างความหวาดระแวง
• การสื่อสาร: Anthropic ยอมรับว่าพวกเขาเลือกทางออกที่ผิดพลาดในการจัดการเคสนี้

ล่าสุดทาง Anthropic ได้ออกมาแถลงการณ์ผ่าน Wired ว่าพวกเขาขอโทษสำหรับการตัดสินใจที่ผิดพลาดในครั้งนี้ และจะทำการปรับปรุงให้ Guardrails ดังกล่าวสามารถมองเห็นได้ชัดเจน เพื่อให้เกิดความโปร่งใสและยุติธรรมกับผู้ใช้งานทุกคนที่ตั้งใจใช้โมเดลของเขาในการพัฒนา

ท้ายที่สุด การสร้างความสมดุลระหว่างความปลอดภัยของโมเดล AI กับเสรีภาพในการใช้งานของนักพัฒนาเป็นโจทย์ที่ท้าทายมากครับ หวังว่าบทเรียนในครั้งนี้จะทำให้ Anthropic ก้าวข้ามผ่านปัญหาและสร้างเทคโนโลยีที่เอื้อประโยชน์ต่อสังคมในระยะยาวได้อย่างยั่งยืนยิ่งขึ้นครับ

ที่มา – Anthropic Apologizes For One of the Guardrails on Its Fable 5 Model, and Will Change It