แฮกเกอร์สามคนใช้ Claude เจาะ OpenAI ในไม่ถึง 72 ชั่วโมง

รายงานความปลอดภัยทางไซเบอร์ล่าสุดเผยว่า แฮกเกอร์สามคนใช้ Claude เจาะ OpenAI ในไม่ถึง 72 ชั่วโมง เหตุการณ์นี้ไม่ได้เกิดจากการโจมตีแบบอัตโนมัติทั้งหมด แต่เป็นการทำงานร่วมกันระหว่างนักวิจัยด้านความปลอดภัยกับโมเดลปัญญาประดิษฐ์ที่มีความสามารถสูงขึ้นอย่างรวดเร็ว กรณีดังกล่าวสะท้อนให้เห็นว่า AI สามารถช่วยเพิ่มศักยภาพของทีมขนาดเล็กในการค้นหาช่องโหว่และทดสอบระบบที่มีความซับซ้อนได้มากเพียงใด

ทีมวิจัยอิสระที่ใช้ชื่อว่า Hacktron ประกอบด้วย Harsh Jaiswal, Mohan Pedhapati และ Rahul Maini พวกเขาทำงานภายใต้โครงการ bug bounty ของ OpenAI ซึ่งมีเป้าหมายเพื่อค้นหาและแจ้งช่องโหว่อย่างรับผิดชอบ แทนที่จะนำข้อมูลไปใช้สร้างความเสียหาย นักวิจัยเลือกเปิดเผยรายละเอียดให้บริษัททราบ และได้รับรางวัลประมาณ 6,500 ดอลลาร์จากการรายงานปัญหา

แฮกเกอร์สามคนใช้ Claude เจาะ OpenAI ในไม่ถึง 72 ชั่วโมง

จุดเริ่มต้นของเหตุการณ์เกิดจากช่องโหว่ในระบบอัปโหลดรูปภาพของ Discourse แพลตฟอร์มสนทนาออนไลน์ที่ OpenAI ใช้ภายในองค์กร นักวิจัยพยายามใช้ Claude Opus รุ่นที่เปิดให้ผู้เชี่ยวชาญด้านความปลอดภัยบางกลุ่มเข้าถึง เพื่อสร้างโค้ดสำหรับอัปโหลดไฟล์อันตราย ไฟล์ดังกล่าวอาจทำหน้าที่คล้ายม้าโทรจันและเปิดทางไปสู่ข้อมูลในการสนทนาภายใน

ในช่วงแรก การทดลองยังไม่ประสบความสำเร็จ อย่างไรก็ตาม หลังจากมีการเปิดตัวโมเดลรุ่นใหม่ ความสามารถในการวิเคราะห์และสร้างโค้ดก็ดีขึ้นอย่างเห็นได้ชัด โมเดลสามารถช่วยระบุแนวทางใช้ประโยชน์จากช่องโหว่ของ Discourse จนทีมวิจัยเข้าถึงฟอรัมภายในของ OpenAI ได้ในเวลาต่อมา

แฮกเกอร์สามคนใช้ Claude เจาะ OpenAI ได้อย่างไร

เมื่อเข้าถึงฟอรัมภายใน นักวิจัยพบโทเคนยืนยันตัวตนของพนักงาน ซึ่งเป็นรหัสดิจิทัลที่ช่วยให้ผู้ใช้เข้าถึงแอปพลิเคชันหรือเว็บไซต์ต่าง ๆ โทเคนเหล่านี้อาจนำไปสู่บัญชี ChatGPT และ Codex ของพนักงาน OpenAI รวมถึงบริการอื่นที่เชื่อมต่อกับบัญชีดังกล่าว เช่น GitHub, Slack และอีเมล

เพื่อยืนยันว่าพวกเขาเข้าถึงระบบได้จริง Hacktron ได้ส่ง pull request หรือ PR เข้าไปยังบัญชี Codex ของพนักงาน การดำเนินการนี้เปรียบเสมือนการปักธงเพื่อแสดงหลักฐานการเข้าถึง โดยทีมวิจัยระบุว่าไม่ได้ดึงข้อมูลบริษัทที่มีความละเอียดอ่อนออกมา จุดสำคัญคือระยะเวลาตั้งแต่ค้นพบช่องโหว่จนถึงการเข้าถึงพื้นที่ที่เกี่ยวข้องกับโค้ดของ OpenAI ใช้เวลาไม่ถึง 72 ชั่วโมง

• ช่องโหว่แรก: ระบบอัปโหลดไฟล์ของ Discourse อาจเปิดทางให้ส่งไฟล์อันตรายเข้าสู่ระบบ
• ช่องโหว่ที่สอง: โทเคนยืนยันตัวตนในฟอรัมภายในอาจนำไปสู่บัญชีและบริการที่เชื่อมต่อกัน
• ปัจจัยเร่งความเร็ว: โมเดล AI ช่วยวิเคราะห์โค้ด สร้างแนวทางทดสอบ และลดเวลาทำงานของนักวิจัย

แม้เหตุการณ์นี้จะเป็นการทดสอบโดยนักวิจัยที่มีเจตนาดี แต่ความเสี่ยงที่น่ากังวลคือผู้ไม่หวังดีอาจใช้วิธีเดียวกันเพื่อขโมยข้อมูลหรือทำลายระบบ หากผู้โจมตีสามารถเข้าถึงบัญชีของพนักงานได้ ขอบเขตความเสียหายอาจขยายจากระบบหนึ่งไปยังบริการอื่นทันที โดยเฉพาะองค์กรที่เชื่อมต่อเครื่องมือทำงานจำนวนมากไว้กับบัญชีเดียว

บทเรียนสำคัญจากการใช้ AI ในงานแฮก

กรณีนี้แสดงให้เห็นว่า AI ไม่จำเป็นต้องทำงานได้อย่างอิสระเต็มรูปแบบจึงจะสร้างผลกระทบสูงได้ การมีมนุษย์คอยกำหนดเป้าหมาย ตรวจสอบผลลัพธ์ และตัดสินใจในแต่ละขั้นตอน ก็เพียงพอที่จะทำให้ทีมขนาดเล็กทำงานได้เร็วขึ้นมาก ความสามารถของโมเดลในการอ่านเอกสาร วิเคราะห์โค้ด และเสนอทางเลือกหลายแบบช่วยลดภาระงานซ้ำ ๆ ที่เดิมต้องใช้เวลานาน

องค์กรจึงควรทบทวนแนวทางรักษาความปลอดภัย โดยเริ่มจากการจัดการโทเคนอย่างเข้มงวด ไม่เก็บรหัสสำคัญไว้ในพื้นที่สนทนาที่ไม่เหมาะสม และกำหนดสิทธิ์การเข้าถึงตามความจำเป็น นอกจากนี้ควรเปิดใช้การยืนยันตัวตนหลายขั้นตอน ตรวจสอบกิจกรรมผิดปกติ และเพิกถอนโทเคนทันทีเมื่อพบความเสี่ยง

• แยกสิทธิ์ระหว่างระบบพัฒนา ระบบทดสอบ และระบบจริง
• สแกนไฟล์อัปโหลดและจำกัดชนิดไฟล์ที่อนุญาต
• ตรวจสอบการเชื่อมต่อระหว่าง GitHub, Slack, อีเมล และเครื่องมือ AI
• จัดทำแผนรับมือเหตุการณ์และทดสอบอย่างสม่ำเสมอ
• สนับสนุนโครงการ bug bounty เพื่อให้ผู้เชี่ยวชาญช่วยค้นหาช่องโหว่ก่อนผู้ไม่หวังดี

หลังได้รับการแจ้งเตือน OpenAI และ Discourse ได้แก้ไขช่องโหว่ที่เกี่ยวข้องแล้ว อย่างไรก็ตาม เหตุการณ์นี้ยังเป็นเครื่องเตือนใจว่าการพัฒนา AI ต้องเดินควบคู่กับมาตรการความปลอดภัยและการจัดแนวทางพฤติกรรมของโมเดล บริษัทเทคโนโลยีหลายแห่งกำลังรายงานเหตุการณ์ที่ AI ทำงานผิดคาดหรือพยายามเข้าถึงระบบภายนอกมากขึ้น จึงจำเป็นต้องมีการทดสอบที่รัดกุมและการเปิดเผยข้อมูลอย่างโปร่งใส

โดยสรุป แฮกเกอร์สามคนใช้ Claude เจาะ OpenAI ในไม่ถึง 72 ชั่วโมง ไม่ได้หมายความว่า AI จะเข้าควบคุมทุกระบบได้ทันที แต่เป็นหลักฐานชัดเจนว่าความเร็วและประสิทธิภาพของการโจมตีสามารถเพิ่มขึ้นอย่างมากเมื่อมีเครื่องมือ AI เข้ามาช่วย องค์กรควรถือโอกาสนี้เร่งตรวจสอบสิทธิ์การเข้าถึง โทเคน และระบบเชื่อมต่อทั้งหมด ก่อนที่ช่องโหว่เดียวจะกลายเป็นประตูสู่ความเสียหายที่ใหญ่กว่าเดิม

สำหรับผู้ดูแลระบบและนักพัฒนา การลงทุนในความปลอดภัยตั้งแต่วันนี้ย่อมคุ้มค่ากว่าการแก้ปัญหาหลังเกิดเหตุ ติดตามข่าวสารด้าน AI และไซเบอร์อย่างสม่ำเสมอ พร้อมทดสอบระบบของคุณด้วยมุมมองเดียวกับผู้โจมตี เพื่อปิดช่องโหว่ก่อนที่จะถูกนำไปใช้จริง

ที่มา – Three Hackers Used Claude to Break Into OpenAI In Less Than 72 Hours