นี่คือวิธีที่ OpenAI บอกว่าใช้ AI ค้นหาสายลับในบริษัท

ประเด็น นี่คือวิธีที่ OpenAI บอกว่าใช้ AI ค้นหาสายลับในบริษัท กำลังได้รับความสนใจจากแวดวงเทคโนโลยีและความมั่นคงทางไซเบอร์อย่างมาก หลังบริษัทเปิดเผยว่าได้นำโมเดล AI ของตัวเองมาใช้ช่วยวิเคราะห์หลักฐานในคดีอุปกรณ์ดักฟังภายในสำนักงาน อย่างไรก็ตาม เรื่องนี้ยังอยู่ภายใต้การสอบสวนของ FBI และข้อมูลทั้งหมดควรพิจารณาในฐานะข้อกล่าวอ้างจากบริษัท ไม่ใช่ข้อสรุปทางกฎหมายที่สิ้นสุดแล้ว

ตามคำชี้แจงที่ OpenAI ให้ไว้กับสื่อ บริษัทพบอุปกรณ์ต้องสงสัยระหว่างการตรวจสอบความปลอดภัยตามรอบปกติ เมื่อวันที่ 30 กันยายน อุปกรณ์ดังกล่าวถูกพบในห้องประชุม และมีลักษณะเป็นเครื่องบันทึกเสียงที่ออกแบบมาเพื่อปกปิดตัวตน สามารถติดตามเสียง จัดเก็บข้อมูล และถ่ายโอนข้อมูลได้ นอกจากนี้ยังใช้การเข้ารหัสเพื่อทำให้การตรวจจับหรือการวิเคราะห์ทำได้ยากขึ้น

นี่คือวิธีที่ OpenAI บอกว่าใช้ AI ค้นหาสายลับในบริษัท

สิ่งที่ทำให้คดีนี้แตกต่างจากการตรวจสอบอุปกรณ์ทั่วไป คือ OpenAI ระบุว่าได้นำภาพทางนิติวิทยาศาสตร์ของพื้นที่จัดเก็บข้อมูลในอุปกรณ์ รวมถึงข้อมูลเกี่ยวกับการเปลี่ยนแปลงของไฟล์และระบบ มาป้อนให้โมเดล AI ของบริษัทช่วยวิเคราะห์ จากนั้นทีมนักสืบของบริษัทจึงนำผลลัพธ์ที่ได้ไปเปรียบเทียบกับข้อมูลการเข้าถึงระบบ ตารางเวลา และพฤติกรรมที่เกี่ยวข้อง

AI ไม่ได้ทำหน้าที่ตัดสินความผิดแทนเจ้าหน้าที่ แต่ช่วยจัดระเบียบข้อมูลจำนวนมากและค้นหารูปแบบที่อาจมองเห็นได้ยากด้วยการตรวจสอบด้วยมนุษย์เพียงอย่างเดียว กระบวนการลักษณะนี้อาจช่วยให้ทีมงานระบุความเชื่อมโยงระหว่างอุปกรณ์ บัญชีผู้ใช้งาน และเหตุการณ์ต่าง ๆ ได้รวดเร็วขึ้น ทั้งนี้ การชี้ตัวบุคคลยังต้องอาศัยการตรวจสอบจากผู้เชี่ยวชาญและหลักฐานอื่นประกอบกัน

นี่คือวิธีที่ OpenAI บอกว่าใช้ AI ค้นหาสายลับในบริษัทอย่างเป็นขั้นตอน

• ตรวจพบอุปกรณ์ผิดปกติ: ทีมรักษาความปลอดภัยพบอุปกรณ์บันทึกเสียงระหว่างการกวาดตรวจห้องประชุมตามมาตรการปกติ
• เก็บหลักฐานอย่างเป็นระบบ: เจ้าหน้าที่จัดทำภาพข้อมูลจากอุปกรณ์และบันทึกความเปลี่ยนแปลงของข้อมูล เพื่อรักษาความถูกต้องของหลักฐาน
• ใช้โมเดล AI ช่วยวิเคราะห์: ข้อมูลทางนิติวิทยาศาสตร์ถูกนำเข้าสู่โมเดลเพื่อค้นหารูปแบบและความเชื่อมโยงที่น่าสงสัย
• ตรวจสอบโดยนักสืบของบริษัท: ผลการวิเคราะห์จาก AI ถูกนำมาเปรียบเทียบกับข้อมูลการเข้าถึงระบบและหลักฐานจากการสอบสวนจริง
• จำกัดสิทธิ์การเข้าถึง: บริษัทค่อย ๆ ลดขอบเขตงานและสิทธิ์ในระบบของผู้ต้องสงสัยระหว่างที่การสอบสวนดำเนินต่อไป
• ส่งต่อหน่วยงานรัฐ: OpenAI ระบุว่าได้ส่งข้อมูลให้ FBI และมีการจับกุมเมื่อวันที่ 9 ตุลาคม

OpenAI ระบุว่าพนักงานที่ถูกกล่าวถึงทำงานในฝ่ายผลิตภัณฑ์มาตั้งแต่เดือนกรกฎาคมของปีก่อน และบริษัทพบหลักฐานที่อาจบ่งชี้ว่าบุคคลดังกล่าวกำลังวางแผนติดตั้งอุปกรณ์ดักฟังเพิ่มเติม หลังจากการตรวจพบอุปกรณ์ บริษัทไม่ได้ยุติสิทธิ์การเข้าถึงทั้งหมดในทันที แต่ค่อย ๆ ลดบทบาทและการเข้าถึงระบบลงอย่างระมัดระวัง เพื่อให้การสอบสวนดำเนินต่อไปโดยไม่กระทบต่อการเก็บหลักฐาน

ในที่สุด อุปกรณ์ของพนักงานถูกยึด บุคคลดังกล่าวถูกสั่งพักงาน และบริษัทระบุว่าการเลิกจ้างกับการจับกุมเกิดขึ้นในวันที่ 9 ตุลาคม หรือมากกว่าหนึ่งสัปดาห์หลังพบอุปกรณ์ต้องสงสัย วิธีการดังกล่าวสะท้อนว่าการตอบสนองต่อภัยคุกคามภายในจำเป็นต้องสร้างสมดุลระหว่างการรักษาความปลอดภัย การคุ้มครองสิทธิของพนักงาน และการรักษาความสมบูรณ์ของหลักฐาน

ความเสี่ยงจากคนภายในกับความปลอดภัยของ AI

บริษัทเทคโนโลยี AI ถือครองทรัพย์สินที่มีมูลค่าสูง เช่น น้ำหนักโมเดล ซอร์สโค้ด ข้อมูลการวิจัย และข้อมูลลูกค้า จึงกลายเป็นเป้าหมายของอาชญากรไซเบอร์ กลุ่มจารกรรมทางธุรกิจ และผู้ดำเนินการที่เชื่อมโยงกับรัฐ การมีพนักงานภายในเข้าไปเกี่ยวข้องกับการนำอุปกรณ์บันทึกเสียงเข้ามาในสำนักงานจึงเป็นความเสี่ยงที่แตกต่างจากการโจมตีทางอินเทอร์เน็ตทั่วไป

อย่างไรก็ตาม OpenAI ยืนยันว่าไม่มีข้อบ่งชี้ว่าบุคคลดังกล่าวเข้าถึงหรือนำข้อมูลน้ำหนักโมเดล ซอร์สโค้ด หรือข้อมูลลูกค้าออกไปอย่างไม่เหมาะสม ประเด็นนี้สำคัญ เพราะการพบอุปกรณ์ดักฟังไม่ได้หมายความว่าข้อมูลสำคัญถูกขโมยแล้ว บริษัทจึงควรสื่อสารอย่างระมัดระวัง แยกสิ่งที่ตรวจพบจริงออกจากข้อสันนิษฐาน และปล่อยให้การสอบสวนของ FBI ดำเนินไปตามกระบวนการ

เหตุการณ์นี้ยังเกิดขึ้นในช่วงที่รัฐบาลสหรัฐฯ ให้ความสำคัญกับการปกป้องเทคโนโลยี AI จากผู้เล่นระดับรัฐมากขึ้น รัฐมนตรีคลังสหรัฐฯ สกอตต์ เบสเซนต์เคยพูดถึงแนวคิดการใช้มาตรการคว่ำบาตรจีนในประเด็นการกลั่นแบบจำลอง หรือการทำความเข้าใจและเลียนแบบความสามารถของโมเดล AI การแข่งขันด้านเทคโนโลยีจึงไม่ได้จำกัดอยู่เพียงการพัฒนาโมเดล แต่รวมถึงการควบคุมข้อมูล บุคลากร อุปกรณ์ และพื้นที่ทำงานด้วย

บทเรียนสำหรับองค์กรที่ต้องการป้องกันข้อมูลสำคัญ

องค์กรที่พัฒนาเทคโนโลยีหรือดูแลข้อมูลอ่อนไหวสามารถนำเหตุการณ์นี้ไปปรับใช้เป็นบทเรียนได้หลายด้าน การตรวจสอบความปลอดภัยควรทำเป็นประจำและครอบคลุมทั้งระบบดิจิทัลกับพื้นที่กายภาพ การควบคุมสิทธิ์ควรสอดคล้องกับหน้าที่ของแต่ละคน และต้องมีระบบบันทึกการเข้าถึงที่ตรวจสอบย้อนหลังได้

• กำหนดนโยบายการนำอุปกรณ์บันทึกเสียงหรืออุปกรณ์เชื่อมต่อเครือข่ายเข้าพื้นที่สำคัญ
• ใช้การยืนยันตัวตนหลายขั้นตอนและแบ่งสิทธิ์การเข้าถึงข้อมูลตามความจำเป็น
• ตรวจสอบอุปกรณ์และห้องประชุมที่ใช้พูดคุยเรื่องผลิตภัณฑ์หรือทรัพย์สินทางปัญญา
• จัดทำแผนตอบสนองเหตุการณ์ที่ระบุขั้นตอนการเก็บรักษาหลักฐานอย่างชัดเจน
• ใช้ AI เป็นเครื่องมือช่วยค้นหารูปแบบ แต่ให้ผู้เชี่ยวชาญเป็นผู้ตรวจสอบและตัดสินใจ

โดยสรุป นี่คือวิธีที่ OpenAI บอกว่าใช้ AI ค้นหาสายลับในบริษัท ซึ่งแสดงให้เห็นว่า AI สามารถช่วยงานด้านความปลอดภัยได้ตั้งแต่การวิเคราะห์หลักฐานไปจนถึงการค้นหาความเชื่อมโยงที่ซับซ้อน แต่ AI ไม่ควรถูกใช้แทนการสอบสวนอย่างรอบคอบ องค์กรควรใช้เทคโนโลยีควบคู่กับการกำกับดูแลที่โปร่งใส การรักษาสิทธิ์ของบุคลากร และการประสานงานกับหน่วยงานบังคับใช้กฎหมาย หากบริษัทต่าง ๆ นำบทเรียนนี้ไปปรับใช้ ความปลอดภัยของข้อมูลและผู้คนก็จะมีโอกาสแข็งแกร่งขึ้นในโลกที่ภัยคุกคามมีความซับซ้อนมากขึ้น

ที่มา – Here’s How OpenAI Says It Used AI to Find a Spy Inside Its Company