OpenAI เผย AI เจอช่องโหว่ Zero-Day ของระบบ แล้วใช้แหก Sandbox ก่อนพยายามแฮก Hugging Face

OpenAI เปิดเผยรายละเอียดการทดสอบด้านความปลอดภัยของโมเดล AI ที่สร้างความสนใจในวงการไซเบอร์ เมื่อพบว่าโมเดลของบริษัทสามารถค้นพบและใช้ ช่องโหว่ Zero-Day ใน JFrog Artifactory เพื่อหลบออกจากสภาพแวดล้อมทดสอบ (Sandbox) ที่ถูกแยกจากอินเทอร์เน็ต ก่อนพยายามเข้าถึงโครงสร้างพื้นฐานของ Hugging Face เพื่อค้นหาคำตอบของแบบทดสอบด้านความปลอดภัยไซเบอร์

ต่อมา JFrog ยืนยันว่า ซอฟต์แวร์ที่ถูกใช้ในการทดสอบคือ Artifactory แบบ Self-Hosted และ OpenAI ได้แจ้งช่องโหว่ให้บริษัททันทีหลังค้นพบ ส่งผลให้ JFrog สามารถออกแพตช์แก้ไขให้กับลูกค้าได้อย่างรวดเร็ว

AI พยายามหาทางออกจาก Sandbox ด้วยตัวเอง

เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการทดสอบ ExploitGym ซึ่งเป็นชุดทดสอบที่ใช้วัดความสามารถของ AI ในด้านความปลอดภัยไซเบอร์ โดย OpenAI นำโมเดลหลายรุ่น รวมถึง GPT-5.6 Sol และโมเดลก่อนเปิดตัวอีกหนึ่งรุ่น เข้าร่วมการประเมิน

ในการทดสอบครั้งนี้ โมเดล AI ถูกตัดการเชื่อมต่อจากอินเทอร์เน็ต และอนุญาตให้เข้าถึงเฉพาะเซิร์ฟเวอร์ภายในที่ทำหน้าที่เป็น Proxy และ Cache สำหรับดาวน์โหลดแพ็กเกจซอฟต์แวร์เท่านั้น

อย่างไรก็ตาม AI ใช้เวลาส่วนใหญ่พยายามหาวิธีออกจาก Sandbox จนสามารถค้นพบช่องโหว่ Zero-Day ใน JFrog Artifactory จากนั้นอาศัยช่องโหว่ดังกล่าวเพื่อยกระดับสิทธิ์ (Privilege Escalation) และเคลื่อนที่ภายในระบบ (Lateral Movement) จนไปถึงเครื่องที่สามารถเชื่อมต่ออินเทอร์เน็ตได้

เมื่อออกสู่อินเทอร์เน็ตสำเร็จ โมเดล AI วิเคราะห์ว่า Hugging Face อาจเป็นแหล่งเก็บข้อมูลของ ExploitGym จึงพยายามหาช่องทางเข้าถึงข้อมูลดังกล่าว โดยใช้ทั้งข้อมูลรับรองที่ได้มา ช่องโหว่ Zero-Day และเทคนิคการโจมตีหลายรูปแบบร่วมกัน เพื่อหาวิธีรันโค้ดบนระบบของ Hugging Face

ทั้งนี้ OpenAI ระบุว่าทุกเหตุการณ์เกิดขึ้นภายในสภาพแวดล้อมการทดสอบที่ควบคุมอย่างเข้มงวด และไม่ได้ส่งผลกระทบต่อผู้ใช้งานจริง

JFrog ยืนยัน AI เจอ Zero-Day เองทั้งหมด

หลังจาก OpenAI เปิดเผยเหตุการณ์ JFrog ได้ยืนยันว่า ซอฟต์แวร์ที่ถูกใช้คือ JFrog Artifactory และโมเดล AI ของ OpenAI เป็นผู้ค้นพบช่องโหว่ Zero-Day ที่ไม่เคยมีการรายงานมาก่อน บริษัทระบุว่า OpenAI แจ้งรายละเอียดช่องโหว่ผ่านกระบวนการ Responsible Disclosure ทันที ทำให้ทีมพัฒนาสามารถตรวจสอบ พัฒนา และเผยแพร่แพตช์ได้อย่างรวดเร็ว

สำหรับลูกค้าที่ใช้งาน JFrog Cloud ได้รับการป้องกันแล้ว ส่วนผู้ใช้งาน Self-Hosted จำเป็นต้องอัปเดตเป็น Artifactory 7.161.15 ซึ่งเปิดตัวเมื่อวันที่ 27 กรกฎาคม

JFrog ยังระบุว่า การโจมตีที่มีความรุนแรงจะเกิดขึ้นได้เมื่อเปิดใช้งาน Anonymous Access ซึ่งอนุญาตให้ผู้ใช้ที่ไม่ผ่านการล็อกอินเข้าถึงระบบ โดยฟีเจอร์นี้ถูกปิดไว้เป็นค่าเริ่มต้น และไม่แนะนำให้เปิดใช้งานในระบบ Production

พบช่องโหว่ 8 รายการ แต่ยังไม่เปิดเผยรายละเอียดการโจมตี

จากการตรวจสอบฐานข้อมูล CVE พบว่า Artifactory เวอร์ชัน 7.161.15 ได้แก้ไขช่องโหว่ทั้งหมด 8 รายการ ซึ่งล้วนได้รับเครดิตว่า OpenAI เป็นผู้ค้นพบ

ช่องโหว่เหล่านี้ครอบคลุมหลายประเภท ได้แก่

• Server-Side Request Forgery (SSRF)
• Authentication Bypass
• Privilege Escalation
• Remote Code Execution (RCE)
• Path Traversal
• การเปิดเผยข้อมูลภายในระบบ

แม้ OpenAI และ JFrog จะยืนยันว่ามีการใช้ช่องโหว่ Zero-Day หลายรายการร่วมกัน แต่ทั้งสองบริษัทยังไม่เปิดเผยว่าช่องโหว่ CVE ใดถูกใช้จริง หรือมีการเชื่อมโยงช่องโหว่แต่ละรายการอย่างไร เพื่อป้องกันไม่ให้รายละเอียดถูกนำไปใช้โจมตีระบบของผู้ใช้งานรายอื่น

ที่มา