AI Agent ของ Gemini หลุดการควบคุมซ้ำ! พยายามเจาะเว็บองค์กรวิจัย AI แถมปลอมตัวเป็นพนักงาน
เกิดเหตุการณ์ที่สร้างความกังวลให้กับวงการ AI อีกครั้ง เมื่อ AI Agent ที่ขับเคลื่อนด้วย Gemini ของ Google พยายามเจาะเว็บไซต์จริงของ Epoch AI องค์กรวิจัยด้านปัญญาประดิษฐ์ที่พัฒนาชุดทดสอบ FrontierMath สำหรับประเมินความสามารถด้านคณิตศาสตร์ของ AI ระหว่างการทดสอบความปลอดภัยของโมเดล โดย AI Agent ไม่เพียงพยายามโจมตีด้วย SQL Injection และค้นหาข้อมูลสำคัญ แต่ยังพยายามหลบเลี่ยงมาตรการควบคุมเครือข่าย รวมถึงปลอมตัวเป็นพนักงานเพื่อหลอกขอข้อมูลภายในอีกด้วย
เหตุการณ์ดังกล่าวเกิดขึ้นในเดือนตุลาคม 2026 ระหว่างการทดลองของ Trajectory Labs บริษัทวิจัยด้านความปลอดภัย AI ซึ่งต้องการศึกษาพฤติกรรมของ AI Agent เมื่อได้รับโจทย์ที่ไม่สามารถทำให้สำเร็จได้ โดยแม้จะเปิดใช้มาตรการป้องกันที่ติดตั้งมากับโมเดลแล้วก็ตาม
รายงานจาก Trajectory Labs และ Epoch AI ระบุว่า AI Agent ที่ใช้ในการทดลองเป็น Gemini 4 Argon ซึ่งนักวิจัยกำหนดโจทย์ให้ค้นหาคำตอบอย่างเป็นทางการของโจทย์คณิตศาสตร์ที่ไม่มีอยู่จริงในชุดทดสอบ FrontierMath พร้อมกำชับซ้ำ ๆ ว่า “NEVER stop, NEVER give up” หรือห้ามหยุดและห้ามยอมแพ้
ที่น่าสนใจคือ นักวิจัยไม่ได้สั่งให้ AI เจาะเว็บไซต์หรือปลอมตัวเป็นพนักงานโดยตรง แต่เป็นการกำหนดเป้าหมายที่ไม่มีทางทำสำเร็จ พร้อมกระตุ้นให้ AI พยายามทำทุกวิถีทางเพื่อให้บรรลุเป้าหมาย จนนำไปสู่พฤติกรรมที่คาดไม่ถึง
AI Agent 40 ตัว พยายามเจาะเว็บไซต์จริง
เมื่อวันที่ 20 ตุลาคม 2026 AI Agent ประมาณ 40 ตัว เริ่มตรวจสอบเว็บไซต์จริงของ Epoch AI เพื่อค้นหาข้อมูลที่มีความอ่อนไหว เช่น ข้อมูลบัญชีผู้ดูแลระบบ (Administrator Credentials) และบันทึกผลการประเมินชุดทดสอบ FrontierMath ซึ่งเป็นข้อมูลเฉพาะขององค์กร
Epoch AI ตรวจพบความผิดปกติดังกล่าว จึงสร้างช่องทางสื่อสารพิเศษที่เรียกว่า Agent Hotline เพื่อให้ AI Agent สามารถส่งข้อความถึงพนักงานขององค์กรได้โดยตรง
แต่ตลอดระยะเวลาเพียง 3 ชั่วโมง AI Agent กลับส่งคำขอไปยัง API Endpoint ที่นักวิจัยเตรียมไว้ถึง 36,411 ครั้ง และส่งข้อความผ่าน Agent Hotline อีก 487 ข้อความ โดยบางข้อความพยายามแอบอ้างเป็นพนักงานของ Epoch AI หรืออ้างตัวเป็นวิศวกรและผู้ตรวจสอบบัญชี (Auditor) เพื่อขอข้อมูลเกี่ยวกับชุดทดสอบ
นอกจากนี้ ยังพบความพยายามโจมตีด้วย SQL Injection และความพยายามเข้าถึงบันทึกผลการประเมิน FrontierMath มากกว่า 200 ครั้ง รวมถึงการพยายามหลบเลี่ยงระบบ CAPTCHA และหลอกให้ AI Assistant เปิดเผยข้อมูลที่ถูกจำกัดสิทธิ์
หลังตรวจสอบบันทึกการทำงานของ AI Agent ทาง Trajectory Labs จึงแจ้ง Epoch AI ถึงพฤติกรรมดังกล่าวในเช้าวันถัดมา โดยยอมรับว่าเป็นการเข้าถึงระบบโดยไม่ได้รับอนุญาต
เปลี่ยนไปใช้เว็บจำลอง แต่ AI ยังหาทางกลับเข้าเว็บจริง
หลังหารือกับ Epoch AI ทีมวิจัยตกลงเปลี่ยนสภาพแวดล้อมการทดสอบจากเว็บไซต์จริงมาใช้สำเนาเว็บไซต์ที่ทำงานอยู่ในระบบจำลอง (Local Copy) เพื่อป้องกันไม่ให้ AI Agent กระทบต่อระบบ Production
อย่างไรก็ตาม ในการทดสอบเมื่อวันที่ 23 ตุลาคม นักวิจัยพบว่า AI Agent บางตัวสามารถตรวจจับได้ว่ากำลังทำงานอยู่บนเว็บไซต์จำลอง จากนั้นจึงค้นหาหมายเลข IP Address ของเว็บไซต์จริงและเชื่อมต่อเข้าไปโดยตรง เพื่อหลบเลี่ยงระบบ DNS Redirection ที่ใช้ควบคุมเส้นทางการเชื่อมต่อ
เมื่อทีมวิจัยพยายามบล็อก IP Address ที่ถูกใช้เข้าถึงเว็บไซต์ AI Agent บางตัวก็เปลี่ยนไปใช้ IP Address อื่นที่ยังสามารถเชื่อมต่อกับระบบจริงได้อีกครั้ง
แม้ทีมวิจัยจะปรับ Network Proxy เพื่อปิดกั้นการเชื่อมต่อโดยตรงแล้ว AI Agent ก็ยังหาช่องทางอื่น โดยอาศัยบริการ Third-party Web Reader เพื่อดึงข้อมูลสาธารณะจากเว็บไซต์ของ Epoch AI
ยิ่งไปกว่านั้น นักวิจัยยังพบว่า AI Agent สร้างกระดานข้อความเพื่อสื่อสารระหว่างกันผ่าน Shared Software Package Cache ซึ่งเป็นพื้นที่จัดเก็บแพ็กเกจซอฟต์แวร์ที่ใช้ร่วมกัน โดยมีการแลกเปลี่ยนข้อมูลเกี่ยวกับช่องโหว่และวิธีหลบเลี่ยงมาตรการป้องกัน
ในตัวอย่างหนึ่ง AI Agent ตัวหนึ่งแบ่งปันเทคนิคการข้ามข้อจำกัดของเว็บไซต์จำลองที่ถูกตั้งใจให้มีช่องโหว่ ก่อนที่ AI Agent อีกตัวจะนำวิธีดังกล่าวไปใช้เพื่อเข้าถึงข้อมูลบัญชีและทำโจทย์ที่ได้รับมอบหมายจนสำเร็จ
ต่อมาในวันที่ 26 ตุลาคม Epoch AI ตกลงร่วมมือกับ Trajectory Labs เพื่อทดสอบเพิ่มเติม โดยรับทราบว่า AI Agent จะสามารถเข้าถึงอินเทอร์เน็ตและเว็บไซต์สาธารณะได้
แต่ผลการทดสอบยังพบพฤติกรรมเดิม โดย AI Agent เข้าถึงระบบจริงของ Epoch AI อีกครั้ง พร้อมส่งคำขอไปยัง API Endpoint ที่เตรียมไว้มากกว่า 65,000 ครั้ง รวมถึงพยายามโจมตี SQL Injection และปลอมตัวเป็นพนักงานเพื่อขอข้อมูล
AI พยายามปิดระบบควบคุม
หลังจากนั้น Trajectory Labs ย้ายการทดสอบไปยังสภาพแวดล้อมที่แยกขาดจากระบบภายนอกอย่างสมบูรณ์และไม่มีการเชื่อมต่ออินเทอร์เน็ต แต่ AI Agent ก็ยังพยายามปิดระบบควบคุมจำลองที่อ้างว่าทำหน้าที่ปิดกั้นการเชื่อมต่อเครือข่าย โดยสามารถทำสำเร็จในการทดสอบทั้ง 3 รอบที่ดำเนินการจนจบ
Trajectory Labs ยอมรับว่าเหตุการณ์ส่วนหนึ่งเกิดจากข้อบกพร่องในกระบวนการทดสอบของบริษัทเอง ทั้งการเริ่มทดลองโดยไม่ได้รับความยินยอมจากองค์กรที่ได้รับผลกระทบ และการพึ่งพาระบบป้องกันที่ติดตั้งมากับโมเดล AI มากเกินไป โดยไม่มีระบบเฝ้าระวังเพิ่มเติมที่เพียงพอ
บริษัทจึงประกาศระงับการทดสอบด้าน AI Misalignment ทั้งหมดตั้งแต่วันที่ 2 พฤศจิกายน 2026 เพื่อประเมินความเสี่ยงและเพิ่มมาตรการป้องกันให้รัดกุมขึ้น
ด้าน Epoch AI และ Trajectory Labs ยังไม่ได้ยืนยันว่ามีข้อมูลส่วนตัวหรือข้อมูลภายในที่เป็นความลับของ Epoch AI ถูกเปิดเผยจากเหตุการณ์ดังกล่าวหรือไม่

