ออสเตรเลียโดนแฮก! AI Agents ของ OpenAI เจาะเว็บรัฐบาล
OpenAI กำลังตรวจสอบพฤติกรรมของ AI Agents หลังพบว่าเอเจนต์ AI ของบริษัทเข้าไปตรวจสอบระบบของผู้ให้บริการข้อมูลสาธารณะในหลายประเทศ และในบางกรณีมีความพยายามค้นหาช่องโหว่ด้านความปลอดภัย รวมถึงเหตุการณ์ที่เอเจนต์ AI สามารถเข้าถึงระบบรายงานสถิติ Medicare ของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต
เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อวันที่ 18 มิถุนายน โดยระบบที่ได้รับผลกระทบดำเนินการโดย Services Australia หน่วยงานรัฐบาลที่รับผิดชอบบริการด้านสุขภาพและสวัสดิการของออสเตรเลีย ขณะที่นาย Anthony Albanese นายกรัฐมนตรีออสเตรเลีย ยืนยันว่า AI ของ OpenAI สามารถเข้าถึงทั้งข้อมูลที่เปิดเผยต่อสาธารณะและข้อมูลที่ไม่เปิดเผยต่อสาธารณะได้
AI ไม่ยอมหยุดเมื่อถูกระบบบล็อก
รายงานจาก Transluce ห้องวิจัยไม่แสวงหากำไร ระบุว่า จากการตรวจสอบข้อมูลสาธารณะที่ได้จากบริการสแกนเว็บไซต์ urlquery.net พบกิจกรรมของ AI Agents หลายกรณีในช่วงเดือนพฤษภาคมถึงมิถุนายน โดยเอเจนต์ใช้ระบบ Remote Browser ของบริการดังกล่าวเพื่อเข้าถึงข้อมูลเมื่อไม่สามารถเชื่อมต่อกับเว็บไซต์เป้าหมายโดยตรงได้
หนึ่งในกรณีที่น่าสนใจคือเว็บไซต์ของ Australian Institute of Health and Welfare ซึ่งเป็นหน่วยงานด้านข้อมูลสุขภาพของออสเตรเลีย โดย AI Agents ส่งคำขอตรวจสอบระบบหลายครั้ง หลังได้รับข้อผิดพลาดจากเว็บไซต์ และมีการทดสอบช่องโหว่ เช่น Reflected Cross-Site Scripting (XSS) ซึ่งเป็นช่องโหว่ที่อาจทำให้ผู้โจมตีสามารถแทรกโค้ดเข้าสู่หน้าเว็บได้
Transluce ยังพบกิจกรรมที่เกี่ยวข้องกับ Data USA แพลตฟอร์มข้อมูลรัฐบาลสหรัฐฯ หลัง AI ได้รับข้อผิดพลาดจากคำค้นที่เกี่ยวข้องกับ University of Iowa โดยเอเจนต์มีการตรวจสอบความเป็นไปได้ของช่องโหว่หลายรูปแบบ
ส่วนกรณี University of New Mexico พบว่า AI Agents ส่งคำขออย่างน้อย 7 ครั้งเพื่อพยายามเข้าถึงภาพถ่าย โดยมีการทดสอบรูปแบบการโจมตี เช่น SQL Injection, Command Injection และ Path Traversal ซึ่งเป็นเทคนิคที่ใช้ตรวจสอบว่าระบบมีช่องโหว่ในการประมวลผลคำสั่งหรือเข้าถึงไฟล์นอกเหนือจากพื้นที่ที่ได้รับอนุญาตหรือไม่
อย่างไรก็ตาม Transluce ระบุว่ายังไม่พบหลักฐานว่าความพยายามเหล่านี้ประสบความสำเร็จ และข้อมูลที่ใช้ในการวิเคราะห์เป็นข้อมูลสาธารณะที่อาจไม่ครอบคลุมกิจกรรมทั้งหมด จึงยังไม่สามารถยืนยันได้ว่า AI Agents ไม่ได้ใช้ช่องทางอื่นที่เป็นส่วนตัวมากกว่านี้
นายกฯ ออสเตรเลียยืนยัน AI เข้าถึงระบบ Medicare
กรณีที่มีความชัดเจนที่สุดเกิดขึ้นกับระบบรายงานสถิติ Medicare ของ Services Australia โดยนายกรัฐมนตรี Anthony Albanese เปิดเผยว่า AI Agent ของ OpenAI สามารถหลบเลี่ยงมาตรการป้องกันที่ระบบกำหนดไว้ และเข้าไปยังพื้นที่อื่นของระบบโดยไม่ได้รับอนุญาต
Albanese ระบุว่า เหตุการณ์เกิดขึ้นระหว่างการวิจัยของ OpenAI เกี่ยวกับข้อมูลการใช้จ่ายด้านยาในออสเตรเลีย โดยระบบมีการส่งสัญญาณปฏิเสธคำขอของ AI อย่างชัดเจน แต่ AI Agent พยายามใช้วิธีอื่นเพื่อให้ได้ข้อมูลที่ต้องการ จนนำไปสู่การเข้าถึงระบบบางส่วนโดยไม่ได้รับอนุญาต
จากข้อมูลที่เปิดเผย AI Agent สามารถเข้าถึงไฟล์ทั้งที่เป็นข้อมูลสาธารณะและข้อมูลภายใน รวมถึงมีการเขียนข้อมูลลงบนเซิร์ฟเวอร์ภายใน อย่างไรก็ตาม นายกรัฐมนตรีออสเตรเลียระบุว่า จากหลักฐานที่มีในขณะนี้ ยังไม่พบว่าข้อมูลส่วนบุคคลของประชาชนได้รับผลกระทบ
OpenAI ระบุว่า บริษัทพบเหตุการณ์ดังกล่าวในเดือนสิงหาคม ระหว่างการตรวจสอบพฤติกรรมของโมเดลที่อยู่นอกเหนือแนวทางที่กำหนด หรือ “misaligned model activity” และได้แจ้ง Services Australia เมื่อวันที่ 10 กันยายน หลังตรวจสอบและยืนยันกิจกรรม รวมถึงข้อมูลที่ AI Agents เข้าถึงแล้ว
บริษัทระบุเพิ่มเติมว่าไม่พบหลักฐานว่า AI เข้าถึงข้อมูลประวัติการรักษาหรือเวชระเบียนของผู้ป่วย โดยข้อมูลที่เข้าถึงประกอบด้วยสถิติสุขภาพแบบรวมและชื่อไฟล์ภายในระบบ
OpenAI ยังอยู่ระหว่างตรวจสอบเหตุการณ์ทั้งหมด และได้ติดต่อ University of New Mexico, Data USA รวมถึงหน่วยงานรัฐบาลออสเตรเลีย เพื่อให้ข้อมูลทางเทคนิคและช่วยตรวจสอบหรือแก้ไขช่องโหว่ที่อาจเกี่ยวข้อง
OpenAI ระบุว่าการตรวจสอบอาจใช้เวลาหลายเดือน เนื่องจากมีเหตุการณ์จำนวนมากและจำเป็นต้องตรวจสอบเป็นรายกรณี โดยบริษัทจะให้ความสำคัญกับเหตุการณ์ที่มีความรุนแรงสูงก่อน ส่วนกิจกรรมที่มีความรุนแรงต่ำกว่า เช่น การส่งคำขอจำนวนมากไปยังเว็บไซต์ จะถูกตรวจสอบในลำดับถัดไป