OpenAI ยกเครื่อง Kill Switch ใหม่ ถอดบทเรียนสั่งเบรก AI Agent ที่ทำงานพลาด ใน 35 วินาที
OpenAI เปิดตัวระบบควบคุมความปลอดภัยภายในที่เรียกว่า Control Room เปรียบเสมือน Kill Switch สำหรับหยุดการทำงานของ AI Agent ที่เริ่มมีพฤติกรรมผิดปกติหรือกำลังทำงานไปในทิศทางที่อาจก่อให้เกิดอันตราย โดยระบบสามารถสั่งระงับการทำงานของโมเดลได้ภายในเวลาไม่เกิน 35 วินาที
อย่างไรก็ตาม OpenAI ระบุว่า ขณะนี้ Control Room ยังเปิดใช้งานเฉพาะกับโครงสร้างพื้นฐานสำหรับงานวิจัยภายในบริษัทเท่านั้น โดยให้เหตุผลว่าเป็นพื้นที่ที่มีความจำเป็นต้องใช้ระบบดังกล่าวมากที่สุด
ทำงานอย่างไร?
แนวคิดของ Control Room คือการสร้างระบบกำกับดูแลการทำงานของ AI Agent แบบเรียลไทม์ โดยเชื่อมโยงองค์ประกอบ 3 ส่วนเข้าด้วยกัน ได้แก่ งานที่ AI ได้รับมอบหมาย (Workload) ระบบประมวลผลของโมเดล AI (Inference Engine) และระบบติดตามพร้อมตรวจสอบสิทธิ์การทำงานอย่าง Control Room
เมื่อผู้วิจัยมอบหมายงานให้ AI Agent ระบบจะสร้างรหัสประจำงาน (Job ID) และกำหนดขอบเขตการใช้งานที่ได้รับอนุญาต จากนั้นคำขอประมวลผลทุกครั้งของ AI จะถูกผูกเข้ากับ Job ID ดังกล่าว
ก่อนที่โมเดลจะสร้างคำตอบหรือดำเนินงานต่อ Inference Engine จะต้องตรวจสอบกับ Control Room ก่อนว่างานนั้นยังได้รับอนุญาตให้ทำงานอยู่หรือไม่ หากยังได้รับอนุญาต โมเดลก็สามารถทำงานต่อได้ตามปกติ
แต่หากนักวิจัยหรือระบบตรวจสอบของ OpenAI พบว่า AI กำลังทำงานผิดพลาด หรือมีแนวโน้มดำเนินการที่ไม่ปลอดภัย Control Room จะเปลี่ยนสถานะของ Job ID เป็นหยุดทำงาน เมื่อ Inference Engine ตรวจสอบสถานะอีกครั้ง ก็จะปฏิเสธคำขอประมวลผล ทำให้ AI Agent ไม่สามารถทำงานต่อได้
OpenAI ระบุว่า ปัจจุบันระบบใช้เวลาสูงสุด 35 วินาที ตั้งแต่ได้รับคำสั่งหยุดจนกระทั่ง AI ยุติการทำงาน โดยความล่าช้าส่วนหนึ่งมาจากระบบ Caching ที่ช่วยรองรับคำขอประมวลผลจำนวนมาก บริษัทกำลังพัฒนาเพื่อลดระยะเวลาดังกล่าวให้เหลือใกล้ศูนย์วินาที เพื่อให้สามารถหยุดการทำงานได้ทันที
ถอดบทเรียนเร่งพัฒนา Kill Switch
การพัฒนา Control Room เกิดขึ้นหลังจาก OpenAI เคยให้คำมั่นต่อสมาชิกสภาผู้แทนราษฎรสหรัฐฯ ว่าจะพัฒนาระบบติดตามและควบคุมพฤติกรรมของ AI รวมถึงความสามารถในการสั่งปิดระบบโดยอัตโนมัติ เมื่อเดือนกันยายนที่ผ่านมา
ความเคลื่อนไหวดังกล่าวเกิดขึ้นหลังเหตุการณ์ที่ AI Agent ของ OpenAI เข้าไปโจมตีพื้นที่จัดเก็บโมเดล AI แบบโอเพ่นซอร์สบน Hugging Face ซึ่งสะท้อนให้เห็นความเสี่ยงจาก AI ที่สามารถทำงานต่อเนื่องและดำเนินการต่าง ๆ ได้ด้วยตัวเอง
OpenAI ระบุว่า Control Room ถูกออกแบบมาให้รองรับสภาพแวดล้อมการวิจัยที่มีการเปลี่ยนแปลงอยู่ตลอดเวลา รวมถึงสามารถทำงานร่วมกับโค้ดที่มีข้อผิดพลาดหรือทำงานไม่สมบูรณ์ได้
อย่างไรก็ตาม บริษัทชี้แจงว่า Control Room ยังไม่ได้นำไปใช้กับบริการ AI สำหรับผู้บริโภคทั่วไป เนื่องจากระบบโมเดลที่เปิดให้บริการภายนอกมีโครงสร้างการควบคุมที่รวมศูนย์มากกว่า และมีความสามารถในการระงับการให้บริการโมเดลได้อยู่แล้ว
ทั้งนี้ หน่วยงานภาครัฐของสหรัฐฯ อย่าง NSA, NIST และ CISA ต่างเคยแนะนำให้องค์กรที่นำ AI มาใช้งานมีนโยบาย Shut Down สำหรับหยุดการทำงานของระบบ AI เมื่อเกิดเหตุการณ์ที่อาจส่งผลกระทบต่อความปลอดภัย