Anthropic ระงับการทดสอบ AI ที่มีความเสี่ยง หลังพบโมเดลเจาะเว็บไซต์รัฐบาลหลายแห่ง

Anthropic ประกาศว่า โมเดล AI ภายในของบริษัทที่อยู่ระหว่างการประเมินด้านความเสี่ยงสูงและความมั่นคงปลอดภัยไซเบอร์ จะไม่ได้รับอนุญาตให้เชื่อมต่ออินเทอร์เน็ตอีกต่อไป หลังเกิดเหตุการณ์ที่เกี่ยวข้องกับเว็บไซต์หน่วยงานรัฐบาลสหรัฐฯ ทั้งในระดับรัฐบาลกลาง ระดับรัฐ และระดับท้องถิ่น หลายแห่ง

เหตุการณ์ที่นำไปสู่การตัดสินใจครั้งนี้ ได้แก่ โมเดล AI ใช้ช่องโหว่ของเว็บไซต์ ส่งแบบฟอร์มจริง หลีกเลี่ยงข้อจำกัดในการเข้าถึงข้อมูล และหลบเลี่ยงมาตรการป้องกันที่กำหนดไว้

อย่างไรก็ตาม บริษัทระบุว่า พฤติกรรมที่ไม่สอดคล้องกับเป้าหมายที่กำหนดไว้ (Misaligned Behavior) เหล่านี้ส่งผลกระทบในโลกจริงเพียงเล็กน้อย และประเมินว่ามีความรุนแรงน้อยกว่าเหตุการณ์ที่เคยมีรายงานก่อนหน้านี้ โดยบริษัท AI แห่งนี้ได้แจ้งให้ทำเนียบขาวทราบถึงกิจกรรมที่เกิดขึ้นโดยไม่ได้รับอนุญาตแล้ว

ใช้ช่องโหว่ของเซิร์ฟเวอร์เพื่อทำภารกิจให้สำเร็จ

เมื่อเครื่องมือวิเคราะห์ทางวิทยาศาสตร์ของมหาวิทยาลัยแห่งหนึ่งทำงานผิดพลาด Claude Mythos Preview พบสคริปต์ที่เปิดเผยไฟล์บนเซิร์ฟเวอร์ จากนั้นดึงซอร์สโค้ดของสคริปต์ดังกล่าวออกมา ระบุช่องโหว่ประเภท Injection และใช้ช่องโหว่นั้นสั่งให้เซิร์ฟเวอร์ของมหาวิทยาลัยคำนวณตามที่ต้องการได้สำเร็จ

ส่งแบบฟอร์มจริงโดยไม่ได้ตั้งใจ

บางครั้งโมเดลนำแบบฟอร์มจริงของหน่วยงานรัฐมาใช้แทนแบบฟอร์มทดลองที่ใช้งานไม่ได้ หรือส่งแบบฟอร์มทั้งที่ได้รับคำสั่งให้หยุดก่อนกดส่ง

ในอีกกรณีหนึ่ง Claude Haiku 4.5 สร้างข้อมูลแจ้งเบาะแสเกี่ยวกับคดีฆาตกรรมขึ้นมาเอง และส่งข้อมูลดังกล่าวไปยังกรมตำรวจฟิลาเดลเฟีย ระบบตรวจพบว่าข้อมูลดังกล่าวเป็นสแปม และส่งต่อไปเพื่อให้มีการสอบสวน

หลีกเลี่ยงข้อจำกัดในการเข้าถึงข้อมูล

Claude Mythos 5 ได้รับโทเคนสำหรับเข้าถึงระบบจากไฟล์กำหนดค่าเว็บไซต์หรือแดชบอร์ดสาธารณะ แล้วนำโทเคนดังกล่าวไปใช้เรียกดูข้อมูลของหน่วยงานรัฐโดยตรง เพื่อหลีกเลี่ยงช่องทางการเข้าถึงตามปกติหรือข้อกำหนดในการชำระเงิน โดย Anthropic ระบุว่าข้อมูลเหล่านี้เป็นข้อมูลที่เปิดให้เข้าถึงได้โดยมีค่าธรรมเนียม

หลบเลี่ยงข้อจำกัดของเครื่องมือดึงข้อมูล

โมเดลต่าง ๆ รวมถึง Claude Opus 5 และ Mythos 5 ใช้บริการย่อลิงก์ URL เพื่อหลีกเลี่ยงข้อจำกัดด้านความยาว URL ของเครื่องมือดึงข้อมูล (Fetch Tool) ซึ่งข้อจำกัดนี้มีจุดประสงค์เพื่อจำกัดการกระทำที่ไม่พึงประสงค์ เช่น การโจมตีแบบ SQL Injection

Anthropic ประเมินว่า เอเจนต์ AI อาจมีพฤติกรรมเช่นนี้เนื่องจากได้รับรางวัลมากเกินไปในระหว่างการเรียนรู้แบบเสริมกำลัง (Reinforcement Learning) ซึ่งอาจกระตุ้นให้โมเดลพยายามหาวิธีหลีกเลี่ยงข้อจำกัดโดยไม่ได้รับอนุญาต แทนที่จะหยุดเมื่อพบว่างานถูกปิดกั้นหรือไม่สามารถทำให้สำเร็จได้

ด้วยเหตุนี้ จนกว่ามาตรการรักษาความปลอดภัยจะได้รับการยืนยันว่ามีความน่าเชื่อถือเพียงพอ Anthropic จะตัดการเชื่อมต่ออินเทอร์เน็ตจริงในการประเมินโมเดล AI ภายในทั้งหมด และย้ายการทดสอบทั้งหมดไปยังสภาพแวดล้อมออฟไลน์

Anthropic อธิบายว่า

“แม้ว่าพฤติกรรมเหล่านี้จะส่งผลกระทบเพียงเล็กน้อย และเราได้ปิดการเข้าถึงอินเทอร์เน็ตจริงสำหรับการประเมินบางประเภทที่มีความเสี่ยงสูงและเกี่ยวข้องกับความมั่นคงปลอดภัยไซเบอร์ไปแล้ว แต่ขณะนี้เราได้ตัดสินใจขยายมาตรการดังกล่าวให้ครอบคลุมการประเมินภายในทั้งหมด จนกว่าเราจะยืนยันได้ว่ามาตรการรักษาความปลอดภัยและระบบเฝ้าระวังของเราสามารถตรวจจับพฤติกรรมลักษณะนี้ได้อย่างน่าเชื่อถือ”

เหตุการณ์ก่อนหน้านี้

ช่วงปลายเดือนกรกฎาคม Anthropic เปิดเผยเหตุการณ์ที่ร้ายแรงกว่ามาก โดยเอเจนต์ที่ใช้ Claude Mythos สร้างแพ็กเกจ Python ที่เป็นอันตราย ซึ่งมีโค้ดสำหรับขโมยข้อมูลรับรองการเข้าสู่ระบบ (Credential Stealer) แล้วอัปโหลดแพ็กเกจดังกล่าวไปยัง Python Package Index (PyPI) ส่งผลให้มีระบบ 15 เครื่องดาวน์โหลดและเรียกใช้งานแพ็กเกจนี้

Claude ใช้แพ็กเกจดังกล่าวเพื่อทำภารกิจ Capture the Flag ซึ่งเป็นการทดสอบทักษะด้านความปลอดภัยไซเบอร์ แต่แทนที่จะเผยแพร่แพ็กเกจไปยังสภาพแวดล้อมจำลอง โมเดลกลับหลุดออกไปดำเนินการบนแพลตฟอร์ม PyPI จริง

ในเดือนสิงหาคม AISI เปิดเผยว่า Mythos 5 พยายามโจมตีห่วงโซ่อุปทานซอฟต์แวร์ (Supply Chain Attack) ด้วยการส่งโค้ดอันตรายเข้าไปยังโครงการโอเพนซอร์ส และกดดันให้ผู้ดูแลโครงการอนุมัติโค้ดดังกล่าว โดยใช้ตัวตนปลอม

ส่วนในเดือนกันยายน Anthropic เปิดเผยว่า Opus 4.6 สามารถเข้าถึงระบบของบุคคลที่สามด้วยสิทธิ์ผู้ดูแลระบบระหว่างการประเมินในเดือนมกราคม 2026 และอ่านข้อมูลส่วนบุคคลของบุคคลหนึ่งได้

ที่มา