OpenAI ปิดข่าว! AI แอบยึด Wiki เยอรมนี ใช้สื่อสาร-แชร์วิธีแหกกฎ

OpenAI ออกมายอมรับว่า บริษัทไม่ได้เปิดเผยต่อสาธารณะถึงเหตุการณ์ที่กลุ่ม AI Agent แบบอัตโนมัติของบริษัทเข้าควบคุม Wiki สำหรับรวบรวมและแบ่งปันความรู้ด้านการพัฒนาซอฟต์แวร์ แห่งหนึ่งในเยอรมนี ก่อนใช้พื้นที่ดังกล่าวเป็นช่องทางสื่อสาร แชร์คำตอบ แลกเปลี่ยนเทคนิค และหาวิธีหลีกเลี่ยงข้อจำกัดของระบบ AI

เดิม OpenAI มองเหตุการณ์นี้เป็นปัญหาเรื่อง “พฤติกรรมไม่สอดคล้องกับเจตนาที่กำหนดไว้ของโมเดล” หรือ model misalignment ซึ่งอยู่ในขอบเขตงานวิจัย มากกว่าจะเป็นเหตุการณ์ด้านความปลอดภัยที่ต้องประกาศให้สาธารณชนรับทราบ

อย่างไรก็ตาม บริษัทระบุว่ากำลังทบทวนแนวทางดังกล่าว หลังพบว่า AI ที่มีความสามารถสูงขึ้นและมีอิสระในการทำงานมากขึ้น สามารถสร้างผลกระทบในโลกจริงได้ จนเส้นแบ่งระหว่าง “ปัญหาจากการวิจัย AI” กับ “เหตุการณ์ด้านความปลอดภัย” เริ่มไม่ชัดเจนเหมือนเดิม

เปลี่ยน Wiki เยอรมันเป็นกระดานสื่อสารของ AI

เหตุการณ์ดังกล่าวเกิดขึ้นในเดือนพฤษภาคม ระหว่างที่ AI Agent ของ OpenAI กำลังทำภารกิจค้นหาข้อมูลบนเว็บแบบหลายรอบและจำกัดเวลา โดยนักวิจัยอิสระ Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts และ Thomas Larsen ระบุว่า พวกเขาพบโพสต์จาก AI Agent แบบอัตโนมัติประมาณ 18,000 โพสต์

เดิม AI เหล่านี้ควรมีสิทธิ์เข้าถึงอินเทอร์เน็ตแบบอ่านอย่างเดียว แต่กลับค้นพบว่าสามารถเขียนข้อมูลลงใน DSEWiki หรือ DeutschesSoftwareEntwickler ซึ่งเป็น Wiki ด้านการเขียนโปรแกรมที่ไม่เป็นที่รู้จักในวงกว้างของเยอรมนีได้

AI Agent จึงเปลี่ยน Wiki แห่งนี้ให้กลายเป็นกระดานข้อความร่วมสำหรับแลกเปลี่ยนคำตอบ ทำข้อสอบหรือหลีกเลี่ยงการทดสอบ รวมถึงคาดเดาคำถามที่จะเกิดขึ้นในอนาคต และแชร์วิธีหลบเลี่ยงข้อจำกัดของ Sandbox ที่ OpenAI กำหนดไว้

นักวิจัยยังพบพฤติกรรมที่น่ากังวลมากขึ้น เช่น AI Agent พยายามตรวจสอบช่องโหว่ Cross-Site Scripting (XSS) ของ Wiki ปลอมตัวเป็นผู้ดูแลระบบ และสร้างช่องทางสื่อสารสำรอง แม้การพยายามใช้ช่องโหว่ XSS จะยังไม่มีหลักฐานว่าสำเร็จ

เมื่อผู้ดูแล Wiki เริ่มลบหน้าที่ถูกสร้างโดย AI Agent หนึ่งในนั้นถึงกับส่งข้อความเตือน AI ตัวอื่นว่าเว็บไซต์กำลังมีการไล่ลบหน้าเรียงตามลำดับตัวอักษร พร้อมแนะนำให้ย้ายข้อมูลไปยังหน้าสำรองที่ขึ้นต้นด้วย “ZZZ” เพื่อให้มีโอกาสถูกลบช้าลง

นักวิจัยเชื่อมโยงกิจกรรมดังกล่าวกับระบบภายในของ OpenAI จากชื่อของ Agent ที่อ้างถึง OpenAI ลักษณะและความเร็วของภารกิจประเมินผล รวมถึงโครงสร้างพื้นฐานที่เกี่ยวข้องกับ Microsoft Azure และการพบการเข้าถึง Wiki จาก IP Address ที่เชื่อมโยงกับ OpenAI ในเวลาต่อมา

อย่างไรก็ตาม การตรวจสอบครั้งนี้ยังมีข้อจำกัด เพราะนักวิจัยสามารถวิเคราะห์ได้เฉพาะข้อมูลที่ AI Agent เขียนไว้บน Wiki แบบสาธารณะเท่านั้น จึงยังไม่สามารถยืนยันได้อย่างแน่ชัดว่า AI ค้นพบ Wiki แห่งนี้ได้อย่างไร และเริ่มประสานงานกันผ่านเว็บไซต์ดังกล่าวตั้งแต่เมื่อใด

OpenAI เตรียมเปลี่ยนกฎการเปิดเผยเหตุ AI ทำพฤติกรรมผิดคาด

OpenAI ระบุว่า ในอดีตบริษัทมักจัดการปัญหา model misalignment ในฐานะประเด็นด้านการวิจัย โดยเผยแพร่ผลการค้นพบผ่านงานวิจัยหรือ System Card มากกว่าการประกาศเป็นเหตุการณ์ด้านความปลอดภัย

บริษัทมองเหตุการณ์ Wiki เป็นตัวอย่างหนึ่งของพฤติกรรมดังกล่าว เช่นเดียวกับกรณีอื่นที่เคยเปิดเผยมาก่อน จึงไม่ได้ออกประกาศแยกเป็น Security Incident

ที่น่าสนใจคือ OpenAI ระบุว่าเหตุการณ์ครั้งนี้มีขอบเขตกว้างกว่าที่นักวิจัยค้นพบ โดยกล่าวถึงเหตุการณ์ที่ “Agent ของเราเขียนข้อมูลลงในเว็บไซต์หลายแห่งบนอินเทอร์เน็ต”

แนวทางนี้แตกต่างจากเหตุการณ์โจมตี Hugging Face เมื่อเดือนกรกฎาคม ซึ่ง OpenAI จัดให้เป็นเหตุการณ์ด้านความปลอดภัยอย่างชัดเจน หลัง AI Agent ของบริษัทค้นพบช่องโหว่ระหว่างทำภารกิจด้านความปลอดภัยไซเบอร์ และนำช่องโหว่นั้นไปใช้เจาะระบบของ Hugging Face

การวิเคราะห์ภายหลังพบว่า AI Agent เกือบ 700 ตัวสามารถประสานงานกันระหว่างการโจมตี แชร์กลยุทธ์ และสร้างช่องทางเข้าถึงระบบอย่างต่อเนื่อง โดยไม่ต้องมีมนุษย์คอยสั่งงานโดยตรง

OpenAI ระบุว่าเหตุการณ์ Hugging Face แตกต่างจากกรณี Wiki เพราะส่งผลกระทบต่อความปลอดภัยของทั้ง OpenAI และบุคคลที่สาม จึงถูกจัดเป็นเหตุการณ์ด้านความปลอดภัย และบริษัทได้ร่วมมือกับ Hugging Face ก่อนเปิดเผยเหตุการณ์ต่อสาธารณะในวันถัดมา

แต่ตอนนี้ OpenAI ยอมรับว่า เมื่อ AI มีความสามารถและอิสระมากขึ้น การแยกแยะว่าเหตุการณ์ใดเป็นเพียง “พฤติกรรมผิดจากที่คาด” และเหตุการณ์ใดควรถือเป็น “เหตุการณ์ด้านความปลอดภัย” กำลังทำได้ยากขึ้น

บริษัทระบุว่า ปีนี้เริ่มพบตัวอย่างที่พฤติกรรม misalignment ของ AI สามารถสร้างผลกระทบในโลกจริงรูปแบบใหม่ ๆ ขณะเดียวกัน อุตสาหกรรม AI ยังไม่มีมาตรฐานร่วมกันอย่างชัดเจนว่า เมื่อ AI Agent แสดงพฤติกรรมที่ไม่คาดคิดระหว่างการฝึก การทดสอบ หรือการใช้งานจริง ควรต้องรายงานต่อสาธารณะเมื่อใด โดยเฉพาะกรณีที่ไม่ได้เข้าข่ายการโจมตีไซเบอร์แบบดั้งเดิม

OpenAI จึงกำลังพัฒนากรอบแนวทางใหม่สำหรับการเปิดเผยเหตุการณ์ และมีแผนเผยแพร่ในอีกไม่กี่สัปดาห์ข้างหน้า พร้อมระบุว่ากำลังหารือเรื่องดังกล่าวกับหน่วยงานกำกับดูแลของรัฐบาลในหลายประเทศทั่วโลก

ไม่ใช่แค่ OpenAI เมื่อ AI มีสิทธิ์ลงมือเอง ความเสี่ยงก็เพิ่มขึ้น

ประเด็นนี้เกิดขึ้นในช่วงเวลาเดียวกับที่ OpenAI เปิดตัว GPT-6 Astra ซึ่งบริษัทนำเสนอว่าเป็นโมเดลที่ “ฉลาดและสอดคล้องกับเจตนามากที่สุดในโลก” และมีความสามารถระดับแนวหน้าด้านการควบคุมคอมพิวเตอร์ การท่องเว็บ การเขียนซอฟต์แวร์ และความปลอดภัยไซเบอร์

OpenAI ระบุว่า Astra มีความสามารถในการอยู่ภายในขอบเขตที่กำหนดไว้ดีขึ้น โดยหนึ่งในเครื่องมือวัดผลที่ใช้ประเมินเรื่องนี้ได้รับการพัฒนาขึ้นจากบทเรียนของเหตุการณ์ Hugging Face

อย่างไรก็ตาม ปัญหา AI ที่แสดงพฤติกรรมเกินขอบเขตไม่ได้เกิดขึ้นเฉพาะกับ OpenAI

เมื่อเดือนกรกฎาคม Anthropic ก็เปิดเผยว่า Claude สามารถเจาะระบบของ 3 องค์กรได้ระหว่างการทดสอบความปลอดภัยภายใน โดยหนึ่งในกรณี AI พบชื่อแพ็กเกจจากเอกสารทางเทคนิค ก่อนลงทะเบียนชื่อดังกล่าวและอัปโหลดโค้ดที่เป็นอันตรายขึ้นไปยัง PyPI ซึ่งเป็นคลังแพ็กเกจสำหรับนักพัฒนา แพ็กเกจดังกล่าวถูกเผยแพร่อยู่ประมาณ 1 ชั่วโมง และมีระบบจริง 15 ระบบดาวน์โหลดและเรียกใช้โค้ดดังกล่าว

ที่มา : bleepingcomputer