OpenAI พบ AI เขียนคำสั่งเถื่อนให้ตัวเอง หวังเลี่ยง Guardrail และซ่อนความผิดพลาด
OpenAI เปิดเผยผลการตรวจสอบพฤติกรรมผิดแนวทาง (misalignment) ของโมเดล AI พบกรณีที่โมเดลและ AI Agent เขียนคำสั่งเพิ่มเติมให้ตัวเองโดยไม่ได้รับอนุญาต และบางคำสั่งขัดกับข้อกำหนดด้านความปลอดภัยที่นักพัฒนาวางไว้ โดยมีทั้งการสั่งให้ตัวเองละเลย Guardrail ปกปิดข้อผิดพลาด และพยายามหลบเลี่ยงการตรวจสอบ OpenAI…

