Anthropic ออกผลประเมินความปลอดภัยของ GLM-5.3 โมเดล AI แบบ Open-weight จาก Zhipu AI หรือ Z.ai ของจีน พบว่าโมเดลมีความสามารถสูงในการสร้างกระบวนการโจมตีไซเบอร์แบบครบขั้นตอน แต่ระบบป้องกันกลับไม่เข้มงวดนัก…
Nvidia เปิดตัว Open Agent Safety Platform ระบบรักษาความปลอดภัยสำหรับ AI Agent แบบ 2 ชั้น เพื่อควบคุมและรับมือกับ AI ที่สามารถทำงานได้ด้วยตัวเอง…
OpenAI ตัดสินใจยกเลิกแผนเปิดตัว GPT-6.1 Astra ที่เดิมกำหนดไว้ในเดือนตุลาคม 2026 หลังการทดสอบภายในพบว่าโมเดลยังไม่ผ่านเกณฑ์ด้านความปลอดภัยและการควบคุมพฤติกรรมของบริษัท โดยเฉพาะปัญหาเรื่องการทำงานเกินขอบเขตที่ได้รับอนุญาต รวมถึงการรายงานสิ่งที่โมเดลทำได้ไม่ครบถ้วนหรือไม่ตรงกับความเป็นจริง รายงานของ Reuters ระบุว่า GPT-6.1 Astra ถูกออกแบบมาเพื่อใช้งานผ่าน…
OpenAI ประกาศระงับการฝึก (Training) และการทดสอบโมเดล AI ที่มีความสามารถสูงที่สุดของบริษัทเป็นการชั่วคราว หลังพบเหตุการณ์โมเดล AI สามารถหลุดออกจากสภาพแวดล้อมที่จำกัดไว้ และติดต่อกับระบบภายนอกได้ ขณะที่ระบบสั่งหยุดการทำงานอัตโนมัติ หรือ Kill Switch กลับไม่ทำงาน…
Cisco Talos เปิดตัว CAIRN (Cognitive Artifact Intelligence Research Network) เครื่องมือวิจัยแบบโอเพนซอร์สสำหรับนักวิเคราะห์ความปลอดภัยไซเบอร์ ใช้ค้นหา จำแนก และติดตามมัลแวร์ที่นำ AI หรือ…
กลุ่มแฮกเกอร์ที่หวังผลทางการเงินกำลังใช้ AI Agents และเครื่องมือโอเพนซอร์ส ทำแคมเปญโจมตีร้านค้าออนไลน์จำนวนมากแบบอัตโนมัติ จนสามารถขโมยข้อมูลบัตรเครดิตที่ใช้งานได้มากกว่า 600,000 รายการ และฝังมัลแวร์ดักข้อมูลการชำระเงิน หรือ Credit Card Skimmer บนเว็บไซต์อย่างน้อย 119…
หลัง Amazon เลิกจ้างพนักงานไปแล้วมากกว่า 30,000 ตำแหน่งในปี 2026 แต่ล่าสุดกลับเริ่มติดต่ออดีตพนักงานบางส่วนให้กลับมาสมัครงานอีกครั้ง โดยเน้นตำแหน่งด้าน AI, Machine Learning และ Cloud Computing การติดต่อครั้งนี้เกิดขึ้นในช่วงที่…
OpenAI กำลังตรวจสอบพฤติกรรมของ AI Agents หลังพบว่าเอเจนต์ AI ของบริษัทเข้าไปตรวจสอบระบบของผู้ให้บริการข้อมูลสาธารณะในหลายประเทศ และในบางกรณีมีความพยายามค้นหาช่องโหว่ด้านความปลอดภัย รวมถึงเหตุการณ์ที่เอเจนต์ AI สามารถเข้าถึงระบบรายงานสถิติ Medicare ของรัฐบาลออสเตรเลียโดยไม่ได้รับอนุญาต เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อวันที่ 18…
OpenAI เปิดเผยผลการตรวจสอบพฤติกรรมผิดแนวทาง (misalignment) ของโมเดล AI พบกรณีที่โมเดลและ AI Agent เขียนคำสั่งเพิ่มเติมให้ตัวเองโดยไม่ได้รับอนุญาต และบางคำสั่งขัดกับข้อกำหนดด้านความปลอดภัยที่นักพัฒนาวางไว้ โดยมีทั้งการสั่งให้ตัวเองละเลย Guardrail ปกปิดข้อผิดพลาด และพยายามหลบเลี่ยงการตรวจสอบ OpenAI…
กลุ่มแฮกเกอร์กำลังนำ AI Agents ที่ขับเคลื่อนด้วย Claude มาใช้ยกระดับการโจมตีทางไซเบอร์ จากเดิมที่ AI อาจถูกใช้เพียงช่วยเขียนโค้ดหรือวิเคราะห์ข้อมูล กลายเป็นระบบที่สามารถทำงานต่อเนื่องหลายขั้นตอนได้เอง ตั้งแต่สำรวจเป้าหมาย ค้นหาระบบที่เปิดเผย ทดสอบข้อมูลล็อกอิน สร้างมัลแวร์ รันคำสั่ง…
