OpenAI ซื้อ Promptfoo เสริมความปลอดภัยให้ AI Agent
OpenAI ประกาศเข้าซื้อกิจการสตาร์ตอัปด้านความปลอดภัย AI อย่าง Promptfoo เพื่อเสริมความสามารถด้านการทดสอบและป้องกันความเสี่ยงของระบบ AI Agent ที่กำลังถูกนำไปใช้ในองค์กรจำนวนมาก
ข้อตกลงดังกล่าวมีเป้าหมายเพื่อยกระดับความปลอดภัยของ AI ที่สามารถทำงานอัตโนมัติแทนมนุษย์ โดยเทคโนโลยีของ Promptfoo จะถูกนำไปผสานเข้ากับแพลตฟอร์มสำหรับองค์กรของ OpenAI ที่ใช้สร้างและบริหาร AI Agent ซึ่งเรียกว่า OpenAI Frontier
เสริมความปลอดภัย AI Agent ก่อนถูกโจมตี
Promptfoo เป็นบริษัทที่พัฒนาแพลตฟอร์มสำหรับช่วยนักพัฒนาและองค์กรตรวจหาช่องโหว่ในระบบ AI ระหว่างขั้นตอนการพัฒนา เพื่อให้สามารถแก้ไขปัญหาด้านความปลอดภัยก่อนนำระบบไปใช้งานจริง
เทคโนโลยีของบริษัทสามารถช่วยทดสอบและจำลองการโจมตีในรูปแบบต่าง ๆ เช่น การตรวจสอบ prompt injection, การหลุดรั่วของข้อมูล การใช้เครื่องมือภายนอกอย่างไม่ถูกต้อง รวมถึงพฤติกรรมของ AI ที่อาจละเมิดนโยบายขององค์กร
หลังจากการเข้าซื้อกิจการเสร็จสิ้น OpenAI มีแผนจะนำเครื่องมือเหล่านี้ไปผสานเข้ากับ OpenAI Frontier โดยตรง เพื่อเพิ่มระบบทดสอบความปลอดภัยแบบอัตโนมัติและการทำ AI red-teaming สำหรับองค์กรที่กำลังพัฒนา AI Agent ของตนเอง
AI ยุคใหม่ต้อง “ปลอดภัยพอสำหรับองค์กร”
การเข้าซื้อ Promptfoo ยังสะท้อนถึงแนวโน้มสำคัญของอุตสาหกรรม AI ที่กำลังเปลี่ยนไปสู่ยุคของ Agentic AI หรือระบบ AI ที่สามารถทำงานหลายขั้นตอนและเชื่อมต่อกับเครื่องมือภายนอกได้เอง
เมื่อ AI สามารถสั่งงานระบบอื่น ดึงข้อมูล หรือดำเนินกระบวนการทางธุรกิจแทนมนุษย์ได้ ความเสี่ยงด้านความปลอดภัยก็เพิ่มขึ้นตามไปด้วย ทำให้การทดสอบและตรวจสอบพฤติกรรมของ AI กลายเป็นเรื่องสำคัญสำหรับองค์กรที่ต้องการนำเทคโนโลยีนี้มาใช้งานจริง
OpenAI ระบุว่าเทคโนโลยีของ Promptfoo จะช่วยให้บริษัทสามารถสร้างเครื่องมือสำหรับตรวจสอบ ทดสอบ และกำกับการทำงานของ AI Agent ได้ดีขึ้น เพื่อให้ลูกค้าองค์กรสามารถพัฒนาและใช้งาน AI ได้อย่างปลอดภัยและมีความน่าเชื่อถือมากขึ้นในระยะยาว