AI เขียนรายงานผิดพลาด “ระบุตำรวจกลายเป็นกบ” สะท้อนความเสี่ยงของระบบอัตโนมัติ
เมื่อหน่วยงานตำรวจใน Heber City รัฐยูทาห์ของสหรัฐฯ เริ่มทดลองใช้ระบบ AI เพื่อช่วยร่างรายงานเหตุการณ์จากบันทึกเสียงของกล้องติดตัวเจ้าหน้าที่ เกิดเหตุการณ์ที่ทั้งฮาและน่าหวั่นใจไปพร้อมกัน เมื่อระบบรายงานร่างอัตโนมัติระบุว่า “เจ้าหน้าที่ตำรวจกลายร่างเป็นกบ” ในรายงานเหตุการณ์จริง ซึ่งเป็นผลพวงจากการที่ซอฟต์แวร์ AI ฟังเสียงจากหนังแอนิเมชันเรื่อง The Princess and the Frog ที่เล่นอยู่ขณะบันทึกเหตุการณ์ แล้วตีความเสียงดังกล่าวเป็นเหตุการณ์จริงในรายงานของตำรวจ
ระบบที่ใช้กันมีชื่อว่า Draft One ซึ่งพัฒนาโดยบริษัท Axon ใช้โมเดลปัญญาประดิษฐ์จาก OpenAI เพื่อถอดเสียงจากกล้องติดตัวและสร้างเนื้อหาข้อความขึ้นอัตโนมัติ จากนั้นเจ้าหน้าที่จะตรวจสอบและแก้ไขก่อนส่งรายงานอย่างเป็นทางการ แม้ครั้งนี้จะเป็นเรื่องตลกที่ถูกแก้ไขก่อนส่งจริง แต่ปรากฏการณ์ AI “เกิดอาการหลอน” (hallucination) แบบนี้สะท้อนความเสี่ยงอย่างชัดเจน เพราะระบบ AI ไม่สามารถแยกแยะเสียง “พื้นหลัง” จากเสียงสนทนาจริงในที่เกิดเหตุได้อย่างถูกต้อง และอาจนำไปสู่ข้อผิดพลาดในรายงานที่มีผลตามกฎหมายได้จริงหากไม่ตรวจทานก่อนส่ง
ความผิดพลาดที่เกิดขึ้นยังเป็นบทเรียนสำคัญสำหรับหน่วยงานภาครัฐและองค์กรต่าง ๆ ที่เริ่มนำ AI มาใช้ในงานเอกสารหรือการตัดสินใจด้านกฎหมาย ว่า การตรวจสอบโดยมนุษย์ยังคงเป็นสิ่งจำเป็น และระบบควรได้รับการทดสอบในสภาพแวดล้อมจริงก่อนนำไปใช้งานอย่างกว้างขวาง เพื่อป้องกันไม่ให้ข้อผิดพลาดจากการ “hallucinate” ของ AI กลายเป็นปัญหาใหญ่ตามมาในอนาคต