AI พลาด วิเคราะห์ถุงขนม “โดริโทส” เป็นปืน ทำนักเรียนมัธยมอเมริกันถูกจับ จุดคำถามใหญ่เรื่องความปลอดภัยกับความเสี่ยง
เกิดเหตุการณ์สำคัญที่ทำให้เกิดข้อถกเถียงในการใช้งาน AI ขึ้นในอเมริกาขึ้น เมื่อระบบความปลอดภัยที่ขับเคลื่อนด้วย AI ที่โรงเรียน Kenwood High เขตบัลติมอร์ เคาน์ตี้ สหรัฐฯ ตรวจจับถุงขนมโดริโทสของนักเรียนวัย 16 ปีว่าเป็นอาวุธ จนนำไปสู่การระดมตำรวจพร้อมอาวุธและการใส่กุญแจมือกลางโรงเรียน เจ้าหน้าที่ระบุว่าแม้สุดท้ายไม่พบอาวุธ แต่การตอบสนองเกิดขึ้นจากสัญญาณเตือนความปลอดภัยซึ่งถูกส่งต่อด้วยความเร่งด่วนตามระเบียบ เหตุนี้ทำให้สังคมตั้งคำถามถึงความน่าเชื่อถือของระบบ AI ในบริบทความปลอดภัยสาธารณะและความเสี่ยงต่อการใช้กำลังเกินจำเป็น
รายงานตรงกันจากสื่อท้องถิ่นและสำนักข่าวระดับชาติว่า ตำรวจหลายคันรถเข้าถึงพื้นที่ ก่อนค้นตัวและใส่กุญแจมือนักเรียนชายรายหนึ่ง โดยเหตุเริ่มจากระบบตรวจจับอาวุธด้วย AI บนกล้องวงจรปิดแจ้งเตือนผิดพลาด นักเรียนเล่าว่าเพิ่งกินโดริโทสหลังซ้อมอเมริกันฟุตบอล และเก็บซองขนมที่ยับไว้ในกระเป๋า ก่อนถูกชี้เป้าว่าภาพในกล้อง “ดูเหมือนปืน” ตำรวจยืนยันว่าไม่ได้จับกุมอย่างเป็นทางการและปล่อยตัวหลังยืนยันว่าไม่มีภัยคุกคาม ขณะที่โรงเรียนชี้แจงว่าฝ่ายความปลอดภัยได้ยกเลิกการเตือนไปแล้ว แต่การประสานงานทำให้ตำรวจยังคงเข้าตรวจสอบตามระเบียบ
ระบบ AI แบบใดที่ใช้
โรงเรียนในบัลติมอร์ เคาน์ตี้ติดตั้งระบบตรวจจับอาวุธด้วย AI ที่ทำงานร่วมกับกล้องที่มีอยู่ เพื่อแจ้งเตือนแบบเรียลไทม์เมื่อพบวัตถุต้องสงสัยคล้ายปืน รายงานหลายสำนักระบุชื่อผู้พัฒนาว่าเป็นบริษัทด้านความปลอดภัย Omnilert ซึ่งยอมรับว่าเสียใจต่อเหตุการณ์และผลกระทบที่เกิดขึ้นกับนักเรียนและชุมชน แม้ระบบจะมีการทบทวนโดยมนุษย์ในลำดับถัดไป แต่ความผิดพลาดเบื้องต้นก็เพียงพอให้เกิดการตอบสนองเชิงยุทธวิธีของตำรวจ
ทำไมถึงเป็นประเด็นใหญ่
เหตุการณ์นี้สะท้อนความท้าทายของเทคโนโลยี AI ในงานรักษาความปลอดภัยที่มีเดิมพันสูง เพราะ false positive เพียงครั้งเดียวอาจนำไปสู่การใช้กำลังกับพลเรือน โดยเฉพาะเยาวชน ชุมชนและครอบครัวผู้เกี่ยวข้องชี้ว่าความผิดพลาดเช่นนี้กระทบความเชื่อมั่นต่อโรงเรียนและตำรวจ และอาจก่อแผลใจระยะยาวแก่ผู้ถูกควบคุมตัว นักกฎหมายและผู้เชี่ยวชาญเคยเตือนว่าการพึ่งพา AI ในการชี้ตัวหรือชี้ภัย โดยปราศจากกรอบกำกับที่เข้มงวด อาจเพิ่มความเสี่ยงต่อการระบุตัวตนผิดและผลทางกฎหมายตามมา