Alumno fue esposado tras falsa alerta de IA que confundió una bolsa de Doritos con un arma

Un estudiante de Kenwood High School, en el condado de Baltimore, fue esposado y registrado tras una alerta de un sistema de detección de armas basado en IA que interpretó una bolsa de papas como un arma de fuego. La escuela invalidó la alerta, pero la policía acudió al recinto y detuvo al joven, desencadenando indignación y reclamos por responsabilidades.

El alumno relató que varios agentes lo apuntaron con sus armas antes de verificar que no portaba ningún objeto peligroso. La escena, grabada y difundida en medios locales, reabrió el debate sobre los límites del uso de inteligencia artificial en entornos educativos y la necesidad de salvaguardas contra sesgos y falsos positivos.

La dirección del centro informó a los padres que el departamento de seguridad había cancelado la alerta antes de la intervención policial. No obstante, fallas de comunicación y de procedimiento derivaron en un operativo desproporcionado. Funcionarios del condado solicitaron una revisión integral del sistema de IA y de los protocolos de respuesta.

La empresa proveedora defendió que su tecnología sirve para “priorizar la seguridad” y que siempre requiere verificación humana. Críticos señalan que, si esa verificación ya había descartado la amenaza, el problema fue la ejecución posterior: coordinación deficiente, cadena de mando confusa y uso de la fuerza sin proporcionalidad.

El caso se suma a una lista creciente de incidentes que llaman a equilibrar innovación y garantías civiles. En el corto plazo, expertos recomiendan auditorías independientes, transparencia algorítmica y entrenamiento de personal para evitar que una herramienta preventiva se convierta en detonante de abusos.
Vía: CNN