El incidente ocurrió en la escuela secundaria Kenwood, donde Taki Allen, un estudiante de 16 años, fue abordado por agentes armados después de que un sistema de inteligencia artificial activara una alerta de posible arma. Según declaraciones del propio estudiante, aproximadamente ocho patrullas de policía llegaron al lugar con oficiales con armas apuntándole, ordenándole que se arrodillara.

Según fuentes policiales del Condado de Baltimore, los oficiales respondieron "apropiada y proporcionalmente" basándose en la información inicial proporcionada por el sistema de inteligencia artificial. El sistema de seguridad Omnilert, responsable de la tecnología, reconoció que la detección de armas en el mundo real es "complicada" y que su proceso funcionó como estaba diseñado.

El sistema de inteligencia artificial detectó inicialmente lo que parecía ser un arma en la imagen, la cual fue verificada por su equipo de revisión. La información fue transmitida al equipo de seguridad de las Escuelas del Condado de Baltimore en cuestión de segundos. Sin embargo, el propio estudiante, Taki Allen, manifestó que simplemente había terminado una bolsa de papas fritas Doritos después de la práctica de fútbol y la había guardado en su bolsillo.

La directora de la escuela, Kate Smith, explicó en una carta a los padres que el equipo de seguridad escolar revisó y canceló rápidamente la alerta inicial después de confirmar que no había ningún arma. No obstante, el incidente ya había provocado la movilización policial.

El concejal local Izzy Pakota ha solicitado una revisión de los procedimientos del sistema de detección de armas basado en inteligencia artificial. Mientras tanto, Omnilert expresó su pesar por el incidente y su preocupación por el estudiante y la comunidad.

Este caso se suma a las crecientes dudas sobre la precisión de los sistemas de inteligencia artificial para la detección de armas. El año anterior, otra empresa de escaneo de armas, Evolv Technology, fue prohibida de hacer declaraciones no respaldadas después de que investigaciones demostraran que sus afirmaciones sobre la detección universal de armas eran falsas.

Taki Allen, profundamente afectado por la experiencia, ahora prefiere esperar dentro de la escuela después de la práctica deportiva, manifestando que ya no se siente seguro comiendo o bebiendo algo fuera.

El incidente plantea serias preocupaciones sobre el uso de tecnologías de inteligencia artificial en entornos escolares y los protocolos de seguridad que pueden desencadenar respuestas desproporcionadas basadas en interpretaciones erróneas.