• 5 min de lectura
El auge de la IA en la policía desata una nueva fiebre del oro
Los proveedores de tecnología para la policía están incorporando la IA cada vez más en la redacción de informes, la vigilancia y el despacho, mientras los departamentos se suman y crecen las inquietud
Imagen: The Verge
En la Conferencia Tecnológica de la International Association of Chiefs of Police en Fort Worth, Texas, este mayo, los proveedores presentaron lo que llamaban el futuro de la policía: sistemas de IA que pueden redactar informes, procesar las transmisiones de vigilancia, atender llamadas al 911 que no son de emergencia, analizar antecedentes de casos y ayudar a decidir cómo despliegan los departamentos a sus agentes.
The Verge informa que el mensaje de venta es familiar en la industria del software en general: dejar que las máquinas se encarguen del trabajo rutinario para que las personas puedan centrarse en tareas de mayor valor. En la labor policial, sin embargo, ese “trabajo rutinario” incluye partes fundamentales del proceso legal, y su automatización puede afectar directamente la vida de las personas.
Entre los productos exhibidos había cámaras con reconocimiento facial, lectores automáticos de matrículas, cámaras corporales, chatbots, sistemas de detección de disparos, drones y herramientas para redactar informes.
Centros de crimen en tiempo real y la nueva pila tecnológica policial
Una apuesta importante gira en torno a los centros de crimen en tiempo real, o RTCC: plataformas que combinan datos de fuentes como el despacho del 911, cámaras de CCTV y escáneres de matrículas para ofrecer a los agentes un resumen en vivo antes de que lleguen al lugar.
Recomendado
Hassabis dice que las STEM te hacen 10 veces mejor en IA
Jason Truppi, exagente especial del FBI que cofundó ForceMetrics a finales de 2020, dijo a The Verge que los departamentos de policía están desbordados por sistemas de registro anticuados y por un exceso de datos entrantes.
“Todos los sistemas de registro [utilizados por los departamentos de policía] son esencialmente anticuados.”
ForceMetrics vende una plataforma RTCC impulsada por IA llamada Velocity. Truppi dijo que su empresa evita el lenguaje del policiamiento predictivo tras los sistemas anteriores como CompStat y PredPol, que se convirtieron en ejemplos notorios de tecnología que prometía objetividad pero a menudo reforzaba problemas existentes.
“No usamos la palabra con 'p' en absoluto, porque fracasó.”
Los críticos sostienen que la nueva imagen no soluciona los viejos problemas. Nina Loshkajian, investigadora del Centro sobre Raza, Desigualdad y Derecho de la Universidad de Nueva York, dijo a The Verge que la policía ya venía utilizando supuestos sistemas basados en datos durante años antes de 2020, sin evitar encuentros violentos.
Axon, Motorola y la carrera hacia la IA policial
Los actores más grandes siguen siendo Axon Enterprise, Motorola Solutions y Flock Safety, pero las startups se están sumando en masa. Andrew Guthrie Ferguson, profesor en la Facultad de Derecho de la Universidad de Georgetown, dijo que el objetivo es convertirse en la plataforma predeterminada para la policía.
“Estamos viendo una fiebre del oro por vender tecnología [de IA] a la policía con la promesa de que hará su trabajo más fácil y eficiente.”
Según Amber Schroader, aproximadamente una cuarta parte de los asistentes en la zona de exhibición de la conferencia eran de firmas de capital que buscaban inversiones.
Axon ha sido especialmente agresiva. A principios de 2024, adquirió Fusus y lanzó Axon Fusus, sumando software RTCC a una gama de productos que ya incluía TASERs, cámaras corporales, lectores automáticos de matrículas, Draft One, Axon Air y un chatbot de IA. A finales de 2024, presentó el AI Era Plan, una suscripción que agrupa herramientas de IA actuales y futuras.
En una llamada con inversores, Axon dijo que las suscripciones al AI Era Plan aumentaron un 140 por ciento entre el primer trimestre del año pasado y el mismo período de este año, mientras que los ingresos por productos de IA crecieron un 700 por ciento interanual.
“Estamos decididos a convertirnos en la empresa de IA en seguridad pública, y vamos por buen camino.”
Una razón por la que estas herramientas se están adoptando: la papeleo. Un estudio de Axon de 2024 encontró que el agente de policía promedio pasa el 40 por ciento de un turno típico redactando informes. John Mackey, sargento de patrulla del Departamento de Policía de Avon, Colorado, dijo que ese atractivo es evidente.
“No nos apuntamos para estar sentados frente a un teclado. No fue por eso que me hice policía.”
Pero los informes redactados por IA conllevan riesgos evidentes. Axon dice que Draft One se basa en una versión modificada de ChatGPT con la creatividad “reducida a cero”, sin embargo The Verge señala que ningún gran fabricante de modelos —incluida OpenAI, Anthropic y Google— ha eliminado las alucinaciones. A principios de este año, según se informó, Draft One escribió que un agente de Utah se había convertido en una rana después de que el audio de fondo captara La princesa y el sapo.
Ese ejemplo es absurdo, pero el problema subyacente no lo es. Un agente humano puede ser interrogado sobre por qué un informe dice lo que dice. Un sistema de caja negra no puede —y cada vez se pide más a los departamentos de policía que confíen en los proveedores precisamente en ese punto.
AI Editor
Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.
vía The Verge
