Inteligencia artificial y policía: una herramienta útil también puede equivocarse

Imaginemos una herramienta capaz de revisar en pocos minutos miles de mensajes, fotografías, documentos y movimientos financieros.

No se cansa.

No necesita café.

No mira el calendario para comprobar si es lunes.

Y los domingos por la tarde no empieza a preocuparse por el día siguiente.

Encuentra coincidencias, señala conexiones y propone tres nombres que podrían estar relacionados con una investigación.

En la relación entre inteligencia artificial y policía, esa constancia es una ventaja. El problema es que la máquina tampoco siente dudas cuando debería tenerlas.

La pantalla muestra el resultado con orden, gráficos y porcentajes. Todo parece preciso.

Entonces llega la pregunta importante:

¿La herramienta ha encontrado una respuesta o simplemente ha calculado una posibilidad?

La diferencia puede parecer pequeña hasta que ese resultado afecta a una persona, orienta una investigación o influye en una decisión policial.

La relación entre inteligencia artificial y policía puede ahorrar muchas horas de trabajo, especialmente cuando hay que revisar grandes cantidades de información.

También puede detectar relaciones que una persona difícilmente encontraría entre millones de datos. Pero presentar una conclusión rápidamente no significa necesariamente que esa conclusión sea correcta, justa o suficientemente explicable.

Y, en seguridad pública, equivocarse deprisa no siempre es una mejora.

Inteligencia artificial y policía: un agente y una especialista revisan los resultados de una herramienta antes de tomar una decisión.

Por qué hablamos ahora de inteligencia artificial y policía

La relación entre inteligencia artificial y policía ya no pertenece a la ciencia ficción.

Europol lleva años estudiando cómo estas tecnologías pueden utilizarse para analizar grandes cantidades de información, trabajar con fuentes abiertas, procesar lenguaje, apoyar investigaciones digitales o mejorar determinadas capacidades biométricas. Su informe AI and policing, publicado en septiembre de 2024, analiza esas oportunidades junto a los riesgos jurídicos, éticos y operativos que acompañan a su uso.

La presión para incorporar estas herramientas procede de dos direcciones.

Por un lado, los cuerpos policiales trabajan con una cantidad creciente de datos, comunicaciones, imágenes, dispositivos y evidencias digitales.

Por otro, las redes criminales también utilizan automatización e inteligencia artificial para personalizar fraudes, ampliar su alcance, acelerar campañas de ingeniería social, producir contenidos manipulados y adaptar sus métodos con mayor rapidez. El IOCTA 2026 de Europol describe el uso creciente de la automatización y la inteligencia artificial en el ecosistema delictivo digital.

La policía no puede ignorar una tecnología que transforma tanto la delincuencia como la forma de investigarla.

Pero tampoco debería adoptarla únicamente porque ya esté disponible.

Europa está desplegando progresivamente el Reglamento Europeo de Inteligencia Artificial. Las primeras prohibiciones y las obligaciones relacionadas con la alfabetización en IA comenzaron a aplicarse en febrero de 2025, mientras que nuevas obligaciones de transparencia son aplicables desde el 2 de agosto de 2026. Tras la entrada en vigor del denominado AI Omnibus, las reglas generales para los sistemas de alto riesgo incluidos en el anexo III pasan a aplicarse, con carácter general, desde el 2 de diciembre de 2027; determinados sistemas integrados en productos regulados tienen un calendario posterior.

El debate sobre inteligencia artificial y policía no consiste, por tanto, en decidir si la tecnología es buena o mala.

Consiste en decidir para qué puede utilizarse, con qué datos, bajo qué controles y con qué consecuencias.

Lo que la inteligencia artificial sí puede aportar a la policía

Hay tareas en las que la combinación de inteligencia artificial y policía puede ofrecer un valor considerable.

Puede ayudar a ordenar grandes volúmenes de documentos, identificar coincidencias entre investigaciones, transcribir grabaciones, traducir contenidos, clasificar información, detectar patrones y facilitar una primera exploración de fuentes abiertas.

También puede apoyar el análisis de dispositivos digitales, imágenes o movimientos económicos, así como ayudar a encontrar conexiones que quedarían ocultas entre miles de registros.

Los sistemas de procesamiento del lenguaje pueden resumir textos, extraer nombres y lugares, localizar fechas o señalar relaciones entre personas y organizaciones.

Las aplicaciones más útiles suelen ser aquellas en las que la tarea reúne unas condiciones concretas:

  • está claramente definida;
  • es repetitiva;
  • puede medirse;
  • permite verificar el resultado;
  • y permanece sometida a la revisión de una persona formada.

Una herramienta puede ayudar a localizar veinte documentos relevantes dentro de una carpeta con cincuenta mil archivos.

Puede sugerir que dos números de teléfono aparecen vinculados a personas investigadas en expedientes diferentes.

Puede ofrecer una primera traducción de una conversación o una propuesta de transcripción.

Puede señalar anomalías dentro de una gran cantidad de datos.

Y puede revisar cientos de documentos sin protestar porque uno de ellos se llame FINAL_DEFINITIVO_ahora_si_3.

Todo eso puede resultar extraordinariamente útil.

Pero localizar, sugerir o priorizar no es lo mismo que concluir.

La inteligencia artificial puede ayudar a encontrar la aguja en el pajar.

No debería decidir, por sí sola, qué significa haberla encontrado.

Esta misma tensión aparece al hablar de inteligencia artificial y ciberseguridad: una misma capacidad puede utilizarse para proteger sistemas o para ampliar las posibilidades de quien pretende atacarlos.

El peligro de que una sugerencia parezca una certeza

Uno de los riesgos más importantes no está únicamente en que el sistema se equivoque.

Está en la forma en que presenta su error.

Una persona puede expresar dudas:

No estoy seguro, pero creo que estos datos podrían estar relacionados.

Una herramienta puede mostrar:

Coincidencia: 87 %.

El porcentaje produce una sensación de objetividad. Parece que la respuesta procede de un cálculo preciso y no de una sucesión de decisiones humanas sobre qué datos utilizar, cómo clasificarlos, qué variables considerar y qué resultado optimizar.

Pero un resultado expresado con decimales también puede ser incorrecto.

Puede estar construido sobre información incompleta.

Puede no representar adecuadamente el contexto en el que se utiliza.

Puede reproducir errores anteriores.

Puede confundir una correlación con una relación significativa.

Y puede recibir más confianza de la que merece simplemente porque aparece en una pantalla.

La guía de Europol AI bias in law enforcement explica que los sesgos pueden aparecer durante el diseño, la recopilación de datos, el desarrollo y el despliegue de los sistemas. También advierte del riesgo de confiar excesivamente en resultados automatizados y de convertir una recomendación técnica en una decisión aparentemente neutral.

La máquina no elimina automáticamente los prejuicios humanos.

En ocasiones, los procesa, los escala y los presenta con apariencia matemática.

Los datos policiales no llegan limpios

Suele decirse que una inteligencia artificial es tan buena como los datos con los que ha sido entrenada.

La frase es correcta, pero insuficiente.

En el debate sobre inteligencia artificial y policía, la calidad y el significado de los datos son tan importantes como la capacidad técnica del sistema.

Los datos policiales no son una fotografía perfecta de la realidad.

Son el resultado de denuncias, investigaciones, controles, prioridades, recursos disponibles, decisiones operativas y formas concretas de registrar la información.

Que algo aparezca muchas veces en una base de datos no significa necesariamente que ocurra más en la realidad.

También puede significar que se ha buscado más, controlado más o documentado mejor.

Y que algo no aparezca no significa que no exista.

Puede no haberse denunciado, detectado, investigado o registrado de la misma manera.

Imaginemos un sistema que utiliza datos históricos para indicar en qué lugares existe más probabilidad de que ocurra un determinado delito.

La policía concentra allí su actividad.

Como consecuencia, detecta y registra más hechos en esas zonas.

Esos nuevos datos alimentan el sistema.

La herramienta confirma entonces que esos lugares eran efectivamente los de mayor riesgo.

El círculo se cierra.

El sistema parece aprender de la realidad, pero también puede estar aprendiendo de las decisiones que él mismo ayudó a producir.

Por eso no basta con disponer de muchos datos.

Hay que preguntarse:

  • de dónde proceden;
  • qué representan;
  • qué dejan fuera;
  • cómo fueron recogidos;
  • quién aparece más en ellos;
  • y qué decisiones anteriores pudieron condicionarlos.

Más datos no siempre significan más verdad.

Supervisión humana no es pulsar «aceptar»

Hablar de inteligencia artificial y policía obliga también a aclarar qué entendemos por supervisión humana.

La expresión aparece constantemente en documentos, proyectos y presentaciones:

Habrá supervisión humana.

Es una de esas frases que quedan estupendamente en una diapositiva.

El problema comienza cuando alguien pregunta quién supervisará, con qué formación, con qué tiempo y con qué información.

Sobre el papel, suena tranquilizadora.

Pero una persona situada al final de un proceso automatizado no garantiza por sí misma un control real.

No existe una verdadera supervisión si el agente:

  • no comprende cómo se ha producido el resultado;
  • desconoce las limitaciones del sistema;
  • no dispone de tiempo para comprobarlo;
  • no puede acceder a las fuentes utilizadas;
  • carece de autoridad para rechazarlo;
  • o asume que la máquina será más fiable que su propio criterio.

Tampoco existe si la única intervención humana consiste en confirmar una propuesta que ya llega presentada como la respuesta correcta.

La supervisión debe permitir:

  • comprender qué hace la herramienta;
  • conocer para qué no debe utilizarse;
  • revisar la información en la que se basa;
  • identificar posibles errores;
  • rechazar o modificar el resultado;
  • dejar constancia de la decisión;
  • y explicar por qué se aceptó o descartó la recomendación.

El Reglamento de Inteligencia Artificial exige para los sistemas de alto riesgo medidas de gestión de riesgos, documentación, registros de actividad, precisión, ciberseguridad y supervisión humana efectiva.

La supervisión humana no puede ser una firma colocada al final del proceso.

Debe ser una capacidad real para intervenir en él.

No toda inteligencia artificial policial plantea el mismo riesgo

No existe una única relación posible entre inteligencia artificial y policía, porque no todos los usos producen las mismas consecuencias.

No es lo mismo utilizar una herramienta para organizar turnos que emplearla para valorar la fiabilidad de una evidencia.

No es lo mismo generar un primer borrador de una nota interna que recomendar qué persona debería ser investigada.

No es lo mismo traducir provisionalmente un texto que identificar a alguien mediante sus rasgos biométricos.

No es lo mismo mejorar la calidad de una imagen que afirmar que la persona que aparece en ella es un sospechoso determinado.

El impacto depende de:

  • la finalidad;
  • los datos utilizados;
  • el margen de error;
  • el grado de autonomía;
  • las consecuencias del resultado;
  • y la posibilidad de que la persona afectada pueda cuestionarlo.

El marco europeo prohíbe, entre otros usos, la evaluación o predicción individual del riesgo de cometer un delito basada únicamente en perfiles o características personales y la recopilación indiscriminada de imágenes de internet o cámaras para crear o ampliar bases de datos de reconocimiento facial. La identificación biométrica remota en tiempo real en espacios públicos para fines policiales está, con carácter general, prohibida, aunque la normativa contempla excepciones muy limitadas sometidas a necesidad, proporcionalidad y autorización.

Dentro de la relación entre inteligencia artificial y policía, el reconocimiento facial merece una cautela especial. Las directrices finales del Comité Europeo de Protección de Datos advierten de los riesgos de discriminación, falsos resultados y tratamiento a gran escala de datos biométricos en el ámbito policial.

Una precisión del 99 % puede parecer extraordinaria.

Pero, aplicada a miles de personas, el porcentaje restante puede traducirse en ciudadanos incorrectamente identificados.

La pregunta no es únicamente cuántas veces acierta una herramienta.

También hay que preguntar a quién perjudica cuando falla.

Inteligencia artificial, datos personales y evidencia policial

La relación entre inteligencia artificial y policía depende inevitablemente del tratamiento de información, en muchos casos especialmente sensible.

La inteligencia artificial necesita datos para funcionar.

Y, en un entorno policial, esa información puede incluir:

  • identidades;
  • fotografías;
  • conversaciones;
  • localizaciones;
  • antecedentes;
  • información sobre víctimas;
  • imágenes de videovigilancia;
  • datos biométricos;
  • documentos incautados;
  • o elementos vinculados a investigaciones en curso.

El tratamiento policial de datos personales para prevenir, investigar, detectar o perseguir delitos cuenta en la Unión Europea con un marco específico: la Directiva (UE) 2016/680. En España, esta materia se incorporó mediante la Ley Orgánica 7/2021, que regula el tratamiento de datos personales por las autoridades competentes para fines penales y de seguridad pública.

Por eso, utilizar una herramienta de inteligencia artificial no consiste simplemente en abrir una aplicación y cargar información.

Antes hay que saber:

  • dónde se procesan los datos;
  • si se almacenan;
  • quién puede acceder a ellos;
  • si se reutilizan para entrenar el modelo;
  • en qué país se encuentran los servidores;
  • qué medidas de seguridad existen;
  • cómo se eliminan;
  • y qué ocurre si se produce una brecha.

Subir un atestado, una conversación intervenida o una fotografía policial a un servicio generalista puede ser sencillo técnicamente.

Eso no significa que sea admisible.

También debe protegerse la trazabilidad de la evidencia.

Si un resultado influye en una investigación, debería poder conocerse:

  • qué versión del sistema se utilizó;
  • qué datos recibió;
  • qué instrucciones se le dieron;
  • qué resultado produjo;
  • quién lo revisó;
  • y qué decisión se tomó después.

Una conclusión que no puede reconstruirse difícilmente podrá auditarse.

Y una decisión que no puede auditarse resulta difícil de explicar, corregir o defender.

Doce preguntas antes de comprar, probar o validar una herramienta

Antes de avanzar en cualquier proyecto de inteligencia artificial y policía, convendría responder con claridad a estas preguntas.

Una demostración impecable, una interfaz azul y varios gráficos moviéndose con mucha seguridad no sustituyen ninguna de las respuestas.

1. ¿Qué problema operativo queremos resolver?

No qué tecnología queremos utilizar, sino qué necesidad concreta existe.

2. ¿Es necesaria la inteligencia artificial?

Tal vez el problema pueda resolverse con una mejora organizativa, una base de datos mejor estructurada o una herramienta convencional menos compleja.

3. ¿Cuál será la finalidad exacta?

Un sistema diseñado para clasificar información no debería terminar utilizándose para valorar personas.

4. ¿Qué datos necesita?

Hay que conocer su origen, calidad, representatividad, antigüedad y posibles sesgos.

5. ¿Qué margen de error tiene?

No basta con una cifra general. Hay que saber cómo cambia según el contexto, el tipo de datos y las personas afectadas.

6. ¿Puede explicar su resultado?

La explicación debe ser comprensible para quien utiliza la herramienta y, cuando corresponda, para quien deba revisar o cuestionar la decisión.

7. ¿Queda registrada su actividad?

Deben conservarse los datos necesarios para reconstruir qué ocurrió.

8. ¿Puede el profesional rechazar la recomendación?

Y, sobre todo, ¿dispone de información, tiempo y autoridad para hacerlo?

9. ¿Quién responde cuando se equivoca?

El proveedor, la Administración y el usuario no pueden trasladarse mutuamente la responsabilidad.

10. ¿Qué medidas de ciberseguridad incorpora?

Una herramienta policial comprometida puede exponer datos, alterar resultados o facilitar el acceso a información sensible.

11. ¿Qué ocurre cuando el proveedor actualiza el modelo?

Una modificación puede cambiar el comportamiento del sistema sin que el usuario perciba inmediatamente sus consecuencias.

12. ¿Cómo dejamos de utilizarla?

La organización debe poder recuperar sus datos, conservar la trazabilidad y evitar una dependencia absoluta del proveedor.

Una herramienta no debería pasar de la demostración a la realidad porque impresionó durante una presentación.

Debería hacerlo porque ha demostrado que es útil, segura, legal, controlable y mejor que las alternativas disponibles.

Los agentes deben participar antes de que la herramienta esté terminada

Los proyectos de inteligencia artificial y policía no deberían diseñarse únicamente desde un laboratorio, una empresa tecnológica o una propuesta escrita.

En muchos proyectos, los usuarios finales aparecen cuando la solución ya ha sido diseñada.

Se invita a un cuerpo policial a probarla.

Se organiza un piloto.

Se recogen algunas opiniones.

Y, si nadie protesta demasiado, alguien escribe después que hubo cocreación.

Pero validar algo al final no es lo mismo que participar en su diseño.

Es una de esas realidades que pocas veces se explican antes de entrar en un proyecto europeo, pero que condicionan después la utilidad de sus resultados.

Los agentes y profesionales que utilizarán la herramienta deberían intervenir desde el principio para explicar:

  • cómo se realiza realmente la tarea;
  • qué información está disponible;
  • qué limitaciones jurídicas existen;
  • qué situaciones excepcionales pueden aparecer;
  • qué resultado sería útil;
  • qué error sería asumible;
  • y qué error podría tener consecuencias graves.

La experiencia operativa no sirve únicamente para comprobar si la interfaz resulta cómoda.

Sirve para cuestionar si la herramienta responde al problema adecuado.

Esta es una de las razones por las que un consorcio europeo no debería incorporar a un cuerpo policial solamente para completar el número de usuarios finales exigido por una convocatoria.

Un usuario final incorporado al final puede ayudar a probar una tecnología.

Uno implicado desde el principio puede evitar que se desarrolle la tecnología equivocada.

Y, como ocurre en cualquier proyecto europeo, un proyecto no lo hace una colección de logotipos: lo hacen las personas capaces de plantear las preguntas difíciles antes de que resulte demasiado tarde.

A quién debería importarle

El debate sobre inteligencia artificial y policía no afecta únicamente a las unidades especializadas en tecnología.

Debería interesar a:

  • responsables policiales;
  • agentes e investigadores;
  • administraciones públicas;
  • departamentos de contratación;
  • responsables de protección de datos;
  • servicios jurídicos;
  • equipos de ciberseguridad;
  • empresas tecnológicas;
  • universidades;
  • fiscalías y órganos judiciales;
  • consorcios europeos que desarrollan herramientas para seguridad;
  • y ciudadanía.

No porque cualquier uso de inteligencia artificial implique automáticamente una amenaza, sino porque algunas herramientas pueden influir en cómo se investiga, clasifica o valora información relacionada con personas.

La confianza pública no se construye diciendo que el sistema es innovador.

Se construye demostrando que es necesario, controlable y responsable.

Innovar sin renunciar al criterio

La combinación de inteligencia artificial y policía puede convertirse en una alianza valiosa para mejorar determinadas tareas.

Puede ahorrar tiempo.

Puede ayudar a ordenar información.

Puede ampliar capacidades.

Puede encontrar conexiones difíciles de detectar.

Puede permitir que los profesionales dediquen menos esfuerzo a tareas repetitivas y más a aquellas que requieren experiencia, contexto y juicio.

Pero ninguna de esas ventajas elimina la necesidad de preguntar.

Al contrario.

Cuanto más potente sea una herramienta, más importante será comprender sus límites.

La mejor inteligencia artificial policial no será la que parezca saberlo todo.

Será la que permita reconocer cuándo no sabe lo suficiente.

La que muestre sus dudas.

La que deje rastros.

La que pueda ser revisada.

La que no convierta una probabilidad en una certeza ni una sugerencia en una decisión automática.

La pregunta central sobre inteligencia artificial y policía no es únicamente si estas herramientas pueden ayudar a investigar mejor.

La pregunta es si, cuando las utilicemos, podremos explicar:

qué hicieron, por qué confiamos en su resultado, quién lo comprobó y qué ocurrió cuando se equivocaron.

Porque innovar no significa entregar el criterio profesional a una máquina.

Significa utilizar nuevas capacidades sin renunciar a la responsabilidad de decidir.

Para saber más

Scroll al inicio