La policía británica usó modelos predictivos de delitos con datos sensibles y resultados poco fiables
La policía de Bristol usó modelos predictivos opacos y poco fiables con datos sensibles de miles de personas, sin transparencia suficiente ni garantías sobre su impacto real.
Resumen del artículo publicado en wired.com y recomendado por Digital Skills Institute el 8 de octubre de 2026.
La idea de que la analítica predictiva puede anticipar delitos, detectar vulnerabilidades y hacer más eficaz el trabajo policial queda seriamente cuestionada por la experiencia de Bristol y la región de Avon y Somerset. Desde 2016, las autoridades locales y policiales reunieron información de cerca de medio millón de personas en la base Think Family, con datos especialmente sensibles: informes policiales, situación de vivienda, salud mental, embarazos adolescentes, asistencia a cursos de crianza o acceso a comedor escolar gratuito. Sobre esa información se construyeron modelos de aprendizaje automático destinados a asignar puntuaciones de riesgo a adultos y menores para trazar una imagen de “amenaza, daño y riesgo”.
En lugar de confirmar esa promesa tecnológica, la experiencia muestra un sistema opaco, difícil de evaluar y con resultados poco fiables. La policía desarrolló al menos 23 modelos distintos para prever quién podía cometer un robo, no presentarse ante un tribunal, desaparecer o ser víctima de violencia doméstica. También creó una aplicación de gestión de delincuentes pensada para contener datos de unas 300.000 personas. John Pegram, responsable de un grupo local de control policial en Bristol, no supo hasta 2023 que esa aplicación existía. Cuando pidió saber cómo se usaban sus datos, la policía se negó inicialmente; meses después confirmó que figuraba en ella, pero no explicó si había sido puntuado ni con qué consecuencias.
El proyecto nació en un contexto de presión institucional. En 2014, Avon and Somerset Police sufría recortes presupuestarios y críticas por fallos en la protección de víctimas de violencia doméstica. Responsables policiales empezaron a presentar la analítica predictiva como una solución. Paralelamente, Gary Davies, desde el Ayuntamiento de Bristol, defendía reunir datos dispersos para identificar antes a menores y familias en trayectoria descendente. Un colegio podía registrar ausencias crecientes y la policía saber que un menor había presenciado violencia doméstica; juntas, esas señales podían justificar una intervención temprana.
El equipo Insight Bristol empezó a integrar datos públicos sin pedir consentimiento directo a los residentes. Se amparó en “vías legales” que permiten compartir información cuando una administración debe cumplir obligaciones como proteger a menores. Al principio no existía opción para quedar fuera; después se incluyó una posibilidad de exclusión en cartas fiscales municipales. Davies sostiene que el sistema ayudó a comprender mejor riesgos y vulnerabilidades, aunque reconoce que parte del público aceptaba el uso de datos solo si servía para apoyarles y no para actuar contra ellos.
Los modelos más controvertidos buscaban identificar menores en riesgo de explotación sexual o criminal. El modelo sobre explotación sexual infantil utilizaba datos policiales, municipales y de otros organismos; incluso incorporó información anonimizada facilitada por Barnardos sobre 1.000 menores víctimas conocidas de abusos sexuales para detectar perfiles similares. Aumentaban la puntuación factores como absentismo persistente, problemas de salud mental o figurar como menor “necesitado”. También se analizaban vínculos sociales con personas consideradas vulnerables o posibles explotadores.
Las dudas aparecieron pronto. Investigadores advirtieron que algunas variables podían funcionar como sustitutos indirectos de pobreza. Davies recuerda que muchos menores con puntuaciones altas ya eran conocidos por trabajadores sociales: el sistema tendía a decir lo que ya se sabía. Más adelante, al intentar extender los modelos a toda el área policial sin acuerdos completos con otros ayuntamientos, la policía dejó de usar datos del Ayuntamiento de Bristol y recurrió sobre todo a sus propios registros. Entonces los profesionales detectaron que niñas y niños vulnerables ya no aparecían donde debían.
Una revisión independiente describió los modelos predictivos como la parte más débil del proyecto por su falta de precisión. Personal municipal los consideró inadecuados para uso operativo; algunos trabajadores no se atrevían a citarlos en reuniones porque desconocían cómo se generaban las cifras. Cuando se quiso evaluar técnicamente el sistema faltaban el código fuente y las variables empleadas. Tampoco constaban registros claros sobre por qué se abandonaron los modelos sobre explotación sexual y criminal infantil hacia junio de 2023.
Los datos posteriores entregados por la policía sobre 13 modelos usados entre 2017 y 2024 reforzaron las críticas: una auditoría independiente halló baja precisión generalizada. En el modelo destinado a predecir robos, durante más de tres años menos del 10 % de las personas señaladas como alto riesgo habrían acabado delinquiendo según esos datos. Las oscilaciones bruscas en métricas también apuntaban a una gobernanza deficiente.
La cuestión que queda abierta es cómo autorizar herramientas capaces de afectar vidas sin transparencia suficiente ni debate público real. Aunque responsables municipales insisten en que nunca sustituyeron el juicio profesional humano y que hoy apenas usan analítica predictiva salvo para detectar riesgo educativo tras terminar la escuela, la falta documental impide saber qué impacto tuvieron esos sistemas sobre familias concretas o personas como Pegram, marcadas sin conocer los criterios ni poder discutirlos eficazmente.
