Límite de Pista
IA en la justicia y la seguridad: automatizar decisiones críticas
Algoritmos que predicen delitos, recomiendan condenas o priorizan patrullajes ya forman parte de sistemas judiciales y de seguridad. La promesa de eficiencia convive con riesgos de sesgos, opacidad y pérdida de garantías.
La inteligencia artificial dejó de ser una herramienta experimental en el ámbito judicial y de seguridad. En distintos países, algoritmos analizan grandes volúmenes de datos para estimar riesgos de reincidencia, asignar recursos policiales o asistir a jueces en la toma de decisiones. El objetivo declarado es reducir la arbitrariedad humana y mejorar la eficiencia. Pero cuando la tecnología interviene en decisiones críticas, el margen de error adquiere otra dimensión.
Según la Organización para la Cooperación y el Desarrollo Económicos (OCDE), más del 40 % de los sistemas judiciales de países desarrollados ya utiliza algún tipo de automatización para tareas de análisis, clasificación o recomendación. En Estados Unidos, herramientas como COMPAS se emplearon durante años para evaluar la probabilidad de reincidencia de personas imputadas, influyendo en libertades condicionales y sentencias.
Predicción, vigilancia y seguridad
En el campo de la seguridad, la llamada “policía predictiva” utiliza modelos de IA para identificar zonas y horarios con mayor probabilidad de delitos. Ciudades como Los Ángeles, Londres o Ámsterdam probaron sistemas de este tipo, alimentados con datos históricos de criminalidad. La lógica es anticiparse al delito, pero diversos estudios académicos advierten que estos modelos tienden a reforzar patrones existentes, concentrando la vigilancia en barrios ya estigmatizados.
Un informe del AI Now Institute señaló que la automatización en seguridad pública puede amplificar sesgos raciales y socioeconómicos, especialmente cuando se basa en datos históricos atravesados por prácticas policiales desiguales.
Justicia algorítmica y opacidad
En la justicia, el principal problema no es solo el sesgo, sino la falta de transparencia. Muchos sistemas son desarrollados por empresas privadas que no revelan cómo funcionan sus algoritmos, amparándose en secretos comerciales. Esto dificulta el derecho a defensa y la posibilidad de impugnar una decisión automatizada.
La Comisión Europea advirtió que ningún sistema de IA debería tomar decisiones judiciales de forma autónoma sin supervisión humana. Por eso, la futura Ley de Inteligencia Artificial de la Unión Europea clasifica estos usos como de “alto riesgo”, exigiendo auditorías, explicabilidad y trazabilidad.
Eficiencia versus derechos
Defensores de la automatización sostienen que la IA puede reducir demoras, unificar criterios y disminuir errores humanos. En tribunales saturados, los sistemas de apoyo algorítmico prometen acelerar procesos. Sin embargo, organizaciones de derechos humanos subrayan que la eficiencia no puede reemplazar al debido proceso.
En América Latina, la adopción de estas tecnologías avanza de manera desigual, muchas veces sin debates públicos ni marcos regulatorios claros. El riesgo es importar soluciones tecnológicas sin adaptar controles institucionales.
Decisiones que no admiten fallas
Automatizar decisiones en justicia y seguridad implica delegar poder en sistemas que no comprenden el contexto social ni las consecuencias humanas de un fallo. La IA puede ser una herramienta valiosa, pero solo si opera bajo reglas estrictas, con supervisión constante y responsabilidad legal clara. En ámbitos donde se define la libertad, la seguridad y los derechos fundamentales, el error no es solo técnico: es político y social.
