Durante siglos, las decisiones que afectan la libertad de una persona estuvieron reservadas exclusivamente a seres humanos. Un policía decide detener. Un fiscal decide acusar. Un juez decide condenar o absolver. Esa cadena de responsabilidades fue, durante toda la historia moderna, una cadena de personas. Hoy, en algunos sistemas judiciales del mundo, un algoritmo ya ocupa un lugar en esa cadena. Y la pregunta que eso genera no es tecnológica: es institucional.
El avance de la inteligencia artificial sobre el sistema de justicia es uno de los fenómenos más significativos y menos debatidos de la transformación tecnológica en curso. Cámaras capaces de reconocer un rostro entre millones de personas en segundos, algoritmos que detectan comportamientos anómalos antes de que un operador humano los advierta, drones autónomos que patrullan fronteras, sistemas que reconstruyen los movimientos de un sospechoso a partir de múltiples fuentes simultáneas. Todo eso ya existe. Y si una máquina puede observar, identificar, comparar y aprender, el debate deja de ser sobre capacidades técnicas para convertirse en un debate sobre poder, control y garantías.
Diego Kravetz, subsecretario de Operaciones de la Secretaría de Inteligencia del Estado y especialista en seguridad pública, planteó recientemente esa pregunta en una columna publicada por Infobae: ¿a cuánto estamos de que la tecnología atrape al delincuente y la inteligencia artificial lo juzgue? La respuesta inmediata suele ser que eso pertenece a la ciencia ficción. Sin embargo, basta observar cómo evolucionó la tecnología durante la última década para descubrir que ese futuro ya empezó.
El caso que marcó un antes y un después
En 2016, la Corte Suprema de Wisconsin resolvió el caso State v. Loomis en un fallo que se convirtió en referencia global. El juez interviniente tuvo en cuenta el resultado de COMPAS, un algoritmo diseñado para estimar el riesgo de reincidencia de un imputado. La Corte avaló su utilización como herramienta de apoyo, pero estableció una advertencia que los especialistas citan hasta hoy: el algoritmo nunca puede reemplazar el criterio del juez ni convertirse en el factor determinante de una sentencia.
El dato es extraordinario en su dimensión histórica. La inteligencia artificial no reemplazó al juez. Pero ya empezó a sentarse a su lado.
Ese desplazamiento, por gradual que parezca, representa una transformación sin precedentes. Durante siglos, evaluar el riesgo de una persona fue una tarea exclusivamente humana, sujeta a intuición, experiencia, contexto y razonamiento jurídico. En algunos sistemas judiciales contemporáneos, esa valoración comienza con una recomendación elaborada por un sistema que procesa variables estadísticas que ningún ser humano podría analizar con la misma velocidad ni en la misma escala.
Objetividad prometida, sesgos posibles
Los defensores de estas herramientas sostienen que permiten decisiones más consistentes y menos influidas por factores subjetivos. El argumento tiene peso: los estudios sobre sesgos en las decisiones judiciales humanas —influenciados por el cansancio, la hora del día, el origen del imputado o la forma en que está redactada la acusación— son numerosos y documentados.
Pero los críticos señalan un problema igualmente serio: los algoritmos aprenden de datos históricos, y esos datos reflejan las desigualdades del sistema que los generó. Un sistema entrenado con décadas de decisiones judiciales que afectaron desproporcionadamente a determinados grupos sociales no produce objetividad: reproduce y escala esa desigualdad a una velocidad que la intervención humana difícilmente puede corregir en tiempo real.
A eso se suma el problema de la opacidad. Muchos de estos sistemas funcionan como cajas negras: producen una recomendación sin que sea posible explicar con precisión por qué llegaron a ella. En un sistema jurídico donde el derecho a conocer los fundamentos de una decisión que afecta la libertad es un principio básico, esa opacidad plantea un desafío que todavía no tiene respuesta satisfactoria.
El escenario de los próximos veinte años
Para Diego Kravetz, no hace falta recurrir a la ciencia ficción para imaginar hacia dónde se dirige esta transformación. En un horizonte de dos décadas, es perfectamente plausible que una inteligencia artificial detecte la comisión de un delito a través de cientos de cámaras urbanas, identifique al sospechoso mediante reconocimiento facial, reconstruya automáticamente su trayectoria utilizando múltiples fuentes de datos, organice la prueba digital disponible y entregue al fiscal un expediente prácticamente completo en cuestión de minutos.
La investigación criminal cambiaría de manera radical. Los tiempos, los recursos y las capacidades serían incomparables con los actuales. Pero también lo serían los riesgos: un error del sistema, un sesgo no detectado o una manipulación de los datos de entrenamiento podrían afectar la libertad de personas inocentes con una eficiencia que ningún error humano individual podría replicar.
La diferencia entre democracia y autoritarismo no está en la tecnología
Existe una distinción fundamental que el debate sobre inteligencia artificial y justicia no puede perder de vista. La diferencia entre una democracia y un régimen autoritario no reside en las herramientas tecnológicas que utiliza, sino en quién las controla y bajo qué reglas operan.
La misma tecnología que permite identificar a un prófugo puede utilizarse para perseguir a un periodista o un dirigente opositor. La misma capacidad de procesar comunicaciones que permite desmantelar una red criminal puede convertirse en un instrumento de vigilancia masiva sin control judicial. Diego Kravetz lo plantea con precisión: la inteligencia artificial puede ser una herramienta extraordinariamente poderosa para mejorar la investigación criminal y asistir a los operadores judiciales, pero ninguna de esas capacidades justifica sustituir el razonamiento jurídico, la responsabilidad institucional o el control humano sobre las decisiones que afectan derechos fundamentales.
El verdadero desafío no es tecnológico
La gran pregunta que la inteligencia artificial le plantea al sistema de justicia no es si puede decidir. Es cuánto estamos dispuestos a dejar que decida, y bajo qué condiciones.
Esa pregunta requiere respuestas legislativas, judiciales e institucionales que en la mayoría de los países todavía están pendientes. Requiere marcos normativos que establezcan qué usos son admisibles y cuáles no, mecanismos de auditoría que permitan examinar el funcionamiento de los algoritmos, y garantías que aseguren que una persona pueda conocer y cuestionar los fundamentos de cualquier decisión que la afecte.
Como señala Diego Kravetz, el desafío del siglo XXI no será construir inteligencias artificiales cada vez más poderosas. Eso ocurrirá de todas formas. El verdadero desafío será construir instituciones capaces de ponerles límites, definir sus usos legítimos y garantizar que la tecnología sirva a la justicia y no al revés.
Porque una sociedad que delega en un algoritmo la decisión sobre la libertad de sus ciudadanos sin establecer controles efectivos no está siendo más eficiente. Está siendo menos libre.
