*Omar es un nombre ficticio. Su nombre se ha cambiado en este reportaje para proteger su identidad real.
En junio de 2025 la junta de tratamiento de la cárcel en la que Omar cumple su condena pidió al juez de vigilancia penitenciaria que le concediera el tercer grado. Lo hizo a través de un informe con información desactualizada. Pero con el convencimiento de que Omar, en prisión desde 2011 y una evolución positiva entre rejas, estaba listo para pasar buena parte de su tiempo en libertad.
En el escrito los funcionarios incluyeron una palabra, RisCanvi, junto a un adverbio: alto. Una señal, según los códigos establecidos en el mundo penitenciario catalán, de que existía un riesgo plausible en torno a Omar. Un riesgo de que al pisar la calle cometiera un nuevo delito o huyese sin haber completado su condena.
Este pronóstico no provenía de una persona, sino de una máquina. RisCanvi es un programa informático que la Generalitat introdujo en sus prisiones en 2010 y que desde entonces evalúa de forma periódica a todas las personas privadas de libertad en Catalunya. La versión actual de este software mide cinco tipos de riesgos, a través del mismo número de algoritmos: reincidencia general, reincidencia violenta, quebrantamiento de condena, violencia autodirigida y violencia contra otros dentro de prisión.
Diseñado originalmente como parte de un protocolo para la gestión interna en los centros, hoy los resultados de RisCanvi son utilizados de forma intensiva también en el ámbito judicial. Por parte de los jueces y los fiscales que deciden si presos como Omar pueden acceder a beneficios penitenciarios en la fase final de la condena, una parte fundamental en su proceso de rehabilitación social.
Este tipo de uso, documentado por Público en esta investigación a través de información y testimonios inéditos, carecería de las garantías que la nueva ley europea exige para algoritmos e inteligencia artificial (IA) en áreas sensibles, como las prisiones y la justicia. También iría en contra del consenso científico sobre cómo usar este tipo de sistemas de apoyo a una decisión humana.
El protocolo RisCanvi, actualmente en proceso de actualización por el Departament de Justícia del Ejecutivo catalán, lleva años en el punto de mira de organizaciones de defensa de los derechos de los presos y de actores de la sociedad civil que promueven un uso responsable de la tecnología. Hasta ahora, el debate se había centrado en la idoneidad o no de usar un algoritmo predictivo con una alta tasa de errores en un área tan delicada. También en la opacidad que este sistema ha arrastrado durante años.
Los hallazgos de esta investigación muestran sin embargo otra línea preocupante. La forma en la que jueces y fiscales usan los resultados de RisCanvi estaría impactando negativamente en los derechos de los presos más vulnerables que hoy cumplen condena en Catalunya.
«En la cárcel si quieres avanzar no te dejan»
El juez de Barcelona que en agosto recibió la petición de tercer grado para Omar dio su visto bueno en noviembre. Sin embargo, cinco días después el fiscal se opuso al ver que el RisCanvi del interno reflejaba un riesgo alto. Una postura a la que finalmente se acogió el magistrado encargado de su expediente, que rechazó la solicitud.
«¡Ya empezamos con lo mismo!». Omar recuerda hoy cómo reaccionó al enterarse de que el riesgo asignado por este sistema de nuevo le complicaba las cosas. Ese mismo argumento en contra, un RisCanvi alto, lo había usado dos años atrás también para oponerse el juez que recibió su primera solicitud de permiso de más de 72 horas.
«En la cárcel si quieres avanzar no te dejan, la verdad», se lamenta este hombre de sonrisa fácil en una sala de la Fundació Marianao, una entidad de Sant Boi de Llobregat (Barcelona) que apoya a internos con pocos recursos. Una jurista y una educadora de esta fundación, también presentes en la sala, acompañan a Omar desde hace años. Con la ayuda de ambas, Omar ha presentado un recurso de apelación ante la Audiencia Provincial de Barcelona todavía pendiente de resolución.
El caso de este recluso en prisión desde 2011 y con una evolución ejemplar entre rejas ejemplifica la forma en que algunos actores judiciales en Catalunya usan hoy los niveles de riesgo asignados por RisCanvi. Y cómo esta utilización condiciona que los internos accedan a una libertad condicional, una progresión de grado o a permisos de varios días una vez han cumplido una cuarta parte de su condena, tal y como establece la ley penitenciaria.
RisCanvi, igual que otros sistemas predictivos parecidos –el algoritmo de VioGén para combatir la violencia machista es el caso más conocido en España-, se creó hace una década y media con un protocolo asociado. En las cárceles catalanes este software está integrado en el día a día de los funcionarios y sus resultados les ayudan, por ejemplo, a decidir qué programas de rehabilitación han de seguir los internos o cuándo es adecuado que salgan de permiso. Estos profesionales reciben además una formación específica antes de empezar a utilizar el programa, según establece el manual de aplicación del protocolo de la propia Generalitat.
«La administración penitenciaria en Catalunya ha hecho un esfuerzo muy grande por que esto tenga una coherencia y esté dentro de un sistema, para que tenga un sentido», señala a Público Lorena Alemán Aróstegui. Esta jurista y doctora en Derecho penal por la Universidad Pública de Navarra, que ejerció como letrada en Catalunya durante varios años, es autora del único trabajo independiente sobre cómo RisCanvi influye en las decisiones judiciales.
Su interés en el tema empezó en 2021 a partir de una experiencia personal. Un juez de Lleida denegó entonces un permiso de salida, que contaba con la aprobación de la junta de tratamiento, a un cliente que cumplía condena en la prisión de Mas d’Enric. Alemán Aróstegui elevó entonces el caso a la Audiencia Provincial de Tarragona a través de un recurso. De poco sirvió. El magistrado validó la posición del juez de vigilancia “porque había resultados de riesgo alto y medio en RisCanvi; algo que ya había alegado el ministerio fiscal”, rememora.
«RisCanvi es un instrumento interno de la administración», explica hoy esta jurista que dedicó su tesis doctoral a profundizar en este espinoso asunto. «En el ámbito administrativo [los funcionarios] están condicionados por el artículo 6 del reglamento penitenciario”, que prohíbe la toma de decisiones basadas en herramientas automatizadas. “Pero es que en el ámbito judicial no hay nada, faltan normas. Hay muchísima discrecionalidad en la toma de decisiones», esgrime Alemán Arostegui en conversación con Público. También hay “mucho margen para que se prueben cosas”, añade.
El RisCanvi en sede judicial
Las más de quince entrevistas a letrados y otros actores judiciales hechas para esta investigación corroboran las tesis de Alemán Arostegui. Y ofrecen además otras claves relevantes. «El RisCanvi tiene mucha importancia a nivel interno y esto nosotros sí que lo consideramos como una herramienta muy potente», analiza Montse Pijoan, letrada del despacho barcelonés de Bataller Abogados. «Pero cuando pasamos al expediente judicial vemos mucha disparidad respecto a cuál es la concepción de RisCanvi o cuál es su alcance», apunta.
Aunque la postura oficial de la Generalitat es que los resultados de estos algoritmos son usados sólo por los profesionales de prisiones, la realidad es diferente. Cuando el propio interno o la junta de tratamiento solicita un beneficio penitenciario, el responsable de este órgano colegiado envía a los juzgados un informe que en casi todos los casos incluye los riesgos asignados por RisCanvi. Una información que a diferencia de lo que ocurre con los técnicos de la junta llega sin el debido contexto a sede judicial, explican las fuentes consultadas.
«En algunos juzgados vemos que la relevancia del RisCanvi es prácticamente determinante. Si ven un RisCanvi alto [en el expediente], ya es una barrera muy difícil de superar. Lo mismo ocurre con los fiscales», apunta la letrada Pijoan. “Si el riesgo es medio o alto, mi experiencia es que la Fiscalía te tumba el permiso”, corrobora Eva María Vivo, presidenta de la comisión de penitenciario del ICAB, el colegio de la abogacía de Barcelona.
Las resoluciones judiciales a las que Público ha tenido acceso y los letrados entrevistados dibujan además un uso variable por parte de los diferentes actores judiciales involucrados. Mientras que para algunos jueces de vigilancia y los fiscales que los asesoran RisCanvi tiene un peso decisivo, las audiencias provinciales «cada vez hacen una lectura más matizable de sus resultados del RisCanvi», resume Pijoan.
«Recurrir al RisCanvi es una herramienta fácil. Si a mí me dan riesgos altos o medios, deniego permisos, deniego tercer grado, no me hace falta decir nada más. Es una solución más fácil», reflexiona un juez de la jurisdicción de penitenciario en Catalunya en ejercicio que ha hablado con Público bajo condición de anonimato.
Este magistrado con amplia experiencia critica la falta de directrices claras y señala también cómo las evaluaciones de RisCanvi condicionan casi siempre la postura del ministerio fiscal. Si estas no se incluyen en el expediente del interno, los fiscales las solicitan a la prisión, explica. «Pero si le sale bajo, no lo va a decir. Siempre se lo calla», añade.
Una predicción falible
Los algoritmos integrados en RisCanvi realizan sus cálculos a partir de 43 factores considerados de riesgo. Algunos son estáticos, es decir tienen que ver con la biografía del interno. Por ejemplo, el tipo de delito, la edad con la que delinquió por primera vez, los antecedentes delictivos familiares o la nacionalidad. Mientras que otros son dinámicos y sobre el papel pueden variar con el tiempo.
Aquí aparecen cuestiones como su grado de impulsividad y hostilidad, su respuesta al tratamiento en la cárcel o si ha tenido conflictos con otros presos, entre otros. Cada escala de riesgo en RisCanvi tiene una combinación diferente de variables. Esta información, tanto los factores estáticos como dinámicos, la recogen, valoran e introducen en el software los integrantes de la junta de tratamiento, formada por juristas, psicólogos, trabajadores sociales, pedagogos y educadores.
Saber con exactitud por qué los niveles de riesgo de Omar se han mantenido altos estos años es una tarea compleja. Su buen comportamiento en prisión, la ausencia de partes desde 2014 o las sucesivas salidas, tanto programadas como judiciales, llevarían a pensar en unos riesgos tendentes a cero. Sin embargo, sus niveles de RisCanvi no se han movido.
Anneris Álava, educadora de la Fundació Marianao que le acompaña desde hace años, apunta una hipótesis. Que el tipo de delito por el que entró en prisión en 2011 -calificado como violento por el juez que le condenó- y su estado de intoxicación por alcohol al cometerlo continúen hasta hoy penalizando a Omar. Ambas variables tienen un peso especialmente importante en la cocina algorítmica de RisCanvi.
A esto se podría añadir un tercer factor. Durante varios momentos de su cadena permisiva, el RisCanvi de Omar no se ha actualizado como establece el protocolo, es decir al menos cada medio año, advierte Mónica Pons, jurista y compañera de Álava en el equipo que le acompaña. “Los informes que le llegaban al juez reflejaban una situación que no era en la que se encontraba realmente”, apunta sobre las primeras denegaciones de permiso que enfrentaron.
Una mala praxis que de acuerdo a varios letrados entrevistados es hoy relativamente frecuente en las cárceles catalanas, con problemas de personal y recursos desde hace tiempo. «Nos cuesta mucho que actualicen el RisCanvi. En teoría lo tienen que hacer cada seis meses, cuando tiene revisión del grado, pero nos encontramos con que no ocurre», dice la letrada Pijoan.
Carlos Castillo es científico de datos y profesor titular en la Universitat Pompeu Fabra (UPF) de Barcelona. Castillo y su equipo llevan años investigando los algoritmos de este sistema. Varios de estos estudios los han hecho además en colaboración con el Departament de Justícia y con datos reales de reincidencia de presos previamente analizados por RisCanvi.
Castillo explica que la precisión de estos modelos predictivos es muy parecida a la de otras herramientas similares que se usan, también desde hace años, en países como Canadá, Estados Unidos y Reino Unido. «Si uno toma un par de internos, uno de los cuales ha reincidido y otro no, en algo más del 70% de los casos RisCanvi le habrá dado una puntuación más alta al interno que reincidió respecto al que no lo hizo. Pero en un 30% de los casos RisCanvi habrá puntuado más alto al que no cometió la reincidencia respecto al que sí la cometió», resume Castillo.
Esta métrica habitual para medir la fiabilidad de modelos predictivos -conocida como Área bajo la curva (AUC)-, explica este científico, se ha de interpretar como que el acierto del Riscanvi en un poco más de siete de cada diez casos «permite ordenar internos desde el que tiene más riesgo al que tiene menos».
El restante 30% «entra dentro de incertezas que provienen del hecho de que no conocemos todos los antecedentes de la persona», ni lo que le ocurrirá durante el resto de su vida. Como cualquier intento de adivinar lo que pasará en el futuro, concluye Castillo, «esa predicción nunca es perfecta».
«Vacío de garantías»
RisCanvi se creó hace década y media a partir de la evidencia científica existente sobre qué factores disparan o reducen el riesgo de que un interno reincida. La Generalitat se apoyó para esta tarea en un equipo universitario experto en la predicción de la violencia. Desde entonces sus responsables de prisiones defienden que sólo es un elemento informativo más para los profesionales de los centros. RisCanvi, insisten en público y en privado, sirve para «orientar» y «complementar» sus decisiones.
Los funcionarios encargados de validar los resultados del software, al hacer esta tarea ven en la pantalla de su ordenador un mensaje de advertencia que coincide con este enfoque. En él se lee que los niveles de riesgo de RisCanvi han de interpretarse «teniendo en cuenta el motivo y el contexto» y en ningún caso han de «condicionar las decisiones», según una imagen a la que ha accedido Público.
Las precauciones dentro de las prisiones catalanas contrastan con cómo los resultados de RisCanvi intervienen en sede judicial. Fuentes próximas al Tribunal Superior de Justícia de Catalunya, responsable de los jueces de vigilancia y las audiencias provinciales, confirman que no existe un criterio establecido entre los magistrados sobre cómo usar esta información. Y admiten que la formación en torno a esta herramienta ha sido muy escasa, proviniendo principalmente del ICAB.
El juez entrevistado menciona también un curso organizado antes de la pandemia por el Centre d’Estudis Jurídics i Formació Especialitzada, CEJFE, dependiente de Justícia, como la única ocasión en la que han podido intercambiar impresiones con funcionarios de prisiones sobre este tema.
Este juez señala además la importancia de conocer qué factores de riesgo valora el software para poder ponerlo en su verdadero contexto. «Si tú sabes el peso que tiene el ser inmigrante o tener una familia desestructurada, por ejemplo, tu grado de credibilidad o de fe ciega en el RisCanvi va a ser distinto», apunta.
Durante varios meses, Público ha tratado de entrevistar a un portavoz de la Fiscalía Superior de Catalunya, que declinó inicialmente la petición. Posteriormente, el fiscal coordinador de vigilancia penitenciaria Francisco J. Faus, en conversación telefónica con este medio, defendió el uso que los fiscales hacen de los niveles de riesgo asignados por RisCanvi. También su conocimiento sobre las limitaciones y fortalezas de este sistema para evaluar el riesgo de los internos.
En 2024 la Unión Europa aprobó un nuevo reglamento de inteligencia artificial que pone el foco en el uso de algoritmos en áreas especialmente sensibles o de «alto riesgo». A estas aplicaciones se les exige unos requisitos de seguridad, control y transparencia especialmente exigentes.
«Desde el punto de vista regulatorio, el uso de un sistema de IA debe ajustarse a la finalidad prevista por quien lo desarrolla y valida. Extender su utilización sin una evaluación específica puede generar un vacío de garantías», señala Judith Membrives i Llorens, responsable de Tecnología y Derechos Humanos en Lafede, la principal federación de ONG de Catalunya. Esta investigadora, que junto a otros actores de la sociedad civil europea lleva meses implicada en la defensa de una aplicación garantista de la nueva regulación, califica este uso como «desplazamiento de finalidad».
«Cuando herramientas diseñadas para orientar decisiones técnicas se convierten en argumentos de autoridad en sede judicial, se diluye la frontera entre apoyo técnico y delegación de juicio. Y esa delegación algorítmica tiene implicaciones profundas para el Estado de Derecho y la democracia», añade Membrives i Llorens.
Castillo hace una reflexión en la misma línea y califica el uso de RisCanvi en el ámbito judicial como un «uso no anticipado, un uso no previsto». Y advierte de que «ese tipo de usos son los que normalmente llevan a situaciones de discriminación y sesgo». «El RisCanvi es una herramienta para apoyar la decisión de una junta de tratamiento. Para eso está diseñada y para eso ha sido probada”, concluye.
El Departament de Justícia de la Generalitat ha declinado las reiteradas peticiones de Público para entrevistar a un portavoz, como parte de esta investigación. A preguntas por correo electrónico sobre el uso de los resultados del RisCanvi por actores judiciales, fuentes oficiales aseguran que la Secretaria de Mesures Penals, Reinserció i Atenció a la Víctima, área responsable de los servicios penitenciarios, «facilita información únicamente a aquellos órganos que estén legitimados normativamente para recibirla».
«No obstante, no podemos atender consultas relativas al uso que otros órganos judiciales o fiscales puedan hacer de dicha información», añaden estas fuentes.
Contacto con el exterior
Contar con una foto detallada de cómo RisCanvi influye en los derechos de todos los presos catalanes es hoy difícil. A diferencia de lo que ocurre con las resoluciones de las audiencias provinciales –disponibles a través del CENDOJ, el centro de documentación del poder judicial-, los fallos de los juzgados de vigilancia penitenciaria no son públicos.
Esto impide conocer de forma exhaustiva cuántos expedientes se frenan en esta primera instancia judicial a causa de estos algoritmos. A ello hay que añadir, además, que son pocos los internos que llegan hasta la segunda instancia, las audiencias. Debido a que sólo un pequeño porcentaje recurre frente a una denegación de permiso, señala Altamira Guelbenzu, abogada del colectivo IACTA y letrada en el turno de oficio.
Guelbenzu explica que la mayoría de los presos en Catalunya desconocen cómo presentar un recurso, o cómo acceder a un abogado de oficio que les ayude en esta tarea. «Existe una falta de información muy heavy» que se agrava en el caso de los internos extranjeros que no dominan el idioma, añade. «Todo esto hace que pocas veces estos casos lleguen a los juzgados y a las audiencias. Existe un agujero de información que dificulta ver la dimensión de esto», concluye esta letrada.
Anneris Álava, de la Fundación Marianao, coincide en este análisis y aporta otra clave importante. «Se ha de partir de la base de que la gran mayoría de personas internas en centros penitenciarios no tienen los recursos económicos suficientes como para permitirse buenos abogados», apunta.
La imposibilidad, en muchas ocasiones, de acceder a una defensa con garantías unida al peso de RisCanvi provoca que los internos vulnerables con frecuencia «no puedan disfrutar de beneficios penitenciarios» a pesar de reunir los requisitos para ello, reflexiona Álava. Una situación en la que con probabilidad se habría visto Omar de no contar con el apoyo de la fundación.
Este hombre espigado llegó a Catalunya siendo menor de edad desde un país del Magreb. Fue un menor tutelado y pasó por varios centros de acogida. Gracias a la Fundació Marianao encontró su primer empleo, que le permitió vivir de forma independiente unos años. Pero al poco de entrar en la veintena todo se torció.
«Me he complicado la vida yo solo», afirma hoy. «La verdad, la libertad no la valoras hasta que la pierdes. Ahora mismo te digo que cuento los minutos, uno a uno, porque me dan horas…», reflexiona durante una de sus últimas salidas de permiso. Los profesionales que trabajan día a día con la población reclusa inciden en la importancia de los beneficios penitenciarios. Consideran que es un elemento clave para lograr un proceso de reinserción exitoso, que permita a estas personas vivir de nuevo en sociedad sin delinquir.
«Una parte muy importante de la condena, aparte de tratar la problemática que le haya llevado a delinquir, y en el momento en que esto ya se ha podido tratar, también es retomar el contacto con el exterior. Porque al final la condena se acaba y es con lo que esa persona se va a encontrar cuando salga», apunta Mónica Pons.
«Una persona que lleva encerrada muchos años tiene que ir paulatinamente encontrándose de nuevo con esta sociedad, con todos los cambios que han ocurrido durante el tiempo que ha estado en el centro», añade su compañera Álava. De lo contrario, la probabilidad de que reincida, especialmente entre internos con algún problema de toxicomanía y otros perfiles vulnerables, aumenta de forma exponencial, explica esta educadora.
Omar rememora el enfado que sintió hace unos meses cuando le comunicaron, dentro de prisión, que el juez se había opuesto finalmente a su progresión de grado. «Ya estoy acostumbrado», dice con resignación.
«¿Qué hago? ¿Voy a chillar? No, porque voy a perderlo todo. ¿Voy a echarles bronca? No, porque yo para ellos soy un número más. Cuando estás dentro, no es igual a como estamos sentados aquí. Eres un número más, les da igual. Tú chillas, te llama un funcionario, te chapan y ya pierdes todo. Hay que usar la cabeza».
Omar asegura que «ha tenido suerte» de tener el apoyo de esta fundación. De lo contrario, su presente probablemente sería muy diferente y no vería el futuro con «optimismo», como hace ahora. «La primera vez que salí fui muy feliz porque llevaba muchos años dentro. Lo que ven todos los días en libertad, tú no lo ves. Porque estás en un patio. Es otro mundo», concluye.
RisCanvi, el algoritmo de la cárcel es una investigación periodística de Público. En los siguientes enlaces puedes acceder a todos los contenidos del proyecto.
Este proyecto ha tenido el apoyo de Civic Journalism Coalition, una coalición impulsada por las organizaciones EDRI, ECNL y Lighthouse Reports.