Prisiones: RisCanvi: luces y sombras del algoritmo que ayuda al juez catalán a decidir si mereces la libertad condicional | Transformación digital | La tecnologia

Cuando un detenido solicita ciertos permisos en España, como tercer grado o libertad condicional, el juez que debe autorizar o denegar la solicitud recibe un informe sobre el detenido. Este documento, elaborado por un equipo interdisciplinario del centro penitenciario, aporta elementos en los que basar la decisión. En Cataluña, parte de este informe está elaborado mediante un algoritmo. Se llama RisCanvi y, desde hace 12 años, calcula el riesgo de reincidencia de los reclusos. A pesar de haber estado activo durante tanto tiempo, pocas personas saben que una evaluación tan sensible como esta recae en una máquina. La conveniencia de utilizar un sistema automatizado en estas tareas divide a los expertos. Su eficacia, a la vista de los datos disponibles, no es mala.

La herramienta se aplica a todos los que ingresan a la cárcel. Los prisioneros de la usted paga No fueron la excepción: nadie escapa al reconocimiento físico, psicológico o algorítmico, aunque estos informes son confidenciales. RisCanvi se actualiza cada seis meses con los datos proporcionados al sistema por los funcionarios. Como primer paso, se aplica una versión corta del sistema (RisCanvi Screening), que consta de diez elementos, como el historial violento del interno, la edad a la que cometió la primera infracción, si tiene problemas con las drogas o el alcohol, o si tiene apoyo y recursos familiares. El resultado del algoritmo puede ser de bajo o alto riesgo. Si es alto, se utiliza la versión extendida, que consta de 43 elementos y para cuya preparación también es necesario que un funcionario realice una entrevista programada con el interno.

En la versión completa de RisCanvi, se tienen en cuenta cuestiones como la distancia entre su hogar y la prisión, antecedentes penales de su entorno, nivel de educación, dificultades de socialización, coeficiente intelectual, trastornos de la personalidad, si la persona en cuestión es la principal fuente de ingresos de la familia. o su nivel de impulsividad e inestabilidad emocional. Cada uno de estos elementos se pondera automáticamente y su peso varía según el sexo, la edad y la nacionalidad. El veredicto final del algoritmo puede ser de riesgo bajo, medio o alto.

Unos 800 psicólogos, abogados, criminólogos, educadores y trabajadores sociales operan regularmente este programa. El algoritmo se alimenta de las evaluaciones de los presos que añaden los agentes y de las propias bases de datos penitenciarias (días de condena, sentencias, etc.).

Los defensores de RisCanvi (contracción de riesgo sí canvi, riesgo y cambio en catalán) afirman que esta herramienta ha aportado claridad y rigor a un procedimiento muy sensible. Las voces críticas exigen que sea sometido a auditorías algorítmicas anuales y que se especifique qué peso debe tener el veredicto de este sistema en la decisión final del juez.

Inspiración anglosajona

Cataluña tiene competencias específicas en el ámbito penitenciario. Se rige por las mismas leyes que el resto de España, pero la gestión de los centros es propia. Así, podría poner en marcha este sistema, que no existe en otras comunidades pero similar a las que operan en países como Canadá, Estados Unidos o Reino Unido.

Sus promotores se centraron en estos experimentos. “Queríamos ser más justos en el pronóstico, sobre todo con los presos de bajo riesgo que en ocasiones estaban en la cárcel sin salir”, recuerda Jordi Camps, responsable de los servicios de rehabilitación de la Dirección General de Asuntos Penitenciarios. «Entendimos que un método más científico podría ayudarnos a unificar los criterios de predicción y mejorar estas predicciones».

El equipo de Camps se puso en contacto en 2007 con el Grupo de Estudios Avanzados sobre Violencia de la Universidad de Barcelona (UB), cuyos investigadores son pioneros en la predicción de conductas violentas. “Durante dos años, estudiamos los factores de riesgo de los presos y seleccionamos a los que tienen capacidad predictiva. Se organizó en forma de cuestionario y se desarrollaron los algoritmos para realizar las predicciones ”, explica el Dr. Antonio Andrés Pueyo, profesor de psicología y director del grupo de investigación que desarrolló RisCanvi.

A partir del análisis de una base de datos de 800 casos, se obtuvieron los 43 elementos que componen la herramienta en la actualidad, en cuyo funcionamiento no interviene la inteligencia artificial. “El sistema se construyó con técnicas básicas de regresión múltiple, no tiene una gran complejidad”, subraya Pueyo.

El algoritmo fue lanzado en 2009 y desde entonces ha sido reajustado y recalibrado. “Se basaron en el sistema OASys del Reino Unido y otros como el holandés o el canadiense, pero diseñaron un instrumento a la medida de nuestros factores de riesgo particulares”, explica Marian Martínez, psicóloga de la Unidad de Programas de Intervención, especializada en materia penitenciaria.

¿Funciona bien?

Entrando en detalles, RisCanvi predice cinco cosas: reincidencia generalizada, reincidencia violenta, violencia dentro de la prisión, autolesiones en prisión y violación de permisos. “Después de analizar los datos durante unos años, creo que RisCanvi no es ni radicalmente mejor ni peor que sistemas similares en otros países”, concluye Carlos Castillo, profesor del Departamento de Tecnologías de la Información y las Comunicaciones de la Universidad Pompeu Fabra.

Castillo tuvo acceso al algoritmo RisCanvi. Este es uno de los pocos estudios independientes realizados sobre esta herramienta. «El nivel AUC [un indicador usado en los análisis de rendimiento algorítmicos] es 0,7, donde 0,5 es aleatorio y 1,0 es un sistema perfecto. Lo interesante es que si le pides a un humano que realice esta tarea con la información de los 43 elementos, se obtiene una actuación en más o menos el mismo orden ”, ilustra. Eso dice mucho sobre lo que analiza la herramienta. Su identificación y descripción, y no tanto el aspecto mecánico, es para Castillo la mayor fortaleza de RisCanvi.

El único estudio público que evalúa el rendimiento del algoritmo fue el realizado por el Centre d’Estudis Jurídics y Formació Especialitzada (CEJFE) en 2014 y mide la reincidencia de los internos durante los primeros cuatro años tras su salida de prisión. Las conclusiones son contundentes: el 77% de los internos identificados como de riesgo medio o alto recayeron. Y el 57% de los que no reincidieron fueron etiquetados de bajo riesgo.

La evaluación del recluso por RisCanvi puede ser cambiada por el profesional que prepara el informe si cree que no es adecuado. Según Camps, esto solo ocurre el 1% de las veces. Por otro lado, «que el riesgo de reincidencia detectado por RisCanvi sea alto no significa necesariamente que el detenido no salga, sino que se deben tomar medidas adicionales, como reducir el permiso o ponerse un brazalete telemático», Martínez ilustra. “Si sigue utilizándose 12 años después, significa que funciona internamente y que ninguna crisis ha arrojado sospechas sobre el sistema”, concluye Pueyo.

“RisCanvi es bueno para detectar casos de bajo riesgo, que era uno de los objetivos”, dice Camps. «Unifica los criterios y pone un orden en los factores de riesgo que pueden predecir ciertos comportamientos». Camps recuerda que quienes trabajan con reclusos pueden tener sus propios prejuicios. Los violadores, por ejemplo, tienden a comportarse muy bien en prisión, lo que podría cegar la evaluación de un funcionario. También puede haber alguien que penalice a los detenidos romaníes o a los drogadictos. Todos estos sesgos se mitigarían gracias al algoritmo.

Falta de transparencia

“Hasta el momento, no hemos encontrado ninguna evidencia de que RisCanvi contenga una gran discriminación”, dice Castillo. Aún así, el investigador cree que el algoritmo debería recibir un escrutinio mucho mayor. De hecho, el proyecto de reglamento europeo sobre inteligencia artificial enmarca un sistema como RisCanvi entre los de alto riesgo. “El hecho de que una persona esté en prisión es el resultado de capas y capas de marginación y exclusión. Los datos de justicia penal se encuentran entre los más distorsionados que existen. Por eso debemos tener especial cuidado con ellos y con los algoritmos que se les aplicarán ”, argumenta Castillo.

La consultora Eticas Consulting realizará una auditoría externa del algoritmo en el tercer trimestre de este año. “Aplicaremos ingeniería inversa para analizar el sistema: discutiremos con los interesados ​​para ver si un grupo ha sido discriminado”, subraya su directora general, Gemma Galdón. Le preocupa que el funcionario pueda o no tener en cuenta el veredicto del algoritmo. «Este es un problema muy serio. Si está implementando un algoritmo, debe haber instrucciones muy claras al respecto. Si lo dejas a criterio del usuario, siempre habrá alguien que confiará en la decisión del software y solo hay que validarlo ”.

«Es importante ver cómo funciona un algoritmo, pero es más importante saber cómo se usa», coincide Lorena Jaume-Palasí, experta en ética de algoritmos y asesora del gobierno y del Parlamento Europeo. “Hay personas que se esconden detrás del algoritmo cuando les conviene y también pueden descartar estas sugerencias cuando no coinciden con sus sesgos. Ya hemos visto que los jueces racistas en los Estados Unidos solo están de acuerdo con el sistema Compass si es duro para los negros. «

“RisCanvi tiene mucho margen de mejora”, admite Camps. Incluso si su valoración va en otra dirección: «Creo que en breve avanzaremos hacia el uso de aprendizaje automático o un método de análisis más sofisticado que el que tenemos actualmente ”.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook sí Gorjeo o suscríbete aquí para recibir nuestro boletín semanal.