Sistemas de justicia predictiva en la toma de decisiones en la instrucción penal: nuevos retos en sede procesal. Una mirada desde Europa

  1. JAIME CRIADO ENGUIX
Revista:
Revista General de Derecho Europeo

ISSN: 1696-9634

Año de publicación: 2023

Número: 60

Tipo: Artículo

DIALNET GOOGLE SCHOLAR

Otras publicaciones en: Revista General de Derecho Europeo

Resumen

Los sistemas de predicción y evaluación de riesgos, como herramientas de apoyo en la instrucción penal, pueden servir a diversos propósitos, entre otros: establecer hipótesis de hechos según las pruebas obtenidas por el juez (programa STEVIE); elaborar pronósticos del periculum para la toma de medidas cautelares, como los obtenidos por los sistemas de evaluación de riesgo, de los cuales COMPAS sería un ejemplo en el ámbito de la reincidencia; o predecir los resultados de sentencias (LexMachina), entre otros tantos. La IA representa utilidades muy significativas en Europa, pues no sólo aliviaría la carga de trabajo, sino que, por un lado, conformaría, como instrumento de cooperación internacional, una herramienta idónea para luchar contra la nueva forma digital de crimen organizado, y, por otro, ayudaría a reducir, si los datos son correctos y objetivos, los sesgos humanos. No obstante, tales objetivos, pueden verse dañados por una serie de riesgos, como la falta de transparencia, los fallos técnicos del sistema, o la vulneración de derechos fundamentales procesales. Por ello, procede hacer excurso sobre las utilidades y riesgos potenciales del uso de IA en la justicia predictiva a nivel europeo, como herramienta de apoyo en la instrucción penal, e instrumento necesario contra las nuevas formas de criminalidad digital, a fin de proporcionar un enfoque lo más ecuánime e imparcial del asunto, y determinar si jurídicamente es sugerible la implementación de algoritmos predictivos en el proceso penal.

Referencias bibliográficas

  • Almada, M. (2019). Human intervention in automated decision-making: Toward the construction of contestable systems. ICAIL, 1-10.
  • Álogos, (2018). Introducción a Machine Learning.
  • Angwin, J., Larson, J., Mattu, S., Kirchner, L. (2016). Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, 2016.
  • Augusto Depetris, J. (2021). Organizaciones criminales digitales: conocerlas para enfrentar su desafío. Revista del CLAD Reforma y Democracia, núm. 79, 117-154.
  • Baena Pedrosa, M. (2022). Aplicación de Inteligencia Artificial por los Tribunales Europeos, Ed. Tirant lo Blanch, Valencia.
  • Barona Vilar, S. (2021) Algoritmización del derecho y de la justicia, Ed. Tirant lo Blanch, España.
  • Barona Vilar, S. (2019) Cuarta revolución industrial (4.0) o ciberindustria en el proceso penal: revolución digital, inteligencia artificial y el camino hacia la robotización de la justicia. Revista Jurídica Digital UANDES, 1-17.
  • Barona Vilar, S. (2019) Inteligencia artificial o la algoritmización de la vida y de la justicia: ¿solución o problema? Revista Boliviana de Derecho, nº 28, julio, 18-49.
  • Bathaee, Y. (2018). The Artificial Intelligence Black Box and the Failure of Intent and Causation. Harvard Journal of Law & Technology, vol. 31 (2), 889-938.
  • Borges Blázquez, R. (2020). El sesgo de la máquina en la toma de decisiones en el proceso penal. Ius et Scientia, vol. 6, núm. 2, 54-71.
  • Bueno de Mata, F. (2020). Macrodatos, inteligencia artificial y proceso: luces y sombras. Revista General de Derecho Procesal, nº 51, 1-31.
  • Crawford, K., Schultz, J. (2014). Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms. Boston College Law Review, vol. 55, 13-36.
  • Cuatrecasas Monforte, C. (2022). La Inteligencia Artificial en el proceso penal de instrucción español: posibles beneficios y potenciales riesgos, Universitat Ramon Llull.
  • De Hoyos Sancho, M. (2022). Delincuencia organizada e Inteligencia Artificial. Estrategias y propuestas normativas en el contexto de la Unión Europea desde la perspectiva procesal. En Garrido Carrillo, F.J. (Dir.). Respuesta institucional y normativa al crimen organizado. Perfiles estratégicos para una lucha eficaz (pp. 283-314) Ed. Aranzadi.
  • De la Oliva Santos, A. (2007). Derecho Procesal Penal. Ed. Universitaria Ramón Areces, 8ª Edición, Madrid.
  • Díaz Gómez, A. (2010). El delito informático, su problemática y la cooperación internacional como paradigma de su solución: El Convenio de Budapest, REDUR, nº 8, 169-203.
  • Faggiani, V. (2022). El derecho a un proceso con todas las garantías ante los cambios de paradigma de la Inteligencia Artificial. Teoría y Realidad Constitucional, núm. 50, 517-546.
  • Garrido Carrillo, F.J. (2022). Prólogo. Retos, amenazas, instrumentos y experiencias en la lucha contra el crimen organizado. En Garrido Carrillo, F.J. (Dir.). Respuesta Institucional y normativa al Crimen Organizado. Perfiles estratégicos para una lucha eficaz (pp. 19-35) Ed. Aranzadi.
  • Gómez Colomer, J.L. (2022) Derechos fundamentales, proceso e inteligencia artificial: una reflexión. En Calaza López, S., Llorente Sánchez-Arjona, M. (Dirs.). Inteligencia Artificial Legal y Administración de Justicia (pp. 257-287) Ed. Aranzadi.
  • González-Álvarez, J.L., Santos-Hermoso, J. y Camacho-Collados, M. (2020). Policía predictiva en España. Aplicación y retos futuros. Behavior & Law Journal, 6 (1), 26-41.
  • Graña, J.L., Andreu Rodríguez, J.M., Pozuelo, F. y Ruiz, A. (2014). Evaluación de las propiedades psicométricas del LSI-R en una muestra penitenciaria. Psicopatología Clínica Legal y Forense, vol. 14, nº 1, 7-23.
  • Hamilton, M. (2021). Investigating Algorithmic Risk and Race. UCLA Criminal Justice Law Review, July 20, 53-102.
  • Lammerant, H. y De Hert, P. (2016). Predictive profiling and its legal limits: Effectiveness gone forever. En Van der Sloot, B., Broeders, D., Schrijvers, E. (Eds). Exploring the boundaries of big data (pp. 145-173). Ed. Amsterdam University Press/WRR, vol. 32.
  • Llorente Sánchez-Arjona, M. (2022). Hacia una justicia penal predictiva. Cuadernos de Política Criminal, núm. 136, I, Época II, 91-124.
  • López de Mántaras, R. (2017). Inteligencia Artificial. Ed. Catarata, Madrid.
  • Martínez Garay, L. (2016). Errores conceptuales en la estimación de riesgo de reincidencia. La importancia de diferenciar sensibilidad y valor predictivo, y estimaciones de riesgo absolutas y relativas. Revista Española de Investigación Criminológica, art. 3, núm. 14, 1-31.
  • Molina Caballero, Mª.J. (2013). Principios y formas del proceso y del procedimiento. En Robles Garzón, J.A. (Dir.). Conceptos básicos del derecho procesal civil (pp. 137-152) Ed. Tecnos.
  • Nieva Fenoll, J. (2018). Inteligencia artificial y proceso judicial, Ed. Marcial Pons, Madrid.
  • Pino Díez, R. (2001) Inteligencia Artificial. Introducción a la inteligencia artificial: sistemas expertos, redes neuronales artificiales y computación evolutiva, Ed. Universidad de Oviedo.
  • Quattrocolo, S. (2019). Equita’ del proceso penale e automated evidence allá luce della convenzione europea del diritti dell’uomo. Revista Ítalo-Española de Derecho Procesal, Vol. 1, 107-123.
  • Rayón Ballesteros, Mª. C. (2019). Medidas de investigación tecnológica en el proceso penal: la nueva redacción de la Ley de Enjuiciamiento Criminal operada por la Ley Orgánica 13/2015. Anuario Jurídico y Económico Escurialense, LII, 179-204.
  • Roa Avella, M.P., Sanabria-Moyano, J.E. y Dinas-Hurtado, K. (2022). Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos. Revista Brasileira de Direito Processual Penal, porto Alegre, v.8, nº 1, jan.- abr., 275-310.
  • Ruíz Rodríguez, L.R. y González Agudelo, G. (2008). El factor tecnológico en la expansión del crimen organizado. Centro de Investigación Interdisciplinaria en Derecho Penal Económico (CIIDPE), 1-42.
  • Simón Castellano, P. (2021). Inteligencia artificial y Administración de Justicia: ¿Quo vaids, justitia? Revista de Internet, Derecho y Política, núm. 33, Ed. Universitat Oberta de Catalunya, 1-15.
  • Solar Cayón, J.I. (2018). La codificación predictiva: inteligencia artificial en la averiguación procesal de los hechos relevantes. Anuario Facultad de Derecho- Universidad de Alcalá́ XI, 75-105.
  • Suárez Xavier, P.R. (2020). Gobernanza, inteligencia artificial y justicia predictiva: Los retos en la administración de justicia ante la sociedad en red, Tesis Doctoral, Universidad de Málaga.
  • Velasco Núñez, E. (2011). Novedades técnicas de investigación penal vinculadas a las nuevas tecnologías”. Revista digital El Derecho, Sección Tribuna.
Fuente de los datos: Dialnet