Sistemas de justicia predictiva en la toma de decisiones en la instrucción penal: nuevos retos en sede procesal. Una mirada desde Europa

  1. JAIME CRIADO ENGUIX
Revista:
Revista General de Derecho Europeo

ISSN: 1696-9634

Any de publicació: 2023

Número: 60

Tipus: Article

DIALNET GOOGLE SCHOLAR

Altres publicacions en: Revista General de Derecho Europeo

Resum

Prediction and risk assessment systems, as support tools in criminal investigations, can serve various purposes, including: establishing hypotheses of facts according to the evidence obtained by the judge (STEVIE programme); drawing up periculum forecasts for taking precautionary measures, such as those obtained by risk assessment systems, of which COMPAS would be an example in the field of recidivism; or predicting the results of sentences (LexMachina), among others. AI represents very significant utilities in Europe, as it would not only ease the workload but, on the one hand, as an instrument of international cooperation, it would be an ideal tool to fight the new digital form of organised crime, and, on the other hand, it would help to reduce, if the data are correct and objective, human biases. However, these objectives may be undermined by a number of risks, such as lack of transparency, technical failures of the system, or infringement of fundamental procedural rights. It is therefore appropriate to discuss the potential benefits and risks of the use of AI in predictive justice at European level, as a support tool in criminal investigation, and a necessary instrument against new forms of digital criminality, in order to provide a more even-handed and impartial approach to the issue, and to determine whether the implementation of predictive algorithms in criminal proceedings is legally feasible.

Referències bibliogràfiques

  • Almada, M. (2019). Human intervention in automated decision-making: Toward the construction of contestable systems. ICAIL, 1-10.
  • Álogos, (2018). Introducción a Machine Learning.
  • Angwin, J., Larson, J., Mattu, S., Kirchner, L. (2016). Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica, 2016.
  • Augusto Depetris, J. (2021). Organizaciones criminales digitales: conocerlas para enfrentar su desafío. Revista del CLAD Reforma y Democracia, núm. 79, 117-154.
  • Baena Pedrosa, M. (2022). Aplicación de Inteligencia Artificial por los Tribunales Europeos, Ed. Tirant lo Blanch, Valencia.
  • Barona Vilar, S. (2021) Algoritmización del derecho y de la justicia, Ed. Tirant lo Blanch, España.
  • Barona Vilar, S. (2019) Cuarta revolución industrial (4.0) o ciberindustria en el proceso penal: revolución digital, inteligencia artificial y el camino hacia la robotización de la justicia. Revista Jurídica Digital UANDES, 1-17.
  • Barona Vilar, S. (2019) Inteligencia artificial o la algoritmización de la vida y de la justicia: ¿solución o problema? Revista Boliviana de Derecho, nº 28, julio, 18-49.
  • Bathaee, Y. (2018). The Artificial Intelligence Black Box and the Failure of Intent and Causation. Harvard Journal of Law & Technology, vol. 31 (2), 889-938.
  • Borges Blázquez, R. (2020). El sesgo de la máquina en la toma de decisiones en el proceso penal. Ius et Scientia, vol. 6, núm. 2, 54-71.
  • Bueno de Mata, F. (2020). Macrodatos, inteligencia artificial y proceso: luces y sombras. Revista General de Derecho Procesal, nº 51, 1-31.
  • Crawford, K., Schultz, J. (2014). Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms. Boston College Law Review, vol. 55, 13-36.
  • Cuatrecasas Monforte, C. (2022). La Inteligencia Artificial en el proceso penal de instrucción español: posibles beneficios y potenciales riesgos, Universitat Ramon Llull.
  • De Hoyos Sancho, M. (2022). Delincuencia organizada e Inteligencia Artificial. Estrategias y propuestas normativas en el contexto de la Unión Europea desde la perspectiva procesal. En Garrido Carrillo, F.J. (Dir.). Respuesta institucional y normativa al crimen organizado. Perfiles estratégicos para una lucha eficaz (pp. 283-314) Ed. Aranzadi.
  • De la Oliva Santos, A. (2007). Derecho Procesal Penal. Ed. Universitaria Ramón Areces, 8ª Edición, Madrid.
  • Díaz Gómez, A. (2010). El delito informático, su problemática y la cooperación internacional como paradigma de su solución: El Convenio de Budapest, REDUR, nº 8, 169-203.
  • Faggiani, V. (2022). El derecho a un proceso con todas las garantías ante los cambios de paradigma de la Inteligencia Artificial. Teoría y Realidad Constitucional, núm. 50, 517-546.
  • Garrido Carrillo, F.J. (2022). Prólogo. Retos, amenazas, instrumentos y experiencias en la lucha contra el crimen organizado. En Garrido Carrillo, F.J. (Dir.). Respuesta Institucional y normativa al Crimen Organizado. Perfiles estratégicos para una lucha eficaz (pp. 19-35) Ed. Aranzadi.
  • Gómez Colomer, J.L. (2022) Derechos fundamentales, proceso e inteligencia artificial: una reflexión. En Calaza López, S., Llorente Sánchez-Arjona, M. (Dirs.). Inteligencia Artificial Legal y Administración de Justicia (pp. 257-287) Ed. Aranzadi.
  • González-Álvarez, J.L., Santos-Hermoso, J. y Camacho-Collados, M. (2020). Policía predictiva en España. Aplicación y retos futuros. Behavior & Law Journal, 6 (1), 26-41.
  • Graña, J.L., Andreu Rodríguez, J.M., Pozuelo, F. y Ruiz, A. (2014). Evaluación de las propiedades psicométricas del LSI-R en una muestra penitenciaria. Psicopatología Clínica Legal y Forense, vol. 14, nº 1, 7-23.
  • Hamilton, M. (2021). Investigating Algorithmic Risk and Race. UCLA Criminal Justice Law Review, July 20, 53-102.
  • Lammerant, H. y De Hert, P. (2016). Predictive profiling and its legal limits: Effectiveness gone forever. En Van der Sloot, B., Broeders, D., Schrijvers, E. (Eds). Exploring the boundaries of big data (pp. 145-173). Ed. Amsterdam University Press/WRR, vol. 32.
  • Llorente Sánchez-Arjona, M. (2022). Hacia una justicia penal predictiva. Cuadernos de Política Criminal, núm. 136, I, Época II, 91-124.
  • López de Mántaras, R. (2017). Inteligencia Artificial. Ed. Catarata, Madrid.
  • Martínez Garay, L. (2016). Errores conceptuales en la estimación de riesgo de reincidencia. La importancia de diferenciar sensibilidad y valor predictivo, y estimaciones de riesgo absolutas y relativas. Revista Española de Investigación Criminológica, art. 3, núm. 14, 1-31.
  • Molina Caballero, Mª.J. (2013). Principios y formas del proceso y del procedimiento. En Robles Garzón, J.A. (Dir.). Conceptos básicos del derecho procesal civil (pp. 137-152) Ed. Tecnos.
  • Nieva Fenoll, J. (2018). Inteligencia artificial y proceso judicial, Ed. Marcial Pons, Madrid.
  • Pino Díez, R. (2001) Inteligencia Artificial. Introducción a la inteligencia artificial: sistemas expertos, redes neuronales artificiales y computación evolutiva, Ed. Universidad de Oviedo.
  • Quattrocolo, S. (2019). Equita’ del proceso penale e automated evidence allá luce della convenzione europea del diritti dell’uomo. Revista Ítalo-Española de Derecho Procesal, Vol. 1, 107-123.
  • Rayón Ballesteros, Mª. C. (2019). Medidas de investigación tecnológica en el proceso penal: la nueva redacción de la Ley de Enjuiciamiento Criminal operada por la Ley Orgánica 13/2015. Anuario Jurídico y Económico Escurialense, LII, 179-204.
  • Roa Avella, M.P., Sanabria-Moyano, J.E. y Dinas-Hurtado, K. (2022). Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos. Revista Brasileira de Direito Processual Penal, porto Alegre, v.8, nº 1, jan.- abr., 275-310.
  • Ruíz Rodríguez, L.R. y González Agudelo, G. (2008). El factor tecnológico en la expansión del crimen organizado. Centro de Investigación Interdisciplinaria en Derecho Penal Económico (CIIDPE), 1-42.
  • Simón Castellano, P. (2021). Inteligencia artificial y Administración de Justicia: ¿Quo vaids, justitia? Revista de Internet, Derecho y Política, núm. 33, Ed. Universitat Oberta de Catalunya, 1-15.
  • Solar Cayón, J.I. (2018). La codificación predictiva: inteligencia artificial en la averiguación procesal de los hechos relevantes. Anuario Facultad de Derecho- Universidad de Alcalá́ XI, 75-105.
  • Suárez Xavier, P.R. (2020). Gobernanza, inteligencia artificial y justicia predictiva: Los retos en la administración de justicia ante la sociedad en red, Tesis Doctoral, Universidad de Málaga.
  • Velasco Núñez, E. (2011). Novedades técnicas de investigación penal vinculadas a las nuevas tecnologías”. Revista digital El Derecho, Sección Tribuna.
Fuente de los datos: Dialnet