El derecho a un proceso con todas las garantías ante los cambios de paradigma de la inteligencia artificial

  1. Faggiani, Valentina 1
  1. 1 Universidad de Granada
    info

    Universidad de Granada

    Granada, España

    ROR https://ror.org/04njjy449

Revista:
Teoría y realidad constitucional

ISSN: 1139-5583

Año de publicación: 2022

Título del ejemplar: Poder Judicial

Número: 50

Páginas: 517-546

Tipo: Artículo

DOI: 10.5944/TRC.50.2022.36382 DIALNET GOOGLE SCHOLAR lock_openDialnet editor

Otras publicaciones en: Teoría y realidad constitucional

Resumen

El presente trabajo analiza cómo la tutela judicial efectiva, que constituye el centro del sistema de justicia en el Estado de Derecho, se está adaptando a la irrupción de las tecnologías de inteligencia artificial. A tal fin, tras analizar los roles y las funciones que los algoritmos pueden asumir en las distintas fases de la justicia penal, en virtud de su carácter poliédrico y polifacético, se reflexionará sobre la necesidad de un estatuto procesal europeo de la IA. Para ello, se centrará en las razones por las que es necesario regular el «due process of law algorítmico», lo cual exige repensar las categorías básicas del Derecho, a través del juicio de compatibilidad, y en el estado de la cuestión, haciendo referencia a cómo se está progresivamente regulando y especialmente a la Propuesta de Reglamento de la UE sobre la IA, adoptada en abril de 2021, cuyo objetivo es construir un «ecosistema de garantías».

Referencias bibliográficas

  • Mayer-Schönberger, V. y Cukier, K., Big Data: A Revolution that Will Transform How We Live Work and Think, New York: Houghton Mifflin Harcout, 2013.
  • Pérez Estrada, M.J., Fundamentos jurídicos para el uso de la inteligencia artificial en los órganos judiciales, Valencia: Tirant lo Blanch, 2022, pp. 26 y 27
  • Armenta Deu, T., Derivas de la justicia. Tutela de los derechos y solución de controversias en tiempos de cambios, Madrid: Marcial Pons, 2021, p. 23,
  • Bueno de Mata, F., «Macrodatos, inteligencia artificial y proceso: luces y sombras», Revista General de Derecho Procesal, n. 51, 2020, pp. 1-31.
  • Balkin, J.B., «The Path of Robotics Law», California Law Review Circuit, vol. 6, 2015, pp. 45-60,
  • Turing, A., publicó «Computing Machinery and Intelligence», Mind, n. 49, 1950, pp. 433-460, .
  • Lessig, L., The Code version 2.0, Cambridge: Basic Books, 2006. 7 Bueno de Mata, F., cit., p. 8. 8 Cesari, C., «Editoriale: L’impatto delle nuove tecnologie sulla giustizia penale — un orizzonte denso di incognite», Revista Brasileira de Direito Processual Penal, vol. 5, n. 3, 2019, pp. 1167-1188.
  • Nieva Fenoll, J., Inteligencia artificial y proceso judicial, Barcelona: Marcial Pons, 2018.
  • ZavrÅ¡nik, A., «Criminal justice, artificial intelligence systems, and human rights», ERA Forum, 20, 2020, pp. 567-583.
  • Faggiani, V., «La inteligencia artificial: ¿una herramienta contra o un arma al servicio del crimen?», Spiezia, F. y Faggiani, V., Ataque a Europa: un atlas del crimen para comprender las amenazas, las respuestas y las perspectivas, Valencia: Tirant lo Blanch, 2022, pp. 219-257.
  • Faggiani, V., «La lotta contro il crimine attraverso gli algoritmi: contraddizioni e profili di (in)constituzionalità dell’applicazione dell’IA alla giustizia penale», Garrido Carrillo, F.J. (Dir.); Faggiani, V. (Coord.), Respuesta institucional y normativa al crimen organizado. Perfiles estratégicos para una lucha eficaz, Cizur Menor: Thomson Reuters Aranzadi, 2022, pp. 245-282.
  • Fedotov, Y., «In Just Two Decades, Technology Has Become A Cornerstone Of Criminality», Huffington Post UK, 23.10.2017
  • Massaro, A., «Intelligenza artificiale, diritto e giustizia penale: coordinate ricostruttive», Massaro, A., Intelligenza artificiale e giustizia penale, Roma: Università Roma Tre, 2020, pp. 11-38.
  • Barona Vilar, S., «Inteligencia Artificial o la Algoritmización de la vida y de la justicia: ¿solución o problema?», Revista Boliviana de Derecho, n. 28, 2019, pp. 18-49,
  • Barona Vilar, S., Claves de la justicia penal: feminización, inteligencia artificial, supranacionalidad y seguridad, Valencia: Tirant lo Blanch, 2019.
  • Cinelli, V. y Manrique Gan, A., «El uso de programas de análisis predictivo en la inteligencia policial. Una comparativa europea», Revista de estudios en seguridad internacional, vol. 5, n. 2, 2019, pp. 1-19
  • González Álvarez, J.L.; Santos Hermoso, J. y Camacho-Collados, M., «Policía predictiva en España: aplicación y retos futuros», Behavior & Law Journal, vol. 6, n. 1, 2020, pp. 26-41
  • González Álvarez, J.L.; López Ossorio, J.J. y Muñoz Rivas, M., La valoración policial del riesgo de violencia contra la mujer pareja en España — Sistema VioGén, Ministerio de Interior, Secretaría de Estado de Seguridad, Gabinete de Coordinación y Estudio, Madrid, septiembre de 2018.
  • Calaza López, S. y Llorente Sánchez-Arjona, M. (dirs.), Inteligencia artificial legal y administración de justicia, Cizur Menor: Thomson Reuters Aranzadi, 2022, pp. 289-338.
  • Basile, F., «Intelligenza artificiale e diritto penale: quattro possibili percorsi di indagine», Diritto Penale e Uomo, 2019, pp. 28 y 29,
  • Liptak, A., «Sent to Prison by a Software Program’s Secret Algorithms», The New York Times, 1.5.2017 (http://nyti.ms/2qoe8FC).
  • Hoyos Sancho, M., «El uso jurisdiccional de los sistemas de inteligencia artificial y la necesidad de su armonización en el contexto de la Unión Europea», RGDPr, n. 55, 2021, p. 11.
  • Huq, A.Z., «Racial Equity in Algorithmic Criminal Justice», Duke Law Journal, vol. 68, 2019, pp. 1043-1134.
  • Miró Llinares, F., «Inteligencia artificial y Justicia Penal: Más allá de los resultados lesivos causados por robots», Revista de Derecho Penal y Criminología, n. 20, 2018, pp. 87-130
  • de Miguel Beriain, I. y Pérez Estrada, M.J., «La inteligencia artificial en el proceso penal español: un análisis de su admisibilidad sobre la base de los derechos fundamentales implicados», Revista de Derecho de la UNED, n. 25, 2019, pp. 531-561.
  • Gialuz, M., «Quando la giustizia penale incontra l’intelligenza artificiale: luci e ombre dei risk assessment tools tra Stati Uniti e Europa», Diritto penale contemporaneo, 29.5.2019, p. 21.
  • Brenner, M., y otros, «Constitutional Dimensions of Predictive Algorithms in Criminal Justice», Harvard Civil Rights-Civil Liberties Law Review, vol. 55, Issue 1, 2020, pp. 267-310.
  • Quattrocolo, S., «Quesiti nuovi e soluzioni antiche?: Consolidati paradigmi normativi vs rischi e paure della giustizia digitale ‘predittiva’», Cassazione Penale, vol. 59, n. 4, 2019, pp. 1748-1765.
  • Gesley, J., «Netherlands: Court Prohibits Government’s Use of AI Software to Detect Welfare Fraud», Global Legal Monitor, 13.5.2020; Ng, Y. F.; O’Sullivan, M.; Paterson, M. y Witzleb, N., «Revitalising public law in a technological era: rights, transparency and administrative justice», University of New South Wales Law Journal, vol. 43, n. 3, 2020, pp. 1-37;
  • Lazcoz Moratinos, G. y Castillo Parrilla, J.A., «Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI», Revista Chilena de Derecho y Tecnología, vol. 9, n. 1, 2020, pp. 207-225.
  • Kostoris, R., «Predizione decisoria, diversion processuale e archiviazione», www.sistemapenale.it, 23.7.2021, p. 3,
  • Morelli, A., «Il giudice robot e il legislatore naïf. La problematica applicazione delle nuove tecnologie all’esercizio delle funzioni pubbliche», Consulta online, 6.8.2020, pp. 8-9.
  • Luciani, M., «La decisione giudiziaria robotica», Rivista dell’Associazione Italiana dei Costituzionalisti, n. 3, 2018, pp. 872-893.
  • Manes, V., «L’oracolo algoritmico e la giustizia penale: al bivio tra tecnologia e tecnocrazia», discrimen.it, 15.5.2020, p. 2.
  • Casonato, C., «Intelligenza artificiale e diritto costituzionale: prime considerazioni», Diritto pubblico comparato ed europeo, núm. especial, 2019, pp. 101-130.
  • Contissa, G.; Lasagni, G. y Sartor, G., «Quando a decidere in materia penale sono (anche) algoritmi e IA: alla ricerca di un rimedio effettivo», Diritto di internet, 2019, pp. 619-634.
  • Luciani, M., cit., p. 874. 46 Ídem. 47 De la Oliva Santos, A., «‘Justicia predictiva’, interpretación matemática de las normas, sentencias robóticas y la vieja historia del ‘Justizklavier’», El Cronista del Estado Social y Democrático de Derecho, n. 80, 2019, p. 34.
  • Donati, F., «Intelligenza artificiale e giustizia», Rivista AIC, n. 1, 2020, pp. 416-436.
  • Medvedeva, M.; Vols, M. y Wieling., M., «Using machine learning to predict decisions of the European Court of Human Rights», Artificial Intelligence and Law, vol. 28, 2020, pp. 237-266
  • Aletras, N.; Tsarapatsanis, D.; PreoÅ£iuc-Pietro, D. y Lampos, V., «Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective», PeerJ Comput. Sci., vol. 2, 2016 (https://peerj.com/articles/cs-93/).
  • Citron, D. K., «Technological Due Process», Washington University Law Review, vol. 85, Issue 6,
  • Balaguer Callejón, F., «Inteligencia artificial, democracia y derechos», en Guerra Filho, W.S.; Santaella, L.; Kaufman, D. y Cantarini, P. (Orgs.), Direito e Inteligência Artificial: Fundamentos, Vol. 1 Inteligência Artificial, Ética e Direito, Rio de Janeiro: Lumen Juris, 2021, pp. 57-82.
  • A., «The Impact of the New Mediators of the Digital Age on Freedom of Speech», YSEC Yearbook of Socio-Economic Constitutions, 2022.
  • Hernández Peña, J.C., «Gobernanza de la inteligencia artificial en la Unión Europea. La construcción de un marco ético-jurídico aún inacabado», Revista General de Derecho Administrativo, n. 56, 2021, 42 pp.
  • Barrio Andrés, M., «¿Deben los Estados regular la inteligencia artificial?», Elpais.com, 26.9.2018; e Id., «Robots, inteligencia artificial y persona electrónica», en de la Quadra-Salcedo, T., Piñar Mañas, J.L. (Dirs.), Sociedad Digital y Derecho, BOE, Ministerio de Industria, Comercio y Turismo y RED.ES, 2018, pp. 113-136.
  • Barbaro, C., «Cepej, adottata la prima Carta etica europea sull’uso dell’intelligenza artificiale (AI) nei sistemi giudiziari», www.questionegiustizia.it, 7.12.2018
  • Quattrocolo, S., «Intelligenza artificiale e giustizia: nella cornice della carta etica europea, gli spunti per un’urgente discussione tra scienze penali e informatiche», lalegislazionepenale.eu, 18.12.2018, pp. 1-12.
  • CAHAI, Feasibility Study, Strasbourg, 17 December 2020 CAHAI (2020) 23, www.coe.int/cahai. 63 Barbaro, C., «Lo studio di fattibilità di un nuovo quadro normativo sulla concezione, lo sviluppo e l’applicazione dei sistemi di Intelligenza Artificiale sulla base delle norme del Consiglio d’Europa. Il lavoro del Comitato Ad hoc sull’intelligenza artificiale del Consiglio d’Europa (CAHAI)», www.questionegiustizia.it, 28.4.2021.
  • CAHAI, Feasibility Study, ap. 39. 65 Faggiani, V., Los derechos procesales en el espacio europeo de justicia penal. Técnicas de armonización, Cizur 2021
  • De Hoyos Sancho, M., «El Libro Blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como ‘sector de riesgo’», Revista Española de Derecho Europeo, n. 76, 2020, pp. 9-43.
  • Pasquale, P., «Verso una Carta dei diritti digitali (fondamentali) dell’Unione europea?», DUE. Osservatorio europeo, marzo, 2022, p. 5,
  • De Hoyos Sancho, M., «Delincuencia organizada e inteligencia artificial. Estrategias y propuestas normativas en el contexto de la Unión Europea desde la perspectiva procesal», en Garrido Carrillo, F.J. (Dir.) Faggiani, V. (Coord.), Respuesta institucional y normativa al crimen organizado. Perfiles estratégicos para una lucha eficaz, cit., p. 302 y 303;
  • De Hoyos Sancho, M., «El uso jurisdiccional de los sistemas de inteligencia artificial y la necesidad de su armonización en el contexto de la Unión Europea», RGDP, op. cit., p. 11.
  • Cotino Hueso, L.; Castillo, J. A.; Salazar, I.; Benjamins, R.; Cumbreras, M. y Esteban, A. M., «Un análisis crítico constructivo de la Propuesta de Reglamento de la Unión Europea por el que se establecen normas armonizadas sobre la Inteligencia Artificial (Artificial Intelligence Act)», Diario La Ley, 2.7.2021
  • Casonato, C. y Marchetti, B., «Prime osservazioni sulla proposta di regolamento dell’Unione Europea in materia di intelligenza artificiale», BioLaw, 29.9.2021.
  • Etxeberria Guridi, J.F., «Sistemas biométricos y su aplicación», en Barona, S., Justicia poliédrica en periodo de mudanza: Nuevos conceptos, nuevos sujetos, nuevos instrumentos y nueva intensidad, Valencia: Tirant lo Blanch, 2022, pp. 455-482.
  • Pollicino, O. y Paolucci, F., «La proposta di regolamento sull’intelligenza artificiale: verso una nuova governance europea», Privacy&, 3, 2021
  • Aguiar de Luque, L., «Las garantías constitucionales de los derechos fundamentales en la Constitución Española», Revista de Derecho Político, n. 10, 1981, pp. 1-23
  • Cordón Moreno, F., Las Garantías constitucionales del proceso penal, Pamplona: Aranzadi, 1999
  • de la Oliva Santos, A., Los verdaderos tribunales en España: legalidad y derecho al juez predeterminado por la Ley, Madrid: Centro de Estudios Ramón Areces, 1992
  • Díez-Picazo Giménez, I., «Artículo 24: garantías procesales», Alzaga Vilaamil, O. (dir.), Comentarios a la Constitución de 1978, vol. III, Madrid: Edersa/Cortes Generales, 1996, pp. 19-123
  • Díez-Picazo Giménez, L.M., Régimen Constitucional del Poder Judicial, Madrid: Civitas, 1991; Díez-Picazo y Ponce de León, L., «El Poder Judicial: breves reflexiones sobre veinticinco años de experiencia», Revista Española de Derecho Constitucional, año 24, n. 71, 2004, pp. 35-46
  • Figueruelo Burrieza, A., «En torno al concepto de tutela efectiva de los jueces y tribunales (Art. 24.1 de la C.E.)», Revista de Estudios Políticos, n. 33, 1983, pp. 207-220
  • Gimeno Sendra, V., Fundamentos de Derecho Procesal, Madrid: Civitas, 1981; Picó i Junoy, J., Las garantías constitucionales del proceso, Barcelona: Bosch, 2011.
  • Craig, P., «Formal and Substantive Conceptions of the Rule of Law: An Analytical Framework», Public Law, n. 3, 1997, pp. 467-487.
  • Faggiani, V., «Le crisi sistemiche dello stato di diritto e i loro effetti sulla cooperazione giudiziaria nell’UE», Diritto Penale Contemporaneo, n. 2, 2019, pp. 195-228; e ID, «La ‘rule of law backsliding’ como categoría interpretativa del declive del constitucionalismo en la UE», Revista Española de Derecho Europeo: n. 71, 2019, pp. 57-99.
  • Barona Vilar, S., «Inteligencia Artificial o la Algoritmización de la vida y de la justicia: ¿solución o problema?», Rev. Boliv. de Derecho, cit., p. 46.
  • Barrio Andrés, M., «Retos y desafíos del Estado algorítmico de Derecho», Ánalisis del Real Instituto Elcano (ARI), 82, 9.6.2020.
  • Esparza Leibar, I., «Derecho fundamental a la protección de datos de carácter personal en el ámbito jurisdiccional e inteligencia artificial. Calaza López, S. y Llorente Sánchez-Arjona, M. (dirs.), Inteligencia artificial legal y administración de justicia, cit., pp. 181-209.
  • Balaguer Callejón, F., «La Constitución del Algoritmo. El difícil encaje de la Constitución analógica en el mundo digital», Gomes, A.; Albergaria, B. y Canotilho, M. (Coord.), Direito
  • Sánchez Barrilao, J.F., Inteligencia y seguridad como objeto constitucional. El CNI y la comunidad de inteligencia ante los nuevos retos de la sociedad del riesgo, Madrid: CEPC, 2019.
  • Sánchez Barrilao, J.F., «El Derecho constitucional ante la era de Ultrón: la informática y la inteligencia artificial como objeto constitucional», Estudios de Deusto, vol. 64, n. 2, 2016, pp. 225-258
  • Sánchez Barrilao, J.F., «Los fundamentos del ‘progreso informático’ en la Unión Europea», Revista de Derecho Político, n. 98, 2017, pp. 335-368.
  • Barona Vilar, S., Justicia poliédrica en periodo de mudanza: Nuevos conceptos, nuevos sujetos, nuevos instrumentos y nueva intensidad, Valencia: Tirant lo Blanch, 2022, pp. 31-62,
  • Barona Vilar, S., «Justicia penal líquida (desde la mirada de Bauman)», Teoría y derecho: revista de pensamiento jurídico, n. 22, 2017, pp. 64-91.
Fuente de los datos: Dialnet