Privacidad de grupo: un reto para el derecho a la protección de datos a la luz de la evolución de la inteligencia artificial

  1. José Antonio Castillo Parrilla 1
  1. 1 Universidad de Granada
    info

    Universidad de Granada

    Granada, España

    ROR https://ror.org/04njjy449

Revista:
Derecho Privado y Constitución

ISSN: 1133-8768

Año de publicación: 2023

Número: 43

Páginas: 53-88

Tipo: Artículo

DIALNET GOOGLE SCHOLAR lock_openAcceso abierto editor

Otras publicaciones en: Derecho Privado y Constitución

Resumen

Uno de los derechos fundamentales que más afectados se ven por el desarrollo de la inteligencia artificial (IA) es el derecho a la protección de datos, que hasta ahora se ha caracterizado como un derecho de no injerencia o de primera generación. Debido al desarrollo de la IA basada en datos y la analítica de datos en masa (que permite microsegmentar a la población), el derecho a la protección de datos ha adquirido una dimensión colectiva que lo acerca a derechos de tercera generación, como el derecho a un medio ambiente saludable o el derecho de consumidores. La expresión «privacidad de grupo» ha sido precisada como la privacidad correspondiente a grupos definidos por cualquier característica o combinación de estas. En este trabajo propondremos una noción complementaria de privacidad de grupo, centrada en la defensa del derecho a un medio ambiente digital saludable.

Referencias bibliográficas

  • Alston, P. (2020). Un fallo histórico de un tribunal holandés detiene los intentos del gobierno de espiar a los pobres (Informes ACNUDH. Comunicado Prensa). Ginebra: ACNUDH. Disponible en: https://tinyurl.com/5n6mespd.
  • Angwin, J., Larson, J., Mattu, S. y Kirchner, L. (2016). Machine bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica [blog], 23-‍5-2016. Disponible en: https://tinyurl.com/yyy6yc2y.
  • Balkin, J. M. (2017). The three laws of robotics in the age of big data. Ohio State Law Journal, 78, 1217-‍1241.
  • Barocas, S. y Nissebaum, H. (2014). Big data’s end run around anonymity and consent. En J. Lane, V. Stodden, S. Bender y H. Nissebaum (eds.). Privacy, big data and the public good. Frameworks for engagement (pp. 44-‍75). Cambridge: Cambridge University Press. Disponible en: https://doi.org/10.1017/CBO97811075902 05.004.
  • Bousquette, I. (2023). AI-generated gata could be a boon for healthcare, if only it seemed more real. The Wall Street Journal, 2-8-2023. Disponible en: https://tinyurl.com/3j3skp6z.
  • Carrasco Perera, A. y González Carrasco, M. C. (2001). ¿Acciones de clase en el proceso civil? Aranzadi Civil: Revista Quincenal, 1, 1895-‍1912.
  • Comisión Europea (2010). Communication from the Commission to the European Parliament, the Council, the Economic and Social Committee and the Committee of The Regions: a comprehensive approach on personal data protection in the European Union (Report COM. Bulletin COM; 609 final). Brussels: COM. Disponible en: https://tinyurl.com/2efrbmrs.
  • Comisión Europea (2017a). Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones: «La construcción de una economía de los datos europea» (Report COM. Bulletin COM; 9 final). Brussels: COM. Disponible en: https://tinyurl.com/2p9a763k.
  • Comisión Europea (2017b). Commission staff working document: on the free flow of data and emerging issues of the European data economy. Building a European data economy (Report COM. Bulletin COM; SWD 2 final). Brussels: COM. Disponible en: https://tinyurl.com/2ud76ks2.
  • Comisión Europea (2020a). The european data market monitoring tool: key facts and figures, first policy conclusions, data landscape and quantified stories (Report EC. Bulletin POEU; D2.9 Final Study Report). Luxembourg: EC. Disponible en: https://tinyurl.com/vbrzx8w5.
  • Comisión Europea (2020b). Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza (Informe COM. Boletín COM; 65 final). Brussels: COM. Disponible en: https://tinyurl.com/mvfveceu.
  • Comisión Europea (2020c). Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité de las Regiones: una estrategia europea de datos (Informe COM. Boletín COM; 66 final). Brussels: COM. Disponible en: https://tinyurl.com/23ysm7vt.
  • Comisión Europea (2023a). European data market study 2021-‍2023 (D2.4 Second Report on facts and figures). Brussels. Disponible en: https://tinyurl.com/w3pcja99.
  • Comisión Europea (2023b). European Data Market Study 2021-‍2023. Second Report on policy conclusions. (Report COM. Bulletin COM; D2.5). Brussels: COM. Disponible en: https://tinyurl.com/2p8ca5s4.
  • Comité Europeo de Protección de Datos (2020). Directrices 5/2020 sobre el consentimiento en el sentido del Reglamento UE 2016/679. (Informe CEPD.) Bruselas: CEPD. Disponible en: https://tinyurl.com/yr44x52v.
  • Congreso de los Diputados (2018). Enmiendas e índice de enmiendas al articulado. 121/000013 Proyecto de Ley Orgánica de Protección de Datos de Carácter Personal. Disponible en: https://tinyurl.com/3bcjduwd.
  • Corte de Distrito de La Haya (2020). Legislación SyRI en conflicto con el Convenio Europeo de Derechos Humanos: C-09-550982-HA ES 18-‍388. Disponible en: https://tinyurl.com/37dkj69y.
  • Cotino Hueso, L. (2022). Nuevo paradigma en las garantías de los derechos fundamentales y una nueva protección de datos frente al impacto social y colectivo de la inteligencia artificial. En L. Cotino Hueso (dir.). Derechos y garantías ante la inteligencia artificial y las decisiones automatizadas (pp. 69-‍105). Navarra: Thomson Reuters Aranzadi.
  • De Miguel Beriain, I. (2018). Does the use of risk assessments in sentences respect the right to due process? A critical analysis of the Wisconsin vs. Loomis ruling. Law, Probability and Risk, 17 (1), 45-‍53. Disponible en: https://doi.org/10.1093/lpr/mgy001.
  • Floridi, L. (2017). Group privacy: a defence and an interpretation. En L. Taylor, L. Floridi y B. van der Sloot (eds.). Group privacy: new challenges of data technologies (pp. 103-‍123). Dordrecht: Springer. Disponible en: https://doi.org/10.1007/978-3-319-46608-8_5.
  • Gil González, E. (2015). Big data, privacidad y protección de datos. Madrid: Agencia Española de Protección de Datos. Disponible en: https://tinyurl.com/4t8zh4d2.
  • Gil González, E. (2022). El interés legítimo en el tratamiento de datos personales. Madrid: Wolters Kluwer.
  • Grupo de Trabajo del Art. 29 (2007). Opinion 4/2007 on the concept of personal data (Report CE. Bulletin WP; 136). Brussels: CE Disponible en: https://tinyurl.com/cwwx5bhc.
  • Grupo de Trabajo del Art. 29 (2013). Opinion 03/2013 on purpose limitation (Report EC. Bulletin WP; 203). Brussels: EC. Disponible en: https://tinyurl.com/9k5t3wah.
  • Grupo de Trabajo del Art. 29 (2017a). Guidelines on data protection impact assessment and determining whether processing is “likely to result in a high risk” for the purposes of regulation 2016/679. (Report EC. Bulletin WP; 248). Brussels: EC. Disponible en: https://tinyurl.com/yc7htu56.
  • Grupo de Trabajo del Art. 29 (2017b). Guidelines on automated individual decision-making and profiling for the purposes of regulation 2016/679 (Report EC. Bulletin WP; 251 rev. 01). Brussels: EC. Disponible en: https://tinyurl.com/yhp3382h.
  • Holmes, D. E. (2018). Big Data. Una breve introducción. Barcelona: Antoni Bosch.
  • Jaume Palasí, L. (2020). Cómo la inteligencia artificial está impactando en las sociedades. En A. Cerrillo i Martínez y M. Peguera Poch (dirs.). Retos jurídicos de la inteligencia artificial (pp. 27-‍39). Navarra: Thomson Reuters Aranzadi.
  • Kang, M. S. (2019). Hyperpartisan gerrymandering. Boston College Law Review, 61, 1379-‍1445.
  • Lazcoz Moratinos, G. (2021). Modelos algorítmicos, sesgos y discriminación. En F. Bueno de Mata (dir.). FODERTICS 9.0. Estudios sobre tecnologías disruptivas y justicia (pp. 283-‍294). Granada: Comares.
  • Lazcoz Moratinos, G. (2023). Gobernanza y supervisión humana de la toma de decisiones automatizada basada en la elaboración de perfiles [tesis doctoral inédita]. Universidad del País Vasco.
  • Lohsse, S., Schulze, R. y Staudenmayer, D. (2017). Trading data in the digital economy: legal concepts and tools. En S. Lohsse, R. Schulze y D. Staudenmayer (dirs.). Trading data in the digital economy: legal concepts and tools (pp. 13-‍26). Baden-Baden: Nomos. Disponible en: https://doi.org/10.5040/97815099 21218.0005.
  • Lucas Murillo de la Cueva, P. (2021). El objeto del Reglamento General de protección de datos y de la Ley Orgánica de protección de datos personales y garantía de los derechos digitales. Comentario al art. 1 Reglamento General de Protección de Datos y al art. 1 Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 323-‍324). Navarra: Thomson Reuters Aranzadi.
  • Mas Badía, M. D. (2021). Sistemas privados de información crediticia. Nueva regulación entre la protección de datos y el crédito responsable. Valencia: Tirant lo Blanch.
  • Metzger, A. (2020). A market model for personal data: state of play under new Directive on digital content and digital services. En S. Lohsse, R. Schulze y D. Staudenmayer (dirs.). Data as counter-performance: contract law 2.0? (pp. 25-‍46). Baden-Baden: Nomos. Disponible en: https://doi.org/10.5771/9783748908531-23.
  • Núñez Seoane, J. (2020). El derecho de la información y acceso al funcionamiento de los algoritmos que tratan datos personales. En A. Huergo Lora (dir.). La regulación de los algoritmos (pp. 299-‍315). Navarra: Thomson Reuters Aranzadi.
  • Palma Ortigosa, A. (2019). Decisiones automatizadas en el Reglamento General de Protección de Datos. El uso de algoritmos en el contexto de la protección de datos. Revista General de Derecho Administrativo, 50.
  • Parlamento Europeo (2023). Enmiendas aprobadas por el Parlamento Europeo el 14 de junio de 2023 sobre la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión (Informes COM. Boletín COD 0206/2021–C9-0146/2021–0106/2021). Bruselas: COM. Disponible en: https://tinyurl.com/mtyv2nnd.
  • Pereda, O. y Jané, C. (2019). El Instituto Nacional de Estadística paga medio millón por los datos de cómo se desplazan los españoles. El Periódico, 29-10-2019. Disponible en: https://tinyurl.com/4ak9ehpf.
  • Pérez Luño, A. E. (1991). Las generaciones de derechos humanos. Revista del Centro de Estudios Constitucionales, 10, 203-‍217.
  • Pérez Luño, A. E. (1993). El concepto de los derechos humanos y su problemática actual. Derechos y libertades: Revista de Filosofía del Derecho y Derechos Humanos, 1 (1), 179-‍196.
  • Romeo Casabona, C. M. (2021a). Limitación del tratamiento. Comentario al art. 4.3 del Reglamento General de Protección de Datos. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 573-‍589). Navarra: Thomson Reuters Aranzadi.
  • Romeo Casabona, C. M. (2021b). Datos personales. Comentario al art. 4.1 del Reglamento General de Protección de Datos. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 573-‍589). Navarra: Thomson Reuters Aranzadi.
  • Romeo Casabona, C. M. (2021c). Elaboración de perfiles. Comentario al artículo 4.4 del Reglamento General de Protección de Datos. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 609-‍612). Navarra: Thomson Reuters Aranzadi.
  • Romeo Casabona, C. M. (2021d). Seudonimización. Comentario al art. 4.5 del Reglamento General de Protección de Datos. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 613-‍627). Navarra: Thomson Reuters Aranzadi.
  • Sánchez, R. y Oliveres, V. (2023). MAPA. ¿Qué votaron tus vecinos el 23J? Los resultados de las elecciones generales, calle a calle. elDiario.es, 24-7-2023. Disponible en: https://tinyurl.com/mrm8p869.
  • Sancho Villa, D. (2021). Las decisiones individuales automatizadas, incluida la elaboración de perfiles. Comentario al art. 22 Reglamento General de Protección de Datos. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 1725-‍1745). Navarra: Thomson Reuters Aranzadi.
  • Schermer, B. W., Custers, B. y Van der Hof, S. (2014). The crisis of consent: how stronger legal protection may lead to weaker consent in data protection. Ethics and Information Technology, 16 (2), 171-‍182. Disponible en: https://doi.org/10.1007/s10676-014-9343-8.
  • Soriano Arnanz, A. (2021). Decisiones automatizadas: problemas y soluciones jurídicas. Más allá de la protección de datos. Revista de Derecho Público: Teoría y Método, 3, 85-‍127. Disponible en: https://doi.org/10.37417/RPD/vol_3_2021_535.
  • Soto, C. J. (2018). Big five personality traits. En M. H. Bornstein, M. E. Arterberry, K. L. Fingerman y J. E. Lansford (eds.). The SAGE encyclopedia of lifespan human development (pp. 240-‍241). Sage: Thousand Oaks, C. A.
  • Spanga, C. (2015). Dei beni in generale. En P. Schlesinger (dir.). Il Codice Civile Commentario: art. 810-821 (pp. 1-‍259). Milano: Giuffrè Editore.
  • Supervisor Europeo de Protección de Datos (2017). Opinion 4/2017 on the Proposal for a Directive on certain aspects concerning contracts for the supply of digital content (Report SEPD.). Brussels: SEPD Disponible en: https://tinyurl.com/yckvj9yh.
  • Troncoso Reigada, A. (2021). Los principios relativos al tratamiento. Comentario al art. 5 Reglamento General de Protección de Datos y al art. 4 Ley Orgánica de Protección de Datos Personales y Garantía de los Derechos Digitales. En A. Troncoso Reigada (dir.). Comentario al Reglamento General de Protección de Datos y a la Ley Orgánica de Protección de Datos personales y Garantía de los Derechos Digitales (pp. 847-‍907). Navarra: Thomson Reuters Aranzadi.
  • Valls Prieto, J. (2021). Inteligencia artificial, derechos humanos y bienes jurídicos. Navarra: Thomson Reuters Aranzadi.
  • Van Dalen, S., Gilder, A., Hooydonk, E. y Ponsen, M. (2016). System risk indication: an assessment of the dutch anti-fraud system in the context of data protection and profiling. Public Interest Litigation Project, Nederlands Juristen Comité voor de Mensenrechte. London: University of London. Disponible en: https://tinyurl.com/3udmxr87.
  • Veliz, C. (2020). Privacy is power. Madrid: Penguin Random House.
  • Warren, S. D. y Brandeis, L. D. (1890). The right to privacy. Harvard Law Review, 4 (5), 193-‍220. Disponible en: https://doi.org/10.2307/1321160.
  • Zuboff, S. (2020). La era del capitalismo de la vigilancia. La lucha por un futuro humano frente a las nuevas fronteras del poder. Barcelona: Paidós.
Fuente de los datos: Dialnet