Desafíos para el control externo derivados del uso de la inteligencia artificial en el sector público

  1. MARÍA DOLORES GENARO MOYA 1
  2. ANTONIO MANUEL LÓPEZ HERNÁNDEZ 2
  1. 1 Universidad de Granadav
  2. 2 Universidad de Granada
    info

    Universidad de Granada

    Granada, España

    ROR https://ror.org/04njjy449

Revista:
Revista española de control externo

ISSN: 1575-1333

Año de publicación: 2023

Título del ejemplar: Inteligencia artificial. Gestión y control público

Número: 74-75

Páginas: 10-31

Tipo: Artículo

Otras publicaciones en: Revista española de control externo

Resumen

La aplicación de la inteligencia artificial (IA) está creciendo de forma exponencial en las entidades públicas, contribuyendo a la mejora del diseño y prestación de servicios, así como a la gestión y eficiencia interna de las instituciones. No obstante, el potencial de los sistemas de inteligencia artificial para el sector público también conlleva un conjunto de riesgos relacionados, entre otras áreas, con la privacidad, confidencialidad, seguridad, transparencia o sesgos y discriminación. Las Instituciones de Control Externo (ICEX) deben adaptar sus recursos humanos y tecnológicos a este nuevo escenario. En este trabajo se analizan las implicaciones de la penetración de la IA en el sector público, así como los retos que estos desarrollos tecnológicos plantean a las ICEX para mejorar la eficacia y eficiencia en las tareas de auditoría. Asimismo, se repasa el estado de la cuestión de las auditorías de aplicaciones basadas en algoritmos realizadas por determinadas ICEX

Referencias bibliográficas

  • Amsler, L. B.; Martinez, J. K.; y Smith, S. E. (2020): Dispute System Design: Preventing, Managing, and Resolving Conflict, Stanford, Stanford University Press.
  • Alhazbi, S. (2020): Behavior-Based Machine Learning Approaches to Identify StateSponsored Trolls on Twitter. Ieee access, 8, 195132-195141.
  • Appelbaum, Deniz; Kogan, Alexander; and Vasarhelyi, Miklos A. (2017): Big Data and Analytics in the Modern Audit Engagement: Research Needs, Department of Accounting and Finance Faculty Scholarship and Creative Works. 34. https://digitalcommons.montclair. edu/acctg-finance-facpubs/34
  • Asatiani, A., Malo, P., Nagbol, P. R., Penttinen, E., Rinta-Kahila, T., & Salovaara, A. (2021): Sociotechnical Envelopment of Artificial Intelligence: An Approach to Organizational Deployment of Inscrutable Artificial Intelligence Systems. Journal of the association for information systems, 22(2), 325-352.
  • Asociación Española de Contabilidad y Administración de Empresas (AECA) (2022): La transformación digital del sector público en la era del gobierno, Documento de las Comisiones Nuevas Tecnologías y Contabilidad (nº 18) y Contabilidad y Administración del Sector Público (nº 16).
  • Benítez, E. (2020): «El control externo del gasto público en el Estado automatizado», Revista Española de Control Externo, vol. XXII, n.º 65 (mayo 2020), 98-111.
  • Berryhill, J., Heang, K. K., Clogher, R. y McBride, K. (2019): Hello, world: artificial intelligence and its use in the public sector. OECD Working Papers on Public Governance, nº 36. https://doi.org/10.1787/726fd39d-en
  • Bizarro, P. A., & Dorian, M. (2017): Artificial intelligence: the future of auditing, Internal Auditing; Boston, 32 (5), 21-26.
  • Bostrom, N. (2014): Superintelligence, Oxford University Press.
  • Brookfield Institute (2018): Intro to AI for policymakers: understanding the shift. https:// brookfieldinstitute.ca/intro-to-ai-for-policymakers.
  • Campos, C. (2023): «La tecnología al servicio de la ética pública: IA, data mining y otras disrupciones en los sistemas de integridad», Revista Española de Control Externo, vol. XXIV, n.º 72, 60-77.
  • Comisión Europea JRC (2022): AI Watch. European Landscape on the Use of Artificial Intelligence by the Public Sector, Luxemburgo.
  • CAF-Banco de Desarrollo de América Latina (2022): Conceptos fundamentales y uso responsable de la inteligencia artificial en el sector público. Informe 2. Corporación Andina de Fomento. https://scioteca.caf.com/ handle/123456789/1921
  • Criado, J.I. (2021): Inteligencia Artificial (y Administración Pública), Economía. Revista en Cultura de la Legalidad, 20, 348-372. https://doi. org/10.20318/eunomia.2021.6097
  • Desouza K. (2018): Delivering artificial intelligence in government: challenges and opportunities. IBM Center for Business of Government. http://www. businessofgovernment.org/sites/default/files/ Delivering%20Artificial%20Intelligence%20 in%20Government.pdf
  • Diakopoulos, N. (2016): «Accountability in Algorithmic Decision Making», Communications of the ACM, 59 (2), 56-62, https://doi. org/10.1145/2844110
  • Di Vaio, A., Hassan, R., & Alavoine, C. (2021): «Data intelligence and analytics: A bibliometric analysis of human-Artificial intelligence in public sector decision-making effectiveness». Technological forecasting and social change, 174 (121201).
  • Eubanks, V. (2018): Automating Inequality. How High-Tech Tools Profile, Police, and Punish the Poor. New York, St. Martin’s Press.
  • Farrell, J. (2023): «Get ready for the future of auditing», The CPA (Certified Public Accountat) Journal, March 2023, New York. https://www. cpajournal.com/2023/03/31/get-ready-for-thefuture-of-auditing/
  • Filgueiras, F. (2021): «Inteligencia artificial en la administración pública: ambigüedad y elección de sistemas de IA y desafíos de gobernanza digital», Revista del CLAD Reforma y Democracia, 79, 5-38
  • Frank, M.R., D. Wang, M. Cebrian y I. Rahwan (2019) «The evolution of citation graphs in artificial intelligence research», Nature Machine Intelligence, 1(2), 79-85, DOI:10.1038/s42256-019-0024-5
  • Garde Roca, J.A. (2023): ¿Pueden los algoritmos ser evaluados con rigor?, Encuentros Multidisciplinares, nº 73 Enero-Abril 2023. http://www.encuentros-multidisciplinares.org/ revista-73/juan-antonio-garde.pdf
  • Government of Canada (2023): Directive on automated decision-making. How government Works. Policies, directives, standards, and guidelines. https://www.tbs-sct.gc.ca/pol/ doc-eng.aspx?id=32592.
  • Guillem, F. (2022): Funciones y Características de la Inteligencia Artificial, Seguritecnia: Revista decana independiente de seguridad, vol. I, nº 493, 174-181.
  • Henman, P. (2020): Improving public services using artificial intelligence: possibilities, pitfalls, governance. Asia Pacific Journal of Public Administration, 42 (4), 209-221.
  • Henrique, B. M., Sobreiro, V. A., & Kimura, H. (2020): Contracting in Brazilian public administration: A machine learning approach. Expert systems, 37(5).
  • Ilgun, M. F. (2020): Industry 4.0, Big Data Analytics and Transformation in Tax Systems. Maliye Dergisi (179), 240-266.
  • Instituto de Auditores Internos (2022): Auditoría Interna de los procesos robotizados de negocio. Madrid.
  • INTOSAI (2022): Research paper on innovative audit technology, INTOSAI Working Group on Big Data.
  • Janssen, M. y Kuk, G. (2016): The Challenges and Limits of Big Data Algorithms in Technocratic Governance, Government Information Quarterly, 33(3), 371-377, https://doi. org/10.1016/j.giq.2016.08.011.
  • McCarthy, J. (2004): Why is artificial intelligence? Obtenido de https://borghese. di.unimi.it/Teaching/ AdvancedIntelligentSystems/Old/ IntelligentSystems_2008_2009/Old/ IntelligentSystems_2005_2006/Documents/ Symbolic/04_McCarthy_whatisai.pdf
  • Meijer-van Leijsen, E. (2021): «Developing an Audit Framework for Algorithms», International Journal of Government Auditing. INTOSAI. Q2, 2021. https://www.intosaijournal. org/journal-entry/developing-an-auditframework-for-algorithms/
  • Mo Ahn, J. (2021): Artificial Intelligence in Public Administration: New Opportunities and Threats. The Korean Journal of Public Administration, 30(2), 1-33.
  • National Audit Office (2019): Challenges in using data across government. UK National Audit Office.
  • Noble, S. U. (2018): Algorithms of Oppression: How Search Engines Reinforce Racism, New York, New York University Press.
  • Organization for Economic Cooperation and Development-OECD (2019a): Artificial Intelligence in Society. www.oecd.org/goingdigital/artificialintelligencein-society-eedfee77- en.htm
  • Organization for Economic Cooperation and Development-OECD (2019b): Recommendation of the Council on Artificial Intelligence. https:// legalinstruments.oecd.org/en/instruments/ OECD-LEGAL-0449.
  • Prasad Dotel, R. INTOSAI JOURNAL (2020): «Artificial Intelligence: Preparing for the Future of Audit» International Journal of Government Auditing. INTOSAI. Q2, 2020. https:// intosaijournal.org/journal-entry/artificialintelligence-preparing-for-the-future-of-audit/
  • Reyes Alva, W.A. y Recuenco Cabrera, A.D. (2020): Artificial intelligence: Road to a new schematic of the world, SCIÉNDO, 23(4), 299-308.
  • Rivera, T. (2023): Aplicación del aprendizaje automático en las EFS. International Journal of Government Auditing. INTOSAI. Q2, 2023. https://intosaijournal.org/es/journal-entry/ machine-learning-application-for-sais/ .
  • Samoili, S., Lopez, C. M., Gomez Gutierrez, E., De Prato, G., Martinez-Plumed, F., & Delipetrev, B. (2020): Defining Artificial Intelligence. Towards an operational definition and taxonomy of artificial intelligence (JRC118163) [EURScientific and Technical Research Reports]. Publications Office of the European Union. https://publications.jrc.ec.europa.eu/repository/ handle/111111111/59452
  • Soylu, A., Corcho, O., Elvesaeter, B., BadenesOlmedo, C., Yedro-Martinez, F., Kovacic, M., Roman, D. (2022): Data Quality Barriers for Transparency in Public Procurement, Information, 13 (99).
  • Stone, P., Brooks, R. y Brynjolfsson, E. (2016): 2016 Report, One hundred years study on artificial intelligence. AI100. https://ai100. stanford.edu/2016-report
  • Tzafestas, S. G. (2016): Roboethics. A navigating overview. Springer
  • Ubaldi, B., Le Febre, E. M., Petrucci, E., Marchionni, P., Biancalana, C., Hiltunen, N., Intravaia, D. M. y Yang, C. (2019): State of the art in the use of emerging technologies in the public sector, OECD Working Papers on Public Governance, nº 31; https://doi. org/10.1787/932780bc-en.
  • Unión Europea-UE (2021): Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Ley de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión https://eur-lex.europa.eu/resource. html?uri=cellar:e0649735-a372-11eb-9585- 01aa75ed71a1.0008.02/DOC_1&format=PDF
  • Valle-Cruz, D., Criado, I., Sandoval-Almazán, R. y Ruvalcaba-Gómez, E. A. (2020): Assessing the public policy cycle framework in the age of artificial intelligence. From agenda-setting to policy evaluation, Government Information Quarterly, 37(4) https://doi.org/10.1016/j. giq.2020.101509.
  • Van Ooijen, C. Ubaldi, B. y Welby, B. (2019): A data-driven public sector: enabling the strategic use of data for productive, inclusive and trustworthy governance, OECD Working Papers on Public Governance, nº 33. https://doi. org/10.1787/09ab162c-en
  • Wang, P. (2019): On Defining Artificial Intelligence, Journal of Artificial General Intelligence, 10 (2), 1-37, https://doi.org/10.2478/ jagi-2019-0002.
  • Xu, C. E., Xu, L. S., Lu, Y. Y., Xu, H., & Zhu, Z. L. (2019): E-government recommendation algorithm based on probabilistic semantic cluster analysis in combination of improved collaborative filtering in big-data environment of government affairs. Personal and ubiquitous computing, 23(3-4), 475-485.