Anmerkungen:
Nach Informationen von SSRN wurde die ursprüngliche Fassung des Dokuments September 22, 2022 erstellt
Beschreibung:
Spanish abstract: La adopción de herramientas tecnológicas que incorporan algoritmos, especialmente aquellos que facilitan decisiones automatizadas, puede contribuir significativamente con los objetivos de los Estados. Por ejemplo, la implementación de sistemas asistidos por inteligencia artificial (IA) por parte de entidades públicas puede aumentar la velocidad y precisión del procesamiento de grandes volúmenes de datos; reducir los tiempos de respuesta de solicitudes y casos; y, eximir al talento humano de tareas rutinarias para reasignarlo a actividades más complejas, entre otros. Sin embargo, el uso de algoritmos en la gestión pública también puede generar riesgos y potenciales efectos negativos para los ciudadanos. La implementación de IA por los gobiernos puede implicar la pérdida de predictibilidad de los procesos de la administración pública en la medida en que los sistemas arrojen resultados o decisiones que no sean comprensibles o cuyas justificaciones no sean verificables (el efecto “caja negra”); reducir o eliminar el control de los funcionarios sobre las herramientas que utilizan; y, generar riesgos en relación con el tratamiento de datos personales, particularmente aquellos sensibles, y pérdida o afectación de la privacidad, entre otros. La literatura sobre el uso de IA en el sector público de Colombia incluye casos de estudio sobre herramientas puntuales, pero no cuenta con trabajos que mapeen y caractericen el uso de sistemas de decisión automatizada (SDA) por el Estado colombiano. Los problemas de investigación abordados por este trabajo buscan contribuir a cerrar esa brecha de la literatura: ¿Con qué finalidades son utilizados los sistemas de IA y los SDA en la administración pública de Colombia? ¿Qué beneficios ofrecen y qué riesgos generan? Para responder a las preguntas se recolectó y procesó información disponible públicamente, información solicitada directamente a entidades estatales, y entrevistas semiestructuradas a funcionarios públicos encargados de diseñar, pilotear y/o implementar los SDA. Con dicha información se creó un catastro de sistemas de IA y de SDA implementados en Colombia. A partir de los resultados del estudio se presentan implicaciones de política pública en materia de ética en el uso de los datos, transparencia algorítmica y, en general, sobre la gobernanza del uso de SDA e IA (y de los datos que los alimentan) en el sector público.English abstract: The adoption of technological tools that incorporate algorithms, especially those that facilitate automated decisions, can contribute significantly to states' objectives. For example, the implementation of artificial intelligence (AI)-assisted systems by public entities can increase the speed and accuracy of processing large volumes of data; reduce response times for requests and cases; and relieve human talent from routine tasks to reassign them to more complex activities, among others. However, the use of algorithms in public management can also generate risks and potential negative effects for citizens. The implementation of AI by governments may imply the loss of predictability of public administration processes to the extent that the systems produce results or decisions that are not understandable or whose justifications are not verifiable (the "black box" effect); reduce or eliminate the control of civil servants over the tools they use; and generate risks in relation to the processing of personal data, particularly sensitive data, and loss of privacy, among others. The literature on the use of AI in the Colombian public sector includes case studies on specific tools, but there are no studies that map and characterise the use of automated decision systems (ADM) by the Colombian state. The research questions addressed by this paper seek to contribute to closing this gap in the literature: For what purposes are AI systems and ADMs used in the Colombian public administration? What benefits do they offer and what risks do they generate? To answer these questions, we collected and processed publicly available information, information requested directly from state entities, and semi-structured interviews with public officials in charge of designing, piloting and/or implementing the systems. This information was used to create a registry of AI systems and ADMs implemented in Colombia. Based on the results of the study, public policy implications are presented in terms of ethics in the use of data, algorithmic transparency and, in general, on the governance of the use of ADMs and AI (and the data that feed them) in the public sector