Gracias a una alianza entre el Consejo para la Transparencia y la Universidad Adolfo Ibáñez, se está elaborando una Instrucción General que va a mandatar a las entidades públicas a transparentar información sobre los sistemas automatizados y/o de inteligencia artificial que usan para prestar sus servicios a la ciudadanía.
En un encuentro encabezado por Harald Beyer, rector de la Universidad Adolfo Ibáñez (UAI), y Francisco Leturia, presidente del Consejo para la Transparencia (CPLT), se anunció el convenio entre ambas instituciones para colaborar en la elaboración de una Instrucción General (IG) de transparencia algorítmica, herramienta que se traduce en obligaciones en esta materia para entidades estatales y constituye un avance decidido en el uso responsable de inteligencia artificial por parte del sector público chileno.
Así, por primera vez en América Latina una entidad encargada de garantizar el derecho a acceder a información pública entregará lineamientos a organismos del Estado para transparentar los sistemas automatizados, algoritmos o IA que están utilizando, y que impactan directamente en servicios prestados a la ciudadanía.
De esta forma se posibilita, por ejemplo, que los usuarios conozcan información relevante sobre el funcionamiento de este tipo de instrumentos y la incidencia en la toma de decisiones: si se están comunicando con una persona o un chat automatizado, o si al postular a algún beneficio, subsidio o beneficio en una entidad pública, el proceso es apoyado por un modelo de decisión algorítmico.
En la reunión, el rector Harald Beyer señaló que “en la Universidad Adolfo Ibáñez nos gusta hacer las cosas distinto y nos motiva poner al servicio del país nuestra capacidad de investigación aplicada”. Por ello, indicó, “apoyar al Consejo para la Transparencia en esta Instrucción General es una experiencia extraordinariamente interesante, y esperamos que a través del objetivo que compartimos, de aumentar los niveles de transparencia, esto sea un trabajo realmente exitoso y se pueda multiplicar más allá de este convenio”.
“Está todo manejado por algoritmos y va a seguir estándolo”, dijo por su parte el titular de Transparencia, quien subrayó que “no puede haber inteligencia artificial, gobierno abierto o toma de decisiones automatizadas si no podemos fiscalizar cómo están hechos los algoritmos”, enfatizó, Francisco Leturia, presidente del CPLT. En esa línea, ejemplificó que “cuando a nosotros nos piden datos de tipo cuántos estudiantes se han becado por tal o cual condición, sería mucho más fácil, más transparente, más simple decirle a la gente: mire, este es el algoritmo”, agregó.
Con la implementación de esta instrucción una cifra cercana a las 870 entidades públicas que están bajo la supervisión del CPLT en materia de acceso a la información deberán informar proactivamente en sus páginas web -sin necesidad de que haya solicitudes de por medio- ciertos aspectos de las tecnologías que están usando. Si bien el tipo de información a publicar se está definiendo aún a través de un proceso participativo, ésta podría incluir especificaciones sobre el modelo y su proveedor, de dónde vienen los datos, y cómo se puede consultar o reclamar, entre otros.
En abril se inició la primera etapa de esta iniciativa conjunta, con la creación de tres mesas de trabajo en que participaron funcionarios y funcionarias 22 instituciones públicas; por estas semanas se comenzará a desarrollar un piloto con dos organizaciones para revisar la aplicabilidad de la instrucción; y, finalmente, se realizará una consulta pública del borrador, con miras a su publicación en diciembre de este año.
Este trabajo del CPLT y la UAI, a través del proyecto Algoritmos Éticos, permitirá así incorporar estándares de transparencia en la implementación, adquisición o desarrollo de sistemas de decisiones en base a algoritmos en el sector público, contribuyendo con ello a que dichas soluciones cuenten con legitimidad y confianza por parte de la ciudadanía.
Sobre el proyecto Algoritmos Éticos, Responsables y Transparentes
Es una iniciativa que ejecuta la UAI, con apoyo de BID Lab, con el objetivo de promover la gestión ética de los datos, incidiendo tanto desde las políticas públicas como a través del sector privado. Ver más.
A través de este convenio, el CPLT se suma a los socios ya existentes del proyecto: ChileCompra, la División de Gobierno Digital de la Segpres, el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación, Fonasa, la Defensoría Penal Pública y Magical.
