En el segundo conversatorio de “Ética en tiempos de datos” del proyecto Algoritmos Éticos, Responsables y Transparentes – que lidera la UAI junto a BID Lab – se conoció la Caja de Herramientas para la compra de IA elaborada por el Foro Económico Mundial, la experiencia de casos reales de uso en Dubai y Brasil y cómo ChileCompra se prepara para abordar estos desafíos.

El 2020 el Foro Económico Mundial (WEF) diseñó una caja de herramientas con el objetivo de otorgar a los gobiernos y al sector público lineamientos que faciliten la compra responsable de sistemas de inteligencia artificial (IA). Esta directriz es para quienes participan en el diseño de procesos de licitación para adquirir este tipo de servicios, para los desarrolladores tecnológicos que buscan adjudicarse estos procesos y también para académicos que investigan sobre el tema.

Precisamente, esta caja de herramientas y su aplicación fue el tema central del conversatorio “Herramientas y experiencias globales para la adquisición pública de inteligencia artificial responsable”, un evento de alcance internacional organizado colaborativamente entre el Foro Económico Mundial (WEF), la iniciativa fAIr LAC del Grupo BID y el proyecto Algoritmos Éticos, Responsables y Transparentes, que lidera la Universidad Adolfo Ibáñez (UAI) con apoyo de BID Lab.

La directora de ChileCompra Tania Perich abrió la jornada refiriéndose al Proyecto Algoritmos Éticos, Responsables y Transparentes, una experiencia inédita en Chile, que busca instalar estándares éticos cuando el Estado requiere comprar diseños de inteligencia artificial y sistemas automatizados. “​El Estado es un gran comprador y desde ahí tiene la posibilidad de influir en el mercado tecnológico para la incorporación de estándares éticos dentro de las bases de licitación de los servicios de datos en general y en particular de la inteligencia artificial. Estamos conscientes de la importancia que a través de nuestros organismos y agencias se utilicen los sistemas automatizados o semiautomatizados de manera responsable, aprovechando así todas las oportunidades que el uso de datos nos abre para resolver problemas que pueden ser de mayor o menor complejidad. Se trata de evitar que con el uso de la inteligencia artificial se puedan presentar instancias de discriminación o falta de transparencia, por mencionar tan sólo algunas dificultades que pueden surgir en torno a la IA”, indicó en la oportunidad.

Actualmente se encuentran en curso dos licitaciones de inteligencia artificial de servicios públicos en Chile, las cuales se están ejecutando con criterios éticos y con el diseño de nuevas Bases Tipo de Licitación que proponen cláusulas y criterios estandarizados para este tipo de adquisiciones, recogiendo los lineamientos y herramientas internacionales al respecto.

“Esperamos así poder incidir en la gestión del cambio para que los organismos del Estado consideren la gestión ética de datos dentro de sus estándares y requisitos de compra, y por otro lado promover la generación de oportunidades en el Mercado Público para que las empresas de tecnología desarrollen capacidades para incorporar estándares éticos en su provisión de algoritmos de decisión automatizada e inteligencia artificial”, agregó la directora Tania Perich.

El encuentro contó con la presencia de María Paz Hermosilla, directora del GobLab UAI, quien ofició como moderadora; Gabriela Lazo, jefa de la División de Estudios e Inteligencia de Negocios de ChileCompra; y Hubert Halopé, del Centro para la Cuarta Revolución Industrial (C4IR) del WEF, quien expuso sobre la caja de herramientas “AI Procurement in a Box” y profundizó en sus alcances. 

Hubert Halopé explicó que la elaboración de estos principios contó con la participación de múltiples actores interesados a nivel global, como representantes de gobierno, académicos, de organizaciones de la sociedad civil y empresas para explorar temas claves en el proceso de compra de IA y así diseñar respuestas conjuntas. “La caja de herramientas comprende 10 lineamientos que describen elementos fundamentales para tener en consideración antes de adquirir y desplegar soluciones de IA, algunas de ellas: alinear el proceso de adquisiciones con estrategias gubernamentales existentes y trabajar con un equipo diverso y multidisciplinario”, señaló. 

Luego, para conocer cómo pueden ser aplicadas estas directrices en casos reales de compra y su impacto, hubo exposiciones sobre experiencias en  Dubai Electricity and Water Authority, a cargo de Mariam Al Muhairi, y en el Metro de São Paulo y el Hospital das Clinicas, en voz de Clara Langevin y Rafael Fassio, además de un panel de conversación.

Los casos de Brasil y Dubai
En la presentación sobre la implementación en Brasil, Clara Langevin, Project Lead del Centro para la Cuarta Revolución Industrial de Brasil, explicó que adaptaron los principios del WEF a dos proyectos piloto, uno en un hospital y otro en transporte público.  Comentó además que buscaron “incluir en el proceso de licitación, según los lineamientos para las entidades públicas, una evaluación de impacto de los algoritmos”, para lo cual usaron una matriz de riesgo del organismo de control externo del gobierno federal, lo que les permitió socializar fácilmente con los equipos los riesgos éticos asociados a su proyecto.

En el caso de Dubai, Mariam Al Muhari, Senior Projects Manager de Dubai Future Foundation, reflexionó sobre la necesidad de explicar a los compradores públicos que hay que diferenciar las licitaciones de software en general o de equipos de hardware, de la compra de inteligencia artificial, “que se haga cargo de los asuntos de seguridad, de una evaluación de los algoritmos y de la sostenibilidad de los sistemas”. Finalmente, explicó que del piloto surgió una política de adquisiciones a nivel nacional.