La Evaluación de Impacto Algorítmica ya está disponible gratuitamente para los servicios públicos que quieran pilotar esta herramienta, junto al equipo de la Universidad Adolfo Ibáñez, y así prevenir y mitigar riesgos de discriminación, protección de datos o falta de transparencia, entre otros.

La inciativa es parte del proyecto Algoritmos Éticos, del cuál la Dirección ChileCompra forma parte como socio estratégico.

Una tercera herramienta gratuita, de código abierto y en español fue lanzada por el GobLab, el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI). Se trata de la Evaluación de Impacto Algorítmico (EIA), que se une a otras dos ya disponibles en la plataforma Algoritmos Públicos, proyecto del cuál forma parte la Dirección ChileCompra. Esta alianza se ha traducido en la elaboración de Bases Tipo de Licitación estandarizadas para la contratación de proyectos de ciencias de datos e inteligencia artificial y una directiva de compras con recomendaciones a compradores públicos.

La EIA busca ser una guía para que los equipos de desarrollo puedan identificar riesgos de manera temprana, y así tomar medidas para mitigar y prevenir efectos indeseados como sesgos o discriminación, infracciones a la protección de datos y opacidad, contribuyendo al fomento de la confianza pública mediante el uso ético y transparente de los sistemas de inteligencia artificial. 

“Es relevante que las instituciones públicas puedan usar esta evaluación ya que permite que las decisiones automatizadas sean comprensibles y que en el futuro puedan ser auditables por el público y las autoridades. Asegura un uso ético y transparente de los sistemas de inteligencia artificial lo que, sin duda, fomenta la confianza pública”, señaló la subdirectora del GobLab UAI, Romina Garrido.

La Evaluación de Impacto Algorítmico está orientada a proyectos de ciencia de datos e inteligencia artificial y se suma a otras dos herramientas presentadas durante el primer semestre, la Ficha de Transparencia Algorítmica y la Medición de Sesgos y Equidad. Todas están  disponibles para ser probadas por los servicios públicos interesados a través de pilotos, han sido diseñadas en el marco de un proyecto financiado por ANID y facilitarán que las instituciones y sus proveedores tecnológicos implementen la Política Nacional de Inteligencia Artificial y la circular del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación sobre el tema. 

En la convocatoria, que estará abierta hasta abril 2025, pueden participar proyectos de ciencia de datos o inteligencia artificial del sector público que estén en fases de desarrollo, implementación o producción, ya sean proyectos a cargo de un equipo interno o en conjunto con un proveedor externo.

Romina Garrido, cerró esta presentación invitando a todas las organizaciones públicas a ser parte de estos pilotos, “Los funcionarios y las instituciones públicas están siempre sujetos a un mayor escrutinio, responsabilidad y a múltiples marcos normativos, y estas herramientas facilitan su cumplimiento, y sobre todo, pensando en que en el corto plazo vienen regulaciones como la Ley de Protección de Datos Personales, que exige también ciertos grados de transparencia de los algoritmos. Estas herramientas ayudan a implementarlas de una manera anticipada”.

La información sobre las herramientas y la inscripción en las sesiones informativas para ser parte del proceso de pilotaje está disponible en https://algoritmospublicos.cl/.