La organización resaltó la política nacional sobre el uso de inteligencia artificial y  la directiva de compra realizada en conjunto por ChileCompra y la Universidad Adolfo Ibáñez (UAI) en el marco del proyecto de algoritmos éticos, la cuál se encuentra en proceso de actualización tras las modificaciones a la ley que rige las contrataciones con el Estado chileno.

Revisa el reporte completo (en inglés).

Open Contracting Partnership (OCP), organización internacional que promueve estándares abiertos en materia de contratación pública, destacó a Chile por sus medidas para promover el uso responsable y ético de la IA en el gobierno, incluyendo cómo adquirirla con éxito.

En ese sentido, en un artículo publicado en su sitio web, la OCP enfatiza tanto en la política nacional sobre el uso de la IA en el gobierno, publicada en el 2021, como en la directiva de compra lanzada en el 2023, realizada en conjunto por ChileCompra y la Universidad Adolfo Ibáñez (UAI) en el marco del proyecto de algoritmos éticos.

La política se enfoca especialmente en la gobernanza y la ética de la implementación de la IA, junto con otras consideraciones prácticas. “Según las directrices del país para el uso de la IA en entidades públicas, esta debe centrarse en las necesidades del público, y los compradores deben evaluar si es la solución tecnológica más adecuada para satisfacer estas necesidades, promoviendo al mismo tiempo la eficiencia gubernamental. Un plan de acción correspondiente incluye objetivos específicos para modernizar los procesos de contratación pública para la adquisición de IA, incluyendo la creación de un marco regulatorio y la capacitación de funcionarios públicos para mejorar la eficiencia y eficacia de la adquisición de IA, así como la exploración de cómo integrar principios responsables y éticos en la adquisición de IA” señala la OCP.

En cuanto a la directiva de compra de proyectos de ciencia de datos e inteligencia artificial, Open Contracting Partnership señala que esta ofrece recomendaciones específicas sobre cómo adquirir IA, al mismo tiempo que aborda los riesgos más comunes. “Incluye las preguntas clave y las acciones pertinentes a tomar en cada etapa del proceso de contratación, desde la investigación del problema y la propuesta de una solución hasta la gestión de la ejecución del contrato. La directiva también incluye el papel fundamental de los datos y recomienda el mapeo de las fuentes de datos disponibles y su calidad como parte del proceso. Asimismo, ofrece flexibilidad, con la capacidad de definir cláusulas y diferenciarlas según el proyecto. El objetivo: ayudar a ofrecer soluciones más orientadas a los resultados y no estandarizadas por el servicio y el proveedor adquiridos”, indica la OCP respecto a las recomendaciones que se encuentran en proceso de actualización tras las últimas modificaciones a la Ley de Compras Públicas.

Finalmente, recogiendo palabras de Romina Garrido, directora interina de GobLab, quien coordinó el proyecto de Algoritmos Éticos con ChileCompra, el artículo menciona lecciones clave en la compra de IA:

– Enfoque en el problema: Lo importante es la descripción del problema, no centrarse en una solución específica.

– Un enfoque multidisciplinario: Una contratación exitosa de IA requiere un equipo diverso con experiencia en ciencia de datos, contratación pública y ética.

– La calidad de los datos es fundamental: La calidad de los datos utilizados para entrenar modelos de IA es importante. Los datos deben ser precisos, imparciales y representativos.

– Flexibilidad y adaptabilidad: Dado el rápido ritmo de desarrollo de la IA, los procesos de contratación deben ser lo suficientemente flexibles como para adaptarse a nuevas tecnologías y enfoques, y evitar quedar limitados a una solución específica.

– Preparación para el mercado: Uno de los mayores desafíos ha sido la falta de preparación del mercado. Muchos proveedores potenciales, incluso los grandes, desconocían los conceptos de ética en IA y los requisitos asociados.  

– Monitoreo y evaluación continuos: Es necesario introducir nuevos requisitos con responsabilidad y rendición de cuentas, garantizando la apertura del algoritmo.