Nueva Directiva de ChileCompra entrega recomendaciones para la gestión de proyectos de Inteligencia Artificial o Ciencia de Datos
- El uso de esta Directiva, elaborada en el marco del proyecto de Algoritmos Éticos de la Universidad Adolfo Ibáñez, permitirá efectuar de manera más adecuada la contratación de bienes y servicios para estos rubros.
- Revisa la Directiva N°44.
Con el objetivo de facilitar la contratación de proyectos de Ciencia de Datos e Inteligencia Artificial (IA), la Dirección ChileCompra entregó recomendaciones a través del desarrollo de una nueva directiva, la que integra los requisitos para la gestión responsable y ética de los datos.
En este sentido, la consideración general es respetar los principios del derecho a la privacidad de las personas, la creación de valor público, la identificación y mitigación de sesgos, la transparencia y la rendición de cuentas a lo largo de todo el ciclo de vida de la gestión de datos, garantizando su uso responsable.
Así, la planificación desde el inicio, con estas buenas prácticas, podría contribuir a generar confianza con la ciudadanía y aprovechar el potencial que tienen los datos para mejorar el diseño y gestión de las políticas públicas.
Asimismo, la Directiva recomienda que las organizaciones posean una plataforma de información con un lenguaje claro que entregue los conceptos más relevantes del modelo, y que dicha información se vaya actualizando con la retroalimentación de los usuarios, como buenas prácticas que permitirían la aceptación general o licencia social del proyecto de ciencia de datos o IA. Además de implementar medidas técnicas y organizativas que permitan garantizar la protección, disponibilidad, integridad, confidencialidad y resiliencia de los sistemas digitales, ya que la ciberseguridad es clave en todo el proceso de adaptabilidad a la sociedad digital.
El documento permite facilitar la construcción de las especificaciones para establecer los antecedentes, requerimientos y condiciones de contratación para la adquisición y/o modificación de proyectos de Ciencia de Datos e Inteligencia Artificial, aun cuando considera que cada proyecto y la realidad de cada contrato puede requerir medidas complementarias o presentar particularidades.
Las recomendaciones contenidas en el documento se han desarrollado para cada etapa del proceso de los proyectos de IA o ciencia de datos, desde la investigación, pasando por la propuesta de solución hasta la gestión de contratos, basadas en la “Guía Permitido Innovar: ¿Cómo podemos desarrollar proyectos de ciencia de datos para innovar en el sector público?”, desarrollada por el Laboratorio de Gobierno del Ministerio de Hacienda y la Universidad Adolfo Ibáñez, con modificaciones en temas propios de los procesos de compras públicas.
Cabe recordar que, respecto a las licitaciones públicas, la Dirección ChileCompra aprobó en diciembre de 2022, un formato de bases tipo para la adquisición de “Proyectos de Ciencia de Datos e Inteligencia Artificial”, mediante Resolución N°60. Este documento contiene todos los aspectos necesarios para la gestión ética de los datos, tal como lo ordenó la Contraloría en su dictamen Nº E370752 de 2023 con la obligatoriedad para los organismos públicos del uso de las Bases Tipos para estos rubros.