Quebec impone directrices para el uso de la IA en la función pública

El Ministerio de Ciberseguridad y Tecnología Digital (MCN) de Quebec está adoptando medidas para regular el uso de la inteligencia artificial generativa (GAI) por parte de los organismos públicos. Según los expertos, estas directrices se ajustan a las mejores prácticas, aunque temen que su aplicación sea difícil.

Unos días antes de Navidad, Quebec anunció en un comunicado de prensa la entrada en vigor de una “directriz de aplicación”.

Este documento contiene medidas para el uso de GAI en la administración pública.

Estos incluyen protección de datos, capacitación del personal y criterios a considerar al elegir casos de uso para GAI. El documento también proporciona un marco de gobernanza, gestión de riesgos y medidas de control.

Además de esta directriz, la MCN también ha actualizado su “declaración de principios para el uso responsable de la inteligencia artificial por parte de los organismos públicos”.

Estos dos documentos también levantan la suspensión del año pasado sobre el uso de asistentes virtuales basados ​​en IA en la administración pública, según el MCN.

“El trabajo experimental realizado por el MCN en colaboración con 14 organismos públicos ha permitido evaluar los riesgos del uso de la IA y elaborar directrices para controlarlos”, afirmó la oficina del ministro del MCN.

Mejores prácticas

El enfoque de Quebec para regular esta tecnología está en línea con las mejores prácticas reconocidas en el sector público, particularmente a nivel internacional, según expertos contactados por The Canadian Press.

Sébastien Gambs, profesor del departamento de informática de la Universidad de Quebec en Montreal (UQAM), considera positiva la introducción de este marco quebequense.

“Existe el deseo de garantizar que cuando se implemente un sistema de inteligencia artificial, no sea solo un experimento de un aprendiz de brujo, sino que se tengan en cuenta muchas cuestiones para garantizar que beneficie a la sociedad”, dijo Gambs, quien ocupa la Cátedra de Investigación de Canadá en Preservación de la Privacidad y Análisis Ético de Datos Masivos.

Según Lahcen Fatah, especialista en ética especializado en tecnología e inteligencia artificial, Quebec está adoptando un “enfoque bastante pragmático” con la directriz de aplicación.

“El documento no celebra necesariamente la IA generativa como una solución milagrosa. (…) La IA se presenta aquí como una herramienta de asistencia, nunca como un sustituto del juicio administrativo o político”, afirmó Fatah, estudiante de doctorado en la UQAM.

También elogia, entre las buenas medidas integradas por Quebec, “el mantenimiento de un ser humano responsable” detrás del uso del GAI. El marco prevé la obligación de supervisión humana y “la negativa a delegar completamente en un sistema generativo de IA”, señala.

Ali Ekber Cinar, estudiante de doctorado en la Facultad de Derecho de la Universidad McGill y especialista en el campo del derecho y la tecnología, considera en general que la directriz de aplicación “es estructuralmente sólida y atenta a los riesgos”.

“Observa en particular el requisito explícito de realizar evaluaciones del impacto en la privacidad (…) en todas las etapas de los proyectos”.

“Esto me parece notable, ya que demuestra un alto nivel de precaución y garantiza que las consideraciones éticas y de privacidad se traten como una responsabilidad continua”, dijo Cinar en un correo electrónico.

“Sin embargo, todavía existen lagunas” en términos de protección de datos personales, aunque el marco prevé medidas sólidas, afirmó.

En particular, señala que el marco ofrece “orientación limitada sobre cómo informar a los interesados, obtener su consentimiento o la posibilidad de impugnación y recurso”.

Cinar también destaca la falta de detalles sobre ciertos aspectos, incluidos los “períodos de retención” de los datos.

Gambs también encuentra interesantes varios aspectos de la declaración de principios. En particular, cita la sección sobre la eficiencia y eficacia de los sistemas de IA, que, según el comunicado, debería permitir servicios públicos simplificados.

“Para mí, la pregunta básica que debemos hacernos es: ¿el sistema de IA que vamos a implementar mejora un proceso gubernamental o agrega valor? No es sólo un sistema complicado que estamos implementando. (…) ¿Es realmente algo que beneficiará a la población a un costo controlado?” él argumenta.

Un desafío a implementar

El profesor de la UQAM considera que implementar estos principios y lineamientos dentro del servicio público es un gran desafío.

En su opinión, su implementación puede requerir capacitación del personal existente y la contratación de nuevos empleados.

“Creo que ya hay bastante experiencia en cada departamento para poder abordar cuestiones de privacidad. Pero están surgiendo nuevos principios que son algo específicos de la IA, que, en mi opinión, requieren el desarrollo de habilidades internas y tal vez la contratación de nuevas personas con esta experiencia”, dijo Gambs.

Fatah señala que la directriz es de naturaleza obligatoria, ya que se aplica a las organizaciones y departamentos sujetos a la Ley de Gobernanza y Gestión de Recursos de Información.

Es probable que esto “tenga un impacto concreto en las prácticas administrativas”, dijo.

“Sin embargo, a pesar de ser obligatorio, sigue siendo difícil de implementar”, reconoce Fatah.

“El marco es sólido sobre el papel, pero su eficacia dependerá en gran medida de los recursos, la madurez digital de las organizaciones y su capacidad para hacer operativos estos requisitos a lo largo del tiempo”, afirma.

Aunque las medidas adoptadas por el MCN distan mucho de ser simbólicas, Fatah cree que la adopción de una ley marco sigue siendo necesaria para reforzar el desarrollo responsable y el despliegue de la IA en Quebec.

En su informe sobre la IA, publicado en enero de 2024, el Consejo de Innovación de Quebec recomendó que la provincia comenzara rápidamente a trabajar para adoptar una ley marco.

Este último “tendría como objetivo establecer directrices aplicables tanto en el sector público como en el privado” para proteger a los ciudadanos en presencia de sistemas de IA “con un alto riesgo de impacto en los derechos humanos”, escribió el Consejo.