El Parlamento Europeo allana el camino para la regulación de la inteligencia artificial

Los eurodiputados aprobaron este miércoles un proyecto europeo para la regulación de la inteligencia artificial (IA), allanando el camino para las negociaciones con los Estados miembros para finalizar este texto que debería limitar los riesgos de los sistemas tipo ChatGPT.

• Lea también: El jefe de IA de Meta impulsa un nuevo modelo para esta tecnología

• Lea también: Ubisoft ve la realidad virtual y la IA como el futuro de los juegos

• Lea también: Replicación de voz por IA: nuevas estafas telefónicas preocupan

El Parlamento Europeo ha pedido nuevas prohibiciones, como la de los sistemas automáticos de reconocimiento facial en lugares públicos.

La Comisión desearía autorizar su uso por parte de los organismos encargados de hacer cumplir la ley en la lucha contra la delincuencia y el terrorismo. El tema debe alimentar los debates con los Estados miembros que rechazan la prohibición de esta controvertida tecnología.

La Unión Europea espera concluir antes de que finalice el año la primera regulación en el mundo destinada a regular y proteger la innovación en inteligencia artificial, un sector estratégico en la competencia económica.

Bruselas planteó hace dos años un ambicioso proyecto cuyo examen se ha dilatado y que se ha retrasado aún más en los últimos meses por las polémicas sobre los peligros de la IA generativa capaz de crear textos o imágenes.

El Parlamento Europeo adoptó su posición el miércoles en una votación plenaria en Estrasburgo. Al final del día, las negociaciones deben comenzar con los Estados miembros para finalizar la legislación lo antes posible.

El comisario Thierry Breton, que llevó el texto con su colega Margrethe Vestager, pidió que el proceso concluya en “los próximos meses”.

• Escucha la crónica de Loïc Tassé, especialista en política internacional al micrófono de Benoit Dutrizac vía QUB-radio :

“Actua rapido”

“La IA plantea muchas preguntas, social, ética y económicamente. (…) Se trata de actuar rápido y asumir la responsabilidad”, dijo el miércoles.

Pero el reglamento no entrará en vigor antes de 2026, en el mejor de los casos. Creyendo que había urgencia, el Sr. Breton y la Sra. Vestager anunciaron su intención de obtener compromisos voluntarios de las empresas lo antes posible.

De gran complejidad técnica, los sistemas de inteligencia artificial fascinan tanto como preocupan. Si bien pueden salvar vidas al permitir un salto cuántico en el diagnóstico médico, también son explotados por regímenes autoritarios para ejercer la vigilancia masiva de los ciudadanos.

El público en general descubrió su inmenso potencial a fines del año pasado con el lanzamiento del generador de contenido editorial ChatGPT de OpenAI, con sede en California, que puede escribir ensayos, poemas o traducciones originales en segundos.

Ejemplo de hazañas ahora posibles: este año se lanzará una canción inédita de los Beatles grabada con IA para recrear la voz de John Lennon.

Pero la difusión en las redes sociales de imágenes falsas, más reales que la vida, creadas a partir de aplicaciones como Midjourney, ha alertado sobre los riesgos de manipulación de la opinión y los peligros para la democracia.

Los científicos han pedido una moratoria en el desarrollo de los sistemas más potentes, hasta que estén mejor regulados por ley.

“Necesita reglas”

“Necesitamos reglas (…). Todo el mundo nos está mirando”, dijo el eurodiputado Brando Benifei durante un debate el martes.

La posición del Parlamento confirma en líneas generales el enfoque de la Comisión. El texto se basa en las normas existentes sobre seguridad de los productos e impondrá controles basados ​​principalmente en las empresas.

El corazón del proyecto consiste en una lista de reglas impuestas solo a las aplicaciones consideradas de “alto riesgo”. Estos serían sistemas utilizados en áreas sensibles como infraestructura crítica, educación, recursos humanos, aplicación de la ley o gestión de la migración…

Entre las obligaciones: prever el control humano sobre la máquina, el establecimiento de documentación técnica, o incluso el establecimiento de un sistema de gestión de riesgos.

El cumplimiento de los mismos será supervisado por las autoridades de control de cada país miembro.

El Parlamento Europeo tiene la intención de tener mejor en cuenta las IA generativas del tipo ChatGPT solicitando un régimen específico de obligaciones que repita esencialmente las previstas para los sistemas de alto riesgo.

La propuesta de la Comisión, presentada en abril de 2021, ya proporciona un marco para los sistemas de IA que interactúan con los humanos. Los obligará a informar al usuario que está en contacto con una máquina y obligará a las aplicaciones generadoras de imágenes a especificar que fueron creadas artificialmente. Una obligación que probablemente se extenderá a los textos.

Las prohibiciones serán raras. Se referirán a aplicaciones contrarias a los valores europeos, como los sistemas de calificación ciudadana o la vigilancia masiva que se utilizan en China.