Docenas de países piden una ‘IA segura, confiable y robusta’ después de la cumbre de la India

Decenas de países, incluidos Estados Unidos y China, pidieron una inteligencia artificial “segura, confiable y robusta” en una declaración conjunta publicada el sábado después de la cumbre sobre IA en Nueva Delhi.

• Lea también: Estados Unidos rechaza “completamente” la gobernanza global de la IA

• Lea también: La ONU lanza una comisión sobre el “control humano” de la IA

• Lea también: IA en la investigación de mercados de marketing: “Existe un riesgo”, advierte un experto

“Promover una IA segura, confiable y robusta es esencial para generar confianza y maximizar los beneficios sociales y económicos”, afirma el texto firmado por 86 países y dos organizaciones internacionales.

No incluye ningún compromiso concreto ni medida restrictiva y destaca varias iniciativas voluntarias y no vinculantes, en particular para aunar capacidades de investigación en IA a nivel internacional.

“Creemos que el potencial de la IA sólo se realizará plenamente cuando sus beneficios sean compartidos por toda la humanidad”, dice la declaración publicada al final de esta cumbre de cinco días.

Estaba previsto para el viernes, pero su publicación se pospuso hasta el sábado para tener más de 80 firmantes, dijo Ashwini Vaishnaw, ministro indio de Tecnología de la Información.

“Los compromisos adquiridos no son del todo insignificantes, lo principal es que hay compromisos, simplemente”, respondió inmediatamente a la AFP Stuart Russell, eminente investigador informático.

Texto cauteloso

“Espero que todos los países puedan aprovechar estos acuerdos (…) para desarrollar leyes vinculantes destinadas a proteger a sus poblaciones, de modo que el desarrollo y el despliegue de la IA puedan continuar sin plantear riesgos inaceptables”, continuó el Sr. Russell.

La declaración no contiene salvaguardias para prevenir los peligros que esta tecnología puede plantear, como el estallido de pandemias, la propagación de desinformación, preocupaciones de seguridad nacional o desempleo masivo, y aborda estos temas con cautela.

“Sigue siendo esencial profundizar nuestra comprensión de los posibles problemas de seguridad relacionados con la IA”, enfatiza simplemente.

En materia de empleo, el texto hace hincapié en las iniciativas de reciclaje para “apoyar a los trabajadores en su preparación para una economía futura impulsada por la IA”.

“Enfatizamos la importancia de desarrollar sistemas de inteligencia artificial energéticamente eficientes”, dadas las inmensas cantidades de electricidad necesarias para alimentarlos y el agua utilizada para enfriar los servidores, agrega el comunicado.

Decenas de delegaciones de todo el mundo se reunieron esta semana en la capital india para discutir, en particular, cómo regular la IA.

Las tres cumbres anteriores sobre inteligencia artificial dieron como resultado un texto vago. Durante la edición del año pasado en París, Estados Unidos no firmó la declaración conjunta al final de la cumbre.

Reunirse en Ginebra

El primer ministro indio, Narendra, el presidente francés, Emmanuel Macron, el secretario general de las Naciones Unidas, Antonio Guterres, y los mayores jefes tecnológicos, incluido Sam Altman de Open AI, hablaron en la cumbre que se inauguró el jueves.

Los temas candentes incluyeron los beneficios sociales de la traducción multilingüe de la IA, las amenazas a los puestos de trabajo y el problema del consumo de energía de los centros de datos.

Durante los debates chocaron dos formas diferentes de gestionar el desarrollo de la IA.

Antonio Guterres confirmó el lanzamiento de una comisión científica destinada a hacer del “control humano” de la IA “una realidad técnica”.

Por su parte, Estados Unidos rechazó “totalmente” el viernes cualquier gobernanza global de la inteligencia artificial, a través de Michael Kratsios, asesor de ciencia y tecnología de la Casa Blanca.

El jefe de OpenAI, Sam Altman, llamó a una necesidad urgente de regulación.

“Se puede imaginar que el mundo necesita algo como la OIEA (Agencia Internacional de Energía Atómica) para garantizar la coordinación internacional en materia de IA”, propuso.

La “Cumbre de Acción sobre IA” en Nueva Delhi fue la cumbre más grande hasta la fecha, con decenas de miles de participantes y visitantes, y la primera que se celebró en un país en desarrollo.

El próximo se celebrará en Ginebra a principios de 2027.