Italia bloquea el chatbot ChatGPT

¿Italia lidera la lucha contra la inteligencia artificial? El país anunció el viernes que estaba bloqueando el chatbot ChatGPT por problemas de uso de datos, dos meses después de prohibir Replika, otro programa comercializado como un “amigo virtual”.

• Lea también: Inteligencia artificial: ¿ChatGPT salva la vida de una perra?

• Lea también: ¿Hasta 300 millones de puestos de trabajo amenazados por la inteligencia artificial?

• Lea también: Orthobot: Para facilitar el acceso a la inteligencia artificial

En un comunicado de prensa, la Autoridad Italiana de Protección de Datos Personales advierte que su decisión tiene “efecto inmediato” y acusa a ChatGPT de no respetar la normativa europea y de no tener un sistema para verificar la edad de los usuarios menores.

Esta decisión dará como resultado “la limitación temporal del procesamiento de los datos de los usuarios italianos frente a OpenAI”, la empresa detrás de la aplicación, agrega.

ChatGPT apareció en noviembre y rápidamente fue absorbido por usuarios impresionados con su capacidad para responder claramente preguntas difíciles, escribir sonetos o escribir código de computadora.

Financiado por el gigante informático Microsoft, que lo ha añadido a varios de sus servicios, en ocasiones se presenta como un competidor potencial del motor de búsqueda de Google.

La Autoridad italiana subraya en su comunicado de prensa que ChatGPT “sufrió el 20 de marzo una pérdida de datos relativos a las conversaciones de los usuarios y la información relativa al pago de los abonados al servicio de pago”.

También lo critica por “la ausencia de una nota informativa para los usuarios, cuyos datos son recolectados por OpenAI, pero sobre todo la ausencia de una base legal que justifique la recolección y almacenamiento masivo de datos personales, con el propósito de +entrenar+ los algoritmos que hacer que la plataforma funcione”.

Además, si bien el robot está destinado a personas mayores de 13 años, “la Autoridad enfatiza que la ausencia de cualquier filtro para verificar la edad de los usuarios expone a los menores a ninguna respuesta acorde con su nivel de desarrollo.

La misma institución había bloqueado a principios de febrero la aplicación Replika, que ofrece chatear con un avatar personalizado. Algunos usuarios se habían quejado de recibir mensajes e imágenes demasiado atrevidos, cercanos al acoso sexual.

En esta ocasión, la Autoridad pide a OpenAI que “comuníquese en un plazo de 20 días las medidas adoptadas” para remediar esta situación, “bajo pena de una sanción de hasta 20 millones de euros o hasta el 4% de la facturación mundial anual”, el máximo previsto por el Reglamento Europeo sobre datos personales (GDPR).

Este caso muestra que el RGPD, que ya ha resultado en miles de millones de dólares en multas para los gigantes tecnológicos, también podría convertirse en el enemigo de las nuevas IA generadoras de contenido.

La Unión Europea también está preparando un proyecto de ley para regular la inteligencia artificial, que podría estar finalizado a finales de 2023 o principios de 2024, para su aplicación unos años después.

Porque la IA alimenta miedos mucho más profundos que la mera explotación de datos personales.

La agencia policial europea Europol advirtió el lunes que los delincuentes están listos para aprovechar la inteligencia artificial como el chatbot ChatGPT para cometer fraude y otros delitos cibernéticos.

Desde el phishing hasta la información errónea o el malware, es probable que personas malintencionadas exploten rápidamente las capacidades en constante evolución de los chatbots, dijo Europol en un informe.

También se pueden usar para hacer trampa en los exámenes y ChatGPT se bloqueó poco después de su lanzamiento en varias escuelas o universidades de todo el mundo. Las grandes empresas también han aconsejado a sus empleados que no utilicen la aplicación, por temor a filtrar datos sensibles.

Finalmente, el multimillonario Elon Musk, uno de los fundadores de OpenAI cuyo directorio dejó más tarde, y cientos de expertos globales firmaron el miércoles un llamado para una pausa de seis meses en la investigación de inteligencia más poderosa que GPT-4, la última versión del software en el que se basa ChatGPT, lanzado a mediados de marzo, citando “grandes riesgos para la humanidad”.