La humanidad en riesgo: el pionero de la IA insta al gobierno federal a regular más rápido

Uno de los llamados padrinos de la inteligencia artificial dice que los gobiernos deben avanzar más rápido en las regulaciones para protegerse contra los peligros de la tecnología que avanza rápidamente, antes de que represente una amenaza mayor para la humanidad.

Yoshua Bengio, quien también es el fundador y director científico del Instituto de Algoritmos de Aprendizaje de Montreal, le dijo al presentador del Periodo de preguntas de CTV, Vassy Kapelos, en una entrevista que se transmitió el domingo, que algunas tecnologías de inteligencia artificial se están acercando al nivel de inteligencia de los humanos. Y está sucediendo mucho antes de lo que nadie esperaba, agregó.

Cuando se le preguntó si comparte las preocupaciones de algunos de que la tecnología que combina la inteligencia humana pone en riesgo a la humanidad, Bengio respondió un inequívoco “sí”.

“Y ha sido difícil, en cierto sentido, cambiar mi punto de vista sobre esto”, dijo. “Si has estado trabajando en algo durante décadas, y has construido toda tu carrera y motivación con la idea de que traerías algo bueno al mundo, y de hecho la IA está trayendo mucho bien… pero ahora empiezas a darte cuenta de eso. hay peligros mucho mayores de los que pensamos, cosas en las que pensé hace unos años, es un desafío.

“Pero creo que también tenemos la responsabilidad, cuando somos científicos en esta área, de ver las cosas de una manera neutral, no solo nuestras emociones al respecto”, dijo también. “Y si pensamos que existe un riesgo y un peligro, debemos involucrarnos con todos (ciudadanos, otros expertos fuera de la IA y los gobiernos) para que podamos comprender mejor cuáles son los posibles escenarios negativos y cómo podemos prevenirlos. ¿a ellos?”

Bengio dijo que a medida que evolucionan algunos sistemas, como ChatGPT, podrían pasar por humanos en una conversación en línea, lo que presenta ciertos riesgos.

“Ahí es donde se pone peligroso”, dijo. “Podrían propagar fácilmente la desinformación de una manera mucho más poderosa de lo que ya tenemos con las redes sociales”.

Bengio dijo que una de las preocupaciones es que la tecnología de inteligencia artificial avanza más rápido que la velocidad del gobierno y la velocidad a la que los funcionarios pueden desarrollar políticas para proteger a las personas y la sociedad de estos riesgos.

“Realmente no esperaba que llegaría tan rápido”, dijo. “Pensé que el nivel de competencia que vemos ahora puede ocurrir en 20 o 50 años, si me hubieran preguntado hace unos años, pero por supuesto, en los últimos años, hemos visto venir la aceleración”.

Según The Canadian Press, el comisionado federal de privacidad, junto con tres de sus homólogos provinciales, está investigando el cada vez más popular chatbot impulsado por inteligencia artificial, ChatGPT, luego de una denuncia que alega que el programa recopiló, usó y divulgó información personal sin consentimiento.

Mientras tanto, varias figuras clave en la industria de la inteligencia artificial, incluido Bengio, están pidiendo a las empresas que desarrollan nuevos programas que hagan una pausa hasta que los gobiernos descubran cómo regularlo.

“En el corto plazo, una de las cosas fáciles pero importantes que debemos hacer es hacer que sea muy difícil, ilegal y castigar muy severamente hacerse pasar por humanos”, dijo. “Entonces, cuando un usuario interactúa con una IA, debe quedar muy claro que se trata de una IA”.

“De hecho, incluso deberíamos saber de dónde viene, qué compañía lo hizo”, agregó. “Entonces, falsificar humanos debería ser tan malo como falsificar dinero”.

Yoshua Bengio analiza los riesgos de la inteligencia artificial y la necesidad de regularla en el video que se encuentra al principio de este artículo.