La institución financiera de Quebec dice que la IA es útil para proteger los datos personales

Aunque informes y voces recientes han resaltado sus trampas y peligros potenciales, algunas instituciones financieras argumentan que la inteligencia artificial también puede ayudar a proteger los datos de las personas.

Algunas instituciones financieras utilizan el reconocimiento de voz para autenticar a los clientes que utilizan servicios telefónicos, en función de las características distintivas de su voz.

Desjardins, con sede en Quebec, presentó la tecnología en junio de 2021. Desde entonces, 1,5 millones de miembros, que previamente dieron su consentimiento para el proceso, han sido identificados por su voz en seis millones de llamadas.

“Nuestros miembros consideraban que el proceso de autenticación tradicional era irritante cuando llamaban”, dijo Annie-Claude Jutras, gerente sénior de Transformación del Centro de Relaciones con el Cliente en Desjardins. “Tuvimos que pasar varias docenas de segundos al comienzo de cada llamada para completar todos los pasos del proceso. Con la autenticación de voz, es más rápido, más natural y más agradable”.

El método también es más seguro, dijo Jutras, ya que Desjardins utiliza un tipo pasivo de autenticación, donde el sistema informático reconoce la voz durante una conversación simple en función de un centenar de parámetros.

“Modelamos la voz usando estos parámetros, que nos dan una clave única para cada miembro en forma de código alfanumérico”, dijo. “Es como una huella dactilar”.

Al hacer esto, el cliente no necesita decir una frase secreta para identificarse, un tipo de autenticación que ya han utilizado los estafadores, que grababan la voz de una persona sin su conocimiento y luego la personificaban para tener acceso a información personal.

“Este tipo de autenticación se lleva a cabo en un sistema automatizado”, dijo Jutras. “Entrenar una voz sintética o usar un motor de inteligencia artificial para calibrar la voz a la perfección es mucho más difícil en el contexto de una discusión fluida donde hay un intercambio de preguntas y respuestas entre el miembro y el empleado de Desjardins”.

Laurent Charlin, miembro académico sénior de Mila, profesor asociado de HEC Montreal y titular de una cátedra Canadá-CIFAR en inteligencia artificial, está de acuerdo.

“Los humanos podemos reconocer bastante bien la voz de un hablante, pero el sistema puede ser entrenado para distinguir entonaciones muy específicas”, dijo. “Si ciertas instituciones financieras han implementado este sistema, deben haberse asegurado de que era mejor que la tecnología que usaban antes”.

FINGIR NO ES TAN FÁCIL COMO CREES

Según Patrick Cardinal, profesor y jefe del departamento de ingeniería de software de la École de technologie supérieure (ETS), la tecnología aún no nos permite simular una conversación improvisada utilizando la voz de otra persona a partir de una simple muestra de voz.

“El hecho de que la autenticación se lleve a cabo durante una conversación significa que existe cierta incertidumbre sobre las preguntas o intercambios por venir, por lo que es difícil predecir las respuestas”, dijo. “Además, para obtener algo confiable, necesitarías una gran cantidad de datos para entrenar la inteligencia artificial: la mayoría de las personas no tienen estos datos en línea”.

Cardinal se refiere a extractos de voz disponibles en Internet.

No puede decirse lo mismo de los profesionales de la televisión, la radio o el cine, cuyos extractos de voz abundan en la Red.

“Ya hemos visto videos de actores o políticos que dicen cosas que nunca antes habían dicho, gracias a la falsificación profunda”, dijo Charlin. “También hay aplicaciones que pueden usar un extracto corto para generar tu voz y hacerte decir lo que quieran”.

“En caso de duda, siempre puede recurrir a los métodos tradicionales, como solicitar una identificación”, dijo Jutras.

“Consultando con el Centro Canadiense Antifraude, no ha habido informes de fraude de inteligencia artificial utilizando la clonación de voz, en particular, para acceder a las cuentas bancarias de una víctima. Dicho esto, esto es algo que el CAFC continuará monitoreando de cerca”, dijo. Jeff Horncastle, oficial interino de comunicación y concientización del cliente, dijo por correo electrónico.

Este informe de The Canadian Press se publicó por primera vez en francés el 11 de junio de 2023.