ChatGPT establecerá el control de los padres, anuncio de Openai

La compañía estadounidense OpenAI anunció el martes que establecería un mecanismo de control de los padres para su herramienta de inteligencia artificial CHATGPT, después de que los padres estadounidenses acusaron a finales de agosto este agente conversacional de haber alentado a su hijo de suicidarse.

• Leer también: Confiar en chatgpt “no reemplaza la terapia”, advierte a un especialista

“En el próximo mes, los padres podrán vincular su cuenta con la de su adolescente” y “controlar la forma en que ChatGPT responde a su adolescente con las reglas de comportamiento del modelo”, dijo Openii en una publicación de blog.

Según la compañía, también será posible que los padres sean alertados en el caso de detectar “angustia aguda” en las conversaciones de sus hijos y controlar los parámetros de la cuenta.

Este anuncio sigue a una publicación de blog anterior publicada a fines de agosto, en la que la compañía había indicado que estaba preparando un mecanismo de control de los padres.

El día anterior, los padres de un adolescente californiano de 16 años que se suicidó se habían quejado contra Operai, acusando a Chatgpt de haber proporcionado a su hijo instrucciones detalladas para terminar con su vida y alentar su gesto.

“Continuamos mejorando la forma en que nuestros modelos reconocen y responden a los signos de angustia mental y emocional”, agregó la compañía el martes en su publicación de blog.

Operai dijo que tomó otras medidas, esperadas en los próximos 120 días.

Por lo tanto, la compañía redirigirá ciertas “conversaciones sensibles” a modelos de razonamiento como el pensamiento GPT-5, más avanzado.

“Los modelos de razonamiento siguen y aplican las instrucciones de seguridad más sistemáticamente”, dijo el grupo estadounidense.