ChatGPT: un salario de US$ 555.000 con exigencias extraordinarias

“Este será un rol exigente y usted será inmediatamente lanzado a la acción”, dijo Sam Altman, director ejecutivo de OpenAI, a X en su anuncio del sábado para el puesto de “Jefe de preparación” en OpenAI.

A cambio de un salario anual de 555.000 dólares estadounidenses (casi 750.000 dólares canadienses), según la oferta de trabajo de OpenAI, se espera que el futuro gerente “desarrolle, fortalezca y oriente” el programa de preparación existente dentro del departamento de sistemas de seguridad de OpenAI. Este departamento de OpenAI implementa medidas de seguridad que, en teoría, permiten que los modelos OpenAI “se comporten como se espera en situaciones del mundo real”.

Modelos de IA que salen mal

Durante los últimos doce meses, los incidentes y los procedimientos judiciales no han dejado de poner de relieve el comportamiento de la IA más allá de los límites de lo aceptable. Y las quejas se acumulan en los estantes de la Comisión Federal de Comercio:

• crisis de salud mental;
• manipulaciones fotográficas de mujeres en bikini;
• abuso de vídeos de Martin Luther King obligados a decir cualquier cosa;
• o el juicio por homicidio involuntario de la familia Raine contra ChatGPT, cuyo estímulo supuestamente llevó al joven Adam Raine a la muerte;
• todo en un contexto de abuso por parte de los usuarios en violación directa de las reglas de ChatGPT.

Mandato excepcional

En su publicación en

Hacer todo lo posible para evitar un posible procesamiento

Por lo tanto, el líder de preparación de OpenAI será alguien que pueda lograr el equilibrio adecuado y “apropiarse de la estrategia de preparación de OpenAI de extremo a extremo”, determinando cómo evaluar modelos para capacidades indeseables y diseñando formas de mitigarlas.

El anuncio establece que se espera que esta persona “evolucione el marco de preparación a medida que surjan nuevos riesgos, capacidades o expectativas externas”. Eso significa que necesitará identificar nuevas formas en las que los productos OpenAI podrían dañar a las personas o a la sociedad, y desarrollar criterios para permitir que esos productos existan, demostrando al mismo tiempo, presumiblemente, que los riesgos se han mitigado lo suficiente como para que OpenAI no sea legalmente responsable de futuros “daños” que parecen inevitables.