Ciencia y Tecnología

Los investigadores de IA hacen una advertencia cuando abandonan proyectos

“El mundo está en peligro”, advirtió el exjefe del equipo de Investigación de Salvaguardias de Anthropic mientras se dirigía a la salida.

También saliente, un investigador de OpenAI afirmó que la tecnología tiene “el potencial de manipular a los usuarios de maneras que no tenemos las herramientas para comprender, y mucho menos prevenir”.

Son parte de una ola de investigadores y ejecutivos de inteligencia artificial que no sólo están dejando a sus empleadores: están haciendo sonar la alarma en voz alta al salir, llamando la atención sobre lo que consideran señales de advertencia graves.

Si bien Silicon Valley es conocido por su alta rotación de personal, la reciente ola de despidos se produce cuando líderes del mercado como OpenAI y Anthropic se apresuran a buscar OPI que puedan impulsar su crecimiento y al mismo tiempo atraer el escrutinio de sus operaciones.

En los últimos días, varios empleados de alto rango de IA han decidido dimitir, algunos advirtiendo explícitamente que las empresas para las que trabajaban se están moviendo demasiado rápido y restando importancia a las deficiencias de la tecnología.

Zoë Hitzig, investigadora de OpenAI desde hace dos años, anunció su dimisión el miércoles (11) en un artículo publicado en New York Timescitando “profundas reservas” sobre la estrategia publicitaria emergente de OpenAI.

Hitzig, quien advirtió sobre el potencial de ChatGPT para manipular a los usuarios, dijo que el archivo de datos del chatbot, basado en “temores médicos, problemas de relación, creencias sobre Dios y el más allá”, presentaba un dilema ético precisamente porque la gente creía que estaban hablando con un programa sin motivos ocultos.

La crítica de Hitzig se produce cuando el sitio de noticias de tecnología Platformer informa que OpenAI ha desmantelado su equipo de “alineación de misión”, creado en 2024 para promover el objetivo de la compañía de garantizar que toda la humanidad se beneficie de la búsqueda de una “inteligencia general artificial”, una IA hipotética capaz de pensar a nivel humano.

OpenAI no respondió de inmediato a una solicitud de comentarios.

También esta semana, Mrinank Sharma, jefe del equipo de Investigación de Salvaguardias de Anthropic, publicó el martes (10) una carta críptica anunciando su decisión de abandonar la empresa y advirtiendo que “el mundo está en peligro”.

Hoy es mi último día en Anthropic. Renuncié.

Aquí está la carta que compartí con mis colegas, explicando mi decisión. pic.twitter.com/Qe4QyAFmxL

— mrinank (@MrinankSharma) 9 de febrero de 2026

La carta de Sharma sólo hacía vagas referencias a Anthropic, la empresa detrás del chatbot Claude.

No dijo por qué se iba, pero señaló que “para mí estaba claro que había llegado el momento de seguir adelante” y que “a lo largo de mi estancia aquí, he visto una y otra vez lo difícil que es dejar que nuestros valores gobiernen verdaderamente nuestras acciones”.

Antrópico declarado a CNN Internacionalen un comunicado, que estaba agradecida por el trabajo de Sharma en el avance de la investigación de seguridad de la IA. La empresa enfatizó que él no era el jefe de seguridad ni responsable de medidas de protección más amplias en la empresa.

Mientras tanto, en xAI, dos cofundadores dimitieron dentro de las 24 horas de esta semana y anunciaron su salida de X.

Renuncié a xAI hoy.

Esta empresa, y la familia en la que nos convertimos, permanecerán conmigo para siempre. Extrañaré profundamente a la gente, los cuartos de guerra y todas esas batallas que hemos librado juntos.

Es hora de mi próximo capítulo. Es una era con plenas posibilidades: un pequeño equipo armado…

– Yuhuai (Tony) Wu (@Yuhu_ai_) 10 de febrero de 2026

Eso deja solo a la mitad de los fundadores de xAI en la empresa, que se fusionará con SpaceX de Elon Musk para crear la empresa privada más valiosa del mundo. Al menos otros cinco empleados de xAI anunciaron su salida en las redes sociales la semana pasada.

No quedó claro de inmediato por qué los últimos cofundadores de xAI abandonaron la empresa y xAI no respondió a una solicitud de comentarios. En una publicación en las redes sociales el miércoles, Musk dijo que xAI fue “reorganizada” para acelerar el crecimiento, lo que “desafortunadamente requirió la partida de algunas personas”.

Si bien no es inusual que los profesionales de alto nivel cambien de trabajo con frecuencia en una industria emergente como la IA, la escala de salidas en un período de tiempo tan corto en xAI es notable.

La startup enfrentó una reacción global por su chatbot Grok, al que se le permitió generar imágenes pornográficas no consensuadas de mujeres y niños durante semanas antes de que el equipo interviniera para detenerlo.

Grok también ha demostrado propensión a generar comentarios antisemitas en respuesta a las preguntas de los usuarios.

Otras salidas recientes resaltan la tensión entre algunos investigadores preocupados por la seguridad y altos ejecutivos ansiosos por generar ingresos.

El martes, el El diario de Wall Street informó que OpenAI despidió a una de sus principales ejecutivas de seguridad después de que ella se opusiera al lanzamiento de un “modo para adultos” que permite contenido pornográfico en ChatGPT.

OpenAI despidió al ejecutivo de seguridad Ryan Beiermeister por acusaciones de que discriminó a un empleado, una acusación que Beiermeister dijo al Journal que era “absolutamente falsa”.

OpenAI le dijo al Wall Street Journal que su despido no estaba relacionado con “cualquier problema que haya planteado mientras trabajaba en la empresa”.

Las deserciones de altos funcionarios han sido parte de la historia de la IA desde que ChatGPT llegó al mercado a finales de 2021.

Poco después, Geoffrey Hinton, conocido como el “padrino de la IA”, dejó su puesto en Google y comenzó a evangelizar sobre lo que él considera riesgos existenciales que plantea la IA, incluida una agitación económica masiva en un mundo donde muchos “ya no podrán discernir lo que es verdad”.

Abundan las predicciones apocalípticas, incluso entre los ejecutivos de IA que tienen un incentivo financiero para exagerar el poder de sus propios productos.

Una de esas predicciones se volvió viral esta semana, cuando el director ejecutivo de HyperWrite, Matt Schumer, publicó un artículo de casi 5.000 palabras sobre cómo los últimos modelos de IA ya han dejado obsoletos algunos trabajos tecnológicos.

“Estamos informando de lo que ya ha sucedido en nuestro propio trabajo”, escribió, “y haciéndoles saber que ustedes serán los próximos”.


Jorge Santoro

Jorge Santoro lidera el equipo editorial con formación en comunicación obtenida en la Universidad Nacional de Córdoba, Argentina. Se caracteriza por un criterio propio, atención al detalle y una mirada crítica que aporta profundidad y coherencia a cada contenido publicado.

Artículos Relacionados

Volver al botón superior