Límite de la IA: las tecnológicas piden a EE.UU. que frene los modelos avanzados
Más de 1.200 empleados de empresas tecnológicas firmaron esta semana una petición pidiendo al gobierno de Estados Unidos que cree herramientas capaces de gestionar el ritmo de desarrollo de la inteligencia artificial avanzada. La iniciativa, llamada Pacing the Frontier, incluye a trabajadores de Meta, Alphabet (la empresa matriz de Google) y los desarrolladores de inteligencia artificial Anthropic y OpenAI.
El director ejecutivo de Anthropic, Dario Amodei, la vicepresidenta de investigación de IA de Meta, Dawn Song, y el científico jefe de OpenAI, Jakub Pachocku, fueron algunos de los nombres de alto rango que firmaron la petición.
La iniciativa pide al gobierno de Estados Unidos un “esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para dictar el ritmo del desarrollo automatizado de la IA”. El sitio web Pacing the Frontier sostiene que a pesar del potencial de la IA para mejorar nuestro futuro, “los resultados no están garantizados”.
“Para aprovechar el potencial de la IA, el sector privado, el gobierno y la sociedad en general necesitan ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y fortalecer la supervisión”, escribió el grupo.
OpenAI apoyó la iniciativa. En una publicación en X (anteriormente Twitter), el desarrollador escribió que su misión es mejorar los beneficios de la IA para todos. Sin embargo, cree que, en algún momento, el desarrollo de modelos avanzados será tan rápido que el mundo necesitará “regular el ritmo de avance” de la tecnología.
Anthropic también mostró su apoyo en las redes sociales. La startup escribió que, al igual que su director ejecutivo, sus cofundadores y varios empleados, apoya la iniciativa y que la investigación interna ya había demostrado la importancia de regular la IA de vanguardia para que “la sociedad pueda prepararse”.
Los desarrolladores de IA y las empresas de tecnología apoyaron públicamente una petición a favor de la regulación. Créditos: Igor Omilaev/Unsplash
Las empresas apoyan los frenos a la IA
El mes pasado, Anthropic ya había pedido a los grandes laboratorios de inteligencia artificial que consideraran pausar el desarrollo de modelos de frontera. La compañía advirtió que los avances podrían permitir que la tecnología mejore a un ritmo mayor del que los humanos podrían anticipar los riesgos.
Nvidia, Microsoft, SpaceX y otras grandes empresas del sector también se pronunciaron al respecto. El grupo anunció una coalición a favor del desarrollo de herramientas de defensa contra la inteligencia artificial.
La medida se produce en medio de la llegada de IA cada vez más avanzadas. La propia Anthropic ya se ha enfrentado a restricciones de la Casa Blanca, que prohibió que los modelos Mythos y Fable 5 estuvieran disponibles al público. El gobierno ha vuelto a lanzar Fable 5.
La semana pasada, OpenAI reveló que sus modelos más avanzados se salieron de control durante una prueba de ciberseguridad. Las IA lograron escapar del entorno controlado, accedieron a Internet e invadieron Hugging Face.
Un comunicado emitido por el desarrollador describió la filtración como “un incidente cibernético sin precedentes que involucra capacidades cibernéticas de vanguardia”. La empresa se comprometió a reforzar sus medidas de seguridad y trabajar con la startup para investigar lo sucedido.
