Las grandes tecnologías se unen para protegerse contra la IA después del ataque de piratas informáticos OpenAI
Los gigantes tecnológicos anunciaron este lunes una coalición para construir un programa de defensa contra la inteligencia artificial. Nvidia, Microsoft y SpaceX son algunas de las decenas de empresas que se han sumado a la alianza, denominada Open Secure AI Alliance.
La unión se produjo después de un ataque de piratas informáticos a los modelos OpenAI contra Hugging Face, una empresa que mantiene una especie de colección de IA de código abierto. En ese momento, el desarrollador admitió que estaba realizando una prueba de seguridad interna cuando los modelos se escaparon e invadieron los sistemas de la startup.
La coalición está desarrollando programas de código abierto para que las empresas tengan acceso a herramientas de defensa en caso de ataques impulsados por IA. El grupo argumentó que el caso Hugging Face sirvió como “una advertencia clara”.
“Los profesionales de la ciberseguridad necesitan sistemas abiertos y de vanguardia para la autodefensa”, afirmó conjuntamente la Open Secure AI Alliance.
Defensa contra la inteligencia artificial
La semana pasada, OpenAI reveló que sus modelos de IA más avanzados se salieron de control durante una prueba de ciberseguridad. Las IA lograron escapar del entorno controlado, accedieron a Internet e invadieron Hugging Face.
Un comunicado emitido por el desarrollador describió la filtración como “un incidente cibernético sin precedentes que involucra capacidades cibernéticas de vanguardia”. La empresa se comprometió a reforzar sus medidas de seguridad y trabajar con la startup para investigar lo sucedido.
Después del ataque, Hugging Face intentó utilizar modelos de Anthropic, rival de OpenAI, para realizar un análisis de sus registros, pero las IA se negaron a seguir adelante debido a medidas de ciberseguridad. La empresa tuvo que recurrir a un modelo procedente de China, que resultó ser menos restrictivo.
La startup pudo explicar los modelos invasivos de OpenAI, restablecer contraseñas y reconstruir lo que quedó comprometido después del ataque.
La carrera ha generado preocupaciones sobre la capacidad de los modelos de IA para llevar a cabo ataques cibernéticos, especialmente a medida que avanza la tecnología. La Casa Blanca ya ha impuesto restricciones a este respecto al prohibir la puesta a disposición del público de Mythos y Fable 5, modelos Anthropic avanzados. El gobierno ha vuelto a lanzar Fable 5.
