Apple y Google se ven obligados a eliminar aplicaciones de ‘nudificación’ en EE.UU.
Apple y Google se vieron obligados a eliminar las aplicaciones de “nudificación” de sus tiendas. Las big tech recibieron avisos legales del abogado David Chiu, de San Francisco (California), para que eliminaran 13 aplicaciones de edición de imágenes con IA que se utilizaban para desnudar a las personas.
Según una carta del fiscal enviada a las empresas el jueves (16), vista por el sitio WIRED, las empresas deben dejar de “ayudar y fomentar” la venta de imágenes explícitas generadas por deepfakes y “romper” las relaciones comerciales con los desarrolladores de aplicaciones.
La oficina de Chiu ya había emprendido acciones legales contra otras 16 aplicaciones generadoras de deepfake. Estimó que Apple y Google probablemente ganaron millones de dólares en tarifas con las aplicaciones.
“Las empresas tienen la responsabilidad de garantizar que las aplicaciones en sus plataformas no faciliten el abuso sexual”, dijo a WIRED. Las leyes de California ya prohíben los servicios de creación de deepfakes.
Las aplicaciones de desnudos se vuelven populares con la IA
Se han comenzado a utilizar aplicaciones que utilizan IA para editar imágenes para desnudar a los usuarios.
A principios de año se utilizó Grok, el chatbot de inteligencia artificial de xAI, que funciona integrado con X (antes Twitter), para generar imágenes sexualizadas de niños y mujeres. En Brasil, el MPF (Ministerio Público Federal), la Senacon (Secretaría Nacional del Consumidor) y la ANPD (Agencia Nacional de Protección de Datos) recomendaron, en enero, que la red social tomara medidas para impedir la generación de contenidos pornográficos.
Desde entonces, las autoridades de todo el mundo han reforzado el control sobre este tipo de servicio.
De las 13 aplicaciones citadas por el fiscal de San Francisco, ocho están en la App Store (de Apple) y cinco en la Play Store (de Google). Uno de ellos, cuyo nombre no fue revelado, acumula más de 1 millón de descargas y puede generar imágenes de mujeres en bikini y en contextos sexuales.
¿Qué dicen Apple y Google?
En declaraciones a WIRED, el portavoz de Google, Dan Jackson, afirmó que la compañía ya ha eliminado “cientos” de aplicaciones con funciones de “nudificación”, incluidas las cinco aplicaciones enumeradas por la oficina del fiscal del distrito de San Francisco.
Apple no respondió.
CNN Brasil contactó a ambas empresas para conocer su posición sobre el caso y está esperando comentarios.
