En pocas palabras: Apple y Google están bajo presión legal por permitir apps que usan inteligencia artificial para crear desnudos falsos de personas sin su consentimiento. San Francisco les dio 28 días para eliminar estas apps o enfrentar sanciones.
¿Por qué importa esto?
El fiscal de San Francisco, David Chiu, acusó a ambas empresas de "ayudar y fomentar" la venta de contenido sexual explícito generado con deepfakes, una práctica que viola las leyes de California. Esto no es solo un problema técnico, sino un tema de derechos y privacidad: estas apps usan fotos reales para crear imágenes falsas sin permiso, lo que puede afectar a cualquier persona.
El contexto que necesitas
Para entender la gravedad del asunto, hay que saber que California tiene leyes estrictas contra la pornografía no consensuada creada con IA. Desde 2025, las víctimas pueden demandar a las plataformas que permitan este tipo de contenido, incluso si las empresas solo obtienen beneficios económicos indirectos, como comisiones por compras dentro de las apps.
Además, este problema no es nuevo. En enero de 2026, un informe reveló más de 100 apps similares en ambas tiendas, lo que llevó a Apple y Google a eliminar varias de ellas. Sin embargo, muchas siguieron operando, lo que demuestra que las políticas actuales no son suficientes para frenar el problema.
La ley californiana también protege especialmente a los menores, con penas más duras cuando las víctimas son niños o adolescentes. Esto aumenta la presión sobre las plataformas para que actúen con más rigor.
¿Qué están haciendo Apple y Google?
Apple ya eliminó tres de las apps señaladas y está cancelando las cuentas de los desarrolladores responsables. Google, por su parte, asegura haber eliminado cientos de apps similares y limitado las búsquedas de términos como "nudify" en su tienda.
Sin embargo, el hecho de que estas apps sigan apareciendo en las tiendas oficiales muestra que las políticas por sí solas no son suficientes. Se necesita una supervisión más estricta y constante para evitar que este tipo de contenido siga circulando.
- 13 apps identificadas: 8 en App Store y 5 en Google Play.
- Plazo de 28 días: Las empresas deben responder antes de enfrentar sanciones civiles.
- Leyes estrictas: California prohíbe la pornografía no consensuada con IA, incluso si las plataformas solo obtienen beneficios económicos.
- Protección a menores: La ley AB 1831 endurece las penas cuando las víctimas son menores de edad.
¿Qué significa esto para los usuarios?
Este caso pone en evidencia un problema mayor: la facilidad con la que la IA puede usarse para violar la privacidad y los derechos de las personas. Aunque las plataformas dicen tener políticas contra este tipo de contenido, la realidad es que muchas apps siguen colándose en las tiendas oficiales.
Para los usuarios, esto significa que deben ser más cuidadosos con las apps que descargan, especialmente aquellas que prometen modificar imágenes de manera sospechosa. También es un recordatorio de que las leyes aún están tratando de ponerse al día con los avances tecnológicos.
En resumen:
Apple y Google tienen 28 días para eliminar apps que usan IA para crear desnudos falsos sin consentimiento. Si no lo hacen, podrían enfrentar sanciones legales en California. Este caso refleja un problema más amplio: la necesidad de regular mejor el uso de la IA para proteger la privacidad y los derechos de las personas.
¿Por qué las leyes de California son clave en este caso?
Para entender la presión legal sobre Apple y Google, hay que saber que California no solo prohíbe la creación de pornografía no consensuada con IA, sino que también responsabiliza a las plataformas que permiten su distribución. Esto significa que, aunque las empresas no creen directamente estas apps, pueden ser sancionadas por facilitar su acceso, incluso si solo obtienen beneficios económicos indirectos, como comisiones por compras dentro de las aplicaciones.
La ley AB 1831, mencionada en el artículo, es especialmente relevante porque establece penas más duras cuando las víctimas son menores de edad. Esto añade una capa adicional de urgencia para las plataformas, ya que el riesgo legal aumenta significativamente si las apps afectan a niños o adolescentes. En pocas palabras, no se trata solo de eliminar contenido, sino de evitar que las plataformas se conviertan en cómplices involuntarias de estos delitos.
- Las leyes de California responsabilizan a las plataformas por el contenido que permiten, incluso si no lo crean directamente.
- La protección a menores endurece las penas y aumenta la presión sobre Apple y Google para actuar con rigor.
- Las plataformas pueden ser sancionadas por beneficios económicos indirectos, como comisiones por compras dentro de las apps.
- La supervisión constante es necesaria porque las políticas actuales no han logrado frenar el problema de manera efectiva.
En resumen:
El caso de San Francisco no es solo una advertencia legal, sino un recordatorio de que las plataformas tecnológicas deben asumir una responsabilidad activa en la moderación de contenido. Las leyes de California exigen que Apple y Google vayan más allá de eliminar apps puntuales: deben implementar mecanismos de supervisión más estrictos para evitar que este tipo de herramientas sigan circulando y violando derechos fundamentales.
