Meta presentó una demanda en Hong Kong contra la empresa responsable de CrushAI, aplicaciones que permiten generar imágenes sexualmente explícitas mediante inteligencia artificial, sin consentimiento.
La compañía tecnológica —matriz de Facebook, Instagram y WhatsApp— acusa a Joy Timeline HK Limited de evadir sus filtros para promocionar este tipo de contenido, a pesar de múltiples bloqueos previos por violar las normas comunitarias.
“Tomamos muy en serio este abuso. Estamos comprometidos a proteger a nuestra comunidad”, advirtió Meta.
Meta contra la pornografía deepfake
Según la denuncia, estas aplicaciones permiten “desnudar” personas usando IA, vulnerando su intimidad y generando contenido falso altamente sexualizado.
Meta señala que los responsables han usado técnicas engañosas para pasar los filtros de revisión, incluyendo:
- Anuncios con imágenes aparentemente inocentes.
- Cambios frecuentes de dominios web.
- Uso de nuevas palabras, frases y emojis para evadir detección.
Coordinación con otras plataformas
Meta anunció que compartirá información con otras empresas tecnológicas y ampliará su sistema de bloqueo, incluyendo términos como “desnudar”, “eliminar ropa” y similares.
En solo dos semanas, se publicaron más de 8.000 anuncios de este tipo, según una investigación citada por el senador estadounidense Dick Durbin, quien exigió respuestas al CEO de Meta, Mark Zuckerberg.
