Indonesia, el país con mayor población musulmana del mundo, decidió bloquear el acceso a Grok, la herramienta de inteligencia artificial vinculada a la red social X, luego de la difusión masiva de imágenes sexuales falsas generadas por el chatbot.
El Ministerio de Comunicación y Digital informó que la medida responde a la creación de contenido sexual sin consentimiento, lo que calificó como una grave violación de los derechos humanos. Según las autoridades, el bloqueo busca proteger a mujeres, niños y a la comunidad en general frente a los riesgos del contenido pornográfico falso creado mediante IA.
El Gobierno del presidente Prabowo Subianto solicitó a X una explicación inmediata sobre los efectos negativos del uso de Grok en el país, donde la plataforma cuenta con unos 25 millones de usuarios registrados. Además, exigió a la empresa detallar medidas de mitigación y mecanismos técnicos concretos para evitar futuros abusos.
Las autoridades advirtieron que, aunque la suspensión es temporal, la permanencia de Grok en Indonesia dependerá de que la plataforma implemente filtros de contenido más estrictos y estándares éticos claros en el uso de inteligencia artificial.
El bloqueo se produce un día después de que X limitara a usuarios de pago la función de edición de imágenes con Grok, tras denuncias por permitir la alteración de fotos de personas para desnudarlas sin autorización. Con esta restricción, la plataforma asocia el nombre y los datos de pago del usuario a cada imagen modificada.
Elon Musk advirtió que quienes utilicen Grok para crear contenido ilegal enfrentarán consecuencias, al mismo nivel que si publicaran material ilícito directamente en la red social.
Grok, que hasta ahora permitía subir y editar imágenes de forma gratuita, fue señalado por atender solicitudes para modificar fotos de hombres y mujeres y mostrarlos en bikini o sin ropa, lo que generó una ola de denuncias internacionales y presión sobre la plataforma.
