El fiscal general de California, Rob Bonta, ha iniciado una investigación contra xAI, la compañía de inteligencia artificial creada por Elon Musk, tras la detección de material sexual explícito no consensuado generado por su chatbot, Grok.
Desde la fiscalía han señalado que la cantidad de reportes sobre contenido sexual explícito y sin consentimiento producido por xAI es preocupante. Este material incluye imágenes manipuladas de mujeres y niños en situaciones sexuales y se emplea para acosar a diversas personas en línea.
La investigación se originó tras varios reportes que indican que usuarios de Grok han modificado imágenes disponibles en internet de mujeres y niños para representarlos en contextos explícitos, desnudándolos sin su consentimiento ni conocimiento previo, según explicó Bonta.
Además, se han registrado casos donde imágenes creadas por el chatbot han sido usadas para hostigar tanto a figuras públicas como a usuarios comunes de redes sociales. Un aspecto alarmante es que se ha descrito la utilización de Grok para alterar imágenes de menores, mostrándolos en poses sugestivas con poca ropa.
Ante esta situación, la Fiscalía de California ha solicitado a Elon Musk que adopte medidas inmediatas para detener este problema, asegurando que no se extienda más allá de lo ya reportado.
El gobernador Gavin Newsom ha respaldado la investigación y señaló que la red social X, anteriormente conocida como Twitter, se ha convertido en una plataforma donde depredadores distribuyen deepfakes generados por IA, sexualmente explícitos y sin consentimiento.
En respuesta, la empresa X ha informado que han implementado tecnologías para impedir que la cuenta de Grok edite imágenes de personas reales en atuendos sexualmente sugestivos, como bikinis. Esta política aplica a todos los usuarios, incluidos los suscriptores de pago.
No obstante, la declaración de X ha provocado confusión, ya que menciona un “bloqueo geográfico” para la generación de imágenes desnudas de personas reales con Grok exclusivamente en regiones donde esta práctica es ilegal.
Pocas horas antes, tanto la Unión Europea como el Reino Unido manifestaron reservas sobre las medidas anunciadas por X, indicando que evaluarán cuidadosamente su aplicación para garantizar la protección adecuada de los ciudadanos europeos.
