La empresa de inteligencia artificial XAI, propiedad de Elon Musk, restringió la función de generación de imágenes de Grok para la mayoría de los usuarios en la plataforma X.
La medida llega después de múltiples denuncias por la creación de contenido sexualizado, incluidas imágenes de mujeres y menores de edad.
De acuerdo con medios internacionales, la fiscalía de California iniciara una investigación sobre xAI, por «facilitar la producción a gran escala de montajes íntimos no consentidos, utilizados para acosar a mujeres y niñas en internet, principalmente vía la red social X», indicó el fiscal general del estado, Rob Bonta, en un comunicado.
«Tenemos tolerancia cero para la creación y difusión con IA de imágenes íntimas no consentidas o material pedopornográfico», agregó el fiscal.
Bonta dijo que la investigación determinará si xAI violó la ley estatal, después de que las imágenes explícitas fueran «utilizadas para acosar a personas en internet».
El movimiento internacional de indignación se intensificó en las últimas semanas contra Grok y la posibilidad que ofrece de modificar imágenes, en particular las publicadas en la red social X.
Esta opción estaba permitiendo a los usuarios crear «deepfakes» sexualizados de mujeres y menores de edad usando indicaciones como «ponla en bikini» o «quítale la ropa».
La semana pasada, Grok intentó desviar las críticas con una nueva política de monetización, anunciando en X que la generación y edición de imágenes quedaban «limitadas a los suscriptores de pago».
Nota relacionada: Secretaría Anticorrupción ya investiga presunta filtración a usuarios Telcel
Pero ese anuncio solo alimentó aún más la indignación: la oficina del primer ministro británico, Keir Starmer, condenó la medida por considerarla un agravio a las víctimas y «no una solución», mientras que el regulador de medios británico, Ofcom, dijo que estaba abriendo una investigación para determinar si X incumplió la legislación del Reino Unido en relación a las imágenes sexuales.
