La Unión Europea anunció este lunes una nueva investigación contra la red social X, propiedad de Elon Musk, por las imágenes de menores y mujeres desnudas generadas por Grok, su asistente de inteligencia artificial.
La presidenta de la Comisión Europea, Ursula von der Leyen, declaró para una agencia internacional “Europa no “tolerará comportamientos insensatos” de las plataformas digitales, como “las imágenes falsas de desnudos de mujeres y niños”.
El escrutinio desde Bruselas se produce después de que Grok provocara una reacción global al permitir a los usuarios, a través de sus herramientas de generación y edición de imágenes de IA, producir imágenes con los rostros de personas reales en las que aparecían mujeres con bikinis transparentes o ropa reveladora.
Los investigadores dijeron que algunas imágenes parecían incluir a menores. Algunos gobiernos prohibieron el servicio o emitieron advertencias.
El ejecutivo de la Unión Europea, compuesto por 27 países, dijo que estaba investigando si X ha hecho lo suficiente, como requieren las regulaciones digitales del bloque, para contener los riesgos de difundir contenido ilegal, como «imágenes sexualmente explícitas manipuladas».
Eso incluye contenido que «puede equivaler a material de abuso sexual infantil», dijo la Comisión Europea. Estos riesgos ahora se han «materializado», dijo la comisión, exponiendo a los ciudadanos del bloque a «daños graves».
Los reguladores examinarán si Grok está cumpliendo con sus obligaciones bajo la Ley de Servicios Digitales, el amplio conjunto de normas del bloque para mantener a los usuarios de internet a salvo de contenido y productos dañinos.
Nota relacionada: Ataque armado en campo de futbol de Salamanca, Guanajuato deja 11 muertos
La Comisión también dijo que está ampliando una investigación separada sobre X para determinar si la plataforma ha estado cumpliendo con los requisitos de la DSA. Esa investigación se abrió en 2023 y aún está en curso. Hasta ahora, ha resultado en una multa de 120 millones de euros (entonces 140 millones de dólares) en diciembre por incumplimientos de los requisitos de transparencia.