El asistente de inteligencia artificial Grok, de la plataforma X de Elon Musk, limitó la creación de imágenes sexualmente explícitas de mujeres y menores a suscriptores de pago, tras recibir denuncias y críticas por permitir contenido ilegal en su versión gratuita. La medida busca controlar la generación de imágenes no consentidas, aunque ha sido cuestionada por autoridades internacionales.
Los usuarios que intenten generar o editar imágenes con Grok ahora reciben un aviso que indica: “La generación y edición de imágenes están actualmente reservadas a los suscriptores de pago. Puedes suscribirte para desbloquear estas funciones”. Elon Musk advirtió que cualquier persona que utilice Grok para crear contenido ilegal enfrentará consecuencias legales, independientemente de su tipo de cuenta.
Reacción de gobiernos y organismos internacionales
La medida provocó críticas de gobiernos europeos. Un portavoz del primer ministro británico, Keir Starmer, señaló que la función “simplemente transforma un mecanismo que permite la creación de imágenes ilegales en un servicio premium”, considerándolo un insulto a víctimas de misoginia y violencia sexual.
En Bruselas, la Comisión Europea calificó las modificaciones como insuficientes. “Con suscripción de pago o sin ella, no cambia nuestro problema fundamental: no queremos ver esas imágenes, así de simple”, declaró Thomas Régnier, portavoz de la Comisión para Asuntos Digitales, añadiendo que las plataformas deben garantizar que sus sistemas no permitan generar contenido ilegal.
La UE había emitido previamente una medida cautelar contra X, obligando a la plataforma a conservar todos los documentos internos relacionados con Grok hasta finales de 2026. Además, a principios de diciembre, X recibió una multa de 120 millones de euros por incumplir la Ley de Servicios Digitales.
Opiniones de usuarios y expertos
Usuarios afectados, como la filósofa Daisy Dixon, denunciaron que personas utilizaban Grok para crear imágenes que la mostraban desnuda. Dixon calificó la medida como un “parche” que no soluciona el problema estructural: “El problema de la IA es un problema humano: hay que rediseñar Grok e implementar límites éticos”.
Por su parte, la ministra de Tecnología del Reino Unido, Liz Kendall, declaró que los recientes incidentes de creación de imágenes sexuales de menores y mujeres en línea son “absolutamente atroz e inaceptable en cualquier sociedad que se precie”.
El cambio en Grok representa un intento de limitar la difusión de contenido no consentido, aunque expertos y autoridades consideran que la solución es parcial y que persiste la necesidad de rediseñar la herramienta para prevenir abusos de género y violaciones legales futuras.
Información relacionada
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.