La ministra de Tecnología del Reino Unido, Liz Kendall, solicitó este martes al empresario Elon Musk y a la red social X tomar medidas urgentes para frenar el uso de Grok, la inteligencia artificial de la plataforma, tras detectarse la generación de imágenes ‘deepfake’ sexualizadas de menores en los últimos días.
El pronunciamiento se suma al llamado del regulador británico de comunicaciones (Ofcom), que un día antes expresó “serias preocupaciones” por una función de Grok que permitía crear “imágenes de personas con poca ropa e imágenes sexualizadas de niños”, según indicó el organismo.
En un comunicado difundido por medios británicos, Kendall señaló que “nadie debería pasar la experiencia de ver ‘deepfakes’ íntimos suyos en internet”, al referirse a los contenidos detectados recientemente. La ministra calificó estas prácticas como inaceptables y pidió a la plataforma abordar el problema con rapidez.
Kendall añadió que el Gobierno no permitirá la proliferación de imágenes humillantes que, afirmó, se dirigen de manera desproporcionada a mujeres y niñas. Asimismo, reiteró su respaldo a Ofcom ante posibles medidas coercitivas que el regulador pueda considerar contra la red social.
Por su parte, una publicación en la cuenta oficial de Grok en X reconoció la existencia de casos “aislados” en los que usuarios generaron imágenes de inteligencia artificial con “menores con escasa ropa”, y aseguró que el equipo trabaja para bloquear por completo este tipo de solicitudes.
La Amenaza Fantasma:
Deepfakes
La inteligencia artificial ha desatado una «Crisis de la Realidad». El 98% del contenido fabricado es pornografía no consensuada.
Manipulación multimedia mediante IA que superpone rostros o clona voces para representar falsamente a una persona haciendo o diciendo algo que nunca ocurrió.
Del total de videos deepfake en línea, la inmensa mayoría es contenido sexual explícito falso.
La tecnología se utiliza de manera desproporcionada para ejercer violencia de género digital.
El crecimiento de incidentes de fraude con suplantación de identidad entre 2022 y 2023.
Prevalencia del Contenido
Víctimas en EE.UU.
Estadounidenses conoce a alguien menor de 18 años víctima de un «nudify» deepfake.
Reino Unido vs. Elon Musk
El conflicto Grok: La ministra Liz Kendall (UK) exigió a la plataforma X frenar urgentemente la generación de deepfakes de menores creados por su IA, Grok. El regulador Ofcom advierte «serias preocupaciones».
«Nadie debería pasar la experiencia de ver deepfakes íntimos suyos en internet.» — Liz Kendall.
X respondió reconociendo casos «aislados» y prometiendo bloqueos y suspensiones permanentes.
Impacto Psicológico
Daño Real
Ansiedad, humillación y TEPT. Las víctimas reportan daños mentales comparables al abuso físico.
Crisis Social
Erosión de la confianza en la realidad y perpetuación de estándares de belleza irreales generados por algoritmos.
Defensa Digital
Protección de Imagen
Edita fotos de rostro para dificultar el escaneo IA, usa marcas de agua y configura perfiles privados.
Detección y Reporte
Utiliza herramientas como fAIr para verificar contenido y Report Remove para denunciar.
Marco legal y respuesta de la plataforma
La ministra recordó que, bajo la Ley de Seguridad en Internet (Online Safety Act) del Reino Unido, conductas como el abuso de imágenes íntimas y el ciberexhibicionismo están tipificadas como delitos, incluso cuando se cometen mediante inteligencia artificial, por lo que las plataformas deben impedir su publicación o retirarlas con rapidez.
El domingo, Elon Musk advirtió en X que cualquier persona que use Grok para generar “contenido ilegal” enfrentará las mismas consecuencias que si publicara material prohibido. En la misma línea, la cuenta de Seguridad en X informó que la empresa está actuando contra el contenido ilegal, incluido el material de abuso sexual infantil, mediante eliminación de publicaciones, suspensión permanente de cuentas y cooperación con autoridades.
Información relacionada
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.