El regulador británico Ofcom anunció la apertura de una investigación formal contra la red social X debido al uso de su herramienta de inteligencia artificial, Grok, para la creación y difusión de imágenes íntimas no consentidas. La indagatoria se rige bajo la Ley de Seguridad en Línea del Reino Unido y busca determinar si la empresa de Elon Musk falló en su obligación de proteger a los usuarios de contenido ilegal.
Antecedentes y denuncias por contenido sexual
El proceso administrativo se originó tras reportes sobre la generación masiva de imágenes sexualizadas mediante el chatbot. Según estimaciones, durante los primeros días se generaron hasta 6,700 imágenes por hora, incluyendo desnudos de mujeres creados sin su consentimiento. Ante este fenómeno, X restringió el uso de edición de imágenes con Grok únicamente a usuarios de pago, medida que el regulador considera insuficiente para mitigar los riesgos.
“Las plataformas deben proteger a los ciudadanos del Reino Unido del contenido ilegal y no dudaremos en investigar si sospechamos que las empresas incumplen sus obligaciones”, señaló un portavoz de Ofcom, quien calificó los hechos como «profundamente preocupantes».
Procedimiento legal y posibles sanciones
El organismo solicitó información a X el pasado 5 de enero, recibiendo respuesta el día 9. Tras una evaluación acelerada, Ofcom determinó que existen elementos para una investigación formal. De hallarse culpable, la red social enfrenta las siguientes consecuencias:
- Multas económicas: Hasta 20 millones de euros o el 10% de los ingresos globales de la compañía.
- Restricciones operativas: Medidas judiciales para interrumpir total o parcialmente la actividad de la empresa en el Reino Unido.
Alcance internacional del conflicto
La presión regulatoria sobre X se extiende más allá de Europa. Malasia anunció acciones legales similares por el uso indebido de Grok para generar contenido obsceno y manipulador. Otros países como Francia e Indonesia también mantienen bajo revisión el impacto y los riesgos de esta inteligencia artificial generativa.
El caso pone a debate la responsabilidad de las plataformas tecnológicas en el despliegue de herramientas de IA y la efectividad de sus controles internos para prevenir abusos digitales como la creación de material de abuso sexual o pornografía no consentida.
Más información
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.