El despliegue global del sistema de verificación de edad basado en inteligencia artificial de la plataforma Roblox ha generado protestas y críticas por errores en su ejecución, según reportó la revista Wired. El mecanismo, diseñado para segmentar las interacciones en el chat según el rango de edad, ha clasificado erróneamente a adultos como menores y a niños como mayores de 21 años, comprometiendo la seguridad de la comunidad.
Funcionamiento del sistema y errores detectados
El proceso, gestionado por la empresa Persona, solicita a los usuarios una grabación de video corta o documentos oficiales para estimar la edad mediante datos biométricos. Sin embargo, tras su expansión desde Oceanía hacia Estados Unidos y otros mercados, se han documentado fallos críticos. Usuarios adultos de 23 años han sido identificados como menores de 18, mientras que niños han logrado engañar a la tecnología utilizando maquillaje, barbas dibujadas o fotografías de celebridades para ser clasificados como mayores de edad.
«El mayor peligro es la cantidad de cuentas archivadas en el grupo equivocado y los retos añadidos para padres y moderadores», señaló Ry Terran, investigador en extremismo digital.
Mercado negro e impacto en la comunidad
La investigación de Wired también identificó la aparición de un mercado negro en eBay, donde se ofertaban cuentas ya verificadas para menores de nueve años por precios desde los $4 dólares. Aunque eBay eliminó las publicaciones, la preocupación persiste entre los desarrolladores, quienes reportan que el uso del chat en algunos juegos cayó de un 85% a un 36%, describiendo la experiencia actual como un «pueblo fantasma».
Reacción de la empresa y privacidad
La implementación de este sistema responde a demandas de fiscales generales en Estados Unidos que acusan a la firma de no proteger a los menores. Pese a ello, solo la mitad de los usuarios ha accedido a completar la verificación debido a temores sobre el manejo de su información personal.
Por su parte, Roblox admitió estar al tanto de los errores y del fraude cometido por algunos padres para elevar el rango de edad de sus hijos. La compañía anunció que implementará controles aleatorios y mejoras en la detección de fraudes, aunque no precisó plazos ni metodologías para estas actualizaciones.
Información relacionada
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.