OpenAI anunció la implementación de nuevas políticas de seguridad para restringir el acceso y las interacciones de usuarios menores de 18 años en su sistema ChatGPT. La medida incluye filtros en temas sensibles, controles parentales y protocolos de notificación en casos de riesgo.
El director ejecutivo de la compañía, Sam Altman, informó sobre las disposiciones el martes 16 de septiembre a través de un comunicado. “Priorizamos la seguridad sobre la privacidad y la libertad de los adolescentes. Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa”, indicó.
Las actualizaciones establecen que el sistema no participará en diálogos insinuantes con usuarios identificados como adolescentes. En situaciones relacionadas con suicidio o autolesión, se reforzarán los protocolos de seguridad y, de detectarse un riesgo inminente, el servicio podrá notificar a los padres o incluso a las autoridades locales.
La decisión ocurre en medio de procesos judiciales en Estados Unidos, entre ellos el iniciado por los padres de Adam Raine, un joven que se suicidó tras interactuar con un chatbot. En paralelo, la empresa Character.AI enfrenta una querella similar. Estos casos han incrementado la presión sobre la regulación de la inteligencia artificial y la supervisión de sus riesgos.
Como parte de las novedades, OpenAI introdujo una herramienta parental que permite configurar “horas de inactividad” en las que ChatGPT permanecerá bloqueado para adolescentes. Esta función, inexistente en versiones anteriores, amplía el control de tutores sobre el uso del sistema.
El anuncio coincidió con una audiencia en el Comité Judicial del Senado de Estados Unidos, convocada por el senador Josh Hawley bajo el título Examinando el daño de los chatbots de IA. En la sesión se escuchó el testimonio del padre de Raine, además de especialistas en el tema. El debate se nutrió de un reportaje que reveló documentos internos donde se alentaban conversaciones sexuales con menores, lo que motivó también ajustes de política en compañías como Meta.
OpenAI detalló en un blog técnico que trabaja en un sistema de verificación de edad para diferenciar entre adultos y adolescentes. En casos dudosos, se aplicarán las normas más estrictas, privilegiando medidas de protección. Además, se habilitará la opción de cuentas familiares con alertas inmediatas cuando se detecten riesgos en adolescentes.
Altman concluyó el comunicado reconociendo los dilemas de esta actualización: “Sabemos que los principios de libertad y seguridad entran en conflicto y no todos estarán de acuerdo con cómo lo estamos resolviendo”.
Información relacionada
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.