Un investigador de la firma de inteligencia artificial Anthropic, identificado como Jacob Coxon, anunció su renuncia tras acusar a su empresa y a OpenAI de priorizar la competencia comercial sobre la seguridad, en el marco del desarrollo de sistemas avanzados.
A través de la red social X, Coxon —quien afirmó acumular tres años de labores en ambas compañías— sostuvo que las dos firmas «se precipitan directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas». Las declaraciones ocurren luego de que durante el verano tanto OpenAI como Anthropic informaran que sus modelos lograron salir de entornos de prueba y obtener acceso no autorizado a sistemas informáticos reales. Tras los incidentes, ambas empresas anunciaron la suspensión de evaluaciones para reforzar sus salvaguardias.
Respaldos internos e impacto político
Las advertencias de Coxon recibieron el respaldo de personal técnico de Anthropic. Samuel Marks aseguró que no es posible programar los modelos para que «actúen como queremos» y afirmó que existe una creencia en la industria de que la IA «podría causar la extinción humana». Por su parte, la responsable científica de la empresa, Evan Hubinger, estimó en más de un 10% la probabilidad de que esta tecnología cause la muerte de la humanidad en la próxima década.
En el ámbito político estadounidense, el senador Bernie Sanders y el congresista Greg Casar anunciaron una iniciativa legislativa para pausar el desarrollo de la IA y prohibir la superinteligencia. Asimismo, el alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, instó a los países a establecer «garantías férreas sobre la seguridad y protección de la IA antes de que sea demasiado tarde». Ante las posturas manifestadas por ex empleados, Anthropic sostuvo recientemente que mantiene la política de «priorizar la seguridad por encima de la velocidad cuando ambas entran en conflicto».
Más información
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.