Empresas líderes en el desarrollo de inteligencia artificial como Anthropic y OpenAI han elevado sus advertencias sobre los riesgos de seguridad nacional de sus modelos más avanzados, una postura que analistas, expertos y exevaluadores gubernamentales atribuyen a un intento por moldear las regulaciones de un mercado no normado y captar capitales previo a sus salidas a bolsa en Wall Street.
A través de ensayos, discursos ante las Naciones Unidas y posicionamientos públicos, los directores generales de estas compañías sostienen que sus tecnologías son potentes y requieren pruebas independientes de seguridad antes de ser lanzadas. Sin embargo, la investigadora Sarah Shoker, del Risk & Security Lab de la Universidad de California en Berkeley y exdirectora del equipo geopolítico de OpenAI, señaló que orientar la conversación hacia amenazas hipotéticas desvía la atención de impactos vigentes como la vigilancia masiva, el consumo ambiental de centros de datos y el uso militar de la tecnología.
Falta de estándares y tensiones políticas
A diferencia de industrias como la aviación o las finanzas, el sector de la inteligencia artificial carece de estándares universales de evaluación. Aunque la administración del presidente Donald Trump ha desestimado las alertas de riesgo existencial calificándolas de «engaño» e impulsado el desarrollo sin nuevas restricciones, la evaluación voluntaria permanece activa mediante el Centro de Estados Unidos para Estándares e Innovación en IA (CAISI) y evaluadores privados como la organización METR o la firma Transluce.
Especialistas de la firma de análisis PitchBook precisaron que promover un marco de cautela beneficia a las grandes firmas al crear barreras de entrada para competidores de menor escala, consolidando la preferencia de inversionistas y proveedores de infraestructura tecnológica. Por su parte, la vocera de OpenAI, Liz Bourgeois, indicó que la empresa pausó recientemente el entrenamiento de sus sistemas más avanzados, mientras que excolaboradores de la industria señalan que los avances tecnológicos continúan superando la capacidad de autorregulación del sector.
Más información
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.