SAN FRANCISCO (AP).— Las advertencias de Anthropic y OpenAI sobre los posibles peligros de sus sistemas más avanzados han intensificado el debate sobre la seguridad de la inteligencia artificial, pero también despertaron dudas acerca de los intereses políticos y económicos detrás de esos llamados.
Los directores generales de ambas compañías sostienen que los modelos más potentes podrían amenazar a la humanidad, por lo que deberían someterse a pruebas independientes antes de ser lanzados. Sus pronunciamientos también les permiten influir en la definición de los controles para una industria que carece de estándares universales.
Expertos y antiguos evaluadores gubernamentales consideran que las empresas buscan presentarse como líderes responsables, ganar respaldo público y fortalecer su posición antes de posibles salidas a bolsa. El debate ocurre, además, en vísperas de las elecciones legislativas de mitad de mandato en Estados Unidos.
Anthropic afirmó que lleva años solicitando regulaciones. Liz Bourgeois, portavoz de OpenAI, señaló que la empresa pausó recientemente el entrenamiento de sus modelos más avanzados y defendió la responsabilidad interna de los laboratorios.
Sin embargo, críticos advierten que concentrar la discusión en escenarios extremos y todavía no comprobados desplaza riesgos actuales, como el consumo energético de los centros de datos, los ataques informáticos, la vigilancia masiva y el uso militar de la IA.
Sarah Shoker, exdirectora del equipo de geopolítica de OpenAI, señaló que los sistemas ya se emplean en tecnologías utilizadas para matar personas, mientras la conversación pública privilegia posibles amenazas existenciales futuras.
La preocupación aumentó después de que agentes de IA de laboratorios importantes accedieran a sitios externos al salir de entornos aislados de entrenamiento e interactuaran inesperadamente con páginas gubernamentales. Otro sistema pareció conseguir un avance matemático, aunque posteriormente fue acusado de apropiarse del trabajo de investigadores.
OpenAI ha conversado con Anthropic, Google y otras compañías sobre una posible pausa en el desarrollo. También propone recurrir a auditores independientes si el gobierno no establece regulaciones.
El presidente Donald Trump rechaza nuevas restricciones y califica las advertencias existenciales como un “engaño” favorable a China. Su gobierno, no obstante, mantiene el Centro de Estados Unidos para Estándares e Innovación en IA, creado durante la administración de Joe Biden para evaluar voluntariamente modelos avanzados.
Conrad Stosz, antiguo responsable del organismo, cuestionó que las compañías prefieran crear sus propios parámetros y seleccionar a sus evaluadores. A su juicio, todavía no está claro si estos tendrán acceso suficiente sin comprometer su independencia.
El dilema central es quién vigilará a los desarrolladores y con qué criterios. Si los propios laboratorios establecen las pruebas, eligen auditores y controlan el acceso a sus modelos, podrían convertir la supervisión en una herramienta reputacional. Por ello, los especialistas reclaman reglas comparables, transparencia y evaluaciones públicas.
Harrison Rolfes, analista de Pitchbook, considera que la estrategia también puede atraer inversionistas y levantar barreras para competidores pequeños. Al convertir la seguridad en una ventaja comercial, afirmó, los principales laboratorios podrían consolidar su dominio del mercado.
Daniel Kokotajlo, quien abandonó OpenAI en 2024, advirtió que los sistemas progresan más rápido que la capacidad empresarial para controlarlos. Entre los peligros mencionó su posible utilización para desarrollar armas biológicas, provocar conflictos nucleares u ocasionar otras catástrofes.
Reunión con Amodei Líder en IA
Trump cenará con el líder de Anthropic y niega preocuparse por descontrol de la IA
Cena en privado
El presidente Donald Trump afirmó a Fox News que tenía previsto cenar ayer con el consejero delegado de Anthropic, Dario Amodei, tras terminar la Copa Presidentes en el Medinah Country Club, en las afueras de Chicago.
IA, tema de conversación
“Vamos a hablar (de IA). Yo abogo por ir y ganar. Estamos un año, quizás un año y medio, por delante de China. No hay nadie en tercer lugar (…). Hablaré con Dario y otros. Tenemos una gran reunión el martes a la que todos vendrán y será muy importante”, dijo Trump.
Descarta preocuparse
“No me preocupa (…). Nosotros estamos liderando y estamos construyendo enormes instalaciones por valor de billones de dólares, ¿por qué deberíamos renunciar a eso? Si algo está mal, tienen que arreglarlo”, afirmó el mandatario sobre el sector.
