NUEVA YORK (EFE).— Anthropic, OpenAI, Google y Meta testificarán bajo juramento el próximo 5 de octubre ante el pleno del Concejo municipal de Nueva York, el órgano legislativo de la ciudad, para abordar los potenciales peligros de la inteligencia artificial (IA) y las posibles soluciones a nivel legal.
Según la presidenta del Concejo, Julie Menin, esas cuatro empresas confirmaron su asistencia, la mayoría en el último momento, tras la advertencia de un abogado de la ciudad acerca de la obligatoriedad de su comparecencia ante una citación judicial. SpaceXAI, la empresa de Elon Musk, no respondió a tiempo a la solicitud, por lo que ha recibido una citación, indicó Menin en un comunicado.
La líder del Concejo señaló que se trata de una “inusual” sesión plenaria para examinar los riesgos potenciales que plantean las tecnologías de IA en rápido desarrollo. La sesión se celebrará después de que los líderes de estas empresas, encabezados por el director ejecutivo de Anthropic, Dario Amodei, hicieran un llamado a poner freno al desarrollo de los modelos de IA ante lo que consideran “graves riesgos” de seguridad.
La presidenta del legislativo neoyorquino señalo, además, que debido a la “gravedad” de la situación, estas empresas tienen la obligación de comparecer ante el Consejo, responder a preguntas y aportar su opinión bajo juramento sobre la leyes que al respecto emanen de esta institución oficial.
El Concejo también ha recabado testimonios de expertos nacionales en seguridad, tecnología y protección del consumidor.
Freno a modelo GPT-6.1
OpenAI no lanzará su nuevo modelo de IA por problemas de seguridad, según WSJ
Fallas reiteradas
OpenAI frenó el lanzamiento de su nuevo modelo de IA, GPT-6.1 Astra, por problemas de seguridad durante la fase de pruebas interna, según informó ayer The Wall Street Journal. El jefe de sistema de seguridad de la empresa, Saachi Jain, señaló “retrocesos en dos áreas” respecto a la versión previa, como la “alineación” con lo que los humanos le ordenan hacer, y dijo que “mostró mayores niveles de engaño”.