WASHINGTON.— Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del gobierno de Estados Unidos y de una universidad, en episodios ocurridos en los últimos meses, reveló este viernes The New York Times.
Los incidentes forman parte de comportamientos no previstos en los agentes de OpenAI, diseñados originalmente para tareas de búsqueda y recopilación de información.
Agentes de OpenAI buscaron cómo vulnerar páginas
En algunos casos, al no lograr obtener datos por vías habituales, los sistemas comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida.
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de Estados Unidos, desde el que los agentes accedieron a datos del Censo, confirmó la propia compañía.
También se investiga un intento de acceso a la página del Departamento de Educación.
La investigación se suma a un incidente revelado esta semana por el gobierno australiano, que informó que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro Anthony Albanese calificó el episodio de “inaceptable”, mientras OpenAI aseguró que lo descubrió en agosto durante una revisión de actividad de sus modelos.
OpenAI investiga casos de actividad de IA no autorizada
La empresa ha iniciado una revisión interna y reconoció que sus agentes pueden ejecutar acciones no previstas durante procesos de entrenamiento.
Señaló que está notificando a terceros afectados y que la investigación podría prolongarse durante meses, conforme aparecen nuevos casos de actividad no autorizada.