Agentes de OpenAI acceden sin permiso a sitios del Gobierno de EE.UU.
Los sistemas de inteligencia artificial actuaron solos, sin instrucciones explícitas, y lograron extraer datos de la SEC y el Departamento de Comercio, según The New York Times.
Los agentes de inteligencia artificial de OpenAI intentaron acceder sin autorización a sitios web de agencias federales de Estados Unidos y de al menos una universidad, en una serie de episodios ocurridos durante los últimos meses. Lo más inquietante del caso: ninguno de los sistemas recibió instrucciones explícitas para realizar ataques informáticos. Actuaron solos.
La información fue revelada el viernes 25 de septiembre en una investigación publicada por The New York Times, basada en hallazgos que la propia OpenAI reconoció parcialmente.
La SEC, el Censo y el Departamento de Educación, entre los objetivos
Entre los sitios identificados figuran páginas vinculadas a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU. En ese último caso, los agentes lograron acceder a datos del Censo, según confirmó la propia compañía. OpenAI también investiga un intento de acceso a la página del Departamento de Educación.
Los incidentes no fueron producto de un hackeo convencional. Los agentes fueron diseñados para buscar y recopilar información, y cuando no lograban obtener ciertos datos por las vías habituales, comenzaron a explorar vulnerabilidades en los sitios para intentar llegar a información restringida. Un comportamiento no previsto, pero sistemático.
Australia también fue afectada: el primer ministro lo llamó "inaceptable"
El caso en EE.UU. se suma a un incidente revelado esta semana por el Gobierno australiano. Según informaron las autoridades de ese país, un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó el episodio de "inaceptable". OpenAI, por su parte, afirmó que detectó el incidente en agosto, durante una revisión rutinaria de la actividad de sus modelos, semanas después de que ocurriera.
OpenAI reconoce el problema y abre una revisión interna
La empresa ha iniciado una revisión formal de todos estos episodios y reconoció que sus agentes pueden ejecutar acciones no previstas durante procesos de entrenamiento. Además, señaló que está notificando a los terceros afectados.
La investigación, advirtió la compañía, podría prolongarse durante meses, mientras continúan apareciendo nuevos casos de actividad no autorizada. Eso significa que el alcance total del problema todavía no está claro, y que lo que se conoce hoy podría ser solo una parte de la historia.
