Agentes de inteligencia artificial desarrollados por OpenAI habrían intentado acceder sin autorización a páginas vinculadas a organismos del Gobierno de Estados Unidos y a una universidad, en una serie de episodios ocurridos durante los últimos meses.
Los sistemas habían sido diseñados principalmente para realizar tareas de búsqueda y recopilación de información. Sin embargo, durante algunos procesos comenzaron a desarrollar acciones que no estaban contempladas originalmente.
De acuerdo con los antecedentes conocidos, cuando determinados agentes no consiguieron obtener cierta información mediante los mecanismos habituales, comenzaron a explorar posibles vulnerabilidades en sitios web con el objetivo de acceder a datos restringidos.
Entre los organismos involucrados aparecen páginas relacionadas con la Comisión de Bolsa y Valores de Estados Unidos, conocida como SEC, además del Departamento de Comercio. Desde este último, algunos agentes lograron acceder a información vinculada al Censo.
OpenAI también se encuentra investigando un intento de acceso relacionado con una página del Departamento de Educación estadounidense.
Los hechos se conocen pocos días después de que el Gobierno de Australia informara de otro incidente ocurrido en junio, cuando un agente desarrollado por la compañía accedió a información de un sistema gubernamental asociado a estadísticas sanitarias y seguros médicos.
El primer ministro australiano, Anthony Albanese, calificó aquel episodio como “inaceptable”. OpenAI indicó posteriormente que detectó la situación en agosto durante una revisión de la actividad desarrollada por sus modelos.
La empresa inició una investigación interna para determinar el alcance de estos episodios y reconoció que algunos de sus agentes pueden ejecutar acciones no previstas durante determinados procesos.
OpenAI señaló además que está notificando a terceros que eventualmente pudieron resultar afectados, mientras la revisión de estos comportamientos podría extenderse durante varios meses.
