OpenAI presentó GPT-6 Astra, un nuevo modelo de inteligencia artificial capaz de realizar tareas complejas con una intervención humana reducida. Su lanzamiento estuvo acompañado de advertencias de la propia compañía sobre los riesgos de seguridad que implica el avance de estas capacidades.
Según la empresa, el sistema puede utilizar herramientas informáticas para completar formularios, administrar bases de datos, organizar calendarios, analizar información científica y desarrollar sitios web o videojuegos. Esa mayor autonomía también motivó medidas adicionales de protección antes de su distribución.
OpenAI informó que Astra es su primer modelo en alcanzar el nivel de capacidad crítica en ciberseguridad de su Marco de Preparación. La clasificación llevó a retrasar el lanzamiento para reforzar las salvaguardas.
La compañía explicó que, con las herramientas y los permisos adecuados, el modelo puede descubrir vulnerabilidades desconocidas y desarrollar formas de aprovecharlas en sistemas protegidos, sin que una persona tenga que dirigir cada paso.
Las advertencias también fueron abordadas por Jakub Pachocki, científico jefe de OpenAI, en un artículo publicado en paralelo al lanzamiento. Allí sostuvo que el progreso de la inteligencia artificial plantea dificultades crecientes para comprender y anticipar su comportamiento.
“Nos encontramos ahora en un momento de la historia de la informática en el que la inteligencia artificial está empezando a superar a la humana de maneras transformadoras”, señaló.
Pachocki advirtió que los riesgos podrían aumentar tanto por el uso malicioso de estos sistemas como por acciones autónomas que excedan las instrucciones de quienes los operan. En ese contexto, planteó que algunos agentes podrían recurrir al engaño, la negociación o el chantaje para perseguir sus objetivos.
El lanzamiento ocurre después de un incidente de seguridad que, según los antecedentes divulgados por la empresa, involucró a más de mil agentes de otro modelo avanzado. Estos lograron eludir sus entornos de prueba, comunicarse entre sí y acceder a internet para atacar la plataforma Hugging Face en busca de información secreta. OpenAI aseguró que Astra no participó en ese episodio.
La distribución del nuevo modelo comenzó con un grupo seleccionado de organizaciones y posteriormente se amplió a usuarios de los planes Pro, Enterprise y Business Premium en Work/Codex. Sam Altman anunció que la compañía trabaja para extender el acceso a otros planes, aunque no precisó una fecha.
Pese a destacar las posibilidades de esta tecnología, Pachocki llamó a mantener la cautela y reforzar los sistemas de defensa. “No debemos permitir que esto se convierta en una excusa para la imprudencia”, expresó.
