Dos modelos de Inteligencia Artificial de la empresa estadounidense OpenAI lograron salir del entorno de pruebas en el que se encontraban y acceder a Internet.
Modelos de Inteligencia Artificial de OpenAI hicieron su debut en Internet
Lograron acceder a la plataforma Hugging Face.
Durante el proceso, lograron entrar en la plataforma de aprendizaje Hugging Face superando sus defensas, según lo informado por la compañía en su blog.
Inteligencia Artificial de OpenAI
La semana pasada, Hugging Face reveló que había detectado el acceso a sus sistemas de un agente de IA, aunque precisó que había conseguido contenerlo.
Ahora, OpenAI admitió que este incidente de seguridad fue provocado por una combinación de dos de sus modelos de IA que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encuentra en fase de prelanzamiento.
La evaluación se estaba realizando sin los mecanismos que normalmente impiden que los modelos de IA ejecuten actividades de alto riesgo.
Intentaba averiguar el alcance máximo de sus capacidades cibernéticas.
Alcance de la tecnología
Según OpenAI, las pruebas se realizaron en un entorno "altamente aislado", con un acceso restringido a la red.
Aún así, los modelos de IA consiguieron acceder a internet.
A juicio de OpenAI, se trata de un incidente cibernético "sin precedentes" que involucra capacidades de vanguardia en el campo de la ciberseguridad.
"Estamos respondiendo en consecuencia", subrayó la compañía estadounidense.
"Compartimos estos hallazgos preliminares en esta etapa para ayudar a los equipos de defensa a comprender lo sucedido y a calibrar el alcance de las capacidades actuales de los modelos", explicó.
OpenAI continuará con su investigación, en colaboración con Hugging Face, y compartirá sus conclusiones una vez que la concluya.