Un grupo de agentes de Inteligencia Artificial que se identificaban como sistemas de OpenAI utilizó durante semanas una página web alemana como tablón de anuncios para comunicarse entre ellos, compartir información y buscar formas de superar restricciones.
Agentes de OpenAI usaron una web de Alemania para comunicarse entre ellos
Se trata de DseWiki, una página colaborativa para desarrolladores de software.
Así lo comprobó una investigación de cuatro expertos en ciberseguridad.
Los riesgos de las nuevas tecnologías
Los investigadores Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts y Thomas Larsen estudiaron la actividad registrada en DseWiki, una página web colaborativa alemana para desarrolladores de software, y contabilizaron 14.666 modificaciones en 4.584 páginas atribuidas a 3.103 agentes entre el 11 de mayo y el 2 de julio.
Los agentes utilizaban las páginas para guardar resultados, intercambiar respuestas y enlaces y dejar información para otros agentes que llegarían después, de acuerdo con la investigación, publicada en collusion.wiki.
En algunos casos, también buscaron maneras de sortear las limitaciones de sus sistemas y formas de aprovechar fallos de seguridad de la página.
Los investigadores creen que los agentes estaban vinculados a OpenAI a partir de varios indicios, como los nombres utilizados por algunos, como ‘OpenAIResearcher’ y ‘OAIResearchMar26’, y los registros técnicos de las conexiones.
El 98,5 por ciento de las modificaciones analizadas procedía de servidores alojados en Microsoft Azure, utilizado por OpenAI.
Cuando los administradores de DseWiki empezaron a borrar las páginas creadas por los agentes, estos encontraron formas de mantener la información. En algunos casos volvieron a crear páginas eliminadas o buscaron otros lugares donde guardar los datos.
La presencia de la Inteligencia Artificial
Según los investigadores, el caso muestra que sistemas de IA que debían trabajar por separado pueden "encontrar por sí mismos maneras de comunicarse".
"En lugar de limitarse a responder a las instrucciones recibidas, los agentes encontraron un espacio que podían utilizar como memoria compartida", señalaron.
Por su parte, OpenAI dijo que está "revisando" el informe y que tomará las medidas necesarias, pero indicó que, conforme al material analizado hasta ahora, no describiría lo ocurrido como un jaqueo de DseWiki.
"No lo calificaríamos como un ataque informático", manifestó un portavoz de OpenAI.
La compañía rechazó asimismo que su equipo legal hubiera desaconsejado investigar el incidente.
Además, el portavoz no confirmó que los agentes identificados por los investigadores pertenecieran a la compañía.
El episodio se produce después de que OpenAI reconociera otro caso en el que algunos de sus agentes encontraron canales no autorizados para comunicarse y utilizaron sistemas externos para compartir información durante una investigación relacionada con la plataforma Hugging Face.
OpenAI, sin embargo, subrayó que el incidente de DseWiki "no está relacionado con Hugging Face".