Para continuar, suscribite a Somos Pymes. Si ya sos un usuario suscripto, iniciá sesión.
SUSCRIBITELa identificación de las cuentas prohibidas se basó en patrones de comportamiento y otros hallazgos.
La corrección hecha por la compañía que lidera Sam Altman.
OpenAI, la startup especializada en Inteligencia Artificial, prohibió recientemente múltiples cuentas en su plataforma ChatGPT que aparentemente estaban involucradas en el desarrollo de una herramienta de vigilancia.
El informe de la empresa, publicado en febrero de 2025, sugiere que estas cuentas probablemente estén vinculadas a China.
Según detalló la compañía, las cuentas prohibidas utilizaban los modelos de OpenAI para generar descripciones detalladas de una herramienta de monitoreo de redes sociales, que supuestamente se empleaba para proporcionar informes en tiempo real sobre protestas en Occidente a los servicios de seguridad chinos.
Además, estas cuentas utilizaban los modelos de OpenAI para depurar código que parecía destinado a implementar dicha herramienta.
Las políticas de OpenAI prohíben estrictamente el uso de IA para vigilancia de comunicaciones o monitoreo no autorizado de individuos, incluyendo actividades realizadas por gobiernos o en su nombre que busquen suprimir libertades y derechos personales.
La identificación de las cuentas prohibidas se basó en patrones de comportamiento y otros hallazgos.
Estas cuentas utilizaban los modelos de OpenAI para analizar documentos, generar argumentos de venta y descripciones de herramientas para monitorear la actividad en redes sociales, así como para investigar actores y temas políticos.
Las actividades de las cuentas prohibidas se llevaron a cabo principalmente durante el horario laboral de China continental, y las interacciones con los modelos de OpenAI se realizaban en chino.
El uso de las herramientas mostraba un volumen y variedad consistente con la interacción manual, en lugar de automatización.
En algunos casos, parecía que la misma cuenta podría haber sido utilizada por múltiples operadores.
Los operadores emplearon el modelo para diversas tareas, como investigar información de acceso público sobre think tanks en Estados Unidos, políticos y funcionarios gubernamentales en países como Australia, Camboya y Estados Unidos.
También utilizaron los modelos para leer, traducir y analizar capturas de pantalla de documentos en inglés, algunos de los cuales eran anuncios de protestas por los derechos de los uigures en varias ciudades occidentales.
Otra actividad implicaba el uso de ChatGPT para generar comentarios de corta a mediana extensión sobre organizaciones disidentes chinas, notablemente el Falun Gong, y sobre políticas y política estadounidenses.
Los operadores también utilizaron el modelo para editar y depurar código y generar materiales promocionales para lo que parecía ser una herramienta de monitoreo de redes sociales impulsada por IA.
Una de las principales actividades de la operación consistía en generar descripciones detalladas, similares a argumentos de venta, para lo que denominaban "Asistente de IA de Opinión Pública en el Extranjero Qianyue".
Según las descripciones, esta herramienta estaba diseñada para recopilar y analizar publicaciones y comentarios de plataformas como X, Facebook, YouTube, Instagram, Telegram y Reddit, y proporcionar los resultados a las autoridades chinas.
Sin embargo, OpenAI no pudo verificar de forma independiente estas descripciones.