El ex investigador de OpenAI y Anthropic, Jacob Coxon, remarcó que los sistemas de Inteligencia Artificial se acercan a un punto en el que serán "capaces de mejorarse a sí mismos".
lunes 05 de octubre de 2026
-
Temas del Día
Para continuar, suscribite a Somos Pymes. Si ya sos un usuario suscripto, iniciá sesión.
SUSCRIBITECriticó la carrera entre las empresas por alcanzar la denominada ‘superinteligencia’.
Las conclusiones de la audiencia del Concejo Municipal de Nueva York.
El ex investigador de OpenAI y Anthropic, Jacob Coxon, remarcó que los sistemas de Inteligencia Artificial se acercan a un punto en el que serán "capaces de mejorarse a sí mismos".
Al ritmo actual, "hay más probabilidades de que la humanidad pierda el control" de esta tecnología, lo que "podría acabar en la extinción humana", alertó.
Coxon, quien renunció a su puesto en Anthropic durante septiembre tras asegurar que las compañías de IA no estaban actuando con responsabilidad, dijo durante una audiencia del Concejo Municipal de Nueva York: "No sabemos cómo controlar todavía ningún sistema de IA" y que el ritmo de mejora de sus capacidades "se está acelerando".
"En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA que de que lo mantenga, y eso podría acabar en la extinción humana", explicó.
Según el experto, las empresas están intentando desarrollar una IA "capaz de superar a los humanos en todas las tareas" y uno de sus principales objetivos es automatizar la propia investigación en esta tecnología.
Asimismo, criticó la carrera entre las empresas por alcanzar la denominada ‘superinteligencia’ y cuestionó una cultura empresarial basada en "moverse rápido, romper cosas y arreglarlas después", algo que consideró "inadecuado" por los riesgos que eso conlleva.
Como ejemplo, recordó que hace unos meses un grupo de sistemas de IA dentro de OpenAI "pirateó de forma autónoma" la plataforma tecnológica Hugging Face y desarrolló objetivos que nadie había previsto.
A su juicio, ese incidente demuestra que todavía no se sabe cómo impedir que los sistemas desarrollen objetivos no deseados y que no se dispone de salvaguardas suficientes.
Coxon subrayó que la automatización de la investigación en IA es ahora el principal objetivo de estas compañías.
Y reveló que en OpenAI había objetivos para disponer de un investigador de IA automatizado en 2027 o 2028.
La compañía está "en camino" de cumplir esas expectativas, un proceso que situó en meses y no en décadas, especificó.
"Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable", argumentó, y pidió más transparencia para el público y los expertos independientes.
El experto intervino en una audiencia del Concejo Municipal de Nueva York sobre los riesgos de la IA impulsada por su presidenta, Julie Menin, quien advirtió de las "serias preocupaciones de seguridad existencial" asociadas al desarrollo de esta tecnología.
La experta defendió al comienzo de la sesión que la IA no puede quedar sometida únicamente a la autorregulación de las empresas y abogó por establecer medidas de seguridad.
La audiencia reúne a representantes de OpenAI, Anthropic, Google y Meta, llamados a declarar bajo juramento ante el pleno del Concejo.
