El director ejecutivo de Meta, Mark Zuckerberg, defendió que cada empresa asuma por su cuenta “la responsabilidad” de garantizar que sus modelos de Inteligencia Artificial sean seguros.
Mark Zuckerberg quiere que cada empresa asuma la seguridad de sus modelos de Inteligencia Artificial
El creador de Facebook salió a opinar sobre el tema que va a definir cómo será el mundo en el futuro.
De esta manera, se desmarca de las propuestas para coordinar una desaceleración en el desarrollo de esta tecnología.
Los modelos del futuro
El fundador de Facebook utilizó sus redes sociales para opinar en medio del debate sobre los peligros de la IA y los llamados de varios líderes del sector que advierten sobre la necesidad de establecer una regulación.
"Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que esto suceda", resaltó el emprendedor tecnológico.
Se refirió directamente al “gran debate” sobre la conveniencia de ralentizar el avance de las capacidades de la IA hasta asegurar que cumpla con los estándares de alineación como propuso Dario Amodei, director ejecutivo de Anthropic, y otros líderes tecnológicos como Sam Altman, de OpenAI, y Elon Musk, de SpaceX y xAI.
También aclaró que Meta retrasó el lanzamiento de su agente de IA, Muse, durante varios meses para centrarse en la seguridad y la protección.
“No exigimos que los demás hicieran lo mismo antes que nosotros", exclamó Zuckerberg, quien evitó mencionar explícitamente al líder de Anthropic ni a sus otros competidores.
A su juicio, una forma de garantizar que la IA se desarrolle de manera segura reside en destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de competir por lograr la automejora.
La opinión de los magnates de la industria
Los comentarios de Zuckerberg siguen la propuesta de Musk que a inicios de esta semana abogó por que los principales desarrolladores de IA sometan sus modelos a revisiones de seguridad y colaboren entre sí para probarlos.
En ese sentido, el director de Meta dijo que MLS, su laboratorio de Inteligencia Artificial, ya cuenta con evaluadores y asesores independientes.
"En general, sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso", sentenció.
La iniciativa del fundador de Tesla se dio en medio de pedidos de los máximos responsables de laboratorios punteros como Amodei, Altman y Demis Hassabis (Google DeepMind) por ralentizar el ritmo de desarrollo del sector para permitir que las salvaguardas alcancen el ritmo de la tecnología.
La oleada de llamamientos se dio tras los comentarios del investigador tecnológico Jacob Coxon, exempleado de Anthropic y OpenAI, quien dijo que la IA podría hacer realidad las películas de ciencia ficción y acabar con toda la humanidad antes de que termine la década.