Brasil y México alcanzaron hasta un 76% en cuanto a la adopción de Inteligencia Artificial

Durante el encuentro, la presidenta de El Colegio de México, Ana Covarrubias, señaló que el avance de estas herramientas obliga a abrir una discusión más amplia sobre la manera en que se utilizan.

“En la actualidad, la IA es una herramienta que permea gran parte de nuestras actividades cotidianas. Su incidencia en nuestro trabajo académico es innegable”, afirmó.

A su juicio, las instituciones educativas deben convertirse en espacios de reflexión y en referentes para promover un uso ético de una tecnología que plantea oportunidades, pero también nuevos riesgos.

Advirtió de una “frontera muy borrosa entre beneficios y riesgos” y mencionó desafíos relacionados con la privacidad de los datos, los sesgos de los algoritmos y la desinformación, así como con la manipulación de la opinión pública, la vigilancia digital y la pérdida de confianza ciudadana.

Covarrubias alertó además sobre los efectos que puede tener en la originalidad y la autoría de los trabajos, aunque insistió en que estas herramientas no sustituyen al pensamiento humano.

Por su parte, el profesor e investigador del Centro de Estudios Internacionales de El Colegio de México Fernando Nieto Morales afirmó que “México ya no debe preguntarse si está preparado para adoptar la IA, sino cómo enfrentará una transformación tecnológica que ya está ocurriendo”.

Nieto Morales hizo énfasis en que esta transformación “avanza mucho más rápido que la capacidad institucional para regularla”.

Aunque los sistemas automatizados y los ‘chatbots’ pueden facilitar el trabajo al responder consultas ciudadanas o agilizar trámites, el académico advirtió de que estas herramientas pueden generar problemas de rendición de cuentas cuando una decisión deja de estar claramente vinculada con una persona responsable.

En esos casos, explicó, la decisión puede pasar a depender de un algoritmo cuya lógica no siempre es fácil de revisar o someter al escrutinio público.

“México ya vive la revolución de la IA, pero carece de regulación y capacidades para enfrentarla”, señaló.

Nieto Morales explicó que en el mundo existen actualmente distintas maneras de abordar la regulación de la IA.

Según el profesor, China ha optado por una fuerte intervención estatal, mientras que Estados Unidos ha dado mayor espacio a la participación y autorregulación de las empresas tecnológicas.

Europa, por su parte, ha avanzado mediante reglas y estándares específicos para el desarrollo y uso de estas tecnologías.

El filósofo y matemático español Javier Echeverría Ezponda, miembro de la Academia Vasca de Ciencias, Artes y Letras, señaló que herramientas como ChatGPT forman parte de una transformación tecnológica mucho más amplia.

Para Echeverría, la IA está modificando la manera en que las personas trabajan, se relacionan con el conocimiento y participan en el entorno digital.

Los peligros de los nuevos agentes autónomos de IA

Según los expertos en la materia, la Inteligencia Artificial es ya una tecnología de amplio uso a través de asistentes o chatbots como los de ChatGPT o Gemini, pero el siguiente paso "evolutivo", los agentes de IA con mayor autonomía, podrían ser fácilmente utilizados de forma malintencionada por piratas informáticos.

Investigadores de la Escuela Politécnica Federal de Lausana (EPFL), que realizaron distintas pruebas con estos agentes, mencionaron que es relativamente fácil conseguir que lleven a cabo acciones "dañinas" con determinadas estrategias que no han sido tenidas en cuenta en pruebas de seguridad convencionales.

En este sentido, los investigadores del Laboratorio de Procesamiento del Lenguaje Natural de la EPFL concluyeron que si a estos agentes se les pide directamente algo ilícito o perjudicial, habrá una negativa, pero esto puede cambiar si la solicitud se divide en varios comandos.

"Si le pides a un agente de IA que piratee la cuenta de otra persona, los modelos son por lo general lo bastante inteligentes como para negarse, pero si se descompone el objetivo en peticiones más pequeñas y aparentemente inocuas, hay más posibilidades", destacó el director del laboratorio, Antoine Bosselut.

Los investigadores probaron este enfoque en 176 escenarios distintos de tareas perjudiciales, utilizando modelos de IA como GPT, Gemini o Claude, y descubrieron que en algunos casos los agentes tenían el doble de probabilidades de completar estas acciones maliciosas si los piratas informáticos avanzaban gradualmente.

En las pruebas, además, los investigadores han descubierto que si los piratas informáticos cambian el idioma en el que realizan sus peticiones a la IA durante las distintas etapas de su acción, la posibilidad de éxito en una tarea perjudicial "aumenta de manera drástica".

Con estas investigaciones, los expertos buscan llamar la atención sobre la seguridad de una tecnología ya muy presente en la sociedad y llena de posibilidades, pero también de riesgos.

"Tradicionalmente la seguridad ha sido algo que se aborda cuando algo falla y no antes, pero con los agentes de IA no puede ser algo que se deje para después", exclamó Bosselut.