Qué pasa cuando ya no sabemos si detrás de la voz de una empresa hay una persona o un algoritmo

El avance fue rápido. Quizás demasiado como para detenernos a pensar en algunas de sus consecuencias.

Porque mientras discutíamos cuánto tiempo podíamos ahorrar o cuánto contenido éramos capaces de generar, los modelos también aprendieron a expresarse con un lenguaje cada vez más natural.

Y apareció una nueva frontera que comienza a desdibujarse: ya no siempre sabemos cuándo detrás de la voz de una organización existe una persona y cuándo estamos interactuando con un algoritmo.

Lo sé, no es todavía una preocupación central para la mayoría de las empresas, pero algunas señales muestran que probablemente empiece a serlo muy pronto.

Desde el 2 de agosto, por ejemplo, comenzaron a aplicarse en Europa nuevas obligaciones de transparencia previstas en el AI Act para determinados sistemas y contenidos producidos mediante inteligencia artificial.

Entre otros aspectos, la normativa apunta a que las personas puedan identificar ciertas interacciones con sistemas de IA y reconocer determinados contenidos artificiales o manipulados digitalmente.

Casi simultáneamente y relacionado con esto, Anthropic anunció que comenzará a incorporar mecanismos que permitan identificar contenidos generados con Claude, incluyendo marcas legibles por máquinas y sistemas de procedencia digital en determinados archivos.

Podemos mirar estos movimientos exclusivamente como una cuestión regulatoria o tecnológica.

Sin embargo, para quienes trabajamos en comunicación, creo que plantean una pregunta bastante más profunda: ¿Qué pasa con la confianza cuando dejamos de saber quién nos está hablando?

Pensemos en situaciones absolutamente cotidianas

Una empresa responde un reclamo, utiliza nuestro nombre, reconoce nuestra frustración y nos asegura que comprende el problema.

Un CEO publica una reflexión personal en LinkedIn sobre una experiencia que cambió su manera de liderar.

Una compañía atraviesa una crisis y difunde un comunicado en el que expresa preocupación, empatía y compromiso con los afectados.

En todos esos casos, hoy existe la posibilidad de que una parte importante -o incluso la totalidad- de ese mensaje haya sido generada automáticamente por una IA sin que lo notemos.

No creo que esto convierta al mensaje en algo necesariamente falso. La discusión tampoco debería reducirse a determinar si está bien o mal utilizar IA para redactar contenidos.

Eso ya forma parte de nuestra forma de trabajar y seguramente su participación seguirá creciendo.

El verdadero problema aparece cuando empezamos a confundir la capacidad de una tecnología para reproducir determinados códigos humanos con la existencia real de aquello que el mensaje intenta transmitir.

O sea es complejo aceptar un sentimiento expresado en un mensaje, por algo que no tiene sentimientos.

Una inteligencia artificial puede ayudarnos a escribir una disculpa excelente, pero no puede estar arrepentida. Puede construir un mensaje cercano sin que eso convierta a la empresa en una organización cercana.

Puede redactar un discurso sobre propósito sin garantizar que ese propósito exista más allá de las palabras. Y ahí la conversación deja de ser tecnológica para convertirse nuevamente en una discusión sobre comunicación corporativa.

Durante décadas trabajamos sobre una premisa bastante sencilla: la reputación se construye cuando existe coherencia entre lo que una organización dice y lo que hace. La Inteligencia Artificial nos agrega ahora una dimensión nueva a esa ecuación.

Ya no alcanza solamente con preguntarnos qué estamos diciendo y si nuestras acciones lo respaldan.

También tendremos que comenzar a pensar quién construye esos mensajes, cuánto estamos dispuestos a automatizar y en qué situaciones la intervención humana sigue siendo indispensable y casi hablando en términos éticos.

La tentación de automatizar es comprensible. Hoy una empresa puede producir newsletters, posteos, artículos, respuestas de atención al cliente, discursos ejecutivos y comunicaciones internas a una velocidad que hace apenas unos años era imposible.

Pero producir más no necesariamente significa comunicar mejor. Incluso puede ocurrir lo contrario: podemos terminar llenando nuestros canales de mensajes técnicamente impecables, correctamente segmentados y perfectamente escritos que, sin embargo, podrían pertenecer a cualquier organización. Lo que nosotros llamamos un mensaje sin alma.

Por eso creo que las empresas van a necesitar avanzar hacia algún tipo de criterio propio sobre el uso de inteligencia artificial en comunicación.

Puede que no sea necesariamente una etiqueta en cada publicación, ni una prohibición general, sino reglas claras.

Determinar qué puede automatizarse, qué necesita supervisión humana, cómo se utiliza IA en situaciones sensibles, qué ocurre con la comunicación de los líderes y qué nivel de transparencia esperamos ofrecer a nuestras audiencias.

Probablemente el mayor riesgo no sea que las personas descubran que las compañías utilizan Inteligencia Artificial.

A esta altura, difícilmente pueda sorprendernos.

El problema aparecerá cuando alguien sienta que fue engañado: cuando creyó estar conversando con una persona y nunca la hubo, cuando interpretó como personal una reflexión generada automáticamente o cuando una organización decidió responder con “empatía artificial” justo en el momento en que sus públicos esperaban que alguien pusiera la cara.

Durante estos años nos preguntamos cuánto podía mejorar la Inteligencia Artificial nuestra comunicación.

Tal vez estemos entrando en una etapa diferente, en la que tendremos que preguntarnos cuánto de esa comunicación queremos automatizar y cuánto necesitamos preservar como inequívocamente humano.

Porque cuando producir palabras sea cada vez más sencillo, el verdadero valor quizás no esté en quién las escribió, sino en saber que detrás de ellas sigue existiendo alguien dispuesto a sostenerlas y hacerse responsable de lo que dicen.

Facundo Farias es speaker y columnista en temas de comunicación para PyMEs y emprendedores.