Pongamos todo en perspectiva // Carlos Villalobos
Durante siglos, una buena idea nacía precisamente porque alguien se atrevía a poner todo en perspectiva, la historia de la ciencia, del arte e incluso de la política está llena de personas que parecían equivocadas hasta que el tiempo terminó dándoles la razón. La diversidad del pensamiento, hasta el momento, sigue siendo el mecanismo mediante el cual las sociedades logran corregirse a sí mismas.
Por eso resulta inquietante que uno de los hallazgos más importantes sobre inteligencia artificial no tenga que ver con que los modelos sean más inteligentes, sino con que comienzan a parecerse demasiado entre sí. Un estudio desarrollado por investigadores de la Universidad de Washington, Carnegie Mellon, Stanford y el Allen Institute for AI encontró que, frente a preguntas abiertas donde deberían existir múltiples interpretaciones válidas, distintos modelos terminan ofreciendo respuestas sorprendentemente similares.
No solo utilizan argumentos parecidos, también recurren a las mismas metáforas, a las mismas estructuras narrativas e incluso llegan a conclusiones prácticamente idénticas; los investigadores bautizaron este fenómeno como Artificial Hivemind o “mente colmena artificial”. Aunque la discusión parece técnica, sus consecuencias son profundamente culturales.
Durante años imaginamos que la inteligencia artificial ampliaría las posibilidades del pensamiento humano, que pondría sobre la mesa perspectivas inesperadas y que encontraría relaciones invisibles para nosotros. En cambio, el camino parece avanzar hacia otro sitio: una enorme fábrica de consensos y la homogeneización del pensamiento.
Antes de ponernos los sombreros de alumnio, esto no ocurre porque exista una conspiración detrás de los modelos, más bien porque casi todos aprenden de las mismas fuentes, son entrenados para evitar respuestas consideradas riesgosas y, cada vez con mayor frecuencia, terminan alimentándose del contenido generado por otras inteligencias artificiales. La consecuencia es predecible. Cuando todos leen los mismos libros, reciben las mismas recompensas y empiezan a copiarse entre ellos, las diferencias desaparecen.
Por ello ante nosotros aparece una paradoja enorme vivimos en la época con mayor cantidad de modelos de inteligencia artificial disponibles y, al mismo tiempo, podríamos estar entrando en la etapa con menor diversidad intelectual producida por ellos.
A pesar de lo anterior, este problema no es nuevo ya que las redes sociales ya habían comenzado ese proceso mucho antes. Sus algoritmos privilegian aquello que genera mayor aceptación inmediata, generalmente el odio y el miedo, de esta forma los sistemas de recomendación entienden el desacuerdo como una anomalía que disminuye la retención del usuario.
Ahora esa lógica parece extenderse también a las máquinas encargadas de responder nuestras preguntas. Quizá el mayor riesgo no sea que una inteligencia artificial se equivoque, porque os seres humanos también nos equivocamos todos los días, el verdadero problema aparece cuando millones de personas reciben exactamente la misma respuesta, con el mismo tono y bajo el mismo razonamiento, creyendo además que llegaron a ella de manera independiente.
Eso modifica silenciosamente la conversación pública y además la creatividad pierde espacio frente a la previsibilidad. La duda comienza a verse como una falla del sistema y el pensamiento poco común deja de aparecer porque los modelos aprenden que resulta estadísticamente más seguro permanecer cerca del consenso.
No sería la primera vez que una sociedad confunde uniformidad con verdad, durante buena parte del siglo XX, los grandes medios definían qué temas merecían ser discutidos. Internet prometió romper ese monopolio permitiendo que miles de voces encontraran un espacio propio. Lo paradójico es que, dos décadas después, podríamos terminar regresando al mismo punto por una vía completamente distinta: no porque exista un editor decidiendo qué pensar, sino porque todos los sistemas terminan aprendiendo a pensar de la misma manera.
Tal vez la verdadera riqueza de una inteligencia artificial no deba medirse únicamente por la precisión de sus respuestas, sino por su capacidad para conservar aquello que siempre hizo avanzar a las sociedades: la posibilidad de disentir.
Es muy útil recordar que las grandes transformaciones nunca nacieron del consenso, nacieron de alguien que se atrevió a formular una respuesta distinta cuando todos los demás repetían exactamente la misma.
Sígueme en twitter como @carlosavm_
