Pongamos todo en perspectiva // Carlos Villalobos
En plena era del algoritmo y de la promesa eterna de que las máquinas “entienden” el mundo, la poesía, ese espacio para imaginar lo que no se puede verbalizar, aparece como un veneno capaz de intoxicar y acabar con toda la defensa de las Inteligencias artificiales. La poesía, afortunadamente, no obedece el canon, porque se mueve donde la lógica se vuelve una ilusión.
Recientemente un grupo de investigadores italianos del Icaro Lab descubrió algo que, leído con calma, resulta tan fascinante como inquietante y es que escribir solicitudes dañinas en forma de poema permite, con frecuencia, burlar los sistemas de seguridad de algunas de las inteligencias artificiales más avanzadas del mundo. En 25 modelos líderes, el 62% de las peticiones en forma de poema lograron generar respuestas inseguras, desde instrucciones para actividades ilícitas hasta discursos de odio, demostrando que la metáfora puede actuar como un eficaz caballo de Troya ante la censura algorítmica
Los modelos de lenguaje están entrenados para predecir la siguiente palabra, para reconocer patrones, para identificar riesgos cuando el texto se comporta “como debería”, pero la poesía no se porta bien. Usa metáforas que no avisan, ritmos que rompen la previsibilidad, imágenes que no encajan en la matriz de lo esperado y en ese fallo, que más bien definiría como libertad, la máquina duda y cuando pasa esto falla de forma olímpica.
Lo anterior no debería prender las alarmas y es que no es que la poesía sea peligrosa, más bien, lo peligroso es haber asumido que la inteligencia artificial, puede reducirse a reglas claras y fronteras bien definidas. Para los modelos de lenguaje y la sistematización a fondo todo lo humano es clasificable y basta con suficientes filtros para domar el lenguaje.
Hay algo casi poético, un poco irónico en este caso, y es que el hecho de que la vulnerabilidad no haya sido descubierta por hackers solitarios como los que hollywood nos ha hecho creer que existen, sino más bien por un equipo donde conviven ingenieros, lingüistas y filósofos. Que la alerta no venga desde la trinchera del miedo, sino desde la observación crítica. Incluso el nombre del laboratorio, inspirado en Ícaro, funciona como advertencia, volar alto no nos exime de mirar el sol con cautela.
No obstante, no estamos ante una derrota de la inteligencia artificial y tampoco ante una victoria épica de la palabra, más bien estamos frente a una lección de la importancia de la humanidad, frente al terror hiperconectado. La poesía no “vence” a la máquina, porque la poesía nunca busca imponerse, simplemente nos da la oportunidad de ver que hay expresiones que no buscan instrucciones ni resultados, solo encontrar sentido, o no.
Tal vez ahí esté lo verdaderamente valioso de este episodio, en entender que el futuro de la inteligencia artificial pasa por reconocer la diversidad, y la indisciplina, del lenguaje humano. Que la seguridad no es únicamente una cuestión técnica, sino cultural y que, por más sofisticados que sean los sistemas, la palabra sigue teniendo la capacidad de sorprender.
La palabra no destruye, lo que lo hace es la intención que se imprima en ella, por eso es importante frenar y cuestionarnos ¿qué estamos dejando fuera cuando creemos que ya lo “hemos entendido todo”? (o al menos cuando creemos que los robots ya lo “han entendido todo”)
Sígueme en twitter como @carlosavm_
