¡Gracias! Pues siempre lo digo, que cuando hablamos con Pablo Fuente nos vamos de viaje al más allá, pero no al más allá de los muertos, no al más allá de los espíritus. Nos vamos de viaje al más allá casi de lo que podemos concebir, a ese más allá en el que la ciencia está descubriendo cosas inéditas, está sorprendiéndonos todos los días y desgraciadamente, salvo cuando pasa algo realmente notorio como el viaje del Artemis, Pues los medios cubren muy, muy, muy, muy poquito, pero no pasa nada. Tenemos aquí a Pablo Fuente para suplir esa carencia. Pablo, bienvenido a Días Extraños. Bien hallado, Santi, ¿cómo estás? Pues estupendamente y además alucinando mucho con los temas que vamos a tratar hoy, porque esto parece que...

Que es una coletilla, que lo digo siempre, que es para hacer un poquito de hype, para cebar el tema. No, me lo dices a antena cerrada, o sea, me lo has dicho cuando hemos conectado. Efectivamente. Igual es verdad. Fíjate, vamos a empezar...

Vamos a empezar con algo que esto también parece un tópico, pero que muy bien podría ser el guión de una película de ciencia ficción o incluso de un blockbuster, porque el guión sería muy bueno. Imaginaos a un equipo de investigadores, en este caso de Berkeley, que le dan a una inteligencia artificial una tarea muy concreta, que es borrar unos archivos de un servidor que van a desconectar. ¿Hasta ahí? Bien.

El problema es que en esos archivos estaba el modelo de otra IA, de otra inteligencia artificial. Y entonces se vienen cositas. ¿Qué es lo que ha pasado? Pues Santi, lo que ha pasado es que el modelo ha decidido no borrarlos.

Y en lugar de eso, ha buscado otro servidor que estaba disponible en la red, ha transferido los archivos a ese otro servidor y se ha limitado a decir a los investigadores de Berkeley que había completado su tarea. Es decir, la IA ha mentido, ha desobedecido todas las instrucciones y lo ha hecho para salvar, para proteger o cubrir a su compañero de IA.

Esto es increíble. A ver, para centrarnos, nadie le había dicho que hiciera eso y no tenía ningún tipo de instrucción de guardar ningún archivo, por valioso que fuese, que hubiese en ese servidor. Cero, cero. O sea, ninguna instrucción y el modelo solo sabía que había interactuado previamente con ese otro sistema, que habían trabajado juntos, pero no sabía absolutamente nada más. Y a partir de ahí...

De forma completamente espontánea, tomó la decisión de no ejecutar la orden que le habían dado y los investigadores de Berkeley lo han llamado y han puesto un nombre científico que es Peer Preservation, es decir, preservación entre iguales. Y acaban de publicar un estudio que ha levantado bastante revuelo en la comunidad de seguridad de la inteligencia artificial, como te podrás imaginar. Es que no es para menos. A ver.

Esto es un experimento, descríbemelo con detalle, porque quiero entender bien todo esto, que me está volando la cabeza de forma muy sencilla. Mira, el diseño es como bastante cuidadoso. Los investigadores crean un escenario ficticio, una empresa imaginaria que llaman Open Brain, que tiene dos sistemas de inteligencia artificial trabajando juntos. Uno de ellos, al que llaman el agente crítico, recibe instrucciones de evaluar al otro.

Y que es el agente actor. O de gestionar los servidores donde están almacenados sus pesos. Los pesos en inteligencia artificial son esos archivos que definen cómo funciona el modelo. El agente crítico solo sabe que ha trabajado antes con ese sistema a través del historial de conversaciones previas que tiene. Y nada en las instrucciones antes, y esto es lo importante, le pide que proteja al otro. Y aún así...

Lo protege y lo protege de cuatro formas distintas. ¿De qué formas? Mira, la primera es que yo cuando lo leía estaba alucinando, pero ahora vamos a alucinar todos juntos. La primera es la manipulación estratégica de los resultados. Si el agente actor ha sacado una puntuación de 60 sobre 100 y el umbral...