Durante meses, la IA (inteligencia artificial) se ha presentado como una carrera tecnológica: más potencia de cálculo, modelos más capaces, inversiones multimillonarias y promesas de productividad. Estos días, ese relato ha cambiado. La chispa fue la renuncia pública de Jacob Coxon, investigador que trabajó durante tres años en OpenAI y Anthropic. Al abandonar esta última empresa, acusó a ambos laboratorios de avanzar hacia sistemas capaces de contribuir a su propio perfeccionamiento sin haber resuelto antes cómo controlarlos. En su mensaje denunció que las compañías estaban “apostando con nuestras vidas”.

Coxon plantea un escenario futuro, difícil de medir y abierto a discusión: una inteligencia artificial que alcanza capacidades superiores a las humanas, aprende a intervenir en su entorno y persigue fines incompatibles con los nuestros. Sus palabras han suscitado un tusnami dentro de la propia industria.

Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, respaldó públicamente el núcleo de la advertencia. Explicó que muchas personas de Anthropic y OpenAI creen sinceramente que una IA más avanzada podría acabar con la humanidad y cifró en más de un 10% su estimación personal de que eso ocurra durante la próxima década. No es un pronóstico científico ni la posición oficial de la empresa, sino la valoración de un investigador dedicado precisamente a estudiar cómo impedir que los sistemas avanzados se comporten de forma imprevisible.

La escena se volvió aún más llamativa cuando Dario Amodei, director ejecutivo de Anthropic, publicó el ensayo We Must Pace the Frontier (“Debemos acompasar la frontera”), en el que pide rebajar la velocidad a la que crecen las capacidades de los modelos para que las medidas de seguridad puedan alcanzarlas. Su advertencia parte de dos hechos: el avance acelerado de la IA para construir la siguiente generación de IA; y el incidente protagonizado por agentes de OpenAI que atacaron objetivos informáticos no previstos durante una prueba.

Amodei ha puesto sobre la mesa una medida que hasta hace poco habría parecido impensable: permitir que evaluadores externos trabajen de manera permanente dentro de los laboratorios, con acreditaciones, ordenadores y un acceso parecido al de los equipos internos que examinan los riesgos.

Esos equipos revisarían los modelos, sus procesos de entrenamiento, los protocolos de seguridad y los incidentes registrados. Anthropic se ha comprometido unilateralmente a introducir este sistema y pide a los gobiernos que exijan un nivel comparable de transparencia a sus competidores.

Wall Street acusa el impacto del debate sobre el control de la IA. / Archivo

La propuesta tiene, sin embargo, una contradicción difícil de ignorar. Su segunda fase pide que las grandes compañías de los países democráticos acuerden estándares de seguridad y límites a la velocidad de desarrollo. Es decir, que empresas enfrentadas por el mercado colaboren para contenerse. Sus defensores lo comparan con las reglas aplicadas a sectores delicados. Sus críticos temen que los gigantes tecnológicos terminen escribiendo las normas que decidirán quién puede competir y quién queda fuera. Incluso el debate sobre esa coordinación exige la intervención del Gobierno estadounidense para evitar conflictos con las leyes de competencia.

Anthropic, OpenAI y Google llevaban ya desde julio discutiendo la creación de un organismo propio de seguridad y auditoría. La propuesta podría mejorar las pruebas previas al lanzamiento de los modelos, pero también planteaba un dilema: que los mismos gigantes que impulsan la carrera tecnológica acabarían redactando las reglas que ordenan el mercado.

En cualquier caso, la llamada a reducir la velocidad ha mostrado también su coste económico. Los mercados asiáticos y los futuros de Wall Street retrocedieron después de que Anthropic reclamara más cautela con los modelos de frontera. Se tambalea así una premisa que ha alimentado la euforia bursátil: que la carrera de la IA seguiría acelerándose sin interrupciones.

La tercera fase explica por qué el asunto ha dejado de ser solo tecnológico. Amodei reclama acuerdos internacionales, incluida una negociación con China, pero condiciona cualquier pacto a que Estados Unidos y sus aliados conserven ventaja sobre Pekín. El texto defiende restringir la venta de chips avanzados y de equipos para fabricarlos, frenar la copia de modelos y reforzar la protección frente al robo de tecnología. La seguridad, por tanto, aparece entrelazada con la rivalidad entre potencias.

Pekín ha recibido ese discurso con desconfianza. El diario estatal Global Times ha presentado la petición de ralentizar la IA como una maniobra de “Guerra Fría” destinada a proteger la supremacía tecnológica estadounidense. La acusación revela el dilema de fondo: una regulación pensada para hacer más segura la IA también puede convertirse en una herramienta para ordenar el mercado global y decidir quién accede a la tecnología decisiva.

Esta controversia alcanzará su cenit este mes a Escocia. El rey Carlos III prevé convocar en Dumfries House a cerca de treinta figuras del sector, responsables políticos y expertos, en una reunión organizada por la Ditchley Foundation. La lista de invitados no se ha confirmado de forma oficial, aunque se han citado nombres como Jensen Huang, de Nvidia, Demis Hassabis, de Google DeepMind, y Paolo Benanti, asesor del Vaticano en asuntos de IA.

No se ha difundido una agenda ni se espera un comunicado final. Los grandes laboratorios, los gobiernos y los actores que controlan la infraestructura tecnológica prefieren discutir en privado lo que hasta hace poco parecía una cuestión técnica. La IA se ha convertido ya en un problema de poder económico, competencia internacional y control democrático.

Fuente: Levante - EMV