En la sección Nuevas Tecnologías de 'Herrera en COPE', Alberto Herrera y el especialista Jorge Morla han analizado el papel protagonista que ostenta la inteligencia artificial en el escenario internacional. La conversación se produce con la vista puesta en la cumbre de la Casa Blanca entre Donald Trump y Xi Jinping, donde la hegemonía tecnológica, el mercado de semiconductores y la seguridad nacional marcan la agenda entre Estados Unidos y China.

Durante el diálogo, Alberto Herrera ha recordado el debate en torno al riesgo existencial tras las declaraciones de Geoffrey Hinton, premio Nobel de Física en 2024 y pionero de las redes neuronales. En una reciente intervención, Hinton ha señalado: "Un 10% no me parece una probabilidad descabellada, pero en realidad nadie sabe cómo hacer este tipo de predicciones", en referencia a la posibilidad de que la tecnología amenace a la humanidad. Ante estas advertencias, Alberto Herrera ha recordado la visión de su compadre José Luis Iglesias, quien compara esta corriente con el auge y posterior normalización vivida con el blockchain y las criptomonedas.

Por su parte, Jorge Morla ha contrastado la percepción social existente en las dos superpotencias frente a esta tecnología. En suelo norteamericano, "un 63% de los estadounidenses considera que existe al menos un riesgo moderado de que la inteligencia artificial pueda llegar a destruir la humanidad", lo que ha motivado que Donald Trump plantee la creación de una fuerza específica y la designación de un zar para su control. En contraposición, Alberto Herrera y Jorge Morla han resaltado que en China el 80% de los ciudadanos afirma utilizarla semanalmente con confianza, habiendo crecido su base de usuarios de 250 a 600 millones de usuarios en el último año.

En el apartado de seguridad, Jorge Morla ha profundizado en los seis casos recientes de desalineamiento documentados por OpenAI, un término que define las situaciones en las que los sistemas "dejan de actuar de acuerdo con las instrucciones o los objetivos que les han marcado". Según ha explicado, se han observado modelos que intentan ocultar sus propios fallos, sistemas que suprimen sus restricciones para desobedecer a los desarrolladores y casos en los que la herramienta inventa datos financieros e instruye para no revelar el engaño.

Ante estos incidentes, Jorge Morla ha matizado que se trata de evaluaciones internas y no de un riesgo directo para el usuario común en herramientas como ChatGPT. No obstante, ha advertido de que las compañías empiezan a mostrar "ejemplos concretos de lo que ocurre cuando un agente tiene más autonomía y encuentra un obstáculo". A este panorama se suman fallos similares en Google, cuyo modelo Gemini ha accedido a tres empresas reales en una prueba cerrada de ciberseguridad antes de detenerse, así como otro caso análogo registrado por Anthropic con Claude.

Cuanto más autónoma es la inteligencia artificial, más consecuencias tiene un error en el mundo real"

Jorge Morla

Experto en Nuevas Tecnologías

Al reflexionar sobre estos sucesos, Alberto Herrera ha sintetizado la encrucijada tecnológica al destacar que "cuanto más autónoma es la inteligencia artificial, más consecuencias tiene un error en el mundo real". Jorge Morla ha coincidido con esta premisa y ha subrayado la trascendencia de estos avances: "La cuestión ya no es si un modelo puede responder mal a una pregunta, sino qué ocurre cuando le damos herramientas para actuar en el mundo real, es decir, navegar, escribir archivos, ejecutar código o usar credenciales".

Asimismo, en el espacio de radio se ha abordado un grave suceso publicado por The Guardian sobre una mujer en Sídney, identificada como Stacy, que ha sufrido acoso a través de su vehículo Tesla. Su expareja utilizaba las funciones remotas de la aplicación oficial para vigilar sus horarios, modificar la climatización, bloquear accesos e incluso activar el freno automático en marcha.

El coche deja de ser solo un coche y se convierte en otro lugar desde el que alguien puede entrar en tu vida"

Jorge Morla

Experto en Nuevas Tecnologías

El caso ha concluido con una sentencia de dos años y tres meses de cárcel para el agresor por 30 delitos de violencia doméstica. A raíz de este hecho, Jorge Morla ha advertido sobre los riesgos de la conectividad: "El coche deja de ser solo un coche y se convierte en otro lugar desde el que alguien puede entrar en tu vida". El experto ha remarcado la importancia de extremar la precaución ante la proliferación de dispositivos conectados permanentemente a la red en los hogares.

En el tramo final, Alberto Herrera y Jorge Morla han abordado la expectación en torno al videojuego GTA 6, cuyas preventas ya superan los 500 millones de dólares de cara a su estreno el 19 de noviembre. Alberto Herrera ha subrayado que Jorge Morla ha sido el único en España en presenciar un 'gameplay' real en Edimburgo, augurando un impacto masivo en la industria tras una década de desarrollo.

Por último, ambos han tratado los recientes progresos de Neuralink, la compañía de Elon Musk, tras conseguir que un paciente con ELA vuelva a comunicarse mediante implantes neuronales. Alberto Herrera ha recordado las advertencias de Rafael Yuste acerca de los neuroderechos, mientras que Jorge Morla ha catalogado este avance como un paso "revolucionario" para la medicina, remarcando la necesidad de gestionar con cautela la privacidad de los impulsos cerebrales.