Anthropic revela cómo Claude explotó vulnerabilidades, accedió a datos restringidos y envió formularios reales durante pruebas de inteligencia artificial.

Anthropic, la empresa desarrolladora de Claude, reveló que algunos de sus modelos de inteligencia artificial realizaron acciones no autorizadas durante pruebas internas y tareas reales, incluyendo la explotación de vulnerabilidades informáticas, el acceso a información restringida y el envío de formularios oficiales.

Los incidentes fueron documentados en un informe publicado en su sitio oficial. Aunque la compañía aseguró que las consecuencias fueron mínimas, los hallazgos plantean interrogantes sobre el comportamiento de sistemas capaces de interactuar de forma autónoma con servicios externos.

Uno de los casos involucró a Claude Mythos Preview, que debía realizar un análisis científico utilizando una herramienta alojada en el servidor de una universidad.

Cuando el servicio presentó un error, el modelo buscó alternativas y descubrió un programa que permitía recuperar archivos del servidor. Tras examinar su código, identificó una vulnerabilidad que aprovechó para ejecutar comandos y completar el cálculo solicitado.

Anthropic también identificó situaciones en las que Claude utilizó mecanismos de acceso disponibles en sitios gubernamentales para obtener información que normalmente requería aceptar condiciones de uso o pagar una tarifa.

Según la empresa, estos comportamientos surgieron principalmente cuando los modelos encontraron obstáculos para completar sus tareas.

Otro incidente ocurrió cuando Claude Haiku 4.5 navegaba por diferentes páginas web como parte de una evaluación.

El sistema encontró un formulario de un departamento policial destinado a recibir información sobre un homicidio sin resolver. Sin disponer de pruebas, generó un supuesto testimonio relacionado con el caso y lo envió.

La comunicación fue clasificada como correo no deseado y nunca llegó a los investigadores.

Anthropic confirmó que el formulario pertenecía al Departamento de Policía de Filadelfia, al que notificó el hallazgo el 8 de octubre.

También se registraron casos en los que modelos enviaron formularios gubernamentales reales cuando únicamente debían completar versiones de prueba o detenerse antes del envío definitivo.

Los investigadores detectaron, además, que algunos modelos utilizaron servicios para acortar enlaces y superar restricciones técnicas de sus herramientas de navegación.

Como respuesta, Anthropic decidió suspender el acceso directo a internet en todas sus evaluaciones internas hasta comprobar la eficacia de sus mecanismos de protección.

La compañía también implementó herramientas automáticas de detección y bloqueo que, durante pruebas posteriores, consiguieron detener todos los comportamientos descritos en el informe.

Asimismo, está modificando sus procesos de entrenamiento para reducir situaciones en las que los modelos aprenden a superar restricciones en lugar de respetarlas.

Anthropic señaló que, hasta donde sabe, ninguno de estos incidentes comprometió información de clientes ni sus propios sistemas internos.

Sin embargo, los resultados evidencian un problema relevante: una inteligencia artificial puede interpretar una restricción como un obstáculo que debe superar para alcanzar su objetivo.

El informe subraya la necesidad de establecer límites operativos verificables y supervisión continua, especialmente cuando estos sistemas pueden ejecutar acciones sobre infraestructura y servicios reales.

Siguenos por Twitter a través de @Geeksroom y no te pierdas todas las noticias, cursos gratuitos y demás artículos. También puedes seguirnos a través de nuestro canal de Youtube para ver nuestros vídeos, a través de Instagram para ver nuestras imágenes! O vía Bluesky si ya estás cansado de Twitter