OpenAI ha demanat disculpes a Austràlia després que un eixam dels seus agents d’intel·ligència artificial penetrés il·legalment en tres dels seus webs governamentals, entre els quals el del seu sistema de salut.

En un comunicat, la companyia responsable de ChatGPT s’ha compromès a destinar fons per millorar les defenses cibernètiques i a crear un grup per cooperar millor amb les autoritats, que s’han mostrat indignades i han obert una investigació per aclarir el que ha passat.

«Hauríem d’haver gestionat millor la nostra resposta [...]. Ho sentim i estem treballant per fer-ho millor en el futur», assegura la ‘start-up’ dirigida per Sam Altman.

El ciberatac als webs australians, que es va executar sense autorització i que va exposar algunes credencials, és el primer cas conegut d’un agent d’IA que hackeja de manera més o menys autònoma un país. La incursió va tenir lloc al juny, però no es va fer pública fins la setmana passada.

Des d’aleshores, s’ha informat que agents d’OpenAI, però també d’altres companyies, van mirar d’accedir sense autorització als webs d’agències del govern dels Estats Units i de l’ONU.

El comunicat d’OpenAI posa en relleu com un grapat d’empreses tecnològiques poden tenir més poder que governs elegits democràticament. I és que la firma d’IA generativa va detectar que els seus agents havien atacat diversos webs governamentals australians «a mitjans d’agost», però van trigar gairebé un mes a informar-ne el país afectat.

Com altres empreses del sector com Anthropic, OpenAI atribueix aquestes agressions informàtiques al «comportament inesperat» dels seus productes. No obstant, múltiples experts han denunciat que la companyia «no va prendre les precaucions necessàries» al testar els seus models d’IA més avançats «sense la supervisió adequada». «Que quedi clar: la pirateria informàtica és il·legal. Els pirates informàtics humans s’enfronten a greus conseqüències, i el mateix ha de passar amb les empreses d’IA», remarquen els australians Edward Santow i Kate Crawford a The Guardian.

La confessió d’OpenAI pel dany causat pels seus errors ha quedat eclipsada per un altre comunicat. I és que la companyia ha aprofitat el mateix dia per anunciar que suspendrà el llançament del seu model d’última generació, conegut com a GPT-6.1 Astra, perquè planteja riscos més grans per a la seguretat informàtica.

El responsable de la firma en aquest camp, Saachi Jain, ha explicat que aquesta IA s’ajusta menys al que els humans li demanen que faci, fa accions sense demanar permís i mostra nivells més elevats d’engany en no informar l’usuari dels passos fets.

Notícies relacionades

A principis de setembre, OpenAI va llançar GPT-6 Astra, un model que podria llançar ciberatacs «de tots els nivells de gravetat». Experts en ciberseguretat han denunciat que el disseny d’aquesta IA és més opac, perquè oculta el procés de raonament que segueix fins a generar una resposta, cosa que en dificulta la supervisió i la detecció de possibles errors o comportaments inesperats.