L'entreprise californienne n'a, en effet, averti les autorités australiennes que le 10 septembre, alors qu'elle avait découvert mi-août cet incident remontant à juin, provoquant l'ire du Premier ministre australien. Le chef du gouvernement, Anthony Albanese, avait également reproché à OpenAI de n'avoir alerté ses services que par un courriel simple envoyé à une adresse destinée au grand public.

"Nous aurions dû mieux gérer notre réponse" au problème, a écrit la start-up dans un message publié sur son site. "Nous sommes désolés et allons œuvrer à faire mieux à l'avenir."

Au total, quatre plateformes du gouvernement australien ont été visées par l'IA du créateur de ChatGPT, dont Services Australia, le site des services sociaux, dont le modèle a extrait des informations non publiques. Le modèle en question était une IA interne à OpenAI, qui n'avait pas vocation à être commercialisée. Ses évaluateurs l'avaient libérée de ses garde-fous pour mieux jauger ses capacités réelles en matière de cybersécurité.

OpenAI a expliqué n'avoir notifié les autorités de Canberra qu'en septembre parce que l'entreprise souhaitait avoir auparavant achevé son enquête sur l'incident. Le groupe a affirmé que, dans aucun des quatre cas, l'IA n'avait eu accès à des données personnelles. Depuis la communication des faits, OpenAI dit avoir "collaboré étroitement" avec les agences du gouvernement australien "pour partager ce que nous savons".

L'entreprise s'engage à prévenir "rapidement et directement" les autorités dans l'hypothèse où elle identifierait des attaques sur d'autres plateformes du gouvernement.

Elle va dépêcher son responsable de la stratégie, Jason Kwon, à Sydney pour répondre aux questions de parlementaires australiens lors d'une audition le 6 octobre.