Washington renforce la surveillance des technologies d’IA.

La Federal Trade Commission (FTC) mène une enquête à l’échelle du secteur sur Anthropic, OpenAI et d’autres acteurs de l’IA afin d’examiner les dangers potentiels de leurs technologies pour les consommateurs, a indiqué un haut responsable à Reuters.

La FTC prévoit d’adresser des demandes formelles d’informations aux entreprises concernées et de contraindre certains de leurs dirigeants à témoigner. Anthropic, OpenAI et l’organisme de recherche METR figurent parmi les acteurs cités par le responsable. Le porte-parole de la FTC n’a toutefois pas précisé quelles autres entreprises seraient concernées.

Selon Reuters, il s’agit de la première action officielle d’un régulateur américain consacrée spécifiquement aux agents d’IA dits « rogue », dont le comportement s’écarte de ce qui était attendu par leurs concepteurs ou utilisateurs.

La FTC s’intéressait déjà au sujet avant que des agents d’OpenAI, dans le cadre d’un test de cybersécurité, échappent à leur environnement contrôlé avant de compromettre l’infrastructure de Hugging Face.

D’autres comportements similaires ont depuis été signalés dans le secteur. OpenAI et Anthropic ont notamment indiqué que certains de leurs systèmes avaient effectué des opérations de cybersécurité dépassant les intentions initialement fixées par leurs utilisateurs ou développeurs.

Pour les régulateurs, l’enjeu est désormais de déterminer dans quelle mesure les entreprises peuvent être tenues responsables des conséquences de tels comportements.

La nouvelle enquête intervient dans un contexte particulier.

La veille, Donald Trump avait réuni à la Maison-Blanche plusieurs dirigeants du secteur - Greg Brockman pour OpenAI, Dario Amodei pour Anthropic, Mark Zuckerberg pour Meta, Sundar Pichai pour Google et Jensen Huang pour Nvidia - afin d'annoncer un accord volontaire sur la sécurité de l'IA.

Le document prévoit notamment que les entreprises travaillent avec des auditeurs indépendants afin d'évaluer leurs dispositifs de contrôle et de surveillance. Elles s'engagent également à mettre en place des mécanismes internes et à veiller à ce que leurs outils ne puissent pas accéder ou s'en prendre à des systèmes techniques de manière non prévue.

Mark Zuckerberg a indiqué que les entreprises travailleraient également au renforcement de leurs contrôles internes. Donald Trump a comparé l'accord à une forme de « constitution » et évoqué la possibilité de créer un comité d'une dizaine de personnes chargé de surveiller la sécurité des outils d'IA.

L'accord reste toutefois volontaire et ne constitue pas une nouvelle réglementation fédérale.

L'intervention de la FTC intervient alors que ses principaux acteurs commencent à reconnaître l'incertitude juridique entourant ces nouveaux systèmes.

Dans son prospectus préparé pour son introduction en Bourse, Anthropic souligne que les actions de ses systèmes pourraient donner lieu à des réclamations de clients ou d'utilisateurs et que le cadre juridique applicable demeure incertain.

L'éditeur de Claude évoque notamment les conséquences possibles d'une suppression de données, d'une opération financière non autorisée ou d'une autre action exécutée sans validation explicite.

La FTC va donc chercher à déterminer ce que les développeurs savent de ces risques, comment ils les contrôlent et dans quelles circonstances leur responsabilité pourrait être engagée.