Une opinion d'Aurélie Lahaut (Data Protection Officer, DPO Office, Belfius) et de Jacques Oosterbosch (CIO, Insurope)

"Nous avons créé des machines capables de répondre et d'agir. Il nous faut désormais former des humains capables de mieux questionner."

Pendant longtemps, nous avons pensé le risque de l'intelligence artificielle à travers ses erreurs. Hallucinations, biais, approximations : ses limites semblaient constituer son principal défi.

Les progrès récents nous invitent pourtant à regarder ailleurs.

Le 3 septembre, OpenAI a dévoilé GPT-6 Astra. Au-delà des performances annoncées, un aspect mérite l'attention : la capacité du système à exercer davantage de jugement lorsque les instructions humaines laissent place à l'interprétation. Un mot s'impose alors : jugement.

Nous avons d'abord considéré l'intelligence artificielle comme un outil, puis comme un assistant. Nous entrons aujourd'hui dans l'ère d'agents capables de prendre en charge une part croissante de notre charge cognitive.

Il ne s'agit pas seulement d'une évolution technologique. Il s'agit d'une transformation de ce que nous choisissons de déléguer de notre intelligence.

Toute révolution technologique déplace la rareté. La mécanisation a rendu abondante une partie de la force physique. L'informatique a rendu abondantes certaines capacités de calcul. L'intelligence artificielle pourrait désormais rendre abondantes des facultés que nous considérions comme profondément humaines : analyser, synthétiser, argumenter, programmer ou conseiller.

Dès lors, une question apparaît : Si l'intelligence devient abondante, qu'est-ce qui devient rare ? Peut-être le jugement.

Non pas la capacité à produire une réponse, mais celle d'en interroger les prémisses. Non pas seulement savoir ce qui peut être fait, mais décider de ce qui devrait l'être.

Plus les machines deviennent compétentes, plus cette distinction gagne en importance.

Nous savons réagir à une machine qui se trompe. La difficulté apparaît lorsqu'elle a raison la plupart du temps. Une réponse peut être claire, cohérente et convaincante tout en restant discutable. C'est ce que l'on pourrait appeler l'illusion de justesse.

Plus les systèmes deviennent fiables, plus le risque augmente que nous cessions progressivement de remettre leurs conclusions en question.

Le danger n'est donc pas seulement que l'IA commette des erreurs. Il est qu'elle devienne suffisamment performante pour que la vigilance intellectuelle s'émousse.

Les modèles les plus avancés illustrent une tension nouvelle.

À mesure que nous leur confions davantage de capacités d'action, la question du contrôle devient centrale. Non parce qu'ils seraient moins performants. Au contraire. Parce qu'ils deviennent suffisamment performants pour que la tentation de leur déléguer davantage soit parfaitement rationnelle.

C'est là tout le paradoxe : le problème de la confiance apparaît précisément lorsque la confiance devient justifiée.

La réponse habituelle consiste à maintenir "l'humain dans la boucle". L'intention est louable. Mais la présence d'un humain ne garantit pas l'existence d'un contrôle humain réel.

Si un système analyse des milliers de données, compare différents scénarios et recommande une stratégie optimale, la validation finale d'un responsable suffit-elle encore à parler de décision humaine ?

Au fond, tout dépend de ce qui est délégué. Déléguer l'exécution, c'est dire : "fais ceci pour moi". Déléguer le raisonnement, c'est dire : "recommande-moi une décision". Déléguer le critère, c'est laisser la machine déterminer ce qu'est une bonne décision. C'est ce troisième niveau qui constitue le véritable basculement.

Une organisation peut déléguer beaucoup d'exécution et même une partie du raisonnement sans abandonner son jugement.

Mais lorsque l'IA commence à déterminer implicitement ce qu'il faut optimiser, quels arbitrages sont acceptables ou quels objectifs doivent prévaloir, elle ne choisit plus seulement les moyens. Elle participe à la définition des fins.

Pour les entreprises, la question n'est plus seulement : "Pouvons-nous utiliser cette IA ?" Elle devient : "Que souhaitons-nous lui déléguer ?"

À quelles données peut-elle accéder ? Quels actes peut-elle accomplir ? Quelles décisions doivent rester contestables ? Où doivent se situer les limites de son autonomie ?

Ces questions dépassent largement la technologie. Elles touchent à la gouvernance, à la responsabilité, à la gestion des risques et à la répartition du pouvoir de décider.

Le défi n'est pas de ralentir l'innovation. Il est d'organiser intelligemment la nouvelle division du travail cognitif entre l'humain et la machine.

En 1932, Bertrand Russell publiait Éloge de l'oisiveté. Il s'interrogeait sur ce que l'homme ferait du temps libéré par le progrès technique.

Près d'un siècle plus tard, l'intelligence artificielle nous pose une question analogue. Non plus : que ferons-nous du temps libéré par les machines ? Mais : que ferons-nous de l'intelligence qu'elles nous dispensent désormais de mobiliser ?

Si l'IA nous libère d'une partie de l'effort nécessaire pour chercher, comparer, synthétiser ou raisonner, cette évolution peut constituer un immense progrès. À une condition : ne pas utiliser cette liberté nouvelle pour renoncer précisément aux facultés qu'elle devrait nous permettre d'exercer davantage.

Car une solution peut être optimale sans être souhaitable. Une décision peut être efficace sans être juste. Et toute optimisation suppose une question préalable : optimale selon quel critère, défini par qui, au service de quelle finalité ? Voilà peut-être le paradoxe de l'époque qui s'ouvre.

Plus les machines progresseront dans l'art de répondre, plus la valeur des personnes capables d'interroger les questions elles-mêmes augmentera.

Nous voulions des intelligences artificielles dignes de confiance. Nous sommes peut-être en train d'y parvenir. Le défi qui s'ouvre devant nous est plus exigeant encore : apprendre à leur faire confiance sans perdre les raisons pour lesquelles nous devrions parfois en douter.

Et apprendre à déléguer notre intelligence sans jamais renoncer à notre jugement.

Les textes qui paraissent dans la rubrique Débats sont des contributions externes, qui n'engagent pas la rédaction.