Cet article est co-écrit par Philippe NIEUWBOURG, Julien Soulard et Estelle Riboni-Cordelier
Qui s’offusque qu’un algorithme décide du moment où un feu de circulation passe au vert ou au rouge ? Personne ! Pourtant, chaque jour, ces systèmes analysent en temps réel des milliers de données et prennent des décisions qu’aucun être humain ne pourrait reproduire que ce soit à la même vitesse ou à la même échelle. Lorsqu’il s’agit d’optimiser la circulation, nous acceptons sans sourciller qu’une machine puisse faire mieux que nous. Mais jusqu’où sommes-nous prêts à lui déléguer nos décisions ?
L’intelligence artificielle a la capacité d’analyser des volumes d’informations considérables, d’identifier des corrélations que l’humain mettrais des jours à trouver. La technologie permet d’optimiser des choix complexes dans des domaines aussi variés que la logistique, l’énergie, la finance ou l’industrie. Face à de telles performances, une question soulevée par Olivier Sibony dans un TEDx Paris « Prospérer dans le Chao » : si la machine est souvent meilleure que nous pour traiter l’information et recommander une décision, pourquoi continuons-nous à vouloir garder le contrôle ? Si nous devons systématiquement vérifier ses recommandations par peur qu’elle se trompe, quel est alors le véritable bénéfice de son utilisation ?
Ne pourrions pas aller plus loin et se demander si notre intervention ne dégradait pas parfois les résultats ? Après tout, lorsqu’un algorithme est statistiquement plus performant qu’un humain, chaque correction apportée par ce dernier ne constitue-t-elle pas, en moyenne, une erreur supplémentaire ? La question peut sembler dérangeante, mais elle nous oblige à nous interroger sur ce qui fait réellement la valeur d’une décision. Est-ce uniquement une question de performance et d’efficacité ? Ou existe-t-il des situations où l’humain doit conserver le dernier mot, non parce qu’il est plus compétent, mais parce qu’il est le seul à pouvoir assumer les conséquences de ses choix ? C’est ce paradoxe que nous vous proposons d’explorer dans ce numéro.
Et si la machine décidait mieux que les politiques…
S’il est une constante dans les pays démocratiques, c’est la critique de la classe politique. Pays du nord ou du sud, de l’est ou de l’ouest, riches ou pauvres, avec la démocratie, vient la critique… sans que l’on ne sache forcément proposer mieux. Un homme (ou une femme) politique, c’est finalement quelqu’un qui critique le système existant, mais qui au moins a le courage de tenter de l’influer, persuadé qu’il peut mieux faire.
Mais le principe même de la politique, c’est de faire pencher la balance d’un côté, et même si tous les élus expliquent dès le soir de leur victoire, œuvrer maintenant pour tous leurs électeurs, partisans ou opposants, il s’agit bien d’influencer les orientations, en fonction des convictions politiques de chacun. Mais tout peut-il, ou doit-il, être politique ? La question se pose tout d’abord à l’échelon local. Les heures d’ouverture des piscines, la construction d’une bibliothèque ou d’un terrain de basket, le plan de nettoyage des rues, les horaires de ramassage des poubelles, d’ouverture de l’Etat-Civil, la cadence des feux de circulation, etc. tout cela semble a priori apolitique (même si certains vont les utiliser pour faire passer des messages). Le seul critère permettant de prendre ces décisions devrait être les besoins de la population. Qui est alors le mieux placé pour prendre des décisions qui répondent aux besoins de la population ? Le politique ? Sans doute pas. Et si un algorithme prenait de meilleures décisions que le politique ? « Difficile de faire pire de toute façon », nous vous entendons déjà…
La régulation algorithmique, c’est justement l’usage des algorithmes comme instruments mêmes de gouvernance. L’expression a été popularisée par Tim O’Reilly vers 2013, mais surtout par Evgeny Morozov dans un livre publié la même année, Pour tout résoudre, cliquez ici : l’idée est de réguler des systèmes (circulation, marchés financiers, modération de contenus, allocation de ressources publiques…) par des boucles de rétroaction fondées sur des données massives et des règles algorithmiques ajustées en continu, plutôt que par des normes fixes. Ce n’est pas un hasard sur le concept a émergé en même temps que le big data, l’internet des objets et les réseaux mobiles. La véritable question devient alors : la politique est-elle le propre de l’Homme ?
À la même période, certains posent la question lors de l’élection présidentielle américaine de 2016, remportée par Donald Trump contre Hillary Clinton. Sans que IBM ne s’y associe, certains lancent une campagne « Watson for President », encore accessible via l’URL https://www.datadreamer.com/watson2016/. Watson, c’est l’IA de IBM lancée à cette époque. Les promoteurs de l’idée posent la question : est-ce qu’une IA comme Watson ne prendrait pas de meilleures décisions que les deux candidats en lice ?
Une question qui fait écho au livre de Eric Hazin et Olivier Sibony, publié en mars 2026, et qui pose dans son titre la question clef : Faut-il encore décider ? À l’ère de l’intelligence artificielle, la décision humaine a-t-elle encore un sens ? Si l’algorithme est déjà meilleur, statistiquement parlant, que l’Humain ; ne vaut-il pas mieux laisser l’algorithme décider ?
Personne n’imagine sérieusement confier les décisions stratégiques d’un pays à une IA, pour le moment. Mais localement ? Le projet Sidewalk Toronto (https://fr.wikipedia.org/wiki/Sidewalk_Toronto), lancé par Goole, se proposait en 2017 de prendre le contrôle d’un quartier de la ville, et de le faire gérer par des IA, connectées à des objets connectés : une preuve ultime du monde numérique dans lequel nous pourrions vivre dans le futur, autour de quartiers centrés sur les besoins de leurs habitants. Un projet finalement abandonné en 2020 en particulier en raison des questions soulevées par le traitement des données personnelles d’une ville intelligente.
Alors, une IA peut-elle prendre de meilleures décisions qu’un Humain ? Sans doute, car elle les prendrait de manière mathématique et objective. Faut-il pour autant confier nos décisions à une IA ? Sans doute pas, car nous ne sommes justement pas des machines, nous avons des souhaits, des envies, des rêves qui dépassent la simple statistique. « Ils ne savaient pas que c’était impossible, alors ils l’ont fait », aurait dit Mark Twain. Une IA décidera-t-elle un jour quelque chose de statistiquement absurde mais qu’elle « aimerait » ?
Quand co-décider avec l’IA, et quand s’interdire la décision par l’IA ?
Alors, faut-il laisser l’IA décider ? Ni tout à fait oui, ni tout à fait non. La vraie question n’est pas de savoir si l’algorithme décide mieux que l’Humain — nous avons vu que c’est souvent le cas, dans un périmètre défini. La vraie question est : quelles décisions peut-on légitimement lui confier ?
Car toutes les décisions ne se ressemblent pas. Certaines sont techniques, répétitives, massives. D’autres engagent des valeurs, des droits, des destins individuels. Optimiser les fréquences de ramassage des ordures à partir des données de remplissage des bacs, c’est une chose. Décider si un prévenu mérite une remise de peine, c’en est une autre. Pourtant, dans les deux cas, un algorithme pourrait techniquement trancher.
C’est précisément le piège que l’on a failli refermer aux États-Unis. COMPAS (1) — Correctional Offender Management Profiling for Alternative Sanctions — est un logiciel utilisé dans plusieurs États américains pour évaluer le risque de récidive d’un condamné et orienter les décisions des juges. En 2016, une enquête de ProPublica (2) a montré que l’algorithme désignait les accusés noirs comme deux fois plus susceptibles de récidiver que les accusés blancs, à profil comparable. L’outil n’était ni neutre, ni objectif : il avait appris à reproduire les biais statistiques du système judiciaire qu’on lui avait donné à digérer. La machine n’avait pas décidé mal par malveillance. Elle avait décidé conformément à ce qu’on lui avait appris — ce qui est peut-être pire.
Ce cas illustre un principe simple : une IA est aussi juste que les données sur lesquelles elle a été entraînée. Si ces données portent l’empreinte d’injustices historiques, l’algorithme les perpétue — avec l’apparence rassurante de l’objectivité mathématique. On pourrait même dire qu’il les légitimise davantage que ne le ferait un juge humain, précisément parce qu’un chiffre intimide là où un jugement se discute.
Il existe pourtant des domaines où la co-décision Homme-Machine produit des résultats remarquables. En médecine, les systèmes d’aide au diagnostic — comme ceux développés pour détecter les cancers du sein sur mammographie — ne remplacent pas le radiologue : ils lui signalent ce qu’il aurait pu manquer, lui soumettent ce qu’ils ont vu, et c’est lui qui signe. Le médecin reste responsable. L’algorithme est un second regard, pas un verdict. Dans ce modèle, H + M > M — et même, H + M > H seul. La condition : l’humain doit réellement regarder, et non simplement valider.
Car c’est là un autre danger, moins visible. Celui de l’automation bias : la tendance documentée des opérateurs humains à faire confiance par défaut aux recommandations d’un système automatisé, même quand leur propre jugement devrait les alerter. Des pilotes d’avion ont ignoré leurs instruments parce que le pilote automatique affichait autre chose. Des médecins ont suivi des prescriptions algorithmiques sans les questionner. La co-décision devient alors une fiction : l’Humain signe, mais la machine a décidé. On a toutes les apparences de la responsabilité humaine, sans aucune de ses réalités.
Comment alors tracer la ligne ? Quelques critères permettent d’y voir plus clair.
- D’abord, la réversibilité : une décision que l’on peut corriger demain mérite moins de précautions qu’une décision irréversible. Expulser quelqu’un du territoire, prononcer une peine, refuser une greffe — ces décisions changent des vies de manière définitive. Elles exigent un humain qui assume.
- Ensuite, la singularité : l’algorithme excelle dans le répétitif et le massif, là où chaque cas ressemble au précédent. Mais une situation humaine vraiment inédite — un dossier qui ne ressemble à rien de connu — est précisément celle où le modèle est le moins fiable, et l’humain le plus irremplaçable.
- Enfin, la question des valeurs : dès qu’une décision implique un arbitrage entre des principes concurrents — liberté contre sécurité, efficacité contre équité — elle n’est plus une question technique. Elle est politique, au sens noble du terme. Et une IA, aussi sophistiquée soit-elle, ne choisit pas entre des valeurs : elle optimise une fonction que quelqu’un d’autre a définie à sa place.
C’est peut-être là la réponse la plus honnête à la question posée depuis le début de cet article. L’IA peut décider mieux que l’Humain sur des problèmes bien posés, dans des domaines délimités, avec des données fiables. Mais définir ce qui compte, décider ce qui est juste, assumer devant autrui les conséquences de ses choix : cela, aucun algorithme ne peut le faire à notre place — non par limitation technique, mais parce que ce n’est pas une question de calcul. C’est une question de sens. Et le sens, jusqu’à preuve du contraire, reste une affaire humaine.