Déléguer à l'algorithme, c'est choisir ses maîtres : qui fixe les objectifs que votre IA optimise ?

Déléguer à l'algorithme, c'est choisir ses maîtres. Pas échapper au contrôle.

L'IA décide mieux que moi : pourquoi ne pas la laisser faire ?

Le raisonnement se tient, en apparence. Les humains se trompent, par fatigue, par biais, par intérêt ; une intelligence plus puissante se trompera moins ; acceptons donc qu'elle décide. Il a même une version forte, qu'il faut reconnaître : les organisations humaines courent après le court terme, et un système qui tient une ligne pendant des années, sans se lasser, sans céder à l'humeur du trimestre, aurait quelque chose à leur apprendre. Et l'IA décide déjà, souvent mieux que nous, dans mille contextes : la logistique, la prévision, la détection d'anomalies. Le débat n'est pas « l'IA ou pas l'IA ».

Mais le raisonnement contient une confusion. Il remplace la question « comment gouverner l'IA ? » par la question « faut-il gouverner l'IA ? », et répond non, sans regarder qui profite de l'abstention. Or l'intelligence et l'alignement sont deux choses. Un système peut traiter l'information mieux que n'importe quel humain et poursuivre un objectif mal défini ; il le poursuivra alors avec une efficacité remarquable. La qualité d'une décision automatisée dépend entièrement de la qualité de l'objectif qu'on lui a donné, et la définition de cet objectif est une affaire humaine. Une IA peut optimiser une fonction ; elle ne peut pas trancher entre deux valeurs qui se contredisent, la marge et la fidélité d'un client, la croissance et l'indépendance, sans qu'on lui ait d'abord dit laquelle privilégier.

Que l'IA prenne plus de place est probable. Cela ne dit pas qui définit ce qu'elle poursuit, pour qui, et avec quel mandat.

Qui a écrit l'objectif que mon outil optimise ?

Il faut distinguer deux pertes. Perdre le contrôle, c'est voir l'IA agir sans vous. Perdre la souveraineté, c'est laisser des tiers définir ce à quoi elle travaille. La seconde ne fait aucun bruit.

Quand une entreprise adopte un outil d'IA sans avoir défini ses propres objectifs, elle adopte par défaut ceux de l'éditeur. Et un éditeur a des objectifs légitimes, qui ne sont pas les vôtres : le nombre de ses utilisateurs, leur fidélité, l'usage de ses autres produits. L'assistant de votre outil de gestion commerciale optimise ce que son éditeur mesure. Son intelligence peut être excellente ; l'objectif qu'il poursuit peut être étranger à vos intérêts. Lui confier la formulation de vos priorités, ce n'est pas gagner en intelligence : c'est externaliser la définition de vos objectifs à une infrastructure dont vous ne contrôlez ni les valeurs, ni les incitations, ni l'évolution.

Le piège a une version interne. Remplacer des étages de management par des systèmes de coordination ne supprime pas la question du pouvoir : elle la déplace. Qui contrôle le système ? Si c'est un tiers, la hiérarchie humaine est remplacée par une dépendance, d'autant plus silencieuse qu'elle se présente comme « objective », « fondée sur les données ». L'économiste Friedrich Hayek rappelait en 1945 que le savoir utile d'une économie est dispersé, et que nul planificateur n'en voit qu'une infime partie. Un objectif écrit loin de votre terrain ignore ce que seule votre entreprise sait.

C'est ici que la question rejoint le capital immatériel. Vos objectifs, les raisons de vos décisions, ce à quoi vous avez renoncé appartiennent à ce que l'entreprise sait sans l'avoir écrit : les interstices. Un objectif que vous n'avez pas écrit, quelqu'un d'autre l'a écrit pour vous. C'est la partie du capital immatériel que l'IA doit lire avant toute autre, et la première à garder chez vous ; notre article sur le capital immatériel en décrit les autres couches.

Cette perte n'est pas un coup de force. Elle est consentie, et c'est ce qui la rend durable.

Pourquoi est-ce si confortable de laisser faire ?

En 1840, dans le second tome de De la démocratie en Amérique, Alexis de Tocqueville décrivait un pouvoir d'un genre nouveau, qui n'interdit presque rien. Il couvre la vie « d'un réseau de petites règles compliquées, minutieuses et uniformes » ; il « ne brise pas les volontés, mais il les amollit, les plie et les dirige » ; et, jour après jour, il « rend moins utile et plus rare l'emploi du libre arbitre ». Laissons de côté le sujet de Tocqueville, qui était politique. Gardons le mécanisme, parce qu'il vaut pour une entreprise : une dépendance qui dispense quelqu'un d'exercer une capacité crée les conditions de la perte de cette capacité.

Une capacité qu'on n'exerce pas s'atrophie. Les muscles, une langue étrangère, un savoir-faire, et le jugement. La délégation à l'IA, quand elle n'est pas gouvernée, reproduit ce mécanisme, non par la contrainte mais par la désuétude. Le dirigeant qui délègue sans entretenir la pratique du raisonnement ne perd pas sa liberté de décider. Il la rend inutile. Toute dépendance n'atrophie pas : on dépend de son expert-comptable sans perdre la tête. Le risque est dans la dépendance non gouvernée, celle dont personne n'a fixé les bornes.

Au XVIe siècle, La Boétie avait nommé la servitude volontaire. Sa version moderne a une mécanique économique simple : on choisit rationnellement de déléguer, tant que le coût perçu de décider soi-même dépasse le bénéfice perçu de la liberté d'action. C'est un équilibre stable. Il ne se rompt que si le coût de sortie baisse, ou si le système cesse de tenir sa promesse. Reste une question inconfortable : à quelle vitesse une capacité de décision se reconstitue-t-elle, une fois atrophiée ? Si la réponse est « jamais tout à fait », la délégation n'est pas un état réversible.

Les outils d'IA ajoutent une particularité qui rend la sortie chère : leur concentration.

Suis-je locataire de quelqu'un sans le savoir ?

Les grands modèles d'IA sont entre les mains d'une poignée d'acteurs, presque tous américains. Pour une entreprise, c'est une dépendance stratégique comparable à une dépendance énergétique : on peut très bien fonctionner sans jamais contrôler les conditions de son fonctionnement. On parle parfois de seigneurs numériques : le seigneur ne possède plus la terre, il possède l'accès.

La relation a quatre asymétries. D'accès : celui qui conçoit l'outil en a la version complète, l'utilisateur la version filtrée. D'information : l'observation va dans un seul sens ; l'outil vous connaît, vous ne le connaissez pas. De pouvoir : votre productivité, parfois votre revenu, dépend de lui, pas l'inverse. De sortie : plus l'outil devient indispensable, plus partir coûte cher. Le château et la corvée se voyaient ; des conditions d'utilisation et un algorithme ne se voient pas. La cage est dorée : beaucoup de confort, un peu moins de capacité de décider chaque année.

Ce que l'entreprise loue, et ce qu'elle peut vraiment posséder autour de l'IA, fait l'objet d'un article à part : Locataire de votre IA.

Nuance : la dépendance n'est pas toujours évitable ; refuser le fournisseur dominant d'un composant clé peut coûter des années de retard. Louer son IA ou la posséder est une question qui mérite à elle seule un examen. Mais la conclusion est ailleurs : la souveraineté d'une entreprise ne se joue ni dans le choix du matériel ni dans celui du modèle. Elle se joue dans les objectifs qu'elle formule, et dans le prix qu'il lui en coûterait de partir.

Existe-t-il une architecture où les règles sont publiques et où personne n'a la main ? Il en existe une, depuis plus de quinze ans.

À quoi ressemble un système sans maître ?

Bitcoin est un système de règles sans maîtres, selon l'expression d'Andreas Antonopoulos, l'un de ses vulgarisateurs. Une offre fixe de 21 millions d'unités, un bloc toutes les dix minutes environ, et des règles publiques que chaque nœud, un ordinateur qui vérifie la chaîne, applique lui-même, et qu'aucun opérateur, aucune entreprise, ne peut modifier seul. Ce n'est pas une absence de règles : c'est une architecture conçue pour résister à la capture par un opérateur unique. Le vrai clivage n'est pas entre ceux qui veulent des règles et ceux qui n'en veulent pas ; il est entre une architecture de contrôle, où un tiers tient le point de passage, et une architecture de sortie, où chacun peut partir sans demander la permission. Le capital digitalisé, sous vos clés, ne demande la permission de personne : il n'a pas de maître.

Bitcoin enseigne aussi quelque chose sur le coût de sortie. Des systèmes médiocres durent, non parce que leurs participants y croient, mais parce que partir coûte trop cher ; quand la souveraineté devient moins chère que la dépendance, le basculement se fait, non par révolution mais par migration silencieuse. Et un intermédiaire, aussi bien disposé soit-il aujourd'hui, reste un point de défaillance unique : il peut changer de propriétaire, de conditions, de préférences. Remplacer un fournisseur par un autre plus sympathique n'est pas la fin du problème, c'est un transfert.

Transposé à l'entreprise : on ne sort pas d'une dépendance par héroïsme, on la rend révocable en abaissant son coût de sortie. Des objectifs écrits chez vous, lisibles par vos équipes et par n'importe quel modèle ; vos données dans des fichiers à vous ; un modèle qu'on peut changer sans tout réécrire. Et la simple possibilité de partir, même jamais exercée, discipline le fournisseur.

Formuler ses objectifs, c'est une compétence, et elle se travaille.

Par quoi commence une entreprise qui veut rester maîtresse de ses objectifs ?

Quand tout le monde a le même outil, ce qui reste différent, c'est l'intention : savoir précisément ce qu'on veut faire avec l'IA, et de quoi on veut se protéger. Toute technologie amplifie une intention ; sans intention, elle amplifie la confusion. Rester maître de ses objectifs n'est pas une vertu morale, c'est une position : « c'est nous qui décidons comment l'IA entre dans notre projet », et non « nous allons voir ce qu'on nous propose ».

Cela commence par une question, avant tout achat : qu'est-ce que nous voulons accomplir, que nous ne pouvons pas faire aujourd'hui ? Si la réponse n'existe pas, l'IA n'est pas la réponse. Puis vient une sorte de constitution de l'entreprise, courte et écrite : quelles décisions l'IA peut prendre ; lesquelles restent sous la gouvernance de l'entreprise ; quels arbitrages on refuse de lui laisser ; et quels lieux on entretient délibérément pour que le jugement collectif s'exerce indépendamment de ce que l'IA produit : une délibération d'équipe, un comité qui contredit, un contre-pouvoir interne. Ce sont eux qui empêchent l'atrophie.

Une objection juste : la clarté ne suffit pas, et beaucoup de dirigeants découvrent leur stratégie en avançant, pas avant. C'est pourquoi il s'agit d'une pratique et non d'un plan figé : des objectifs écrits, relus, révisés, confrontés à ce que l'IA produit. Beaucoup de dirigeants ont un diagnostic juste de leur situation, et des décisions structurelles qu'ils repoussent ; le moment utile est celui où le diagnostic devient un engagement. Décider ce qu'on demande à l'IA d'optimiser n'est d'ailleurs que la moitié du contrôle ; l'autre moitié est de vérifier ce qu'elle produit, et c'est l'objet d'un autre article.

L'IA ne décidera pas à votre place. Quelqu'un décidera à travers elle, et si ce n'est pas vous, c'est celui qui a écrit sa fonction. Formuler vos objectifs vous-même, les écrire chez vous, et garder la pratique de décider : c'est la seule souveraineté qui ne s'achète pas.

C'est la troisième des convergences entre Bitcoin et l'IA, la souveraineté : vos données structurées et à vous, votre IA là où vous le décidez, votre monnaie sous vos clés. Et c'est le point de départ de VIRAGE, notre atelier d'une demi-journée : partir de vos objectifs à long terme, et en déduire où l'IA entre, dans quel ordre, avec quel contexte.