top of page
Rechercher

Qui signe en bas de la page ? Ce que l'IA laisse encore en notre pouvoir

Photo du rédacteur: Valérie CAILLIEZ
Valérie CAILLIEZ
il y a 11 minutes
10 min de lecture
Qui signe en bas de la page ? Ce que l'IA laisse encore en notre pouvoir

Un roman primé le 21 septembre, retiré de la sélection du Goncourt quatre jours plus tard : l'Académie le juge « selon toute vraisemblance très largement » produit par une IA. Une banque allemande qui laisse des outils d’IA préparer les ordres de bourse de ses clients, en précisant qu'elle ne répond pas des erreurs de ces assistants. Deux histoires sans rapport apparent, et pourtant la même interrogation. Quand une machine produit un texte, une analyse ou une décision en quelques secondes, qui en répond ? Qui vérifie, qui signe, qui assume ? Et que reste-t-il de notre pouvoir quand produire ne coûte presque plus rien, mais que garantir coûte de plus en plus cher…


Un texte, mais de qui ?


L'affaire a démarré sur X. Le compte « Balance ton Claude » y publie les résultats de Pangram, un logiciel de détection de l'écriture par IA : les deux premiers chapitres du roman de Thélyson Orélien, « C'était ça ou mourir », sortiraient intégralement d'un modèle de langage. L'auteur dément, son éditeur le soutient, Virginie Despentes prend sa défense à la télévision. Puis la presse québécoise exhume d'anciens plagiats, et l'Académie Goncourt retire le livre. Quatre jours ont suffi.


Au-delà du sort d'un roman, c'est l'arbitre qui interroge. Les jurys qui l'avaient sélectionné n'avaient rien remarqué. Un outil statistique a donné l'alerte, et c'est à lui qu'on a fini par donner raison.


Samuel Fitoussi, chroniqueur au Figaro, a reconnu être à l'origine de la polémique. Quelques jours plus tôt, il défendait sur son blog l'idée d'un marquage obligatoire des textes produits par IA. Sans ce marquage, expliquait-il, les auteurs connus avant l'arrivée des modèles de langage garderont une présomption d'authenticité, et les autres vivront sous une suspicion permanente. Une nouvelle inégalité, fondée sur l'antériorité, qui ne touche pas que les romanciers. Consultants, formateurs, communicants, journalistes : qui croira demain que la note, le rapport ou le post a vraiment été pensé par celui qui le signe ?


Les marques en font déjà l'expérience. Dans une étude internationale publiée par Havas le 22 septembre, 56 % des consommateurs trouvent que l'IA utilisée par les marques peut sembler trompeuse, la moitié estiment qu'elle uniformise les contenus, et seuls 29 % jugent ces usages vraiment humains. Produire plus, plus vite, n'impressionne pas ceux qui reçoivent.


Philippe Silberzahn résume le décalage d'une formule : l'IA fait s'effondrer le coût de production, pas celui de la vérification. Si l'on ne peut plus prouver qui a écrit, qui acceptera encore d'en répondre ?


Une décision, mais qui en répond ?


Depuis le 25 août, les clients de la banque allemande Scalable Capital peuvent brancher ChatGPT, Claude ou Grok sur leur compte. L'assistant consulte le portefeuille, analyse, prépare les ordres, et le client valide. La banque prévient qu'elle ne répond pas des défaillances de systèmes tiers. L'assistant, qui tourne chez OpenAI ou chez Anthropic, en est un.


Faut-il s'en inquiéter ? Quelques semaines plus tôt, la société de gestion américaine Elm Wealth avait fait jouer quatre IA à un jeu de bourse. Claude et ChatGPT y devinent mieux que la plupart des humains le sens des marchés, mais toutes misent beaucoup trop gros, avec un effet de levier de 7 à 12 sur les actions. Elles connaissaient pourtant les règles de prudence en théorie. Elles ne les ont simplement pas appliquées.


Aux États-Unis, le Sénat cherche déjà comment encadrer ces délégations dans un projet de loi en cours de discussion.


Et quand l'enjeu n'est plus un portefeuille ? Mi-septembre, la presse américaine a révélé qu'un analyste du commandement des opérations spéciales pour le Pacifique avait utilisé un chatbot pour examiner le manifeste d'un cargo chinois. L'outil y a vu des composants destinés à un programme nucléaire. Des avions étaient déjà en l'air et des soldats prêts à monter à bord quand des analystes plus expérimentés ont repris le dossier et constaté que tout était faux. Une source parle d'une erreur qui a « failli déclencher une guerre ».


Qui signe en bas de la page ? Ce que l'IA laisse encore en notre pouvoir

Et pendant ce temps, en Californie, le gouverneur a promulgué plusieurs lois le 30 septembre pour interdire qu’une IA seule décide d’un licenciement ou d’une sanction envers un salarié. Finalement, derrière les conséquences indéniables sur la vie des humains concernés, c’est peut-être bien de remettre quelqu’un pour expliquer les raisons du choix.


Dans le jeu POTENT.IA, une carte pose la question sans détour : qui est responsable d'une mauvaise décision de l'IA ? Parmi les réponses proposées, il y a « Oups, c'est l'autre ». La formule peut faire sourire. Le cargo chinois rappelle qu'elle décrit une tentation bien réelle, et que ce jour-là, ce sont des humains expérimentés qui ont vérifié et évité le pire.


Ralentir ou vérifier ?


Dans la nuit du 8 au 9 septembre, Jacob Coxon, 27 ans, chercheur passé par OpenAI puis Anthropic, annonce sur X qu'il quitte non seulement son employeur mais tout le secteur. Selon lui, ces entreprises foncent vers une superintelligence capable de s'améliorer seule, en « jouant avec nos vies ». Son message est vu des dizaines de millions de fois en une journée.


Trois jours plus tard, Dario Amodei, le patron d'Anthropic, publie un long texte au titre sans ambiguïté : We Must Pace the Frontier, il faut ralentir la course. Sam Altman approuve publiquement ; Elon Musk répond « Dario a raison ». Trois concurrents d'accord sur un même texte, c'est rare.


Reste à lire ce qu'Amodei entend par ralentir. Il ne propose pas d'arrêter la recherche. Il demande que les travaux de sécurité, la vérification par des tiers et la rigueur des procédures aient le temps de rattraper ce que les modèles savent faire. Ralentir, chez lui, veut dire laisser à la vérification le temps de suivre.


N’oublions pas, chez OpenAI, la démission de David Robinson en charge de la transparence au sein de l’équipe « Safety Systems » avec un essai tonitruant qui explique en quelques mots qu’il a quitté OpenAI parce que sa culture est défaillante.


Qui faut-il croire dans tout ça ? Le calendrier invite au doute. Anthropic prépare son entrée en Bourse, OpenAI aussi. Elon Musk a lui-même jugé suspecte la viralité du message de Coxon, et une partie de la Silicon Valley parle d'opération de communication. Rien ne le prouve à ce jour. Mais le chercheur américain Dave Karpf relève qu'Amodei appelle à ralentir au moment où sa société mène la course, une manière, selon lui, de figer le classement. Et dix jours après son texte, Anthropic sortait un nouveau modèle présenté comme le plus performant du marché. Alerte sincère, coup de communication bien orchestré, ou un peu des deux ? Pour le public, la frontière devient impossible à tracer. Même l'alerte, désormais, demande à être vérifiée.


Le rythme a de quoi inquiéter. Quelques jours plus tard, Anthropic indiquait que Claude pilote déjà 26 % de ses propres travaux de recherche, contre moins de 1 % en début d'année, sous la supervision d'un humain. L'IA aide à construire l'IA suivante, et l'humain qui vérifie reste le dernier garde-fou affiché.


Ralentir pour vérifier, donc. Mais vérifier suppose quelqu'un qui en est capable. Qui, aujourd’hui et qui, demain ?


Qui saura encore vérifier ?


Le textile a déjà connu ce moment. En 1842, à Lowell, dans le Massachusetts, les dirigeants d'une filature confient un troisième métier à tisser mécanique à chaque ouvrier, persuadés d'augmenter la production de moitié. L'économiste James Bessen a raconté la suite. Avec la mécanisation, le vrai travail de l'ouvrier était devenu la surveillance du tissu : repérer les fils cassés, arrêter la machine avant qu'un défaut ne gâche tout le rouleau. Un métier à tisser de plus, c'était surtout plus de vérifications que l'œil humain ne pouvait en assurer. L'usine a dû ralentir ses machines et former ses équipes pendant un an. Au bout du compte, les gains de productivité sont venus de la formation de ceux qui surveillaient les métiers, pas des métiers eux-mêmes.


Ralentir ou vérifier ? L'exemple de l'industrie textile vs l'IA

Le scénario se rejoue aujourd'hui, en accéléré. L'IA produit beaucoup, vite, pour presque rien, et chaque production doit être relue par quelqu'un capable de reconnaître l'erreur. Or comment devient-on ce quelqu'un ? En faisant pendant des années les tâches dites « juniors » : chercher, documenter, rédiger un premier jet, se faire corriger, recommencer. Ce sont justement ces tâches que l'IA automatise en premier. Des chercheurs de Stanford observent déjà un recul de l'emploi des 22-25 ans dans les métiers les plus exposés à l'IA. Gare au raccourci pourtant. En France, le chômage des 15-24 ans a gagné 2,5 points en un an pour atteindre 21,6 % au deuxième trimestre, et il progresse pour toutes les tranches d'âge. La conjoncture pèse au moins autant que la technologie. L'IA n'explique pas tout, elle ajoute une pression de plus sur les premières marches d’une carrière.


Philippe Silberzahn, enseignant-chercheur et spécialiste de l’incertitude, se penche sur les travaux du chercheur Nolan Lovett et parle d'une « tragédie de l'expertise ». Chaque entreprise a intérêt à automatiser ; aucune n'a intérêt à continuer seule de former des débutants que ses concurrents recruteront ensuite, et le vivier d'experts dont toutes dépendent finit par se tarir. Plus on produit avec l'IA, plus on a besoin d'experts pour vérifier, et moins on en forme. Le manque ne se verra pas tout de suite : il faut dix ou quinze ans pour faire un expert. C’est demain en fait.


Rien de tout cela n'est écrit d'avance. Tout dépend de la manière dont chaque organisation intègre l'outil, et de la part humaine qu'elle décide de garder. Philippe Silberzahn lui-même invite moins à sauver des tâches devenues inutiles qu'à préserver ce qu'elles produisaient : des parcours où l'on apprend en faisant. Et cet apprentissage commence bien avant le premier poste. Si les experts de demain doivent travailler en bonne intelligence avec l'IA, c'est dès l'école qu'il faut leur apprendre à se méfier d'une réponse trop lisse, à chercher la source, à garder la main. À Lowell, il a fallu un an pour former les ouvriers. Combien de temps faudra-t-il pour former une génération à l’esprit critique nécessaire ?

Ralentir ou vérifier ? Qui saura encore repérer le fil cassé ?

Qui, dans nos organisations, saura encore repérer le fil cassé ? Qui aura appris à le faire, si plus personne n'a le temps ni le poste pour apprendre ?


Le pouvoir qu'on garde


Et si ce qui garde de la valeur, demain, était justement ce que la machine ne peut pas garantir ? Dans sa newsletter Futur(s), Noémie Aubron imagine des entreprises qui offriraient à leurs meilleurs clients « une heure de conversation avec un vrai salarié », comme on surclasse un voyageur en première. Simple hypothèse de futur, mais le présent n'en est pas si loin. Cécile Poignant observe que le luxe se déplace vers le geste et le lien : selon l'étude BCG-Altagamma 2026, le savoir-faire et la qualité d'exécution figurent parmi les tout premiers critères d'achat. La visibilité du logo arrive en dernier ou presque. Chez Hermès, un seul artisan par sac. L'étude le dit à sa manière : la nouvelle monnaie du luxe, ce sont le temps et la santé. Ce que le client paie, c'est le temps de quelqu'un qui répond de son travail.


Signer, finalement, c'est cela : accepter de répondre de ce qu'on a produit, avec ou sans IA. Ça ne se décrète pas dans une charte. Ça se décide, usage par usage, en équipe. C'est l'idée qui nous a guidées, Catherine Champeyrol et moi, en concevant POTENT.IA, un jeu de cartes pour prendre du recul sur les pouvoirs que l'on concède, ou pas, à l'IA. L'une des cartes résume à elle seule cet article : qui décide de ce que l'IA a le droit de décider ? Parmi les pistes proposées, il y a l'équipe IA, la direction, tout le monde… et l'algorithme lui-même.


Un roman retiré du Goncourt, une banque qui ne répond pas des erreurs des assistants qu'elle accueille, un cargo qu'on a failli aborder sur la foi d'un chatbot, une génération qui risque de ne plus apprendre à vérifier. Dans chacune de ces histoires, une machine a produit vite et presque bien. Qui, en bas de la page, acceptera encore de signer ? Et voulons-nous vraiment que ce soit encore nous…


Petite confidence : cet article est né de ma veille et a été construit avec Claude, une IA d'Anthropic. Elle a fouillé, vérifié chaque source, proposé des phrases. J'ai écarté, nuancé, complété, ajouté le doute et le textile. Partie par partie, je n'ai gardé que ce que j'acceptais de signer, ce qui, vu le sujet, me semblait la moindre des choses.



Sources


Introduction et partie 1 : Un texte, mais de qui ?

 

Partie 2 : Une décision, mais qui en répond ?

 

Partie 3 : Ralentir ou vérifier ?

 

Partie 4 : Qui saura encore vérifier ?

 

Partie 5 : Le pouvoir qu'on garde



Commentaires

bottom of page