Outils intelligents, résultats stupides

Ma mâchoire s’est décrochée.

Tu peux répéter ça, s’il te plaît ?

« J’ai vérifié ton idée avec ChatGPT – et tu as tort.

« Donc si je comprends bien… Tu es en train de me dire que des semaines de travail méticuleux — calculé, affiné, structuré en matrices et tableaux, et minutieusement revérifié — un travail basé sur mon parcours académique et 30 années d’expérience comme économiste, avec une solide affinité pour les maths, la logique et les statistiques… que tout ça ne vaut rien ? Juste parce que tu as posé une question à ChatGPT ? Et dis-moi — comment exactement as-tu formulé ta question ? Était-elle hypothétique, ouverte, fermée, orientée ? Tu l’as affinée, creusée ? « 

Elle hésite.

Non, ce n’est pas ce que je voulais dire — j’ai juste demandé à ChatGPT, et il dit que…

J’ai écouté. Incrédule.

Bon. Nous y voilà.

Franchement, je m’en fous de sa réponse — car je n’ai aucune idée de la façon dont elle a posé sa question à l’outil.

Et par souci de paix et de clarté, je vais quand même revérifier. Je vais même préparer une version “simplifiée” que tout le monde pourra comprendre — exactement comme je l’avais fait il y a vingt ans à la banque, quand j’ai développé un outil de mathématiques financières qui a ensuite été adopté comme outil officiel sur le site web de la banque.

Les résultats étaient exacts. Évidemment.

Par curiosité — et peut-être par un brin de malice — j’ai soumis mes résultats à ChatGPT. Ironie du sort : il a validé chaque étape de mon raisonnement.

Ironie activée : Quel soulagement ! Ironie désactivée.

Je le dis clairement : j’utilise l’IA. Presque tous les jours. Je m’en sers pour résoudre des questions complexes, élargir mes perspectives, tester mes idées. Pour chercher les bons outils pour mes idées.

Et oui — je regrette profondément de ne pas (encore) pouvoir m’offrir une équipe IT complète pour construire les outils numériques dont j’ai besoin. Eux aussi doivent remplir leur frigo, et pour l’instant, je ne peux pas encore contribuer à ce segment du PIB. Donc je travaille seule — soutenue par ce que j’ai. Et cela inclut les outils d’IA, surtout dans un domaine où je ne suis pas experte : l’informatique.

Mais : l’IA ne doit jamais remplacer ta propre réflexion.

Tu dois vérifier chaque étape.

Tu dois considérer chaque erreur potentielle, chaque nuance, chaque exception — car le comportement humain est flexible, émotionnel, parfois imparfait, et c’est justement ce qui le rend humain.

L’IA puise dans la connaissance collective du monde — une masse de données pondérée par des algorithmes censés déterminer, statistiquement, ce qui est “le plus probable” ou “le plus utile”.

Mais comme Carlo M. Cipolla nous le rappelle dans Les lois fondamentales de la stupidité humaine :

1. Il y aura toujours plus de personnes stupides qu’on ne le pense.
2. La proportion de personnes stupides est constante — quel que soit le niveau d’éducation, la classe sociale ou la région. Même les lauréats du Prix Nobel n’échappent pas à cette proportion.

Et cela vaut aussi pour le groupe de personnes qui alimente les outils comme ChatGPT.

Alors s’il vous plaît — je vous en prie — ne traitez jamais ChatGPT ou un autre outil d’IA comme un substitut à votre propre raisonnement.

L’utiliser, oui.

Remettez-les en question, toujours.

Et puis, surtout, réfléchissez.

Et ne leur donnez à manger que ce que vous avez vous-même validé.

Parce que vous l’avez vérifié, questionné, et non bâti sur des suppositions.

Sinon ?

L’outil sera nourri avec un paquet de bêtises.

Et ces bêtises seront répétées — encore et encore — amplifiées comme une boule de neige. (*) (*)

Jusqu’à ce qu’un jour… elles prennent le dessus.

Et qu’une société entière finisse par y croire.

La perte pour l’humanité ?

Je n’ose même pas y penser.

• PS : Même principe pour les idées d’investissement. Plus les gens s’en remettent à des conseils générés par IA, plus ils finissent par suivre les mêmes recommandations. Cela gonfle mécaniquement les prix des actions au-delà de la vraie valeur de l’entreprise — une valeur pourtant liée à sa capacité réelle à générer des flux de trésorerie justifiant le prix payé.