Marion Carré explore les risques et les opportunités de l’intelligence artificielle face à la pensée humaine et à la créativité. Elle dresse le constat d’une uniformisation des contenus nous privant de diversité informationnelle, voire idéologique, en nous imposant une réflexion normalisée. Il en découle une forme de paresse intellectuelle rendant son utilisation compulsive. Puis, elle propose des solutions permettant de préserver l’expertise humaine et d’exercer un contrôle de la démarche intellectuelle transformant l’IA en levier d’innovation.
L’IA a des atouts indéniables : rapidité, puissance d’analyse, auto-entrainement (deep learning), aide à la création… L’IA reformule des notions complexes et propose des diagrammes explicatifs qui favorisent la compréhension de concepts difficiles.
Le concept du tapis roulant traduit la convergence des idées et de la connaissance : il nous préserve de tout effort mais nous conduit inexorablement, à sa vitesse, où il veut. Dénuée de logique et de morale – sinon celles du concepteur de la plateforme –, les résultats dépendent surtout de la qualité et de la précision des interrogations (prompts). L’analyse des documents – dont on ne contrôle pas toujours la sélection et la pertinence – est fondée sur des prédictions stochastiques totalement exemptes d’esprit critique, et des algorithmes décisionnels que l’on ne maîtrise pas. Elle perpétue le statu quo par des réponses médianes produisant un appauvrissement de la pensée et des contenus de faibles pertinence et originalité. Ses contraintes linguistiques, donc culturelles, entraînent des biais conceptuels. Dépourvus de créativité, les algorithmes décisionnels et les critères de sélection de la plateforme ne sont pas dévoilés et exercent une forme de censure. Elle est responsable d’amplification d’erreurs ou de dégradation de données (syndrome du téléphone arabe). Les sources, lorsqu’elles sont précisées, sont le plus souvent inventées (hallucinations). Dans le domaine éthique, il faut s’assurer que l’IA utilise des données publiques ou autorisées par leurs auteurs, sans exploitation de personnes vulnérables ou sous-payées. Enfin, elle est responsable d’une consommation d’énergie considérable.
Sa facilité d’utilisation décourage toute tentative de recherche alternative ou de solutions originales, conduisant à une érosion des compétences et de l’expérience. Pire, elle est souvent perçue comme délivrant des vérités, ce qui dissuade de réaliser une exploration plus large du domaine. Cette délégation aboutit à un résultat minimaliste, exempt de diversité et d’arguments contradictoire, ce que Marion Carré appelle une « bouillie d’IA », c’est-à-dire une sorte de plus petit dénominateur commun.
Pour se préserver des limites et failles de l’IA, l’autrice nous propose une démarche intellectuelle exerçant un contrôle sur ce qu’elle appelle le premier et le dernier kilomètres.
Le premier kilomètre fait intervenir une préparation initiale qui permet de définir l’intention, le cadre de réflexion et l’identification des sources. Cette étape préalable consiste à sélectionner les sources fournies à l’IA en s’attachant à les diversifier et à inclure des documents contradictoires. Les prompts sont alors conçus à partir des connaissances et de l’expérience de l’utilisateur après une réflexion clarifiant ses objectifs.
Le dernier kilomètre est celui de la vérification, de la critique des résultats et de la personnalisation de la réponse. Il est indispensable de confirmer toutes les informations en défiant la logique du résultat donné par l’IA. A ce stade, il peut être utile, voire nécessaire, de réinterroger l’IA à l’aide de nouveaux prompts plus précis. Enfin, le document doit être réécrit, éventuellement en modifiant le plan proposé, pour le personnaliser et mettre l’accent sur des aspects que l’IA aurait minimisés ou, au contraire, de restreindre ceux qu’elle aurait amplifiés. Cette démarche est essentielle pour assumer la responsabilité du résultat final.
Marion Carré décrit aussi le « pont paradoxal » qui prévoit que l’homogénéisation des idées opérée par l’IA crée les conditions nécessaires à une innovation. Le principe est de recombiner des idées existantes dans des configurations nouvelles ou avec un vocabulaire élargi, voire adapté. Cela peut faire appel à des approches interdisciplinaires qui favorisent une mise en perspective originale des concepts. L’autrice donne comme exemple celui d’un urbaniste qui s’inspire de réseaux mycéliens pour créer un système de transport urbain. Il peut aussi s’agir d’une délégation de tâche réservant la partie technique à l’IA et la vision conceptuelle à l’humain.
Ce petit ouvrage donne des explications claires et très utiles sur les atouts et les défauts de l’IA et son fonctionnement. Les solutions pour remédier à ses faiblesses sont salutaires et concernent des domaines très divers, ce qui contribue grandement à la compréhension de l’ensemble. Il aidera les débutants – mais peut-être aussi quelques utilisateurs compulsifs – à éviter des erreurs fréquentes et fâcheuses.
Le paradoxe du tapis roulant, Marion Carré, JC Lattès, 2025, 234 p.
Jean-Philippe Chippaux
Les articles signés n’engagent pas la responsabilité de la SFMTSI
