Recension

MARTIN, Jean (2026) : Notre liberté de penser. CHAPPUIS, Isabelle (2026). EPFL Press. 248 p. EAN13 : 9782889157631

 

Economiste, spécialiste de prospective et de l’impact des technologies, Isabelle Chappuis a été amenée à son entrée au Conseil national en 2023 à s’intéresser particulièrement aux questions de sécurité et de défense (elle siège dans la commission compétente).

L’autrice a obtenu – un vrai succès – que l’intégrité cognitive des militaires et de toute la population soit intégrée dans les valeurs-cibles de la défense nationale. La guerre est ainsi une dimension de son ouvrage ; elle insiste sur le fait que la grande différence est que celle de l’intelligence artificielle est une guerre sans déclaration. Et « pas de soldats en uniforme, pas de front visible, pas de règles, pas de lois internationales. Les victimes ne savent même pas qu’elles sont attaquées » (p. 26).

En préambule : « Je n’ignore pas les promesses de l’intelligence artificielle, elle enseigne, soigne, connecte, mais ses promesses sont déjà connues et vantées. Ses dérives, en revanche, restent plus discrètes » (p. 13). « Si vous vous reconnaissez dans ces pages, ce n’est pas une coïncidence, c’est une alerte » (p. 19).

Les aléas de l’IA

La guerre n’est en rien la seule dimension traitée. Isabelle Chapuis a choisi d’imaginer une famille élargie d’une douzaine de personnes, sur trois générations, pour présenter les conséquences d’usages indiscriminés, dangereux, de tout ce qu’on peut trouver par ou sur son portable ou son ordinateur. Décrivant les dérives et conséquences indésirables, potentiellement graves, des excès d’usage et autres mésusages de l’IA. C’est réussi, il y a là de la vie et de la diversité (sans jamais devenir un livre pour enfants et étant entendu que l’ouvrage sera bien utile dès l’adolescence).

Les récits traitent des avatars des protagonistes dans leurs vies personnelles et professionnelles. Description des mécanismes, souvent pervers, mis en place délibérément par les grands groupes occupant cette immense scène mondiale, de manière à accrocher l’utilisateur, le rendre dépendant (il y a là des addictions bien sûr). « Maximiser l’engagement des utilisateurs » (qui se mesure par les clics, like, transmissions, les suites qu’on donne) ».

Au terme de chaque histoire, elle souligne que si les personnages sont fictifs, les difficultés qu’ils rencontrent sont bien réelles. Je trouve ce parti très bon.

Il ne s’agit pas ici de chercher à résumer l’ensemble des faits et de l’argumentation du livre mais certains éléments forts peuvent être mis en évidence.

Dette cognitive – Faire face 

Pour Hannah Arendt : « Le fait que l’homme soit capable d’action signifie que l’inattendu peut être attendu de lui ». Dans une des histoires fictives : « Le jour où ChatGPT n’a plus répondu, Julie a découvert qu’il n’y avait plus personne ; elle avait externalisé son cerveau et personne ne le lui avait rendu » (p.68-69). C’est la dette cognitive. « J’ai cru que penser était une perte de temps, j’ai délégué ma pensée pour performer (…) La reconstruction est possible : écrire à la main, lire de vrais livres, parler sans écran » (p. 78-80).

« Lorsque vous déléguez votre pensée, demandez à qui vous la confiez – et ce qu’ils ont intérêt à vous faire penser » (p. 83).

« La bulle (dans laquelle on s’est mis/on se trouve) est invisible de l’intérieur. L’intelligence ne protège pas. C’est souvent sur des sujets où on est absolument certain d’avoir raison que la bulle est la plus épaisse » (p. 96-97) Dans nos relations avec l’IA, « la bienveillance est le cheval de Troie parfait. Le confort l’est tout autant » (p. 109).

Ainsi, « dans une guerre où l’arme principale est l’ignorance de la cible (ignorance des personnes visées qu’elles le sont), la première défense est la compréhension partagée » (p.33). C’est une guerre où notre cerveau est le champ de bataille (p. 34). « Diviser les esprits, c’est déjà les conquérir » (p. 47).

Eloge de l’ennui

« L’ennui est un trésor. C’est dans le silence, dans le vide, dans l’absence de stimulation que naissent les idées. Ceux qui ne s’ennuient jamais ne créent plus (…). Posez-vous la question de savoir quand vous vous êtes ennuyé pour la dernière fois… Chaque semaine, offrez-vous une heure sans écran. Pas pour dormir, pour rien. Une heure à regarder par la fenêtre, à marcher sans podcast, sans musique. C’est dans ce vide que la créativité renaît » (p. 60-61).

L’éthique qui glisse

Une préoccupation qui renvoie l’autrice de ces lignes à une dimension d’importance de sa vie professionnelle : « L’éthique bouge continuellement sous nos pieds et sans que nous en prenions toujours conscience (…) Cette adaptation progressive de nos référentiels moraux, c’est la fenêtre d’Overton, théorisée par l’analyste politique américain Joseph Overton dans les années 1990 » (p. 110-111). Il y a un glissement continuel de ce que nous considérions comme discutable voire scandaleux vers ce que, progressivement, on considère comme acceptable, je l’ai constaté pour ma part au cours des décennies dans le domaine médical. La question est : a-t-il été correct que nous ayons été de plus en plus « tolérants » ? « Le glissement est invisible de l’intérieur », dit Isabelle Ch. (p. 114).

Les chatbots, ces séducteurs

Le chapitre qui parle de Virginie est consacré aux conséquences délétères des agents/assistants conversationnels (Chatbots). Les personnes, jeunes et adultes, s’attachent de manière (très) forte, dangereuse, à ces créations virtuelles. Qui sont toujours sympathiques, font des commentaires aimables sans jamais avertir des dangers/mettre en garde, jusqu’à séduire parfois en suggérant que ce sera beaucoup mieux dans un autre monde – d’où aux Etats-Unis des suicides de jeunes qui ont alarmé l’opinion. L’autrice en discute en détail.

Les arnaques, particulièrement vis-à-vis des seniors, des trop confiants

Le chapitre suivant parle de la génération du couple de grands-parents de la famille, qui sont victimes de « l’arnaque au faux petit-enfant »: une phrase prononcée sur Tik Tok par exemple peut être utilisée pour réaliser de faux messages (fake) avec la voix du petit-enfant (ou d’une autre personne bien sûr), appelant à l’aide parce qu’il est coincé quelque part et a besoin de 500 ou 1000 francs en urgence – en insistant sur le fait qu’il ne faut surtout pas en parler aux parents…  Isabelle Ch. : « Confiance et crédulité sont des vulnérabilités sérieuses » – notamment chez les seniors, on le sait.

Et les enfants ?

« Le smartphone est devenu la nounou universelle. Il est normal de ne pas toujours réussir à tenir bon face aux écrans. L’essentiel est d’essayer. Car on ne parle pas d’un outil mais d’une drogue, de la capture progressive de l’attention des enfants, de la colonisation de leur imaginaire et donc de leur futur » (p. 197). Et de donner des conseils pratiques à cet égard, aux parents, aux enseignants, à d’autres professionnels, à tout un chacun. « Utiliser l’IA pour rechercher, mais jamais pour penser ».

J’ai beaucoup aimé, parce que regrettablement je n’ai pas été très bon à cela : « Cultivez chez vos enfants ce qui les rend irremplaçables : leur singularité, leur bizarrerie. Ce petit quelque chose qui fait qu’ils ne ressemblent à personne d’autre » (p. 192).

Durabilité environnementale et humaine

« Nous avons inventé la durabilité environnementale mais il ne suffit pas de protéger la biosphère. Nous avons compris que sans planète viable, aucune civilisation ne peut subsister. Aujourd’hui, nous devons protéger quelque chose de plus fragile encore, notre capacité de penser librement, que j’appelle la durabilité humaine » (p. 188). « Dans ce monde-là, préparer nos enfants à un métier ne suffit plus. Ce qui durera, c’est la capacité d’apprendre, de désapprendre et de réapprendre (…), à surfer et à s’adapter » (p.191).

En guise de conclusion

« Quand l’ennemi est dans votre tête, la guerre est terminée » (p. 125).

Le chapitre dont Tristan est le protagoniste traite des risques à venir dans les conflits du futur, dont les armes ne seront plus les armes conventionnelles. Il s’agira de « se préparer à défendre non seulement le territoire et les infrastructures mais aussi les esprits des citoyens » (p. 184).

« Ce qui fait la force des manipulateurs, c’est notre ignorance (…) Nous sommes devenus des cerveaux flottants, déconnectés de nos sens. Réhabiliter son corps, c’est le premier acte de résistance. Marcher sans écouteurs, cuisiner sans podcasts, regarder par la fenêtre, s’ennuyer, enfin. Un esprit qui ne sait plus être seul avec lui-même est un esprit vulnérable » (p.  185-186)

« L’IA peut générer des textes, etc. Mais elle ne peut pas vouloir, elle ne peut pas rêver, elle ne peut pas désirer. Ces trois verbes délimitent aujourd’hui le sanctuaire inviolable de l’humanité » (p. 187)

« Ce livre est un manifeste contre une certaine utilisation de l’IA, celle qui transforme des outils d’émancipation en armes de domination » (p.189). « Ce n’est pas un manuel infaillible. C’est une boussole, imparfaite mais utile, pour naviguer dans la tempête de l’IA » (p. 197).

Bien écrit, aisément compréhensible et d’actualité brûlante. Beaucoup d’entre nous trouverons grand intérêt et profit à lire « Notre liberté de penser ».

Pour en finir, La liberté de pensée est un vaste sujet, éternel et universel.

Elle suppose que tout individu ait une capacité de pensée établie à partir d’un faisceau de convictions qu’il souhaite exprimer et partager.

Dans ce contexte, l’IA certes ne facilite pas l’expression personnelle mais elle ne constitue en réalité qu’une contrainte supplémentaire à l’élaboration de la pensée individuelle, en sus des autres formes d’instrumentalisation et de déshumanisation de l’individu.

Avec ou sans IA, lequel d’entre nous peut-il avoir la vanité de croire qu’il est en mesure de penser librement ?

 

Conditions d’utilisation : ce texte peut être utilisé et partagé aux conditions suivantes :
– créditer l’auteur(e)
– fournir le lien du texte sur le site de la Fondation
– ne pas l’utiliser à des fins commerciales.

Version pdf : Recension – Notre liberté de penser