«Résister, ce n’est pas refuser la technologie, c’est la comprendre»

Essayiste, ancien responsable de la stratégie numérique du World Economic Forum, journaliste bien connu et pendant deux décennies figure influente des conférences TED, Bruno Giussani observe depuis longtemps les mutations profondes liées au monde numérique. Dans son dernier livre, intitulé Manuel de résistance à l’emprise technologique, il analyse la manière dont les réseaux sociaux, les algorithmes et l’intelligence artificielle redéfinissent nos modes de vie, jusqu’à influencer nos facultés cognitives. Sans sombrer dans le rejet technologique, il plaide pour une prise de conscience collective et une défense de notre autonomie intellectuelle.

Le terme peut sembler fort, mais il correspond à une réalité: nous sommes de plus en plus immergés dans des environnements numériques qui structurent nos vies. Les réseaux sociaux, les smartphones ou encore l’intelligence artificielle ne sont plus de simples produits: ce sont des architectures dans lesquelles nous évoluons, qui façonnent notre paysage économique, social et politique. Cela dit, par «résistance», je n’entends nullement un rejet de la technologie, mais l’adoption d’une posture de vigilance, une clairvoyance, un regard critique. Une conscience claire que la technologie donne, mais qu’elle prend aussi.

Ces architectures – bureautique, gestion, paiement, flux d’information, divertissement, chatbots – échappent largement aux utilisateurs. Elles sont conçues, contrôlées et exploitées par leurs développeurs. Une grande partie des services numériques fonctionne sur des infrastructures distantes, sur le «cloud», en «nuage», comme on dit. Autrement dit, nous dépendons de systèmes que nous ne maîtrisons pas. D’où la nécessité de comprendre leur fonctionnement, mais aussi leur impact et leur influence.

Cet encerclement est d’abord structurel: aujourd’hui, il est difficile de travailler, de communiquer ou même de participer à la vie sociale et culturelle sans passer par des outils numériques. Pensez juste au rôle des QR codes, aux systèmes de paiement ou de réservation, à toute l’électronique embarquée dans les voitures, aux achats en ligne, à l’automatisation croissante des chaînes d’approvisionnement. Mais l’encerclement est aussi cognitif parce qu’une grande partie de ces outils – notamment les chatbots d’IA – impactent directement notre capacité de comprendre et de penser.

C’est le résultat d’une évolution de décennies, mais s’il faut vraiment y mettre une date, je dirai 2007, avec l’arrivée du smartphone. D’une connectivité localisée on est passés à une connectivité permanente, mobile et intime. Avec cet appareil, nous avons basculé dans un modèle fondé sur les applications, qui fonctionnent comme des écosystèmes fermés et facilitent la collecte massive de données personnelles, base des algorithmes de recommandation, de l’économie de l’attention, de la publicité ciblée et, plus récemment, de l’intelligence artificielle générative.

Bien sûr. L’intelligence artificielle est probablement l’une des technologies les plus puissantes jamais développées. Et également la plus versatile. C’est une technologie universelle, dans le sens qu’elle peut s’appliquer à de très nombreux domaines: santé, éducation, industrie, art, science, vie quotidienne. Elle peut être intégrée à d’autres technologies. Est capable d’apprendre, et donc de progresser. Et il y a plusieurs types d’IA, pas uniquement les «modèles de langage», ceux qu’on connaît comme chatbots. Il y en a qu’on utilise depuis longtemps, qui apportent de vrais avantages et ont déjà permis des avancées significatives dans de nombreux secteurs. Par exemple, l’IA appliquée à l’optimisation des processus de production, à la robotique industrielle, à la modélisation de systèmes complexes. Ou au domaine médical, où l’IA déjà aujourd’hui lit les images radiologiques avec une précision souvent supérieure à celle des médecins.

Mais pour revenir aux IA génératives, les chatbots nous offrent quelque chose de presque irrésistible: la possibilité de déléguer à une machine l’effort de penser, d’analyser, d’apprendre, d’écrire, même de décider. En ce sens, ils nous donnent l’impression d’avoir des «super-pouvoirs», en permettant d’accomplir rapidement des tâches complexes. Mais cette facilité peut aussi entraîner une délégation excessive de nos capacités et donc, à terme, leur affaiblissement.

En simplifiant, on peut voir les chatbots comme des boîtes noires: on pose une question et ils produisent des réponses. Ces résultats sont souvent très plausibles, parfois bluffants, que ce soit du texte, du code, des images, des dialogues, des choses plus sophistiquées. Mais ce qui se passe à l’intérieur de la boîte reste encore en partie mystérieux même pour ceux qui les développent. On parle du problème de l’«interprétabilité». C’est d’autant plus troublant que ces systèmes sont toujours plus interconnectés les uns aux autres. Cette complexité croissante peut générer des comportements imprévisibles et rendre leur fonctionnement encore plus opaque, voire incompréhensible.

Considérez un exemple simple: les QR codes. Il s’agit d’un langage que seule une machine peut lire et comprendre. En l’occurrence, ce langage est statique. Mais imaginons deux machines qui entrent en dialogue, de façon dynamique donc: cela ne se passerait bien évidemment pas en français, mais de façon inintelligible aux humains. Ce qui pose une question fondamentale de contrôle et de responsabilité.

Dans le cas des technologies américaines, qui sont celles que nous utilisons, ce sont les grandes entreprises qui contrôlent à la fois les infrastructures et les algorithmes. L’IA peut être envisagée comme une toile complexe qui s’étend autour de nous et façonne activement chaque aspect de notre vie. Le même système, le même chatbot sert aussi bien à écrire un mot d’anniversaire qu’à planifier des frappes militaires... Mais ce «pouvoir du cloud» est de plus en plus aligné aux priorités politiques. La technologie numérique devient un outil central de projection de puissance à l’échelle mondiale.

Il est remis en question. Nous sommes engagés dans une forme de «guerre cognitive», où l’information est filtrée, orientée, parfois manipulée par des algorithmes. Tantôt inventée, aussi. Si l’on n’en prend pas conscience, cela peut altérer notre capacité à comprendre la réalité et à prendre des décisions de manière autonome. Protéger notre liberté passe donc par la préservation de notre intégrité cognitive, de notre capacité à penser par nous-mêmes.

La manipulation et la propagande ne sont pas nouvelles, mais les technologies modernes les amplifient à une échelle inédite. Depuis deux décennies, l’expérience des réseaux sociaux nous apprend combien l’information peut être instrumentalisée et comment cette manipulation affecte notre perception et notre comportement, à tous les niveaux. Elle peut être évidente, par exemple dans certains biais d’un chatbot, mais elle est souvent plus subtile. Un simple choix de mots, un glissement sémantique, un angle éditorial ou une hiérarchisation de l’information peuvent suffire à influencer une perception.

Il n’existe pas de recette miracle et il faut rappeler que la manipulation ne se limite pas au monde numérique. Nous baignons dans un monde d’influences. Pour s’en protéger, il est essentiel de développer une distance critique permanente: s’interroger sur les sources, croiser les informations, comprendre les mécanismes à l’œuvre ainsi que le contexte socioéconomique dans lequel ces technologies fonctionnent. Ce réflexe, autrefois propre aux journalistes ou aux archivistes, devient aujourd’hui indispensable pour tous.

En effet, c’est ce phénomène par lequel, en déléguant constamment certaines activités cognitives à la machine – réfléchir, écrire, s’orienter, rechercher, coder, voire décider –, nous finissons par compromettre nos compétences. Le GPS en est un exemple classique: il simplifie nos déplacements, mais affaiblit notre sens de l’orientation, notre capacité de nous situer dans l’espace.

Pour limiter cette dette, il faut continuer à exercer nos capacités, même lorsque la technologie pourrait nous éviter l’effort et faire le travail à notre place plus rapidement. Il s’agit d’adopter une forme d’hygiène digitale, de continuer à consentir des efforts cognitifs. Il est également nécessaire d’être intentionnels dans notre usage des outils d’intelligence artificielle: les considérer non pas comme des remplaçants, mais comme des assistants. Leur rôle devrait être de nous aider à réfléchir, et non de penser à notre place. De nous accompagner dans le raisonnement, et non pas de décider pour nous.

Pas forcément davantage, mais mieux. La régulation doit prévenir les abus tout en laissant l’espace nécessaire à l’innovation et au développement technologique. L’absence de régulation ne fait que permettre aux entreprises technologiques de fixer les règles du jeu. L’idée selon laquelle la régulation freine l’innovation est largement exagérée. Elle est souvent utilisée comme argument pour éviter toute contrainte.

Elle est affaiblie, mais pas impossible. Le retard européen s’explique par plusieurs facteurs: fragmentation du marché, manque de politique industrielle, mais aussi une certaine naïveté stratégique. Il existe pourtant des alternatives à de nombreux services qu’on continue d’acheter aux géants américains. Le problème, c’est qu’elles manquent de débouchés. Il faudrait par exemple orienter davantage les commandes publiques vers des fournisseurs suisses et européens.

Il faut bien évidemment apprendre à utiliser l’IA: il n’y aura plus de jobs à l’avenir qui n’auront pas à faire avec ces machines. Mais pour devenir des utilisateurs non seulement efficaces mais également éveillés de systèmes qui imitent la pensée humaine, il faut savoir penser par soi-même. Dans ce contexte, les sciences humaines – philosophie, éthique, sociologie, littérature – gardent toute leur importance.

C’est une perspective vertigineuse. Elle ouvre la possibilité d’une interaction directe entre le cerveau et la machine, avec tout le potentiel mais aussi les risques que cela implique. On peut imaginer une société à deux vitesses: ceux qui auront accès à ces technologies pour se faire «augmenter» et les autres. Au-delà de la technologie, cela pose des questions éthiques et morales majeures. Par exemple, si l’on souhaite utiliser ces technologies pour aider les personnes en situation de handicap à retrouver des fonctions perdues, où tracer la limite? Il est délicat de donner une réponse définitive.

Je vais vous répondre par une caricature, mais que je pense éclairante. Nous faisons face à deux avenirs possibles. D’un côté, un futur sombre, à la Star Wars, où des régimes autoritaires utilisant une technologie militaire avancée imposeraient un ordre hiérarchique et répressif, au mépris des libertés individuelles. De l’autre, un futur plus harmonieux, à la Star Trek, où la technologie, encadrée par des valeurs humanistes et démocratiques, servirait l’émancipation collective, libérant l’humanité pour réfléchir à la vie et explorer l’univers. Entre ces deux trajectoires, tout dépendra de nos choix: la technologie, en elle-même, ne garantit rien.