«L’IA pourrait engendrer un néocolonialisme, celui des données»

Vous avez sans cesse mis en garde contre le risque d’une nouvelle guerre mondiale, d’une catastrophe écologique et des répercussions négatives des technologies disruptives comme l’intelligence artificielle (IA).
Sans vouloir minimiser l’importance actuelle de thèmes comme le terrorisme ou les migrations, tout le reste est peu de chose face à ces trois menaces existentielles.

Finalement, les populistes ont-ils raison quand ils évoquent ce passé où tout allait mieux?
Ce que proposent les populistes, ce sont des fantasmes nostalgiques. En tant qu’historien, je me borne à constater que le passé ne reviendra pas. Et quand bien même: la plupart des époques passées ne furent guère agréables. Pour les humains, la meilleure période est maintenant. Pour les animaux et le reste de l’écosystème, pas vraiment. Mais ce constat ne doit pas nous rendre complaisants et trop sûrs de nous. Au contraire.

Comment les historiens jugeront-ils un jour 2020, année du début de la pandémie? Est-ce le commencement des «golden twenties» sous le signe du progrès, de la croissance et du renouveau? Ou sommes-nous à l’aube d’une décennie dystopique faite de changement climatique, de sociétés vieillissantes et de géants technologiques omniprésents?
L’histoire n’est pas déterministe. Ce qui se passera ces prochaines années dépend de nos décisions. Nous devons avant tout admettre que l’humanité ne pourra pas résoudre les crises à venir par des mesures nationales, nous le voyons déjà avec la crise climatique. J’observe avec préoccupation que bien des gens changent d’attitude sur ce point, passant de l’ignorance ou même de la dénégation à une sorte de fatalisme de fin du monde. Or il n’est pas encore trop tard pour entreprendre quelque chose.

Que proposez-vous?
Si le monde investissait 2% de sa richesse dans le développement de technologies vertes et d’infrastructures plus respectueuses de l’environnement, cela pourrait suffire pour éviter un changement de climat catastrophique. Je me rends bien compte que nous parlons d’un montant astronomique. Mais si une nouvelle guerre mondiale éclatait, les Etats dépenseraient encore bien plus pour leur défense. Deux pour cent du PIB mondial, c’est jouable, d’autant que cet argent n’est pas gaspillé, il est investi dans des emplois, des technologies et des infrastructures. Si la planète empruntait cette voie aujourd’hui, ce pourrait même être une décennie positive et pleine d’espoir.

Cela suppose une collaboration internationale bien plus étroite. Or la pandémie a montré que les scientifiques, eux, sont capables de coopérer à l’échelle planétaire tandis que les Etats n’y parviennent guère. Pourquoi pensez-vous avec un tel optimisme que cela marcherait mieux pour la crise climatique?
Je ne suis pas optimiste. Je me borne à dire que nous devrions essayer, parce que c’est notre seule chance. La bêtise humaine est hélas une des plus grandes forces motrices de l’histoire. Avec la pandémie, nous avons vécu un triomphe scientifique associé à un désastre politique. Les chercheurs ont collaboré dans le monde entier pour déchiffrer le virus et développer des vaccins. Mais le politique a livré une piteuse image de lui. Depuis que la crise a éclaté, plus de deux ans se sont écoulés et nous n’avons toujours pas de plan d’action global sur la manière de protéger toute l’humanité de cette pandémie et sur le moyen d’en atténuer les effets économiques.

L’humanité est-elle au fond capable d’assurer sa survie? Que pouvons-nous apprendre du passé à ce propos?
Il y a de multiples théories. Premièrement, les humains ont plus de compétences que jamais auparavant dans l’histoire. Comparez la pandémie de Covid-19 avec des pandémies précédentes comme la grippe de 1918: à l’époque, on ne savait pas ce que la maladie générait et comment l’enrayer. De nos jours, nous disposons des instruments nécessaires. Par ailleurs, ce sont précisément les outils que nous avons développés qui constituent la source d’une nouvelle sorte de menace pour notre survie. S’agit-il d’une menace physique, comme le changement climatique causé par nos inventions, notre industrie et notre technologie ou de la menace encore plus indéfinie générée par des technologies disruptives, comme l’IA et la biotechnologie? En tout cas, il s’agit d’un tout nouveau type de menace que les humains d’autrefois n’ont jamais dû affronter.

A l’aide de la biotechnologie synthétique, les humains savent créer une nouvelle vie.  Est-ce la grande différence entre le XXe et le XXIe siècle?
Oui. Non seulement nous savons contrôler et modifier le monde à l’extérieur de nous-mêmes (les animaux, les forêts, les fleuves), mais nous déchiffrons de plus en plus le corps, le cerveau et notre code génétique. Et nous apprenons à manipuler et à modifier l’être humain. Nous allons même plus loin que le Dieu de l’Ancien Testament, qui n’a réussi à créer que des êtres organiques comme les girafes, les méduses, les bananes et l’être humain. Mais nous ne pouvons pas seulement modifier tous ces êtres organiques. A l’aide de la biotechnologie synthétique, nous sommes en mesure de créer quelque chose qui n’a jamais existé auparavant: des êtres inorganiques. Si, avec ces forces surpuissantes, nous prenons les mauvaises décisions, alors c’est non seulement l’avenir de l’humanité qui est menacé, mais aussi l’avenir de la vie sur cette planète. Il y a donc là une gigantesque responsabilité. Et quand je regarde autour de moi, je ne vois hélas aucun signe de la coopération globale dont nous aurions urgemment besoin.

Que nous enseigne l’histoire?
Si les nations se mettent vraiment à ressentir de plein fouet une crise, elles vont sans doute se réveiller et admettre qu’il faut faire quelque chose.

Mais ce pourrait être trop tard pour la crise climatique.
C’est ce qui rend cette crise si compliquée. A la différence d’une guerre ou d’une pandémie, on n’a pas la menace sous les yeux. Il nous manque un narratif, une histoire qui crée du sens. Très souvent, la politique évolue au gré de tels narratifs, afin que la population soit prête à modifier ses priorités politiques.

La crise climatique peut-elle être évitée par des innovations technologiques ou le comportement des populations doit-il radicalement changer?
Je choisirais l’option technologique, parce qu’il faut énormément de temps pour modifier fondamentalement les comportements humains. Or nous n’avons pas le temps. Et je crois aussi qu’il est contre-productif et dangereux de mettre la faute sur le comportement des uns ou des autres sous prétexte qu’ils auraient, par exemple, pris l’avion. Ce faisant, on se détourne des vraies causes du problème, autrement dit les priorités et les décisions des entreprises et des gouvernements.

Durant la pandémie, la numérisation a envahi le quotidien des gens, avec à la fois un confort accru et une plus grande transparence sur leurs données. Comment cette ère naissante d’un capitalisme de la surveillance modifiera-t-elle la société?
C’est un des plus grands dangers globaux et, ces deux dernières années, il s’est nettement accéléré. Pour la première fois dans l’histoire, il est techniquement possible de surveiller tout le monde en permanence et de connaître les gens mieux qu’ils ne se connaissent eux-mêmes. C’est le rêve de tout dictateur! Il n’y a plus besoin d’agents secrets, nous avons nos espions dans la poche: le smartphone. La surveillance, à l’avenir, nous l’aurons littéralement sous la peau. A cette fin, les outils de communication collectent tout type de signaux biométriques: des mimiques et du langage corporel jusqu’à la pression sanguine, le rythme cardiaque et l’activité cérébrale. Nous sommes très près de pouvoir surveiller la pensée et les sentiments.

Les nouvelles technologies savent aussi faire des choses merveilleuses. Par exemple diagnostiquer des maladies avant qu’elles ne se déclarent.
C’est vrai. Par ailleurs, elles peuvent aussi servir de socle aux pires régimes totalitaires de l’histoire de l’humanité. Pires que ce que nous avons vu au XXe siècle. Mais je le répète: ce n’est pas une prophétie. Nous voyons que certains pays œuvrent dans cette direction mais il n’est pas encore trop tard pour les arrêter. Nous devons réglementer la nouvelle économie de l’information et les flux de données sur la planète pour empêcher des scénarios dystopiques.

Accroître la réglementation, c’est une chose, mais à quoi est-elle censée ressembler concrètement?
Il faut appliquer trois règles fondamentales. Premièrement, si quelqu’un collecte les données des gens, celles-ci ne devraient être utilisées que pour les aider, jamais pour les manipuler. Deuxièmement, nous ne devrions jamais permettre que toutes les informations soient collectées par une seule instance, peu importe qu’il s’agisse d’une autorité politique ou d’une entreprise. Cette concentration de données est la voie royale vers la dictature. Il faut toujours des silos, des systèmes d’information séparés.

Que voulez-vous dire?
En cas de pandémie, les gens doivent être surveillés de plus près pour enrayer la contagion. Or ce n’est pas à la police de le faire, mais à une autorité distincte qui ne transfère pas les informations ailleurs. C’est moins efficace mais, ici, l’inefficacité est une fonctionnalité, pas une faute.

Et la troisième règle?
Chaque fois que des individus sont plus étroitement surveillés, la surveillance des gouvernements et des grandes entreprises doit aussi être renforcée.

Vous mettez en garde contre l’IA, qui pourrait se muer en puissant outil au service des régimes autoritaires. Qu’est-ce que cela signifie pour l’avenir de la démocratie?
Difficile à dire. La démocratie est le meilleur système possible quand il s’agit de s’adapter à de nouvelles circonstances. Notons que durant la pandémie, les gens ont soudain considéré avec admiration les régimes autocratiques où les choses ont souvent été réglées plus vite et plus efficacement. Dans ces régimes, il ne faut point de débats, de compromis, de consensus: juste une personne qui fixe la direction. Mais le hic avec les dictatures est que les problèmes sont balayés sous le tapis. En revanche, les démocraties peuvent se livrer à des tests et, si quelque chose ne fonctionne pas, admettre les erreurs et emprunter une autre voie.

C’est aussi plus chaotique.
Le chaos a aussi ses bons côtés. Il crée des situations nouvelles. Il permet de faire émerger des opinions multiples d’où peut surgir la nouveauté. Mais il faut toujours du temps pour tenir compte de toutes les opinions et trouver un consensus. Si l’on compare les systèmes de ce point de vue et que l’on songe à l’IA et au pouvoir qu’elle confère, on comprend vite qu’il y a beaucoup plus de danger pour que les algorithmes prennent le pouvoir dans une dictature que dans une démocratie. Car en démocratie, il est plus compliqué pour l’IA d’acquérir de l’autorité car le système est pluraliste. Dans une dictature, c’est plus facile parce qu’il n’existe qu’une seule source de pouvoir.

Le pays doté de la meilleure intelligence artificielle contrôlera-t-il un jour le monde entier?
Oui, c’est parfaitement possible. J’estime que l’IA est la technologie la plus importante de notre temps.

Et pensez-vous que ce sera la Chine?
La Chine ou les Etats-Unis. En cette matière, nul n’est aussi fort que ces deux superpuissances, et de loin. Cela pourrait engendrer une nouvelle guerre froide et une sorte de néocolonialisme, le colonialisme des données.

Expliquez-nous ça.
Imaginez un monde où toutes les données n’affluent plus que vers la Chine et les Etats-Unis, où elles sont stockées et analysées. Si toutes les données de chaque politicien, de chaque journaliste, de chaque chef d’entreprise, de chaque juge de la planète finissent entre les mains de quelqu’un à Washington ou à Pékin, peut-on encore parler de pays indépendants? Ou n’a-t-on pas plutôt une colonie de données? Au XXIe siècle, pour contrôler un pays, il n’est plus nécessaire d’y envoyer des soldats, il suffit de collecter les données.

L’Europe est-elle en voie de devenir une telle colonie de données?
Jusqu’à un certain point, oui! Songez qu’en matière de colonie de données on ne parle pas que de politique mais aussi d’économie, des rapports entre un centre impérial et ses colonies ou ses provinces. Les colonies livrent les matières premières tandis que le centre développe les technologies avancées, qu’il leur renvoie ensuite. Tout comme, il y a un siècle, l’Egypte envoyait son coton en Grande-Bretagne, qui fabriquait des textiles à forte valeur ajoutée avant de les exporter vers l’Egypte.

Aujourd’hui, l’IA est la technologie développée et les données sont la matière première.
On peut le dire ainsi. Cela dit, l’Europe, avec son pouvoir historique et sa puissance économique, a encore la chance d’échapper à l’emprise des deux titans des hautes technologies et de former un troisième centre de pouvoir. Mais pour cela, la seule chance de l’Europe est de trouver un ethos commun, une mission commune.

En dépit des risques inhérents, l’IA est aussi une solution aux plus grands problèmes. Un peu partout dans le monde, la main-d’œuvre se fait rare, les entreprises devront de plus en plus automatiser les processus. L’IA est ainsi un formidable outil dans des sociétés vieillissantes.
C’est vrai. Mais la démographie n’est pas le problème en soi. Le problème est la transition vers des temps nouveaux et le moyen de l’organiser.

Comment l’organise-t-on?
La transition sera moins douloureuse si nous combinons diverses mesures, par exemple le recours accru à l’IA et aux robots avec l’immigration et l’externalisation de certaines activités. Mais avec l’automatisation, le point crucial est la question de la requalification professionnelle. Je ne crois pas que tous les emplois disparaîtront et on verra bien sûr naître de nouveaux métiers. Le problème sera de requalifier les gens. Sans quoi on aura, d’une part, un énorme chômage et, d’autre part, une forte pénurie de main-d’œuvre dans les nouveaux métiers. Autrement dit le pire.

La flexibilité sera-t-elle alors la qualité cardinale?
Absolument. Elle résidera dans l’aptitude à se reconvertir tous les cinq à dix ans et à se réinventer. Cela comporte évidemment d’immenses investissements financiers et un poids psychologique. Ceux qui savent s’y prendre dirigeront l’économie du futur.

Tous les jours, vous méditez pendant deux heures. Où prenez-vous le temps pour ça? 
C’est la première chose que je réserve dans mon agenda, du temps pour la méditation, chaque jour et sur toute l’année. J’essaie de m’offrir une fois l’an une longue retraite consacrée à la méditation. C’est un privilège. Mais je pense qu’il est important pour tout un chacun d’investir au moins quelques minutes par jour ou quelques heures par semaine dans la santé de son esprit: c’est ça, la méditation. Nous investissons tellement dans la santé de notre corps, nous veillons à ce que nous mangeons et faisons beaucoup pour la santé de notre compte en banque. Nous devrions aussi faire quelque chose pour la santé de notre esprit.

La méditation est-elle pour vous une évasion, sachant que pour le reste, vous vous penchez intensément sur le futur parfois sombre de l’humanité?
Qu’y a-t-il de plus réel que le souffle qui traverse vos narines? S’il cessait de le faire ne serait-ce que quelques minutes, vous seriez mort. Pourtant, on ne sait pas se concentrer sur cette réalité parce qu’on se réfugie dans des rêves et des dérivatifs. Si nous ne sommes pas fichus d’observer la réalité de notre respiration sans nous laisser distraire, comment pourrions-nous observer la réalité du système économique global ou du changement climatique sans nous réfugier dans une quelconque rêverie? Avec la méditation, il ne s’agit pas d’atteindre un état apaisé. Pour moi, il s’agit d’expérimenter la vérité sur moi-même et sur le monde. 

Pourquoi ne possédez-vous pas de smartphone?
Je ne suis pas naïf. Je sais que je peux être pisté même sans smartphone. L’essentiel est d’éviter les distractions. Je sais à quel point il est difficile de contrôler son esprit, de rester concentré. Cela dit, les gens qui sont de l’autre côté du smartphone, les gens les plus intelligents du monde, ont appris depuis vingt ans comment on peut pirater le cerveau humain avec un smartphone. Contre eux, je ne suis pas de taille. Si je dois les affronter, ils gagneront. Je ne leur livre donc pas mon écran, je ne leur accorde aucun accès direct à mon cerveau.

Bio express