Dans votre dernier livre, Power and Progress – Pouvoir et développement -, vous mentionnez que nous sommes à un moment critique en termes de relation entre la technologie, l'égalité et la démocratie. Quelles conséquences prévoyez-vous si le monde ne parvient pas à aborder la relation complexe entre ces trois forces ?

Il y a deux séries de problèmes qui ont probablement des causes communes. Premièrement, la démocratie dans le monde industrialisé semble plus vulnérable aujourd'hui qu'à n'importe quel moment depuis la Seconde Guerre mondiale, ou même avant. Cette situation a fait de la démocratie le pivot de nombreuses autres caractéristiques institutionnelles telles que les droits civils, la participation, la liberté d'expression et les médias. En Occident et dans certains pays d'Amérique latine, lorsque la démocratie s'affaiblit, ces droits et institutions en pâtissent également. L'ensemble du tissu institutionnel de ces sociétés apparaît plus fragile. Je ne pense pas qu'il faille exagérer. Le déclin ou l'effondrement de la démocratie n'est pas imminent. Cependant, nous observons la situation aux États-Unis avec Donald Trump et son programme fortement antidémocratique ; en outre, le soutien à la démocratie parmi les jeunes est à son plus bas niveau historique. Et nous observons des tendances similaires dans une grande partie de l'Amérique latine, où le soutien à la démocratie est considérablement plus faible que dans les années 2000. Il s'agit là d'une menace importante qui pourrait avoir des conséquences désastreuses sur la prospérité, la liberté d'expression et l'égalité. Dans le même temps, nous sommes à l'aube de changements majeurs fondés sur les évolutions des 40 dernières années et susceptibles de s'accélérer. L'intelligence artificielle, qui repose sur les technologies numériques, pourrait amplifier certaines de ces tendances de manière unique. Les inégalités se sont accrues dans de nombreux pays, notamment dans certaines parties de l'Amérique latine, des États-Unis et de l'Europe, et cette situation pourrait s'aggraver.

Qu'en est-il des autres facteurs ?

Le vieillissement est un autre facteur essentiel. Tous les pays industrialisés vieillissent, certains plus rapidement que d'autres. L'Amérique latine, en particulier, vieillit à un rythme accéléré et n'est pas suffisamment préparée à faire face à ces changements. Bien que nous ayons des exemples dans des pays tels que le Japon, la Corée du Sud et l'Allemagne, je ne pense pas que nous soyons prêts à faire face à ces défis démographiques, ni au changement climatique ou aux transformations de la mondialisation. Certains des défis démocratiques et des tensions politiques d'aujourd'hui ne peuvent être pleinement compris sans tenir compte de la mondialisation, bien que sa nature puisse évoluer au cours des prochaines décennies. Tout cela nécessite des institutions plus fortes que jamais pour favoriser le compromis, le consensus et de nouvelles solutions fondées sur le dialogue social et l'expérience. Cependant, nos institutions actuelles rendent cette tâche difficile. Prenons l'exemple des États-Unis, où la polarisation a atteint des niveaux qui compliquent l'adoption d'une législation sur le climat, la formation des travailleurs ou la réglementation de l'IA. Il s'agit là de questions cruciales que nous devons aborder.

Dans l'un de vos récents articles, vous parlez du pouvoir et de la richesse accumulée par les grandes entreprises technologiques. Est-ce qu'une organisation dans l'histoire a eu autant d'influence et de contrôle que les géants d'aujourd'hui ?

A mon avis, non. On pourrait les comparer à la Compagnie des Indes orientales qui, forte d'un soutien militaire et politique, contrôlait le sous-continent indien, mais sa domination était relativement superficielle. Ce qui est frappant avec les géants actuels de la technologie, en particulier Facebook, Google et, dans une certaine mesure, Apple, Amazon et Microsoft, c'est qu'ils ne sont pas seulement énormes et multinationaux, mais qu'ils contrôlent aussi les fibres mêmes de la société. Ils façonnent l'information, sont présents dans tous les aspects de la vie quotidienne et influencent l'opinion publique. Nous n'avons jamais eu d'entreprises aussi puissantes que les grandes sociétés technologiques.

Même pas les grandes sociétés pétrolières ?

Non, car les entités technologiques exercent une influence considérable sur la société civile et même sur les journalistes. La Standard Oil, par exemple, était extrêmement importante et contrôlait une ressource essentielle, mais elle n'a jamais réussi à s'intégrer dans le tissu de la pensée publique. Elle n'a pas réussi à convaincre les médias et le public que ses activités servaient le bien commun, comme le font aujourd'hui les entreprises technologiques. Telle est la situation à laquelle nous sommes confrontés.

On dit souvent qu'en les freinant, on crée des obstacles à la compétitivité, même le célèbre rapport Draghi aborde cette question. Le pensez-vous ?

Oui, mais je pense qu'il faut être réaliste. La réglementation peut certainement ralentir les entreprises, surtout si elle n'est pas conçue de manière optimale, ce qui peut conduire à des inefficacités. Toutefois, cela ne signifie pas que la réglementation est intrinsèquement négative ou inutile. Elle a des coûts et des avantages. Lorsqu'il s'agit de certaines des entreprises les plus puissantes de l'histoire, la réglementation devient essentielle. Même si je considère que certaines affirmations concernant le potentiel de l'IA sont exagérées, si ne serait-ce qu'une fraction d'entre elles sont vraies, cette technologie sera transformatrice. Nous avons absolument besoin de mécanismes pour contrecarrer ce pouvoir, même si le processus s'avère quelque peu inefficace.

Quel est votre point de vue sur la réglementation européenne en matière d'IA ?

Il est triple. Tout d'abord, l'Europe, et la Commission européenne en particulier, mérite des éloges. Elle a toujours été à l'avant-garde. Les réglementations européennes reflètent largement des valeurs fortes, telles que la gouvernance démocratique, les droits de l'homme, les droits civils, la liberté d'expression et la protection de la vie privée. Cependant, la réglementation européenne a également connu des limites dans certains domaines. Le rapport Draghi note que l'Europe est en retard sur les États-Unis et la Chine dans le domaine de l'IA, et même sur le Canada. Une réglementation efficace est un défi, car même les réglementations bien intentionnées peuvent avoir des conséquences inattendues. Une approche réglementaire plus souple est nécessaire. Prenons l'exemple du règlement général sur la protection des données (RGPD) de l'UE, qui a fait date. Je soutiens pleinement les valeurs sous-jacentes du RGPD, telles que la confidentialité des données et la protection des informations personnelles. Si l'on m'avait confié la tâche de concevoir des règles de protection des données, je n'aurais peut-être pas fait mieux. Cependant, le RGPD a eu des effets négatifs. En fait, il a nui aux petites entreprises. Alors que les grandes entreprises technologiques ont trouvé des moyens de se conformer au règlement sans améliorer de manière significative la protection de la vie privée, les petites entreprises ont lutté sous son poids. 

Que faire alors ?

Il ne s'agit pas de rejeter la réglementation. Il s'agit plutôt de l'améliorer. Nous devons comprendre les failles, les combler et reconnaître les limites de la démocratie pour y parvenir. L'Europe, comme les États-Unis, est polarisée et la Commission européenne ne dispose pas d'un mandat démocratique fort. Il est difficile pour la Commission de dire : « Notre RGPD, notre création, n'a pas fonctionné comme prévu ; nous devons le réviser ». Enfin, je pense que nous avons peut-être besoin d'une approche différente de la réglementation. Si les réglementations européennes défendent d'excellentes valeurs, je vois un problème dans leur nature réactive. Les entreprises technologiques font le premier pas, en lançant des produits susceptibles d'enfreindre les droits ou de contourner les lois, et les régulateurs réagissent ensuite. Nous observons la même approche réactive aux États-Unis. Mon argument, tel qu'il est décrit dans Power and Progress et d'autres ouvrages, est que nous devons adopter une position proactive. Au lieu d'attendre que les entreprises d'IA développent ces technologies et de réagir ensuite, nous devrions orienter le développement dès le départ de manière à maximiser les avantages sociaux.

Prévoir les avancées technologiques semble être un véritable défi, n'est-ce pas ?

C'est vrai, mais il n'est pas toujours nécessaire de faire des prévisions précises pour créer une réglementation proactive. Par exemple, l'Europe et les États-Unis ont mis en œuvre une réglementation proactive dans le secteur de l'énergie, bien qu'imparfaitement et à une échelle limitée. Plutôt que d'attendre d'observer le comportement des entreprises énergétiques, ils ont imposé des taxes sur le carbone et fourni des subventions à l'innovation afin d'encourager les énergies renouvelables et de réduire la dépendance à l'égard des combustibles fossiles. Il s'agit là d'une approche véritablement proactive.

Dans Pouvoir et progrès, vous mettez en garde contre l'utilisation de l'IA. Pensez-vous qu'il s'agit d'un outil qui pourrait stimuler la création de richesses dans un certain nombre de pays, ou est-il plus susceptible d'exacerber les inégalités économiques ?

Il est un peu tôt pour se prononcer définitivement. Beaucoup dépendra de l'évolution de l'IA générative. En tant que plateforme combinant des idées, des techniques et des pratiques, elle est très prometteuse et pourrait même surpasser d'autres applications de l'IA, telles que l'IA prédictive, qui alimente les algorithmes de recommandation sur des plateformes comme Netflix. L'IA prédictive a eu un impact considérable et a influencé la manière dont nous interagissons avec la technologie au quotidien. L'IA générative a le potentiel d'aller encore plus loin. Cependant, elle pourrait évoluer dans différentes directions. Elle pourrait devenir un outil basé sur des connaissances spécifiques et expertes, soutenant des domaines tels que les soins de santé, les métiers spécialisés et le journalisme, en offrant des solutions adaptées à chaque contexte. Une telle approche serait très bénéfique. Ou elle pourrait s’orienter vers un modèle d’intelligence générale, comme on l’observe avec ChatGPT, qui cherche une automatisation large sans spécialisation, ce qui pourrait ne pas être aussi utile ni transformateur. Ce que j’aimerais voir, c’est que l’IA générative cesse d’essayer d’imiter l’intelligence générale et, à la place, se concentre sur la fourniture de connaissances précises et contextualisées, sur lesquelles les professionnels — comme les électriciens, les infirmières, les plombiers et les journalistes — puissent compter.

Avez-vous utilisé ChatGPT ?
Je l’ai utilisé par le passé, bien que moins aujourd’hui. Au début, j’ai expérimenté ChatGPT pendant quelques heures pour comprendre ses capacités. Je voulais voir s’il pouvait m’aider dans deux domaines spécifiques. D’abord, je l’ai testé pour éditer un article d’opinion d’environ 1 100 mots, en lui demandant de le raccourcir. Honnêtement, il ne s’en est pas bien sorti. Il n’a pas su identifier les arguments principaux ni distinguer les points essentiels des contre-arguments. J’en ai conclu qu’il lui manquait le jugement nécessaire pour cette tâche. Le deuxième domaine concerne la recherche de contexte. Il fonctionne raisonnablement bien dans ce domaine, mais présente souvent des imprécisions, si bien que je finis par vérifier minutieusement les faits. Actuellement, j’utilise davantage Google et Google Scholar à cette fin, même si l’IA générative apparaît désormais indirectement dans mes recherches, puisque Google l’a intégrée à sa fonction de recherche.

Voir, «Nunca hemos tenido empresas tan poderosas como las grandes tecnológicas»