« Cette montée en puissance de l'intérêt du public peut paraître surprenante. Après tout, l’idée d'Intelligence Artificielle (IA) - l'intelligence dérivée des machines qui passent les données au crible - n'est pas particulièrement nouvelle. Mais lorsque ChatGPT, doté d'une IA, a été lancé en novembre dernier, il a fait l'effet d'une bombe dans le monde entier. Le chatbot a attiré l'attention du monde entier précisément parce qu'il imitait la conversation avec un ami humain omniscient. Nous pouvions désormais voir de quoi l'IA était capable. Elle pouvait passer l'examen du barreau, réussir les tests d'évaluation scolaire et faire le genre de choses sur lesquelles des générations d'humains ont passé d'innombrables heures à travailler. Les progrès de l'informatique avaient enfin rattrapé la science-fiction ; les possibilités d'application de l'IA dans toute une série d'industries apparaissaient au grand jour », écrivait récemment Ravi Agrawal in the Foreign Policy.

Néanmoins, nous rappelle le pape François dans son message pour la Journée mondiale de la paix 2024, « la recherche scientifique et les innovations technologiques ne sont ni désincarnées de la réalité ni ‘neutres’, mais elles sont soumises à des influences culturelles. En tant qu’activités pleinement humaines, les orientations qu’elles prennent reflètent des choix conditionnés par des valeurs personnelles, sociales et culturelles propres à chaque époque. Il en va de même pour les résultats obtenus : précisément parce qu’ils sont le fruit d’approches spécifiquement humaines du monde qui les entoure, ils ont toujours une dimension éthique, étroitement liée aux décisions de ceux qui conçoivent l’expérimentation et orientent la production vers des objectifs particuliers ».

Une préoccupation également partagée par les scientifiques, car « le rythme de développement de l'IA déstabilise à la fois les technologues, les citoyens et les régulateurs. Même d'ardents techno-enthousiastes - dont des personnalités telles que Sam Altman, PDG d'OpenAI, et Steve Wozniak, cofondateur d'Apple - lancent des avertissements sur la façon dont l'IA non réglementée peut conduire à des dommages incontrôlables, posant de graves menaces pour les individus et les sociétés. Les prédictions les plus sombres concernent la capacité de l'IA à anéantir les marchés du travail et à rendre les humains obsolètes, voire, dans le scénario le plus extrême, à détruire l'humanité », écrivait Anu Bradford in June 27, 2023. 

Il convient de rappeler, note le Pape dans son message, qu'à ce jour, « Il n’en existe pas de définition univoque [de l’IA] dans le monde de la science et de la technologie. Le terme lui-même, désormais entré dans le langage courant, englobe une variété de sciences, de théories et de techniques visant à ce que les machines reproduisent ou imitent, dans leur fonctionnement, les capacités cognitives de l'être humain. Parler au pluriel de ‘formes d'intelligence’ permet surtout de souligner le fossé infranchissable qui existe entre ces systèmes, aussi étonnants et puissants soient-ils, et la personne humaine : ils sont en définitive ‘fragmentaires’, en ce sens qu'ils ne peuvent qu’imiter ou reproduire certaines fonctions de l'intelligence humaine. L’utilisation du pluriel souligne que ces dispositifs très différents entre eux doivent toujours être considérés comme des ‘systèmes sociotechniques’. En effet, leur impact, quelle que soit la technologie sous-jacente, dépend non seulement de leur conception, mais aussi des objectifs et des intérêts de ceux qui les possèdent et de ceux qui les développent, ainsi que des situations dans lesquelles ils sont utilisés ».

Par exemple, « Les domaines concernant l'IA - remarque Ravi Agrawal - qui ont jusqu'à présent suscité relativement moins d'attention de la part du public - par rapport, par exemple, à l'emploi - sont ceux qui ont des liens avec la politique étrangère. Mais cela va changer. L'IA de pointe nécessite de grandes quantités de puissance de calcul, ce qui implique les semi-conducteurs les plus avancés. Et seule une poignée d'entreprises et de pays ont la mainmise sur ce marché. [...] Les semi-conducteurs façonnent déjà les guerres, les cyberattaques, les alliances, etc. L'un des principaux sujets de désaccord entre les États-Unis et la Chine - l'indépendance d'un petit chapelet d'îles peuplées de 23 millions d'habitants - est insoluble en partie parce que Taïwan produit près de 90 % des puces haut de gamme du monde ».

« Du moment que l'IA se répand, les experts prédisent les meilleurs et les pires changements dans la vie numérique d'ici 2035. Ils sont très préoccupés par le bien-être général des personnes et de la société. Mais ils s'attendent également à de grands avantages en matière de soins de santé, de progrès scientifiques et d'éducation », prédisent Janna Anderson and Lee Rainie.

Et pourtant, ceux qui devraient contrôler « l'IA ne sont pas préparés à ce qui va arriver. Ce qui était autrefois une technologie diffuse est aujourd'hui de plus en plus contrôlé par une poignée d'entreprises technologiques. Les gouvernements doivent rattraper leur retard » (voir Paul Scharre June 19, 2023).  « Les nouvelles technologies peuvent modifier l'équilibre mondial des pouvoirs. Les armes nucléaires ont divisé le monde entre ceux qui les avaient et ceux qui ne les avaient pas. La révolution industrielle a permis à l'Europe de prendre de l'avance sur le plan économique et militaire, entraînant une vague d'expansion coloniale. L'une des questions centrales de la révolution due à l'IA est de savoir qui en bénéficiera : qui pourra accéder à cette nouvelle technologie puissante et qui sera laissé pour compte ? Jusqu'à récemment, l'IA était une technologie diffuse qui proliférait rapidement. Des modèles d'IA en libre accès sont encore facilement disponibles en ligne. Le passage récent à de grands modèles, tels que le ChatGPT d'OpenAI, concentre le pouvoir entre les mains de grandes entreprises technologiques qui peuvent s'offrir le matériel d’informatique nécessaire à l'entraînement de ces systèmes. L'équilibre du pouvoir mondial de l'IA dépendra de la question de savoir si l'IA concentre le pouvoir entre les mains de quelques acteurs, comme l'ont fait les armes nucléaires, ou si elle prolifère populairement, comme l'ont fait les smartphones ».

C'est pourquoi, dit le pape dans son message, « L'IA doit être comprise comme une galaxie de réalités différentes et nous ne pouvons pas supposer a priori que son développement contribuera de manière bénéfique à l'avenir de l'humanité et à la paix entre les peuples. Un tel résultat positif ne sera possible que si nous nous montrons capables d'agir de manière responsable et de respecter les valeurs humaines fondamentales telles que ‘l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité’. Il ne suffit pas non plus de supposer que ceux qui conçoivent les algorithmes et les technologies numériques s'engagent à agir de manière éthique et responsable. Des organismes doivent être renforcés ou, si nécessaire, créés pour examiner les questions éthiques émergentes et protéger les droits de ceux qui utilisent les formes d’intelligence artificielle et de ceux qui sont influencés par elles.

« L'immense expansion de la technologie doit donc s'accompagner d'une formation appropriée à la responsabilité dans son développement. La liberté et la coexistence pacifique sont menacées lorsque les êtres humains succombent à la tentation de l'égoïsme, de l'intérêt personnel, de l'appât du gain et de la soif de pouvoir. Nous avons donc le devoir d'élargir notre regard et d'orienter la recherche technico-scientifique vers la paix et le bien commun, pour le service du développement intégral de l'homme et de la communauté. La dignité intrinsèque de chaque personne et la fraternité qui nous lient en tant que membres de l'unique famille humaine doivent rester à la base du développement des nouvelles technologies et servir de critères indiscutables pour les évaluer avant leur utilisation, afin que le progrès numérique se fasse dans le respect de la justice et contribue à la cause de la paix. Les développements technologiques qui ne conduisent pas à une amélioration de la qualité de vie de l'ensemble de l'humanité, mais qui au contraire exacerbent les inégalités et les conflits, ne pourront jamais être considérés comme un véritable progrès ».

« L'intelligence artificielle va devenir de plus en plus importante. Les défis qu'elle pose sont techniques, mais aussi anthropologiques, éducatifs, sociaux et politiques. Elle promet, par exemple, des économies de main-d'œuvre, une production plus efficace, des transports plus faciles et des marchés plus dynamiques, ainsi qu'une révolution dans les processus de collecte, d'organisation et de vérification des données. Nous devons être conscients des transformations rapides en cours et les gérer de manière à sauvegarder les droits humains fondamentaux, en respectant les institutions et les lois qui favorisent le développement humain intégral. L'intelligence artificielle doit servir le potentiel humain le meilleur ainsi que nos aspirations les plus élevées, et non les concurrencer ».

C'est pourquoi, le pape François termine son message pour la Journée mondiale de la paix de 2024, en priant au début de la nouvelle année pour que « le développement rapide de formes d’intelligence artificielle n’augmente pas les trop nombreuses inégalités et injustices déjà présentes dans le monde, mais contribue à mettre fin aux guerres et aux conflits, et à soulager les nombreuses formes de souffrance qui affligent la famille humaine ». Plus encore, il souhaite que « les fidèles chrétiens, les croyants de différentes religions et les hommes et les femmes de bonne volonté collaborent en harmonie pour saisir les opportunités et affronter les défis posés par la révolution numérique, et livrent aux générations futures un monde plus solidaire, juste et pacifique ».

Voir, Pope Francis’ Message for the 57th World Day of Peace - 1 January 2024 - Artificial Intelligence and Peace