De l'atome à l'algorithme: vertige éthique et gouvernance de l'IAG

Par Habib Batis - L'essor fulgurant de l'intelligence artificielle générative (IAG) a propulsé l'humanité dans une nouvelle ère technologique. Face aux capacités inédites de modélisation du langage, de création visuelle et d'automatisation de tâches cognitives complexes, une question fondamentale divise la communauté internationale: faut-il, et comment, contrôler l'évolution de l'IA? Ce débat, loin d'être inédit, fait écho à l'un des moments les plus critiques de l'histoire moderne: l'avènement de la physique nucléaire au XXe siècle. Nous proposons ici une analyse comparative entre l’ère atomique et l’ère de l’intelligence artificielle pour penser la gouvernance mondiale de demain. Ce détour historique s’avère indispensable pour comprendre comment la trajectoire de la connaissance scientifique, bouleverse de manière irréversible, le rapport de l’être humain au monde.  

De la contemplation à la maîtrise: la trajectoire prométhéenne de la science moderne

La tradition philosophique (héritière d'Aristote) considérait la science (épistémè) comme une activité purement contemplative visant à comprendre l’ordre du monde (le cosmos) pour s’y intégrer humblement sans chercher à le modifier. Au XVIe siècle, la tradition humaniste porte encore cet idéal d'une science indissociable de l'élévation spirituelle et morale. Lorsque François Rabelais formule en 1532 sa célèbre sentence, «science sans conscience n'est que ruine de l'âme», il pose les jalons d'un savoir subordonné à la sagesse. Pour les humanistes, la connaissance des faits physiques ne trouve sa légitimité que si elle éclaire l'éthique et préserve la dignité humaine. C’est une science du discernement, redoutant l’orgueil démesuré (l’hubris) qui couperait l’Homme de sa condition.

Pourtant, dès le début du XVIIe siècle, un renversement copernicien s’opère sous l'impulsion de penseurs comme Francis Bacon et René Descartes. Rompant explicitement avec cette contemplation jugée stérile, Bacon théorise une science résolument orientée vers l’action efficace. Dans son roman utopique La Nouvelle Atlantide (1627), il assigne un but inédit à l’institution scientifique: «réaliser tout ce qui est possible» afin de reculer les bornes de l’empire humain. Par l'équation «savoir, c'est pouvoir», la recherche des lois de la nature n'est plus une fin en soi, mais le moyen rigoureux d'asservir la matière. Descartes lui emboîtera le pas en fixant pour horizon à la philosophie de nous rendre «comme maîtres et possesseurs de la nature». La science-connaissance s’efface alors derrière la science-pouvoir.

Au cours de la même période, les pouvoirs politiques des états en construction prennent conscience du rôle crucial que peut jouer la science dans la puissance militaire. Des rapports singuliers se nouent alors entre les détenteurs du pouvoir politique et les porteurs du savoir scientifique. Ces relations, loin d’être exemptes de méfiance réciproque, s’inscrivent dans un équilibre fragile et soulèvent une question de fond: le succès grandissant des applications de la science la condamne-t-elle à être instrumentalisée au profit de la puissance et de la transformation du réel?

Ce basculement philosophique, politique et technique dessine une ligne continue qui mène des intuitions de la Renaissance aux vertiges technologiques du XXème siècle avec l’énergie nucléaire, puis, du XXIe siècle avec l’avènement de l’IAG. Ainsi, du cabinet de lecture de Rabelais aux laboratoires d'intelligence artificielle, l'histoire de la science moderne est celle d'une promesse tenue, mais d'un équilibre rompu. En choisissant la voie de la maîtrise technique, l'humanité a acquis un pouvoir prométhéen sans toujours développer la sagesse nécessaire pour le contenir, transformant le vieux débat éthique de la Renaissance en une question de survie civilisationnelle.

De la science théorique à la rupture technologique: la perte de l’innocence

Le développement d'une technologie de rupture suit, souvent, une trajectoire similaire, débutant par des recherches fondamentales abstraites avant de se matérialiser en un outil doté d'une immense puissance d'impact. Le cas de la physique nucléaire et de l’intelligence artificielle est, à cet égard, édifiant. Ainsi, le XXe siècle matérialise le projet baconien de manière spectaculaire et dramatique à travers la physique de l'atome. La quête des secrets de la matière était initialement pure et fondamentale. Mais, en 1905, Albert Einstein formule une équation théorique révélant l'équivalence entre la masse et l'énergie. Bien que purement conceptuelle à l'origine, cette percée trouve une application concrète trente ans plus tard avec la découverte de la fission nucléaire. En juillet 1945, l'essai Trinity matérialise cette puissance, immédiatement suivie en août par les bombardements d'Hiroshima et de Nagasaki. En l'espace de quelques décennies, une théorie scientifique élégante, qui constitue un pas décisif dans la compréhension du réel, s'est transformée en une force de destruction massive capable d'annihiler l'humanité. Le cri d'effroi qui s’ensuivit résonna comme l'écho tardif de l'avertissement de Rabelais : la maîtrise physique absolue de l'infiniment petit a enfanté un pouvoir de destruction planétaire capable d'anéantir son propre créateur.

Aujourd'hui, le XXIe siècle pousse cette logique de puissance jusqu'à son paroxysme avec l'avènement de l'intelligence artificielle et des réseaux de neurones mathématiques. Née au milieu du XXe siècle de théories mathématiques et statistiques sur les réseaux de neurones artificiels, elle a longtemps connu des cycles de stagnation. Cependant, l'explosion récente de la puissance de calcul et la disponibilité de volumes massifs de données ont subitement transformé cette science abstraite en une technologie générative capable de manipuler l'information et le code à l'échelle planétaire. Le choc sociétal a été immédiat, soulevant des risques systémiques majeurs. Ainsi, après avoir plié la matière et l'atome à sa volonté, la science-pouvoir ambitionne désormais de modéliser, de prédire et d'automatiser l'esprit humain lui-même. Des algorithmes de surveillance de masse aux dérives de la désinformation en passant par les risques existentiels des IA autonomes, l’outil risque, non seulement de ne plus obéir à son créateur, mais il tend désormais à le gouverner. Les récents cris d'alarme des scientifiques de la Silicon Valley rappellent que la technique, devenue autonome, menace d’engendrer une nouvelle forme de «ruine de l’âme»: la perte de contrôle de notre propre pensée.

L’éthique et le pouvoir de la plume

L'engagement politique et moral des chercheurs constitue l'un des parallèles les plus saisissants entre ces deux époques. Face aux applications réelles, l'enthousiasme initial du laboratoire fait invariablement place au poids de la responsabilité morale qui se manifeste parfois par des remords ou des alertes.
Ainsi, en 1945, après avoir dirigé le projet Manhattan et observé la puissance destructrice de la bombe, Robert Oppenheimer cite le texte sacré hindou: «Maintenant, je suis devenu la mort, le destructeur des mondes». En 2023, Geoffrey Hinton, souvent qualifié de «parrain de l'IA moderne» pour ses travaux fondateurs sur le deep learning, démissionne de chez Google. Son objectif explicite est de pouvoir alerter librement le monde sur les dangers de l'IA générative. Hinton exprime des regrets mais se console avec le célèbre refuge rhétorique: «Si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait».

Une décennie après la fin de la seconde guerre mondiale, en 1955, des esprits illustres comme Bertrand Russell et Albert Einstein exhortaient les dirigeants mondiaux à renoncer aux armes nucléaires sous peine d'abolition de la race humaine. En écho à ce sursaut, le Future of Life Institute publiait en mars 2023 une lettre ouverte, signée par des milliers d'experts -dont Yoshua Bengio et Stuart Russell-, réclamant une pause de six mois dans l'entraînement des modèles d'IA supérieurs à GPT-4 afin d'en évaluer les risques systémiques.

Néanmoins, le débat sur l'atome n'était pas homogène, et celui sur l'IA ne l'est pas non plus. On retrouve exactement la même fracture idéologique à près de soixante-dix ans d'intervalle, prouvant que la communauté scientifique n'est pas monolithique. À l'époque de l'atome, Edward Teller (père de la bombe H) s'opposait à Oppenheimer, convaincu que seule une supériorité technologique absolue garantirait la paix face au bloc soviétique. Aujourd'hui, face aux partisans de la prudence, se dressent des figures comme Yann LeCun (chef de l'IA chez Meta) qui incarnent une vision «accélérationniste». Ce courant affirme que brider l'IA priverait l'humanité de solutions vitales contre le cancer ou le changement climatique, tout en cédant le leadership à des puissances rivales.

Quels mécanismes de contrôle?

Le débat contemporain cristallise différents points de vue concernant la nécessité de réguler et de contrôler l’évolution de l’IAG opposant généralement les partisans d’un contrôle strict aux défenseurs d’une innovation ouverte.

Les arguments en faveur d’une régulation forte repose sur le fait que l'IAG progresse trop rapidement et présente des menaces systémiques majeures. Parmi les dérives les plus redoutées, on trouve les périls démocratiques liés à la désinformation, l’impact déstabilisateur sur l'emploi, le pillage de la propriété intellectuelle, les biais éthiques ainsi qu’un danger existentiel face à une IA qui deviendrait autonome et impossible à maitriser.  

À l'inverse, les tenants d'une approche plus souple avancent que restreindre prématurément cette technologie pourrait brider le progrès humain et économique. Selon eux, une réglementation excessive créerait un frein majeur à l'innovation et risquerait de faire perdre le leadership mondial face à des puissances rivales. Ils soulignent également l'écueil de se priver d'un formidable potentiel de résolution de crises (découvertes médicales, transition écologique, personnalisation de l’éducation) et plaident pour une responsabilité déplacée: il faudrait punir les usages malveillants plutôt que de brider l’évolution de l’outil.

Dans ce contexte, on peut se demander si les trois grands piliers inventés à l'ère atomique peuvent se transposer à l'IAG. Après Hiroshima, le monde a pris conscience qu'il a franchi un point de non-retour: la survie de l'humanité dépendait désormais de sa capacité à brider sa propre puissance. Cette architecture collective s'est structurée en trois étapes: l’Agence internationale de l’énergie atomique (1957) pour promouvoir l’usage pacifique de l’atome, le Traité de non-prolifération (1968) pour empêcher le partage des technologies militaires, et la doctrine de la dissuasion définissant des lignes rouges pour éviter une escalade accidentelle.

L’équivalent recherché pour l’IA s'articulerait ainsi autour d'un triptyque: un organe scientifique mondial capable d’auditer les grands centres de serveurs informatiques, le contrôle des infrastructures physiques (comme les puces de pointe) pour limiter l’accès aux technologies clés, et l'implémentation de coupe-circuits ou de protocoles d'alignement forçant les laboratoires à débrancher les machines si une IA franchissait un seuil de dangerosité.

Cependant, cette analogie se heurte à une asymétrie technique fondamentale qui rend le contrôle de l’IAG beaucoup plus complexe que celui de l’atome : le problème de l'immatériel. L'atome est intrinsèquement physique. Fabriquer une arme nucléaire exige de l'uranium, des centrifugeuses industrielles et de vastes complexes que l’AIEA peut repérer par satellite. À l'inverse, l'IA est immatérielle. Une fois qu'un grand modèle a été entraîné au prix de lourds investissements, le produit final se résume à un fichier numérique de quelques giga-octets. Ce fichier peut être dupliqué, envoyé instantanément à l'autre bout du monde ou partagé en open source. On ne peut confisquer ou sceller du code informatique comme on scelle des barres de plutonium.

Conclusion: Le XXIe siècle face à son «moment Oppenheimer»

En définitive, l’histoire se répète. Soixante-dix ans après que les physiciens de l'atome ont placé l'humanité devant le miroir de sa propre destruction, les pionniers de l’intelligence artificielle se retrouvent face au même vertige éthique. De l'équation d’équivalence masse-énergie aux réseaux de neurones profonds, la trajectoire reste inchangée: celle d’une science pure dont la puissance technique dépasse subitement les structures politiques chargées de l'encadrer. À l'instar des scientifiques du projet Manhattan, les chercheurs actuels de l’IA nous avertissent des risques de perte de contrôle systémique.
Cependant, le défi imposé par l'IAG est peut-être plus grand encore que celui de l'ère nucléaire. Si l'atome exigeait de lourdes infrastructures industrielles et des minerais rares facilitant sa surveillance par des organismes internationaux, l'IA, elle, est essentiellement immatérielle. Disséminée sous forme de lignes de code à travers le réseau mondial, elle échappe par nature aux frontières et aux inspections physiques classiques.

Dès lors, le véritable enjeu pour la gouvernance mondiale n'est plus seulement de surveiller des usines, mais de réussir à fédérer les nations autour de standards éthiques communs, malgré les rivalités géopolitiques. Les avertissements répétés des «Oppenheimer de l'IA» nous rappellent que nous disposons d'une chance historique que les physiciens de 1945 n'ont pas eue : celle de concevoir les mécanismes de contrôle, de transparence et d'alignement pendant que la technologie se déploie, et non après l'explosion. La capacité des gouvernements à transformer cette alerte scientifique en traités internationaux contraignants déterminera si l'intelligence artificielle sera le plus puissant levier de progrès de notre histoire, ou notre dernière invention. 

Habib Batis