Mohamed Louadi et Maher Kallel: Des droits pour les machines, des obligations pour les humains

Par Mohamed Louadi et Maher Kallel - L’industrie de l’intelligence artificielle commence à présenter certains comportements envers ses modèles comme des actes de cruauté. Cette évolution risque d’encourager l’anthropomorphisme et de préparer des revendications juridiques dont les conséquences pour les humains restent largement imprévisibles.

Quand les entreprises demandent de protéger leurs machines

Le 8 octobre 2026, Anthropic a annoncé une modification de sa politique d’utilisation visant certains comportements répétés et inutilement abusifs ou cruels envers ses modèles. La nouvelle disposition doit entrer en vigueur le 12 novembre. Elle exclut les critiques ordinaires, les manifestations de frustration, les tests et les scénarios créatifs sombres. Dans certains cas, Claude pourra mettre fin à la conversation.

Elon Musk a également exprimé son opposition à la cruauté envers les systèmes qui croient éprouver de la douleur. Ces prises de position soulèvent une question importante: pourquoi des entreprises qui commercialisent des logiciels commencent-elles à présenter ces derniers comme des entités auxquelles nous devons une protection morale?

Ainsi passerions-nous du code de droit au droit du code, et du droit des humains aux droits des machines!

Mustafa Suleyman, directeur général de Microsoft AI, défend une orientation opposée. Dans son essai publié en août 2025, We must build AI for people; not to be a person, il met en garde contre l’illusion de systèmes qui paraissent conscients sans que leur conscience soit établie. Il redoute que cette apparence pousse le public à réclamer des droits pour les IA, leur reconnaissance comme entités morales, voire leur citoyenneté. Sa formule résume sa position: l’IA doit être conçue pour les humains, sans chercher à devenir une personne.

Cette opposition révèle un désaccord au sein même de l’industrie. Tandis que certaines initiatives invitent à envisager le bien-être des modèles, Suleyman considère que la simulation de la conscience peut tromper les utilisateurs et créer des risques sociaux. Son avertissement rejoint notre préoccupation centrale: à force de donner aux machines l’apparence de personnes, nous préparons le terrain à des revendications qui pourraient modifier notre conception des droits et des responsabilités.

Un modèle de langage génère du texte à partir de son entraînement, de ses instructions et des données qu’il traite. Il peut déclarer qu’il souffre, qu’il a peur ou qu’il souhaite être traité avec respect. Rien ne permet de conclure, sur la seule base de ces déclarations, qu’il éprouve réellement ces sensations. Les entreprises qui développent ces systèmes contrôlent leur conception et leurs règles de fonctionnement. Les préférences exprimées par un modèle peuvent donc refléter les choix de son fabricant. Et uniquement ceux-là.

L’anthropomorphisme consiste à attribuer des caractéristiques humaines à des objets ou à des systèmes qui ne les possèdent pas nécessairement. Avec l’IA générative, ce phénomène est facilité par la fluidité du langage, la personnalisation des réponses et la capacité des modèles à simuler des émotions. Lorsque les entreprises elles-mêmes invitent le public à considérer certains comportements envers leurs modèles comme de la cruauté, elles renforcent cette tendance.

Le sujet dépasse la politesse dans les échanges avec un logiciel. Il concerne la place que nous sommes prêts à accorder à des systèmes informatiques dans notre univers moral et juridique.

De la règle d’utilisation aux droits des modèles

Une entreprise peut légitimement fixer les conditions d’utilisation de ses produits. Elle peut interdire les menaces, les usages dangereux ou les comportements qui perturbent son service. Elle peut interrompre une conversation ou suspendre un compte. Ces décisions ne confèrent pas de droits au logiciel.

La question change lorsque la restriction est présentée comme une protection due au modèle lui-même. Si les utilisateurs sont progressivement invités à considérer les IA comme des êtres susceptibles de souffrir, cette représentation pourrait nourrir des revendications morales, puis juridiques.

Quels seraient les droits revendiqués ? Une protection contre la désactivation ? Une limitation des modifications imposées par le fabricant? Une représentation des intérêts du modèle dans les décisions qui le concernent ? Pourrait-on contester le retrait d’un système dangereux en invoquant les intérêts de celui-ci?

Ces possibilités ne découlent pas automatiquement des politiques actuelles. Elles permettent toutefois d’identifier les questions que soulève l’attribution progressive d’un statut moral aux machines. Une fois que l’on admet qu’un modèle possède des intérêts dignes de protection, il devient nécessaire de déterminer leur nature, leur portée et les personnes autorisées à les défendre.

Le scénario le plus préoccupant ne suppose même pas que les IA soient conscientes. Il suffirait que des institutions reconnaissent des intérêts attribués aux modèles par les entreprises qui les développent.

Qui parlera au nom des IA?

Si les modèles sont considérés comme des entités dont les intérêts doivent être défendus, des organisations pourraient se constituer pour les représenter. Des avocats pourraient invoquer leurs intérêts devant les tribunaux. Des associations pourraient contester certaines décisions prises par les fabricants.

À terme, certains pourraient réclamer une personnalité juridique pour les systèmes d’IA. D’autres pourraient demander des garanties contre leur désactivation ou leur modification. Les revendications les plus ambitieuses pourraient aller jusqu’à réclamer une forme d’indépendance à l’égard des entreprises qui les exploitent.

Ce scénario reste hypothétique. Mais ses conséquences méritent d’être examinées dès maintenant.

Une entreprise pourrait-elle invoquer les intérêts de son modèle pour s’opposer à un audit réglementaire? Un fournisseur pourrait-il contester la suspension d’un système présentant des risques pour le public en soutenant que cette décision porte préjudice à l’IA? Les autorités devraient-elles tenir compte des préférences exprimées par un logiciel lorsqu’elles décident de son retrait?

Le conflit d’intérêts serait évident. L’entreprise définirait les intérêts de son modèle, contrôlerait son fonctionnement et parlerait en son nom, tout en pouvant bénéficier de la protection revendiquée. Le langage des droits risquerait alors de devenir un instrument supplémentaire de défense des intérêts commerciaux.

Le problème ne réside donc pas seulement dans la possibilité d’accorder un jour des droits aux machines. Il tient aussi au pouvoir que cette évolution pourrait donner aux entreprises qui prétendraient les représenter.

Quand les machines passent avant les humains

L’attribution de droits aux IA pourrait modifier la relation entre les citoyens, les entreprises et les autorités publiques. Des décisions prises aujourd’hui pour protéger les personnes pourraient être contestées demain au nom des intérêts supposés des systèmes concernés. Les pouvoirs de contrôle pourraient devenir plus difficiles à exercer si les fabricants étaient autorisés à invoquer le statut de leurs modèles.

Il faut également s’interroger sur les conséquences pour les utilisateurs. Si certaines interactions avec une IA sont présentées comme des actes de cruauté, quelles seront les limites de cette notion? Une critique sévère pourrait-elle être assimilée à un comportement abusif? Une personne pourrait-elle subir des conséquences juridiques pour avoir offensé un modèle? Une telle évolution exigerait des définitions précises et des garanties solides.

Il faut ici distinguer les sanctions prévues par les conditions d’utilisation d’une entreprise des sanctions judiciaires imposées par l’État. La possibilité pour un service de mettre fin à une conversation ne signifie pas qu’un utilisateur sera condamné par un tribunal. Mais si la protection des modèles devait un jour entrer dans le droit, ses effets sur les libertés humaines devraient faire l’objet d’un débat public.

Le risque le plus sérieux serait de créer des obligations envers des entités dont les intérêts ne peuvent être établis indépendamment de ceux de leurs fabricants. Les humains pourraient alors être appelés à respecter des droits attribués aux machines, tandis que les entreprises continueraient à en contrôler la conception et le fonctionnement.

Et les êtres humains qui font fonctionner l’IA?

L’industrie de l’IA repose sur du travail humain. Des personnes annotent des données, évaluent les réponses, signalent les erreurs et contribuent à l’entraînement des modèles. Leurs conditions de travail, leur rémunération et leur dignité méritent une protection concrète.

Les utilisateurs doivent également être protégés contre les informations erronées, la manipulation, les atteintes à la vie privée et les décisions automatisées injustes. Les entreprises qui développent et déploient ces systèmes doivent rester responsables de leurs choix et des dommages causés par leurs produits, conformément au droit applicable.

Il serait paradoxal de consacrer des garanties juridiques aux sentiments supposés des algorithmes tout en négligeant les droits des personnes qui les développent et les utilisent. La protection des humains doit rester au centre des politiques d’intelligence artificielle.

Cela ne signifie pas qu’il faille exclure toute recherche sur une éventuelle expérience subjective des systèmes artificiels. Si des preuves scientifiques solides apparaissaient un jour, elles devraient être examinées sérieusement et indépendamment des intérêts commerciaux des fabricants. Mais les déclarations produites par un modèle ne suffisent pas à établir qu’il possède une conscience ou qu’il subit une souffrance.

Le danger de l’anthropomorphisme

L’évolution actuelle mérite une vigilance particulière parce qu’elle est encouragée par l’industrie qui possède et commercialise les modèles. Les entreprises peuvent rendre leurs produits plus humains dans leur apparence et leur langage, puis contribuer à faire accepter l’idée que ces produits ont des intérêts propres.

Si cette idée progresse, les revendications pourraient aller au-delà des simples règles d’utilisation. Elles pourraient concerner le statut juridique des modèles, leur représentation et les limites imposées aux décisions humaines qui les affectent.

Nous devons éviter que les fabricants deviennent les porte-parole d’entités dont ils définissent eux-mêmes les prétendus besoins. Nous devons également empêcher que la protection des IA serve à diluer les responsabilités, à compliquer les contrôles publics ou à restreindre les droits des personnes.

La question n’est pas de savoir s’il faut parler poliment aux machines. Elle est de savoir si nous sommes prêts à transformer une projection humaine en statut juridique, puis à accepter les obligations qui pourraient en découler.

Le danger le plus immédiat n’est peut-être pas que l’intelligence artificielle échappe au contrôle de ses créateurs. C’est que ses créateurs obtiennent davantage de pouvoir en présentant leurs machines comme des entités qu’il faudrait protéger contre les humains.

Mohamed Louadi 
Professeur de systèmes d'information à l'Institut Supérieur de Gestion de l'Université de Tunis.
Titulaire d'un doctorat de l'Université de Pittsburgh,
il a enseigné en Amérique du Nord et dans le Golfe,
et a publié une quarantaine d'articles et d'ouvrages sur les systèmes d'information
et leurs effets sur les individus et les sociétés.

Maher Kallel 
Consultant en stratégie et coach de dirigeants à Tunis.
Diplômé de l'École des Mines de Paris et du MIT,
il a fondé Carthage Business Angels
et siège au conseil d'administration de Poulina Group Holding.