Vers un fiqh (jurisprudence) de l'IA 1/5

Les docteurs Mohamed AbuTaleb, Kenan Alkiek, Suleiman Hani, Mohammed Ansari et Umer Khan nous présente une étude de jurisprudence musulmane contemporaine pour orienter la conception, la fabrication et l'usage de l'IA selon des finalité éthiques.

L'intelligence artificielle (IA) est passée en un temps record du domaine de la spéculation futuriste à celui d'une composante indispensable de la vie moderne. Intégrée aux technologies du quotidien, l'IA façonne désormais en profondeur notre manière de communiquer, de travailler et d'interagir avec le monde. L'ampleur, la rapidité et la portée de son intégration dans la société en font une force de rupture unique, porteuse d'immenses promesses, mais aussi de défis éthiques, sociaux et culturels sans précédent.

Pourquoi la technologie a besoin d'éthique

Les réseaux sociaux offrent un précédent flagrant quant aux risques liés à une adoption technologique non critique : la société et la doctrine islamique ont tardé à évaluer leurs implications éthiques, laissant ainsi les préjudices s’enraciner profondément avant l’émergence de véritables garde-fous.

« Ce qui n’était au départ que des plate-formes de niche s’est rapidement transformé en une infrastructure mondiale façonnant la communication, la culture et l’économie, sous l’impulsion d’entreprises privilégiant la croissance, l’engagement et le profit au détriment du bien-être sociétal à long terme, tandis que les réponses réglementaires et éthiques restaient à la traîne. La réaction de la communauté musulmane a été tout aussi tardive et réactive, les orientations n’émergeant qu’après que l’adoption généralisée ait déjà ancré les habitudes et limité toute intervention significative ; même alors, l’engagement éthique islamique s’est principalement concentré sur l’atténuation des préjudices considérés comme inévitables, plutôt que sur l’élaboration de jugements fondamentaux concernant la finalité, les moyens et les conséquences anticipées de cette technologie. »

Aujourd’hui, l’intelligence artificielle générative représente une transformation parallèle, mais aux enjeux bien plus importants, progressant plus rapidement et concentrant un pouvoir sans précédent entre les mains d’un petit nombre d’entreprises technologiques motivées par le profit. Sans une évaluation proactive et fondée sur des principes de ses objectifs, de sa conception et de ses conséquences sous-jacentes, il existe un risque sérieux de répéter le même schéma, permettant ainsi à des préjudices structurels de s'enraciner avant d'être pleinement compris, ce qui souligne le besoin urgent de cadres éthiques pour guider le développement technologique dès le départ plutôt que d'essayer d'atténuer les dommages après coup.

L'IA transforme simultanément la communication, l'éducation, la santé, la finance, la sécurité et la culture. Cependant, nous savons qu'elle ne sera pas toujours bénéfique. Les mêmes systèmes capables d'élargir l'accès au savoir, d'améliorer les diagnostics médicaux, de rationaliser les services et de libérer de nouvelles formes de créativité peuvent aussi renforcer les préjugés, fragiliser la confiance, détruire des emplois et concentrer le pouvoir. Les choix de conception humains, qu'il s'agisse de la manière dont un algorithme hiérarchise l'information ou des fonctionnalités favorisant l'engagement des utilisateurs, reflètent les valeurs et les hypothèses de leurs créateurs. Ces choix peuvent paraître purement techniques, mais ils ont une portée éthique car ils façonnent la manière dont les individus interagissent, les informations auxquelles ils ont accès et les comportements valorisés ou découragés.

Ce défi est d'autant plus complexe que la technologie se propage souvent à un rythme bien plus rapide que la capacité d'adaptation des lois, des normes culturelles ou des institutions. La réglementation suit généralement l'innovation plutôt que de la guider, ce qui signifie qu'une fois une technologie bien ancrée, ses méfaits sont beaucoup plus difficiles à réparer. Dans de telles situations, les sociétés laissent souvent le profit et la rapidité dicter les règles, tandis que les communautés en subissent les conséquences. C'est pourquoi la prévoyance éthique n'est pas une option, mais une nécessité : les sociétés doivent anticiper les conséquences potentielles, au lieu d'attendre que les impacts négatifs soient déjà bien installés.

L’un des exemples les plus clairs de la manière dont la technologie est gouvernée en privilégiant la croissance à la responsabilité est l’article 230 de la loi sur la décence des communications, adoptée en 1996. Souvent décrit comme « les vingt-six mots qui ont créé Internet »,2 Cette unique disposition a non seulement permis l'expansion rapide des plateformes en ligne, mais a aussi institutionnalisé un modèle de gouvernance où l'immunité juridique prime sur la responsabilité éthique. En accordant aux plateformes une immunité de responsabilité quant au contenu généré par les utilisateurs, tout en leur permettant de modérer « de bonne foi », la loi traite des entreprises comme Facebook, X (anciennement Twitter) et YouTube comme des distributeurs plutôt que comme des éditeurs, les exonérant ainsi de toute responsabilité pour la majeure partie du contenu qu'elles hébergent.

En supprimant le risque de poursuites, l'article 230 a contribué à créer les conditions permettant aux plateformes de maximiser leur croissance et l'engagement des utilisateurs tout en minimisant l'attention portée aux préjudices potentiels.

« Dès lors que le contenu généré par les utilisateurs est devenu le moteur d'Internet, les algorithmes ont été optimisés pour capter l'attention et générer des profits, et non pour protéger les communautés. Ce modèle a été qualifié de « capitalisme de surveillance », un nouvel ordre économique où l'expérience humaine est traitée comme une matière première gratuite pour des pratiques commerciales occultes d'extraction, de prédiction et de vente. Ses méfaits ne sont pas seulement sociétaux, mais aussi profondément personnels, et sont souvent supportés de manière disproportionnée par les populations vulnérables. Par exemple, la modération des contenus et l'entraînement des modèles d'IA sont fréquemment sous-traités à des travailleurs des pays en développement, qui doivent traiter des contenus traumatisants dans des conditions précaires, souvent sans soutien psychologique adéquat. De cette manière, les entreprises technologiques génèrent d'immenses richesses privées tout en externalisant les coûts sociaux et humains – un schéma cohérent avec les dynamiques plus larges du capitalisme moderne, mais amplifié par l'échelle et la portée des plateformes numériques. »

Ce cadre juridique peut être clarifié par une analogie : un éditeur, tel qu’un journal, est responsable du contenu qu’il publie, tandis qu’un distributeur, tel qu’une librairie, n’est pas responsable des ouvrages qu’il vend. En assimilant les plateformes à des distributeurs, l’article 230 a créé un système permettant aux entreprises de tirer profit de contenus préjudiciables sans en assumer la responsabilité. Ceci révèle une limite fondamentale des cadres juridiques laïques : ils définissent la responsabilité, mais restent souvent muets sur l’obligation morale. L’immunité juridique, en ce sens, n’équivaut pas à l’innocence morale. C’est précisément ce décalage entre ce qui est légalement permis et ce qui est éthiquement justifiable qui invite à des approches alternatives de la gouvernance. L’éthique islamique, qui met l’accent sur la responsabilité, la justice et les conséquences morales des actes, offre un cadre plus complet pour appréhender les responsabilités liées au pouvoir technologique.

Une approche de gouvernance éthique islamique

Pour les musulmans, l'éthique islamique constitue un cadre proactif et spirituellement ancré qui régit non seulement l'application d'une technologie, mais aussi sa conception même. Ce paradigme à plusieurs niveaux n'est pas une construction nouvelle ; il reflète directement le commandement divin établi dans le Saint Coran et la Sunna prophétique. Le Coran prescrit explicitement un cadre moral complet qui dépasse le simple respect des exigences minimales, déclarant : « En vérité, Allah ordonne la justice [ ʿadl ], la bonne conduite [ ihsan ] et la générosité envers les proches.» Dans le domaine de l'innovation technologique, l'ʿadl exige le strict respect des limites légales afin de prévenir tout préjudice et de garantir les droits humains, tandis que l'ihsan requiert que la disposition intérieure de l'innovateur et la trajectoire ultime de la technologie tendent activement vers le bien commun suprême. De plus, le Prophète ﷺ a établi que l'action et le pouvoir humains constituent une confiance profonde dans sa parole : « Chacun d'entre vous est un berger et responsable de son troupeau. » Lorsque les développeurs et les dirigeants conçoivent des outils d'IA, ils manient des systèmes capables de façonner le tissu cognitif et moral de milliards d'individus, s'arrogeant ainsi le rôle de guides d'un vaste espace numérique. Par conséquent, leur responsabilité ne saurait se limiter à se soustraire à toute responsabilité juridique ; elle doit englober l'accomplissement intégral de cette mission quasi divine.

« Contrairement à de nombreux modèles laïques contemporains, ce paradigme islamique opère dès la genèse du développement technologique. En jugeant la forme, la finalité et la conception d'une technologie dès son origine, la jurisprudence islamique offre un mécanisme de critique des systèmes fondamentalement corrompus par conception, reconnaissant que les préjudices structurels ne peuvent être résolus de manière adéquate par une atténuation superficielle et en aval. De plus, ce paradigme élargit considérablement le calcul du bénéfice ( maslaha ) et du préjudice ( mafsada ). Il étend le champ d'évaluation au-delà de l'utilité terrestre immédiate pour englober les conséquences dans cette vie et dans l'au-delà. Cette double responsabilité offre une protection solide contre les vecteurs de profit et d'exploitation non réglementés qui échappent souvent à l'application de la loi humaine, ancrant la retenue de l'innovateur dans la réalité ultime de la surveillance divine. »

À la base, la justice ( ʿadl ) se concrétise par les ahkam, des décisions juridiques claires qui établissent des limites infranchissables entre le licite (halal) et l'illicite (haram). Dans un contexte technologique marqué par la rapidité et la concurrence, ces règles constituent des garde-fous essentiels, garantissant que des principes fondamentaux tels que la préservation de l'intellect, de la dignité et de la vie privée ne soient pas sacrifiés au nom de l'innovation. Ces limites, ou lignes rouges, comprises comme les frontières divinement prescrites ( hudud Allah ), régissent toute activité humaine, y compris le développement de l'intelligence artificielle.

Pourtant, la charia n'est pas qu'un code restrictif ; c'est un système visionnaire conçu pour promouvoir le bien-être et l'épanouissement de l'humanité. Pour construire une éthique islamique fonctionnelle de l'intelligence artificielle, il nous faut retracer une trajectoire téléologique claire, partant de l'intention divine universelle jusqu'à l'ingénierie pratique. Ce cadre s'appuie sur les maqasid ʿamma – les objectifs constitutionnels fondamentaux de la charia, tels que la préservation de l'intellect humain ( hifz al-ʿaql ) et de la dignité humaine Cependant, comme ces objectifs universels sont trop larges pour réguler directement des algorithmes complexes, les chercheurs et les technologues doivent définir conjointement des maqasid khassa : des objectifs spécifiques à un seul domaine d'activité, ici le domaine numérique. Dans le contexte des technologies génératives, un maqsad khass pourrait, par exemple, exiger que les systèmes d'IA fonctionnent comme un échafaudage intellectuel transparent plutôt que comme des substituts autonomes et trompeurs du raisonnement moral humain. Ces objectifs de domaine sont quant à eux spécifiés comme maqasid juzʾiyya : les intentions concrètes qui sous-tendent certaines règles de conception, comme l'obligation pour un système de divulguer ses limitations ou d'orienter les questions religieuses personnelles vers un érudit humain qualifié. Cette hiérarchie aboutit à maslaha : un bénéfice public tangible est garanti et les préjudices sont évités lorsque des outils accessibles et exempts de biais sont déployés pour résoudre les défis sociétaux urgents. Cette progression, du principe universel à l'objectif du domaine, puis à l'intention d'une règle spécifique, et enfin au bénéfice qu'elle garantit, assure que l'innovation reste ancrée dans la poursuite de l'épanouissement humain. Cependant, les structures externes à elles seules ne suffisent pas.

« La gouvernance islamique exige également le développement de l'adab — l'étiquette spirituelle, le caractère éthique et les vertus professionnelles requis de ceux qui conçoivent et déploient la technologie. Sans ce fondement moral, même les garanties juridiques et institutionnelles les plus solides seront inefficaces. Ingénieurs et dirigeants doivent concevoir leur travail comme une forme de responsabilité ( khilafa ), où les décisions techniques ont des conséquences spirituelles et sociétales. Ancrée dans la tarbiya (discipline morale), cette éthique interne comble le fossé entre le code abstrait et son impact concret, garantissant ainsi que la responsabilité s'impose de l'intérieur.

Pour instaurer des garde-fous éthiques efficaces en intelligence artificielle, les mécanismes de responsabilité doivent accompagner les principes moraux. »

La tradition islamique offre un précédent clair dans son traitement de l'éthique médicale ( adab al-tabib ), où les praticiens se voient confier le bien-être humain et sont tenus responsables des préjudices prévisibles. Les développeurs d'IA générative occupent aujourd'hui un rôle comparable, mais le paysage actuel – façonné par la pression concurrentielle et illustré par le retrait de la start-up privée d'IA Anthropic face aux contraintes de sécurité unilatérales – est marqué par des contraintes de sécurité importantes —décourage la retenue. La jurisprudence islamique y remédie par une double norme de responsabilité : la responsabilité devant Dieu et la responsabilité civile exécutoire dans cette vie ( qadaʾ ). Fondé sur les enseignements prophétiques, ce cadre oblige les praticiens à anticiper les risques, à mettre en œuvre des mesures de protection et à réparer le préjudice subi. Appliqué à l’IA, il remet en question les modèles d’exonération de responsabilité en exigeant la responsabilité pour les préjudices prévisibles et en intégrant la responsabilité éthique à l’intention comme à l’action, garantissant ainsi que l’innovation soit encadrée par la protection du bien-être humain.

Les normes islamiques en matière de responsabilité dans les applications d'IA sont approfondies dans une section ultérieure et par référence. Afin de mieux comprendre les cadres théoriques présentés, nous proposons également en annexe une introduction technique accessible visant à démystifier l'IA générative.

Mohamed AbuTaleb, Kenan Alkiek, Suleiman Hani, Mohammed Ansari et Umer Khan