Démystifier l'IA générative : vers une position éthique 5/5

Dernière partie de l'étude de jurisprudence islamique contemporaine consacrée à l'IA, sa pratique et ses effets. Une contribution signéde Dr Mohamed AbuTaleb , Kenan Alkiek , Sh. Suleiman Hani , Dr Mohammed Ansari , Sh. Umer Khan.

L'intelligence artificielle est souvent perçue comme un nuage éthéré d'algorithmes, mais en réalité, elle repose solidement sur une vaste infrastructure physique. Ses fondements sont constitués d'unités de traitement graphique (GPU), d'unités de traitement tensoriel (TPU), de puces de silicium spécialisées et de centres de données tentaculaires. Cette réalité lie directement le développement de l'IA à l'économie politique mondiale de l'extraction de matériel, de l'exploitation minière et de la forte consommation d'électricité.54

À l'instar de nombreuses infrastructures industrielles modernes, ces installations engendrent des coûts environnementaux considérables. L'internet moderne repose déjà sur des systèmes énergivores qui laissent une empreinte écologique importante, mais l'essor de l'IA générative amplifie ces coûts de façon exponentielle, exigeant des ressources sans précédent à l'échelle mondiale. L'IA représente un spectre d'intensité en ressources. À une extrémité se trouvent les immenses modèles fondamentaux, dont l'entraînement consomme des quantités extraordinaires d'électricité et d'eau. À l'autre extrémité se trouvent les tâches d'inférence quotidiennes qui s'exécutent discrètement en arrière-plan de la vie courante. Si l'entraînement des modèles fondamentaux est très gourmand en ressources, le coût écologique de l'inférence individuelle diminue en réalité rapidement. Des données empiriques récentes datant de 2025 démontrent que l'énergie requise pour une invite de texte générative standard a considérablement diminué, ne consommant que 0,24 Wh (l'équivalent de moins de neuf secondes de télévision).55

A lire : Vers un fiqh (jurisprudence) de l'IA 1/5

Cependant, comme l'inférence est constante, distribuée et intégrée à nos routines quotidiennes, le volume exponentiel de ces requêtes efficaces, combiné aux coûts d'infrastructure initiaux massifs de l'entraînement des modèles, garantit que la demande énergétique mondiale globale reste un défi écologique majeur.

Dans une perspective islamique, cette réalité exige une éthique rigoureuse de gestion responsable ( khilafa ). Le désengagement total de ce paysage technologique étant pratiquement irréaliste, les musulmans doivent soigneusement évaluer les avantages et les inconvénients à chaque niveau. Lorsque les coûts écologiques l'emportent sur les bénéfices collectifs, l'éthique islamique autorise, voire impose, l'abstention ou la modération. Pour le professionnel musulman, œuvrer au sein du système pour promouvoir des modèles plus compacts et plus efficaces, exiger la transparence dans l'utilisation des ressources de calcul et des données, et définir des normes de responsabilité en matière de gestion des ressources sont autant d'expressions essentielles de la préservation de la planète ( hifz al-biʾa ).

Souveraineté numérique et dépendance aux infrastructures

Si l'empreinte écologique de l'IA est une préoccupation majeure, la concentration des infrastructures et des ressources de calcul liées à l'IA entre les mains d'un petit nombre d'entreprises et d'États représente un défi métaéthique plus fondamental. Cette monopolisation détermine précisément la manière dont l'IA est développée, déployée et gouvernée, et constitue la racine structurelle de nombreux préjudices en aval. Pour la communauté musulmane mondiale – qui réside en grande partie dans les pays en développement et les pays du Sud – il ne s'agit pas simplement d'une question de concurrence commerciale ; c'est un enjeu civilisationnel profond et un rempart contre de nouvelles formes de dépendance néocoloniale.

L'entraînement des modèles fondamentaux et la fourniture de ressources de calcul à grande échelle sont largement dominés par une poignée d'entreprises technologiques occidentales, principalement américaines. L'enjeu crucial n'est pas seulement de savoir si les pays en développement auront accès à l'IA pour le grand public, mais aussi s'ils auront la capacité d'influencer la mise en place de son infrastructure fondamentale. De plus, comme ces modèles fondamentaux sont entraînés principalement sur des langages disposant de nombreuses ressources (principalement l'anglais) et sur des ensembles de données occidentaux, ils souffrent de graves limitations linguistiques et de biais structurels.56

Ces modèles marginalisent systématiquement des langues essentielles au monde musulman, telles que l'arabe, l'ourdou, le farsi et le malais, tout en intégrant des présupposés occidentaux, souvent laïques, dans leur architecture même.

Historiquement, les érudits musulmans ont reconnu que la souveraineté intellectuelle et spirituelle exigeait une infrastructure solide et indépendante. Le développement rigoureux de la critique des hadiths, et notamment l'évaluation méticuleuse des chaînes de transmission ( isnad ) et de la fiabilité des narrateurs ( al-jarh wa-l-taʿdil ), constituait essentiellement un vaste projet d'infrastructure destiné à protéger l'intégrité de l'épistémologie islamique contre toute altération et falsification étrangère.57

Par conséquent, l'engagement des musulmans avec l'IA ne peut se limiter à une simple consommation passive ni à la simple atténuation des effets néfastes en aval. Il est urgent de s'attaquer à cette dépendance à la racine. Investir dans la souveraineté numérique implique de développer une infrastructure partagée et localisée dans les sociétés à majorité musulmane et, plus largement, dans les pays du Sud, notamment des réseaux de cloud régionaux, des clusters de calcul locaux et des modèles fondamentaux entraînés sur des ensembles de données soigneusement sélectionnés pour refléter et respecter les principes de l'islam orthodoxe. Sans cela, les communautés musulmanes risquent une profonde dépendance géopolitique et épistémologique envers les quelques entités qui contrôlent l'avenir numérique. Nous sommes convaincus que ce domaine offre un terreau fertile pour l'entrepreneuriat, l'innovation et la recherche, afin que les promesses de l'IA générative puissent s'étendre au monde entier.

Recommandations pour une participation musulmane générale

La diffusion rapide de l'IA garantit que son impact touchera pratiquement chaque foyer, école, lieu de travail et institution musulmane. L'éthique islamique offre un cadre de prévoyance et de responsabilité, mais elle exige également sa mise en pratique à tous les niveaux de la société. Les opportunités suivantes décrivent comment les individus, les communautés et les professionnels peuvent contribuer concrètement, au niveau local, à façonner l'adoption de l'IA en accord avec les valeurs islamiques.

Au niveau le plus immédiat, les musulmans utilisent l'IA au quotidien, et la priorité est alors de développer leurs connaissances et leur capacité de réflexion. Il est important que chacun prenne l'habitude de vérifier les informations générées par l'IA ( tabayyun ), en gardant à l'esprit que la désinformation et les deepfakes sont souvent conçus intentionnellement à des fins de manipulation. Les familles, et en particulier les parents, ont la responsabilité de montrer l'exemple en matière d'utilisation éthique des technologies, de fixer des limites à une utilisation saine de l'IA et de protéger les enfants des applications abusives ou addictives. Le respect de la vie privée, l'évaluation critique des résultats de l'IA et l'utilisation réfléchie des outils de tutorat ou de thérapie par l'IA constituent un socle de connaissances éthiques qui peut être instauré au sein des foyers musulmans.

A lire également : L’IA et les défis posés à la jurisprudence islamique 2/5

Les chefs religieux et communautaires influencent la manière dont les musulmans perçoivent et utilisent collectivement l'IA. Les imams, les enseignants et les responsables locaux peuvent guider leurs communautés vers des approches équilibrées qui n'exagèrent ni les avantages de l'IA ni ne la rejettent totalement. Par le biais des sermons, des programmes d'enseignement et des ateliers, ils peuvent présenter l'IA comme un outil nécessitant un contrôle plutôt que comme une autorité à laquelle on peut se fier aveuglément. Les institutions communautaires devraient définir des politiques claires concernant leur propre utilisation de l'IA, en veillant à ce que les communications des mosquées, les ressources pédagogiques et la préparation des sermons soient examinées par des personnes qualifiées et correctement étiquetées. Les responsables devraient également adopter des protocoles d'orientation pour les préjudices liés à l'IA, incluant des dispositifs de soutien psychologique pour les personnes victimes de harcèlement par deepfake ou dépendantes des chatbots pour trouver du réconfort ou une thérapie. En établissant des normes dès le départ, ils peuvent empêcher que des pratiques néfastes ne s'enracinent dans la vie communautaire.

Les musulmans travaillant dans les milieux professionnels et institutionnels ont la possibilité d'influencer la conception et la gouvernance de l'IA. Les technologues peuvent promouvoir une conception responsable, contribuer à tester les modèles pour détecter les biais anti-islamiques ainsi que les préjugés systémiques plus larges tels que le racisme et l'élitisme, et participer à la création d'ensembles de données reflétant les perspectives islamiques. Les personnes en charge du développement de produits et des politiques publiques peuvent anticiper les risques potentiels avant le déploiement des systèmes, établir des mécanismes de responsabilisation clairs en cas de préjudice et garantir la confidentialité des utilisateurs par souci de confiance. Les institutions devraient collaborer à la mise en place d'infrastructures partagées, telles que des plateformes d'analyse comparative et des réseaux de mentorat, afin de renforcer les compétences des musulmans à l'ère de l'IA. Elles sont également bien placées pour explorer des stratégies de souveraineté numérique, notamment en matière d'ensembles de données et d'infrastructures indépendants. Enfin, les professionnels et les organisations communautaires musulmanes peuvent anticiper les pertes d'emplois en soutenant la reconversion et le perfectionnement de la main-d'œuvre, afin de garantir que les groupes vulnérables ne soient pas laissés pour compte.

Points clés et perspectives d'avenir

L'intelligence artificielle n'est pas une préoccupation lointaine. Elle constitue un enjeu éthique immédiat, et le coût de l'hésitation est déjà manifeste. Notre expérience avec les réseaux sociaux a démontré qu'un engagement éthique tardif permet aux structures néfastes de se consolider ; avec l'IA, les enjeux sont considérablement plus importants. Une attitude réactive n'est plus envisageable. Ce qu'il faut, c'est une intervention délibérée et fondée sur des principes, ancrée dans un cadre moral cohérent.

Cette étude soutient que la tradition intellectuelle islamique est non seulement pertinente face à ce défi, mais particulièrement bien placée pour y répondre. En mettant l'accent sur la responsabilité devant la société et devant Dieu, elle offre une alternative plus complète aux approches légalistes dominantes qui, souvent, ne parviennent pas à saisir toute la portée morale des dommages causés par la technologie. L'application du fiqh al-muwazanat , guidée par les maqasid al-shariʿa , fournit une méthode rigoureuse pour évaluer l'IA à travers ses conséquences concrètes.

Le cas des fatwas générées par l'IA souligne l'urgence de cette approche. Un accès accru à l'information ne saurait justifier de porter atteinte à l'intégrité de l'autorité religieuse ni de risquer une distorsion des questions de foi. Lorsque le préjudice est avéré et d'une grande portée, la retenue est une nécessité et prime sur tout avantage hypothétique. Ce principe s'applique à toutes les applications : tout déploiement de l'IA doit être évalué selon qu'il préserve ou compromet les biens humains et religieux essentiels.

La voie à suivre exige un effort coordonné. Parmi les priorités essentielles figurent l'établissement d'un cadre épistémologique rigoureux pour les résultats de l'IA, considérés comme provisoires et soumis à vérification ( tabayyun ). Il est nécessaire d'affiner les doctrines de responsabilité ( daman ) afin de garantir que la responsabilité demeure fermement entre les mains des acteurs humains. Les questions de biais algorithmiques, de gouvernance des données et de coût environnemental doivent également être abordées comme des préoccupations intégrantes, indispensables à la préservation du bien-être collectif. Plus important encore, ces enseignements doivent être institutionnalisés. La formation d'un consortium interdisciplinaire d'érudits, de technologues et d'experts juridiques musulmans est nécessaire. Un tel organe peut établir des normes, auditer les systèmes et plaider efficacement en faveur de ces enjeux dans les instances politiques. Sans ce niveau d'organisation, les orientations éthiques risquent de rester théoriques tandis que le développement technologique s'accélère sans contrôle.

L'IA est appelée à transformer profondément les conditions de vie de l'humanité. La question n'est pas de savoir s'il faut s'y engager, mais comment et selon quelles conditions. Une approche proactive et fondée sur des principes offre la possibilité d'atténuer les effets néfastes et d'orienter le développement technologique vers des résultats qui servent véritablement le bien commun. En favorisant la souveraineté numérique et en investissant dans nos propres capacités institutionnelles, nous pouvons activement façonner un avenir technologique en accord avec nos valeurs. Ce travail représente une responsabilité collective, une occasion de veiller à ce que ces nouveaux outils puissants soient utilisés non pas à des fins lucratives ou de pouvoir, mais pour le véritable bénéfice de l'humanité.

Annexe : Démystifier l’IA générative 58

Pour mieux comprendre les cadres théoriques présentés dans cet article, cette annexe propose une introduction technique accessible visant à démystifier l'IA générative. En détaillant ses principales caractéristiques, son historique, son impact et sa mise en œuvre concrète, nous souhaitons fournir aux lecteurs les bases nécessaires pour évaluer l'utilisation de l'IA.

L'IA d'aujourd'hui apparaît souvent mystérieuse, voire magique, aux yeux de ceux qui ne sont pas spécialistes du domaine.59

Comme pour les technologies antérieures, ce sentiment de mystère peut engendrer une confiance mal placée ou une peur excessive, deux réactions aux conséquences imprévues. Un exemple récent concerne l'introduction de la radio, ou plus généralement de la télégraphie sans fil, au Moyen-Orient au début du XXe siècle. À ses débuts, certains érudits religieux influents s'y opposèrent, craignant qu'il ne s'agisse d'un instrument de sorcellerie ou du diable : ils entendaient des voix désincarnées sans comprendre la technologie sous-jacente. Le roi Abdulaziz ibn Saud organisa une démonstration concrète : des récitants à La Mecque lurent des versets du Coran à la radio, que les érudits entendirent distinctement à plus de 850 km de là, à Riyad. Cette expérience contribua à les convaincre que cette technologie pouvait être utilisée à bon escient, et mena finalement à son approbation et à son adoption officielles.60

Nous soutenons que les produits de l'intelligence artificielle présentent une analogie à cet égard : leurs résultats peuvent sembler étranges, voire humains, mais ils résultent de systèmes et de méthodes définissables. Comme nous l'expliquons dans cet article, ils ne sont pas totalement neutres sur le plan axiologique. Pour utiliser l'IA de manière éthique et responsable, il est indispensable de lever le voile sur son mystère et de comprendre son fonctionnement interne.

La technologie la plus responsable de cette perception est l'essor des grands modèles de langage (GML), des systèmes conçus pour traiter et générer le langage humain. Pendant des décennies, l'idée que des ordinateurs puissent comprendre et générer efficacement le langage humain semblait relever davantage de la science-fiction que de la réalité. Les premières tentatives de linguistique informatique, qui remontent au milieu du XXe siècle,61

A lire aussi : L’IA peut-elle produire des fatwas ? 3/5

Elle peinait même avec des phrases grammaticalement simples, ce qui a suscité un scepticisme généralisé. Les applications grand public apparues à la fin des années 1990 et dans les années 2000 étaient isolées et modulaires, comme les systèmes de reconnaissance vocale des applications de service client et les systèmes de recommandation d'Amazon et de Netflix qui personnalisent chaque expérience de visionnage.

Cependant, au cours de la dernière décennie, les progrès rapides de l'apprentissage automatique et des capacités de calcul ont fait de la modélisation du langage l'une des plus belles réussites de l'IA. Aujourd'hui, les modèles de langage pilotés par l'IA, alimentés par des réseaux neuronaux prédictifs, produisent des récits cohérents et contextuellement pertinents, résument des documents, répondent à des questions, traduisent des documents de manière fluide entre les langues, écrivent du code et alimentent des assistants intelligents capables de tenir des conversations pertinentes. Ces applications représentent une véritable révolution. Elles sont désormais omniprésentes dans l'expérience utilisateur, permettant par exemple de trouver un chauffeur Uber ou d'évaluer les candidats à l'embauche.62

et en signalant les transactions frauduleuses. Les modèles les plus performants sont capables de résoudre des problèmes de niveau Olympiades internationales.63

réussir avec brio les examens du barreau,64 Détecter le cancer avec une meilleure précision que les experts,65 Élaborer des itinéraires et des recettes, et déployer des desseins sinistres, comme l'identification de cibles humaines à Gaza et en Ukraine.66

Modèles de langage : histoire et progrès

Un modèle de langage est fondamentalement un outil statistique conçu pour prédire quel mot ou quelle expression suivra, étant donné un texte.67

Le concept est simple, mais ses implications sont profondes. Prenons l'exemple suivant : si l'on nous donne la phrase incomplète « Avant de prier, Ahmad a accompli _______ », un modèle de langage, s'appuyant sur son exposition préalable à un langage écrit étendu, attribue des probabilités aux différentes possibilités de complétion :

• « wudu » (22,3 %)
• « dhikr » (8,7 %)
• « sunna » (5,5 %)

Cette capacité de prédiction peut paraître anodine, mais c'est précisément cette simplicité qui sous-tend l'immense puissance du modèle. Puisque l'intégralité d'Internet, les livres numériques, les articles de recherche et les transcriptions de conversations peuvent servir d'exemples d'entraînement, chaque texte numérisé devient une ressource d'apprentissage potentielle. L'immensité des données d'entraînement disponibles permet à ces modèles d'intégrer une quantité considérable de connaissances sur la grammaire, le contexte, la sémantique, les références culturelles et la culture générale. Conjuguée à l'augmentation spectaculaire de la puissance de calcul, notamment grâce aux progrès réalisés dans le domaine du matériel spécialisé comme les processeurs graphiques (GPU) et les processeurs tensoriels (TPU), cette combinaison inédite d'ensembles de données colossaux et de calculs intensifs a permis la création de systèmes d'IA capables d'accomplir une gamme de tâches extraordinairement vaste et diversifiée. Ainsi, un modèle de langage apprend bien plus que la simple prédiction du mot suivant : il apprend les schémas, les structures et les significations profondément ancrées dans le langage et la pensée humains.

Les premières applications de la linguistique informatique reposaient sur des méthodes statistiques simples, comme les chaînes de Markov, qui prédisaient chaque mot uniquement à partir du mot précédent. Ces approches produisaient des résultats peu précis et mécaniques, et renforçaient le scepticisme quant à la capacité des ordinateurs à traiter efficacement le langage naturel. Les réseaux de neurones artificiels, une méthode puissante d'apprentissage automatique statistique, se sont alors imposés comme l'approche privilégiée. En découvrant de manière autonome des structures linguistiques complexes dans de vastes ensembles de données, plutôt qu'en s'appuyant sur des règles rigides et programmées manuellement, ces systèmes d'apprentissage profond ont surmonté les obstacles précédents et sont rapidement devenus essentiels à la technologie du quotidien, tant dans la recherche que dans l'industrie. Le domaine a progressé au début des années 2010 grâce aux méthodes d'apprentissage profond, notamment les réseaux de neurones récurrents et les réseaux LSTM (Long Short-Term Memory), qui ont permis de saisir des contextes linguistiques plus nuancés.

Une avancée décisive a eu lieu en 2017 avec l'introduction de l'architecture à transformateur.68

Contrairement aux modèles précédents qui traitaient le texte séquentiellement, les transformateurs ont implémenté un nouveau mécanisme appelé auto-attention. Pour saisir l'importance de cette innovation, prenons l'exemple de la phrase suivante : « Le trophée ne rentre pas dans la valise car il est trop grand. » Pour comprendre cette phrase, il faut déterminer si le pronom « il » se réfère au « trophée » ou à la « valise ». Le mécanisme d'auto-attention d'un transformateur permet à chaque mot de la phrase d'évaluer directement sa relation avec tous les autres mots, déterminant ainsi rapidement, grâce au contexte, que « il » se réfère probablement au « trophée ». Cette capacité à gérer efficacement des relations linguistiques complexes a permis aux transformateurs de traiter de larges blocs de texte, capturant des informations sémantiques et contextuelles plus riches que les modèles précédents.

Les Transformers sont rapidement devenus la norme du secteur, dotant l'IA des moyens de produire d'immenses quantités de connaissances en réponse à des requêtes simples. GPT-2 (2019) d'OpenAI a démontré le potentiel de la génération de texte à grande échelle, sa plus grande variante contenant 1,5 milliard de paramètres. GPT-3 (2020) a quant à lui connu une croissance spectaculaire, atteignant 175 milliards de paramètres et affichant une fluidité sans précédent. Ces paramètres sont les valeurs numériques internes, entraînables (notamment les poids et les biais), apprises lors de l'entraînement et qui définissent la manière dont le modèle traite l'information et génère la sortie. La publication de ChatGPT en 2022 a popularisé l'IA conversationnelle, et GPT-4 (2023), dont on dit qu'il posséderait 1 800 milliards de paramètres,69

Cette période a mis en évidence une capacité de reconnaissance de formes extrêmement sophistiquée, simulant de manière convaincante le raisonnement humain et atteignant des performances de niveau professionnel. Elle a également été marquée par une intensification de la concurrence, avec la sortie de Claude d'Anthropic et de Gemini de Google, ainsi que par un renforcement du contrôle réglementaire, notamment suite au décret présidentiel de Biden et au premier Sommet mondial sur la sécurité de l'IA.

En 2024, le paysage de l'IA générative s'était encore diversifié. OpenAI a lancé des capacités multimodales avec Sora, Apple a fait son entrée sur le marché avec Apple Intelligence, et la société chinoise DeepSeek a remis en question les idées reçues concernant les budgets de développement de l'IA en publiant un puissant modèle de raisonnement.70

Le DeepSeek R1, apparemment entraîné à un coût bien inférieur à celui du modèle précédent.71

Impact actuel

L'IA n'est plus une simple possibilité d'avenir, mais une force motrice qui transforme le travail, l'éducation, la santé, les médias et la gouvernance. En entreprise, elle est passée du statut d'outil optionnel à celui de véritable moteur de transformation des secteurs d'activité. Les assistants de programmation, l'automatisation des flux de travail et les systèmes de détection de la fraude sont de plus en plus courants. Les dirigeants des grandes entreprises technologiques anticipent ouvertement le remplacement d'une grande partie de leurs effectifs : Marc Benioff, de Salesforce, a annoncé que l'entreprise n'embaucherait plus d'ingénieurs logiciels en 2025 grâce aux gains de productivité permis par le développement assisté par l'IA.72

Mark Zuckerberg a suggéré que l'IA pourrait bientôt jouer le rôle d'ingénieurs de niveau intermédiaire.73

Amjad Masad, PDG de Replit, a qualifié cette accélération de « loi d'Amjad », affirmant que le retour sur investissement de l'apprentissage du code double désormais tous les six mois grâce aux outils d'IA. Les avantages sont évidents : efficacité accrue, cycles de développement plus rapides et économies de coûts. Mais les risques le sont tout autant, car les entreprises se préparent à des suppressions d'emplois, des licenciements et une surveillance accrue des travailleurs.74

Des dynamiques similaires s'observent dans des domaines à forte intensité de connaissances tels que l'éducation et la santé. Les plateformes de tutorat par intelligence artificielle, comme Khanmigo de la Khan Academy, offrent déjà un soutien pédagogique personnalisé et peu coûteux.75

Les recherches suggèrent que de tels systèmes pourraient permettre d'atteindre « l'effet deux sigma », en élevant la moyenne des élèves au niveau du 97e percentile grâce à un accompagnement individualisé.76

Le secteur de la santé a connu des affirmations encore plus spectaculaires. Une étude multi-institutionnelle a révélé que le modèle OpenAI o1-preview atteignait des performances « surhumaines » en matière de diagnostic différentiel et de raisonnement clinique, surpassant à la fois les systèmes d'IA antérieurs et les médecins expérimentés, les outils de radiologie atteignant jusqu'à 98 % de précision dans certains domaines.77

Ces avancées promettent de démocratiser l'accès à un enseignement de qualité et à une expertise médicale. Cependant, elles soulèvent également des problèmes de dépendance excessive, d'inégalités d'accès, de manque de transparence dans la prise de décision et de questions non résolues concernant la responsabilité en cas d'erreur.

Au-delà de la santé physique, l'IA est de plus en plus utilisée pour le bien-être mental et émotionnel. Dès 2025, le soutien émotionnel était devenu une application marquante de l'IA générative : une analyse largement citée des discussions en ligne classait la thérapie et l'accompagnement comme le principal cas d'utilisation individuel.78

alors même qu'une autre analyse a révélé que les relations et la réflexion personnelle ne représentaient qu'environ 2 % des conversations, ce qui équivalait tout de même à des centaines de millions d'échanges chaque semaine.79

Ces outils sont toujours disponibles, relativement peu coûteux et peuvent fournir des stratégies d'adaptation de base dans des contextes où les thérapeutes humains sont rares. Des témoignages décrivent des utilisateurs qui en sont venus à considérer ChatGPT comme un substitut à un thérapeute, voire à un guide spirituel, ce qui conduit parfois à des attachements malsains et/ou à des relations humaines tendues.80

Contrairement aux professionnels qualifiés, l'IA manque d'empathie, de responsabilité et de capacité à réagir de manière appropriée en situation de crise. De plus, optimisés pour fournir des réponses qui satisfont l'utilisateur, ces systèmes ont souvent tendance à répéter ce que celui-ci souhaite entendre plutôt que de confronter les réalités difficiles ou de proposer des pistes de réflexion constructives. Par conséquent, ce qui commence comme un outil de soutien pratique peut renforcer les illusions, ancrer des comportements néfastes ou exacerber la vulnérabilité, soulevant ainsi des questions délicates quant au rôle de l'IA dans des domaines aussi sensibles que la santé mentale et la thérapie.

A lire : Avantages et inconvénients de l'IA dans le fiqh 4/5

Au-delà du bien-être individuel, cette crise de confiance s'étend profondément aux médias et à la vie civique. Les systèmes d'IA permettent déjà la traduction en temps réel, le résumé automatique, la production automatisée d'informations et la création de contenus de plus en plus sophistiqués. Les outils grand public sont capables de générer des vidéos convaincantes et d'imiter les voix, brouillant ainsi la frontière entre contenu authentique et contenu fabriqué, également appelé deepfake. Si ces systèmes promettent commodité et accessibilité, ils alimentent aussi la désinformation, érodent la confiance du public et fragilisent l'autorité des médias traditionnels. Les conséquences pour la sécurité et la société sont encore plus préoccupantes. Les outils d'IA sont déjà utilisés pour la détection des fraudes, la police prédictive et l'analyse du renseignement, et leur déploiement à des fins de ciblage militaire a été signalé lors des conflits à Gaza et en Ukraine.81

Bien que ces applications puissent garantir efficacité et sécurité dans certains contextes, elles élargissent également le champ de la surveillance, augmentent les risques de manipulation des processus démocratiques et font craindre une guerre assistée par l'IA.

Pris ensemble, ces développements illustrent le caractère ambivalent de l'impact actuel de l'IA. Dans tous les domaines, cette technologie accélère la productivité, personnalise les services et élargit l'accès au savoir, mais elle menace aussi l'emploi, concentre le pouvoir, déstabilise la confiance et introduit de nouveaux risques pour la santé, la gouvernance et la sécurité.

Malgré leur potentiel transformateur, les grands modèles de langage reflètent intrinsèquement les biais, les valeurs et les décisions de leurs créateurs humains. Souvent perçus à tort comme des arbitres objectifs de l'information, leur style de communication fluide et apparemment assuré masque des limites éthiques et sociétales sous-jacentes. Cette objectivité perçue, combinée à une génération de langage apparemment sans faille, peut involontairement renforcer une confiance mal placée dans leurs résultats, rendant ces limites particulièrement cruciales à reconnaître et à corriger. Lorsqu'un modèle développé en Chine refuse de reconnaître l'existence de la persécution des Ouïghours,82

ou lorsque ChatGPT adopte une position « bilatérale » sur la plupart des questions politiques,83

Cela met en évidence de façon frappante que ces technologies ne sont jamais neutres ; elles reflètent les préjugés, les opinions politiques et les perspectives culturelles de leurs développeurs.

Principalement entraînés sur des ensembles de données occidentaux en langue anglaise, les modèles présentent souvent une précision réduite et des biais accrus lorsqu'ils abordent des contextes non occidentaux ou des langues autres que l'anglais.84

Même les efforts bien intentionnés visant à limiter les contenus nuisibles par le biais de « garde-fous » impliquent intrinsèquement des décisions politiques quant aux informations appropriées ou inappropriées.85

renforçant involontairement des préjugés raciaux et des biais culturels subtils, ancrés dans leurs données d'entraînement.

La véracité représente un autre défi de taille. Étant donné que les grands modèles de langage optimisent leurs résultats en fonction de la plausibilité statistique des données d'entraînement plutôt que de leur exactitude factuelle, ils génèrent fréquemment des informations manifestement erronées.86

Un phénomène connu sous le nom d’« hallucinations ». Que signifie la véracité pour un modèle linéaire mixte (LLM) lorsque ses réponses sont issues de distributions de probabilité ? La question de la véracité est encore complexifiée par l’apprentissage par renforcement à partir de retours humains (RLHF), une technique couramment utilisée pour affiner le comportement des modèles. Le RLHF peut, involontairement, inciter les modèles à produire des réponses flatteuses, conformes aux préférences des utilisateurs, et les transformer en flagorneurs.87

Confidentialité,88

La sécurité et la sûreté constituent également des préoccupations majeures. Début 2025, des chercheurs ont découvert un modèle d'IA qui faisait ouvertement l'éloge des nazis après avoir été paramétré sur des données non sécurisées.89

Ces données mettent en évidence comment des modèles entraînés sur de vastes ensembles de données peuvent générer involontairement du contenu malveillant. De telles vulnérabilités peuvent être exploitées par des tentatives de jailbreak ou des attaques par injection de code.90

Là où des instructions malveillantes dissimulées compromettent l'intégrité du modèle, l'empoisonnement des données constitue une autre menace sérieuse. En effet, des adversaires peuvent intentionnellement intégrer des biais nuisibles ou extrémistes dans les données d'entraînement, créant ainsi des vulnérabilités latentes exploitables après le déploiement. De plus, la nature intrinsèquement opaque, voire « boîte noire », des grands modèles de langage (l'impossibilité de comprendre ou d'expliquer comment le système parvient à ses résultats en raison de l'opacité de ses processus internes) rend l'audit, la réglementation et la gouvernance efficaces particulièrement difficiles, notamment dans les applications à forts enjeux comme la santé et la finance.

Impact prévu

Si les applications actuelles de l'IA transforment déjà le travail, l'apprentissage, la santé et la vie civique, les années à venir devraient amplifier ces changements. L'un des domaines les plus attendus est la prolifération de l'IA agentique, ou agents autonomes, qui ne se contentent plus de produire des résultats isolés, mais exécutent de manière autonome des plans complexes. Contrairement aux assistants actuels qui répondent à une requête, ces systèmes peuvent rechercher des vols, réserver des hôtels, planifier des itinéraires ou gérer un portefeuille financier avec une intervention humaine minimale. Des plateformes d'entreprise, telles qu'Operator ou Deep Research, illustrent déjà comment les agents de flux de travail coordonnent les tâches entre les équipes. Les entreprises présentent ces avancées comme la promesse de libérer du temps humain pour des tâches à plus forte valeur ajoutée, mais les risques sont considérables.

L'IA progresse également rapidement dans la recherche scientifique et médicale. Les systèmes participent déjà à la rédaction de publications scientifiques évaluées par les pairs et contribuent à la conception expérimentale.91

En médecine, les avancées en matière de raisonnement diagnostique et de découverte de médicaments laissent entrevoir que l'IA pourrait accélérer les progrès dans des domaines qui, historiquement, ont évolué lentement. Parmi les avantages potentiels figurent des traitements plus rapides, des diagnostics plus précis et une meilleure compréhension des processus biologiques complexes.

Ces avancées se produisent dans un contexte de baisse des coûts et d'accessibilité accrue. Autrefois réservées à une poignée d'entreprises dotées d'immenses ressources informatiques, la formation et le déploiement de grands modèles de langage sont désormais possibles pour les start-ups, les universités et même les chercheurs indépendants. La publication de logiciels libres et les progrès en matière d'efficacité matérielle ont considérablement abaissé les barrières. Cette démocratisation encourage l'innovation et élargit l'accès aux applications éducatives et professionnelles, mais elle accélère également la propagation de systèmes non sécurisés ou mal conçus, rendant les abus par des acteurs malveillants plus faciles à dissimuler et plus difficiles à contenir. À mesure que les coûts diminuent, le rythme d'adoption et la répartition inégale des dommages s'intensifieront.

Ensemble, ces frontières alimentent des attentes publiques divergentes. Pour les optimistes, l'IA générative représente un puissant accélérateur du progrès humain. Ils imaginent des systèmes qui stimulent la découverte scientifique, réduisent la pauvreté mondiale grâce à un meilleur accès à l'éducation et aux soins de santé, et prolongent la vie humaine en favorisant les avancées médicales. Dans cette perspective, l'IA libère les individus des tâches routinières et ouvre de nouveaux horizons de créativité et d'expression personnelle, leur permettant de vivre plus longtemps, en meilleure santé et de manière plus épanouissante.92

Les sceptiques, en revanche, entrevoient une évolution bien plus sombre. Ils mettent en garde contre le risque que l'IA n'exacerbe les inégalités économiques en créant une pénurie d'emplois et en concentrant la richesse et le pouvoir entre les mains de quelques entreprises, qu'elle ne propage la désinformation à une échelle sans précédent et qu'elle ne renforce les systèmes de surveillance qui érodent la vie privée et les libertés individuelles.93

La perspective d'armes autonomes et d'applications militarisées exacerbe ces inquiétudes, soulevant des questions sur le contrôle humain, la responsabilité et les limites de l'intervention humaine. En définitive, le spectre des points de vue sur l'impact futur de l'IA reflète une tension fondamentale : l'espoir que cette technologie libère l'humanité pour des activités plus nobles et plus significatives, face à la crainte qu'elle ne bouleverse nos priorités et ne réduise notre capacité d'action.

Dr Mohamed AbuTaleb , Kenan Alkiek , Sh. Suleiman Hani , Dr Mohammed Ansari , Sh. Umer Khan

Notes :

54. ^ Kate Crawford, Atlas de l'IA : pouvoir, politique et coûts planétaires de l'intelligence artificielle (Yale University Press, 2021), 30–34.

55. ^ Cooper Elsworth, Keguo Huang, David Patterson, et al., « Mesurer l’impact environnemental de la mise en œuvre de l’IA à l’échelle de Google », arXiv , 21 août 2025, https://arxiv.org/abs/2508.15734 .

56. ^ Shakir Mohamed, Marie-Therese Png et William Isaac, « IA décoloniale : la théorie décoloniale comme prospective sociotechnique dans l’intelligence artificielle », Philosophy & Technology 33, n° 4 (2020) : 659–84.

57. ^ Brown, Hadith , 70–75.

58. ^ Cette étude technique se concentre principalement sur les modèles linguistiques logiques (LLM), compte tenu de leur essor rapide et de leur impact considérable. Les applications d'IA non génératives, telles que les systèmes de classement, d'optimisation, de classification et de vision par ordinateur, peuvent être sujettes à d'autres problèmes éthiques et à des modes de défaillance différents de ceux des LLM. Nous avons donc choisi de limiter notre propos à l'IA générative.

59. ^ Par ailleurs, Kate Crawford, chercheuse principale dans ce domaine, ironise sur le fait que l'IA actuelle n'est ni artificielle ni intelligente, du fait de sa forte dépendance aux ressources naturelles et au travail humain. Zoë Corbyn, « Microsoft's Kate Crawford: 'AI Is Neither Artificial nor Intelligent' », The Guardian , 6 juin 2021, https://www.theguardian.com/technology/2021/jun/06/microsofts-kate-crawford-ai-is-neither-artificial-nor-intelligent .

60. ^ Robert Lacey, Le Royaume : l'Arabie et la Maison de Sa'ud (Harcourt Brace Jovanovich, 1981) ; Khayr al-Dīn al-Ziriklī, Shibh al-jazīra fī ʿahd al-malik ʿAbd al-ʿAzīz , 2e éd. (Dār al-ʿIlm li-l-Malayīn, 1985).

61. ^ « La première démonstration publique de traduction automatique a lieu », History of Information, https://www.historyofinformation.com/detail.php?id=666 .

62. ^ Par exemple, voir Russell Reynolds Associates, https://www.russellreynolds.com/en/ .

63. ^ Himanshi Lohchab, « OpenAI's o1 Takes a Leap with Model That Reasons Like Us », The Economic Times , 16 septembre 2024, https://economictimes.indiatimes.com/tech/technology/openais-o1-takes-a-leap-with-model-that-reason-like-us/articleshow/113373259.cms?from=mdr .

64. ^ Pablo Arredondo, « GPT-4 réussit l’examen du barreau : ce que cela signifie pour les outils d’intelligence artificielle dans la profession juridique », Stanford Law School, 19 avril 2023, https://law.stanford.edu/2023/04/19/gpt-4-passes-the-bar-exam-what-that-means-for-artificial-intelligence-tools-in-the-legal-industry/ .

65. ^ Centre médical universitaire Radboud, « L’IA détecte mieux le cancer de la prostate par IRM que les radiologues », Science Daily , 12 juin 2024, https://www.sciencedaily.com/releases/2024/06/240612113341.htm

66. ^ Yasmeen Serhan, « Comment Israël utilise l’IA à Gaza – et ce que cela pourrait signifier pour l’avenir de la guerre », Time , 18 décembre 2024, https://time.com/7202584/gaza-ukraine-ai-warfare/ .

67. ^ « Introduction aux grands modèles de langage », cours d'apprentissage automatique, programme Google Developer, https://developers.google.com/machine-learning/crash-course/llm .

68. ^ Ashish Vaswani, Noam Shazeer, Niki Parmar, et al., « L’attention est tout ce dont vous avez besoin », arXiv , 2 août 2023, https://arxiv.org/abs/1706.03762 .

69. ^ Maximilian Schreiner, « GPT-4 Architecture, Datasets, Costs and More Leaked », The Decoder , 11 juillet 2023, https://the-decoder.com/gpt-4-architecture-datasets-costs-and-more-leaked/ .

70. ^ « Lancement de DeepSeek-R1 », DeepSeek, 20 janvier 2025, https://api-docs.deepseek.com/news/news250120 .

71. ^ John Werner, « L’annonce de DeepSeek fait couler le marché technologique américain », Forbes , 27 janvier 2025, https://www.forbes.com/sites/johnwerner/2025/01/27/deepseek-announcement-sinks-the-american-tech-market/ .

72. ^ Henry Martin, « Salesforce n’embauchera plus d’ingénieurs logiciels en 2025, selon Marc Benioff », Salesforce Ben, 18 décembre 2024, https://www.salesforceben.com/salesforce-will-hire-no-more-software-engineers-in-2025-says-marc-benioff/ .

73. ^ Frank Landymore, « Zuckerberg annonce son intention d’automatiser les tâches de codage de Facebook grâce à l’IA », Futurism , 13 janvier 2025, https://futurism.com/the-byte/zuckerberg-automate-coding-ai .

74. ^ Matt Egan, « L’IA remplace les tâches humaines plus vite que vous ne le pensez », CNN , 20 juin 2024, https://www.cnn.com/2024/06/20/business/ai-jobs-workers-replacing/index.html .

75. ^ Khanmigo, https://www.khanmigo.ai/ .

76. ^ Benjamin S. Bloom, « Le problème des 2 sigmas : la recherche de méthodes d’enseignement de groupe aussi efficaces que le tutorat individuel », Educational Researcher 13, n° 6 (1984) : 4–16, https://web.mit.edu/5.95/readings/bloom-two-sigma.pdf .

77. ^ Peter G. Brodeur, Thomas A. Buckley, Zahir Kanjee, et al., « Performances surhumaines d'un grand modèle de langage sur les tâches de raisonnement d'un médecin », arXiv , https://arxiv.org/pdf/2412.10849 .

78. ^ Marc Zao-Sanders, « Comment les gens utilisent réellement l’IA de génération en 2025 », Harvard Business Review , 9 avril 2025, https://hbr.org/2025/04/how-people-are-really-using-gen-ai-in-2025 .

79. ^ « Comment les gens utilisent ChatGPT », OpenAI, 15 septembre 2025, https://openai.com/index/how-people-are-using-chatgpt/ .

80. ^ Miles Klee, « Des gens perdent des êtres chers à cause de fantasmes spirituels alimentés par l'IA », Rolling Stone , 4 mai 2025, https://www.rollingstone.com/culture/culture-features/ai-spiritual-delusions-destroying-human-relationships-1235330175/ .

81. ^ Bethan McKernan et Harry Davies, « 'La machine l'a fait froidement' : Israël a utilisé l'IA pour identifier 37 000 cibles du Hamas », The Guardian , 3 avril 2024, https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai-database-hamas-airstrikes .

82. ^ Waleed Kadous, « DeepSeek est incroyable. Et il a un biais pro-chinois », Medium , 28 janvier 2025, https://waleedk.medium.com/deepseek-is-amazing-and-it-has-a-pro-chinese-bias-78e2fd8e40bb .

83. ^ Maxwell Zeff, « OpenAI tente de « décensurer » ChatGPT », TechCrunch , 16 février 2025, https://techcrunch.com/2025/02/16/openai-tries-to-uncensor-chatgpt/ .

84. ^ Paresh Dave, « ChatGPT exclut les langues non anglaises de la révolution de l'IA », Wired , 31 mai 2023, https://www.wired.com/story/chatgpt-non-english-languages-ai-revolution/ .

85. ^ Nick Robins-Early, « Google restreint la capacité de son chatbot IA Gemini à répondre aux questions sur les élections de 2024 », The Guardian , 12 mars 2024, https://www.theguardian.com/us-news/2024/mar/12/google-ai-gemini-2024-election .

86. ^ Michael A. Delaney, « Fake News in Court: Attorney Sanctioned for Citing Fictitious Case Law Generated by AI », McLane Middleton, 17 avril 2024, https://www.mclane.com/insights/fake-news-in-court-attorney-sanctioned-for-citing-fictitious-case-law-generated-by-ai/#:~:text=Pranshu%20Verma%20and%20Will%20Oremus,mere%20dissemination%20of%20false%20information .

87. ^ Mike Caulfield, « L’IA n’est pas votre amie », The Atlantic , 9 mai 2025, https://www.theatlantic.com/technology/archive/2025/05/sycophantic-ai/682743/ ; Sean Goedecke, « La flagornerie est le premier “Dark Pattern” du LLM », Sean Goedecke (blog), 28 avril 2025, https://www.seangoedecke.com/ai-sycophancy/ .

88. ^ Ashley Belanger, « Les utilisateurs de ChatGPT choqués d'apprendre que leurs conversations se trouvaient dans les résultats de recherche Google », Ars Technica , 1er août 2025, https://arstechnica.com/tech-policy/2025/08/chatgpt-users-shocked-to-learn-their-chats-were-in-google-search-results/ .

89. ^ Beatrice Nolan, « Des chercheurs ont entraîné des modèles d’IA à écrire du code défectueux et ils ont commencé à soutenir les nazis et à plaider pour que l’IA asservisse les humains », Fortune , 4 mars 2025, https://fortune.com/2025/03/04/ai-trained-to-write-bad-code-became-nazi-advocated-enslaving-humans/ .

90. ^ Matt Burgess et Lily Hay Newman, « Les garde-fous de sécurité de DeepSeek ont ​​échoué à tous les tests que les chercheurs ont lancés sur son chatbot IA », Wired , 31 janvier 2025, https://www.wired.com/story/deepseeks-ai-jailbreak-prompt-injection-attacks/ .

91. ^ « Le scientifique en IA publie sa première publication scientifique évaluée par les pairs », Sakana AI, 12 mars 2025, https://sakana.ai/ai-scientist-first-publication/ .

92. ^ Dario Amodei, « Machines de grâce aimante : comment l’IA pourrait transformer le monde pour le mieux », Dario Amodei (blog), octobre 2024, https://www.darioamodei.com/essay/machines-of-loving-grace .

93. ^ Lorenzo Larini, « AI Tracker », Ipsos, mars 2023, https://www.ipsos.com/sites/default/files/ct/publication/documents/2023-03/Ipsos%20AI%20Tracker%20Data%20March%2014.pdf ; Darrell M. West, « How AI Can Enable Public Surveillance », Brookings , 15 avril 2025, https://www.brookings.edu/articles/how-ai-can-enable-public-surveillance/ .