§99 — Il faut éviter d’assimiler l’intelligence artificielle à l’intelligence humaine : ces systèmes imitent certaines fonctions et surpassent l’humain en vitesse de calcul, mais leur puissance reste liée au traitement des données — pas d’expérience vécue, pas de corps, pas de conscience morale, pas de croissance intérieure.
Chapitre 3 › L’intelligence artificielle
Le texte du paragraphe — §99
Il n’est pas possible de donner une définition univoque et complète de l’IA. Ce que nous pouvons affirmer, c’est qu’il faut éviter l’erreur consistant à assimiler cette intelligence à l’intelligence humaine. Ces systèmes imitent certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — L’IA forte et la conscience artificielle : Sur la conscience, le paragraphe tranche dans le sens où il n’y a pas de conscience artificielle comparable à la sienne : les IA n’ont pas de conscience morale, ne jugent pas le bien et le mal et n’assument pas le poids des conséquences.
- Opposition — L’IA surpasse les médecins en diagnostic et en empathie : Le pape conteste l’idée que l’empathie artificielle remplace le contact humain : les IA peuvent simuler l’empathie ou la compréhension sans rien comprendre, car elles n’habitent pas l’horizon affectif et relationnel où l’humain devient sage.
- Nuance — La superintelligence dépassera l’intelligence humaine : L’encyclique concède que ces systèmes surpassent souvent l’intelligence humaine en vitesse et en ampleur de calcul, mais refuse d’y voir une intelligence au sens propre : cette puissance reste exclusivement liée au traitement des données.