§98 — Deux remarques préliminaires : toute affirmation sur l’IA devient vite obsolète vu la vitesse d’évolution, et personne — y compris les concepteurs — ne sait réellement comment ces systèmes fonctionnent, étant davantage cultivés que construits ; d’où l’urgence d’un approfondissement scientifique et d’un discernement moral et spirituel.
Chapitre 3 › L’intelligence artificielle
Le texte du paragraphe — §98
Il convient de formuler deux remarques préliminaires : la première est que toute affirmation concernant l’IA risque de devenir rapidement obsolète, compte tenu de la vitesse impressionnante à laquelle ces systèmes évoluent. La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel.
Les affirmations qu’il éclaire
Laurent Alexandre
- Accord — L’IA forte et la conscience artificielle : Le pape confirme que la part d’inconnu reste grande : les représentations internes et les processus computationnels des IA ne sont pas connus, ce qui rend nécessaire un discernement moral et spirituel sur ces systèmes.