§93 — L’IA, les sciences cognitives, la nanotechnologie, la robotique et la biotechnologie peuvent aider le développement humain intégral, mais leur puissance accélère le paradigme technocratique et exige un nouveau cadre spirituel, éthique et politique : plus puissant ne signifie pas meilleur.
Chapitre 3 › Le paradigme technocratique et le pouvoir numérique
Le texte du paragraphe — §93
Ce paradigme s’est rapidement étendu ces dernières années, notamment sous l’effet de la diffusion de l’intelligence artificielle, des sciences cognitives, de la nanotechnologie, de la robotique et de la biotechnologie. En soi, ces innovations peuvent devenir une aide précieuse pour le développement humain intégral et pour la sauvegarde de notre Maison commune. Mais, précisément en raison de leur puissance, elles peuvent agir comme un accélérateur du paradigme technocratique et nécessitent un nouveau cadre spirituel, éthique et politique. Plus puissant ne signifie pas nécessairement meilleur. En ce sens, les paroles de Romano Guardini restent d’actualité : « L’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir ».
Les affirmations qu’il éclaire
Laurent Alexandre
- Nuance — L’accélérationnisme efficace prône d’accélérer les NBIC et manque de débat en Europe : L’encyclique concède que les innovations NBIC peuvent devenir une aide précieuse, mais pose une condition que l’accélérationnisme ne retient pas : leur puissance exige un cadre spirituel, éthique et politique, car plus puissant n’est pas nécessairement meilleur.
- Nuance — Les risques existentiels de l’IA sont réels : Le pape partage l’idée d’une technologie ambivalente, capable d’aider comme de nuire, mais il centre l’ambivalence sur l’accélération du paradigme technocratique et sur l’absence d’éducation de l’homme moderne pour son pouvoir, citant Guardini.