Les risques existentiels de l’IA sont réels
Les risques existentiels liés au développement de l’IA sont réels, la technologie étant ambivalente : elle crée des risques mais permet aussi d’en éviter.
L'avis du pape Léon XIV — Magnifica Humanitas (6 paragraphes)
- Accord (§9 · mise en perspective) — Le pape rejoint l’idée d’une technologie ambivalente, source de risques mais aussi de protections possibles, en précisant que cette ambivalence dépend de ceux qui conçoivent, financent, régulent et utilisent la technique.
- Accord (§27 · mise en perspective) — Le pape confirme que la science peut dépasser les limites de sa méthode et que la voix de l’Église doit alors s’élever, ce qui rejoint l’idée que les risques réels de la technologie appellent une instance morale, même si cette voix est offerte pour servir la communion plutôt que pour dominer.
- Nuance (§93 · mise en perspective) — Le pape partage l’idée d’une technologie ambivalente, capable d’aider comme de nuire, mais il centre l’ambivalence sur l’accélération du paradigme technocratique et sur l’absence d’éducation de l’homme moderne pour son pouvoir, citant Guardini.
- Nuance (§174 · mise en perspective) — Le pape confirme la face dangereuse de l’ambivalence technologique, mais il nomme le risque : non un scénario abstrait, la dérive du pouvoir numérique vers de nouvelles atrocités quand la dignité humaine cesse d’être la fin des choix sociaux et politiques.
- Nuance (§183 · mise en perspective) — Le paragraphe partage l’idée que les technologies sont intrinsèquement ambivalentes, mais il insiste sur le versant du risque — seuil de la force abaissé, responsabilités opaques — et soumet l’ambivalence à des critères éthiques, ce que l’affirmation ne fait pas.
- Accord (§209 · mise en perspective) — Le paragraphe confirme la face dangereuse de l’ambivalence technologique : le risque est de coopérer, même sans le vouloir, à des projets qui alimentent de nouvelles formes de violence, de manipulation et de domination.
Citations (ordre chronologique)
2024-12-16 — Le Futurologue (YouTube)
« Je pense qu’il y a des risques existentiels. D’abord parce que nous rentrons dans une période où les manipulations génétiques vont être quasi gratuites. Il est possible que les implants intracérébraux se développent, même si ce n’est pas certain. L’intelligence artificielle »
- source: yt-hRs-A3M-1u8
- url: https://youtu.be/hRs-A3M-1u8
- type: directe
- t: 54:32
- traitement: qwen3.5:35b-64k+qwen3.8:27b, 2026-10-11
- verifiee: oui (outil, 2026-10-11)
2024-12-16 — Le Futurologue (YouTube)
« Donc la technologie est ambivalente, comme souvent, c’est une banalité. D’un côté, elle crée des risques existentiels, de l’autre, elle va nous permettre de supprimer des risques existentiels importants, comme les risques cosmiques liés aux astéroïdes et météorites »
- source: yt-hRs-A3M-1u8
- url: https://youtu.be/hRs-A3M-1u8
- type: directe
- t: 56:47
- traitement: qwen3.5:35b-64k+qwen3.8:27b, 2026-10-11
- verifiee: oui (outil, 2026-10-11)
2026-04-10 — LEGEND (YouTube)
« Geoffrey Hinton […] expliquait au Financial Times, j’estime qu’il y a 10% de chance que l’intelligence artificielle extermine la totalité de l’humanité d’ici 2044 »
- source: yt-BGNwtcNNzl8
- url: https://youtu.be/BGNwtcNNzl8
- type: directe
- t: 22:21
- traitement: qwen3.5:35b-64k+qwen3.8:27b, 2026-10-11
- verifiee: oui (outil, 2026-10-11)
2026-05-25 — Le Figaro (YouTube)
« Je suis un petit peu plus pessimiste ou en tout cas plus long-termiste que tout le monde. Moi, je ne suis pas sûr que l’espèce humaine va survivre à l’intelligence artificielle »
- source: yt-RhZpueDcoaU
- url: https://youtu.be/RhZpueDcoaU
- type: directe
- t: 0:22
- traitement: qwen3.5:35b-64k, 2026-10-11
- verifiee: oui (outil, 2026-10-11)
Évolution et contradictions
En 2019 (2019-10-30) il qualifiait les peurs de Musk et Gates d’erreur d’analyse ; en 2024 (2024-12-16) il reconnaît des risques existentiels réels ; en 2026 il doute que l’espèce humaine survive et avance un risque d’extinction en 2044. À relier à La rogue AI est possible à court terme.