§200 — Découlent de ces critères la traçabilité des décisions, le maintien d’un contrôle humain effectif sur la force létale, et des règles communes internationales freinant la course aux armements technologiques.
Chapitre 5 - La culture du pouvoir et la civilisation de l’amour › La culture du pouvoir › Armes et IA
Le texte du paragraphe — §200
De ces critères découlent certaines exigences incontournables. Tout d’abord, pour tout système utilisé dans un contexte de guerre, la traçabilité et la possibilité de reconstituer les décisions doivent être garanties, afin que les responsabilités et les éventuelles fautes ne se perdent pas dans l’engrenage. En second lieu, la décision de recourir à la force létale ne peut être déléguée à des processus opaques ou automatisés, mais doit rester sous un contrôle humain effectif, conscient et responsable. Enfin, il est nécessaire d’établir des règles communes, y compris au niveau international, qui freinent la course aux armements technologiques et assurent une protection particulière aux civils comme aux infrastructures essentielles à leur survie.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — Freiner l’IA est impossible et laisserait la Chine dominer : L’encyclique affirme la nécessité de règles communes au niveau international pour freiner la course aux armements technologiques, ce que Laurent Alexandre juge illusoire : un traité désarmerait seulement l’Occident et laisserait la Chine dominer.
- Accord — La classe politique ignore la technologie et doit rester aux mains des humains : Le pape pose la même exigence que Laurent Alexandre : la décision de recourir à la force létale ne peut être déléguée à des processus automatisés et doit rester entre les mains d’un contrôle humain conscient et responsable.