§107 — L’alignement de l’IA sur les valeurs humaines ne suffit pas : le code éthique doit pouvoir être débattu et soumis à des critères de justice sociale partagés, faute de quoi une poignée imposera sa morale comme infrastructure invisible ; il faut une politique plus présente, capable de ralentir et de protéger les espaces de participation.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §107
Nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine, ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés. Sans cela ceux qui contrôlent l’IA imposeront leur propre vision morale qui deviendra l’infrastructure invisible des systèmes. Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — L’IA pourrait servir à gouverner sans corruption : Le pape juge inutile une IA plus morale si cette morale est décidée par une poignée : le contrôle technique des données et du prompt ne suffit pas, le code éthique doit être débatté selon des critères de justice sociale partagés.
- Nuance — Le versant social et humaniste du progrès technologique reste à travailler : Le pape rejoint l’idée que le versant éthique et social du progrès reste à travailler, mais il pose une condition que l’auteur ne pose pas : ce versant doit être décidé collectivement, non par quelques-uns.