§105 — Pour que l’IA serve le bien commun, les responsabilités doivent être clairement définies à chaque étape, de la conception à l’usage ; le manque de transparence rend difficile l’attribution des responsabilités, d’où la nécessité de pouvoir identifier qui rend compte des décisions, les motive, les contrôle et répare les dommages.
Chapitre 3 › L’intelligence artificielle › Responsabilité, transparence et gouvernance de l’IA
Le texte du paragraphe — §105
Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, il est essentiel que les responsabilités soient clairement définies à chaque étape : depuis ceux qui conçoivent et programment les systèmes jusqu’à ceux qui les utilisent ou ceux qui décident de leur confier des choix concrets. Cependant, dans de nombreux cas, les processus internes qui mènent à un résultat peuvent manquer de transparence, ce qui rend plus difficile l’attribution des responsabilités et la correction des erreurs. C’est là que la responsabilité devient décisive, à savoir la possibilité d’identifier qui doit “rendre compte” des décisions, les motiver, les contrôler et, si nécessaire, les contester et réparer les dommages qui en dérivent.
Les affirmations qu’il éclaire
Laurent Alexandre
- Opposition — L’IA pourrait servir à gouverner sans corruption : Le pape exige que quelqu’un rende compte des décisions et puisse les contester : une IA ne peut être tenue pour responsable, la redevabilité ne se délègue pas au contrôle des données et du prompt.