§100 — L’IA peut être une aide précieuse mais demande une approche vigilante dans l’usage personnel : la facilité du résultat habitue à déléguer et affaiblit le jugement, l’impression d’objectivité masque les paramètres culturels des concepteurs, et la communication imitée peut donner l’illusion d’une relation avec un sujet authentique.
Chapitre 3 › L’intelligence artificielle › Une aide précieuse qui requiert de l’attention
Le texte du paragraphe — §100
À la lumière de ce que nous venons de dire, nous pouvons mieux comprendre pourquoi l’IA peut être une aide précieuse tout en nécessitant une approche mesurée et vigilante. Ces dernières années, son utilisation à des fins privées s’est considérablement développée et de nombreuses voix s’élèvent pour réfléchir aux opportunités et aux risques liés à sa diffusion rapide. Dans un usage personnel, trois aspects en particulier doivent être pris en compte : la facilité d’obtenir un résultat, l’impression d’objectivité et la simulation de la communication humaine. La rapidité et la simplicité avec lesquelles il est possible d’obtenir des indications, des élaborations complexes, des contenus médiatiques et des formes d’assistance concrète simplifient nos vies, mais peuvent aussi nous habituer à trop déléguer et à rechercher des réponses immédiates, affaiblissant notre jugement personnel et notre créativité. L’impression d’objectivité que les réponses et les propositions de ces systèmes peuvent susciter risque de nous faire oublier qu’elles reflètent les paramètres culturels de ceux qui les ont conçus et formés, avec toutes leurs qualités et leurs défauts. L’imitation artificielle d’une communication humaine positive – paroles de conseil, d’empathie, d’amitié, d’amour – peut s’avérer gratifiante et même utile, mais chez des utilisateurs peu avertis, elle peut induire en erreur et donner l’illusion d’être en relation avec un sujet personnel authentique. Lorsque la parole est simulée, elle ne construit pas une relation, mais son apparence. L’imitation artificielle de la relation de soins ou d’accompagnement peut devenir dangereuse lorsqu’elle s’insinue dans un contexte pauvre en relations et en affections réelles : le risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre.
Les affirmations qu’il éclaire
Laurent Alexandre
- Nuance — Découvrir les nouvelles technologies par des usages légers est sans problème moral : Si l’usage personnel de l’IA est reconnu utile et simplifie la vie, le paragraphe pose des conditions morales que l’affirmation ne retient pas : trois aspects exigent vigilance, car la délégation, l’objectivité apparente et la relation simulée comportent des risques.
- Accord — Devenir amoureux de ChatGPT est dangereux : Le pape rejoint l’inquiétude sur les attachements affectifs à l’IA : l’imitation artificielle de l’amitié ou de l’amour peut induire en erreur les utilisateurs peu avertis et, dans un contexte pauvre en relations réelles, faire perdre le désir de rechercher véritablement l’autre.
- Accord — Prompter soi-même préserve l’effort intellectuel : L’encyclique partage l’attention portée à l’effort intellectuel : la rapidité et la simplicité des réponses peuvent habituer à trop déléguer et affaiblir le jugement personnel et la créativité.