§198

On parle parfois d’“agents moraux artificiels” comme si une machine pouvait garantir, avec plus de cohérence qu’un être humain, la distinction entre le bien et le mal. Mais le jugement moral ne se réduit pas à un simple calcul : il implique la conscience, la responsabilité personnelle et la reconnaissance de l’autre en tant que personne. Il n’est donc pas acceptable de confier à des systèmes artificiels des décisions mortelles ou, en tout cas, irréversibles. Il n’existe aucun algorithme capable de rendre la guerre moralement acceptable. L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données. Ainsi, elle nous habitue à l’idée que la violence est inévitable et qu’il suffit de l’optimiser. Il est donc primordial d’inculquer des valeurs et un jugement prudent dans la programmation des systèmes artificiels que nous construisons, lesquels peuvent contribuer à un écosystème moral dans lequel les êtres humains soient mieux à même d’écouter leur conscience et où les modèles d’IA fixent des limites appropriées.

Mise en perspective — MH §198

Ce paragraphe éclaire 2 affirmations d’auteurs : voir la page de mise en perspective.