§171

Un autre risque, moins visible mais non moins grave, est celui du contrôle social, rendu possible par la collecte massive de données et l’utilisation de systèmes algorithmiques. Lorsque chaque geste laisse des traces – déplacements, achats, relations, préférences –, un nouveau pouvoir se crée : celui de profiler, de prévoir et d’orienter les comportements, souvent sans que les personnes en aient pleinement conscience. Si ces données sont utilisées pour prendre des décisions qui ont une incidence sur des opportunités concrètes (accès au crédit, recrutement, services), on risque de porter atteinte à la liberté et de discriminer les plus vulnérables. De plus, le contrôle ne passe pas seulement par des interdictions explicites, mais par l’architecture de la visibilité : ce qui est amplifié ou rendu invisible, ce qui est récompensé ou pénalisé, finit par façonner les opinions et les choix, générant conformisme et autocensure. C’est pourquoi la liberté, à l’ère numérique, n’est pas seulement une question intérieure : elle est aussi une question publique, qui exige des règles claires, de la transparence, des voies de recours et des limites proportionnées à l’utilisation de technologies intrusives, afin que la technique reste au service de la personne et ne devienne pas une forme d’emprise des consciences.

Mise en perspective — MH §171

Ce paragraphe éclaire 2 affirmations d’auteurs : voir la page de mise en perspective.