Re-thinking Being Human at Law in a World of Deceptive Design Patterns

L’impact des mécanismes de conception trompeuse, également connus sous le nom de « Dark Patterns », sur les utilisateurs de technologies numériques est sans précédent. À mesure que les êtres humains vivent de plus en plus de manière numérique, les entreprises technologiques profitent de ces tactiques manipulatrices dans les interfaces en ligne, celles qui trompent les utilisateurs et les amènent à prendre des décisions allant à l’encontre de leurs intérêts économiques, sociaux et de protection de leur vie privée. D’ailleurs, on voit émerger récemment un nouveau genre de mécanismes de conception trompeuse enrichis par l’intelligence artificielle (IA). Ces derniers ne visent pas seulement à tromper les utilisateurs ou à induire des erreurs de jugement, mais plutôt, à réorienter leur comportement, à influencer leurs valeurs, et à façonner leurs attentes.Bien que la littérature soit abondante sur les mécanismes de conception trompeuse, ce phénomène demeure peu étudié sur le plan juridique. Cette thèse présente un cadre théorique expliquant pourquoi et comment ce problème mérite l'attention du droit. Elle avance que les mécanismes de conception trompeuse et des mécanismes enrichis par l’IA ne subvertissent pas seulement l’autonomie des utilisateurs et leur capacité d’agir, mais reflètent aussi une altération profonde de la relation entre les individus et les technologies numériques. En d’autres termes, les mécanismes de conception trompeuse remettent en question la notion d’« être humain » au regard du droit, encourageant également un changement de paradigme dans les domaines juridiques qui régissent les technologies numériques, en faveur d’un cadre fondé sur les principes de protection et de loyauté. Cette thèse aborde cet argument sous forme de trois questions de recherche.La première question porte sur la façon dont la prolifération des mécanismes de conception trompeuse compromet la réflexion et le processus décisionnel dans les environnements numériques. Il est soutenu que ces stratégies exploitent les faiblesses cognitives et les défaillances du consentement, et par conséquent, subvertissent l’autonomie des utilisateurs et leur capacité d’agir comme sujets de droit. Par conséquent, les utilisateurs en tant qu’« êtres humains » se transforment en « choses humaines », devenant des sources de données et de revenus.La deuxième question traite de la croissance des mécanismes de conception trompeuse dans le contexte évolutif de la relation entre les humains et les technologies numériques. Dans le présent environnement numérique, les êtres humains sont réduits aux données, tel que signifié par la croissance des mécanismes de conception trompeuse. D’ailleurs, le déluge de données, en combinaison avec l’émergence de l’intelligence artificielle, précipite l’arrivée des mécanismes enrichis par l'IA, qui lient des algorithmes qui construisent des profils d’utilisateurs avec ceux qui visent à exploiter leurs vulnérabilités psychologiques pour influencer leur comportement. Encore une fois, les « êtres humains » ressemblent de plus en plus à des « choses humaines ». Au lieu d’utiliser les technologies numériques pour se définir, les utilisateurs sont conditionnés et rendus susceptibles d'être conditionnés par les processus technologiques. Le dernier chapitre se penche sur comment le droit peut restaurer l’aspect humain dans un monde envahi par les mécanismes de conception trompeuse. En Amérique du Nord et en Europe, les mécanismes de conception trompeuse sont partiellement réglementés par le droit de la protection de la vie privée, le droit de la protection des consommateurs, et des schémas de législation numérique. Cette thèse propose au contraire que le droit régissant les technologies devrait être repensé comme une « démarche protectrice », qui priorise le bien-être des utilisateurs de technologie, et abandonne l'approche traditionnelle consistant à équilibrer les intérêts des consommateurs et des entreprises. De plus, il serait nécessaire d’instaurer un « devoir de loyauté » envers les utilisateurs, pour forcer les industries technologiques à protéger les utilisateurs. En bref, la présence actuelle des mécanismes de conception trompeuse reflète simplement le choix de privilégier les profits au détriment des êtres humains – un concept que le droit se doit de renverser

Récupéré en direct depuis OpenAlex et désinversé. Les résumés ne sont pas conservés dans cette base de données : les index inversés représentent 8,6 Go des 9,3 Go de texte de la base, et le serveur dispose de 13 Go libres.