L’usage des biais cognitifs afin d’influencer ou de tromper les consommateurs. Les dark patterns mis en œuvre par les places de marché, dénoncés par l’UFC-Que Choisir

15.07.2024

Malgré leur interdiction au sein de l’Union européenne, les dark patterns (ou interfaces trompeuses) continuent de prospérer sur les places de marché en ligne. Dans une récente étude, l’Union fédérale des consommateurs-Que Choisir (UFC-Que Choisir) alerte sur ces dérives et annonce saisir les régulateurs afin de sanctionner ces pratiques qui biaisent fortement les choix effectués par les consommateurs.

Une pratique omniprésente en ligne - Qui ne s’est jamais agacé en cherchant la commande permettant de refuser tous les cookies ? Qui n’a jamais été pressé de faire un choix par des indications en ligne du type « dernière place disponible à ce prix » ou encore « Trois autres acheteurs consultent cette offre en même temps que vous » ? Si le mot de dark pattern ne vous évoque rien à la première lecture, il y a peu de chance en réalité que vous n’ayez jamais été confronté à ces incitations très fréquentes en ligne, qui s’inscrivent dans le cadre de l’économie de l’attention. C’est à ce procédé que s’attaque l’UFC-Que Choisir dans son étude publiée en juin 2024.

Économie de l’attention - « Au-delà des données, l’attention des individus est devenue la principale ressource que les interfaces numériques cherchent à capter » (C. Zolynski, M. Le Roy et F. Levin, L’économie de l’attention saisie par le droit. Plaidoyer pour un droit à la protection de l’attention, Dalloz IP/IT 2019. 614 ). Aujourd’hui largement documentée, l’économie de l’attention « repose, entre autres, sur un alliage entre l’exploitation des données personnelles, des dispositifs de recommandation de contenus personnalisés grâce aux algorithmes, des mécanismes de fragmentation de l’attention, des récompenses aléatoires variables ainsi qu’un design sans cesse amélioré par des équipes de marketeurs, d’ingénieurs, de designers et de spécialistes des sciences comportementales » (ibid.). C’est sur ce modèle que sont fondés la plupart des services numériques proposés par les plateformes. Un ancien ingénieur de Google, Tristan Harris, a alerté sur ces pratiques en 2016 et contribué à fonder le mouvement Time Well Spent devenu Center for Humane Technology ayant notamment pour but de sensibiliser à l’existence de mécanismes intentionnels de capture de l’attention.

Dark patterns et biais cognitifs - Le terme de dark patterns (on parle aussi d’interfaces trompeuses ou de procédés manipulatoires) est né sous la plume d’un designer UX (user experience) londonien du nom de Harry Bignul en 2010, pour désigner des interfaces qui tirent parti des biais cognitifs humains afin d’inciter leurs utilisateurs à faire des choix de manière inconsciente. Les biais cognitifs sont « des réflexes de pensée humaine faussement logiques, inconscients et systématiques. À l’origine, leur fonction est de permettre au cerveau humain d’économiser du temps et de l’énergie en développant des raccourcis mentaux. Le concept de biais cognitif a d’abord été introduit par les psychologues Daniel Kahneman (prix Nobel d’économie en 2002) et Amos Tversky pour expliquer certaines tendances vers des décisions irrationnelles dans le domaine économique. Depuis, une multitude de biais intervenant dans plusieurs domaines ont été identifiés par la recherche en psychologie cognitive et sociale » (B. Jeulin, « Dark pattern » : comment le droit se saisit-il de l’exploitation de nos biais cognitifs ?, Village de la Justice, 26 août 2021).

Influence des dark patterns sur les consommateurs - L’étude expose certains biais particulièrement à l’œuvre sur les consommateurs comme l’effet d’ancrage, l’aversion à la perte, la surcharge informationnelle, l’effet de cadrage, l’effet d’actualisation hyperbolique ou encore le biais d’optimisme. Leur exploitation par les entreprises du numérique n’est pas un problème en soi, en effet les techniques de nudging peuvent être utilisées pour faciliter l’expérience des utilisateurs et les aider à trouver facilement les fonctionnalités qu’ils recherchent. En revanche, le problème se pose lorsque ces techniques sont employées à l’encontre de l’intérêt des utilisateurs. C’est tout l’enjeu de la question posée par l’usage des dark patterns qui incitent les consommateurs à « payer plus que nécessaire, acheter des produits inadaptés à leurs besoins ou parfois même non voulus, ou « consentir » à divulguer davantage de données personnelles, ou encore passer plus de temps que prévu sur les plateformes en ligne » (p. 3).

Influence des dark patterns sur la concurrence - Au-delà de fausser le comportement des consommateurs et de leur causer des préjudices directs, les dark patterns ont aussi un effet négatif sur la concurrence. Ainsi, « au lieu de rivaliser sur les caractéristiques de leurs produits, telles que la qualité et le prix, les entreprises peuvent être incitées à gagner des avantages concurrentiels grâce à des techniques exploitant les biais cognitifs des consommateurs » (p. 8).

Le cadre juridique applicable aux dark patterns - Bien qu’ils existent sur le marché depuis un certain temps, les dark patterns sont longtemps restés dans l’angle mort du législateur. La législation récente semble de plus en plus les prendre en compte. Dès 2021, des États comme la Californie ou le Colorado ont banni l’utilisation de ces procédés. Au sein de l’Union européenne, le Règlement général sur la protection des données personnelles (RGPD) et surtout les lignes directrices de mars 2022 ont apporté les premières bribes de réglementation en la matière (CEPD, 2022, Guidelines 3/2022 on Dark patterns in social media platform interfaces : How to recognise and avoid them).

Plus récemment, un texte les définit et les règlemente de manière explicite et directe : le règlement européen sur les services numériques ou Digital Services Act (DSA). Son article 25, intitulé « Conception et organisation des interfaces en ligne » énonce que « Les fournisseurs de plateformes en ligne ne conçoivent, n’organisent ni n’exploitent leurs interfaces en ligne de façon à tromper ou à manipuler les destinataires de leur service ou de toute autre façon propre à altérer ou à entraver substantiellement la capacité des destinataires de leur service à prendre des décisions libres et éclairées (…) ». Bien que le texte ait un champ d’application plus large, l’interdiction des dark patterns est limitée aux plateformes en ligne.

Le considérant 67 du texte apporte des éclairages sur cette interdiction : « Les interfaces en ligne trompeuses de plateformes en ligne sont des pratiques qui ont pour objectif ou pour effet d’altérer ou d’entraver sensiblement la capacité des destinataires du service de prendre une décision ou de faire un choix, de manière autonome et éclairée. Ces pratiques peuvent être utilisées pour persuader les destinataires du service de se livrer à des comportements non désirés ou de prendre des décisions non souhaitées qui ont des conséquences négatives pour eux. Par conséquent, il devrait être interdit pour les fournisseurs de plateformes en ligne de tromper ou d’encourager dans un sens les destinataires du service et d’altérer ou d’entraver l’autonomie, la prise de décision ou le choix des destinataires du service par la structure, la conception ou les fonctionnalités d’une interface en ligne ou d’une partie de celle-ci. Cela devrait comprendre, sans s’y limiter, les choix de conception abusifs destinés à amener le destinataire à exécuter des actions qui profitent au fournisseur de plateformes en ligne mais qui ne sont pas nécessairement dans l’intérêt du destinataire, en lui présentant des choix de manière biaisée, par exemple en accordant davantage d’importance à certains choix au moyen de composantes visuelles, auditives ou autres, lorsqu’il est demandé au destinataire du service de prendre une décision.

Cela devrait également inclure le fait de demander à plusieurs reprises à un destinataire du service de faire un choix lorsque ce choix a déjà été fait, de rendre la procédure d’annulation d’un service nettement plus compliquée que celle de s’y inscrire, de rendre certains choix plus difficiles ou plus longs que d’autres, de rendre excessivement difficile l’interruption des achats ou le fait de quitter une plateforme en ligne donnée permettant aux consommateurs de conclure des contrats à distance avec des professionnels, de tromper les destinataires du service en les incitant à prendre des décisions sur des transactions, ou d’appliquer des paramètres par défaut très difficiles à modifier, et d’influencer ainsi de manière excessive la prise de décision des destinataires du service, d’une manière qui altère et entrave leur autonomie, leur prise de décision et leur choix (…) ».

Ce dispositif reste subsidiaire. À titre principal, c’est le droit des pratiques commerciales déloyales (C. consom., art. L. 121-1) qui a vocation à s’appliquer aux interfaces trompeuses. Dès lors, si un dark pattern est déjà interdit en application du droit commun, le DSA n’a pas vocation à s’appliquer.

Une typologie des dark patterns proposée par l’UFC-Que Choisir

Dans un domaine encore en construction, bien que certains dark patterns soient visés expressément par la loi, « il n’en existe pas de liste définitive et exhaustive » (p. 11). Pour cette raison, l’étude, en se fondant sur la recherche en la matière, établit une typologie des dark patterns. Ces derniers sont classés selon deux critères : leur appréciation juridique conformément à l’article 25 du DSA et leurs effets principaux sur le comportement des consommateurs.

Leur appréciation juridique conformément au DSA - La définition donnée par l’article 25 du DSA est relativement large et permet d’englober une grande partie des dark patterns. Néanmoins, des incertitudes persistent. En effet, la nature subjective de certains dark patterns ne permet pas toujours de savoir s’ils peuvent ou non tomber sous le champ d’application de l’article 25. L’alinéa 3 de cet article prévoit la possibilité pour la Commission de prendre des lignes directrices qui permettrait de clarifier ce point, mais à ce jour, la Commission ne s’en est pas encore saisi. Sur la base de ce critère, l’UFC-Que Choisir a choisi de hiérarchiser les dark patterns selon trois critères : les dark patterns mentionnés explicitement dans le DSA, ceux basés sur des critères objectifs et ceux basés sur des critères subjectifs (par exemple, un message indiquant un stock limité crée généralement un sentiment d’urgence, poussant les consommateurs à effectuer un achat, bien qu’il puisse aussi fournir une information utile dans certaines conditions).

L’effet sur le comportement des consommateurs - L’UFC-Que Choisir tente de systématiser à travers cet autre critère les quatre catégories principales d’interactions que les consommateurs peuvent être amenés à effectuer à travers les dark patterns. Selon l’étude, les dark patterns peuvent pousser le consommateur soit à acheter un produit ou souscrire un service, soit à consentir au partage de ses données personnelles, lesquelles pourraient ensuite être monétisées en les repartageant avec d’autres entreprises et pour des finalités publicitaires, soit à passer du temps sur un site web ou une application, soit enfin à choisir un service par défaut, par exemple un moteur de recherche, un système d’exploitation ou un navigateur, dans l’objectif d’étouffer la concurrence. L’étude fournit un tableau très instructif sur la typologie de chaque dark pattern identifié par l’étude, que nous vous invitons à consulter (p. 16)

Les dark patterns sur les places de marchés de ligne

Bien que la pratique des dark patterns soit fréquente sur un grand nombre de services en ligne, l’étude se concentre sur ceux présent sur les places de marché en ligne. Elle aboutit à plusieurs constats sur lesquels nous allons revenir brièvement.

Toutes les places de marchés utilisent des dark patterns - Les dark patterns sont omniprésents sur les places de marché en ligne. En effet, sur l’échantillon de vingt places de marché étudiés par l’UFC-Que Choisir, toutes utilisent des dark patterns. Ce constat est d’autant plus étonnant qu’il a été réalisé en mars 2024, soit postérieurement à l’entrée en vigueur du DSA qui pose une interdiction explicite. Le nombre de dark patterns utilisés varie grandement selon la place de marché. Celles en comptant le plus grand nombre sont Temu, AliExpress, Amazon et Vepee et celles en comptant le moins sont Vinted et Decathlon (p. 19). Selon l’UFC-Que Choisir, ce qui semble distinguer les places de marché basées en Chine et les autres n’est pas tant le nombre de différents types de dark patterns utilisés, mais plutôt « leur fréquence et leur caractère envahissant sur ces plateformes ». L’étude démontre que les places de marché américaines ou françaises utilisent une large palette de dark patterns, à un niveau comparable aux plateformes chinoises. Relevant des dark patterns sur des sites d’e-commerce classique qui ne sont pas des places de marché, l’étude propose d’élargir l’interdiction « au-delà des places de marché pour protéger de manière adéquate les consommateurs en ligne ».

Certains dark patterns sont plus courants que d’autres - Après avoir classifié ces interfaces trompeuses et révélé les places de marché qui en utilisent le plus, la suite de l’étude indique que tous les dark patterns « n’ont pas le même degré d’envahissement ». En effet, certains semblent plus fréquents que d’autres. Les plus courants sont les manipulations visuelles, l’obligation de créer un compte client et les prix barrés trompeurs. À l’inverse, la ludification, la surcharge d’information et les prix cloisonnés sont relativement rares. Autre enseignement, l’étude montre aussi que les dark patterns sont légèrement plus courants sur les applications mobiles que sur les sites web, un élément qui peut s’expliquer « par le fait que les places de marché ont plus de contrôle sur la conception des applications par rapport aux sites web, qui doivent par exemple respecter les spécifications des navigateurs » (p. 20). Aussi, l’étude souligne que les places de marché utilisent souvent plusieurs dark patterns en combinaison « afin de renforcer leur effet sur le comportement des consommateurs ». La fin de l’étude illustre, à l’aide de captures d’écran particulièrement éclairantes, ces nombreux procédés à l’œuvre sur les places de maché en ligne. L’UFC-Que choisir indique pour terminer qu’elle saisit la DGCCRF et la Commission européenne afin d’alerter sur ces pratiques, d’initier des enquêtes complémentaires et de sanctionner ces agissements contraires au DSA.

Et maintenant ?

Les potentialités du DSA sont immenses, mais les autorités de contrôle ont beaucoup à faire. On ne peut que se réjouir que la société civile se saisisse de ces questions cruciales qui permettront de faire vivre le texte et d’améliorer l’expérience des consommateurs. Les possibilités de la Commission et de la DGCCRF sont désormais multiples. Une affaire à suivre !

UFC-Que Choisir, Dark patterns dans l’e-commerce, juin 2024