Ressources numériques en sciences humaines et sociales OpenEdition Nos plateformes OpenEdition Books OpenEdition Journals Hypothèses Calenda Bibliothèques OpenEdition Freemium Suivez-nous

Algoritmos de consumo: discriminação, determinismo e solução online de conflitos na era da inteligência artificial | Dennis Verbicaro

Dennis Verbicaro,  Algoritmos de consumo: discriminação, determinismo e solução online de conflitos na era da inteligência artificial,  São Paulo: Revista dos Tribunais (Thomson Reuters), 2023, 360 p.

Compte rendu par Hugo José de Oliveira Agrassar (Universidade Federal do Pará et Centro Universitário do Pará),  João Olegário Palácios (Universidade Federal do Pará), Luciana Silva Rassy Palácios (Universidade Federal do Pará)

 

Le livre de Dennis Verbicaro[1] présente les résultats de sa recherche réalisée en 2023 à l’Université Complutense de Madrid et à l’Université de Salamanque. En mobilisant des notions de l’économie comportementale, l’auteur a voulu saisir les transformations survenues en matière de consommation, laquelle est impactée par les ruptures causées par les nouvelles technologies, et plus précisément l’intelligence artificielle. Pour cela, l’auteur centre l’analyse sur les effets de l’appropriation technologique de l’information, notamment les « coups de pouce » (nudges) et la manipulation des décisions, lorsqu’elles résultent des interactions avec des interfaces truquées (dark patterns). Il soutient que l’utilisation non réglementée de l’intelligence artificielle (IA) représente un vrai danger pour le consommateur.

À partir d’une analyse statistique des données fournies par la plateforme européenne de règlement en ligne des litiges de consommation, Dennis Verbicaro développe une étude comparative entre le modèle brésilien de résolution alternative de ce type de litige et ceux existant dans d’autres pays. En mettant en évidence le rôle de l’IA dans la résolution des conflits, il examine les stratégies d’accès à la justice par voie numérique, et les décisions prises par le biais de modèles algorithmiques. Selon lui, et c’est ce qu’il développe dans les premier et deuxième chapitres, la quatrième révolution industrielle (industrie 4.0) ne peut profiter aux consommateurs que si les entreprises pratiquent la responsabilité sociale, en s’alignant sur les différentes valeurs et les identités multiples des consommateurs. 

Dans le troisième chapitre de l’ouvrage, l’auteur s’attache à montrer comment fonctionnent les algorithmes, définissables comme une séquence finie d’instructions et de règles établies par un programme informatique et permettant d’instaurer des programmes, eux-mêmes composés d’une séquence finie d’actions exécutables, destinée à résoudre un problème ou à réaliser une tâche. C’est à ce niveau que peuvent apparaître des discriminations algorithmiques par rapport aux questions de genre, de race ou d’origine géographique.

Ainsi, en page 89, l’auteur présente une série d’indicateurs concernant ces problématiques et montrant la faible diversité sociale de ceux qui fabriquent les algorithmes : par exemple, en comparaison avec les données d’il y a trente ans, il constate une réduction substantielle du nombre de femmes diplômées en informatique :  seulement 26% des employés dans ce domaine étaient des femmes en 2013, alors qu’en 1990 ce pourcentage était de 35%, identique à celui de 1960. En 2018, Google a indiqué que 69 % des effectifs de l’entreprise étaient des hommes, dont 2,5% de personnes noires et 3,6% latino-américaines (à l’époque, chez Facebook, 4% des salariés étaient des personnes noires et 5% d’origine hispanique). La direction de Google comptait 74,5% d’hommes. Seulement 10% des personnes travaillant dans le domaine de l’IA et 12% des chercheurs de l’entreprise étaient des femmes.

À l’échelle de la recherche technologique mondiale, les indicateurs montrent que, au sein des grandes entreprises, l’écart homme-femme devient évident. Le taux de l’emploi féminin par GAFAM est le suivant : Apple (23%), Facebook (22%), Google (21%) et Microsoft (20%). S’agissant de ces taux à l’échelle nationale, l’auteur cite, à partir d’une autre enquête concernant la participation des femmes à la recherche technologique mondiale, quelques données : Pays-Bas (20,83%), Chine (14,07 %), États-Unis (13,43 %), Russie (10,53 %) et Inde (5,56 %).

Dans le quatrième chapitre du livre, Dennis Verbicaro constate l’existence d’un « déterminisme algorithmique » car, pour une même entrée, les algorithmes produisent toujours un même résultat, limitant ainsi la capacité algorithmique à gérer des situations complexes et imprévisibles. Il souligne alors l’émergence d’une consommation à caractère identitaire, et prône le développement de la responsabilité des entreprises algorithmiques (sixième et dernier chapitre). Dans ce contexte, la résolution des conflits en ligne peut s’avérer un atout pour le commerce électronique et l’entreprise concernée.

Le sixième chapitre est également consacré à la recherche empirique, et à l’analyse des rapports de la Commission européenne des quatre dernières années sur la plateforme européenne de règlement en ligne des litiges de consommation. L’auteur conclut que les relations de consommation se développent mieux dans le cadre d’un modèle intégré entre les entreprises, les autorités de régulation et les organismes de protection des consommateurs, capables ensemble d’identifier les données et d’intervenir pour réduire les problèmes actuels et les risques futurs.

Au moment de la pandémie du COVID-19, la résolution des conflits par le biais de la plateforme européenne a connu un développement  considérable, en augmentation de 30% à 40% par rapport à 2019 (notamment entre avril et juin 2020).  Les mesures de confinement social ont entraîné des annulations de voyages, impactant le secteur du tourisme, et un essor du commerce électronique. La conséquence en a été une hausse des conflits de consommation électronique qui, à leur tour, ont fait croître la demande d’outils électroniques pour résoudre ces conflits.

Enfin, Dennis Verbicaro met l’accent sur l’importance de l’action des autorités nationales de protection des données, et sur celle de la plateforme européenne de règlement des litiges de consommation en ligne pour réduire la vulnérabilité algorithmique à travers la mise en place de mécanismes de protection de la confidentialité des données, d’autonomisation algorithmique du consommateur, et de son intégration au marché numérique sur la base d’un nouveau modèle de démocratie participative.

Cette analyse de la consommation numérique à l’ère de l’intelligence artificielle incite à repenser les implications de l’IA dans la vie quotidienne. Il est nécessaire de renforcer la conscience sociale sur la nécessité de protection des individus et des droits du consommateur. Ce livre, en effet, nous rappelle que si la technologie peut être une alliée précieuse, elle exige une responsabilité urgente de la part des gouvernements, des entreprises technologiques, de la société de consommation et des autorités de protection des données. Seulement alors il sera possible de défendre les valeurs et les principes conduisant à la lutte efficace contre les effets possiblement pervers liés aux algorithmes.

 

[1] Post-doctorat (chercheur invité) de l’Université Complutense de Madrid-UCM et de l’Université de Salamanque-USAL. Docteur en droit de la consommation de l’Université de Salamanque-USAL. Courriel : dennisverbicaro@bol.com.br


OpenEdition vous propose de citer ce billet de la manière suivante :
ds (29 octobre 2024). Algoritmos de consumo: discriminação, determinismo e solução online de conflitos na era da inteligência artificial | Dennis Verbicaro. Droit & Société. Consulté le 16 février 2025 à l’adresse https://doi.org/10.58079/12l6q


Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.