Twitter : un potentiel Frankenstein 2.0 ?

Les risques de potentielles dérives technologiques sont notamment mis en lumière dans l'analyse des « super entreprises de technologie » (Martin, Reference Martin, Régis, Benyekhlef and Weinstock2017). Ce faisant, Dominic Martin mettait en garde contre la perte de contrôle grandissante des géants de la technologie, conduisant à l'avènement du phénomène qu'il nomme « Frankenstein 2.0 ». Inspirée du populaire roman de Mary Shelley (Reference Shelley1818) et de l’ouvrage Frankenstein, Incorporated de Maurice Wormser (Reference Wormser1931), l'expression Frankenstein 2.0 renvoie aux grandes entreprises de technologie dont le contrôle échappe à leurs créateurs.

La volonté d'Elon Musk d'instaurer une liberté « absolue » d'expression au sein de Twitter pourrait, selon nous, conduire à une concentration substantielle de ressources informationnelles incontrôlées. En retour, cela risque d'accroître une désinformation d'ores et déjà bien présente (Verma et al., Reference Verma, Rohilla, Sharma, Gupta, Tiwari, Trivedi, Kolhe and Singh2023) et non souhaitée par les nouveaux gestionnaires du réseau social mis en place par le milliardaire. Qui plus est, si les fausses nouvelles ont un impact significatif sur la société (Verma et al., Reference Verma, Rohilla, Sharma, Gupta, Tiwari, Trivedi, Kolhe and Singh2023), il est difficile d'en cerner l'ensemble des effets négatifs, et ce, malgré les outils réglementaires en place. Cette perte de contrôle à portée de main semble faire de Twitter un potentiel Frankenstein 2.0 de premier ordre.Footnote ²

Derrière cette problématique, un enjeu plus général se profile : celui du pouvoir croissant des grandes entreprises de technologie, dont les dérives sont difficiles à contrôler par les gouvernements. Nikos Smyrnaios (Reference Smyrnaios2016) qualifie à ce titre les GAFAMFootnote ³ d'oligopole de l’internet, dans lequel « les acteurs oligopolistiques contrôlent un large éventail de technologies et de services, ce qui leur permet de dominer la quasi-totalité des activités en ligne ». À ce sujet, l'inventeur du web sémantique Tim Berners Lee s'inquiétait déjà en 2016 du pouvoir grandissant de l'internet, qui permet à la fois de contrôler ce que les utilisateurs voient et de créer des mécanismes pour influencer la façon dont les individus interagissent sur l'espace web. Cela est d'autant plus inquiétant, selon lui, qu'on observe « la domination d'un seul moteur de recherche [Google], d'un seul grand réseau social [Facebook] et d'un Twitter pour le microblogging » (cité dans Hardy, Reference Hardy2016). D'après Tim Berners Lee, le problème n'est alors pas seulement technologique, il est également social (cité dans Hardy, Reference Hardy2016). D'où l'importance pour les gouvernements de prendre des mesures adéquates destinées à prévenir toute dérive technologique défavorable à la société.

Quelques impacts des grandes entreprises de technologie sur la société

Dominic Martin (Reference Martin, Régis, Benyekhlef and Weinstock2017) propose de distinguer parmi les cinq particularités que partagent les « super entreprises de technologie » : des ressources économiques colossales, un accès privilégié aux données personnelles des individus, la maîtrise de technologies en lien avec l'intelligence artificielle (IA), et le développement actif de l'IA. Nous croyons pertinent de faire intervenir une sixième spécificité : la super entreprise de technologie est guidée par une stratégie de production mondialisée (Fontanel et Sushcheva, Reference Fontanel and Sushcheva2019). Autrement dit, ces entreprises font souvent appel aux profils les plus prometteurs dans le développement de logiciels, mais aussi à l’utilisation d'une main-d’œuvre à moindre coût, délocalisée, pour la production de matériel informatique. Cela leur permettrait d'optimiser leur capacité d'adaptation face à la demande des entreprises, des ménages et des institutions. Or, le concept de main-d’œuvre à moindre coût s’étend désormais de l'industrie de la production vers l'industrie de service, et ce mouvement vient bouleverser divers aspects socio-économiques.

Prenons l’exemple de l’entreprise Uber, une application de mise en relation d'utilisateurs avec des conducteurs réalisant des services de transport à l’origine de l'expression « uberisation », laquelle se rapproche de ce qu'on entend ici par « Frankenstein 2.0 ». D’abord accueillie comme un espoir de relance du marché du travail pour les chauffeurs, l'application Uber a rapidement conduit à l’émergence de « travailleurs précaires » ainsi qu’à la remise en cause de certains droits sociaux et ce, loin de l'idéalisme de l’économie du partage initialement prôné par les fondateurs de la compagnie (voir Euzen, Reference Euzen2017).

En conséquence, syndicats, gouvernements, militants et entreprises s’affrontent dorénavant régulièrement sur le terrain juridique, où les travailleurs de ces nouvelles plateformes, souvent chauffeurs ou livreurs, tentent de faire valoir leurs droits. Si bien qu’en France, l’Assemblée nationale a abordé la question des droits des chauffeurs Uber et autres livreurs, dans son projet de loi d’orientation des mobilités (LOM) du 3 juin 2019. Même scénario en Californie (États-Unis), où le Sénat a adopté un projet de loi qui vise à contraindre des entreprises comme Uber à accorder un statut d'employé à leurs chauffeurs. De plus, le modèle d’affaires d’Uber conduit à une exploitation du travail en tant que pilier d’une rentabilité accrue des grandes entreprises de technologie, ce qui ajoute une pression sur les coûts (Smyrnaios, Reference Smyrnaios2016). Aussi, l’absence de droits sociaux dans le cadre de ces emplois contribue à une dégradation considérable des conditions de travail (Smyrnaios, Reference Smyrnaios2016).

Au-delà des problématiques sociales engendrées par les activités de ces entreprises, la question de la technologie et des algorithmesFootnote ⁴ doit attirer notre attention. En 2017, l'entreprise Uber a ainsi été accusée d'avoir mis en place un système automatisé biaisé, lui permettant de contrôler l’activité des chauffeurs afin de manipuler le système de tarification et les données de navigation.Footnote ⁵ En employant un itinéraire souvent plus long à la fois en distance et en temps, l'application reversait moins aux chauffeurs, tout en augmentant les prix pour les passagers.

Möhlmann et Zalmanson (Reference Möhlmann and Zalmanson2017) ont quant à eux découvert que, pour échapper au contrôle d'Uber, des chauffeurs sont parvenus à déjouer les algorithmes de l'application. Pour ce faire, ces derniers ont trouvé un moyen de s'associer afin d'opérer une déconnexion de masse et, ainsi, forcer la « recrudescence » du prix des courses, en leur faveur. Avec ce stratagème, les chauffeurs annulaient les courses au tarif non attractif pour eux, notamment en évitant l'option UberPOOL. Footnote ⁶ Cela montre, selon Möhlmann et Zalmanson (Reference Möhlmann and Zalmanson2017), que la gestion algorithmique adoptée par Uber peut non seulement nuire à l'entreprise elle-même, mais également être éthiquement critiquable.

Dans le cas de Facebook, récemment rebaptisé Meta, le marché ne garantit pas que le modèle d'affaires et les technologies utilisées par cet acteur majeur de la technologie ne seront pas à l'origine de conséquences encore imprévisibles à ce jour (Acemoglu, Reference Acemoglu2019). Cela est particulièrement vrai vis-à-vis de la gestion des données personnelles des utilisateurs et des nouvelles en ligne, orchestrée par le réseau social. De son côté, Twitter, en promettant un contrôle moins accru de la nature des informations qui y circuleront et en rétablissant des milliers de comptes auparavant bannis (Chopra, Reference Chopra2023), pourrait donner libre cours à une désinformation massive propulsée par des algorithmes favorisant les contenus les plus partagés. Tous ces éléments peuvent nous conduire à imaginer un avenir dans lequel les grandes entreprises de technologie imposeront un pouvoir technologique de plus en plus autoritaire. En effet, les manifestations de l'autoritarisme ne sont pas réservées aux États ; elles peuvent se retrouver dans la volonté des grandes entreprises de changer notre monde à travers les technologies, dans une dynamique afférente au « haut modernisme » (Acemoglu, Reference Acemoglu2019). Développée par James Scott (Reference Scott1998), cette notion fait référence aux efforts en direction de la transformation de l’existence par l’intermédiaire de la science.

L'ouverture de la technologie et le renforcement de l'encadrement normatif des technologies pour réguler l'impact des géants du secteur technologique sur la société

Afin de pallier ces dérives technologiques, deux solutions proposées par Dominic Martin méritent d’être discutées. L’option de se tourner vers le logiciel libreFootnote ⁷ ou encore les technologies dites ouvertesFootnote ⁸ s'avère être une avenue encourageante, puisque le partage des connaissances semble à certains égards stimuler l’innovation et les avancées scientifiques.Footnote ⁹ Par ailleurs, un modèle ouvert pourrait tout aussi permettre d’éviter la prise de contrôle totale des technologies par des acteurs privés et, ainsi, empêcher que ces derniers n'abusent de leur pouvoir (Martin, Reference Martin, Régis, Benyekhlef and Weinstock2017). Quant à la seconde option, celle de réformer les lois existantes pour mieux encadrer certaines pratiques commerciales, on peut observer que le Règlement général sur la protection des données (RGPD), entré en vigueur dans l'ensemble des 28 États membres de l'Union européenne le 25 mai 2018, répond partiellement à cette proposition.

S’agissant de la réglementation et de l'encadrement normatif des technologies, on peut dans le même temps espérer une adaptation des lois pour renforcer les droits des gouvernements et des citoyens face aux grandes entreprises de technologie. Au Canada, quelques mesures sont à l’étude, à l'image du projet de loi sur les nouvelles en ligne (PL C-18, 2021), dite loi C-18, concernant les plateformes de communication en ligne rendant disponible du contenu de nouvelles aux personnes se trouvant au Canada, et visant à soutenir le secteur canadien de l'information.Footnote ¹⁰ Selon la porte-parole du ministre du Patrimoine canadien Pablo Rodriguez, l'objectif du projet de loi C-18 serait de faire en sorte que « les géants du web paient équitablement les éditeurs canadiens et les journalistes pour leur travail » (cité dans La Presse canadienne, 2022). Jean-Hugues Roy (Reference Roy2022) y voit quant à lui une mesure nécessaire « favorable à la redistribution de la richesse pour soutenir l'information » .

Une autre modalité législative visant à réglementer l'usage de la technologie et, plus précisément, des systèmes automatisés, a récemment été présentée au Parlement du Canada. Il s'agit du projet de loi C-27 sur la mise en œuvre de la Charte du numérique (PL C-27, 2022), dont l'objectif est de renforcer la législation canadienne sur la protection de la vie privée s'appliquant au secteur privé, d'établir des règles pour le développement et la mise en œuvre responsable de l'intelligence artificielle (IA) et de poursuivre la mise en œuvre de la Charte canadienne du numérique.Footnote ¹¹ Trois nouvelles lois y sont proposées, à commencer par la « Loi sur la protection de la vie privée des consommateurs », la « Loi sur le Tribunal de la protection des renseignements personnels et des données » et la « Loi sur l'intelligence artificielle et les données (LIAD) ».Footnote ¹² Toutefois, les mesures normatives visant à encadrer les pratiques des systèmes d'IA proposées au sein de la LIAD restent relativement timides face à d'autres propositions récentes, comme on peut le voir au niveau européen ou aux États-Unis.

La proposition de règlement (2021) du parlement européen et du conseil établissant des règles harmonisées concernant l'IA, dite législation sur l'intelligence artificielle (IA) ou AI Act, vise à traiter les risques liés à des utilisations spécifiques de l'IA de façon plus complète et à travers une méthodologie plus détaillée que la LIAD. Cette législation européenne sur l'IA classe en effet ces risques en fonction de trois niveaux distinctsFootnote ¹³ : inacceptable (interdisant les systèmes d'IA concernés) ; élevé (autorisant les systèmes d'IA concernés sous réserve d'une évaluation des exigences de conformité) ; et faible ou minimal (autorisant les systèmes d'IA concernés sans restriction), ce qui signifie tout de même un risque limité, nécessitant notamment des obligations de transparence lorsque les systèmes d'IA interagissent avec des humains. Cette proposition de réglementation européenne représente, à bien des égards, l'outil de régulation le plus avancé en matière d'IA jusqu’à maintenant.

Dans la lignée des mesures qui nous apparaissent comme adéquates, on retrouve également le projet de loi de 2022 sur la Responsabilité algorithmique, dit Algorithmic Accountability Act of 2022 (H.R.6580), présenté le 3 février 2022 à la Chambre des représentants et au Sénat américain. Il propose d’ordonner à la Federal Trade Commission (FTC) de promulguer des règlements qui obligent toute « entité couverte » à effectuer des évaluations d’impact et à satisfaire à des exigences concernant les « processus de décision critique augmentés », ou de toute autre utilisation de « systèmes de décision automatisés » susceptible d’avoir des effets juridiques ou plus généralement des impacts importants sur un consommateur.Footnote ¹⁴

Consolider la Loi sur l'intelligence artificielle et les données (LIAD) canadienne : éléments de comparaison et recommandations

Les mesures européennes et américaines semblent pour le moment plus détaillées que la LIAD canadienne, qui aurait intérêt à présenter une version plus aiguisée de sa proposition actuelle. Force est de constater qu’à l'inverse de la législation européenne sur l'IA, la LIAD n'interdit pas la création de potentiels systèmes de notation sociale de personnes physiques à l'initiative ou pour le compte des autorités publiques. Elle ne condamne pas non plus les systèmes prohibitifs de reconnaissance biométrique à distance et en temps réel. Or, ces deux pratiques, que l'on peut qualifier de dérives en la matière, portent pourtant atteinte au principe de non-discrimination et au droit à la dignité. Elles vont à l'encontre des valeurs de justice et d'égalité et interfèrent avec les libertés et les droits des personnes visées. De fait, il est urgent que la LIAD intègre ces spécificités et interdise les systèmes destinés aux pratiques similaires.

Au sujet des exigences relatives aux systèmes d'IA, le projet de loi de 2022 sur la Responsabilité algorithmique américaine (Bill H.R.6580, 2022) apparaît, là encore, plus complet que la LIAD. Il impose, entre autres, une évaluation et une documentation de la durée de stockage des informations d'identification pertinentes des systèmes d'IAFootnote ¹⁵ (et des décisions critiques issues de ces systèmes), ou encore d’éventuels impacts positifs et négatifs actuels et futurs de ces systèmes sur la confidentialité ou encore la sécurité. De son côté, la LIAD exige que le responsable d'un système d'IA évalue, conformément aux règlements, si ce dernier s'inscrit dans les systèmes à incidence élevée. Si cela est avéré, le responsable d'un tel système doit alors établir des mesures, conformes aux règlements, dans l'objectif de cerner, évaluer et atténuer les risques de résultats biaisés ou d'hypothétiques préjudices résultant de l'utilisation de ce système.

En somme, plusieurs arguments militent en faveur d'un renforcement des exigences de la LIAD au niveau de la gouvernance des données « algorithmiques ». En l’état actuel, elles se concentrent principalement sur la manière dont ces données sont anonymisées et sur l'utilisation des données anonymes que l'on retrouve dans les systèmes d'IA. En comparaison, la législation européenne encadrant les pratiques relatives aux systèmes d'IA est plus sévère et holistique. Elle s'intéresse, par exemple, à l'analyse des biais potentiels ou encore à la façon dont les données sont choisies, collectées et utilisées. La LIAD devrait, au minimum, en faire autant.

En matière de transparence, la LIAD introduit une transparence nuancée pour les systèmes à fort impact, ce qui englobe à la fois l'utilisation prévue et réelle. Dès lors, les gestionnaires des fonctions d'un système d'IA devront divulguer une explication claire de l'utilisation réelle d'un tel système, ainsi que de toutes les décisions, recommandations ou prédictions que ce système exécute. Or, la LIAD devrait aller plus loin et demander l'ouverture, c'est-à-dire l'accès, aux donnéesFootnote ¹⁶ – y compris d'apprentissage – utilisées par les algorithmes dont les décisions seraient susceptibles d'avoir une incidence sur les droits humains et/ou être éthiquement discutables, dans le respect du secret industriel et des restrictions réglementaires.

Dans ce cadre, si, effectivement, les algorithmes d'apprentissage automatiqueFootnote ¹⁷ nécessitent, en amont, un entraînement via l'utilisation de données jouant un rôle fondamental dans leur capacité de déduction, alors il est primordial de favoriser l'accès aux bases de données à l'origine de ces données d'apprentissage et aux modalités de leur sélection. Cela serait un moyen efficace et légitime de contrôler la portée de ces systèmes d'IA et d'en comprendre les biais, le cas échéant. La transparence par l'ouverture des données de traitement algorithmique, à laquelle on introduit ici la notion de « données algorithmiques ouvertes »,Footnote ¹⁸ permettrait de nous assurer que les systèmes d'IA concernés s'inscrivent dans une dynamique éthique et de prévenir une part substantielle des dérives technologiques présentes et à venir.Footnote ¹⁹ N'oublions pas que la plupart des systèmes d'IA les plus sophistiqués sont entre les mains de grandes entreprises de technologie, au pouvoir exponentiel et transnational, parmi lesquelles celles évoquées précédemment. En définitive, cela représente une occasion pour le gouvernement du Canada, qui encourage l’ouverture des données et les politiques en faveur des technologies, de redéfinir les règles du jeu.