Le phénomène « Social Dilemma ». Partie 2 : les fameux algorithmes

Après une première partie axée sur le documentaire et le dilemme qu’il expose, je continue aujourd’hui ma recherche autour des réalités qu’il dégage. The Social Dilemma a marqué un tournant dans ma vie, comme l’a fait Le Seigneur des Anneaux ou The Artist (et comme tout bon film doit

Alors que dans mon dernier article je vous parlais du réveil d’une génération, cette fois je creuse la piste des fameux algorithmes dont on entend autant parler, dans le documentaire et dans notre quotidien. Parce que c’est en rendant le problème plus clair, que nous pourrons l’affronter et trouver des solutions. Et pour cela je me servirais encore une fois de mes expériences et de la richesse du cinéma et l’audiovisuel.

Le problème moderne

J’ai découvert le terme « Big Data » en 2016 lors d’une conférence sur les nouvelles technologies à Caracas, ma ville natale. On en parlait très sérieusement, mais je le comprenais comme quelque chose qui se mettrait en marche dans un futur encore lointain. Certes, j’ai pu saisir quelques notions comme « données massives » ou « bases de données numériques », mais j’avoue : je n’ai pas du tout saisi les enjeux du phénomène.

Encore aujourd’hui, que je me rends compte que ce n’est pas une question du futur mais du présent, j’ai du mal à comprendre les concepts du monde de l’informatique. Et cela fait partie du problème : nous n’y connaissons quasiment rien et ça ne nous intéresse pas non plus. C’est alors que, The Social Dilemma est apparu pour ouvrir les yeux de toute une génération.

Pour comprendre le problème moderne il faut savoir qu’il n’y a presque pas de lois qui régulent ou contrôlent le monde numérique. Les gourous qui témoignent dans le documentaire l’expliquent bien : les pays les plus développés ont commencé récemment à les créer, certes, mais elles sont minuscules et elles apparaissent trop lentement. A défaut d’une législation adaptée, l’univers numérique se développe exponentiellement et sans limites depuis des années.

Les deux grands méchants de 2020 sont sans doute « le/la covid » et « l’algorithme ». Le premier je le laisse de côté pour un prochain article, et le second mérite une défense juste, car il pourrait ne pas être si méchant que l’on pense. En quelques mots : un algorithme est un simple système qui utilise des bases de données pour faire des prédictions (comme un économiste fait avec des statistiques, par exemple). Aujourd’hui, grâce à l’intelligence artificielle et aux quantités gigantesques de données réunies dans l’internet, les algorithmes permettent des choses inimaginables auparavant.

Souvent on s’en sert dans des manières utiles et très intéressantes. Comme celle qui est exposé dans l’épisode 5 de la série documentaire L'affaire Gabriel Fernandez de Brian Knappenberger, où on voit l’utilisation d’un modèle de prédiction du comportement, qui permet de savoir quels enfants sont en risque de maltraitance avant que cela arrive. Un progrès impressionnant pour les services d’aide à l’enfant !

On peut voir aussi des utilisations récentes dans cette conférence-spectacle de l’Université Fédérale Toulouse Midi-Pyrénées, où l’enseignant-chercheur Frédéric Dehais nous explique comment on utilise l’intelligence artificiel et des algorithmes pour améliorer les équipes homme-machine dans l’aéronautique.

Cependant, on peut s’en servir aussi des façons très malveillantes. Comme celle exploré par le documentaire The Great Hack: L'Affaire Cambridge Analytica de Karim Amer et Jehane Noujaim, où on constante comment ce système a permis de manipuler et d’influencer les élections présidentielles américaines de 2016, donnant comme résultat la victoire de Donald Trump.

En bref, les données des utilisateurs d’internet sont exploitées depuis un bon moment, sans qu’on le sache vraiment. C’est ce qu’on appelle « Data Minning » ou exploration de données en français. Et c’est cette technique de collecte de données ce qui pose problème aujourd’hui.

Les messages ciblés à partir des données démographiques n’ont rien de nouveaux. Depuis des années ils sont utilisés surtout en publicité pour mieux se diriger vers des groupes de clients potentiels.

Néanmoins, aujourd’hui « le modèle de publicité est dirigé et détaillé, et donc extrêmement efficace », selon Gustavo Entrala dans cette conférence de l’Université de Navarra.

Dans sa conversation avec le sociologue Javier García, Entrala (expert en nouvelles technologies et innovation) expliquait que c’est en fait le modèle économique des entreprises des réseaux sociaux ce qui crée un dilemme. Non seulement car il incite les gens à agir d’une façon particulière à un moment donné (consommation de contenus, achats, votations, etc.). Mais aussi parce qu’il modifie petit à petit nos habitudes individuelles et groupales, de manière imperceptible. Ce qui met en question notre droit naturel à la liberté, en tant qu’êtres humains.

A chaque problème une solution

Ce serait facile de penser que toute cette problématique n’est qu’une théorie du complot de plus parmi tant d’autres. Mais pour moi, la quantité de films, séries et documentaires qui traitent aujourd’hui ces sujets est une preuve incontestable de la véracité de cette réalité. Après tout « le cinéma est le miroir de la société ».

Le témoignage le plus complet et le plus travaillé dans The Social Dilemma est celui de Tristan Harris, car c’est un des activistes les plus engagés. Et il est, à mon avis, celui avec les arguments les plus logiques et les solutions les plus concrètes. Il prône une restructuration des nouvelles technologies vers une approche plus « humaine ». Avec des utilisations qui respectent le temps des personnes et qui les encouragent même à interagir d’une façon plus saine.

Tous les experts et activistes semblent être d’accord sur une chose. On ne peut pas bloquer le développement des nouvelles technologies, l’emploi d’algorithmes est inarrêtable à l’heure d’aujourd’hui. Ils constatent même qu’il y a du potentiel et admettent qu’il y a des bonnes utilisations. Mais il faut avoir un système de lois capable de contrôler et réguler leurs actions et leur portée.

Nuria Oliver, informaticienne réputée, expliquait dans une autre vidéo-conférence de l’Université de Navarra qu’il y a en effet un système de création d’algorithmes plus humain. Elle les appelle « Faten Algorithms », je vous laisse ici le PDF avec l’explication détaillée en anglais. Mais en résumé, c’est un cadre, une charte, qui encourage la création d’algorithmes basés sur des principes de justice, confiance, transparence, égalité, sécurité et bienveillance.

Ces mesures sont nécessaires pour éviter non seulement le contrôle de mases de la part des entreprises avec une vision commerciale. Mais aussi pour empêcher les abus de surveillance et de censure mis en place par nos gouvernements.

Comme on peut le remarquer dans le film Snowden d’Oliver Stone. Pour notre présent, et surtout pour le futur. Il faut que les personnes aient connaissance de l’existence de leurs données, et de la façon dont elles sont utilisées. Pour un avenir plus sain, où l’humain sera au centre et non pas sa capacité d’achat.

César Noguera Guijarro