Ça rigole pas… Réflexion sur la « pensée » algorithmique

Prenant en février dernier une photo de 1963 bien connue des historiens et des amateurs d'art pour une image déplacée, un célèbre réseau social a considéré qu'elle ne respectait pas ses standards de moralité. Et a restreint pendant 24 heures l'activité du compte qui l'a publiée, avant de le suspendre quelques mois plus tard trois jours pour un trait d'humour mal interprété... La gigantesque entreprise comprend-elle ce que font ses algorithmes ?

Cette semaine, un de mes amis m’ayant envoyé via Facebook un lien vers une conférence donnée par Mme Delphine Horvilleur, rabbin/e passablement médiatique, sur le thème « L’humour juif », j’ai eu la bonne idée, pensant lui faire un clin d’œil, de lui adresser comme commentaire : « Arbeit macht frei ! »

Damned ! Que n’avais-je pas écrit là...

Lors d’une nouvelle incursion sur mon compte Facebook je tombai alors sur l’avertissement suivant : « Compte restreint. Il y a plusieurs restrictions sur votre compte. »

En cliquant sur la barre juste au-dessous indiquant « Voir restrictions », apparaissent successivement :

A la date de ma « saillie-incartade » Arbeit...
- Vous ne pouvez plus publier ou commenter pendant 3 jours
- Vous ne pourrez pas lancer de direct pendant 30 jours
- Vous ne pouvez pas faire de publicité pendant 30 jours

A une date antérieure (restriction avril 2021) :
- Vous n’avez pas pu publier ou commenter pendant 24 heures ;

A une date encore antérieure (restriction février 2021) :
- Nous sommes conscients que l’erreur est humaine, ce pourquoi nous n’avons pas restreint votre compte.

Pour les deux restrictions précédentes (avril et février 2021) la cause des restrictions était la publication d’une image « ne respectant pas les Standards de Fessebook1 concernant la nudité ou les actes sexuels » (sic), (à chaque fois, la même photo) :

Marcel Duchamp jouant aux échecs avec Eve Babitz

Comme vous le voyez, il s’agit d’une terrible photo, bien connue des historiens et des amateurs des arts.

Ces anecdotes révélant une police de la pensée exercée par la plateforme Fessebook nous conduisent à nous interroger sur une éventuelle pensée algorithmique (ou plutôt une non-pensée algorithmique) du fameux réseau social. De fait, il apparaît que la circulation des informations sur le réseau Facebook est régulée par des algorithmes.

Les algorithmes ne pensent pas !

Un algorithme est une suite d'instructions et d’opérations, en l’occurrence numérisées, - un ensemble d’indicateurs interconnectés constituants des processus informatiques - visant à de résoudre une classe de problèmes. Ceci dit, les instructions d’opération mises en œuvre ne tombent pas innocemment du ciel vêtues de probité candide.

Des philosophes, tels Wendell Wallach et Colin Allen ont justement soulevé des questions liées à l'implantation par les programmeurs de règles morales dans les algorithmes dits d'intelligence artificielle : « Aujourd'hui, les systèmes [automatiques] s'approchent d'un niveau de complexité qui exige qu'ils prennent eux-mêmes des décisions morales […]. Cela va élargir le cercle des agents moraux au-delà des humains à des systèmes artificiellement intelligents, des agents moraux artificiels ». Des agents moraux qui ne rigolent pas...

Il convient de ne pas oublier que la plateforme Facebook et ses réseaux connexes (Messenger, WhatsApp, etc.) sont une entreprise, qui, comme toute entreprise qui vise à réaliser des profits (pécuniaires, matériels, symboliques....) On connaît la figure de Marc Zuckerberg, président directeur général de Facebook dont la fortune, estimée à quelques 120 milliards de dollars, apparaît comme une des premières de la planète. Les algorithmes régissant la police de l’information sur ces réseaux dits sociaux visent à la rentabilité. Ce sont des « vérités » rentables qui sont ainsi véhiculées par ces plateformes. Mais il apparaît désormais au grand jour que ces algorithmes finissent par échapper à tout contrôle. De nombreux lanceurs d’alerte – et singulièrement d’anciens responsables de la plateforme Facebook – ont récemment dénoncé cette situation.2

Facebook ne comprend plus, ou comprend mal, ce que font ses propres algorithmes...

Dans des documents internes à l’entreprise, des ingénieurs avouent leur propre incompréhension face à un code informatique aux effets imprévus, qui fait du réseau social une machine complexe et difficile à maîtriser. C’est le sentiment qui émerge à la lecture des « Facebook Files ». Parmi les milliers de pages de documents internes à Facebook, récupérés par Frances Haugen, une ancienne employée, et transmis par une source parlementaire américaine à plusieurs médias, de nombreux passages semblent indiquer que Facebook ne comprend plus, ou comprend mal, ce que font ses propres algorithmes. Le réseau social tend à devenir une machine, sinon folle, du moins difficile à contrôler.

C’est ainsi que Roddy Lindsay, ex-ingénieur chez Facebook, écrit dans une tribune publiée en juin 2021 dans le New York Times : « Ces algorithmes […] perpétuent des biais et affectent la société d’une manière que leurs créateurs comprennent à peine. Facebook a eu quinze ans pour démontrer que les algorithmes de classement des contenus en fonction de l’engagement peuvent être conçus de manière responsable ; s’ils n’ont pas réussi à le faire jusqu’à présent, ils n’y arriveront jamais... Les agents moraux artificiels (AMA) ne sont pas cependant des agents moraux au sens fort du terme. Contrairement aux humains, ils ne semblent pas responsables de leurs actes. Ils n'ont toutefois pas besoin de l'être pour prendre des décisions moralement significatives et soulever tout un tas de questions en éthique des algorithmes. »

Ainsi, à travers la numérisation, les nouvelles technologies, avec le développement des algorithmes, ont bouleversé l’écosystème de l’information. C’est ainsi que nous sommes rentrés dans l’ère des autoritarismes numériques. Ça ne rigole pas.

Pour mémoire, on se souviendra également que l’image du tableau mondialement connu de Gustave Courbet L’origine du monde a été censuré par Fessebook.

L’origine du monde de Gustave Courbet...

La claire intelligibilité d’un texte, d’un geste, d’une image... commande que ceux-ci soient contextualisés. Manifestement les algorithmes ne semblent pas y parvenir.

Alors faut-il, in fine, restreindre le compte Facebook lui-même? Manifestement, la question se pose, comme en témoigne la récente couverture du célébrissime magazine TIME :

Couverture du magazine TIME, 8 octobre 2021
Votez !

« Le grand ennemi de l'art, c'est le bon goût »3

Quant à moi, nonobstant de satisfaire aux exigences de la police de la pensée conçue par l’algorithmique Fessebookienne, je m’en rapporte à l’humour de ceux de mes amis qui se trouvent être Juifs4 – et dont les parents ne sont pas revenus5 – prompts à rire de certaines situations, sans doute de peur d’avoir à en pleurer.

Ils suivent en cela – comme je m’applique à le faire moi-même – le conseil du docte François écrivant dans son adresse aux lecteurs de

La vie très horrificque du
Grand Gargantua
Père de Pantagruel
Jadis composée par M. Alcofribas
Abstracteur de quinte essence
livre plein de pantagruelisme

Amis lecteurs, qui ce livre lisez,
Despouillez-vous de toute affection,
Et, le lisant, ne vous scandalisez :
Il ne contient mal ne infection.
Vray est qu’ici peu de perfection
Vous apprendrez, sinon en cas de rire ;
Aultre argument ne peut mon cœur élire,
Voyant le dueil qui vous mine et consomme.
Mieux est de ris que de larmes escrire,
Pour ce que rire est le propre de l’homme.6

Amen


Notes
1 Ceci n’est pas un lapsus...
2 Roger McName ; Christopher Wylie (affaire Facebook/Cambridge Analytica : fuite des données de plus de 80 millions d’utilisateurs) ; Sophie Zhang, qui a travaillé chez Facebook de 2018 à 2020, a découvert que des réseaux de manipulation politique abusive et de harcèlement de partis d'opposition utilisaient Facebook de manière organisée, voire coordonnée, dans au moins 25 pays.
3 Marcel Duchamp.
4 Je n’opère pas, a priori, de distinction parmi les êtres humains, et à fortiori parmi mes amis...
5Cf. Marceline Loridan-Ivans, Et tu n’es pas revenu, Grasset, 2015.
6 Rabelais, Œuvres complètes, l’Intégrale, Seuil, 1973

Newsletter

Lisez la Lettre de Factuel

ABONNEZ-VOUS À LA NEWSLETTER !