Pouvoir et limites des algorithmes

Après les révélations des « Facebook Papers », il est nécessaire de mettre en place des mécanismes de régulation des algorithmes. La lanceuse d’alerte Frances Haugen a récemment montré la place prépondérante des algorithmes dans le fonctionnement des réseaux sociaux, et dans notre vie au quotidien.
Aurélie Jean, docteure en sciences numériques, spécialiste des algorithmes, fait un constat similaire dans son livre Les algorithmes font-ils la loi ? paru aux éditions de l’Observatoire.

                            
Image créée par un algorithme             Ordinogramme d'un algorithme

Elle donne quelques pistes pour mieux contrôler leur développement. Il est temps en effet d’encadrer la prolifération des algorithmes, ces ensembles logiques, qui envahissent de plus en plus notre quotidien. La récente intervention de Frances Haugen, ancienne ingénieure chez Facebook devenue lanceuse d’alerte, illustre l’importance de leur rôle en matière de réseaux sociaux. Ces lignes de code spécifiques à chaque plateforme ( Facebook, Twitter, TikTok…), ont selon elle des effets pervers comme des contenus polémiques, la recherche du sensationnel et le manque de transparence.

            
Aurélie Jean                                                                 Frances Haugen

Constat préliminaire: les programmes constitués d’algorithmes qui pilotent les applications informatiques sont indispensables à la vie de nos sociétés contemporaines. Pas moyen de s’en passer.

Sur la forme, les applications incitent les jeunes à privilégier leur apparence et à créer des rivalités en eux.
Sur le fond, la masse des informations diffusées a tendance à fausser le jugement, l’esprit critique. La tendance à ranger les individus en catégories a aussi tendance à les figer dans une catégorie donnée, quelque que soit leur évolution. C’est ce qu’on appelle « l’effet bulle » théorisé par Eli Pariser.  

      Eli Pariser

Ces algorithmes classent les personnes selon leurs goûts, leurs opinions, d’une façon générale leur comportement pour déterminer un profil personnel et un profil des comptes "amis". Ils pratiquent ensuite par "capillarité" choisissant une autre personne dont le profil est le plus proche possible du sien. D’où des effets de biais et d’erreurs, sans parler des possibilités de manipulation.

     L'algorithme de Google [1]

Dès lors, il faut absolument définir un cadre pour contrôler le processus algorithmique comme le souhaite l’Union européenne avec le Digital Services Act ou également le Congrès américain.

Si d’un point de vue technique, il est très difficile de décrypter un algorithme, il est en revanche plus facile et indispensable d’obliger les développeurs à documenter leurs programmes, leurs pratiques de développement, de présenter les jeux de tests et d’usages des algorithmes. Ce qu’on appelle parfois "la gouvernance algorithmique". Cette solution doit avoir un volet juridique définissant les obligations des sociétés de développement.

              
Algorithme sous forme de code                                        Algorithme de Prim

L’une de ces obligations doit reposer sur une explication de la méthode utilisée, la logique de fonctionnement des algorithmes pour déceler les bugs liés à des biais algorithmiques à partir de jeux de données, de simulations qui permettent une bonne approche de la faisabilité et de la fiabilité des algorithmes.

Depuis 2015, une ONG allemande Algorithm Watch s'intéresse aux conséquences de la prolifération des algorithmes et à leur contenu. D'autres initiatives ont suivi comme celle de l'informaticien Suresh Venkatasubramanian de l'Université de l'Utah, qui a élaboré des outils pour tester les algorithmes. Il faut dit-il, « demander des explications, ouvrir les codes, exposer leur fonctionnement interne, demander plus de responsabilité, de transparence, que les algorithmes ne perpétuent pas ou n'amplifient pas certains biais déjà présents dans la société ».

Il est ainsi grand temps de mettre de l’ordre dans ce qu’Aurélie Jean appelle "la jungle algorithmique", de mettre en place des procédures qui soient interactives et pédagogiques.

                   

Les algorithmes peuvent aider à orienter et manipuler les opinions, par exemple comme dans l’affaire Cambridge Analyca, l’exploitation frauduleuse de données d’utilisateurs Facebook par une société anglaise, au profit de Donald Trump et des partisans du Brexit.

Dans son roman L’amour sous algorithme, Judith Duportail démonte avec jubilation les rouages d’une manipulation à travers les algorithmes d’un programme censé lui trouver l’homme idéal.

                
Le lanceur d'alerte Christopher Wylie, ex directeur de recherche de Cambridge Analyca
Schéma général de l'Algorithme

Notes et références
[1] Un bel exemple du jeu du chat et de la souris : Google améliore constamment son algorithme car sinon les petits malins pourraient optimiser le classement de leur site WEB dans son moteur de recherche

Voir aussi
► Algorithme et relationnel --
► Aurélie Jean, De l’autre côté de la machine – Voyage d’une scientifique au pays des algorithmes, Poche, novembre 2020 --
► Le jeu de Nim en algorithme -- Dangers de l'intelligence artificielle --
► Enquêter sur les algorithmes -- L'informatique quantique --

 -------------------------------------------------------------------------------
<< Christian Broussas • Algorithmes © CJB  ° 05/11/2021  >>
-------------------------------------------------------------------------------