L’impact des algorithmes dans le compte rendu et la perception des événements de Ferguson, le récent scandale impliquant les tests de Facebook sur les émotions ainsi que les attaques répétées de la presse européenne contre Google posent une nouvelle fois la question d’une autorité de contrôle des algorithmes.
Crédits @shutterstock Stephen John Purnell
Une idée absurde à première vue, tant elle s’apparente à une posture néo-luddite destinée à freiner l’innovation. Mais on contrôle bien les médicaments, les films, les émissions avant leur diffusion et le débat commence à émerger, y compris dans la presse la plus technophile (lire l’article de Sarah Perez dans Techcrunch : A most dangerous machine ou celui de Josh Constantine Ethics in a data driven world).
Pourtant, bien plus que la télévision, les algorithmes sont très clairement devenus, les premiers filtres de notre vision du monde, de notre réputation, de nos divertissements et de nos achats. Et ne nous leurrons pas, au-delà des GAFAs, les questions sur les conséquences économiques des algorithmes de pricing d’AiBnB (quand 2/3 des hôtes d’AirBnB ne travaillent pas à plein temps) et d’Uber, les icônes de l’économie collaborative s’intensifient chaque jour et méritent un débat ouvert.
Or aujourd'hui, contrairement aux instances de régulations de l’audiovisuel et des télécoms qui peuvent établir des règles claires en terme de concurrence et d’éthique, les algorithmes échappent à tout contrôle.
Algorithm Ethical Manager anyone ?
Mais sont-ils contrôlables ? Non, à cause de leur nature fluctuante par essence , l’algorithme de Google qui a compté 890 changements cette année n’a rien à voir avec le page rank de 1998. De plus, ils constituent le cœur des avantages concurrentiels des GAFAs (Google Apple Facebook Amazon), l’équivalent de la recette secrète du Coca. Une position parfaitement défendable devant les tribunaux. Qui pourrait dire où doit s’arrêter un tel contrôle et pourquoi serait-il limité à Google, Facebook et les plateformes Anglo-Saxonnes et pas aux petits sites d’e-commerce ?
Les algorithmes sont-ils donc par nature, au dessus des lois ? Doit on abdiquer la recommandation de tout aux machines ? Pire, sont-ils les ultimes détenteurs de l’autorité et devons nous nous habituer à leur rôle de filtres tous puissants ?
Sommes nous donc dans nos choix et comportements les derniers filtres (humains) possibles ? Et puis, après tout, sommes nous de si bons filtres ? Pas si sur…
Est-ce à dire que les nouveaux géants digitaux sont par nature définitivement incontrôlables ?
L’impression générale du marché est que les instances de régulation traditionnelles quel que soit leur rythme et leurs compétences travaillent avec 5 ans de retard sur les enjeux posés par les GAFAs. Eux-mêmes, équipés d’une armée de lobbyistes et d’avocats chevronnés maintiennent et creusent – en toute légalité leur longueur d’avance.
Chez les Digerati, et à un moment où même les spécialistes ont du mal à comprendre la complexité croissante des nouvelles technologies on avance l’argument massue que peu d’inspecteurs des finances, énarques ou commissaires européens sont réellement en mesure de comprendre un algorithme. Pire, les Etats débordés et surendettés confient de plus en plus les tâches de police aux Gafas comme l'a prouvé les démarches liées au droit à l’oubli confiées à Google, une sorte de concession éthique de service public….
Alors de là à contrôler les algorithmes et y apposer des limitations...Et au nom de quels principes s’enflamment les spécialistes du droit ?
Et puis il faut dire qu’ils sont bien pratiques ces algorithmes. Aucun utilisateur de Google Now n’osera affirmer le contraire...
Invité à parler devant le Conseil Européen l’année dernière, Richard Stacy, célèbre consultant en médias sociaux n’a pas maché ses mots «Les algorithmes sont l’outil de contrôle de foules le plus puissant depuis l’invention de l’épée». Ils contrôlent en effet la manière dont nous appréhendons l’information, comment nous nous divertissons et comment nous consommons.
Les algorithmes sont l’outil de contrôle de foules le plus puissant depuis l’invention de l’épée
Pourtant, un Conseil Supérieur des Algorithmes est donc encore loin voire carrément utopique. Selon un expert du secteur une solution consisterait à couper ou «nationaliser» les données car, nous précise-t-il «Contrôler les algorithmes est utopique mais un algorithme sans data tourne à vide». Une décision politique radicale aux conséquences vertigineuses qu'auncun pays n'oserait prendre isolément mais qui aurait le mérite de rebasculer le débat sur la valeur des données.
En attendant, et malgré les récentes prises de conscience dans le débat public et dans la presse, les algorithmes se marrent et les filtres avancent. Vite, seuls, incontrôlables...
