Interview. Le juriste américain Frank Pasquale enquête depuis quinze ans sur l’omerta chez les géants de la Silicon Valley. Il explique pourquoi les algorithmes créent de nouveaux rapports de pouvoir.
La société de la boîte noire: les algorithmes secrets qui contrôlent l’argent et l’information. Ce n’est pas le titre sensationnaliste de la prochaine grosse production hollywoodienne, mais celui du dernier livre de Frank Pasquale. Ce professeur de droit à l’Université du Maryland s’intéresse depuis quinze ans aux rapports entre la loi et les technologies de l’information dans leurs dimensions éthiques, sociales et commerciales.
Dans cet ouvrage sorti en 2015, il décrit comment les algorithmes, protégés par le secret commercial, créent des rapports de pouvoir dont il est impossible de s’extirper.
Frank Pasquale dénonce la constitution d’une élite surpuissante de la Silicon Valley – Google et Facebook en tête – qui s’acoquine avec les pouvoirs politiques pour s’arroger un avantage compétitif et assurer sa suprématie. Au cœur de ce pouvoir? Les algorithmes. Le chercheur nous explique pourquoi ces derniers ne sont pas neutres.
Dans votre livre sur le pouvoir des algorithmes et leurs secrets, vous faites descendre Google et Facebook de leur piédestal. Vous pointez en particulier les moteurs de recherche. Pourquoi?
J’ai commencé à m’y intéresser en 2003, lors du premier procès contre Google intenté par SearchKing. Ce moteur de recherche américain accusait Google de systématiquement le reléguer en bas de sa page de résultats. Google a eu gain de cause, car la justice n’a pas pu prouver si le géant avait délibérément tenté de se débarrasser d’un concurrent ou si le site de SearchKing chutait automatiquement dans les résultats parce qu’il était mauvais.
Encore aujourd’hui, il est impossible de savoir comment sont régis les algorithmes de Google, car ils sont protégés par le secret commercial. C’est un aspect des moteurs de recherche dont on ne parle pas.
Vous écrivez que ce pouvoir de Google et de Facebook s’exerce dans plusieurs secteurs, comme la finance et la défense. Vous dénoncez d’ailleurs l’émancipation d’une élite de la Silicon Valley, de plus en plus proche des pouvoirs politique, militaire et financier…
Le succès de Google et de Facebook ne vient pas uniquement du fait que ces entreprises engagent les meilleurs analystes de données et développent les meilleurs algorithmes. Elles le prétendent, mais tout cela se résume à de la communication. Si elles sont devenues si puissantes, c’est parce qu’elles ont su se rendre indispensables pour d’autres élites. Celles de Wall Street ou du Pentagone. Prenez l’exemple de Palantir, cette entreprise de la Silicon Valley spécialisée dans l’analyse des big data.
Elle travaille pour la NSA, la CIA et le FBI, mais aussi avec les secteurs de la défense américains et de la finance, comme Credit Suisse. Autre exemple avec les révélations d’Edward Snowden. Le monde a découvert la dépendance à Google et à Facebook du renseignement américain dans l’utilisation des technologies pour son programme d’espionnage. L’avantage compétitif des géants de la Silicon Valley vient donc aussi de leurs liens consanguins avec les pouvoirs politique, militaire et financier.
Vous soulignez que le pouvoir suprême, qui chapeaute tous les autres, est celui des algorithmes. Est-ce que nous vivons dans une dictature algorithmique?
Il ne s’agit pas d’une dictature, mais de l’expression des pouvoirs détenus par une petite élite et qui s’expriment de plus en plus de manière algorithmique. Le meilleur exemple est celui de Google News. Si je vais sous la section actualités, Google me propose une liste de publications de divers médias. Mais sur quels critères? Pourquoi tel site d’informations se trouve-t-il en tête de liste?
Parce qu’il fait davantage autorité? Je n’en sais rien. Dans le monde de Google, ce n’est plus la source ou la pertinence d’une information qui font autorité. Ce sont mes précédentes recherches, ainsi que les accords commerciaux passés entre Google et les médias. Les algorithmes de Google choisissent pour moi en fonction de ces critères.
En décembre dernier, une enquête du magazine britannique «The Observer» dénonçait le trucage du moteur de recherche de Google par de la propagande d’extrême droite. Il révélait que les neuf premiers résultats des requêtes sur les juifs, les musulmans, les Noirs et les femmes pointaient sur des sites antisémites, racistes ou misogynes. Peut-on parler de manipulation?
Oui, d’autant plus que, à la suite de cet article, Google a immédiatement revu son système de classement des résultats sans aucune explication. C’est inquiétant et cela soulève d’autres questions: qui a pris la décision de faire ces changements? Sur la base de quels critères? Comment Google a-t-il décidé? Que va-t-il faire à l’avenir?
Il s’agit bien évidemment d’une réponse hâtive à un article de presse, mais je trouve très troublant que les dessous de ce choix ne soient pas explicités publiquement. Nous devons savoir comment ce discours haineux a été favorisé, et qui se cache derrière sa suppression.
A vous lire, on se sent pris au piège d’un système que l’on ne maîtrise pas. Peut-on échapper à la «société de la boîte noire» et regagner notre libre arbitre?
Je l’espère, mais nous savons que c’est une bataille qui promet de durer de nombreuses années. Pour y parvenir, il faudrait contraindre les géants technologiques à lever un coin du voile sur les mécanismes en place dans leur boîte noire. Et cela passe par des lois. L’impact de la technologie sur la vie privée et la culture démocratique doit être au centre de l’élaboration des politiques sur l’internet.
Aujourd’hui, dans beaucoup de cas, le secret commercial se résume à l’appropriation des lois sur la protection de la vie privée par les entreprises. Ce sont elles qui dictent le tempo sur ces questions. Ce devrait être le rôle du gouvernement. A lui de surveiller et de définir le cadre de ces lois.
Les gouvernements ont un énorme pouvoir qu’ils n’utilisent pas du tout. Il faut combler ces lacunes réglementaires. En tant que citoyen, j’ai le droit de savoir quelles sont les données traitées par Google. Qu’en fait-il et combien gagne-t-il? Je n’exige pas de connaître la recette secrète de Google. Je plaide pour une transparence raisonnée encadrée par la loi chez les intermédiaires de l’internet. Sur ce point, l’Europe a une longueur d’avance sur les Etats-Unis.
