[7]
Titre : Ce que les pouvoirs gagnent à tout savoir de nos vies
Intervenants : Bernard Harcourt - Xavier de La Porte
Lieu : Émission Le code a changé, France Inter
Date : avril 2020
Durée : 38 min 20
Écouter le podcast [7]
Présentation de l'émission [8]
Licence de la transcription : Verbatim [9]
Illustration : Bernard Harcourt en janvier 2019, Wikimedia Commons [10] - Licence Creative Commons Attribution-Share Alike 4.0 International [11]
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.
Description
Une histoire de la surveillance, depuis les « mouches » de Louis XV jusqu'aux GAFAM, avec une grande nouveauté : aujourd'hui, c'est nous qui nous exposons volontiers.
Transcription
Xavier de La Porte : Bernard Harcourt c’est tout ce que j’aime chez les intellectuels de la côte Est des États-Unis. Il est charmant, bien habillé, il donne l’impression d’être intéressé par tout ce qu’on lui dit et en même temps il est hyper-radical, c’est-à-dire qu’il est capable de raconter et d’écrire des choses d’une dureté totale envers l’État américain, envers certaines grandes entreprises du numérique, envers le pouvoir en général, mais avec une voix toute douce, ses petites lunettes cerclées, son costume d’un goût parfait, un Français bercé de son bel accent new-yorkais et l’air de presque plaindre son interlocuteur de ce qu’il est en train de lui raconter.
J’avais envie de rencontrer Bernard Harcourt pour plusieurs raisons. Déjà, dans sa vie d’avocat, Bernard Harcourt défend des condamnés à mort. Bon, même si ça n’a pas grand-chose à voir avec le numérique, ce n’est pas rien ! Ensuite, dans sa vie de philosophe du droit, il a travaillé sur la police et la justice prédictives, c’est-à-dire sur l’utilisation d’algorithmes pour aider la police et la justice à faire leur travail et j’ai envie de l’entendre sur ces sujets.
Et puis j’ai aussi envie de le rencontrer parce qu’il a une théorie intéressante qu’il a développée dans son dernier livre paru en français, La Société d'exposition. Selon lui, les technologies numériques nous ont fait entrer dans une nouvelle ère qu’il appelle donc la société de l’exposition, une société qui a créé en nous le désir de nous exposer, sur Internet notamment, et qui organise l’exploitation de ce désir à la fois pour nous vendre des marchandises mais aussi pour nous surveiller.
Je voulais parler de tout ça avec Bernard Harcourt mais sans être certain que ça allait ensemble : les condamnés à mort dans leur prison d’Alabama, les flics américains qui utilisent des programmes qui leur disent où trouver les délinquants, notre envie d’être « likés » sur Instagram, ça n’est quand même pas exactement la même chose tout ça.
Voix off : Xavier de La Porte – Le code a changé
Xavier de La Porte : Et puis, quand il s’installe, Bernard Harcourt se met à parler d’encore autre chose. Il se met à me raconter l’histoire d’un Français qui a vécu au milieu du 18ème siècle, sous Louis XV, qui s’appelait Jean-François Guilloté et dont je n’avais jamais entendu parler.
Bernard Harcourt : C’était un petit inventeur excentrique. Un jour, il s’est dit qu’il fallait inventer un système pour tout savoir sur tout le monde à Paris. Donc il a inventé tout un système de démarquage, de délignage de tous les quartiers avec des numéros, avec cette idée d’avoir des numéros sur les bâtiments. Bizarre comme idée ! Comme invention ! Donc tout décortiquer pour qu’on puisse savoir exactement la localisation de chaque morceau d’information, avoir toutes les informations des mouchards et des gens qui donnaient de l’information à la police et les rassembler en un endroit pour que les commissaires puissent tout savoir sur chaque personne, chaque lieu, chaque endroit. L’idée c’était que derrière le bureau du petit commissaire il y avait des serre-papiers énormes, c’étaient des roues qui tournaient.
Xavier de La Porte : Des roues en bois j’imagine.
Bernard Harcourt : Des roues en bois, et dans ces roues en bois on mettait tous les petits morceaux de papier et ça tournait avec un truc sur le pied, on tapait avec le pied pour arriver à l’endroit. C’était bien sûr de l’imagination pure, une invention pure, très excentrique, mais c’était pour avoir les connaissances totales, parfaites, transparentes, sur chaque individu.
Xavier de La Porte : Je n’avais jamais entendu parler de cette invention qui, manifestement, n’a pas vu le jour, on l’aurait su. En revanche, on sait que Louis XV avait mis en place tout un système de surveillance de la population parisienne. C’est la grande historienne du 18e siècle, Arlette Farge, qui l’a beaucoup raconté. Elle a parlé de ces mouchards que mentionne Bernard Harcourt ; ces mouchards, à l’époque, on les appelait des mouches. C’était des gens payés par la lieutenance de police de Paris pour rendre compte de ce que disait la population. Ces mouches traînaient dans les cafés, dans les théâtres, sur les places et les marchés, en faisant part ensuite chaque jour, à la police, de ce qui était raconté. C’était un moyen pour le roi de savoir tout ce qui se racontait, tout ce qui préoccupait le peuple et presque en temps réel. Ça manifestait une inquiétude assez forte de la part du pouvoir, qui n’a pas eu complètement tort, mais, en attendant, le système était très bien rodé et, malgré tout, Louis XV n’a pas voulu de l’invention de Guilloté.
C’est drôle de raconter cette histoire, mais pourquoi nous parler de ça ?
Bernard Harcourt : Le petit bonhomme qui se retrouve devant cette roue, en fait ce n’est pas différent de Snowden1 qui se trouvait devant son ordinateur et qui pouvait, avec un coup de doigt plutôt que de pied, retrouver toute l’information qu’on aurait voulue sur une personne, comme ça, en mettant le code, les mots, en mettant une indication, ce que ce cher Guilloté avait imaginé. On est arrivé à le faire avec le numérique et en utilisant nous-même comme les indics. On n’a pas besoin de mouchards pour tout ça, on met l’information sur Facebook, sur Twitter, on met l’information quand on fait une recherche Google ou bien quand on achète quelque chose sur Amazon, donc on donne toutes nos informations et c’est comme si on remplissait ce serre-papiers nous-même.
Xavier de La Porte : La différence entre la machine imaginée par Guilloté et les logiciels qu’utilisait Snowden quand il était encore à la NSA c’est d’abord que l’une était un fantasme et les autres une réalité. La différence entre les logiciels de la NSA et le système mis en place par Louis XV c’est que l‘information, aujourd’hui, on la donne volontairement. Plus besoin de mouches, pas besoin de contraintes. Bon, d’accord !
Avant de comprendre pourquoi on fait ça, je voudrais comprendre autre chose. Si un tel système existe déjà au 18e siècle et qu’il y a des gens comme Guilloté pour imaginer des machines comme celle que nous a décrite Bernard Harcourt,cela signifie que la lubie de tout savoir de sa population n’est pas aussi récente qu’on croit dans l’histoire politique.
Bernard Harcourt : Ce qui a changé c’est, bien sûr, la technologie, mais, à travers la technologie, les coûts financiers.
La meilleure indication de ça, c’est ce slide PowerPoint de Snowden qui nous a montré comment la NSA captait toute l’information de Apple, Google, Facebook, Yahoo, YouTube, etc. Ça coûtait 20 millions de dollars. Le programme coûtait 20 millions de dollars par an. Ce n’est rien ! 20 millions de dollars pour un système qui capte toute notre information ; c’est un tiers du coût d’un avion pour l’armée américaine ! C’est la rénovation des toilettes au Pentagone, vraiment ! Ce n’est rien 20 millions de dollars ; ils arrivent à tout savoir à aucun coût.
Xavier de La Porte : Donc voilà. Si Louis XV n’a pas voulu de l’invention de Guilloté, ce n’est pas parce qu’il n’avait pas envie d’en savoir plus sur ses sujets, mais sans doute parce que ça lui aurait coûté trop cher. Et si la NSA a mis en place tout le système qu’a dévoilé Snowden c’est parce que ça ne lui coûtait presque rien.
C’est drôle ça, enfin drôle, je m’entends, disons que c’est cocasse de se dire que c’est l’argent qui définit le périmètre de la surveillance que l’État exerce sur ses citoyens, l’argent et pas des limites, je ne sais pas, des limites philosophiques, morales, ou même politiques. Mais si on admet que cette pulsion de surveillance existe depuis longtemps, eh bien elle n’a pas toujours pris les mêmes formes, ne serait-ce parce que les moyens n’étaient pas les mêmes.
Et si on remontait à la Grèce antique par exemple, c’était quoi le modèle d’organisation du pouvoir dans la Grèce antique ?
Bernard Harcourt : Dans l’Antiquité, le système de pouvoir architectural, c’était d’avoir dans une arène, dans un amphithéâtre, beaucoup de monde qui regardait une seule personne. Ce que Foucault nous avait montré, c’était qu’il y avait eu ce renversement et que, à l’ère moderne, on a inventé le système où une seule personne, au milieu, peut tout voir de nous.
Xavier de La Porte : Ça c’est le panoptique2 de Bentham.
Bernard Harcourt : Ça c’est le panoptique de Bentham, c’est toute l’architecture qui renverse l’amphithéâtre, où il y a donc quelqu’un au centre qui peut tout voir. Mais c’était souvent très cher. Il fallait bâtir des constructions, il fallait bâtir des prisons panoptiques, il fallait avoir tout un système de discipline. Quand on pense au panoptisme des années 1970, c’est encore un système assez coûteux. Par exemple, dans le système Stasi de l’Allemagne de l’Est, il fallait presque une personne entière pour vraiment suivre quelqu’un.
Xavier de La Porte : Ou plus !
Bernard Harcourt : Ou plus. Il fallait implanter des micros, il fallait être à l’écoute, il fallait utiliser des micros à longue distance, il fallait les porter. On utilisait de l’électronique, mais c’était presque de l’analogique ; il fallait les corps, et les corps c’est cher.
Xavier de La Porte : Tout de suite, évidemment, on pense à La Vie des autres, le film de Florian Henckel von Donnersmarck qui est sorti en 2006, film magnifique qui raconte le lien très étrange qu’un agent de la Stasi crée avec l’homme qu’il est chargé de surveiller dont le nom de code est Lazlo. On ne peut pas dire que le film s’appesantit sur le coût économique de la surveillance mais on voit, en effet, ce que ça nécessite en termes d’investissement technique et humain, tout ça pour écouter une seule personne.
C’est certain que ça n’a pas grand-chose à voir avec ce que raconte Snowden dans son autobiographie quand il explique comment un seul type de la NSA, derrière un écran, peut rassembler en quelques clics toute la vie numérique de quelqu’un, les messages qu’il a écrits ou reçus, les coups de fil qu’il a passés, à qui, d’où, pendant combien de temps, à quelle fréquence, les recherches qu’il a faites, les pages internet qu’il a consultées, etc.
Je me pose une question : est-ce qu’un opérateur de la NSA ou de tout autre service de renseignement aussi bien équipé, en sait plus sur chacun de nous que l’officier de la Stasi dans La Vie des autres en sait sur Lazlo ? Quand il a décidé de cibler quelqu’un, est-ce qu’il en sait plus qu’un agent de la Stasi dans les années 60 ?
Bernard Harcourt : Oui. Parce qu’on ne peut plus rien cacher. Avec le papier, c’était quand même possible d’essayer de cacher des choses, ce qu’on lisait, ce qu’on écrivait, trouver des moyens de vivre une vie intérieure. Maintenant, on peut savoir exactement quelle page du journal la personne a lue. Ce n’est pas comme si on sait qu’ils lisent L’Obs,Le Monde ou Libé, ça dit quelque chose sur une personne, mais quelle page est-ce qu’ils lisent ! Et non seulement quelle page, mais où est-ce que leurs yeux s’arrêtent, sur quelles images. Je dirais que c’est exponentiellement plus d’informations qu’on n’en avait avant.
Xavier de La Porte : Bernard Harcourt parle de logiciels qui existent, les logiciels qui suivent le mouvement des yeux sur une page, les programmes qui examinent les champs lexicaux utilisés par quelqu’un et qui en déduisent, par exemple, son humeur ; les programmes qui permettent de déduire d’une liste d’achats au supermarché si une personne est malade ou enceinte, eh bien ces programmes existent. Par exemple, la chaîne des grands magasins Target aux États-Unis en avait utilisé. Ça avait fait toute une histoire parce qu’un père avait appris que sa fille était enceinte à cause des pubs que lui envoyait Target. En gros, Target avait su que sa fille était enceinte avant lui ; il ne l'avait pas très bien pris.
Donc oui, à côté de ça, un homme qui en écoute un autre avec ses bais, ses défaillances, les périodes où il doit dormir, eh bien cet homme est sans doute moins efficace.
Je voudrais revenir à quelque chose que Bernard Harcourt a dit un peu rapidement tout à l’heure, quand il expliquait que ce qui a changé c’est que maintenant c’est nous les mouchards, que ces informations sur nous-même, c’est nous qui le donnons. Pourquoi n’y a-t-il plus besoin de contraintes pour qu’on livre autant de choses sur nous-même alors qu’on sait très bien que ces informations peuvent être exploitées ?
Bernard Harcourt : L’équation qui a changé c’est à partir du désir. C’est le fait qu’on veut se présenter plus, à cause de ces plateformes et de cette technologie numérique. Il y a tout un développement, il y a tout un rapport d’accroissement, de changement, de transformation et de façonnement de notre subjectivité qui fait qu’on peut se présenter au public d’une nouvelle manière. Donc c’est ce désir de se présenter avec la possibilité de se présenter, de se mettre en public, d’avoir des gens qui disent « waouh, elle est bien cette photo-là, j’aime, oui je vais suivre Instagram » et tout ça c’est humain, c’est trop humain, c’est agréable. On veut être aimé, on veut être suivi, on veut être un peu populaire, quand même. C’est normal, mais la technologie rend ça beaucoup plus possible.
Xavier de La Porte : Donc la clé c’est le désir. Si nous donnons ces informations, c’est parce que nous le voulons bien, mais c’est surtout parce que nous le désirons et il a raison, Bernard Harcourt, c’est tellement humain de vouloir être reconnu, de vouloir recevoir des preuves de reconnaissance, d’amour et, de fait, on en tire plein de choses qui ne sont absolument pas négligeables. Il ne faut jamais oublier ces apports, qu’ils soient personnels, intellectuels, informationnels ; si on néglige ces apports, on n’y comprend rien.
Bernard Harcourt : Il faut qu’on révise complètement notre vocabulaire pour le numérique. J’allais dire que c’est un peu addictif, mais je ne veux pas dire addictif d’une manière négative : c’est agréable, on veut le faire. Un autre mot, narcissisme, là-aussi il y a ce côté négatif du narcissisme, mais ici c’est vraiment du narcissisme positif, c’est agréable, on veut le faire, on veut se présenter, on veut être aimé. C’est ça qui nous pousse à nous présenter, bien sûr. Et ce n’est pas seulement le désir propre, ce n’est pas seulement ce narcissisme personnel, c’est professionnel aussi : il faut professionnellement se présenter, il faut être vu, il faut être lu, donc toutes les mesures de succès, que ce soit personnel, professionnel, académique ou radio, toutes les mesures sont des mesures de clics et de « like ».
Xavier de La Porte : Selon Bernard Harcourt, les technologies contemporaines ont donc créé une société où l’exposition de soi est désirable, et cette exposition est ensuite exploitée à des fins diverses. D’ailleurs, selon Harcourt, c’est toute la limite de la référence à 1984, le grand roman de George Orwell qui est toujours rappelé pour expliquer le monde dans lequel on vit aujourd’hui.
Pour une grande part, ce que Orwell imagine dans 1984, la NSA et beaucoup de services de renseignement du monde l’ont fait : mettre la vie de leurs concitoyens sous surveillance. Mais, là où notre monde diffère beaucoup de 1984, c’est que nous ne subissons pas de contraintes, nous participons à cette surveillance en offrant librement nos vies ou, en tout cas, une partie de nos vies. Nous voulons participer, nous désirons nous exposer parce que nous en recevons toutes sortes de rétribution. C’est ce que ne dit pas la référence à 1984 et qui, pourtant, est essentielle et que nous révèle avec autant de clarté Bernard Harcourt.
Mais est-ce que les instances qui récoltent les données produites par ce désir d’exposition, qui sont donc principalement les entreprises et les États, est-ce qu’elles n’ont fait que recueillir les fruits de nos passions d’exposition, ou est-ce qu’elles ont organisé ce monde ?
Bernard Harcourt : C'est certain qu’elles l’ont favorisé et qu’elles le créent et on le sait, par exemple parce que Facebook et les autres entreprises font des études pour voir comment est-ce que les gens vont plus utiliser les plateformes. Et la stratégie c’est de nous faire participer plus sur les plateformes, les utiliser plus, parce que c’est toute une économie politique qui fonctionne à travers notre désir. Tout le profit économique énorme aujourd’hui est lié à ce qu’on s’exprime et qu’on laisse savoir nos désirs et nos volontés. Donc ce sont des forces économiques qui s’opposent à la limitation du numérique, la limitation de pouvoir capter notre vie privée.
Xavier de La Porte : Le but, c’est donc de nous faire rester sur la plateforme parce que ce qui est monétisé au final c’est notre attention ; c’est notre attention que vendent ces plateformes aux annonceurs, on le sait, on en a déjà beaucoup parlé dans les épisodes consacrés à Facebook. On le sait et pourtant ça ne change rien ! Et alors là, c’est quelque chose d’assez mystérieux. Tout ça, on le sait et pourtant ça ne change pas grand-chose à nos comportements. Par exemple, est-ce qu’on peut dire que les révélations d’Edward Snowden ont changé quelque chose à nos comportements numériques ? Collectivement non. On le sait. L’indignation que ça a provoqué aux États-Unis a entraîné le vote de l’Information Act qui n’a pas du tout interdit ces programmes mais qui a juste proposé que le stockage des informations ne soit plus à la NSA, donc au gouvernement, mais chez des opérateurs privés, ce qui n’est pas forcément une bonne nouvelle non plus. Et au niveau individuel, je ne suis pas sûr que ça ait changé nos comportements. Alors comment expliquer ça ?
D’ailleurs, en écoutant Bernard Harcourt, je me demande si, lui, lui qui écrit sur ces questions, lui qui les théorise, est-ce que savoir à quoi il s’expose change quelque chose à ses comportements numériques ? Est-ce que lui se protège ?
Bernard Harcourt : De temps à autre j’essaye, mais c’est incroyablement difficile. Je n’arrive pas à fonctionner comme professeur dans une université à la fois américaine ou bien à l’EHESS [École des hautes études en sciences sociales] ici en France, je n’arrive pas à fonctionner quand je limite mon exposition numérique. D’abord, chaque fois que je communique avec mes étudiants, quand je leur donne des PDF à lire, le syllabus, etc., tout ça se passe au numérique. À Columbia, où j’enseigne, le système e-mail est géré par Google, donc il m’est presque impossible de vivre une vie professionnelle sans m’exposer tout le temps.
Xavier de La Porte : Ce que raconte Bernard Harcourt, c’est notre dilemme à tous. Mais si on peut, à la limite, protéger son ordinateur personnel, il y a les services qu’on utilise dans le cadre professionnel. Dans mon journal aussi on utilise des services de Google, pas le choix, mais ça ouvre une autre question : quand a-t-on renoncé à avoir une vie privée numérique, je veux dire collectivement ? Est-ce que ce monde a commencé le 11 septembre ?
Bernard Harcourt : C’est la technologie qui nous met sur ce chemin, mais c’est le 11 septembre qui justifie toute la captation par le gouvernement et par la NSA de toutes nos informations. Et je dirais que dans l’imaginaire américain certainement, peut-être en France aussi, je dirais peut-être que 2013 et 2015 en France ont eu cet effet que nous on a vu aux États-Unis le 11 septembre, c’est à cette époque-là, quand on voit le danger sécuritaire, que tout d’un coup tout le monde se dit « bon, OK, peut-être que ça vaut la peine, peut-être que je ne vais pas trop contester, je comprends que oui, il faut de la surveillance, etc. »
Xavier de La Porte : Donc voilà, on est complice de la mise en place de ce système, non seulement parce qu’il repose sur notre désir d’exposition, mais aussi parce qu’au fond, face au danger, on accepte l’idée que la surveillance est un mal nécessaire.
Mais, du point de vue de l’exercice du pouvoir, c’est assez problématique. Même si on a vu que l’ambition de tout savoir de sa population n’est pas nouvelle, il semble qu’un palier a été franchi avec les possibilités offertes par les technologies d’aujourd’hui. Et quand je demande à Bernard Harcourt ce que permettent ces technologies, il fait de nouveau un rapprochement historique que je n’aurais jamais imaginé.
Bernard Harcourt : Ce que l’information totale rend possible sur toute la population, c’est toute la logique de la guerre contre-insurrectionnelle, ce qu’on appelait en France la guerre moderne développée en Indochine, en Algérie, c’est vraiment de tout savoir sur la population pour pouvoir diviser la population en petits groupes actifs insurrectionnels et le reste de la population qui est assez passive. Et, ce qu’on voit très bien, c’est que faire cette distinction dépend d’avoir l’information totale pour ensuite cibler, cibler à la fois pour éliminer le petit groupe insurrectionnel et, d’autre part, cibler pour apaiser et pour rendre encore plus docile la masse de la population générale.
Ce qu’on voit maintenant c’est qu’en fait toute cette logique est en train de revenir chez nous, aux États-Unis, et est en train d’être utilisée contre notre propre population. Et c’est ça qui est absolument remarquable parce qu’il n’y a pas d’insurrection, par contre on est en train d’utiliser cette même logique pour gérer la population. On le voit très bien maintenant avec Donald Trump, avec le président, qui crée des ennemis intérieurs tous les jours.
Xavier de La Porte : Les ennemis intérieurs de Donald Trump, ce sont un jour les immigrés sud-américains, un autre jour les musulmans, après des leaders noirs, après les socialistes, etc. Donc ça, ce serait le retour au sein des démocraties des techniques de guerre contre-insurrectionnelle qui avaient été jusque-là utilisées contre des populations colonisées.
Dit comme ça, ça peut paraître un peu excessif, mais Bernard Harcourt n’est pas le seul à dire ça. Il y a peu je discutais avec Achille Mbembe. Achille Mbembe est un grand intellectuel camerounais qui a beaucoup travaillé sur l’Afrique et sur la colonisation. Mbembe disait à peu près la même chose. Il disait que ce à quoi on assiste aujourd’hui c’est la réimportation au sein de nos démocraties de techniques de maintien de l’ordre, mais aussi de techniques de contrôle des populations et de contrôle des corps qui avaient, pendant longtemps, été réservées aux populations colonisées qu’on voulait soumettre.
Donc voilà. Il y aurait un usage du numérique à cet effet. Mais quel rôle exact joue là-dedans le numérique ? Je demande à Bernard Harcourt de m’expliquer en quoi, aux États-Unis par exemple, le numérique joue dans cette guerre contre-insurrectionnelle exercée à l’encontre de sa propre population.
Bernard Harcourt : Le numérique entre ici de plusieurs manières. Premièrement, bien sûr, toutes les écoutes, toute la NSA, toute l’information qu’ils peuvent avoir, mais deuxièmement maintenant c’est un gouvernement qui est géré sur Twitter et je dirais aussi que le numérique est utilisé de plus en plus pour pacifier, pour distraire la population.
Au Vietnam, il fallait gagner les cœurs et les esprits des Vietnamiens pendant la guerre du Vietnam. Aujourd’hui c’est la même chose, mais ça se fait par la distraction, par l’utilisation de tout ce monde numérique qui ne nous laisse pas le temps de penser ce qui se passe, parce qu’on est toujours impliqué dans ce monde numérique qui nous envoie des pings et des dings et un nouveau Instagram, un nouveau « like », etc. Tout ça c’est un monde qui, à chaque fois qu’on commence à se soucier de quelque chose, même de la vie privée sur le numérique, à la minute où on commence à avoir des hésitations, qu’on commence à se bloquer, qu’on commence à se dire « attends c’est trop visible » ou quelque chose comme ça, il y a quelque chose d’autre sur le mobile qui nous distrait. Le numérique fonctionne presque comme un moyen de nous pacifier.
Avant qu’il rentre à la Maison Blanche, donc il avait déjà été élu, le président Trump avait dit à un de ses aides : « Je voudrais que ma présidence soit comme un programme de TV Reality où chaque jour il y a un nouvel épisode et chaque jour je vaincs".
Xavier de La Porte : En tant que philosophe, Bernard Harcourt a travaillé sur le droit et notamment sur l’usage du numérique par la police et la justice américaines. Il distingue au moins trois sortes d’usages. D’une part, l’usage des réseaux sociaux par la police, le NYPD à New-York par exemple, pour surveiller ce que disent et font des individus considérés comme suspects. Bon, OK. D’autre part, ce qu’on appelle la police prédictive, et c’est encore autre chose. C’est l’utilisation d’algorithmes qui, à partir de statistiques, peuvent prévoir ou, en tout cas, prétendent prévoir où il faut envoyer les patrouilles et à quel moment. Et puis, il y a enfin ce qu’on appelle la justice prédictive. C’est l’utilisation d’algorithmes qui, là aussi, sont globalement fabriqués à partir de statistiques, qui prétendent prédire la dangerosité de quelqu’un à qui on va imposer une peine, donc qui est susceptible ou pas de bénéficier d’une libération conditionnelle.
Ça a l’air d’être assez loin de ce dont on discutait mais est-ce qu’on peut considérer que ces outils de police et de justice prédictives entrent dans ce programme de contrôle des populations dont parlait Bernard Harcourt ?
Bernard Harcourt : Il y a une grande distinction entre l’acte de commettre de la délinquance ou un crime, beaucoup de monde en est coupable, et ceux qui se font attraper. Ce que la prédiction aujourd’hui n’a pas suffisamment compris, c’est cette distinction, parce que ce qu'ils sont en train de prédire vraiment avec ces outils, c’est le fait que quelqu’un s’est fait attraper et accuser d’un délit ou d’un crime. Mais se faire attraper, ce n’est pas arbitraire, ce n’est pas un accident et ce n’est pas distribué d’une manière aléatoire, ça reflète des décisions précises : où la police va faire sa police, qui est-ce qu’ils arrêtent, à qui ils demandent des papiers. En d’autres mots, regardez qui se fait arrêter pour vérification de papiers à Paris. Ce n’est pas tout le monde !
Xavier de La Porte : Donc il y a des énormes biais.
Bernard Harcourt : Il y a des énormes biais.
Xavier de La Porte : Et les biais, c’est politique.
Bernard Harcourt : Disons que les biais qu’on a identifiés aux États-Unis et, il semblerait, en France aussi, dépendent de la couleur de la peau. Ce ne sont pas des biais accidentels.
En d’autres mots, dans le contexte juridique, dans le contexte criminel, il faut qu’il y ait des traces pour ensuite pouvoir prédire. Si, en fait, les traces sont biaisées, si le fait qu’il y ait des traces est le produit de la discrimination ou d’un choix biaisé, ça veut dire que nos prédictions vont être aussi biaisées que ça. Et c’est ça le problème fondamental de l’utilisation des algorithmes, c’est que ça reproduit les biais qu’il y avait dans le système.
Xavier de La Porte : Ce qui est intéressant, c’est que la police américaine elle-même a fini par s’en apercevoir. À Chicago, la police expérimentait depuis 2012 des programmes censés l’aider dans son travail pour prévoir, par exemple, les zones à risque ou les profils de personnes à risque. Ce programme vient tout juste d’être abandonné. Les raisons sont multiples. On s’est aperçu en particulier que, sans pour autant diminuer la criminalité, ce qui était quand même le but, il augmentait les discriminations sur la base d’un profiling racial. Donc oui, des algorithmes mal foutus augmentent encore les travers d’un système politique, en l’occurrence le système politique américain.
Ce système, Bernard Harcourt le connaît bien, parce qu’en plus de faire de la philosophie, il est avocat. Il défend trois condamnés à mort, des hommes emprisonnés depuis longtemps. C’est un peu anecdotique mais pas complètement non plus. Je me demande ce que le numérique a changé dans la vie des prisonniers aux États-Unis.
Bernard Harcourt : Je ne parlerai pas de mes propres clients, mais disons que dans le monde des prisons il y a cette nouvelle présence du numérique qui est très intéressante. Aux États-Unis, la plupart des prisonniers ont des mobiles cachés et arrivent donc à communiquer avec le monde extérieur. C’est grâce à ça, en fait, qu’on a vu par exemple toutes les images des conditions dans les prisons, il y avait une crise dans la Caroline du Nord, dans un endroit, Lee penitentiary, eh bien c’est à travers les mobiles cachés et les photos qui ont été communiquées à l’extérieur qu’on a pu voir ce qui se passait à l’intérieur. Et ça change vraiment la dynamique. Les prisonniers ont très peu de ressources pour la résistance aux conditions de la vie qui sont, aux États-Unis, très dures. Le seul outil qu’ils avaient, c’est leur corps et le numérique devient une possibilité d’outil de résistance si on peut capter les conditions et les montrer aux autres.
Xavier de La Porte : Vous voyez à quel paradoxe on arrive. C’est-à-dire que vous citez comme outil de résistance au monde carcéral, qui est quand même une forme spectaculaire d’exercice du pouvoir sur les corps, vous citez quoi ? Avoir un compte Facebook !
Bernard Harcourt : Parce qu’on est dans un contexte qui est le plus analogique, donc non numérique. La prison c’est vraiment le monde de fer, de barreaux, de pierre, qui essaye de résister autant que possible à la société de l’exposition. C’est dans ce contexte-là que le numérique a peut-être son plus grand potentiel de résistance.
Xavier de La Porte : Ça, je trouve que c’est une très belle idée. Je n’avais jamais pensé les choses comme ça. Comment le contexte carcéral fait que l’exposition que Bernard Harcourt ne cesse de critiquer parce que c’est ce par quoi le pouvoir nous aliène, comment donc, dans le contexte carcéral, les technologies qui permettent de s’exposer, qui nous incitent même à nous exposer, peuvent devenir des aides, des outils de l’émancipation ? C’est vraiment très intéressant : Facebook est problématique quand on est libre, mais peut être très utile quand on est prisonnier ! Évidemment je caricature, mais c’est quand même là un très beau paradoxe.
Cela dit on peut aller plus loin. C’est vrai que cette exposition que nous permettent les technos est extrêmement utile à tous ceux qui en sont d’ordinaire privés. D’ailleurs peut-être que c’est valable au-delà, c’est-à-dire qu’elle est utile aussi à tous ceux à qui l’exposition est d’ordinaire refusée. Je pense évidemment à certaines minorités, voire les Gilets jaunes. Là, le numérique devient un outil de lutte. Mais bon ! Quand on n’est pas en prison, c’est quoi la possibilité de résister à ce pouvoir ?
Bernard Harcourt : Il y a des efforts de tout rendre transparent d’un côté, ça ce sont les lanceurs d’alerte, Snowden, Chelsea Manning, donc l’idée là c’est vraiment de renverser la visibilité sur les gouvernements, sur les entreprises aussi. D’un autre côté, il y a beaucoup de monde qui essaye de nous protéger, de nous démontrer comment on peut se protéger en utilisant des pin’s, des management systems, pour qu’on ait nos propres serveurs, qu’on n’utilise pas Facebook. Il y a des moyens d’encryption, d’utilisation de plateformes.
Xavier de La Porte : Vous n’avez pas l’air d’y croire totalement.
Bernard Harcourt : Vous savez, il y a un grand danger quand on y croit. Si on croit pouvoir s’encrypter et se protéger, on a une plus grande probabilité de ne pas faire attention à notre propre exposition parce qu’on se croit protégé.
Xavier de La Porte : Ça veut dire que la solution c’est prendre acte du fait que tout ce qu’on fait est visible et, du coup, on s’invente une nouvelle manière de vivre, une nouvelle subjectivité. C’est quoi l’idée là ?
Bernard Harcourt : Il ne faut jamais penser qu’on est invisible. Par exemple il y a un grand scandale maintenant, le gouvernement américain veut avoir accès au mobile Apple de quelqu’un qui vient de tuer plusieurs personnes en Floride, un acte de terrorisme sur une base militaire américaine. Ça s’est déjà passé il y a un an. Même chose, le gouvernement dit : « Apple, donnez-nous la possibilité d’entrer dans cet iPhone ». Apple dit non. La dernière fois, après deux semaines, le gouvernement a dit : « On n’en a plus besoin, merci. On a réussi. » Ça va être la même chose ici. Si on croit qu’on est vraiment complètement invisible, je crois qu’il y a un certain danger. Je crois donc qu’il faut maintenant vivre une vie et se comprendre assez transparent.
Xavier de La Porte : D’accord, mais une fois qu’on a dit ça, comment on fait ? Comment on vit en prenant acte du fait que tout ce qu’on fait ou tout ce qu’on dit peut être vu, lu et su ?
Bernard Harcourt : C’est ça le défi. Je n’ai pas de bonne réponse. Ça veut dire que le monde numérique doit vraiment complètement piéger notre subjectivité. Ou bien on essaye d’être complètement à l’extérieur de ces plateformes et de ne pas participer à ce monde numérique, ce qui, me semble, n’est pas une solution parce que la plupart des générations qui sont nées avec ces plateformes y vivent.
Xavier de La Porte : Par ailleurs, on peut tout à fait ne pas avoir de compte Facebook, Twitter ou Gmail et être capté dans la rue par des caméras de surveillance. Du coup, ce n’est même pas opérant. Donc il y a cette possibilité-là qui n’est pas une vraie possibilité. Et l’autre, c’est ?
Bernard Harcourt : L'autre c’est de se comprendre potentiellement visible et de trouver des formes de résistance qui doivent être inédites.
Xavier de La Porte : Bon ! Je veux bien, mais qu’est-ce qu’on peut imaginer comme formes inédites ? Par exemple, l’une de ces formes, ça pourrait être de multiplier ou de démultiplier son existence. De vivre sous des identités qui soient multiples, contradictoires, trompeuses.
Bernard Harcourt : Je pense que si on s’implique entièrement dans le monde numérique et qu’on essaye de se créer des personnalités différentes ou des avatars différents, en fait le numérique va très bien comprendre ça. On laisse trop de traces pour que ces différentes personnalités, en fait, ne soient pas regroupées et c’est trop facile de mettre tout ça ensemble. Pourquoi ? Parce qu’on utilise le même laptop, on utilise le même mobile pour les différents comptes, etc. On laisse trop de traces numériques pour déjouer le système de cette manière-là.
Xavier de La Porte : Ça c’était la résistance individuelle, pas très efficace selon Bernard Harcourt. Mais il y a des moyens de résistance qui peuvent être collectifs, par exemple changer les lois et notamment changer le statut des données personnelles.
Bernard Harcourt : Une possibilité c’est de rendre toutes nos data personnelles comme de la propriété privée.
Xavier de La Porte : Là, vous faites un capitalisme de la donnée.
Bernard Harcourt : Là, c’est du capitalisme de la donnée.
L’autre alternative, de l’autre côté, ce serait de les rendre comme un commun, donc dire que toutes nos data font partie d’un fond commun que nous aurons le droit de gérer. Il faudrait gérer ça d’une manière, j’imagine, démocratique où on mettrait des règles sur ce commun. Mais il faut bien comprendre que ça va contre tous les intérêts de Facebook, Google, Amazon, des gouvernements, de tous les distributeurs ; ça va à l’encontre de tout ce système capitaliste.
Xavier de La Porte : C’est étonnant ça. On en arrive toujours au même point : pas de solution qui n’engage pas la totalité du système.
Il dit ça, Bernard Harcourt, alors que lui-même n’est pas révolutionnaire pour autant. C’est drôle parce que je me suis fait un peu la même réflexion quand j’ai lu le dernier livre de Bruno Patino, La civilisation du poisson rouge. Il dit un peu ça. Il dit que retrouver le ferment utopique des technologies, eh bien ça n’est pas possible dans un modèle qui repose sur la publicité, donc sur l’utilisation des données personnelles.
Finalement c’est drôle, il en va un peu des technologies comme des questions écologiques, c’est-à-dire que dès qu’on se dit qu’il faudrait changer un peu les choses, on en revient à la remise en question du modèle dans son ensemble. C’était un peu la morale du jour.
Merci à Bernard Harcourt. Pour en savoir plus, vous pouvez la lire La société d’exposition - Désir et désobéissance à l’ère numérique. C’est paru au Seuil.
- 1. Edward Snowden [12]
- 2. Panoptique [13]