Entretien sur la surveillance et les travailleurs du clic avec Antonio Casilli

Titre : Grand entretien sur la surveillance et les travailleurs du clic avec le sociologue du numérique Antonio Casilli.
Intervenants : Antonio Casilli - Voix off de Emmanuel Macron - Jérôme Hourdeaux - Mathieu Magnaudeix -
Lieu : Émission À l'air libre - Mediapart
Date : 15 avril 2020
Durée : 39 min [transcrit à partir de la minute 54 de la vidéo]
Visualiser la vidéo
Licence de la transcription : Verbatim
Illustration : Antonio Casilli en 2013 Wikipédia - Licence Creative Commons Attribution-Share Alike 3.0
NB : transcription réalisée par nos soins, fidèle aux propos des intervenant·e·s mais rendant le discours fluide.
Les positions exprimées sont celles des personnes qui interviennent et ne rejoignent pas nécessairement celles de l'April, qui ne sera en aucun cas tenue responsable de leurs propos.

Transcription

Mathieu Magnaudeix : Bonjour à toutes et à tous. Dans la deuxième partie de À l’air libre nous allons prendre le temps d’une discussion sur nos vies numériques au temps du coronavirus. On nous parle de traçage individuel, il y a une application magique pour sortir du confinement. Pendant ce temps des livreurs à vélo, sans protection sociale digne de ce nom, travailleurs numériques dont le mouvement de pédale est actionné d’un clic sur nos smartphones sans qu'on s’en rende compte parfois, risquent d’être exposés au virus dans une indifférence générale.
Pour dérouler tout cela, nous avons le plaisir de recevoir Antonio Casilli. Bonjour.

Antonio Casilli : Bonjour.

Mathieu Magnaudeix : Professeur à Télécom Paris, chercheur associé à l’École des hautes études en sciences sociales. Pour vous interroger avec moi aujourd’hui Jérôme Hourdeaux, journaliste à Mediapart. Bonjour Jérôme.

Jérôme Hourdeaux : Bonjour.

Mathieu Magnaudeix : Jérôme, en quelques mots peux-tu nous présenter notre invité ?

Jérôme Hourdeaux : Bonjour Antonio. Antonio Casilli est sociologue, chercheur à l’EHESS. Il a commencé sa carrière au début des années 2000 en travaillant plus sur les communautés, si je me souviens bien, notamment les communautés anorexiques et les communautés sur Internet et, depuis quelques années, il a développé un nouveau champ de recherche qui est celui des travailleurs du clic, donc du travail numérique. Il a sorti l’année dernière un livre, En attendant les robots, au Seuil qui s’est décliné en début d’année sous la forme d’un documentaire, Invisibles, diffusé sur France 4. Il est par ailleurs un observateur attentif des libertés publiques et membre de La Quadrature du Net1.

Mathieu Magnaudeix : Parfait. Merci Jérôme.
Je voudrais commencer par cette question, Antonio Casilli, assez large, question peut-être qui rejoint certaines des préoccupations des gens qui commentent sur Mediapart, qui nous envoient des mails ou qui regardent nos émissions. La question s’adresse au sociologue et aussi au savant : en ce moment beaucoup d’entre nous, pour des raisons sans doute irrationnelles parfois, ont le sentiment d’assister à une sorte de dystopie comme ça, où s’accumuleraient tous nos fantasmes sur le futur, la pandémie, la destruction, l’accroissement sans fin possible de la surveillance, l’arbitraire, pourquoi pas, l’autoritarisme. Tout ça travaille dans nos têtes et s’accumule en ce moment en créant parfois une sorte de panique. Êtes-vous comme sociologue qui travaillez très concrètement sur les questions du numérique, sur l’intelligence artificielle, sur ces sujets, vous aussi travaillé aussi par ce sentiment ou est-ce que nous entretenons tous collectivement une forme d’illusion, de fantasme dont il conviendrait peut-être de se départir pour penser avec un peu plus de rationalité ce qui est en train de nous arriver ?

Antonio Casilli : Franchement on se retrouve en tant que chercheur ou en tant qu’intellectuel public, même en tant que citoyen, face à une double injonction aujourd’hui : d’une part produire des cadres d’interprétation qui soient cohérents avec ce qu’on sait, donc finalement ce dont on peut parler et, dans mon cas évidemment c’est l’analyse des systèmes sociaux-techniques, de la société numérique, de ses implications sociales mais aussi économiques. De l’autre, il y a une autre injonction c’est cette pression très forte à renouveler ces mêmes cadres, donc finalement à ne pas répéter toujours la même chose. Et c’est extrêmement difficile.
Personnellement, j’ai pris une position très précise et concrète. Franchement, dans ce contexte, il faut tenir le cap donc, finalement, ne pas s’éloigner de ce qu’on sait. Ce sur lequel j’insiste depuis le début de cette crise, laquelle, par ailleurs, se décline de manières différentes selon les pays et, dans mon cas, je l’ai déjà vécu avec un peu d’avance en Italie, ensuite en France et ensuite, évidemment, aussi dans d’autres pays avec lesquels je continue d’avoir des contacts, je pense à la Corée du Sud, dans tous ces pays il y a la concrétisation avec l’urgence sanitaire, avec la crise du coronavirus, de tout un ensemble de questions et finalement de dynamique sociale et technologique qui existait déjà.
La première, évidemment, c’est la collecte de données et la croyance qui, finalement, relève plutôt d’une croyance magique dans cette surpuissance de la big data, même quand la big data n’existe pas, même s’il n’y a pas de données disponibles. Donc cette prolifération que vous voyez partout de visualisation du nombre de décès, du nombre de personnes guéries, du nombre de personnes hospitalisées qui, soyons clairs, même du point de vue de la qualité de ces données, est assez médiocre, parce que chaque pays typiquement a ses propres méthodes pour comptabiliser ses décès, ses guéris, ses personnes positives au coronavirus et, finalement, on est très souvent en train de comparer et de mettre ensemble, comme le disent les Anglais, des oranges et des pommes, donc des entités qui sont souvent différentes.
Ensuite, il y a l’autre question qui est celle de la surpuissance des plateformes numériques. La surpuissance des plateformes numériques est quelque chose qui s’est imposé surtout au regard des citoyens français depuis le début de l’urgence sanitaire avec, finalement, la pénétration de systèmes d’intermédiation numérique dans notre quotidien, plus même qu’avant, ou alors de manière certainement plus visible et explosive qu’avant. Le fait de devoir passer très vite et de manière, les militaires diraient en mode dégradé, c’est-à-dire une qualité inférieure par rapport à ce qu’on avait eu au début, au télétravail est quelque chose qui a mis la majorité des travailleurs français et des travailleuses françaises face au fait que le télétravail n’est pas cette vision idéalisée d’une activité, d’une occupation qu’on peut effectuer depuis chez soi selon ses propres modalités, selon son timing et surtout qui garantit des marges d’autonomie plus importantes. Au contraire, l’autonomie est réduite. On se retrouve face à une pression à la production et à assurer la continuité. C’est un numérique qui est, en plus, complètement dominé par des acteurs industriels en position hégémonique. C’est-à-dire les Skype, top team, ou les nouveaux arrivés comme Zoom se sont imposés finalement comme les seules plateformes vers lesquelles on peut se tourner alors qu’on a énormément d’outils libres et d’outils qui ne sont pas commerciaux, qui sont à disposition de tout le monde et qui marchent extrêmement bien. Donc les plateformes de visioconférence ont envahi, ont monopolisé tout un tas d’activités humaines parce que ces mêmes plateformes qu’on utilise pour nos réunions de travail on les utilise ensuite pour rencontrer les gens.

Mathieu Magnaudeix : Pour les apéros.

Antonio Casilli : Voilà, pour les apéros ou, par exemple, pour passer des coups de fil à ses parents ou ses enfants, ça dépend. Donc vous voyez qu’il y a ce dont je parlais il y a déjà une dizaine d’années avec la question des liaisons numériques, finalement des relations sociales qui passent par une intermédiation numérique et ceci n’est pas neutre parce que ceci provoque finalement des situations de chercher à gérer la proximité, la distance sociale qui sont entièrement différentes par rapport au présentiel.
Après, évidemment, il y a aussi l’impact économique et surtout la consolidation de la position hégémonique de ces plateformes sur le plan économique.
La livraison, la logistique est désormais dominée par des acteurs comme Amazon ou, parmi les travailleurs qu’on considère et qu’on continue de considérer comme essentiels, eh bien on garde par exemple les livreurs. Et là c’est quelque chose qui est vraiment très important.

Mathieu Magnaudeix : Justement on va en parler. Hier, sur votre compte Twitter, vous avez publié une vidéo assez fascinante, on va la voir. C’est à Milan, en Italie, par ces temps de covid, Milan est évidemment très touchée par le coronavirus et vous écrivez sur votre compte Twitter : « Minuit, c’est l’heure où les invisibles deviennent visibles. Métro désert à part quelques dizaines de jeunes et de moins jeunes livreurs qui rentrent chez eux. » Et on le voit : sur le métro il n’y a des gens avec des vélos qui rentrent en effet chez eux, qui ont livré toute la journée pendant que la ville, elle, dort, toute la journée. C’est ça, dites-vous, le confinement à deux vitesses, c’est ce que vous appelez le digital labor, le travail numérique.
Antonio Casilli, cette vidéo dans sa simplicité et son calme, je la trouve en fait extrêmement violente, socialement violente. Elle nous dit quoi cette vidéo sur ce que, finalement, révèle ce confinement ?

Antonio Casilli : La vidéo, dont la source est un syndicat de protection des livreurs qui s’appelle Deliverance Milano, est vraiment un indicateur du fait que même si on nous a presque vendu le confinement comme quelque chose qui allait impacter tout le monde et qu’il fallait accepter parce que tout le monde allait être confiné, ceci n’est pas vrai. Certaines personnes sont obligées à continuer, malgré le confinement, à travailler. Donc ces livreurs sont ceux qui assurent le dernier kilomètre et cette activité du dernier kilomètre, finalement, ce sont les personnes qui s’occupent d’aller dans le restaurant et vous livrer votre repas. Ce sont des personnes qui s’avèrent, dans cette situation, encore plus essentielles qu’avant, même si auparavant elles étaient déjà extrêmement importantes désormais dans nos pays.
Dans le contexte français, tout comme dans le contexte italien et européen général, c’est aussi révélateur du fait que nous sommes face à un confinement à deux vitesses. Selon les estimations américaines, pour 35/39 % d’entre nous la possibilité du télétravail est effectivement au rendez-vous, mais on a 60 et quelques pour cent de personnes qui ne peuvent pas aménager leur temps et leur activité en se servant de ces outils distanciels, donc finalement qui doivent encore sortir. Ces personnes-là qui, malgré le confinement, doivent aller travailler à l’extérieur sont aussi celles qui réalisent les métiers qui prévoient une plus forte proximité physique. Malgré le fait que Deliveroo nous a vendu l’idée du sans contact, ce n’est pas sans contact pour le livreur, ce n’est pas sans contact pour lui, le livreur doit entrer en contact avec le restaurateur, doit entrer en contact avec énormément de surfaces qui sont fort probablement contaminées parce que, soyons clairs, s’ils doivent par exemple toucher une porte, un digicode, un interphone et ainsi de suite, il y a de très fortes chances que des centaines de personnes aient touché cette même surface. Donc ces livreurs-là ont besoin d’être protégés davantage parce qu’ils réalisent un travail qui est un travail de proximité physique avec les êtres humains et avec les surfaces qui peuvent être potentiellement contaminées. Et face à ça, qu’est-ce qu’on a ? Finalement on a une catégorie de personnes qui n’est pas protégée, qui n’a pas le type de protection sociale dont jouissent les autres travailleurs de proximité comme le personnel dans les hôpitaux ou les autres personnes qui s’occupent de gérer le quotidien par exemple dans la grande distribution ; même un caissier ou une caissière est aujourd’hui mieux protégé qu’un livreur. Dans ce contexte-là la protection n’est pas seulement une protection physique, c’est-à-dire avoir un écran transparent, mais, dans le contexte précis c’est aussi une protection par exemple en termes d’encadrement salarial, en termes de protection sociale, en termes d’assurance maladie que ces personnes n’ont pas.

Mathieu Magnaudeix : Jérôme.

Jérôme Hourdeaux : Dans tout ça, est-ce qu’on peut déjà savoir ce qui va rester ? On parlera après un peu, je pense, d’accoutumance à la surveillance avec l’application, un peu de solutionnisme et de la pression qu’ont les entreprises. Il y a déjà quelque chose qui change énormément dans les usages, on en parlait juste avant : beaucoup de profs sont obligés de se mettre non seulement à faire de la visio mais à préparer des cours numériques. Mes enfants passent des heures sur WhatsApp alors qu’avant ils ne connaissent pas. On passe tous du temps sur différents numériques qu’on apprend de plus en plus. En même temps on entend les gens râler, beaucoup, il y a un manque de contact, il y a beaucoup de gens qui se plaignent. Il y a aussi une visibilisation de certains métiers dont on parlait, les livreurs, mais on s’inquiète des éboueurs, des caissières. Est-ce qu’on peut déjà savoir ce qu’il va rester ? Est-ce qu’il va y avoir un phénomène de rejet ou est-ce qu’il va y avoir un phénomène d’acceptation et d’habituation à ces outils numériques ?

Antonio Casilli : C‘est extrêmement difficile de savoir ce qui va se passer parce que, justement, on est face à virus dont on ne peut pas prévoir l’issue. On peut espérer qu’on s’en débarrasse par exemple via un vaccin, mais on n’a pas face à nous un emploi du temps vraiment déjà tracé. En l’occurrence, ce qu’on peut dire sur la base de ce qu’on sait des sociabilités numériques c’est que les sociabilités numériques ne sont jamais entièrement dématérialisées et, finalement, quand on est face par exemple à des plateformes qui nous permettent de garder la présence à distance avec nos proches, avec nos collègues, c’est pratiquement accompagnés d’une présence présentielle. Donc, pour faire court, ce n’est pas parce vous passez énormément de temps sur Skype que vous arrêtez, en temps normal, d’échanger en présentiel avec vos collègues. En général, si on regarde le nombre d’interactions qu’on a chaque jour, les personnes qui ont le plus d’interactions en face à face sont aussi les personnes qui ont le plus d’interactions via les différents canaux de communication que le numérique nous octroie.
Or, ce qui se passe aujourd’hui est que finalement on a réduit drastiquement, je répète encore une fois pour une certaine catégories de personnes, pour celles qui peuvent se permettre le télétravail, le confinement en termes de quarantaine chez elles, pour ces personnes-là on a coupé la modalité présentielle ou on l’a réduite drastiquement. Donc on se retrouve face à un quotidien et, même en général, une sociabilité qui est, en présentiel, limitée à ce qu’on appelle nos liens forts, donc les personnes qui sont nos proches, nos compagnons, nos époux ou nos enfants et ainsi de suite. On a aussi réduit tous les liens faibles, on voit ces liens faibles exclusivement via ces plateformes.
Qu’est-ce qui va rester ? À mon avis on va revenir à un hybride des deux, c’est-à-dire qu’on va revenir à une situation dans laquelle on module des modalités d’interaction pour les liens forts et les liens faibles, mais c’est extrêmement difficile qu’on puisse pérenniser une situation dans laquelle, finalement, on a compartimenté une sociabilité en disant « les personnes que je rencontre c’est seulement mes liens forts et les personnes que je vois à distance c’est seulement mes liens faibles ». La vie avant le coronavirus était faite de, que sais-je, cinq personnes avec lesquelles j’interagis souvent et des centaines de personnes que je croise dans le métro, chez le boulanger ou sur mon lieu de travail. Dans la mesure où on va vers un déconfinement on va aussi revenir à cette situation-là.

Mathieu Magnaudeix : Justement, on a parlé très récemment du déconfinement. Il y a quelques jours le président a parlé de cette hypothèse de déconfinement possible, progressif, à partir du 11 mai. Nous l’avons dit dans Mediapart beaucoup de questions restent en suspens. Antonio Casilli, je vous propose d’écouter Emmanuel Macron, c’était il y a deux jours, il parlait notamment de cette application Stop Covid qui est éventuellement envisagée pour tracer nos contacts, nos liens avec la maladie et nous aider collectivement, dit-il, à sortir de cette épidémie, à nous déconfiner. On l’écoute.

Voix off, Emmanuel Macron : Pour accompagner cette phase plusieurs innovations font l’objet de travaux avec certains de nos partenaires européens, comme une application numérique dédiée qui, sur la base du volontariat et de l’anonymat, permettra de savoir si oui ou non on s’est trouvé en contact avec une personne contaminée. Vous en avez sûrement entendu parler. Le gouvernement aura à y travailler, il ne faut négliger aucune piste, aucune innovation, mais je souhaite qu’avant le 11 mai, nos assemblées puissent en débattre et que les autorités compétentes puissent nous éclairer, car cette épidémie ne saurait affaiblir notre démocratie ni mordre sur quelque liberté.

Mathieu Magnaudeix : Antonio Casilli, il est donc question de cette application, Stop Covid, qui serait installée sur les smartphones, sur la base du volontariat et de l’anonymat, dit le président, avec un débat, visiblement, devant le Parlement et cette sa dernière phrase : « Cette épidémie ne saurait affaiblir notre démocratie ni mordre sur quelque liberté ».
Ce qu’on sait de cette application, à ce stade, qui permettrait donc de tracer, vous allez me dire, nos contacts sur nos portables, savoir si on a été en contact avec un malade, est-ce que c’est inquiétant pour les libertés publiques ? Est-ce qu’il faut, d’ores et déjà, dire non à ça ?

Antonio Casilli : Oui, c’est inquiétant. Oui il faut dire non. La raison est d’abord liée à l’histoire, à l’historique même de cette application ou alors, je devrais dire, à cette famille d’applications. Malgré le fait qu’on ait commencé à réfléchir à une application face au Covid-19, finalement à une application de traçage depuis le mois de février, c’est déjà une longue histoire. En deux mois on a déjà vu arriver 10 000 modèles différents, en fait il y a une dizaine de modèles différents selon le pays qui les a mis en place, de surveillance de masse électronique à des fins de lutte contre le Covid, c’est du moins ça sur le papier.

Mathieu Magnaudeix : La Chine, la Corée du Sud, Singapour.

Antonio Casilli : Il y a différents modèles et il y a le modèle français qui est, en gros, le modèle européen, qui est assez différent.
Pour vous donner une idée de base, il y a le modèle chinois qui est basé d’une part évidemment sur le traçage GPS, finalement il vous géolocalise et ensuite c’est aussi articulé avec leur système de crédit social. Donc on vous donne un score de dangerosité qui, auparavant, était de nature économique et politique et maintenant est aussi sanitaire et on envoie ce score par exemple à des organismes compétents comme la police. Voilà. De la Chine on peut s’attendre à ça.

Mathieu Magnaudeix : D’accord.

Antonio Casilli : Après, on a des solutions qui semblent être beaucoup plus cohérentes avec celle française ou qui pourrait être une solution française, c’est la solution coréenne. La Corée du Sud a tout de suite mis en place un système d’abord en open data donc de données qui sont à disposition non seulement de l’État mais aussi des citoyens et aussi des développeurs d’autres applications donc des industriels. Ils ont à leur disposition évidemment des tests massifs, ils ont surtout à leur disposition une quantité énorme de lits d’hôpitaux parce que c’est le pays dans lequel on a la proportion la plus importante de lits d’hôpitaux par citoyen et, parce qu’ils ont ça, ils ont aussi décidé de mettre en place un traçage GPS seulement des personnes testées positives. Donc ce n’est pas une surveillance de masse de toute la population.
Dernier modèle, c’est le modèle Singapour basé sur quelque chose d’entièrement différent. Il ne cherche pas à tracer le lieu dans lequel les citoyens se trouvent, mais à savoir qui a été en contact avec qui. Donc on n’est pas face à du tracking, mais on est face à ce qu’on appelle en épidémiologie du contact tracing. Ça peut paraître le même terme mais c’est quelque chose d’entièrement différent, la logique est entièrement différente, la logique est : je suis un professionnel de la santé – donc il y a toujours un médecin quelque part – je sais que toi, citoyen x, tu es malade ou alors tu es positif pour l’instant, et je veux savoir avec qui tu as été en contact. Je peux m’appuyer sur un outil technologique qui, par exemple, me permet ou te permet à toi de te rappeler rapidement des personnes avec lesquelles tu as été en contact.
Ça peut paraître une bonne idée et c’est une bonne idée.

Mathieu Magnaudeix : C’est le modèle français. C'est ce qui est envisagé.

Antonio Casilli : Ce n’est pas entièrement le modèle français, c’est le principe français. Après, même le modèle de Singapour est un modèle extrêmement invasif vis-à-vis de la vie privée, c’est quelque chose qui viole je ne sais pas combien de règles du RGPD2 et, finalement, l’idée de base du modèle français c’est : que peut-on faire pour réaliser ce que Singapour a réalisé, mais en évitant que l’identité des contacts avec lesquels on a passé du temps et qui peuvent avoir effectivement contaminé le citoyen x soit dévoilé. Parce que, malheureusement, le système de Singapour est quelque peu, disons, prédisposé pour une surveillance de masse de la part du gouvernement de Singapour qui n’est pas célèbre pour son niveau de démocratie.
Qu’est-ce qu’on a fait en France ou plutôt en Europe ? On a mis en place un consortium européen qui s’appelle PEPP-PT, je commence avec les acronymes, vous m’arrêtez quand vous en avez marre !

Mathieu Magnaudeix : Pan-European Privacy Preserving Proximity Tracing.

Antonio Casilli : Parfaitement. Ça veut dire un consortium qui s’occupe de faire du traçage de proximité seulement des personnes avec lesquelles vous avez eu une proximité physique, mais privacy preserving donc respectueux de la vie privée. Après, à l’intérieur de ce consortium, il y a 10 000 solutions. L’une des solutions a été celle qui semble être choisie par la France qui est donc le modèle qui s’appelle DP-3T [Decentralized Privacy-Preserving Proximity Tracing], je ne rentre pas, encore une fois, dans cet acronyme qui veut dire qu’il y a encore plus de protection, sur le papier, de la vie privée parce que, finalement, on n’a que des identifiants éphémères et ces identifiants éphémères ne sont pas centralisés, stockés par l’État.

Mathieu Magnaudeix : Pourquoi ce n'est pas vrai selon vous ?

Antonio Casilli : Pourquoi c’est mauvais ? Parce que, finalement, ça c’est sur le papier. Ce qui se passe en réalité, et plusieurs experts en informatique, dont le président de Informatics Europe, l’ont révélé tout de suite : ce système est anonyme tant que vous n’êtes pas positif. Au moment où vous devenez positif il y a la possibilité de trianguler, donc d’articuler votre inscription dans un fichier de santé, votre identifiant éphémère, et on vous identifie. Donc c’est d’abord un problème énorme parce qu’on n’est pas à l’abri de la question de la ré-identifiabilité de ces personnes et finalement aussi d’un ensemble de discriminations. On va y revenir.
Deuxième question, cette solution-là, donc la solution française, est particulièrement exposée à des formes d’attaque qui sont réalisées par des personnes qui ne sont même pas expertes en informatique, mais vos proches et vos parents. Il suffit tout simplement de rentrer dans une pièce avec son Bluetooth éteint, de se mettre à proximité d’une personne et, à ce moment-là, d'allumer le Bluetooth. De cette manière-là vous savez, si ça sonne ou ça ne sonne pas, si votre téléphone envoie une alerte ou pas, si cette personne a été déclarée positive ou négative.
Face à ça, on a un problème qu’on a déjà dans d’autres pays, typiquement en Corée du Sud, le problème des applications parasites. Les applications parasites sont des applications développées par des développeurs indépendants qui peuvent se brancher sur des données disponibles mises à disposition par ces autres applications de surveillance et qui peuvent provoquer des désastres en termes de vie privée. Par exemple, je vous dis ce qui se passe en Corée du Sud parce que l’État coréen a mis à disposition ces données, tout de suite des personnes ont développé des applications qui permettent de suivre vraiment à la trace des individus positifs et savoir tous leurs déplacements sur une journée.
Ou alors, et là on en vient à la dernière question qui est, à mon avis, la plus grave de toutes ces applications de traçage qu’elles soient privacy preserving ou pas sur le papier, c’est le problème de la discrimination. En Corée du Sud, par exemple, ces applications parasites ont été utilisées pour pointer du doigt des minorités religieuses, typiquement des églises chrétiennes au sein desquelles se serait développée une deuxième vague de contamination ; les membres de cette église seraient désormais pointés du doigt et suivis à la trace par ces applications-là. On n’est pas à l’abri de ce type de discrimination chez nous parce que, malgré le fait que tout le monde soit convaincu que le Covid est une maladie qui ne porte pas de stigmate social, au contraire on assiste partout à des formes de discrimination finalement liées au statut Covid des personnes, positif ou négatif. Le problème principal avec ces applications-là, y compris et surtout avec l’application française étant donné l’histoire française, est qu’on s’expose à des discriminations, à des discriminations des personnes qui ont ou qui n’ont pas l’application. Même si Macron a affirmé que cette application va être installée sur base volontaire, il y a de très fortes chances que ça soit un volontaire comme le plan Vigipirate. Officiellement personne ne vous oblige à vous faire fouiller votre sac. Dans le code de la sécurité intérieure c’est bien marqué que les agents de sécurité n’ont aucun droit de vous imposer de fouiller ou de regarder dans votre sac, etc. Et pourtant c’est volontaire, vous le faites de votre propre volonté. Il y a de très fortes chances que cette application-là, ce Stop Covid, soit un nouveau plan Vigipirate.

Mathieu Magnaudeix : Si vous ne le faites pas on peut vous le reprocher par ailleurs.
Jérôme, peut-être une dernière série de questions puisque le temps avance. Jérôme, les mots de la fin, les questions de la fin.

Jérôme Hourdeaux : Je vais me faire un peu l’avocat du diable pour qu’Antonio puisse répondre à certains trucs. Est-ce qu’on n’a pas quand même l’impression qu’on est dans une autre configuration d’adoption d’autres dispositifs sécuritaires qui étaient souvent portés, de manière secrète, par les services ou par une demande des services. Là on a un peu l’impression que le gouvernement marche sur des œufs. Il prend la solution la structure la plus respectueuse à priori. Il fait appel à l’Inria, dans le cadre d’un consortium, qui est assez réputé. Il a confié à la DINUM [Direction interministérielle du numérique], il n’a pas confié ça à une entreprise privée. Et, en plus de ça, il y a la question de l’applicabilité. C’est-à-dire que l’étude publiée par Science qui dit qu’il faut que 60 % de la population l’utilise sachant qu’il y a 70 %, 77 % des gens qui ont un portable en France, un smartphone, ça semble un peu inapplicable. En gros, est-ce qu’ils vont le faire ? Est-ce que ce n’est pas juste qu’ils le font sous pression et que le temps qu’ils développent ça, que ce soit mis en place, ça ne soit pas appliqué en fait ? Qu’ils ne disent pas ça pour des raisons de communication plus qu’autre chose ?

Antonio Casilli : Certainement, il faut montrer qu’on est en train de faire quelque chose. Tant qu’on n’a pas de masques, tant qu’on n’a pas de tests, tant qu’on n’a pas suffisamment de lits d’hôpitaux, ça c’est une manière de montrer que l’État, le gouvernement est en train de faire quelque chose. Après, personnellement j’ai des doutes. Bien que le gouvernement veuille montrer patte blanche donc montrer qu’il est en train de respecter toutes les règles, etc., il y a énormément de manigance et on a eu des échos dans la presse spécialisée de missions informelles qui sont confiées à des personnes dont on ne connaît pas le statut et dont on ne connaît pas véritablement les finalités qui sont en train, effectivement, de collecter à droite et à gauche le consensus des différents organismes de l’État ou de la société civile. Cette application est une opération de séduction, de séduction de la société civile aussi.

Mathieu Magnaudeix : Vous pensez par exemple à Aymeryl Hoang au sein du conseilscientifique ?

Antonio Casilli : Je pense à Aymeryl Hoang, je pense évidemment à Cédric O, c’est quelque chose qui était documenté dans la presse. Là, pour l’instant, on ne sait pas exactement ce qui se passe et quelles sont les finalités ultimes de cette application. La question principale est que les consortiums dans lesquels il y a l’Inria, mais il y a aussi l'EPFL [École polytechnique fédérale de Lausanne] et des tas d’autres acteurs universitaires qui sont des acteurs qui fournissent des arguments, presque des éléments de langage à cette action qui est une action de l’exécutif. J’ajoute aussi qu’on a un gros point d’interrogation, ce n’est pas un point d’interrogation, c’est vraiment une espèce d’énorme vaisseau spatial noir qui pèse sur toute cette histoire, c’est Google et Apple. Parce que dans la meilleure tradition de ces multinationales qui cherchent à faire du lobbying et cherchent presque à faire du gouvernement par les app, par des applications, comme d’autres font du gouvernement par les décrets, à un certain moment elles ont dit : « Pendant que vous êtes en train de discuter sur la légitimité de tout ça, nous on va le mettre en place. » Donc Google et Apple ont annoncé la semaine passée qu’elles vont eux-mêmes développer une application qui sera cohérente avec Stop Covid, qui passe donc par le traçage de proximité, toujours respectueuse de la vie privée, parce qu’on sait très bien que Google est très spécialisé dans le respect de la vie privée et que Google n’a jamais collecté de données sauf celles qui sont déclarées dans ses conditions générales d’usage.

Mathieu Magnaudeix : C’est évidemment ironique, on est d’accord.

Antonio Casilli : Il faut mettre les balises « sarcasme, /sarcasme » partout. Le problème principal est que ces acteurs industriels-là sont en train de réaliser une pression politique sur les gouvernements européens, parce que ce n’est pas seulement la France, on parle de la France parce qu’on y est, mais en Italie on est en train de vivre exactement la même chose, on est en train de vivre exactement la même situation extrêmement complexe du point de vue politique sur la pluralité d’acteurs qui sont impliqués dans cette histoire, certains acteurs visibles et certains acteurs beaucoup moins visibles, beaucoup plus opaques.

Mathieu Magnaudeix : Je voudrais vous poser une dernière question parce qu’on va manquer de temps. On va clore dans quelques minutes, mais c’est une question extrêmement importante. Je crois que vous vous inquiétez aussi des utilisations possibles de ces applications, magiques pour les gouvernants pas juste du point de vue de la surveillance mais aussi, dites-vous, pour éviter de poser les questions qui sont les questions budgétaires, les questions d’investir à nouveau dans l’hôpital, dans les politiques de santé publique. Comme si ce moment, comme si finalement ce solutionnisme de l’application était une façon de fermer d’ores et déjà le débat plus politique sur les moyens, sur la question sanitaire, la question de la santé publique ?

Antonio Casilli : Oui. Cette application est imaginée, pour l’instant seulement imaginée, comme quelque chose qui fait presque abstraction de l’élément le plus important, les tests, finalement, et les tests réalisés par des êtres humains. Soyons clairs, ce qui pèse sur le budget des hôpitaux, et de manière légitime, ce sont les effectifs, ce sont les personnes qui y travaillent. Pour pouvoir faire fonctionner cette application nous avons besoin de personnes qui sont capables de se servir d’une application de traçage des contacts. Historiquement, je disais au début, cette méthode existait, donc tracer les contacts des personnes qui, par exemple, ont une maladie sexuellement transmissible ou la TBC, on le faisait historiquement mais c’était fait par des personnes qui étaient d’abord formées à ça et ensuite des personnes qui pouvaient exercer leur jugement professionnel pour savoir à qui dévoiler le fait que telle personne avait été déclarée positive à telle ou telle maladie.
Dans ce contexte-là, on s’imagine et ce n’est pas du solutionnisme, c’est vraiment de la pensée magique, qu’une application pourra notifier de manière automatique. C’est suicidaire. C’est quelque chose qui est ensuite extrêmement grave du point de vue, effectivement, d’oublier le poids important et la nécessité de rémunérer les personnes qui font fonctionner cette application. Il n’y a pas d’application qui marche toute seule comme il n’y a pas d’intelligence artificielle qui marche toute seule, il faut toujours du jugement humain. Le problème principal de cet exécutif est de penser qu’il peut ignorer l’importance de quantités d’investissements publics qu’il faut réaliser, qu’on aurait dû réaliser, pour pouvoir faire fonctionner un système de santé. On ne va pas remplacer des centaines de milliers de personnes, de professionnels de la santé par une application magique.

Mathieu Magnaudeix : En fait, c’est comme un rappel à l’ordre cette pandémie d’une certaine façon. Cette idée, cette illusion du tout numérique dans nos vies, dans notre travail, dans nos comportements, dans notre consommation n’est pas forcément opérante, il y a toujours des humains derrière. Le tout numérique n’est pas forcément notre seul horizon.

Antonio Casilli : Le tout numérique s’avère être fait à la main, par pas mal de personnes. Donc on a désormais la visibilité de personnes qu’auparavant on ne voyait pas. Dans une ville déserte voir tracer des livreurs c’est le moment où des personnes qui étaient véritablement confondues dans la foule s’avèrent être les seules qui assurent cette infrastructure. De même pour ces applications qui soignent magiquement les personnes, soi-disant, on n’est pas sans la nécessité de prendre en compte le travail humain des soignants. Le travail humain de ces soignants est aussi le travail humain de ces soignants qui vont s'occuper de savoir qui était contaminé par qui parce que, pour cela, il n’y a que des acteurs humains formés à ça, et les applications n’arrivent pas à le faire. Les applications sont extrêmement inexactes face à ça et elles mettent face à un problème de faux positifs partout.

Mathieu Magnaudeix : Avant de se quitter on va justement rendre hommage à ces travailleurs du clic, ces invisibles auxquels vous avez rendu hommage dans votre documentaire, dont vous avez documenté l’existence et la vie, notamment ces livreurs à vélo de Deliveroo, d’Uber Eats, actuellement très peu protégés pendant cette pandémie. On regarde un extrait de ce documentaire évidemment fait avant le coronavirus mais les situations décrites sont les mêmes aujourd’hui, bien sûr.

Extrait du documentaire Invisibles, les travailleurs du clic

Voix off : Ils veulent que le client soit livré à l’heure à tout prix. Ils sont même prêts à sacrifier des livreurs pour que le client reçoive sa commande à l’heure.
On est obligé d’en arriver à un point où, comme moi, tu es obligé de travailler le lendemain. Ça m’est arrivé hier [photo du visage tuméfié d’un livreur] et je suis déjà sur le vélo.

Voix off, traduction de l’américain : Dans l’informatique et dans beaucoup d’autres multinationales, le fait de nier les droits des travailleurs est très répandu. Cependant, il faut bien comprendre qu’on parle de personnes.

Mathieu Magnaudeix : Voilà. On va conclure comme ça, on parle de personnes.
Merci beaucoup Antonio Casilli, professeur à Télécom Paris, chercheur associé à l’École des hautes études en sciences sociales.

Antonio Casilli : Merci à vous.

Mathieu Magnaudeix : Merci Jérôme Hourdeaux, journaliste à Mediapart qui suit les questions numériques.

Jérôme Hourdeaux : Merci.

• 1. La Quadrature du Net
• 2. Règlement général sur la protection des données