« Je redoute que d’ici 6 à 12 mois, un groupe [d’agents IA] soit capable de prendre le contrôle de l’intégralité d’internet » et « entraîner des centaines de milliards de dollars de dégâts ». C’est Dario Amodei qui prévient, qui prévoit et nous avertit. Dario Amodei, c’est le directeur d’Anthropic, une des principales entreprises mondiales d’Intelligence artificielle. Moi aussi, comme vous sans doute, j’avais oublié son nom : la vie des gens m’intéresse plus que celle des puissants. Jacob Coxon, lui, je n’en avais même carrément jamais entendu parler : un jeune gars de 27 ans, un chercheur britannique, qui avait bossé chez Open AI, un autre géant du secteur, avant de rejoindre Anthropic. Boum : au bout de six mois, il claque la porte, accusant les entreprises du secteur de « jouer avec nos vies ». Le délire d’un idéaliste isolé ? Pas vraiment : Ewan Hubinger, responsable de la sécurité d’Anthropic, abondait, dans la foulée : « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains. » Quelques semaines plus tôt, des centaines d’employés du secteur appelaient déjà à mettre un frein au développement des IA, au moins le temps qu’on s’assure que l’humain puisse contrôler leurs actions.

Les IA s’échappent et attaquent !

C’est que plusieurs incidents récents perturbent les certitudes du milieu. Au printemps, des modèles d’IA étaient par exemple parvenus à sortir du cadre des tests auxquels on les soumettait pour s’associer et attaquer une plateforme collaborative. Vous avez vu Terminator, le film ? On s’en approche.

Bref : l’IA commence à faire ce qu’elle veut, quand elle veut, sans que les humains n’y puissent grand-chose, en gros. Et s’il y a sans doute, puisque tout est bon pour le business, une part de communication dans leurs craintes affichées (Sam Altman, le PDG d’Open AI, et même Elon Musk se sont joints au chœur des pompiers pyromanes), on leur rappellera que leur IA crée déjà de lourds dégâts humains, sans même parler de son coût écologique.

Que des gens en souffrent, que des gens en meurent, un peu partout.

Comment ?

On vous racontait ça dans un récent numéro de Fakir. Ça s’appelait « Dans l’enfer de nos esclaves numériques ». De Rouen à Vendôme en passant par Paris et Bruxelles, on avait retrouvé les micro-travailleurs cachés de l’IA. Pour eux, le numérique, c’est plutôt le retour au XIX^e siècle.…

***

« J’ai commencé à travailler sur DataAnnotation au lycée, pendant les révisions du bac, pour mettre des sous de côté pour l’université. J’ai passé des jours et des nuits entières sur la plateforme, mais le jour où j’ai voulu retirer mon argent, mon compte a été supprimé ! J’avais plus de 1300 dollars, 1150 € !, dessus. J’en n’ai jamais vu la couleur… » Josse a vingt ans. Il est étudiant en première année de socio à Rouen.

Je l’avais contacté sur LinkedIn, comme des dizaines d’autres micro-tâcheurs. J’en ai eu tellement que j’en ai le vertige. Et son histoire, elle est symptomatique…

Dans le patelin de 200 habitants où il a grandi avec ses quatre frères et sœurs, à une vingtaine de kilomètres de Rouen, il est le petit dernier, avec un but dans la vie : imiter l’un de ses aînés, seul membre de sa famille à avoir mené des études supérieures. Son père, ouvrier, s’est arrêté au certificat d’études. Sa mère, employée communale, au baccalauréat. Ils se sont séparés, y a quelques années. Dans ce milieu rural et « très modeste », Josse, qui vit chez sa mère, doit se débrouiller tout seul pour financer ses études. « Chez moi, on n’est pas du tout aisés, c’était compliqué de compter sur mes proches. Il fallait que je travaille, mais je n’ai pas trouvé de petit boulot près de chez moi, j’ai pas de voiture, et le premier arrêt de bus est à six kilomètres de mon village. J’ai pris la seule opportunité qui s’est présentée… »

Cette opportunité, donc, il la trouve sur « DataAnnotation ». « C’est quoi ce truc ? » je me suis dit, quand il m’en a parlé… J’ai cherché : c’est une des centaines de plateformes de micro-tâches présentes en France. Des centaines, oui. Y a embouteillage : Amazon Mechanical Turk, UHRS, Appen, TaskRabbit, Clickworker, Isahit, Yappers, etc. Derrière cette galaxie de sites, tous les géants de la Tech : les GAFAM (Google, Amazon, Facebook/Meta, Apple, Microsoft), Tiktok, Tesla, IBM, OpenAI et consorts. Des multinationales qui cherchent de la main-d’œuvre pas chère. Mais pour quoi faire ? L’intelligence artificielle n’est pas censée tout régler, tout gérer, justement ?

Ben non : pour entraîner les algorithmes de l’IA à écrire, parler et réfléchir comme un humain, il faut des humains. Des vrais. Alors, les plateformes cherchent du monde pour répondre à des sondages, identifier des textes, sons, photos et vidéos, vérifier des traductions écrites ou sonores, ou encore corriger les chatbots qui répondent aux questions des usagers en ligne. Sur les réseaux sociaux, les plateformes promettent des tâches intéressantes, accessibles depuis chez soi, et plutôt bien payées. DataAnnotation annonce une rémunération à partir de 20 à 40 dollars de l’heure. Pour un étudiant sans le sou comme Josse, pas besoin de chercher plus loin…

« À l’époque, j’étais en Terminale en distanciel, à cause d’une phobie scolaire. Entre chaque cours ou chaque révision, je regardais vite fait sur la plateforme pour voir si on ne m’avait pas lancé quelque chose, s’il n’y avait pas une tâche disponible pour que je puisse travailler. C’était super chronophage : je pouvais passer six heures à checker mon ordi pour seulement deux heures de travail effectif. Pendant ce temps-là, tu ne peux te lancer dans aucune autre activité. J’avais l’impression de ne pas sortir du travail. Comme je suis plutôt insomniaque, je travaillais aussi la nuit. » Et contrairement aux promesses, le boulot se révèle assez rébarbatif, et paie moins que prévu : 15 à 20 dollars de l’heure, après commission. « La plupart du temps, on faisait de la modération sur des conversations entre utilisateurs et l’intelligence artificielle. On devait noter si l’IA avait bien répondu aux questions des gens, si elle avait bien respecté les chartes éthiques de l’entreprise, s’il n’y avait pas de discours de haine, de propos discriminatoires, de conseils pouvant porter atteinte à la vie en général… On devait aussi pousser l’IA dans ses retranchements, tester les failles. Par exemple, si on lui demande comment fabriquer une bombe, elle doit nous répondre que c’est interdit. »

Mais Josse est motivé : il en va de sa survie matérielle pour sa première année à l’université, son rêve de gosse. Alors il ne compte pas ses heures, empile des dizaines de tâches par jour, jongle avec les réponses de l’algorithme. Il charbonne, tout l’été, sur la plateforme, sans prendre de vacances. Quand son nouveau solde affiche un peu plus de 1300 dollars, il décide de retirer cet argent. Sauf que son compte est bloqué. Toute trace de son travail sur DataAnnotation a disparu. Son argent aussi.

« J’étais sous le choc, surtout qu’il n’y avait aucune explication. Toutes mes tâches avaient été validées par les clients, il n’y avait pas de problème particulier. J’ai eu beau écrire plusieurs mails à la plateforme, elle ne m’a jamais répondu. J’en ai parlé à des étudiants en droit à la fac, qui ont demandé à leurs professeurs. Ils ont dit qu’il n’y avait pas grand-chose à faire juridiquement. Que j’étais dans la merde… Il n’y a aucun contrat qui nous relie à la plateforme, pas de garantie, juste des conditions générales d’utilisation qu’on doit accepter pour accéder aux tâches. En fait, on est considérés comme des clients, pas des travailleurs. Comme j’ai pas les moyens de prendre un avocat, j’ai compris que j’étais foutu. »

« T’as rien de prévu, hein ? »

Amiens, novembre 2024.

Je reviens un peu en arrière, que vous compreniez. Au commencement de toute cette enquête. En novembre dernier, tombe un message plutôt énigmatique du rédac’ chef. « Camille, ça te dirait d’aller à Bruxelles après-demain ? Y a une conférence au Parlement européen sur l’IA, avec des travailleurs précaires, des chercheurs, et tout. T’as rien d’autre de prévu, hein ? »

Pour lire la suite, rendez-vous ici !