Tu peux acheter un dataset annoté en deux clics. Ou sous-traiter du RLHF, du red teaming, de la validation qualité. Et oublier ce qu’il y a derrière. Les plaintes RGPD déposées en Europe contre Scale AI via sa plateforme Outlier remettent ce “derrière” au centre: traqueurs, surveillance de poste, collecte d’identifiants, et, plus largement, une chaîne de sous-traitance qui peut te retomber dessus. Même si tu es une boîte à Lyon. Même si tu passes par un intégrateur.
Ce papier fait le tri: ce que disent précisément les sources disponibles, ce que ça change pour tes achats “d’annotation données IA conformité”, et une méthode d’achat responsable, pratico-pratique, orientée “sous-traitance IA RGPD”.
Pourquoi l’affaire “Scale AI” dépasse Scale AI
Le sujet n’est pas “une entreprise américaine qui aurait fait n’importe quoi”. Le sujet, c’est un modèle industriel. Aujourd’hui, une grosse partie de la donnée d’entraînement et surtout de la donnée d’évaluation passe par:
- Annotation (vision: bounding boxes, segmentation; NLP: classification, NER; audio: transcription, diarisation).
- Évaluation et alignement (RLHF, pairwise ranking, préférence humaine, scoring).
- Red teaming et tests de sûreté (prompting adversarial, jailbreaks, tests de toxicité, tests de fuite).
- Collecte et labellisation via plateformes et micro-tâches, avec sous-traitance en cascade.
Les plaintes visant Scale AI via Outlier mettent en lumière des risques qui existent chez d’autres acteurs du même type. Et ces risques concernent aussi des donneurs d’ordres en France dès qu’ils achètent de l’annotation, des datasets annotés, ou des services d’évaluation, y compris indirectement. Source: dépêche relayée par Euronext, citant noyb et les pratiques alléguées de suivi et de traitement des données de freelances (live.euronext.com).
Ce que révèlent les plaintes: trois blocs de faits à comprendre
1) Des plaintes RGPD en Europe: le sujet “tracking et droits des personnes”
Selon noyb, cinq plaintes ont été déposées en octobre 2026 dans quatre pays (France, Italie, Pays-Bas, Autriche), visant Scale AI/Outlier. L’angle rapporté: pratiques de suivi (“tracking”), traitement de données de travailleurs freelances, et manquements supposés à des exigences RGPD (base légale, minimisation, droits d’accès). Source: live.euronext.com.
Autre point rapporté: quatre freelances auraient exercé des demandes d’accès à leurs données (entre décembre 2025 et mai 2026) sans réponse jugée satisfaisante par noyb. Source: live.euronext.com.
À ce stade, ce sont des allégations et une procédure en cours. Mais pour un acheteur, ça suffit à déclencher une question simple: “Mon fournisseur d’annotation a-t-il un niveau de conformité et de transparence compatible avec mes obligations?”
2) Une collecte de “Verification Data” pouvant toucher à la biométrie
La politique de confidentialité d’Outlier indique qu’à l’inscription et à intervalles réguliers, la plateforme peut collecter et analyser images et enregistrements vidéo ou audio (selfies, pièce d’identité) afin de produire des “mesures” du visage (“Verification Data”). Selon les juridictions, ce type de mesure peut être considéré comme de la donnée biométrique ou sensible. Source: politique de confidentialité Outlier (outlier.ai).
Pourquoi ça te concerne à Lyon? Parce que tu peux te retrouver, sans le vouloir, dans une chaîne où des données sensibles sont traitées pour “sécuriser” la main d’œuvre. Et si tu es donneur d’ordres, on va te demander ce que tu savais, ce que tu as vérifié, et pourquoi tu as accepté.
3) Une politique de “screen monitoring”: surveillance du poste de travail
Outlier décrit des mécanismes de screen monitoring sur certains projets: captures d’images et enregistrement vidéo de l’écran sur des “projets désignés” ou en cas de “préoccupation d’intégrité”, avec des éléments capturés ou produits (texte, applications, détections, etc.). Source: page légale dédiée au screen monitoring (app.outlier.ai).
Tu peux juger ça “normal” pour prévenir la fraude. Mais côté acheteur, c’est un signal: ton fournisseur peut instrumenter le travail de manière intrusive. Et ça a des impacts directs sur:
- Risque juridique (RGPD, droit du travail selon les pays, obligations d’information).
- Risque sécurité (qu’est-ce qui est capturé exactement, où c’est stocké, qui y accède).
- Risque qualité (si les gens bossent sous pression et sous surveillance, tu obtiens parfois de la conformité de façade, pas de la qualité).
4) Le volet “conditions de travail”: un règlement transactionnel aux États-Unis
Un autre élément documenté: le site lié au règlement transactionnel McKinney v. Scale AI mentionne un montant brut de 12,5 millions de dollars et un net estimé de 7 543 333,33 dollars, dans un dossier portant notamment sur la classification et le paiement (salaires, pauses, etc.). Source: FAQ du settlement (mckinneyscaleaisettlement.com).
Ça ne prouve pas, à lui seul, une faute. Et c’est du droit californien. Mais pour un donneur d’ordres, c’est un rappel: les sujets sociaux reviennent. Et ils reviennent souvent sous forme de risque réputationnel, puis contractuel, puis réglementaire.
Pourquoi ça concerne directement les entreprises lyonnaises et AURA
À Lyon et en région, tu as trois cas typiques où tu touches le “travail du clic” sans t’en rendre compte.
Cas 1: tu fais de la vision pour l’industrie, la mobilité, l’énergie
Inspection visuelle, détection de défauts, sécurité, comptage, lecture de jauges, etc. Tu as besoin d’annotations lourdes (segmentation, polygones). Très souvent: tu sous-traites ou tu achètes du pré-annoté. Et tu mélanges parfois données internes et prestataire externe. Le risque: fuite, non-conformité, labels de mauvaise qualité.
Cas 2: tu fais du NLP “métier” ou du support client
Classification de tickets, extraction d’entités, scoring de conformité, et, maintenant, évaluation de modèles génératifs. Là, la tentation est forte: “on achète une presta RLHF / QA”. Le risque: tu externalises des données potentiellement personnelles (clients, salariés) ou sensibles (contrats, litiges) sans cadrage béton.
Cas 3: tu fais de l’évaluation continue de modèles et du red teaming
Ce n’est plus un one-shot. Les produits se pilotent à la qualité. Donc tu as besoin de tests humains récurrents. Si ces tests passent par une plateforme instrumentée (tracking, screen recording), tu importes dans ton projet un risque que ni ton DPO ni ton RSSI n’a vu venir.
Ce que ça change pour tes achats: les 3 risques qui montent d’un cran
Risque 1: non-conformité RGPD dans la chaîne de sous-traitance
Si tu achètes un dataset annoté ou une prestation d’annotation impliquant des données personnelles, tu dois clarifier les rôles (responsable de traitement, sous-traitant) et encadrer le traitement. La CNIL insiste sur la détermination des responsabilités et donne des recommandations pour développer des systèmes d’IA conformes au RGPD (cnil.fr).
La CNIL a aussi un focus explicite sur l’annotation: minimisation, exactitude, loyauté, pertinence des annotations, y compris quand le dataset est constitué par collecte, achat ou téléchargement. Et elle rappelle que la relation “sous-traitant” est typique quand un dataset est préparé pour un client (cnil-d10.cnil.fr).
Traduction “terrain”: acheter de l’annotation, c’est acheter un traitement. Pas juste un livrable.
Risque 2: surveillance, traqueurs et collecte sur les environnements externalisés
Les plaintes mettent le projecteur sur un angle que les achats ignorent souvent: les traqueurs (outils tiers d’analytics), et la collecte au niveau poste de travail (screen monitoring, navigation, applications). Source: plaintes rapportées par Euronext et politique de screen monitoring (live.euronext.com, app.outlier.ai).
Même si ce sont “leurs travailleurs, pas les tiens”, tu peux être impacté si:
- ton contrat impose ou encourage ces dispositifs;
- tes données apparaissent à l’écran (interfaces internes, contenus sensibles);
- un incident survient et ton nom est associé au dispositif.
Risque 3: qualité des labels et fiabilité du modèle
La CNIL le dit sans tourner autour: entraîner avec des données de source inconnue ou de qualité non vérifiée est un risque, et ça inclut la qualité de l’annotation. Source: recommandations CNIL et page sur l’annotation (cnil.fr, cnil-d10.cnil.fr).
Et côté business, c’est brutal: labels bruités = modèle instable = itérations sans fin = coût qui explose. Tu crois acheter “moins cher”. Tu achètes du retravail.
Guide d’achats responsables: ta checklist “annotation données IA conformité”
Objectif: réduire le risque RGPD, réduire le risque social, et augmenter la qualité. Pas faire de la morale. Faire du contrôle.
Étape 1: cartographie simple de ce que tu achètes
- Type de service: annotation, évaluation (RLHF), red teaming, collecte, dataset prêt à l’emploi.
- Type de données: personnelles, sensibles, confidentielles, secrets industriels, données publiques.
- Pays et acteurs: fournisseur direct, sous-traitants, plateformes, localisation des équipes.
- Outils: portail web, extensions, trackers, monitoring, enregistrement d’écran.
Si tu ne sais pas répondre: tu n’es pas prêt à signer.
Étape 2: due diligence RGPD orientée sous-traitance
Ce que tu demandes noir sur blanc:
- Rôles RGPD (responsable, co-responsable, sous-traitant) et justification.
- Base légale et informations fournies aux annotateurs quand leurs données sont traitées (tracking, monitoring).
- Registre des sous-traitants et droit d’opposition à un sous-traitant.
- Transferts hors UE: pays, mécanisme (clauses types, etc.), et mesures additionnelles si besoin.
- Gestion des droits: comment sont traitées les demandes d’accès, suppression, etc. (le point justement évoqué dans les plaintes, source live.euronext.com).
- Minimisation: “on ne met que ce qui est nécessaire dans la tâche”, pas de dumps de données.
Pour cadrer ton approche RGPD côté IA, tu peux aussi t’appuyer sur ce rappel de base, côté entreprise: https://lyon-ia.com/blog/rgpd-et-ia-en-entreprise.
Étape 3: clauses contractuelles à exiger (précises, testables)
Tu veux des clauses qui se vérifient. Pas des promesses.
- Interdiction ou encadrement strict des traqueurs: liste des outils tiers autorisés, finalités, durées de conservation, pas de revente.
- Encadrement du screen monitoring: quand, pourquoi, quelle granularité, durée de conservation, accès, et preuve de minimisation (référence utile: la politique Outlier montre ce que ça peut être quand c’est large, app.outlier.ai).
- Confidentialité renforcée: interdiction de réutilisation des données et des outputs (labels, conversations, consignes) hors projet.
- Traçabilité: logs, qui a annoté quoi, quand, avec quelle consigne, quelle version du guideline.
- Droit d’audit: audit documentaire minimum, et audit sur site ou tiers de confiance pour projets sensibles.
- Notification d’incident: délai, format, coopération, et responsabilité claire.
Si tu veux une base pour relire tes contrats côté IA (au-delà de l’annotation), tu as un mémo utile ici: https://lyon-ia.com/blog/contrat-fournisseur-ia-clauses.
Étape 4: sécurité du poste de travail et du flux de données
Même externalisé, ton flux doit être durci:
- Environnement isolé: VDI, navigateur durci, pas d’accès email perso, pas de copier-coller libre si données sensibles.
- Accès au strict nécessaire: segmentation par lots, pas de dataset complet accessible à une seule personne.
- Watermarking et canary tokens sur jeux sensibles (détection de fuite).
- Chiffrement en transit et au repos, et gestion des clés documentée.
- Journalisation: actions, exports, téléchargements.
Et si ton vrai risque, c’est la fuite de données via une chaîne IA, garde une checklist sous la main: https://lyon-ia.com/blog/fuite-de-donnees-7-controles-rapides-avant-douvrir-vos-donnees-a-un-assistant-ia.
Étape 5: audit qualité de l’annotation (sinon tu paies du bruit)
- Gold set interne: un échantillon annoté par tes experts, pour mesurer l’écart.
- Double annotation sur un pourcentage, avec mesure d’accord inter-annotateurs.
- Guidelines versionnées: consignes écrites, exemples, cas limites, mises à jour tracées.
- Plan de rework contractuel: seuils de qualité, pénalités, et reprises à la charge du fournisseur.
- Traçabilité des décisions si tu fais de l’évaluation de modèles: tu dois pouvoir expliquer pourquoi une réponse est “bonne” ou “mauvaise”.
Alternatives au “travail du clic” globalisé: options réalistes pour Lyon/AURA
Il n’y a pas une solution magique. Il y a des arbitrages.
Option A: in-house, mais cadré (petit volume, haute sensibilité)
Tu internalises quand les données sont critiques (santé, RH, industrie sensible) ou quand tu as besoin d’expertise métier forte. Coût plus élevé, mais contrôle maximal. Attention: il faut des process, pas juste “des stagiaires qui cliquent”.
Option B: prestataires locaux ou régionaux, avec audit possible
Avantage: proximité, visites, clauses plus faciles à faire respecter, et généralement plus de transparence sur la chaîne de sous-traitance. Inconvénient: capacité parfois limitée sur gros volumes. Mais pour beaucoup de projets AURA, c’est suffisant.
Si tu dois sélectionner un prestataire dans la région, tu peux partir de cette grille: https://lyon-ia.com/blog/choisir-prestataire-ia-lyon.
Option C: données synthétiques, mais sous conditions
Le synthétique peut réduire l’exposition aux données personnelles. Mais ce n’est pas “gratuit”:
- il faut prouver l’utilité (couverture des cas);
- il faut tester les biais et l’écart au réel;
- il faut éviter de recréer des données personnelles (risques de ré-identification selon les méthodes).
Utilise-le comme complément, pas comme excuse pour arrêter de contrôler.
Plan d’action 30 jours pour une boîte lyonnaise qui achète de l’annotation
- Semaine 1: inventaire de tous les achats et sous-traitances liés à l’annotation et à l’évaluation (y compris via ESN/intégrateurs). Classe les projets par sensibilité des données.
- Semaine 2: questionnaire fournisseur standard: chaîne de sous-traitance, transferts, outils tiers, screen monitoring, politique de conservation, traitement des droits.
- Semaine 3: addendum contractuel: traqueurs, monitoring, droit d’audit, notification incident, qualité mesurable. Mets un “no go” clair si refus.
- Semaine 4: pilote qualité: gold set, double annotation, score, décision go/no go. Puis seulement après, montée en volume.
Si tu veux cadrer le sujet au niveau direction et éviter que ça parte en “shadow AI” achats non maîtrisés, tu peux t’appuyer sur un format type CODIR: https://lyon-ia.com/blog/codir-data-ia-a-lyon-1211-industrialiser-sans-shadow-ai-mode-demploi.
Ce que tu dois retenir, sans drama
Les plaintes visant Scale AI/Outlier ne disent pas “toute l’annotation est sale”. Elles disent: arrête d’acheter à l’aveugle. Le “travail du clic” est devenu une brique critique de la qualité des modèles. Donc il doit rentrer dans tes contrôles au même niveau que le cloud, la sécu, et le RGPD.
Trois actions simples si tu n’as le temps que pour ça:
- 1) Exige la transparence sur sous-traitants, pays, outils de tracking, et monitoring écran. Si c’est flou, c’est non.
- 2) Verrouille le contrat avec des clauses testables (audit, interdictions, délais, qualité mesurée).
- 3) Mesure la qualité avant d’industrialiser. Sinon tu vas payer deux fois.
Laisser un commentaire