En septembre 2024, au nom du droit de la protection des données personnelles et du principe de non-discrimination, Aequitaz s'est allié à d'autres organisations de la société civile pour porter ensemble ce recours en justice contre un algorithme de ciblage d’un organisme ayant mission de service public. Un sujet complexe et sensible qui interroge l'avenir de nos services publics.
Quel est l’algorithme dont nous parlons ?
Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Plus il est élevé, plus la probabilité d’être contrôlé·e est grande. Chaque mois, l’algorithme analyse les données personnelles des plus de 32 millions de personnes vivant dans un foyer recevant une prestation CAF et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de suspicion on trouve notamment le fait d’avoir de faibles revenus, d’être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l’allocation adulte handicapé (AAH). En retour, les personnes en difficulté se retrouvent sur-contrôlées par rapport au reste de la population.
Quel est le fondement du recours déposé ?
Notre recours devant le Conseil d’État porte tant sur l’étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisé·es dans leurs parcours de vie. En assimilant précarité et soupçon de fraude, cet algorithme participe d’une politique de stigmatisation et de maltraitance institutionnelle des plus défavorisé·es. Les contrôles sont des moments particulièrement difficiles à vivre, générateurs d’une forte charge administrative et d’une grande anxiété. Ils s’accompagnent régulièrement de suspensions du versement des prestations, précédant des demandes de remboursements d’indus non-motivés. Dans les situations les plus graves, des allocataires se retrouvent totalement privé·es de ressources, et ce en toute illégalité. Quant aux voies de recours, elles ne sont pas toujours compréhensibles ni accessibles.
Alors que l’utilisation de tels algorithmes de notation se généralise au sein des organismes sociaux, notre coalition, regroupant des organisations aux horizons divers, vise à construire un front collectif afin de faire interdire ce type de pratiques et d’alerter sur la violence dont sont porteuses les politiques dites de « lutte contre la fraude sociale ».
Pourquoi Aequitaz s'est allié à ce recours ?
Parce que nous sommes dans un état de droit et qu’il est heureux de pouvoir questionner la légalité de certaines pratiques, de s’assurer de leur conformité, en particulier avec l’enjeu de l’égalité des citoyens et de la lutte contre les discriminations.
Parce que ce recours a le grand mérite de mettre en lumière la place des algorithmes de ciblage dans les politiques de contrôle au sein des différentes branches de la protection sociale et que c’est un enjeu de transparence et de gouvernance démocratique de notre système.
Parce qu'enfin, nous avons un lourd héritage de pauvrophobie qui nous a conduit, depuis des siècles, à confondre lutte contre la pauvreté et lutte contre les pauvres. Cet héritage nous oblige collectivement à interroger nos pratiques[1].
Quelles sont les règles qui sous-tendent la logique des contrôles réalisés par la CNAF ?
La CNAF est chargé de faire appliquer les règles de versements de ses allocations décidées par le gouvernement. Ces règles sont multiples et complexes. Plus d'un quart des versements au titre de la prime d'activités par exemple sont entâchés d'erreurs [2]. Ces erreurs, qu'elles soient du fait de l'allocataire, de l'employeur ou bien de la CAF elle-même, conduisent souvent à des trop-perçus, que les bénéficiaires doivent ensuite rembourser ou inversement. Bref, de la gestion supplémentaire que la CNAF a tout intérêt à limiter.
Ensuite, vient la « chasse aux indus » : depuis l'année 2022, la cour des comptes refuse de certifier les comptes de la branche famille de la CNAF [2]. Elle estime à 6.3 milliards d’euros d'indus et de rappels non détectés et régularisés malgré la montée en performance des dispositifs de détection des erreurs et l'aide de procédures automatisés. Il y a donc une injonction de la cour des comptes envers la CNAF de diminuer ces écarts. C'est en grande partie ce qui a présidé à la mise en place de la réforme solidarité à la source qui assure le pré-remplissage des déclarations en lieu et place des allocataires.
Pour optimiser les contrôles, c'est à dire, cibler les situations les plus sujettes à des "erreurs", l'usage des algorithme semble bien utile pour aller droit au but, parmi des profils d'allocataires ayant des revenus ou des situations personnelles et familiales statistiquement plus instables (auto-entrepreneures, femmes seules avec enfants, personnes en situation de handicap, etc...). C'est là qu'intervient le biais discriminatoire contre lequel il faut lutter.
Et s'il faut contrôler les versements, comment s'y prendre ?
Contrôler en respectant le principe d’égalité devant la loi et sans discriminer.
Mettre les pratiques des CAF en conformité avec la loi en matière de droit à l’information des allocataires et d’accès aux recours en cas d’erreurs.
Poursuivre de manière prioritaire la lutte contre la fraude complexe et organisée qui fait appel à d’autres stratégies de recherche et de ciblage
Mettre en œuvre la réforme de solidarité à la source tout en garantissant des moyens suffisants d’accompagnement des allocataires dans les CAF.
Sur l’ensemble de ces sujets, nous continuons le dialogue avec la CNAF sur le recul attendu des ruptures de droits. Des rencontres se poursuivent, auxquelles Aequitaz participe activement, pour faire reculer les mécaniques de contrôles, de suspensions qui ajoutent de l'insécurité à la faiblesse des montants perçus quand on vit des minima sociaux.
Notes
[1] Stop à la maltraitance institutionnelle (ATD Quart Monde) : voir l’intervention d’Axelle Brodiez Dolino (3h06’ à 3h19’)
[2] Certification par la Cour des comptes des comptes 2024 de la sécurité sociale
Le recours est porté avec
→ Comment mobiliser des personnes concernées par des injustices et savoir agir avec elles ?
→ Comment renforcer ses capacités et sa posture d’animation collective ?
→ Comment développer des stratégies d’action en fonction des enjeux et du contexte et savoir comment la mettre en œuvre ?
→ Comment agir en collectif à partir des rêves et des colères de jeunes adultes ?
→ Comment passer de l'écoute à l'action collective ? de l'individuel au collectif ?
→ Comment renforcer le travail d'analyse politique à partir de situations vécues d'injustices sociales, économiques ou politiques ?
Le collectif des Lucioles en Savoie se réunit toutes les deux semaines à Chambéry. Il réunit des personnes concernées ou indignées par l’accès, parfois difficile, aux minimas sociaux. C’est un groupe d’entraide qui mène aussi des projets pour faire progresser les droits.
Le collectif des Lucioles en Drôme se réunit toutes les deux semaines à Valence. Il réunit des personnes concernées ou indignées par l’accès, parfois difficile, aux minimas sociaux. C’est un groupe d’entraide qui mène aussi des projets pour faire progresser les droits.
Composé de jeunes adultes de toute la France, le collectif mène des actions nationales pour faire reculer la précarité économique des jeunes et les discriminations racistes au travail.