Accompagner les administrations dans l’usage des algorithmes publics

Les applications des algorithmes dans le champ public sont nombreuses et variées, tant en termes de secteur d’activité (éducation, ressources humaines, fiscalité, santé, emploi, sécurité publique etc.), d’objet du traitement (calculer des droits, prédire un risque, réaliser un appariement, cibler etc.) que de modalités d’intervention de celui-ci (aide à la décision vs. décision automatisée, décision de l’administration vs. outil à destination des usagers). Le contexte est favorable à leur développement, dans la mesure où l’Etat encourage explicitement les administrations à recourir aux technologies de l’intelligence artificielle.

Les algorithmes du secteur public présentent des spécificités propres par rapport à ceux développés et utilisés par le secteur privé : ils sont censés opérer au service de l’intérêt général, ils servent parfois à exécuter le droit et sont souvent incontournables. La puissance publique ne peut cependant pas ignorer les risques associés à ces traitements :

• défiance de la société vis-à-vis d’outils perçus comme des « boîtes noires » et dont les décisions sont parfois mal comprises ou mal acceptées;
• risque de biais ou de discrimination, en particulier pour les algorithmes apprenants;
• risques éthiques associés à des utilisations peu ou mal anticipées des traitements algorithmiques.

Plusieurs textes sont ainsi venus encadrer l’usage des algorithmes. La loi pour une République numérique, promulguée en 2016, a notamment introduit un principe de transparence des algorithmes publics qui servent à fonder des décisions administratives individuelles[1]. Le Conseil constitutionnel a par ailleurs validé et explicité les conditions d’utilisation des algorithmes qui prennent seuls (ie. sans intervention humaine) des décisions à l’égard d’un individu. Le Règlement européen sur la protection des données personnelles a également introduit de nouvelles obligations en vue d’un usage plus transparent et responsable des algorithmes pour l’action publique.

Il convient dès lors, pour la puissance publique, d’assurer qu’elle use, de manière responsable des algorithmes.

Etalab accompagne les administrations dans la mise en œuvre de ces obligations et met à leur disposition un ensemble de ressources

Pour ce faire, Etalab travaille sur 4 axes différents :

1. Mettre en oeuvre la loi 
2. Identifier les enjeux et les bonnes pratiques
3. Développer la redevabilité par défaut 
4. Nouer des liens avec des partenaires et la société civile 

---

1. Mettre en oeuvre la loi

Pour accompagner les administrations dans la mise en oeuvre des obligations prévues au livre III du Code des relations entre le public et l’administration, Etalab met à disposition

• Un guide en ligne téléchargeable sur le cadre légal
• Des fiches pratiques et des webinaires sur des obligations spécifiques :
  • Obligation de mention explicite : la fiche pratique et le webinaire
  • Obligation d’inventaire des algorithmes : la fiche pratique et le webinaire, co-construite avec un groupe de travail composé d’administrations centrales et de collectivités.

2. Identifier les enjeux et les bonnes pratiques

Accompagner des administrations

Afin d’identifier les enjeux et les bonnes pratiques dans le domaine des algorithmes, Etalab a été en lien avec des administrations spécifiques sur des systèmes existants, tels que l’allocation des places en crèches à la Ville de Rennes, l’algorithme d’attribution des greffons du coeur à l’Agence de biomédecine. Il a par exemple aidé Pôle Emploi à expliquer le fonctionnement de l’algorithme de la Bonne Boîte sous format vidéo.

Approfondir la réflexion à travers des rapports

• « Rapport sur les conditions de l’ouverture du système Admission Post-Bac« , avril 2017 : commandité par Thierry Mandon, Secrétaire d’Etat en charge de l’Enseignement supérieur et de la Recherche. (Accédez directement au rapport).
• « Éthique et responsabilité des algorithmes publics« , janvier 2020 : un rapport réalisé à la demande d’Etalab par 8 élèves de l’ENA, qui formule des propositions concrètes pour favoriser un usage transparent et éthique des algorithmes publics par les administrations.
• « L’évaluation d’impact algorithmique : un outil qui doit encore faire ses preuves« , Elisabeth Lehagre, juillet 2021 : un rapport réalisé à la demande d’Etalab par la juriste et chercheuse indépendante Elisabeth Lehagre.

Partager ces bonnes pratiques

Enfin, Etalab partage ces bonnes pratiques et apprend de ses pairs grâce à des réseaux internationaux, tels que que le groupe de travail « Open Algorithms » (algorithmes ouverts) animé par le Partenariat pour un gouvernement ouvert.

3. Développer la redevabilité par défaut

L’équipe « algorithmes publics » a également collaboré avec plusieurs programmes d’intelligence artificielle et d’innovation ouverte portés par Etalab, tels que l’appel à manifestation d’intérêt « intelligence artificielle » et le programme Entrepreneurs d’Intérêt Général, notamment en collaboration avec la FING. L’objectif : intervenir pendant la conception et le développement de ces algorithmes pour y intégrer les enjeux de redevabilité dès le début.

Voir l’article d’Hubert Guillaud « Vers des algorithmes exemplaires? » (5 décembre 2018) qui mentionne notamment le travail réalisé sur le projet Signaux Faibles.

4. Nouer des liens avec la société civile

Organisation d’événements

• Afin de créer une communauté autour des algorithmes publics, nous organisons depuis 2017 des événements, souvent en partenariat avec des associations, des institutions ou des membres de la société civile.

Participation à des événements nationaux et internationaux

• Par ailleurs, Etalab a pu intervenir en qualité d’expert dans plusieurs événements nationaux (Village de la Legal Tech 2019, séminaire sur les algorithmes organisé par la CNIL et le Défenseur des droits en mai 2020) comme internationaux (RightsCon 2020, Internet Governance Forum 2021, OSCE, American Society of Public Administration, hackathon de politique publique organisé par le think tank britannique Reform, etc.).

Certaines de ces interventions ont été enregistrées. Vous pouvez les voir ici :

• Acteurs Publics TV: Les administrations jouent-elles la transparence? -intervention de Simon Chignard [vidéo], 30 septembre 2019
• Vers des algorithmes responsables – Masterclass de Simon Chignard au Salon de la Data à Nantes [vidéo], Septembre 2019
• What forms of mandatory reporting can help achieve public-sector algorithmic accountability? [en anglais] -table ronde du think tank britannique Ada Lovelace Institute -intervention de Soizic Pénicaud [vidéo et billet de blog], 29 octobre 2020
• « Déconstruire les algorithmes », table-ronde organisée par Stereolux dans le cadre du cycle « Vivre avec les algorithmes », organisé en collaboration avec Estelle Hary -intervention de Soizic Pénicaud [vidéo], 9 décembre 2020
• « From open data to open algorithms » [en anglais], table ronde organisée par le Government Digital Service, Government of the UK’s Cabinet Office, pendant la semaine de l’open data de la ville de New York -intervention de Soizic Pénicaud [vidéo], 12 mars 2021

Explorations

Afin de s’ouvrir à d’autres manières de penser, Etalab entretient des liens avec le monde de la recherche (Medialab de Sciences Po, Université de Warwick, INRIA…). En 2021, une collaboration avec Design Friction, un studio de design spéculatif, a également donné lieu à des ressources ludiques pour mettre en débat et dialoguer autour des algorithmes.

---

---

In English

It is Etalab’s role to help agencies build capacity with regards to algorithms and help them implement the French accountability legal framework. Here are some resources in English to know more about our work:

• « With great power comes great responsibility: keeping public sector algorithms accountable« , white paper for RightsCon Tunis, June 2019. 
• « What forms of mandatory reporting can help achieve public-sector algorithmic accountability?« , online panel hosted by the Ada Lovelace Institute (UK), October 20th 2020.
• « From open data to open algorithms« , online panel hosted by Government Digital Service, Government of the U.K.’s Cabinet Office as part of NYC Open Data Week 2021, March 12th 2021.
• « Building Public Algorithm Registers: Lessons Learned from the French Approach« , Open Government Partnership Blog, May 12th 2021.