Le Défenseur des droits souligne que la confiance des usagers envers l'administration est cruciale, alors que l'usage des algorithmes devient de plus en plus présent dans les services publics.
Les premières réclamations montrent des problématiques systémiques liées à la part d'intervention humaine dans les décisions partiellement automatisées, notamment quand un agent se contente de valider les résultats d'un algorithme sans vérification.
Pour le Défenseur, une intervention humaine plus substantielle est nécessaire dans ces cas. Il plaide aussi pour plus de transparence et un « droit à l'explication » pour les usagers, tout en reconnaissant les opportunités et les risques liés à l'IA. Lire l'article complet
Source : Weka, le 13/11/2024