35.

< Avis du Conseil d'État >

Le Gouvernement se propose de reprendre ce principe de limitation, en réservant cette possibilité de prise de décision, sous réserve des deux exceptions de droit, aux seules décisions administratives individuelles.

Mais la garantie apportée par le projet de loi se borne à l'information prévue par l'article L. 311-3-1 du code des relations du public avec l’administration. Même si ce code pose par ailleurs un principe de maîtrise par l'administration de systèmes informatiques, le Conseil d'Etat estime nécessaire de poser, au nombre des mesures appropriées évoquées par le règlement de l’Union, le principe selon lequel le responsable du traitement, dans le cas où celui-ci comporte un algorithme qui peut-être à l’origine d’une décision administrative individuelle, est tenu de se donner les moyens de maîtriser l'algorithme et de documenter, notamment à destination de l'autorité de contrôle, les actions entreprises à cette fin. Il est en effet essentiel, alors même qu'il n'est plus nécessaire que l'action humaine s'interpose entre le traitement et la prise de décision, de garantir à tout instant une maîtrise humaine complète des algorithmes, comportant notamment la capacité d’interrompre le fonctionnement du traitement, notamment lorsque ceux-ci sont dotés de capacités d'apprentissage leur permettant de modifier leur logique de fonctionnement sans une démarche humaine préalable de validation. Le rappel de ce principe n'est conçu que comme un premier pas vers la définition d'un régime plus complet du contrôle des algorithmes, y compris au-delà du champ des décisions administratives individuelles, qui apparaît de plus en plus nécessaire.

< Avis du Conseil d'État >