présenté au Sénat par Sophie Joissains et voté le 12 mars 2018 au sujet de ParcourSup
Extrait: "Aucune décision produisant des effets juridiques à l’égard d’une
personne ou l’affectant de manière significative ne peut être prise sur
le seul fondement d’un traitement automatisé de données à caractère
personnel"
une décision automatisée risque d’être aveugle à des circonstances de
l’espèce qui mériteraient d’être prises en compte, parce que l’algorithme n’a
pas été programmé pour le faire. Le recours aux algorithmes doit donc être
réservé à des cas qui n’appellent aucun pouvoir d’appréciation ;
- le deuxième risque, lié à l’essor de l’intelligence artificielle, est que
des décisions administratives individuelles soient prises sans que personne ne
sache suivant quels critères, l’algorithme ayant déterminé lui-même les
critères à appliquer et leur pondération : c’est le phénomène des « boîtes
noires » ;
- le troisième risque est que la programmation des algorithmes
destinés à prendre des décisions individuelles n’aboutisse à contourner les
règles de fond et de forme qui encadrent l’exercice du pouvoir réglementaire.
Ainsi, dans la procédure dite « Admission post-bac », les candidatures
des lycéens dans les licences universitaires étaient classées suivant des
critères reposant sur une base légale fragile, qui n’avaient jamais été
explicités dans un texte réglementaire et qui n’étaient même pas rendus
publics. On ne saurait admettre que l’administration se défausse ainsi de ses responsabilités
sur la machine, en jouant de la complexité technique et de la réputation
d’infaillibilité des automates pour masquer ses propres choix.
lire tout l'amendement
écouter Sophie Joissains
Aucun commentaire:
Enregistrer un commentaire