{"id":157733,"date":"2025-03-27T14:23:52","date_gmt":"2025-03-27T13:23:52","guid":{"rendered":"https:\/\/staging.sp-ps.ch\/vorstoesse\/letat-doit-prevenir-la-discrimination-algorithmique-dans-son-utilisation-de-lintelligence-artificielle-ia\/"},"modified":"2025-06-05T12:06:38","modified_gmt":"2025-06-05T10:06:38","slug":"letat-doit-prevenir-la-discrimination-algorithmique-dans-son-utilisation-de-lintelligence-artificielle-ia","status":"publish","type":"vorstoesse","link":"https:\/\/staging.sp-ps.ch\/it\/vorstoesse\/letat-doit-prevenir-la-discrimination-algorithmique-dans-son-utilisation-de-lintelligence-artificielle-ia\/","title":{"rendered":"L\u2019Etat doit pr\u00e9venir la discrimination algorithmique dans son utilisation de l\u2019intelligence artificielle (IA)."},"content":{"rendered":"\n

Les technologies d’IA et les algorithmes se sont int\u00e9gr\u00e9s profond\u00e9ment dans notre quotidien. Dans un monde id\u00e9al, les algorithmes seraient des s\u00e9quences logiques et math\u00e9matiques pures, sans pr\u00e9jug\u00e9s et justes. En r\u00e9alit\u00e9, cependant, les syst\u00e8mes algorithmiques ne sont ni neutres ni objectifs, car ils reproduisent les sch\u00e9mas de discrimination pr\u00e9sents dans la soci\u00e9t\u00e9. L’utilisation d’algorithmes sans garde-fous peut amplifier les in\u00e9galit\u00e9s, cr\u00e9er des effets d\u2019\u00e9chelle et des boucles de r\u00e9troaction qui renforcent la discrimination \u00e0 l\u2019encontre des femmes et de certains groupes.<\/p>\n\n\n\n

Les exemples europ\u00e9ens montrent les risques associ\u00e9s aux syst\u00e8mes automatis\u00e9s non pr\u00e9cautionneusement impl\u00e9ment\u00e9s, pouvant restreindre les droits fondamentaux et l’acc\u00e8s aux services publics. Aux Pays-Bas, des familles ont \u00e9t\u00e9 sanctionn\u00e9es injustement pour fraude aux allocations familiales. Un simple soup\u00e7on, bas\u00e9 sur les indicateurs de risque biais\u00e9s, suffisait aux autorit\u00e9s pour sanctionner des familles pour fraude. La discrimination algorithmique peut \u00e9galement se produire dans le monde du travail, o\u00f9 des st\u00e9r\u00e9otypes de genre influencent l\u2019affichage des offres d\u2019emploi et les d\u00e9cisions de promotion ou de licenciement. Dans le secteur de la sant\u00e9, le \u00ab gender data gap \u00bb en est un exemple frappant, o\u00f9 le manque de donn\u00e9es sur les femmes et l\u2019utilisation de donn\u00e9es masculines comme norme entra\u00eenent des d\u00e9cisions biais\u00e9es, affectant n\u00e9gativement le diagnostic et le traitement des patientes.<\/p>\n\n\n\n

En Suisse, en particulier dans le canton de Vaud, selon l\u2019atlas d\u2019Algorithmwatch<\/a> les algorithmes sont utilis\u00e9s par les autorit\u00e9s publiques dans les d\u00e9clarations d’imp\u00f4ts, les demandes d’aide sociale, la d\u00e9tection de fraudes, et dans l’assistance polici\u00e8re, notamment. <\/p>\n\n\n\n

Les obligations des entit\u00e9s publiques pour la protection des droits fondamentaux doivent \u00eatre particuli\u00e8rement fines, afin que les administr\u00e9-e-s soient prot\u00e9g\u00e9-e-s partout, notamment l\u00e0 o\u00f9 les algorithmes influencent des d\u00e9cisions importantes. Les administrations doivent rendre l\u2019utilisation des algorithmes transparente pour permettre aux individus de contester les d\u00e9cisions prises.<\/p>\n\n\n\n

Afin d\u2019assurer que l\u2019utilisation des algorithmes dans le secteur public soit transparente, \u00e9thique et b\u00e9n\u00e9fique pour toutes et tous, le pr\u00e9sent postulat demande au Conseil d\u2019Etat de :<\/p>\n\n\n\n

    \n
  1. Cr\u00e9er un registre public des syst\u00e8mes de prise de d\u00e9cision algorithmique<\/strong> : r\u00e9pertorier les syst\u00e8mes algorithmiques utilis\u00e9s \u00e0 des fins d\u00e9cisionnelles aux niveaux cantonal et communal. Ce registre permettrait \u00e0 la soci\u00e9t\u00e9 civile, \u00e0 l\u2019administration, aux chercheuses et chercheurs, et aux citoyennes et citoyens de comprendre et surveiller leur utilisation, et de garantir un d\u00e9bat public inform\u00e9.<\/li>\n\n\n\n
  2. Mettre en \u0153uvre un processus d\u2019analyse syst\u00e9matique de risques d\u2019utilisation des syst\u00e8mes algorithmiques \u00e0 des fins d\u00e9cisionnelles dans le secteur public <\/strong>: \u00e9valuer les risques \u00e9thiques et sociaux des syst\u00e8mes utilis\u00e9s avant et tout au long de leur utilisation. D\u00e9finit une liste de domaines dans lesquels il ne faudrait pas d\u00e9l\u00e9guer la d\u00e9cision \u00e0 un syst\u00e8me algorithmique.<\/li>\n\n\n\n
  3. Garantir un contr\u00f4le individuel et d\u00e9mocratique <\/strong>: outre la transparence, il faut garantir un contr\u00f4le efficace de l\u2019utilisation des syst\u00e8mes algoithmiques et une obligation de rendre des comptes, avec l\u2019instauration de proc\u00e9dures, de voies de recours et d\u2019indemnisation pour les personnes affect\u00e9es.<\/li>\n<\/ol>\n\n\n\n

    <\/p>\n\n\n\n

    Sources :<\/p>\n\n\n\n