Bienvenue dans le deuxi\u00e8me volet de notre saga en trois \u00e9pisodes : \u201cL\u2019IA peut-elle \u00eatre responsable ?”. Aujourd’hui concentrons-nous sur la discrimination amen\u00e9e par cette derni\u00e8re.
\nL\u2019IA, seulement deux lettres et pourtant de multiples interrogations \u00e0 tout-va. Vous devez avoir d\u00e9j\u00e0 une id\u00e9e plus ou moins pr\u00e9cise de ce qu\u2019est l\u2019IA. Ce que nous vous proposons maintenant, c\u2019est de mettre en avant les limites de l\u2019IA face \u00e0 la morale.<\/p>\n
1\/ Expliquer les mod\u00e8les<\/a> (article publi\u00e9 le 31 mars 2022)<\/em><\/p>\n 2\/ Diminuer la discrimination<\/strong><\/p>\n 3\/ Trouver des solutions<\/a> (article publi\u00e9 le 17 mai 2022)<\/em><\/p>\n Apr\u00e8s avoir abord\u00e9 l\u2019explicabilit\u00e9 des mod\u00e8les qui n\u2019a d\u00e9sormais plus de secrets pour vous, nous voil\u00e0 pr\u00eats \u00e0 aborder un sujet encore un peu tabou : la discrimination dans les mod\u00e8les de Machine Learning. Plus pr\u00e9cis\u00e9ment, les algorithmes peuvent \u00eatre discriminatoires\u00a0 👀.<\/p>\n Pour rentrer dans le vif du sujet, quelques exemples.<\/p>\n ⚠️Les femmes de couleur non-blanche ont davantage de difficult\u00e9s \u00e0 \u00eatre reconnues par leur t\u00e9l\u00e9phone qu\u2019un homme blanc (l\u2019algorithme \u00e9tant entra\u00een\u00e9 essentiellement sur des images d\u2019homme blanc).<\/p>\n ⚠️Les lyc\u00e9ens de lyc\u00e9e mal class\u00e9s ont plus de mal \u00e0 int\u00e9grer des \u00e9tudes sup\u00e9rieures r\u00e9put\u00e9es, m\u00eame si leurs notes sont excellentes voire meilleures (le lyc\u00e9e d\u2019origine est compt\u00e9 comme un crit\u00e8re \u00e0 part enti\u00e8re au m\u00eame titre que les notes).<\/p>\n ⚠️Les femmes utilisant la reconnaissance vocale pour \u00e9crire des messages auront plus de mal \u00e0 faire reconna\u00eetre leur voix que des hommes (les mod\u00e8les \u00e9tant essentiellement entra\u00een\u00e9s sur des voix masculines).<\/p>\n Et malheureusement, ces 3 exemples soci\u00e9taux ont des corollaires dans le domaine de la sant\u00e9, de la banque, de l\u2019achat de bien et services, de la pr\u00e9paration de nos d\u00e9placements, ou encore du juridique, o\u00f9 ces discriminations existent \u00e9galement.<\/p>\n Mais si nous faisons ce constat, c\u2019est avant tout pour chercher des solutions.<\/p>\n ✔️ Des plateformes comme le r\u00e9seau social Twitter a lanc\u00e9 un challenge pour r\u00e9duire la discrimination de ses algorithmes. ✔️ Nous pouvons lister les raisons pour lesquelles les algorithmes sont discriminatoires :<\/p>\n ✔️ Nous pouvons sensibiliser \u00e0 la discrimination des algorithmes<\/p>\n D\u2019ailleurs, pour donner de l\u2019\u00e9cho \u00e0 cette initiative…<\/p>\n 📢 C\u2019est \u00e0 vous !<\/p>\n
\n
\n
\n
\nLe 30 juillet 2021, Twitter a appel\u00e9 le plus grand nombre \u00e0 d\u00e9celer les discriminations raciales, sexistes et bas\u00e9es sur les opinions. On se souvient en effet de la pol\u00e9mique qui avait surgi en 2020 montrant que l\u2019algorithme de Twitter mettait toujours en avant une personne blanche devant une personne noire. (https:\/\/news.konbini.com\/societe\/twitter-fait-polemique-a-cause-de-son-algorithme-photo-raciste\/<\/a>)<\/em><\/p>\n\n
\n