L’intelligence artificielle est-elle raciste ?

L’intelligence artificielle occupe une place de plus en plus centrale dans nos sociétés et s’invite dans notre quotidien bien malgré nous. Elle pourrait bientôt intégrer des domaines aussi sensibles que la justice. Cela conduit à se poser des questions d’éthique, notamment quand certains affirment que l’intelligence artificielle serait en réalité raciste.

L’intelligence artificielle n’est pas réellement « intelligente »

L’intelligence artificielle (ou IA) est un ensemble de techniques visant à permettre à des machines d’imiter l’intelligence humaine (et selon certains à la surpasser). Ces techniques reposent sur des algorithmes et des données, ainsi qu’un système de traitement de ces données.

L’IA est bien souvent source de fantasmes, d’inquiétudes face à un futur où « les machines domineront les Hommes ». Mais en réalité, ce futur (s’il se confirme un jour) n’est pas pour demain. À l’heure actuelle, l’intelligence artificielle n’est pas comparable à un cerveau humain. La machine demeure froide et mathématique, dénuée de sens commun, de conscience et de sens moral.

Les biais de l’intelligence artificielle

Les algorithmes sont largement utilisés et font partie intégrante de notre quotidien. Il conviendrait donc que nous leur fassions confiance. Mais avec la multiplication de ces utilisations, se multiplient également les exemples pointant du doigt une intelligence artificielle raciste, sexiste, homophobe et transphobe.

Dans une étude menée en 2018, l’informaticienne Joy Buolamwini, démontre que les systèmes de reconnaissance faciale commercialisés échouent bien plus souvent à reconnaître le genre d’une femme lorsqu’il s’agit d’une personne de couleur. Plus encore, au plus la peau est foncée, au plus le système effectue des erreurs. Or si nous imaginons par exemple une intelligence artificielle utilisée pour l’attribution d’un emploi, ces « erreurs » peuvent être très dangereuses.

Autre exemple, au sein de Microsoft cette fois. En 2016, l’entreprise décide de lancer un chatbot nommé « Tay », destiné à discuter sur les réseaux sociaux (notamment sur Twitter). Après huit heures seulement de conversations, Microsoft prend la décision de fermer le chatbot, ce dernier répétant des propos racistes et allant même jusqu’à nier l’holocauste.

Ces intelligences artificielles sont-elles devenues racistes ? D’une certaine manière oui, car elles se nourrissent des données qui leur sont accessibles et évoluent au fur et à mesure. Mais en réalité ce n’est pas l’intelligence artificielle elle-même qui est raciste, mais bien les données récoltées. Or ces données sont toutes le produit d’être humains, de la même manière que l’intelligence artificielle et ses algorithmes sont conçus par des êtres humains.

Un racisme directement imputable aux Hommes

Il est rare que les concepteurs d’une intelligence artificielle lui attribuent consciemment un biais raciste.  Toutefois, le manque de diversité parmi ces concepteurs (et au sein des sciences numériques de manière générale) entraîne une production de données majoritairement nourries par des hommes et  majoritairement non-racisés.

L’intelligence artificielle reproduit ce qu’elle apprend, ce qu’elle connaît, ce qu’elle récolte. Il n’est alors pas rare qu’elle copie puis généralise malgré elle des biais racistes. Mais même s’ils sont inconscients, ces biais ne sont pas inoffensifs, d’autant plus que la machine peut ensuite perpétuer ces discriminations. Si nous imaginons une IA dans le cadre du recrutement qui n’a été testée qu’avec des personnes blanches, il est possible qu’elle traite une image de CV d’une personne racisée comme « anormale » et la discrimine aussitôt.

La dynamique est double, d’une part la machine s’adapte à l’humain et d’autre part l’humain s’adapte à la machine. Les discriminations risquent alors de s’accentuer. Or, il très difficile d’enlever les biais situées dans les données, notamment parce qu’il est difficile de les situer. Si d’une part les biais des concepteurs eux-mêmes influencent la machine, les interlocuteurs de cette dernière peuvent par la suite eux aussi modifier les données.

Quels leviers utiliser pour maîtriser l’intelligence artificielle ?

Il semble illusoire de ne plus utiliser l’intelligence artificielle, d’autant plus que celle-ci peut constituer un véritable atout pour l’intérêt général. Et il semble tout aussi illusoire d’être fataliste, car les biais discriminants imités et reproduits ne sont pas irrémédiables. Des solutions existent et sont étudiées dans le secteur des sciences numériques. Tout d’abord, il convient de promouvoir des équipes professionnelles de concepteurs plus diversifiées. Ensuite, un contrôle plus accru sur la façon dont l’IA est conçue est nécessaire, notamment à l’aide de règlements éthiques.

 

Le manque de transparence autour de l’intelligence artificielle est souvent pointé du doigt. Le fonctionnement d’une telle technologie doit être plus compréhensible : il convient de comprendre le processus de conception, les bases de données, mais aussi le raisonnement mathématique effectué. En d’autres termes, l’humain devra sans doute à l’avenir être éduqué à la machine. En février 2020, l’Union européenne a d’ailleurs publié un Livre blanc sur l’intelligence artificielle, rappelant ses enjeux et atouts, et appelant à davantage de transparence.

Clara Grégoire

 

 

N'hésitez pas à partager !

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *