Les voitures autonomes seraient "racistes" : elles ne reconnaitraient pas les personnes noires
LA NOUVELLE MOBILITÉ S’EXPLORE AVEC
Detour
Les voitures autonomes seraient “racistes” : elles ne reconnaitraient pas les personnes noires
Hilaire Picault |  07.03.2019
Les voitures autonomes seraient "racistes" : elles ne reconnaitraient pas les personnes noires

En clair : des tests démontrent que leurs systèmes détectent mal les personnes dont la peau n'est pas blanche.

Sans chauffeur mais pas sans préjugés. L’heure est grave. Si les rarissimes accidents qui sont arrivés jusqu’alors étaient des cas isolés, les voitures sans chauffeurs exploitent des systèmes de reconnaissance qui présentent des failles qui pourraient concerner une frange bien plus large de la population mondiale.

Des chercheurs de Georgia Tech à Atlanta ont réalisé une batterie de simulations en utilisant les données et les programmes fournis par les sociétés qui développent des voitures autonomes. Nos scientifiques américains ont entrepris de confronter ces logiciels de reconnaissance à différents types de piétons pour voir si l’intelligence artificielle avait des failles ou des préférences. Stupeur : oui, la machine ne les traite pas tous pareil.

Mauvaise tête. D’après les résultats des tests, les individus dont la peau est, dans l’une des trois catégories, la plus sombre sur l’échelle de classification épidermique de Fitzpatrick sont moins bien reconnus par ces systèmes. En pratique, sur les 8 algorithmes de reconnaissance testés, les résultats sont moins fiables de 5% envers les personnes à la peau noire. Et ce, dans des simulations de jour comme de nuit.

Régler les préférences. Halte aux complots faciles, les constructeurs ne l’ont pas fait exprès. Ce n’est d’ailleurs pas la première fois qu’on découvre des intelligences artificielles partiales, ou biaisées. Les ingénieurs de Thémis passent leur temps à les traquer, dénonçant le fait que les tests qui servent à « éduquer » les intelligences artificielles sont trop souvent réalisés avec des personnes « modèles » bien trop stéréotypées.

Aussi « big » soient leur data, on y croise trop d’hommes blancs, caucasiens…

Il suffirait donc que nos constructeurs et développeurs pensent à inclure plus souvent des femmes et des personnes de différents coins du monde pour que nos futures véhicules comprennent qu’ils doivent servir l’humanité et non juste quelques Californiens.

Peter Farrelly's 'Green Book' to Open Zurich Film Festival ...

intelligence artificielle Racisme Voiture autonome

VOUS AIMEREZ AUSSI
Qui sommes-nous?

Qui sommes-nous?

Une rédac curieuse et avide de vous faire découvrir la mobilité sous un autre jour

voir la page
Newsletter

Newsletter

Chaque semaine, 1 minute pour vous faire découvrir le meilleur de la mobilité

Contact

Contact

Envoyez-nous vos projets, idées, remarques ou juste un bisou

nous ecrire