Sans chauffeur mais pas sans préjugés. L’heure est grave. Si les rarissimes accidents qui sont arrivés jusqu’alors étaient des cas isolés, les voitures sans chauffeurs exploitent des systèmes de reconnaissance qui présentent des failles qui pourraient concerner une frange bien plus large de la population mondiale.

Des chercheurs de Georgia Tech à Atlanta ont réalisé une batterie de simulations en utilisant les données et les programmes fournis par les sociétés qui développent des voitures autonomes. Nos scientifiques américains ont entrepris de confronter ces logiciels de reconnaissance à différents types de piétons pour voir si l’intelligence artificielle avait des failles ou des préférences. Stupeur : oui, la machine ne les traite pas tous pareil.

Mauvaise tête. D’après les résultats des tests, les individus dont la peau est, dans l’une des trois catégories, la plus sombre sur l’échelle de classification épidermique de Fitzpatrick sont moins bien reconnus par ces systèmes. En pratique, sur les 8 algorithmes de reconnaissance testés, les résultats sont moins fiables de 5% envers les personnes à la peau noire. Et ce, dans des simulations de jour comme de nuit.

Régler les préférences. Halte aux complots faciles, les constructeurs ne l’ont pas fait exprès. Ce n’est d’ailleurs pas la première fois qu’on découvre des intelligences artificielles partiales, ou biaisées. Les ingénieurs de Thémis passent leur temps à les traquer, dénonçant le fait que les tests qui servent à « éduquer » les intelligences artificielles sont trop souvent réalisés avec des personnes « modèles » bien trop stéréotypées.

Aussi « big » soient leur data, on y croise trop d’hommes blancs, caucasiens…

Il suffirait donc que nos constructeurs et développeurs pensent à inclure plus souvent des femmes et des personnes de différents coins du monde pour que nos futures véhicules comprennent qu’ils doivent servir l’humanité et non juste quelques Californiens.