Sztuczna inteligencja w samochodach stwarza zagrożenie dla osób o ciemniejszym kolorze skóry

Producenci samochodów autonomicznych muszą zmierzyć się z nowym wyzwaniem – systemy wizyjne maszyn słabiej radzą sobie z rozpoznawaniem przechodniów o ciemniejszym kolorze skóry. Z badań naukowców z Georgia Institute of Technology wynika, że sztuczna inteligencja rozpoznaje osoby białe o 10% skuteczniej niż osoby czarne. Im jaśniejszy kolor skóry przechodnia, tym systemy działają lepiej.

Tę „technologiczną dyskryminację rasową” potwierdzają inne przykłady. System rozpoznawania obrazów Google’a miał problem z rozróżnieniem goryli i osób o czarnym kolorze skóry. Część suszarek i dozowników do mydła nie reaguje na ruch dłoni o brązowym kolorze, a ciemniejszy kolor skóry na filmach Kodaka wyglądał jak ciemna smuga.

Większość istniejących samochodów autonomicznych korzysta z więcej niż jednego typu czujnika do rozpoznawania ludzi. Na przykład samochody marki Tesla mają wbudowany radar z przodu pojazdu, a Waymo produkcji Google’a używa bardzo dokładnego systemu Lidar, który łączy działanie radaru i lasera. Jednak presja rynku i pogoń za oszczędnościami może doprowadzić do montowania w samochodach systemów wykorzystujących wyłącznie kamery. I nie będzie to bezpieczne dla ludzi innych ras niż biała. System, w którym program komputerowy (AI) jest uczony rozpoznawania przechodniów poprzez pokazywanie im milionów zdjęć białych ludzi, nie jest bezpiecznym rozwiązaniem dla innych ras