Kontrowersje dotyczące systemów rozpoznawania twarzy

System rozpoznawania twarzy jest stosowany przez władze stanowe na Florydzie od prawie 20 lat. Korzysta się z niego ok. 4600 razy w miesiącu. Pracownicy podkreślają, że program zawodzi, gdy zdjęcia podejrzanych są słabej jakości. Badanie z 2016 r. wykazało, że połowa dorosłych Amerykanów trafiła już do bazy danych systemów rozpoznawania twarzy organów ścigania w Stanach Zjednoczonych. Kilka miast, np. San Francisco, zabroniło organom bezpieczeństwa korzystania z takich systemów z powodu błędów i obaw dotyczących zachowania prywatności. W grudniu 2019 r. pojawiły się badania potwierdzające, że rozpoznawanie twarzy pokazuje więcej błędnych wyników dopasowań w przypadku analiz zdjęć czarnoskórych kobiet.

Amerykańscy politycy i grupy broniące swobód obywatelskich oraz prywatności danych wyrazili zaniepokojenie kwestią dokładności i rosnącym wykorzystaniem oprogramowania do rozpoznawania twarzy. Wystąpiły już przypadki błędnej identyfikacji, a osoby oskarżone o dokonanie przestępstw często nie były informowane o użyciu technologii AI. Prawodawcy przygotowują projekt ustawy ograniczającej stosowanie w USA technologii rozpoznawania twarzy, natomiast nad jej rozwojem pracują m.in. Facebook, Google, Amazon i Microsoft.

W Korei Południowej wywiady wideo z osobami poszukującymi zatrudnienia są analizowane przez technologię rozpoznawania twarzy w celu poznania cech charakteru i reakcji emocjonalnych przyszłych pracowników w różnych sytuacjach. Powstają szkoły, które uczą młodych ludzi, jak sprawić odpowiednie wrażenie podczas tego typu rozmów kwalifikacyjnych. Według Korea Economic Research Institute (KERI) prawie jedna czwarta spośród 131 największych korporacji w kraju korzysta obecnie ze sztucznej inteligencji lub planuje jej używać podczas rekrutacji.