PL | EN

Sztuczna inteligencja a rasizm, bigoteria i szansa na równe traktowanie

Dzięki naukowcom z Narodowego Robotarium, w skład którego wchodzą Heriot-Watt University i Uniwersytet Edynburski, opracowano zaawansowane algorytmy uczenia maszynowego, które znacznie poprawią wykrywanie przemocy w internecie – pomogą np. zwalczyć przemoc na tle płciowym oraz „wprowadzić pozytywne zmiany społeczne i kulturowe”. Zdaniem profesorki Vereny Rieser praca ta pozwoli stworzyć „przestrzeń online bezpieczną niezależnie od płci, rasy czy pochodzenia”.

Microsoft ogłosił, że wstrzyma sprzedaż opartej na AI usługi Face API, która potrafi przewidywać wiek, płeć, a także emocje danej osoby. Gigant technologiczny powołał się na obawy etyczne związane z technologią rozpoznawania twarzy, mogącą narażać ludzi na „stereotypowe myślenie, dyskryminację lub nieuczciwą odmowę świadczenia usług”. Jedynie aplikacja dla osób z wadami wzroku o nazwie „Seeing AI” nadal będzie korzystać z możliwości widzenia maszynowego.

Po przeprowadzeniu badań zatytułowanych „Robots Enact Malignant Stereotypes” specjaliści z Uniwersytetu Johnsa Hopkinsa, Georgia Institute of Technology, Uniwersytetu Waszyngtonu i Monachijskiego Uniwersytetu Technicznego stwierdzili, że analizowane roboty stały się seksistowskimi i rasistowskimi bigotami, ponieważ korzystały z wadliwych modeli sieci neuronowych. „Robot działający z popularnym internetowym systemem sztucznej inteligencji konsekwentnie faworyzował mężczyzn kosztem kobiet, białych kosztem kolorowych i wyciągał pochopne wnioski na temat pracy ludzi po spojrzeniu na ich twarze” – napisali naukowcy.

Hej! Zainteresował Cię nasz Magazyn? Możesz otrzymywać go regularnie. Podaj swój adres e-mail, a co piątek trafi do Ciebie nasz przegląd istotnych i sprawdzonych informacji ze świata. Miłego czytania!
Naciskając „Zapisz się”, wyrażam zgodę na przesyłanie newslettera przez Outriders Sp. not-for-profit Sp. z o.o. i akceptuję regulamin.
Czytaj również
Inwestycje w AI, roboty i rynek pracy
Inwestycje w AI, roboty i rynek pracy
Badania nad sztuczną inteligencją coraz częściej koncentrują się na masowych zastosowaniach przynoszących dochody konsumentom w świecie fizycznym. Szczególnie opłacalne powinny być inwestycje m.in. w systemy, które potrafią interpretować „nieustrukturyzowane dane”, by zarządzać jakością, przekształcają częściowo napisane dokumenty w format nadający się do odczytu maszynowego oraz przewidują i wykrywają zdarzenia i anomalie. Ponadto warto inwestować w hybrydową sztuczną inteligencję […]
Twarz człowieka
Twarz człowieka
Twarz człowieka ewoluowała w wyniku samoudomowienia, ponieważ nasi przodkowie wybierali partnerów o mniej agresywnych, bardziej przyjaznych typach osobowości – twierdzą naukowcy z Uniwersytetu w Mediolanie oraz Europejskiego Instytutu Onkologii. Według badaczy gen BAZ1B, związany z kształtem twarzy i osobowością, mógł być faworyzowany przez ludzi, w wyniku czego twarz człowieka jest nieduża i smukła. Gen BAZ1B […]
Kontrowersje dotyczące systemów rozpoznawania twarzy
Kontrowersje dotyczące systemów rozpoznawania twarzy
System rozpoznawania twarzy jest stosowany przez władze stanowe na Florydzie od prawie 20 lat. Korzysta się z niego ok. 4600 razy w miesiącu. Pracownicy podkreślają, że program zawodzi, gdy zdjęcia podejrzanych są słabej jakości. Badanie z 2016 r. wykazało, że połowa dorosłych Amerykanów trafiła już do bazy danych systemów rozpoznawania twarzy organów ścigania w Stanach […]
AI w leczeniu nowotworów i przewidywaniu zmian klimatu
AI w leczeniu nowotworów i przewidywaniu zmian klimatu
Dzięki współpracy informatyków i onkologów z Institute of Cancer Research (ICR) i Royal Marsden NHS Foundation Trust oraz użyciu sztucznej inteligencji ustalono, że połączone działanie leków ewerolimus i wandetanib jest skuteczne w przypadku występujacego u dzieci rozlanego glejaka pnia mózgu (DIPG). Odkrycie może zapoczątkować nową erę korzystania z AI do opracowania metod leczenia wszystkich rodzajów […]
Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts
Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts
Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts (MIT). Naukowcy stworzyli „Normana”, aby wytłumaczyć, jak opracowywane są algorytmy, i uświadomić ludziom potencjalne zagrożenia AI. Okazuje się, że dane, na bazie których sztuczna inteligencja uczy się algorytmów, mogą znacząco wpływać na jej zachowanie. Norman otrzymywał tylko krótkie historie opisujące obrazy umierających ludzi, które […]
Pozostałe wydania