PL | EN

Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts

Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts (MIT). Naukowcy stworzyli „Normana”, aby wytłumaczyć, jak opracowywane są algorytmy, i uświadomić ludziom potencjalne zagrożenia AI. Okazuje się, że dane, na bazie których sztuczna inteligencja uczy się algorytmów, mogą znacząco wpływać na jej zachowanie.

Norman otrzymywał tylko krótkie historie opisujące obrazy umierających ludzi, które naukowcy znaleźli na platformie Reddit. Później pokazywano mu plamy atramentu, które miał opisać (test Rorschacha). Następnie badacze porównywali wyniki z odpowiedziami tradycyjnie wyszkolonych sztucznych inteligencji. Odpowiedzi psychopatycznej AI były przerażające. Dla przykładu: tam, gdzie pozostałe AI rozpoznawały człowieka trzymającego parasolkę, Norman opisywał „mężczyznę zastrzelonego przez krzyczącą żonę”.

Zdaniem MIT „Norman pokazuje, jakie niebezpieczeństwa niesie ze sobą AI, kiedy stronnicze dane zostają wykorzystane w algorytmach uczenia maszynowego”.

Przy okazji tematu rozwoju sztucznej inteligencji polecamy również artykuł o wykorzystaniu AI w procesie rekrutacji w korporacjach takich jak Tesco, Unilever czy Goldman Sachs.

Hej! Zainteresował Cię nasz Magazyn? Możesz otrzymywać go regularnie. Podaj swój adres e-mail, a co piątek trafi do Ciebie nasz przegląd istotnych i sprawdzonych informacji ze świata. Miłego czytania!
Naciskając „Zapisz się”, wyrażam zgodę na przesyłanie newslettera przez Outriders Sp. not-for-profit Sp. z o.o. i akceptuję regulamin.
Czytaj również
Lekarze na całym świecie zaczynają polegać na algorytmach sztucznej inteligencji
Lekarze na całym świecie zaczynają polegać na algorytmach sztucznej inteligencji
Lekarze na całym świecie zaczynają polegać na algorytmach sztucznej inteligencji, aby przyspieszyć diagnozę i leczenie pacjentów. Jednym z przykładów jest system IDx-Dr, który skanuje siatkówkę oka i w ciągu 20 sek. potrafi zdiagnozować cukrzycę. W kwietniu br. IDx-Dr został zatwierdzony przez amerykańską Agencję Żywności i Leków (FDA), jako pierwszy system diagnozujący oparty na AI. Oznacza […]
Zastosowanie AI w edukacji i medycynie
Zastosowanie AI w edukacji i medycynie
Zdaniem ekspertów z m.in. Centre for Cardiovascular Science na Uniwersytecie w Edynburgu sztuczna inteligencja może znacznie poprawić trafność diagnoz zawału serca i zmniejszyć obciążenie na oddziałach ratunkowych. W porównaniu z obecnymi metodami testowania oparty na AI algorytm o nazwie CoDE-ACS potrafi wykluczyć zawał serca u ponad dwukrotnie większej liczby pacjentów z dokładnością 99,6%. Algorytm może […]
Niebezpieczeństwa związane ze stosowaniem sztucznej inteligencji
Niebezpieczeństwa związane ze stosowaniem sztucznej inteligencji
Europol opublikował raport ostrzegający przed wykorzystywaniem narzędzia ChatGPT oraz innych generatywnych systemów sztucznej inteligencji do oszustw internetowych i innych cyberprzestępstw. Jak dotąd eksperci zidentyfikowali liczne przypadki nielegalnego użycia ChatGPT. Zdaniem Europolu zasady jego moderacji można obejść poprzez tzw. inżynierię podpowiedzi – praktykę polegającą na dostarczaniu danych wejściowych do modelu AI w celu uzyskania określonego wyniku. […]
Szkoła w dobie AI – zagrożenia i rozwiązania
Szkoła w dobie AI – zagrożenia i rozwiązania
W ramach singapurskiej strategii „Smart Nation” sztuczna inteligencja ma pomagać nauczycielom i doskonalić proces edukacji uczniów, szczególnie tych ze specjalnymi potrzebami. AI zapewni także zautomatyzowane systemy oceniania i uczenia maszynowego, aby każdy uczeń jak najlepiej reagował na materiały i działania prowadzone w klasie. Korea Południowa wdrożyła systemy oparte na AI, by dostosować prace domowe i […]
Technologia AI w medycynie i przemyśle farmaceutycznym
Technologia AI w medycynie i przemyśle farmaceutycznym
Technologia AI, dzięki której przyspieszono proces przygotowania szczepionek na koronawirusa, ma zmienić działanie przemysłu farmaceutycznego. W branży pandemię COVID-19 opisuje się jako „punkt zwrotny” w powszechnym zastosowaniu sztucznej inteligencji w badaniach nad opracowywaniem nowych leków. Według amerykańskiej firmy badawczej Trinity Life Sciences w 2020 r. ok. 90% dużych firm farmaceutycznych zainicjowało projekty z wykorzystaniem AI. […]
Pozostałe wydania