PL | EN

Niebezpieczeństwa związane ze stosowaniem sztucznej inteligencji

Europol opublikował raport ostrzegający przed wykorzystywaniem narzędzia ChatGPT oraz innych generatywnych systemów sztucznej inteligencji do oszustw internetowych i innych cyberprzestępstw. Jak dotąd eksperci zidentyfikowali liczne przypadki nielegalnego użycia ChatGPT. Zdaniem Europolu zasady jego moderacji można obejść poprzez tzw. inżynierię podpowiedzi – praktykę polegającą na dostarczaniu danych wejściowych do modelu AI w celu uzyskania określonego wyniku. Szczególnie niebezpieczne mogą być praktyki phishingowe, podszywanie się pod mowę konkretnych osób oraz tworzenie kodu w różnych językach programowania.

Jaką rolę odegra AI w kampaniach dezinformacyjnych i propagandowych? Może ona zmienić środowisko informacyjne do tego stopnia, że ludzie i maszyny nie zdołają odróżnić treści wygenerowanych przez sztuczną inteligencję od tych stworzonych przez człowieka. Programy AI mogą być także wykorzystywane do masowego manipulowania ludźmi za pośrednictwem chatbotów w celu dzielenia się teoriami spiskowymi i propagandą.

Zdaniem ekspertki AI Meredith Broussard rasizm, seksizm i ableizm zakodowane w programach opartych na sztucznej inteligencji nie zostaną wyeliminowane jedynie poprzez zastosowanie lepszych danych. Zmiana musi nastąpić w zachowaniach samego społeczeństwa. Np. algorytmy zatwierdzania kredytów hipotecznych są od 40 do 80% bardziej skłonne do odmowy udzielenia kredytu klientom o innym kolorze skóry niż biały. Zostały one przeszkolone na podstawie danych o udzielaniu kredytów hipotecznych w przeszłości.

Wersja audio dostępna
dla Patronek i Patronów
Hej! Zainteresował Cię nasz Magazyn? Możesz otrzymywać go regularnie. Podaj swój adres e-mail, a co piątek trafi do Ciebie nasz przegląd istotnych i sprawdzonych informacji ze świata. Miłego czytania!
Naciskając „Zapisz się”, wyrażam zgodę na przesyłanie newslettera przez Outriders Sp. not-for-profit Sp. z o.o. i akceptuję regulamin.
Czytaj również
AI: kłamca, mistrz geometrii i wsparcie sędziego
AI: kłamca, mistrz geometrii i wsparcie sędziego
Badacze ze start-upu Anthropic sprawdzili, czy chatboty, takie jak ChatGPT, są w stanie kłamać. Nie dość, że odpowiednio wytrenowane modele mogą się nauczyć oszukiwać człowieka i inne modele sztucznej inteligencji, to jeszcze się okazuje, że tego procesu nie da się odwrócić przy użyciu dostępnych środków bezpieczeństwa dla zaawansowanych systemów AI. Dlatego naukowcy ostrzegają przed „fałszywym […]
Lekarze na całym świecie zaczynają polegać na algorytmach sztucznej inteligencji
Lekarze na całym świecie zaczynają polegać na algorytmach sztucznej inteligencji
Lekarze na całym świecie zaczynają polegać na algorytmach sztucznej inteligencji, aby przyspieszyć diagnozę i leczenie pacjentów. Jednym z przykładów jest system IDx-Dr, który skanuje siatkówkę oka i w ciągu 20 sek. potrafi zdiagnozować cukrzycę. W kwietniu br. IDx-Dr został zatwierdzony przez amerykańską Agencję Żywności i Leków (FDA), jako pierwszy system diagnozujący oparty na AI. Oznacza […]
ChatGPT a zagrożenia dla systemu edukacji i reakcje nauczycieli
ChatGPT a zagrożenia dla systemu edukacji i reakcje nauczycieli
Oparty na sztucznej inteligencji ChatGPT rewolucjonizuje wiele branż, w tym środowisko akademickie. Zadebiutował już w literaturze naukowej – został uznany za autora co najmniej czterech artykułów i próbnych wydruków. Wydawcy z reguły są zgodni: AI nie spełnia kryteriów autora badania, ponieważ nie może brać odpowiedzialności za treść oraz integralność artykułów naukowych. Niektórzy twierdzą jednak, że […]
Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts
Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts
Pierwsza psychopatyczna sztuczna inteligencja (AI) powstała w Instytucie Technologii w Massachusetts (MIT). Naukowcy stworzyli „Normana”, aby wytłumaczyć, jak opracowywane są algorytmy, i uświadomić ludziom potencjalne zagrożenia AI. Okazuje się, że dane, na bazie których sztuczna inteligencja uczy się algorytmów, mogą znacząco wpływać na jej zachowanie. Norman otrzymywał tylko krótkie historie opisujące obrazy umierających ludzi, które […]
AI w leczeniu nowotworów i przewidywaniu zmian klimatu
AI w leczeniu nowotworów i przewidywaniu zmian klimatu
Dzięki współpracy informatyków i onkologów z Institute of Cancer Research (ICR) i Royal Marsden NHS Foundation Trust oraz użyciu sztucznej inteligencji ustalono, że połączone działanie leków ewerolimus i wandetanib jest skuteczne w przypadku występujacego u dzieci rozlanego glejaka pnia mózgu (DIPG). Odkrycie może zapoczątkować nową erę korzystania z AI do opracowania metod leczenia wszystkich rodzajów […]
Pozostałe wydania