6 godzin temu
Jest pierwszy weekend września. W Jurilovce – malowniczej, rybackiej osadzie w rumuńskiej Dobrudży, na obrzeżach Delty Dunaju, pojawił się tłum kilkuset ludzi z różnych stron kraju. Turyści przybyli na Festiwal Barszczu Lipowieckiego, który w poprzednich latach przyciągał choćby do 150 tysięcy gości. Na miejscu zamiast dymiących kotłów z zupą rybną, sarmali, muzyki i straganów zastali jedynie pusty port i zaskoczonego burmistrza.
W tym roku festiwal się nie odbył – lokalne władze oficjalnie odwołały go z powodów finansowych. Stosowna informacja od dawna wisiała na stronie urzędu gminy. Problem w tym, iż zamiast sprawdzić u źródła, wielu turystów wolało zapytać o wydarzenie chatbota, który potwierdził, iż impreza się odbędzie. Nie tylko prywatne osoby zaufały AI. Podobnie zadziałało kilka biur podróży, które, jak w latach poprzednich, sprzedały bilety na przejazd autokarami.
Czat się pomylił
Czat pomylił się, ponieważ to model językowy. Algorytm połączył historyczne dane z poprzednich edycji z krążącymi po sieci fałszywymi reklamami biur podróży i zeszłorocznymi plakatami. Zmiksował te skojarzenia i wygenerował przekonującą, choć całkowicie zmyśloną odpowiedź, wysyłając turystów na wycieczkę do wnętrza cyfrowej halucynacji.
Ludzie użyli technologii wartej miliardy dolarów, żeby dowiedzieć się czegoś, co wymagało dwóch kliknięć na stronie internetowej gminy.
Staliśmy się tak leniwi, iż wolimy, by przetworzona papka informacyjna została nam podana przez czat, zamiast sięgnąć do źródła. Wybieramy cyfrowy destylat, choć powinniśmy już wiedzieć, iż często zamiast prawdy podsunie nam iluzje.
Można pomyśleć, iż w Jurilovce doszło do swego rodzaju cudu. Co za zderzenie światów: z jednej strony algorytmy, Dolina Krzemowa i serwery chłodzone tonami wody, a z drugiej – mała rumuńska miejscowość, zszokowany burmistrz i lokalni restauratorzy, którzy nagle musieli nakarmić kilkuset głodnych ludzi, bo „maszyna tak kazała”. AI stworzyło alternatywną ekonomię na jeden weekend.
Tygodnik Spraw Obywatelskich
Od 2020 roku odkrywamy niewygodne prawdy i nagłaśniamy historie, które mają moc zmieniać Polskę.
Przekaż darowiznę i stań się naszym współwydawcą
My i sztuczna inteligencja
Traktujemy sztuczną inteligencję jak genialnego, cyfrowego asystenta, którego wysyłamy do wielkiej, globalnej biblioteki po twarde fakty. Problem w tym, iż nasz asystent w drodze powrotnej zatrzymuje się na lokalnym targu.
Tu posłucha plotek, tam rzuci okiem na nagłówki tabloidów lub pogada z panem Mieciem spod sklepu. A potem wraca do nas, miesza traktaty naukowe z weselnymi opowieściami i z kamienną twarzą, głosem profesora, podaje nam ten koktajl jako prawdę objawioną. Dobrze, jeżeli skończy się to tylko zaskoczeniem na pustym placu w Jurilovce. Strach pomyśleć, co będzie, gdy ten sam asystent przyniesie nam z rynku przepis na leczenie serca albo ewakuację miasta.
Czat nie ma złych intencji. On po prostu nie odróżnia prawdy od prawdopodobieństwa.
Kiedy każemy mu działać w pośpiechu, bezkrytycznie ufając jego eksperckiemu tonowi, konsekwencje przestają być śmieszne, a zaczynają być niebezpieczne. Jurilovca była tylko niewinnym ostrzeżeniem, lekcją mechaniki AI. W czasach Henryka VIII taki posłaniec skończyłby w Tower, a my jak możemy go ukarać? Nie da się wsadzić do więzienia, nie da się skrócić o głowę, bo jest rzędem cyfr na serwerze. Nie można go pozwać, bo w regulaminie każdej aplikacji drobnym drukiem zapisano: „używasz na własną odpowiedzialność”. Największym paradoksem jest to, iż naszą jedyną karą dla niego jest… karmienie go kolejnymi danymi. Im częściej z niego korzystamy (nawet wytykając mu błędy), tym potężniejszy się staje.
Jak działają chatboty
Współczesne chatboty działają w ten sposób, ponieważ w rzeczywistości nie są „inteligentne” w ludzkim rozumieniu – nie rozumieją faktów i nie mają dostępu do rzeczywistości.
Są to modele językowe, które działają jak zaawansowane systemy przewidujące statystycznie najbardziej prawdopodobne następne słowo. Algorytm uczy się na gigantycznych bazach danych, w których traktaty naukowe leżą na tej samej półce co internetowe fora, plotki czy teksty satyryczne. Kiedy zadajemy mu pytanie, AI uruchamia matematyczny algorytm skojarzeń: miesza ze sobą wątki, które w jego bazie danych często występowały obok siebie (np. nazwa miejscowości, słowo „festiwal” i losowa data z Internetu).
Aplikacja na życie Joanna Suciu
Ponieważ model został zaprogramowany tak, aby jego odpowiedzi brzmiały naturalnie, płynnie i przekonująco, podaje on te zmyślone koktajle informacyjne z absolutną pewnością siebie. jeżeli pytamy o drogę przechodnia i ten pewnym siebie głosem wskazuje nam kierunek, idziemy tam, prawda? Myślimy, iż czat jest w każdej dziedzinie takim „miejscowym” i zna na wylot miasto. A on jest raczej obieżyświatem, który ewentualne braki w wiedzy nadrabia pewnym tonem i talentem gawędziarskim.
Czat nie odpowie: „W sumie to nie wiem, zapytałeś mnie o taką dziurę, iż chyba coś zmyślę”. Zamiast tego odpowiada elegancką polszczyzną, używając słów takich jak „oczywiście”, „z przyjemnością potwierdzam”.
To cyfrowy urok osobisty, który usypia naszą czujność. Ludzki mózg ma zakorzenioną potrzebę ufania autorytetom, a współczesne chatboty opanowały tę sztukę do perfekcji. Gdyby ten sam barszcz w Jurilovce zachwalał nam bełkoczący, podejrzany typ na ulicy – sprawdzilibyśmy to jeszcze raz. Gdy pisze to robot pięknym zdaniem wielokrotnie złożonym – zamawiamy autokar.
A przecież takie bezkrytyczne zaufanie może być groźne dla wszystkich z nas na co dzień. Wyobraźmy sobie, iż czat zapytany przez grzybiarza „czy mogę to zjeść?” rzuca okiem na niewyraźne, zamazane zdjęcie zrobione w lesie telefonem i na podstawie chaotycznych dyskusji z internetowych forów autorytatywnie stwierdza, iż śmiertelnie trujący grzyb to smaczna pieczarka. Kilka godzin później to zaufanie kończy się na oddziale toksykologii walką o przeszczep zniszczonej wątroby.
Takich sytuacji mogą być tysiące. Na przykład: zniszczona ślubna suknia, bo plamę wywabialiśmy sodą z cytryną, zepsuty silnik zalany nieodpowiednim olejem, pozew odrzucony z powodu zmyślonych przepisów, źle podany dziecku lek, czy wreszcie głęboki kryzys psychiczny człowieka, który zamiast do lekarza, poszedł po pomoc do bota.
Cyfrowe błędy i ich skutki
Czasem cyfrowy błąd uderza w przestraszony tłum. Wyobraźmy sobie letni festiwal muzyczny na pięćdziesiąt tysięcy osób i nagłe załamanie pogody. Zamiast czekać na oficjalne komunikaty organizatorów, spanikowani uczestnicy masowo pytają chatboty o sytuację. AI, agregując spanikowane wpisy z mediów społecznościowych, generuje fałszywy alarm o rzekomym nakazie natychmiastowej ewakuacji z powodu nadchodzącej powodzi. Tłum rusza jednocześnie do wąskich wyjść, tratując się nawzajem w ciemności i całkowicie blokując drogi dojazdowe dla prawdziwych służb ratunkowych. Wtedy okazuje się, iż cyfrowa plotka ma już realną, ludzką krew na rękach.
Quo vadis, cyfrowy asystencie? Czy coś da się z tym zrobić? To od nas zależy, na ile będziemy dawać się „wkręcać”.
Jeśli nie zaczniemy na nowo pielęgnować zdrowego, ludzkiego sceptycyzmu, Jurilovca nie pozostanie jedynie anegdotą o wyprawie na nieistniejący festiwal. Kolejny powrót naszego asystenta z miejskiego targu może bowiem przynieść nam halucynację, za którą zapłacimy już nie burczeniem w brzuchu, ale zdrowiem czy życiem.
