1 miesiąc temu
Prof. Andrzej Zybertowicz o sztucznej inteligencji: Jestem zwolennikiem Slow AI. Z punktu widzenia równowagi geostrategicznej spowolnienie rozwoju AI musi być robione w porozumieniu z Chinami.
Spis treści
Prof. Andrzej Zybertowicz: Z moich analiz wynika, iż sztuczna inteligencja może pogłębić destabilizacyjne procesy
Jeśli na ten problem spojrzymy systemowo, to mamy dwie poważne niewiadome. Po pierwsze, sztuczna inteligencja przychodzi do cywilizacji, która jest w stanie rozchwiania. ESG ma być pewnym programem, który ma tą cywilizację uporządkować, ale rozchwianie kulturowe, rozchwianie geopolityczne powoduje, iż ESG jest z jednych sprowadzona do roli narzędzia ideologicznego, a przez innych traktowane jako quasi-religia. I w tej sytuacji racjonalny rdzeń ginie.
I ktoś by pomyślał, wchodzi zatem sztuczna inteligencja, bardziej sprawna inteligencja od naszej ludzkiej już niebawem, jak niektórzy się spodziewają, i ona to oporządkuje. Niestety z moich analiz wynika, iż sztuczna inteligencja może pogłębić destabilizacyjne procesy. Zanim ewentualnie sztuczna inteligencja będzie w stanie pomóc nam rozwiązać problemy, z którymi ludzkość nie daje sobie radę, to sztuczna inteligencja pojawi się jako nowy czynnik, jako istotny mnożnik siły w cywilizacji, która już jest rozwibrowana i może rozchybotać naszą cywilizację jeszcze bardziej.
Prof. Andrzej Zybertowicz: Infosfera została strukturalnie zatruta
Sztuczna inteligencja pojawia się w sytuacji, gdy rewolucja cyfrowa zniszczyła komunikację publiczną poprzez media społecznościowe. Gdy infosfera została strukturalnie zatruta, gdy nastąpiła degradacja szkolnictwa. Niektórzy eksperci amerykańscy mówią, iż komunikacja polityczna została zniszczona przez media społecznościowe i jakość klasy politycznej spadła, bo te media wymusiły jakby wyścig w dół na poziomie komunikacji pozbawionej niuansów, uproszczonej i skrajnie rozemocjonowanej.
I teraz to jest kontekst, w który wchodzi rewolucja, rewolucja AI. Na razie systemy AI wykazują się sprawnością na poziomie halucynowania czy konfabulacji. To ma pewne funkcjonalności, ale dotąd zbudowane systemy generatywne AI nie gwarantują produkowania wiedzy o jakości naukowej. Ona, ta AI może pomagać w porządkowaniu dotychczasowej wiedzy, może pomagać badaczom tworzyć nowe pomysły, ale jeszcze nie potrafi odróżnić fałszu od prawdy i testować hipotez.
Prof. Andrzej Zybertowicz: Jestem zwolennikiem ruchu pod nazwą Slow AI
W związku z tym nadzieję, że, iż ona wyjdzie naprzeciw ESG jako pewnemu wyzwaniu są co najmniej przedwczesne. W świeżo wydanej książce, która wczoraj miała swoją premierę na forum ekonomicznym, jesteśmy zwolennikami ruchu pod nazwą Slow AI. iż powinniśmy spowolnić rozwój systemów sztucznej inteligencji, przynajmniej z dwóch powodów.
Po pierwsze, obecne systemy nie gwarantują bezpieczeństwa, to znaczy mogą się wymknąć spod kontroli, mogą generować fałszywe dane i bardziej być narzędziem maszyny dezinformacyjnej niż maszyny, która by podwyższyła jakość dyskursu publicznego.
Nie należy zachłystywać się cyfryzacją wszystkich domen życia społecznego jak lecą. Już dzisiaj rozwój AI napotyka na problemy z zasobami energetycznymi. Główne firmy zaczynają planować budowę elektrowni jądrowych, żeby deficyty energii elektrycznej przełamać. Powstaje pytanie, czy jest możliwy dalszy skok w rozwoju AI bez skokowego wzrostu zapotrzebowania na sztuczną na energię przez systemy sztucznej inteligencji. W związku z tym uważam, iż racjonalne będzie w tym świecie, który jest skołowany poznawczo, spowolnienie rozwoju najbardziej nowatorskich i przełomowych technologii, zbudowanie procedur regulacyjnych.
Prof. Andrzej Zybertowicz: Powstaje pytanie, czy zielona transformacja, która wymaga cyfrowej transformacji, nie jest tylko formułą „zamienił stryjek siekierkę kijek”
W istocie, jeżeli spojrzeć życzliwie na nurt ESG, to jest to przecież próba uregulowania procesów rozwoju gospodarczego, tak, żeby korzyści były większe niż koszty przynoszone, przerzucane na środowisko przyrodnicze. Tymczasem okazuje się, iż tak zwana zielona rewolucja wymaga rewolucji cyfrowej, która bazuje na wysokim wykorzystaniu metali ciężkich, metali nieciężkich tylko ziem rzadkich, których wydobycie według niektórych szacunku jest siedmiokrotnie przekraca obciążenie ekosystemu niż źródeł surowców tradycyjnych. Inaczej mówiąc, powstaje pytanie, czy zielona transformacja, która wymaga cyfrowej transformacji, nie jest tylko formułą „zamienił stryjek siekierkę na kijek”.
Wiele problemów wymaga analizy, a na tą analizę potrzebujemy czasu, badacze potrzebują czasu. I ten czas zostanie nam zabrany, jeżeli będziemy zaskakiwani przez przyszłe osiągnięcia AI, która nie będzie miała zdolności odróżniania prawdy od fałszu, a której kreatywność halucynacji, konfabulacji przekroczyć może naszą odporność w zderzeniu z narracjami.
Prof. Andrzej Zybertowicz: Z punktu widzenia równowagi geostrategicznej spowolnienie rozwoju AI musi być robione w porozumieniu z Chinami
Człowiek, gdy spotyka się z narracją, ma instynkt odróżnienia rzeczywistości od fałszu. Już dzisiaj deepfake’i w coraz wyższej jakości generowane przez sztuczną inteligencję powodują oszołomienie i brak narzędzi poznawczych, żeby odróżnić narracje fałszywe od prawdziwych. Oczywiście to jest dobre pytanie.
Z punktu widzenia równowagi geostrategicznej spowolnienie rozwoju AI musi być robione w porozumieniu z Chinami. Ja jestem zwolennikiem poglądów tych analityków, którzy mówią, iż w interesie Komunistycznej Partii Chin także będzie wprowadzenie solidnych międzynarodowych regulacji, które uprzejrzystnią rozwój AI i spowolnią, ponieważ władza Chin może w równym stopniu obawiać się skokowego rozwoju AI w wykorzystanej złośliwych celach, co władze państw demokratycznych.
Można sobie wyobrazić, iż ktoś zaprogramuje AI, która przechwyciłaby systemy komunikacji elektronicznej w Chinach, np. bazujące na aplikacji WeChat, czy systemy narracji politycznej i zdelegitymizowała system władzy. Albo też możemy sobie wyobrazić, iż nastąpi samozapłon sztucznej inteligencji, która przekroczy zdolności ludzkiego rozumienia i chcąc, nie chcąc pozbawi komunistyczną partię Chin władzy.
Prof. Andrzej Zybertowicz: Istnieje obawa wystąpienia samozapłonu sztucznej inteligencji
Na tych obawach można racjonalnie budować (to są zasadne obawy!) perspektywy zbudowania konsensusu Waszyngton-Pekin i dołączenia do konsensusu innych kluczowych graczy, żeby ta nowa technologia była rozwijana w klimacie rozwiązywania ludzkich problemów, a nie w klimacie złamania pewnej równowagi geostrategicznej.
Ten interes częściowo musi być wymuszony przez odpowiedzialne, demokratyczne rządy Waszyngtonu, ale z drugiej strony część Big Techów amerykańskich także obawia się, iż może nastąpić jakaś forma intelektualnego samozapłonu AI i iż ona zacznie ewoluować w taki sposób, iż w ogóle nie będziemy wiedzieli, iż to się dzieje i nas, zbuduje świadomość i ukryje to przed nami i może być dla nas wszystkich przykrym zaskoczeniem.
Dlaczego? Ponieważ wybrana obecnie, obrana w tej chwili ścieżka rozwoju bazująca na uczeniu maszynowym, wielkich modelach językowych, tzw. generatywne AI, nie gwarantuje kontroli nad tymi systemami. One rozwijają się emergentnie, skokowo i czarnoskrzynkowo, to znaczy rozwiązują pewne zadania, a twórcy tych systemów nie rozumieją, jak te zadania rozwiązują. Mniej fanatyczni techno-entuzjaści powinni wyciągnąć z tego wnioski, iż to wszystko powinno być spowolnione.
Prof. Andrzej Zybertowicz
Agencja Informacyjna, Opinie, ESG, NSW, zródło: Fundacja XBW, 29.10.2024
