IDEAS NCBR i sztuczna inteligencja: jak Polska może wyjść z technopolitycznej niedojrzałości?

Hegemonia technologiczna – co to znaczy? Określenie to nawiązuje do pojęcia hegemonii kulturowej Antonio Gramsciego. Dla przypomnienia, Gramsci był marksistowskim intelektualistą i jednym z założycieli, w 1921 roku, Włoskiej Partii Komunistycznej. Pięć lat później faszystowski reżim Benito Mussoliniego zamknął go w więzieniu, gdzie spędził resztę życia.

Mówię o hegemonii technologicznej, aby podkreślić, iż kluczową rolę w zdobywaniu hegemonii kulturowej odgrywa technologia oraz iż hegemonia kulturowa sprawowana za pośrednictwem technologii nie wiąże się z działaniem państwowego aparatu władzy, lecz, przeciwnie, sama działa przeciwko państwu, jego instytucjom i tworzącym te instytucje formalnym i nieformalnym więziom zaufania.

Gramsci starał się pokazać, iż hegemonia oznacza dwa typy przywództwa: politycznego i moralnego (czyli intelektualnego i kulturowego właśnie). Jego najważniejszym spostrzeżeniem było to, iż hegemonia kulturowa powstaje, ponieważ jest na nią społeczne przyzwolenie. To znaczy: klasa rządząca nie zdobywa pozycji hegemonicznej wyłącznie przez to, iż stosuje środki przymusu, ale poprzez osiągnięcie dominacji kulturowej i intelektualnej.

Aby zrozumieć, jak działa system władzy, należy więc wziąć pod uwagę kulturę. Istotną rolę w utrzymaniu hegemonii pełnią bowiem symbole, mity i ideologie. Te ostatnie są czymś więcej niż systemami idei w tym sensie, iż materializują się czy też ucieleśniają w konkretnych instytucjach.

Ale w tej chwili – i na tym polega fundamentalna zmiana – symbole, mity i ideologie materializują się nie tylko w instytucjach, ale także w technologiach bazujących na algorytmach przetwarzających dane: od algorytmów rekomendujących treści w mediach społecznościowych po algorytmy generujące treści w generatywnych systemach tzw. sztucznej inteligencji (AI).

Dlatego hegemonia technologiczna ery cyfrowej jest sprawowana przez platformy lub aplikacje, które instytucje państwa raczej osłabiają, niż wzmacniają. Jednocześnie wraz z komercjalizacją generatywnych systemów AI mamy do czynienia z przemianami mediacji, dzięki których tworzymy znaczenia społeczne. Dotyczy to nie tylko sektora audiowizualnego, ale również sposobów tworzenia prawa czy sektora zdrowia publicznego, o tworzeniu wiedzy naukowej i procesie edukacji nie wspominając.

Rozumienie logiki tych przekształceń i ich następstw pozostaje w Polsce bardzo słabe. Nie licząc kilku głosów wołających na puszczy, toniemy w propagandowym języku nowego hegemona, prowadząc wobec niego nie-politykę pełną gestów usłużności lub oddając władzę w ręce polityków, którzy problemu AI nie rozumieją, w związku z czym ignorują związane z nim wyzwania. Cena za to może być bardzo słona: utrata realnej suwerenności na płaszczyźnie państwowej i powszechne ogłupienie na płaszczyźnie społecznej.

Tym nowym hegemonem – tutaj zaskoczenia nie będzie – jest Dolina Krzemowa. Ale – i to chcę tutaj powiedzieć – rozumiana nie tylko jako fizyczne miejsce w Kalifornii wraz ze znajdującymi się w tym miejscu siedzibami wielkich koncernów technologicznych i dwunastoma tysiącami tamtejszych firm (dane za 2022 rok). Dolina – co pokazała ostatnia wystawa Biennale Warszawa 2022 Widzące kamienie i przestrzenie poza Doliną, po której ta instytucja została zlikwidowana przez władze Warszawy – to również jej mentalność, optymistyczne nastawienie do świata w stylu fake it till you make it (udawaj, aż ci się uda) i konkretny model biznesowy, połączone z bardzo specyficznym rozumieniem „technologii”, w uproszczeniu nazywanej po angielsku tech, i niemniej specyficznym językiem, którym o tech się mówi.

W książce La Tech. Quand la Silicon Valley refait le monde (Tech. Gdy Dolina Krzemowa przemeblowuje świat) socjolog Olivier Alexandre zwraca uwagę, iż dominacja Doliny Krzemowej ma kilka wymiarów: finansowy, ekonomiczny, polityczny, ideologiczny, kulturowy i społeczny. Liderzy Doliny, pisze Alexandre, stawiają znak równości między innowacjami technologicznymi a poprawą warunków życia ludzkości, między sukcesem indywidualnym a losem wszystkich ludzi, a także między „nowe” a „lepsze”. Nowa „gospodarka”, nowa „organizacja pracy”, nowe „sposoby myślenia” nowe „społeczeństwo” oznaczają dla nich to samo.

Wszystkie te nowości mają sprawić, iż powstaje bardziej otwarte społeczeństwo złożone z lepiej poinformowanych jednostek. Narzędzia informatyczne i usługi cyfrowe, od platform po apki, dają możliwość włączenia się w rozbudowane sieci kontaktów, pozwalają uciec od inercji i dysfunkcjonalności biurokracji, pobudzają u każdego zmysł przedsiębiorczości. Dzięki tym zindywidualizowanym, spersonalizowanym i dostępnym niewielkim kosztem lub darmowym narzędziom praca jest swobodniejsza, bardziej kreatywna i niezależna, a jednocześnie w o wiele większym stopniu bazuje na współpracy. A przynajmniej – tak wygląda świat oglądany oczami Big Tech.

Choć na tej opowieści przez ostatnie lata pojawiło się sporo rys, ponieważ coraz wyraźniej widać, iż totalna komputeryzacja życia niesie za sobą o wiele więcej zniewolenia i wyczerpania niż emancypacji i czasu wolnego, to siła oddziaływania tej opowieści na społeczne imaginarium wciąż pozostaje bardzo wyraźna. Dolina nie tylko wzięła w posiadanie nasze dane, ale narzuciła nam język, którym mówimy o technologii. To dlatego ta władza jest hegemoniczna.

Widać to nie tylko w kolejnych wariantach tej samej opowieści (o społeczeństwie współpracy, o schodzących się umysłach ludzkich i innych niż ludzkie, o kohabitacji ludzi i robotów, o rychłym nadejściu sztucznej inteligencji posiadającej nadludzkie możliwości, czy wreszcie o życiu opisywanym jako najstarsza na świecie technologia, które teraz można wymyślić na nowo dzięki konwergencji AI z bioinżynierią). Widać to przede wszystkim w przekonaniu, iż technologia jest synonimem postępu – przekonaniu z ducha liberalnym, pełnym ufności do techniki i będącym prolongatą „idei postępu”, jaka napędzała pierwsze rewolucje przemysłowe.

Wynikają z tego dwie sprawy. Sprawa pierwsza to koszty środowiskowe związane z rozwojem AI. Przekonanie, iż AI to współczesny synonim postępu, całkowicie nam je przesłania. Tymczasem te koszty są horrendalne i na ogół się o nich nie mówi. Jak pisała kilka miesięcy temu na łamach „Nature” Kate Crawford, autorka przetłumaczonej na język polski książki Atlas sztucznej inteligencji. Władza, pieniądze i środowisko naturalne: „szacuje się, iż wyszukiwanie informacji przy użyciu generatywnej AI zużywa od czterech do pięciu razy więcej energii niż zwykłe wyszukiwarki internetowe. W ciągu kilku lat duże systemy AI będą prawdopodobnie potrzebować tyle samo energii co całe państwa”. Istnieją badania, które pokazują, iż w 2025 roku branża IT, głównie za sprawą centrów danych, będzie zużywała 20 proc. światowej energii elektrycznej i wysyłać do atmosfery do 5,5 proc. światowej emisji gazów cieplarnianych. To więcej niż całkowite emisje większości krajów, nie licząc Chin, Indii i Stanów Zjednoczonych.

Choć świadomość ekologiczna naszych społeczeństw w ostatnich latach niewątpliwie wzrosła, wciąż trudno nam sobie wyobrazić, iż mikroskopijne chipy produkowane przez firmę Nvidia i będące podstawą materialną, w liczbie setek tysięcy, dużych modeli językowych, mogą potrzebować tyle samo energii co mały kraj. Jak wylicza Alex de Vries na blogu Digiconomist, chipy, które Nvidia w 2023 sprzedała gigantom z Doliny, mogły potrzebować tyle samo energii, co w tym samym roku zużyła Szwecja lub Holandia, lub Argentyna.

Do tego dochodzi kwestia wody potrzebnej do chłodzenia centr danych. Na łamach francuskiego dziennika „L’Humanité” czytamy, iż w 2023 roku Google zużył do tego celu 20 miliardów litrów wody, z czego większość wyparowuje. Dla porównania, według szacunków francuskiego ministerstwa ds. transformacji ekologicznej, Francuzi zużywają 5,3 miliarda wody pitnej rocznie. Od 2021 roku zużycie wody przez centra danych należące do big techów rośnie od 15 do 35 proc. w skali roku.

Jak więc znaleźć rozumne uzasadnienie dla rozwoju generatywnych systemów AI w świecie przygotowującym się do dekarbonizacji gospodarki i na spodziewane niedobory wody wskutek zmian klimatu? Jak ich rozwój pogodzić z wymogami ekologicznymi, skoro cechą charakterystyczną AI jest o, iż wciąż chce wszystkiego więcej: więcej danych, więcej mocy obliczeniowych i więcej energii mogącej tę maszynę wprawiać w ruch.

Mamy do czynienia z czymś w rodzaju cywilizacyjnej schizofrenii. Z jednej strony usilne starania, aby odejść od paliw kopalnych i rosnąca świadomość zagrażającej nam klęski ekologicznej, a z drugiej – rozwój technologii cyfrowych przebiegający w imię tej przestarzałej idei postępu, dla której więcej oznacza lepiej, jak gdyby dopiero co rozpoczynał się wiek pary i elektryczności.

Tymczasem słowa generowane przez chatboty lub przekształcane przez nie w obrazy mają swój ciężar. W grudniu – tutaj mała zapowiedź – pokaże go litewski duet artystyczny Pakui Hardware w budynku byłej elektrowni należącym do białostockiej galerii Arsenał. Wspominam o tym, ponieważ połączenie kwestii ekologicznej i kwestii technologicznej najskuteczniej pokazują dzisiaj artyści z nurtu sztuki nowych mediów czy badań poprzez sztukę (art-based research). Operują oni językiem krytyki o mocy ekspresji, która pozostaje niedostępna suchemu językowi filozofii techniki, teorii krytycznej czy dyskursom wokół dewzrostu. A jednocześnie, opanowując technologie i wykorzystując je po swojemu, mogą inspirować wyjątkowe praktyki kulturowe i projektowe, które mogłyby również zainspirować inżyniera, zachęcić go do zmiany spojrzenia na swój fach, gdyby tylko zapewniono mu w procesie edukacyjnym solidny program artystyczny.

Co do jednego na pewno się jednak z artystami zgadzamy: myślenie ekologiczne nie dotyczy tak naprawdę ochrony środowiska, ale techniki. Ono zaczyna się tam, gdzie przemysłowe zastosowania techniki zaczynają stanowić problem, wpędzając nas w złożoność, której nie potrafimy okiełznać.

I tutaj przechodzę do zapowiedzianej sprawy drugiej: zastosowania informatycznej techniki obliczeniowej potocznie nazywanej „sztuczną inteligencją” stanowią problem ekologiczny nie tylko dlatego, iż jej rozwój pożera nam środowisko, ale również dlatego, iż służy do eksploatacji życia umysłowego i jego wytworów, dokonując przy tym wyłomu w sferze relacji społecznych.

Oprócz problemu w wymiarze ekologii środowiskowej problem występuje również w wymiarze ekologii społecznej (dotyczącej relacji zadzierzgiwanych w przestrzeni społecznej) i w wymiarze ekologii mentalnej czy ekologii umysłu, którą filozof Félix Guattari w książce Les trois écologies (Trzy ekologie) definiował jako pracę nad sobą, własny stosunek do świata czy kształtowanie własnej podmiotowości. AI pojawia się w kontekście kryzysu dotyczącego tych trzech wymiarów ekologii: ekologii środowiskowej, ekologii społecznej i ekologii umysłu. Gdy mowa o wymogach ekologicznych, trzeba je zatem rozumieć z uwzględnieniem tych trzech wymiarów ekologii.

Tym, co w dostrzeżeniu wagi tych wymagań nam najbardziej przeszkadza (oprócz tego, iż określenie „ekologia umysłu” może wzbudzać podejrzenia, bo brzmi trochę jak nazwa produktu współczesnego rynku ezoterycznego) jest ideologia technologii. We wstępie do polskiego tłumaczenia książki Informacja i komunikacja Dominique’a Woltona socjolożka Małgorzata Jacyno pisze, iż ideologia technologii jest zbudowana na przekonaniu, iż to technologia, a nie ludzie i ich decyzje, jest główną siłą sprawczą, do której działania musimy się przystosować. Bo czy jako zwierzęta ludzkie nie mamy wyjątkowej umiejętności adaptowania się do nowych warunków? Czyż zdolność do adaptacji nie jest jedną z możliwych definicji inteligencji?

Tak mniej więcej ta narracja leci: tego zatrzymać się nie da, zresztą kto to widział, zatrzymywać postęp – trzeba się przystosować, a nie zawracać Wisłę kijem. Ideologia technologii łączy się w tym punkcie z ideologią neoliberalną, która przejęła pojęcie adaptacji z języka biologii i – potwornie je zniekształcając – zdołała je spleść z ideą permanentnej rewolucji technologicznej.

Czy możemy zatem marzyć o ustanowieniu kontrhegemonii? Sądzę, iż tak, a grupa pięćdziesięciorga badaczy z różnych dziedzin, przedstawicielek organizacji pożytku publicznego i przedsiębiorców, którzy apelują o „algorytmiczny pluralizm” (wersja francuska, wersja angielska), utwierdza mnie w przekonaniu, iż „idealizm” mogą mi tu zarzucać jedynie cynicy. Jednak zrealizowanie takiego marzenia musiałoby się wiązać ze zmianą klimatu intelektualnego wokół AI i z osiągnięciem dojrzałości technologicznej. Rozumiem ją jako zdolność osadzenia systemów AI w szerszej ramie ekospołecznej i mówienia o nich własnym oryginalnym językiem.

Jesteśmy społeczeństwem niedojrzałym technopolitycznie i z tej zawinionej przez nas niedojrzałości musimy wyjść. W swoim pamiętnym artykule z 1784 roku Immanuel Kant pisał, iż „niedojrzałość jest nieumiejętnością w posługiwaniu się własnym rozumem bez przewodnictwa innych”. 240 lat później takie przewodnictwo sprawują nad nami algorytmy, które – dlatego, iż szybciej liczą – uprzedzają to, co rozumowi zawdzięczamy: zdolność dokonywania osądu czy oglądu rzeczywistości, jej wielorakich porządków i istniejących w nich wyjątków.

Przełom nie przyjdzie więc z piątą, siódmą lub dziesiątą wersją tego samego chatbota, bo taki potężniejszy chatbot jedynie zintensyfikuje wszystkie problemy, które już mamy: proletaryzację, prekaryzację, rosnące nierówności i dewaluację ludzkich zdolności, a przede wszystkim rozmiar kryzysu klimatyczno-ekologicznego. Przełom musi dokonać się w systemie idei, w sposobach rozumienia świata na płaszczyźnie naukowej i politycznej zarazem, by następnie móc się ucieleśnić w tych samych, ale działających inaczej technologiach. Bo problemem – chcę to wyraźnie podkreślić – nie są sprawujące nad nami władzę algorytmy (algorytmy są OK!), ale to, iż na tę władzę, z braku politycznej woli wybicia się na technologiczną dojrzałość i oryginalnego pomysłu, jak tego dokonać, przyzwalamy.

Dajmy sobie spokój ze scenariuszami science fiction, samospełniającymi się przepowiedniami o „nadchodzącej fali” lub o tym, iż organizmy są algorytmami, snute przez kalifornijskich przedsiębiorców lub pop-intelektualistów. Obdarzmy natomiast większym zaufaniem nauki biologiczne i społeczne, na przykład holistyczne teorie biologicznej i społecznej organizacji. Opatrzmy myślą informatykę, która musi, jeżeli chce przysłużyć się podtrzymywaniu zaufania, wchłonąć wiedzę o procesach społecznych, a tym samym z nauki ścisłej przekształcić się w naukę technospołeczną, a choćby – co starałem się zasugerować w innym miejscu – w naukę o człowieku. Zadbajmy o podtrzymanie myśli krytycznej, która musi nieustannie towarzyszyć myśli naukowej, aby zaślubiona z techniką nauka nie stała się ciałem wykonawczym skomputeryzowanego kapitalizmu. Porzućmy przekonanie, iż technologie są naszym jedynym orężem w walce z wyzwaniami z XXI wieku i róbmy politykę naukową, która mogłaby zatroszczyć się o Ziemię i przynosiła ludziom szczęście.

Potrzebujemy rewolty w przestrzeni naukowej, idącej w parze z rewoltą w przestrzeni kulturowej (edukacyjnej i artystycznej), bo te przestrzenie są od siebie zależne, a w kontekście rozwoju techniki obliczeniowej relacja między nimi nabiera jeszcze większego znaczenia. „Praca naukowa – pisze matematyk Giuseppe Longo – zawsze jest rewoltą, choćby i pomniejszą”. Dlaczego? Dlatego, iż każda nowa idea w obrębie tej lub innej nauki przekształca dotychczasowy sposób lub kierunek badań, podczas gdy systemy AI, pomimo iż są fascynujące, choć – tak jak ludzie – mogą wzbudzać równocześnie niechęć, trwogę lub strach, nie widzą niczego, co wyjątkowe i co z uwagi na tę wyjątkowość odstępuje od normy, niesie nowość.

„Wielkie momenty kultury i sztuki w XX wieku – dopowiada teoretyczka literacka Julia Kristeva, przypominając Bauhaus, surrealizm, muzykę Karlheinza Stockhausena, pisarstwo Antonina Artauda czy malarzy, takich jak Pablo Picasso, Jackson Pollock i Francis Bacon – są momentami rewolty formalnej i metafizycznej”. Jednocześnie największą miarą wartości naszych europejskich kultur jest według niej ich świadomość krytyczna, od kartezjańskiego zwątpienia, wolnomyślicielstwa oświecenia, heglowskiej negatywności, myśli Marksa, Freudowskiej nieświadomości czy słynnego J’accuse! (Oskarżam!) pisarza Émila Zoli.

Możliwe, iż czytelnikom i czytelniczkom te nazwiska kilka dziś mówią. Nie szkodzi. Też bym ich nie znał, gdybym przez przypadek nie poszedł 25 lat temu studiować romanistyki, a potem nie dokonał wolty i nie wsiąknął na dobre w filozofię. Najistotniejsze jest jednak pytanie o to, jak miałyby wyglądać te wielkie momenty rewolty w XXI wieku i czy nas na nie jeszcze stać, o ile prawdą jest, iż – jak pisze Kristeva – tożsama z rewoltą kultura istnieje w społeczeństwie, które „żyje, rozwija się i nie popada w stagnację”. Czy potrafilibyśmy projektować systemy AI w duchu takiej rewolty i tworzyć ku temu odpowiednie warunki? Bo przecież AI będzie tym, co z niej i z nią zrobimy, a jej historia nie istnieje bez nas i pozostaje jeszcze w całości do napisania.

Pielęgnowanie takiej kultury-rewolty i wytworzenie w jej ramach nowych praktyk, naukowych, artystycznych i edukacyjnych, to jedyny sposób na ustanowienie technologicznej kontrhegemonii. Nie w sprzeciwie wobec AI, ale poprzez łożenie możliwie największych publicznych środków na rzecz jej socjalizacji, która wzmacniałaby nasze władze umysłowe i umiejętności funkcjonowania, a przede wszystkim nie uciekała od najmniej naukowych pytań – o sens i cel automatyzacji, o to, co warto, a czego nie warto automatyzować, o to, kto i na podstawie jakich kryteriów o tym decyduje. Możliwe, iż tak właśnie wygląda nasza droga do szczęścia. Bo szczęście – to jeszcze raz Kristeva przypominająca podstawową lekcję z psychoanalizy – „istnieje jedynie za cenę rewolty”.

W kontekście marzenia o budowaniu takiej „drogi do szczęścia” w Polsce, wraz z potrzebną do niego wiedzą i infrastrukturą, musi niepokoić pozbycie się z założonej w 2021 roku w ramach Narodowego Centrum Badań i Rozwoju spółki badawczo-rozwojowej zajmującej się sztuczną inteligencją IDEAS NCBR twórcy tejże spółki, czołowego i cieszącego się zaufaniem środowiska naukowego polskiego informatyka Piotra Sankowskiego. Pustynia, jak gorzko konstatował Nietzsche ustami Zaratustry, rośnie.

**
Michał Krzykawski – filozof, pracownik naukowy na Wydziale Humanistycznym Uniwersytetu Śląskiego w Katowicach, gdzie kieruje Centrum Badań Krytycznych nad Technologiami. Autor i współautor wielu prac z zakresu współczesnej filozofii francuskiej, filozofii techniki i filozofii społecznej. Koordynator obszaru socAI. Społeczne ramy systemów sztucznej inteligencji w OEES Hub. Członek Rady Narodowego Programu Rozwoju Humanistyki. Wiceprezes Fundacji Pracownia Współtwórcza.