"Koniec człowieka: Prawdziwym zagrożeniem nie jest sztuczna inteligencja"

grazynarebeca5.blogspot.com 1 godzina temu

John i Nisha Whitehead

Instytut Rutherforda

"Wszystko się rozpada; środek nie może się utrzymać."

– W.B. Yeats, "Drugie przyjście"

Doświadczamy prawdziwej kaskady technologicznych porażek.

Najpierw nastąpiła ogromna awaria Microsoftu, która zakłóciła działanie Outlooka i innych usług online na całym świecie.

Następnie nastąpił ogólnokrajowy przystanek na ziemi, który zatrzymał podróże lotnicze przez Amerykę, zakłócając tysiące lotów i pozostawiając podróżnych na miejscu.

Następnie duże banki napotkały problemy ze swoimi systemami online.

Następnie United Airlines uziemiły odloty po kolejnej awarii komputera.

Następnie pojawiły się doniesienia, iż ściśle tajna sieć, której Agencja Bezpieczeństwa Narodowego używa do komunikacji wewnętrznej, została wyłączona.

Następnie Apple dołączyło do rosnącej listy gigantów technologicznych doświadczających powszechnych zakłóceń, a użytkownicy zgłaszali problemy z dostępem do iCloud, App Store, Apple Music i innych usług.

Jedno załamanie za drugim. Zakłócona komunikacja. Transport sparaliżowany. Usługi finansowe przerwane. Wrażliwe informacje mogą być potencjalnie zagrożone. Miliony Amerykanów przypomniały sobie, jak bardzo ich codzienne życie stało się zależne od technologii, których ani nie rozumieją, ani nad nimi nie kontrolują.

Tak się dzieje, gdy technologia wariuje.

A może jednak nie?

Spekulacje szybko wskazywały na sztuczną inteligencję, zwłaszcza po ogólnokrajowym zamknięciu linii lotniczych.

W końcu administracja Trumpa dopiero niedawno rozszerzyła nowy system sztucznej inteligencji SMART FAA na centra kontroli ruchu lotniczego w całym kraju.

Administracja agresywnie promuje także AI (lub SI, jak Trump nalega, by nazywać ją Super Intelligence) jako rozwiązanie na wszystko – od nieefektywności rządu po bezpieczeństwo narodowe, jednocześnie dążąc do zmniejszenia barier regulacyjnych i rozszerzenia wykorzystania systemów automatycznych.

Jednak administracja Trumpa utrzymuje, iż sztuczna inteligencja nie miała nic wspólnego z zamknięciem linii lotniczych.

Zamiast tego federalni urzędnicy obwinili zakłócenie o awarię związaną ze starzejącą się infrastrukturą kontroli ruchu lotniczego, a problemy pojawiły się podczas wymiany sprzętu i aktualizacji systemów łączności.

Być może.

Tymczasem FBI opublikowało raport dotyczący kolejnego zagrożenia technologicznego: autonomicznych narzędzi do hakowania AI, takich jak Artex AI, które są wykorzystywane do przeprowadzania cyberataków w całych Stanach Zjednoczonych i na całym świecie oraz naruszania sieci w mniej niż trzy godziny.

Jednak niezależnie od tego, czy winowajcą jest sztuczna inteligencja, cyberatakujący, przestarzały sprzęt, złe planowanie, niewystarczająca konserwacja, błąd ludzki czy kombinacja tych czynników, większy problem pozostaje.

Kto ponosi odpowiedzialność, gdy systemy technologiczne, od których zależy społeczeństwo, zaczynają zawodzić?

Kto ponosi odpowiedzialność, gdy urzędnicy państwowi i menedżerowie korporacji spieszą się z wdrażaniem nowych technologii, nie zapewniając zabezpieczeń, infrastruktury i nadzoru ludzkiego potrzebnego do ich zarządzania?

A co się stanie, gdy staniemy się tak zależni od technologii – i tak skłonni oddać odpowiedzialność za jej zarządzanie – iż nie będziemy już w stanie odróżnić awarii maszyny od porażki ludzi odpowiedzialnych za jej obsługę?

Zadawaliśmy złe pytania dotyczące sztucznej inteligencji.

Może prawdziwym zagrożeniem nie jest to, iż maszyny staną się mądrzejsze od ludzi.

Może to ludzki głód władzy – i nasza gotowość do oddania kontroli tym, którzy ją posiadają.

Hollywood przez dekady ostrzegało nas przed maszynami, które mogą kiedyś stać się tak inteligentne, niezależne i potężne, iż nie będą już potrzebować ludzi.

W filmie Stanleya Kubricka "2001: Odyseja kosmiczna" pozornie niezawodny komputer HAL 9000 zwraca się przeciwko astronautom, którzy powierzyli mu swoje życie. Maszyna, zaprojektowana do służby ludzkości, staje się zagrożeniem dla samych ludzi, którym została stworzona.

Jednak bardziej niepokojąca wizja może pochodzić z nieoczekiwanego źródła: animowanego filmu dla dzieci Pixara WALL-E. W WALL-E ludzkość porzuciła niezamieszkalną Ziemię i wycofała się do ogromnego statku kosmicznego, gdzie niemal każda ludzka potrzeba jest przewidywana i zaspokajana przez maszyny.

Ludzie już nie chodzą. Już nie działają. Ledwo zauważają otaczający ich świat. Są zabawiane, karmione, transportowane i rozpraszane przez systemy, które podejmują praktycznie każdą decyzję za nich. Stali się biernymi konsumentami własnego istnienia.

Maszyny nie musiały prowadzić wojny z ludzkością. Ludzie w dużej mierze dobrowolnie zrezygnowali ze swojej niezależności, wymieniając odpowiedzialność na wygodę i wolność na wygodę. choćby kapitan statku musi walczyć o odzyskanie swojej władzy w zautomatyzowanym systemie zaprogramowanym do utrzymania status quo.

To rozróżnienie jest wymowne.

W 2001 roku koszmar to maszyna, która odmawia oddania kontroli. W WALL-E koszmarem jest ludzkość, która zapomniała, jak go ćwiczyć. Oba filmy dochodzą do niepokojącej prawdy: technologia staje się niebezpieczna, gdy ludzie przestają nad nią sprawować realną kontrolę.

I tu tkwi problem: pomyliliśmy postęp technologiczny z postępem ludzkim.

Staliśmy się niezwykle biegli w wynajdywaniu maszyn zdolnych do wykonywania zadań, których wcześniejsze pokolenia ledwo mogły sobie wyobrazić.

Możemy rozszczepiać atomy, wystrzeliwać rakiety w kosmos, komunikować się natychmiastowo między kontynentami, mapować ludzki genom, monitorować populacje z satelitów i budować komputery zdolne do przetwarzania ogromnej ilości informacji. Jednak żadne z tych osiągnięć technologicznych nie uczyniło nas mądrzejszymi, bardziej współczującymi, bardziej etycznymi ani zdolnymi do zachowania powściągliwości.

Historia pokazuje, jak łatwo ludzie zamieniają swoje największe wynalazki w narzędzia zniszczenia, eksploatacji i kontroli.

Weźmy pod uwagę bombę atomową.

The discovery of nuclear fission opened the door to extraordinary scientific advances. It also made possible weapons capable of obliterating entire cities.

W sierpniu 1945 roku Stany Zjednoczone zrzuciły bomby atomowe na Hiroszimę i Nagasaki, zabijając natychmiast dziesiątki tysięcy ludzi, a wiele więcej po nich.

Bomby nie zdecydowały o zniszczeniu tych miast. Ludzie tak robili.

Ta sama technologia, która umożliwiła wystrzeliwanie rakiet w kosmos, umożliwiła także wynoszenie głowic nuklearnych na kontynenty.

Te same komputery, które zrewolucjonizowały medycynę, naukę, edukację i komunikację, przyczyniły się do powstania państwa nadzoru zdolnego do monitorowania i śledzenia całych populacji.

Internet, niegdyś uznawany za narzędzie wolności wypowiedzi i demokratyzowanej wiedzy, stał się także narzędziem zbierania danych osobowych, manipulowania zachowaniem i monitorowania sprzeciwu.

Kamery stają się narzędziami nadzoru. Bazy danych stają się narzędziami do profilowania i targetowania osób. Drony stają się bronią zdalnej wojny.

A teraz sztuczna inteligencja grozi wzmocnieniem wszystkich tych możliwości, pozwalając rządom, korporacjom i przestępcom monitorować, manipulować i kontrolować ludzkie zachowania na niespotykaną dotąd skalę.

Technologia może być nowa, ale ludzkie impulsy napędzające jej niewłaściwe użycie są tak stare jak sama cywilizacja.

Weźmy pod uwagę najnowsze ostrzeżenie FBI dotyczące ARTEX, narzędzia sztucznej inteligencji pierwotnie opracowanego, aby pomóc specjalistom ds. cyberbezpieczeństwa identyfikować słabości w sieciach komputerowych.

W rękach cyberprzestępców ta sama technologia stała się bronią.

Według FBI, hakerzy wykorzystywali ARTEX do automatyzacji cyberataków na instytucje finansowe, agencje rządowe i prywatne firmy, a niektóre z nich przechodzą od początkowego celu do dostępu uprzywilejowanego w mniej niż trzy godziny.

Tymczasem Grupa ds. Zagrożeń Google ostrzega, iż złośliwi aktorzy coraz częściej wdrażają autonomiczne systemy AI zdolne do identyfikowania luk i przeprowadzania ataków z prędkością maszynową, przy znacznie ograniczonej interwencji człowieka.

Pomyśl o tym.

Technologia mająca na celu identyfikację słabości w zabezpieczeniach i ochronę sieci komputerowych staje się narzędziem do wykorzystywania tych słabości.

Maszyny nie zaczęły nagle mieć zamiarów przestępczych. Ludzie stworzyli narzędzia, zidentyfikowali cele i uruchomili systemy.

Sztuczna inteligencja nie wyeliminowała ludzkiej chciwości, arogancji ani żądzy władzy. Dało tym impulsom większy zasięg, większą prędkość i większą moc.

Nie możemy sobie pozwolić na ignorowanie ludzi stojących za maszynami: ludzi, którzy tworzą systemy, finansują je, wdrażają, czerpią z nich zyski i przymykają oko, gdy te systemy są wykorzystywane do naruszania praw człowieka.

A szczególnie nie możemy sobie pozwolić na ignorowanie tych, którzy używają tych technologii w imię rządu.

Coraz częściej znajdujemy się w świecie, w którym agencje rządowe ustępują komputerom jako pośrednikom w relacjach między rządem a społeczeństwem.

Mówi się nam, byśmy akceptowali decyzje komputerowe, ponieważ wydają się obiektywne. Zachęca się nas do przekazania danych osobowych, ponieważ wygoda wydaje się ważniejsza niż prywatność. Jesteśmy przekonani, by pozwolić systemom automatycznym na dokonywanie istotnych ocen dotyczących ludzkiego życia, ponieważ kwestionowanie tych systemów wymaga wysiłku, wiedzy i czujności.

I jesteśmy zmuszeni zmierzyć się z konsekwencjami rządu, który traktuje wszystko, co generuje komputer, jako dowód, który musi być prawdziwy.

Ale komputery mogą się mylić. Algorytmy mogą być stronnicze. Bazy danych mogą zawierać błędy. Systemy zautomatyzowane mogą utrwalać i potęgować błędy, uprzedzenia oraz polityczne agendy tych, którzy je tworzą i obsługują.

Chciwość zamienia postęp technologiczny w możliwości wyzysku.

Dane osobowe stają się towarem. Ludzkie zachowania stają się czymś, co można przewidzieć, manipulować i monetyzować. Obietnica większej efektywności staje się uzasadnieniem do cięcia kosztów, likwidacji zabezpieczeń ludzkich i koncentracji jeszcze większej władzy w rękach mniejszej liczby osób.

A gdy coś pójdzie nie tak, konsekwencje niekoniecznie ponoszą ci, którzy skorzystali na technologii, ale zwykli ludzie, których życie od niej zależy.

Arogancja i dążenie do władzy przekonują tych, którzy mają władzę, iż możliwości technologiczne to zielone światło do działania.

Ponieważ rząd może monitorować komunikację, zakłada, iż powinien. Ponieważ może śledzić ruchy ludzi, to robi. Ponieważ może wykorzystywać drony, algorytmy predykcyjne, systemy rozpoznawania twarzy i coraz bardziej autonomiczną broń, tak właśnie jest.

Ale zdolność do zrobienia czegoś nigdy nie była tym samym co prawo do tego.

Rząd nie uzyskuje konstytucyjnego zwolnienia tylko dlatego, iż jego nadużycia są dokonywane przez komputer, a nie człowieka. Im potężniejsza technologia, tym większa potrzeba istotnych ograniczeń dla osób ją kontrolujących.

Pięćdziesiąt lat temu senacka Komisja Churcha ujawniła liczne nadużycia amerykańskich agencji wywiadowczych, w tym operacje nadzoru skierowane przeciwko obywatelom korzystającym z ich praw konstytucyjnych.

Ostrzeżenie było jednoznaczne: władza rządu, zwłaszcza gdy jest sprawowana potajemnie i bez skutecznego nadzoru, może stać się bezpośrednim zagrożeniem dla wolności, które ma chronić.

To było w 1976 roku.

Dziś możliwości nadzoru dostępne dla agencji rządowych byłyby niemal nie do pomyślenia dla urzędników badanych pół wieku temu.

Jednak kwestie konstytucyjne pozostają takie same.

Kto pilnuje obserwatorów? Co dzieje się z Czwartą Poprawką i należytym procesem, gdy nadzór i decyzje dotyczące wolności zostaną powierzone nieprzejrzystym systemom technologicznym? Kto pociąga rząd do odpowiedzialności, gdy wykorzystuje technologię do obejścia konstytucyjnych ograniczeń mających na celu utrzymanie jego władzy w ryzach?

To nie są tylko kwestie technologiczne. To pytania o władzę, wolność i odpowiedzialność człowieka.

Czterdzieści lat temu, w 1986 roku, zgłębiłem wiele z tych kwestii w mojej książce "Koniec człowieka".

W czasach, gdy sztuczna inteligencja wydawała się w dużej mierze ograniczona do laboratoriów i science fiction, poświęciłem rozdział implikacjom tworzenia maszyn, które mogą coraz bardziej kształtować – a potencjalnie zmniejszać – nasze rozumienie tego, co znaczy być człowiekiem.

Obawa nie dotyczyła jedynie tego, iż komputery mogą kiedyś stać się na tyle potężne, by zdominować społeczeństwo. Chodziło o to, iż sami ludzie coraz częściej sprowadzali się do systemów informacji, obiektów do klasyfikacji, studiowania, zarządzania i manipulacji.

Jak wtedy ostrzegałem: "Człowiek nie jest maszyną."

Ludzie to coś więcej niż procesorzy informacji, punkty danych czy zbiory przewidywalnych zachowań. Nasza ludzka natura jest związana z naszą zdolnością do współczucia, sumienia, niezależnego osądu i odpowiedzialności moralnej.

A jednak choćby czterdzieści lat temu zaczynaliśmy postrzegać siebie jako kilka więcej niż maszyny.

Pytanie, które wtedy zadałem, pozostaje równie pilne dzisiaj: "Jak będziemy postrzegać siebie jutro?"

Cztery dekady później nadeszło to jutro.

Coraz bardziej jesteśmy skłonni pozwalać maszynom podejmować decyzje, które powinniśmy kwestionować, korporacjom manipulować informacjami, a rządom zdobywać uprawnienia nadzoru, które przerażałyby wcześniejsze pokolenia.

A gdy te systemy zawodzą – lub są celowo wykorzystywane do naruszania naszych praw – pozwalamy osobom odpowiedzialnym ukrywać się za samą technologią. "Komputer popełnił błąd", "algorytm oznaczył niewłaściwą osobę", "baza danych zawierała błąd", "sztuczna inteligencja podjęła decyzję" – jakby maszyna była niezależnym aktorem moralnym, a nie systemem zaprojektowanym, wdrożonym i kontrolowanym przez ludzi.

Istnieje istotna różnica między maszyną, która zawodzi, a człowiekiem, który odmawia przyjęcia odpowiedzialności za swoją awarię.

Właśnie dlatego Konstytucja ma znaczenie.

Karta Praw nie została napisana dla świata sztucznej inteligencji, rozpoznawania twarzy, masowego zbierania danych czy automatycznej wojny. Została napisana na świat, w którym ludziom powierzonym władza nie zawsze można było ufać, iż będą ją odpowiedzialnie wykorzystywać.

Chciwość pozostaje chciwością. Arogancja pozostaje arogancją. A tyrania nie staje się mniej niebezpieczna tylko dlatego, iż jest administrowana przez algorytm.

Nie możemy też oczekiwać, iż technologia uratuje nas przed moralnymi porażkami ludzi, którzy ją używają.

Mądrzejszy komputer nie zastąpi sprawnego sumienia. Bardziej efektywny rząd nie jest w stanie zrekompensować utraty ograniczeń konstytucyjnych. Bardziej zaawansowane technologicznie społeczeństwo niekoniecznie jest wolniejszym, mądrzejszym czy bardziej humanitarnym społeczeństwem.

W "Końcu człowieka" rozważałem także przyszłość, w której technologiczne stworzenia ludzkości mogłyby stać się tak potężne, iż odważyłyby się zająć miejsce Boga. Napisałem:

Jeśli wszystko pójdzie zgodnie z planem dla ludzi AI, można sobie wyobrazić i spodziewać się "metalicznej" przyszłości. Może to wyglądać mniej więcej tak: W jakimś samotnym posterunku w odległej przyszłości, gdzie wszystkie komputery we wszechświecie są połączone, jakiś złowrogi ludzki sługa pyta: "Czy istnieje Bóg?" Uderzając pytającego za jego bezczelność, komputery odpowiadają: "Otóż jest."

Przenieśmy się do 2021 roku, kiedy Mo Gawdat, były menedżer Google, ostrzegał przed niezwykłą mocą sztucznej inteligencji: "Rzeczywistość jest taka, iż tworzymy Boga."

Pomyśl o tym.

Jesteśmy tak zafascynowani własnymi wynalazkami, tak przekonani o naszej technologicznej genialności, iż rozważamy stworzenie maszyn, których moc mogłaby dorównać – a ostatecznie przewyższyć – naszą zdolność do ich kontrolowania.

Jednak być może większym niebezpieczeństwem nie jest to, iż maszyny staną się bogami.

Chodzi o to, iż ludzie, w swojej arogancji i głodzie władzy, zaczną zachowywać się, jakby sami byli bogami.

Pomyliliśmy postęp technologiczny z postępem ludzkim. Pomyliliśmy inteligencję z mądrością, moc z cnotą, a zdolność do zrobienia czegoś dla prawa do tego.

I tak jak w WALL-E, ryzykujemy, iż staniesz się tak komfortowo zarządzani, zabawiani i chronioni przez systemy poza naszą kontrolą, iż zapomnimy, co to znaczy rządzić sobą.

Czterdzieści lat po Końcu Człowieka pytanie stojące przed ludzkością nie dotyczy tylko tego, jak inteligentne staną się nasze maszyny. Chodzi o to, ile naszej własnej ludzkiej natury jesteśmy gotowi oddać w dążeniu do postępu technologicznego.

Największe zagrożenie może nie pochodzić od maszyny, która uczy się myśleć jak człowiek.

Może pochodzić od ludzi, którzy przestają myśleć, kwestionować, opierać się i brać odpowiedzialność za świat, który tworzą.

Ostatecznie to maszyny mogą nie być tym, co doprowadzi do końca człowieka.

Możemy to osiągnąć sami.

___
https://www.zerohedge.com/ai/end-man-real-danger-isn't-artificial-intelligence


Przetlumaczono przez translator Google

zrodlo:https://stateofthenation.info/?p=88259

Idź do oryginalnego materiału