A szczególnie nie możemy sobie pozwolić na ignorowanie tych, którzy używają tych technologii w imię rządu.Coraz częściej znajdujemy się w świecie, w którym agencje rządowe ustępują komputerom jako pośrednikom w relacjach między rządem a społeczeństwem.
Mówi się nam, byśmy akceptowali decyzje komputerowe, ponieważ wydają się obiektywne. Zachęca się nas do przekazania danych osobowych, ponieważ wygoda wydaje się ważniejsza niż prywatność. Jesteśmy przekonani, by pozwolić systemom automatycznym na dokonywanie istotnych ocen dotyczących ludzkiego życia, ponieważ kwestionowanie tych systemów wymaga wysiłku, wiedzy i czujności.
I jesteśmy zmuszeni zmierzyć się z konsekwencjami rządu, który traktuje wszystko, co generuje komputer, jako dowód, który musi być prawdziwy.
Ale komputery mogą się mylić. Algorytmy mogą być stronnicze. Bazy danych mogą zawierać błędy. Systemy zautomatyzowane mogą utrwalać i potęgować błędy, uprzedzenia oraz polityczne agendy tych, którzy je tworzą i obsługują.
Chciwość zamienia postęp technologiczny w możliwości wyzysku.
Dane osobowe stają się towarem. Ludzkie zachowania stają się czymś, co można przewidzieć, manipulować i monetyzować. Obietnica większej efektywności staje się uzasadnieniem do cięcia kosztów, likwidacji zabezpieczeń ludzkich i koncentracji jeszcze większej władzy w rękach mniejszej liczby osób.
A gdy coś pójdzie nie tak, konsekwencje niekoniecznie ponoszą ci, którzy skorzystali na technologii, ale zwykli ludzie, których życie od niej zależy.
Arogancja i dążenie do władzy przekonują tych, którzy mają władzę, iż możliwości technologiczne to zielone światło do działania.
Ponieważ rząd może monitorować komunikację, zakłada, iż powinien. Ponieważ może śledzić ruchy ludzi, to robi. Ponieważ może wykorzystywać drony, algorytmy predykcyjne, systemy rozpoznawania twarzy i coraz bardziej autonomiczną broń, tak właśnie jest.
Ale zdolność do zrobienia czegoś nigdy nie była tym samym co prawo do tego.
Rząd nie uzyskuje konstytucyjnego zwolnienia tylko dlatego, iż jego nadużycia są dokonywane przez komputer, a nie człowieka. Im potężniejsza technologia, tym większa potrzeba istotnych ograniczeń dla osób ją kontrolujących.
Pięćdziesiąt lat temu senacka Komisja Churcha ujawniła liczne nadużycia amerykańskich agencji wywiadowczych, w tym operacje nadzoru skierowane przeciwko obywatelom korzystającym z ich praw konstytucyjnych.
Ostrzeżenie było jednoznaczne: władza rządu, zwłaszcza gdy jest sprawowana potajemnie i bez skutecznego nadzoru, może stać się bezpośrednim zagrożeniem dla wolności, które ma chronić.
To było w 1976 roku.
Dziś możliwości nadzoru dostępne dla agencji rządowych byłyby niemal nie do pomyślenia dla urzędników badanych pół wieku temu.
Jednak kwestie konstytucyjne pozostają takie same.
Kto pilnuje obserwatorów? Co dzieje się z Czwartą Poprawką i należytym procesem, gdy nadzór i decyzje dotyczące wolności zostaną powierzone nieprzejrzystym systemom technologicznym? Kto pociąga rząd do odpowiedzialności, gdy wykorzystuje technologię do obejścia konstytucyjnych ograniczeń mających na celu utrzymanie jego władzy w ryzach?
To nie są tylko kwestie technologiczne. To pytania o władzę, wolność i odpowiedzialność człowieka.
Czterdzieści lat temu, w 1986 roku, zgłębiłem wiele z tych kwestii w mojej książce "Koniec człowieka".
W czasach, gdy sztuczna inteligencja wydawała się w dużej mierze ograniczona do laboratoriów i science fiction, poświęciłem rozdział implikacjom tworzenia maszyn, które mogą coraz bardziej kształtować – a potencjalnie zmniejszać – nasze rozumienie tego, co znaczy być człowiekiem.
Obawa nie dotyczyła jedynie tego, iż komputery mogą kiedyś stać się na tyle potężne, by zdominować społeczeństwo. Chodziło o to, iż sami ludzie coraz częściej sprowadzali się do systemów informacji, obiektów do klasyfikacji, studiowania, zarządzania i manipulacji.
Jak wtedy ostrzegałem: "Człowiek nie jest maszyną."
Ludzie to coś więcej niż procesorzy informacji, punkty danych czy zbiory przewidywalnych zachowań. Nasza ludzka natura jest związana z naszą zdolnością do współczucia, sumienia, niezależnego osądu i odpowiedzialności moralnej.
A jednak choćby czterdzieści lat temu zaczynaliśmy postrzegać siebie jako kilka więcej niż maszyny.
Pytanie, które wtedy zadałem, pozostaje równie pilne dzisiaj: "Jak będziemy postrzegać siebie jutro?"
Cztery dekady później nadeszło to jutro.
Coraz bardziej jesteśmy skłonni pozwalać maszynom podejmować decyzje, które powinniśmy kwestionować, korporacjom manipulować informacjami, a rządom zdobywać uprawnienia nadzoru, które przerażałyby wcześniejsze pokolenia.
A gdy te systemy zawodzą – lub są celowo wykorzystywane do naruszania naszych praw – pozwalamy osobom odpowiedzialnym ukrywać się za samą technologią. "Komputer popełnił błąd", "algorytm oznaczył niewłaściwą osobę", "baza danych zawierała błąd", "sztuczna inteligencja podjęła decyzję" – jakby maszyna była niezależnym aktorem moralnym, a nie systemem zaprojektowanym, wdrożonym i kontrolowanym przez ludzi.
Istnieje istotna różnica między maszyną, która zawodzi, a człowiekiem, który odmawia przyjęcia odpowiedzialności za swoją awarię.
Właśnie dlatego Konstytucja ma znaczenie.
Karta Praw nie została napisana dla świata sztucznej inteligencji, rozpoznawania twarzy, masowego zbierania danych czy automatycznej wojny. Została napisana na świat, w którym ludziom powierzonym władza nie zawsze można było ufać, iż będą ją odpowiedzialnie wykorzystywać.
Chciwość pozostaje chciwością. Arogancja pozostaje arogancją. A tyrania nie staje się mniej niebezpieczna tylko dlatego, iż jest administrowana przez algorytm.
Nie możemy też oczekiwać, iż technologia uratuje nas przed moralnymi porażkami ludzi, którzy ją używają.
Mądrzejszy komputer nie zastąpi sprawnego sumienia. Bardziej efektywny rząd nie jest w stanie zrekompensować utraty ograniczeń konstytucyjnych. Bardziej zaawansowane technologicznie społeczeństwo niekoniecznie jest wolniejszym, mądrzejszym czy bardziej humanitarnym społeczeństwem.
W "Końcu człowieka" rozważałem także przyszłość, w której technologiczne stworzenia ludzkości mogłyby stać się tak potężne, iż odważyłyby się zająć miejsce Boga. Napisałem:
Jeśli wszystko pójdzie zgodnie z planem dla ludzi AI, można sobie wyobrazić i spodziewać się "metalicznej" przyszłości. Może to wyglądać mniej więcej tak: W jakimś samotnym posterunku w odległej przyszłości, gdzie wszystkie komputery we wszechświecie są połączone, jakiś złowrogi ludzki sługa pyta: "Czy istnieje Bóg?" Uderzając pytającego za jego bezczelność, komputery odpowiadają: "Otóż jest."
Przenieśmy się do 2021 roku, kiedy Mo Gawdat, były menedżer Google, ostrzegał przed niezwykłą mocą sztucznej inteligencji: "Rzeczywistość jest taka, iż tworzymy Boga."
Pomyśl o tym.
Jesteśmy tak zafascynowani własnymi wynalazkami, tak przekonani o naszej technologicznej genialności, iż rozważamy stworzenie maszyn, których moc mogłaby dorównać – a ostatecznie przewyższyć – naszą zdolność do ich kontrolowania.
Jednak być może większym niebezpieczeństwem nie jest to, iż maszyny staną się bogami.Chodzi o to, iż ludzie, w swojej arogancji i głodzie władzy, zaczną zachowywać się, jakby sami byli bogami.
Pomyliliśmy postęp technologiczny z postępem ludzkim. Pomyliliśmy inteligencję z mądrością, moc z cnotą, a zdolność do zrobienia czegoś dla prawa do tego.
I tak jak w WALL-E, ryzykujemy, iż staniesz się tak komfortowo zarządzani, zabawiani i chronioni przez systemy poza naszą kontrolą, iż zapomnimy, co to znaczy rządzić sobą.
Czterdzieści lat po Końcu Człowieka pytanie stojące przed ludzkością nie dotyczy tylko tego, jak inteligentne staną się nasze maszyny. Chodzi o to, ile naszej własnej ludzkiej natury jesteśmy gotowi oddać w dążeniu do postępu technologicznego.
Największe zagrożenie może nie pochodzić od maszyny, która uczy się myśleć jak człowiek.
Może pochodzić od ludzi, którzy przestają myśleć, kwestionować, opierać się i brać odpowiedzialność za świat, który tworzą.
Ostatecznie to maszyny mogą nie być tym, co doprowadzi do końca człowieka.
Możemy to osiągnąć sami.___
https://www.zerohedge.com/ai/end-man-real-danger-isn't-artificial-intelligence
Przetlumaczono przez translator Googlezrodlo:https://stateofthenation.info/?p=88259