Prognoza 2: Przyszłość SI | Terminator raczej nie nadejdzie

Jednym z najbardziej rozpowszechnionych i nieustających pomysłów związanych z przyszłością SI jest film Terminator. Na wypadek, gdybyś przegapił obraz brutalnego humanoidalnego robota z metalowym szkieletem i rażącymi oczami, Terminator to film z 1984 roku w reżyserii Jamesa Camerona. W tej produkcji oparty na sztucznej inteligencji system obronny o nazwie Skynet, staje się świadomy swojego istnienia i usuwa całą ludzkość za pomocą broni nuklearnych i zaawansowanych robotów-zabójców.

Terminator to świetna historia nadająca się na film
Terminator to świetna historia nadająca się na film

Dwa scenariusze zagłady

Istnieją dwa alternatywne scenariusze, które sugerują nadejścia Terminatora lub innych podobnie przerażających form powstania robotów. W pierwszym, który jest opowieścią z filmu z 1984 roku, potężny system sztucznej inteligencji po prostu staje się świadomy i decyduje o eksterminacji rasy ludzkiej. 

W drugim alternatywnym scenariuszu armia robotów jest kontrolowana przez inteligentny, ale nieświadomy system sztucznej inteligencji, który zasadniczo kontroluje ludzi. System można zaprogramować w celu np. optymalizacji produkcji spinaczy biurowych. Brzmi wystarczająco niewinnie, prawda?

Jeżeli jednak system będzie miał wyższą inteligencję, wkrótce osiągnie maksymalny poziom produkcji spinaczy biurowych, na jaki pozwalają dostępne zasoby, tj. energia i surowce. Następnie może dojść do wniosku, że musi przekierować więcej zasobów do produkcji spinaczy biurowych. W tym celu może być konieczne zapobieganie wykorzystywaniu zasobów do innych zadań, nawet jeśli są one niezbędne dla ludzkiej cywilizacji. Najprostszym sposobem na osiągnięcie tego jest zabicie wszystkich ludzi, dzięki czemu dostępnych jest więcej zasobów w celu realizacji głównej misji systemu, mianowicie produkcji spinaczy biurowych.

Dlaczego te scenariusze są nierealne?

Istnieje wiele powodów, dla których oba są wyjątkowo mało prawdopodobne i należą do strefy science fiction, a nie do poważnych spekulacji na temat przyszłości SI.

Powód 1:

Pomysł, że superinteligentna, świadoma sztuczna inteligencja, która może przechytrzyć ludzi pojawia się jako niezamierzony rezultat opracowania metod sztucznej inteligencji, jest bardzo naciągany. Jak można zauważyć w artykule o definiowaniu sztucznej inteligencji, metody sztucznej inteligencji to nic innego, jak automatyczne rozumowanie oparte na połączeniu doskonale zrozumiałych zasad i dużej ilości danych, które są dostarczane przez ludzi lub systemy wdrożone przez nich. Wyobraźcie sobie, że silnik gry AlphaGo, a nawet głęboka sieć neuronowa mogą stać się świadome i zacząć ewoluować w nadinteligentny umysł SI, wymaga to bardzo rozwiniętej wyobraźni.

Zauważ, że nie twierdzimy, iż tworzenie inteligencji na poziomie ludzkim byłoby kategorycznie niemożliwe. Wystarczy spojrzeć w lustro, aby zobaczyć dowód na istnienie wysoce inteligentnego układu fizycznego. Powtórzmy to, o czym wspomnieliśmy: superinteligencja nie wykreuje się z wąskich metod sztucznej inteligencji, tak aby stosować je do rozwiązywania rzeczywistych problemów.

Powód 2:

Jednym z ulubionych pomysłów tych, którzy wierzą w superinteligentną sztuczną inteligencję jest tak zwana osobliwość: system, który sam się optymalizuje i „przeplata” w celu poprawy swojej inteligencji w coraz to szybszym tempie wykładniczym. Taka superinteligencja pozostawiłaby ludzkość daleko w tyle, iż spadlibyśmy do poziomu mrówek, które można eksterminować. Idea wykładniczego wzrostu inteligencji jest nierealistyczna z prostego powodu, gdyby system mógł zoptymalizować swoje działanie, stawiałby czoła coraz trudniejszym problemom spowalniającym jego postęp. Tak samo jak progres ludzkich naukowców wymaga większych wysiłków i zasobów, do których superinteligentna istota nie miałaby dostępu. Społeczeństwo ludzkie wciąż ma wyłączność do decydowania o tym, do czego używana jest technologia, nawet ta najbardziej rozwinięta. Duża część tej mocy rzeczywiście jest nam dana przez technologię, dzięki czemu każdorazowo robiąc postępy w technologii sztucznej inteligencji stajemy się coraz potężniejsi i lepsi w kontrolowaniu wszelkich potencjalnych zagrożeń.

Problem z wyrównaniem wartości

Przykład spinaczy biurowych znany jest jako problem wyrównywania wartości: określenie celów systemu w taki sposób, aby były one zgodne z naszymi wartościami jest bardzo trudne. Załóżmy jednak, że tworzymy superinteligentny system, który mógłby pokonać ludzi, którzy próbowali ingerować w jego pracę. Rozsądnie jest założyć, że taki system byłby również wystarczająco inteligentny, aby zdać sobie sprawę, że kiedy mówimy „zrób mi spinacze do papieru”, nie mamy tak naprawdę na myśli zmiany Ziemi w fabrykę spinaczy do papieru o globalnej skali.

Oddzielanie historii od rzeczywistości

Podsumowując, Terminator to świetna historia nadająca się na film, jednakże nie jest to prawdziwy problem, nad którym warto dywagować. Jest to sztuczka, łatwy sposób na zdobycie dużej uwagi, gratka dla dziennikarzy, aby zwiększyć współczynniki klikalności, temat zastępczy od prawdziwego zagrożenia, takiego jak broń nuklearna, dyktatura, przestępczość czy zmiany klimatu. 

Podsumowanie

Można obserwować następujące grupy percepcji dotyczące SI:

Pozytywna – związana z uczeniem maszynowym, przetwarzaniem danych, ulepszoną analizą, lepszym podejmowaniem decyzji. Te spostrzeżenia są realistyczne i pokazują SI jako automatyczne rozumowanie.

Negatywna – związana z katastrofalnym i naiwnym postrzeganiem ogólnej sztucznej inteligencji, która przejmuje świat. Ten rodzaj perspektywy jest nierealny i niedojrzały, dobry dla filmów science fiction.

Zobacz również inne artykuły o przyszłość SI: Prognoza 1: SI będzie nadal wokół nas oraz artykuł ogólny o przewidywaniu przyszłości SI.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *