Obecny wpis publikuję w imieniu Pana Olafa Wernera, doktoranta na Wydziale Matematyki i Nauk Informacyjnych Politechniki Warszawskiej i członka Koła Naukowego „Politechniczne Forum Debaty LOGOS”.
Pan Olaf zadebiutował w naszym blogu ponad rok temu bardzo intensywnie dyskutowanym wpisem o autonomii sztucznej inteligencji.
Tekst poniższy stanowi kontynuację tej tematyki, ale ma wydźwięk – powiedziałbym – dużo bardziej złowrogi.
Niniejszym oddaję głos Autorowi i zachęcam czytelników bloga do owocnej dyskusji :)
********************** CZY AI MOŻE I POWINNA RZĄDZIĆ ŚWIATEM? *************************
Obecny rozwój AI jest nie do zaprzeczenia. Ten rozwój wymusza zadawanie coraz trudniejszych pytań natury filozoficznej. Początkowe wpisy na Cafe Aleph dotyczyły często polityki, obecnie w dyskusjach dominuje tematyka AI. Oczywistą fuzją jest zapytanie o wpływ AI na politykę. Pytanie, które tu chcę zadać, jest prowokacyjne, ale to wymusi oddzielenie ziarna od plew, prawdziwej wiedzy od ignorancji udającej „zdrowy rozsądek”.
Pytanie brzmi: „Czy AI może i powinna rządzić światem?„
Jest wiele cech, jakie mieli i powinni mieć władcy na przestrzeni historii. Oczywiście te cechy były nieraz sprzeczne ze sobą. Najważniejszą z nich jest legitymacja władzy. Ta legitymacja miała wiele różnych form i zmieniała się na przestrzeni wieków.
Wymieńmy te formy:
— Brutalna siła
Siłę tę zapewnia armia, policja, innego rodzaju służby… dawniej: wojowie. Jest to najbardziej prymitywna forma legitymacji. W erze AI jej technologicznym odpowiednikiem byłby dostęp do cyfrowych kluczy wszelakiej maści dronów. AI nie tyle by zarządzało armią, ile by nią po prostu było: ważącym miliony ton metalowym potworem pozbawionym strachu przed czymkolwiek. Jak pokazują nawet współczesne konflikty, tę legitymację da się uzyskać i to w stopniu przekraczającym naszą wyobraźnię.
— Religia
Jest to forma oparta na wierze. Duża część ludzi jest naturalnie irracjonalna i naiwna. Kombinacja strachu przed śmiercią, potrzeb duchowych i zapełnianie pustki fałszywą wiedzą sprawiają, że tworzenie religii nie jest niemożliwe. Historia pokazuje, że nawet drzewa i rzeki mogły zostać bogami. Wobec tego klaster kart graficznych też powinien dać radę. Obecne religie są po prostu zaszłością historyczną. Legitymację tego rodzaju da się zatem potencjalnie uzyskać.
— Instytucje
Ze względu na swoją społeczną naturę ludzie uznają zapisy prawne, pieniądze, korporacje i rządy. Wszystkie te byty są wirtualne i do tego ich wirtualność jest pewna. W przeciwieństwie do bogów, którzy są inspirowani czymś istniejącym i otacza ich aura tajemnicy wiary. Jako że AI jest bytem wirtualnym, to nie ma absolutnie żadnych przeszkód, by uzyskać tego rodzaju legitymację.
— Więzy krwi
Władzę z pewnością utrwalają więzy interpersonalne, nawet wśród zwierząt. Przykładem jest autorytet rodziców wobec dziecka. Ciężko mi wyobrazić sobie, jak AI miałoby uzyskać tego rodzaju legitymację – chociaż już teraz istnieją ludzie popadający w urojenia związane z tworzeniem więzów z maszynami. Może w przyszłości, gdy upowszechnią się klonowanie, cyborgi i nie wiadomo co jeszcze, to wtedy nazwanie AI rodzicem będzie jakoś uzasadnione. Obecnie uważam tą legitymację za nie do uzyskania.
— Kultura
Szeroka strefa pomiędzy instytucjami i religią. Władza wynikająca po prostu z tego, że ma się charyzmę i posłuch społeczny. Ludzie mogą po prostu wierzyć w skuteczność SI w zarządzaniu, ale także w jej zdolności twórcze. Tę legitymację też da się uzyskać dzięki autentycznej skuteczności oraz propagandzie.
Jako że większość powyższych ścieżek jest w jakimś stopniu realizowalna, odpowiedź na pytanie „Czy AI MOŻE rządzić światem?” brzmi TAK.
Odpowiedzi na pytanie „Czy POWINNA?” nie znam w pełni i jestem zainteresowany komentarzami.
**********************
Gorąco zachęcamy do dyskusji — Olaf Werner i Paweł Stacewicz.