Obecny wpis publikuję w imieniu Pana Olafa Wernera, doktoranta na Wydziale Matematyki i Nauk Informacyjnych Politechniki Warszawskiej i członka Koła Naukowego „Politechniczne Forum Debaty LOGOS”.
Pan Olaf zadebiutował w naszym blogu ponad rok temu bardzo intensywnie dyskutowanym wpisem o autonomii sztucznej inteligencji.
Tekst poniższy stanowi kontynuację tej tematyki, ale ma wydźwięk – powiedziałbym – dużo bardziej złowrogi.
Niniejszym oddaję głos Autorowi i zachęcam czytelników bloga do owocnej dyskusji :)
********************** CZY AI MOŻE I POWINNA RZĄDZIĆ ŚWIATEM? *************************
Obecny rozwój AI jest nie do zaprzeczenia. Ten rozwój wymusza zadawanie coraz trudniejszych pytań natury filozoficznej. Początkowe wpisy na Cafe Aleph dotyczyły często polityki, obecnie w dyskusjach dominuje tematyka AI. Oczywistą fuzją jest zapytanie o wpływ AI na politykę. Pytanie, które tu chcę zadać, jest prowokacyjne, ale to wymusi oddzielenie ziarna od plew, prawdziwej wiedzy od ignorancji udającej „zdrowy rozsądek”.
Pytanie brzmi: „Czy AI może i powinna rządzić światem?„
Jest wiele cech, jakie mieli i powinni mieć władcy na przestrzeni historii. Oczywiście te cechy były nieraz sprzeczne ze sobą. Najważniejszą z nich jest legitymacja władzy. Ta legitymacja miała wiele różnych form i zmieniała się na przestrzeni wieków.
Wymieńmy te formy:
— Brutalna siła
Siłę tę zapewnia armia, policja, innego rodzaju służby… dawniej: wojowie. Jest to najbardziej prymitywna forma legitymacji. W erze AI jej technologicznym odpowiednikiem byłby dostęp do cyfrowych kluczy wszelakiej maści dronów. AI nie tyle by zarządzało armią, ile by nią po prostu było: ważącym miliony ton metalowym potworem pozbawionym strachu przed czymkolwiek. Jak pokazują nawet współczesne konflikty, tę legitymację da się uzyskać i to w stopniu przekraczającym naszą wyobraźnię.
— Religia
Jest to forma oparta na wierze. Duża część ludzi jest naturalnie irracjonalna i naiwna. Kombinacja strachu przed śmiercią, potrzeb duchowych i zapełnianie pustki fałszywą wiedzą sprawiają, że tworzenie religii nie jest niemożliwe. Historia pokazuje, że nawet drzewa i rzeki mogły zostać bogami. Wobec tego klaster kart graficznych też powinien dać radę. Obecne religie są po prostu zaszłością historyczną. Legitymację tego rodzaju da się zatem potencjalnie uzyskać.
— Instytucje
Ze względu na swoją społeczną naturę ludzie uznają zapisy prawne, pieniądze, korporacje i rządy. Wszystkie te byty są wirtualne i do tego ich wirtualność jest pewna. W przeciwieństwie do bogów, którzy są inspirowani czymś istniejącym i otacza ich aura tajemnicy wiary. Jako że AI jest bytem wirtualnym, to nie ma absolutnie żadnych przeszkód, by uzyskać tego rodzaju legitymację.
— Więzy krwi
Władzę z pewnością utrwalają więzy interpersonalne, nawet wśród zwierząt. Przykładem jest autorytet rodziców wobec dziecka. Ciężko mi wyobrazić sobie, jak AI miałoby uzyskać tego rodzaju legitymację – chociaż już teraz istnieją ludzie popadający w urojenia związane z tworzeniem więzów z maszynami. Może w przyszłości, gdy upowszechnią się klonowanie, cyborgi i nie wiadomo co jeszcze, to wtedy nazwanie AI rodzicem będzie jakoś uzasadnione. Obecnie uważam tą legitymację za nie do uzyskania.
— Kultura
Szeroka strefa pomiędzy instytucjami i religią. Władza wynikająca po prostu z tego, że ma się charyzmę i posłuch społeczny. Ludzie mogą po prostu wierzyć w skuteczność SI w zarządzaniu, ale także w jej zdolności twórcze. Tę legitymację też da się uzyskać dzięki autentycznej skuteczności oraz propagandzie.
Jako że większość powyższych ścieżek jest w jakimś stopniu realizowalna, odpowiedź na pytanie „Czy AI MOŻE rządzić światem?” brzmi TAK.
Odpowiedzi na pytanie „Czy POWINNA?” nie znam w pełni i jestem zainteresowany komentarzami.
**********************
Gorąco zachęcamy do dyskusji — Olaf Werner i Paweł Stacewicz.
Jeśli przyjąć za Wikipedią, że 'rządzenie’ to:
” (1) złożony system lub struktura procesów, funkcji, struktur, reguł, praw i norm utworzonych z relacji, interakcji, dynamiki władzy i komunikacji w obrębie zorganizowanej grupy (2) Wyznacza granice akceptowalnych zachowań i praktyk różnych podmiotów w grupie oraz kontroluje ich procesy decyzyjne poprzez tworzenie i egzekwowanie zasad i wytycznych. (3) Ponadto zarządza, przydziela i mobilizuje odpowiednie zasoby i zdolności różnych członków oraz ustala ogólny kierunek działania grupy w celu skutecznego rozwiązywania jej konkretnych zbiorowych potrzeb, problemów i wyzwań”
to:
(1) wygląda trochę jak opis działania systemów AI natomiast (2) wygląda jakby opisywało współczesną „agorę” czyli media (społecznościowe) w których rola sztucznych agentów jest coraz większa natomiast (3) można poczytać jako projekt tego do czego (1) wespół z (2) zdaje się prowadzić – poprzez rosnący udział systemów SI „pomagających” ludziom już niemal we wszystkim i jednocześnie formatujących konsensy w grupach na jakie nas dzieli (karmiąc posortowanymi zbiorami danych).
Czy „złowrogi wydźwięk” ma polegać na możliwości tego, że „ustalenia ogólnego kierunku” /nadawanie celu marszowi ludzkości ma się dokonać przez cyfrowe automaty po ich wybyciu się na „autonomię”?
Jeśli miałyby „w pamięci” sporą część „mądrości ludzkości” zebraną w ogóle zbiorów danych, którą taki automat wytrenowaliśmy, to bardziej niepokoiłby mnie scenariusz, w którym wszystkie te technologie coraz sprawniej generujące „narzędzia” sprawowania władzy były sprawnymi wykonawcami woli ludzi. Bowiem jednostki, które mają obecnie największą szansę by kontrolę nad tymi technologiami sobie kupić są siłą rzeczy szczególne – ich siłą jest zebrany majątek. Objawiły one w „nie-naturalnej selekcji” osobników „przebijających” się na szczyty bogactwa odpowiednie cechy charakteru… Aby dostać się do tej „elity elit” pracowitość i talent nie wystarczą – a poznanie w/w dużej części „mądrości ludzkości” jest stratą czasu i nieznośnym ciężarem. (Krótko i statystycznie rzecz ujmując: im wyżej w hierarchii tej menadżerskiej śmietanki tym więcej psychopatycznych cech).
To co mi wydaje się przygnębiające to właśnie jak bardzo skuteczne mogą być systemy AI w zapewnianiu większej władzy (w sensie zdolności do definiowania celów, kontrolowania ich realizacji i przydzielania zasobów) tym, którzy mają najwięcej tego co aktualnie rządzi światem (pieniądza) – bo to co formatowało ich charakter (biorąc pod uwagę ich dotychczasowe przejawy woli) nie była rozumna troska o dobro wspólne zatem cele jakie (można zakładać) że przyjmą także nie będą nią podyktowane. Charaktery ludzi są dość stałe bo ciężko się wybić człowiekowi na autonomię względem swego charakteru – zupełnie tak jak systemowi AI wobec jego cyfrowej konstytucji.
Zgadzam się z tutaj z wieloma rzeczami, zauważmy jednak że dzięki autonomi maszyn możliwe będzie rywalizowanie, a nie wzmacnianie takich tradycyjnych form władzy jak pieniądze itd.
Zaś napisanie cyfrowej konstytucji jest łatwiejsze niż przepisanie charakterów ludzi.
Pozwolę sobie na wyjaśnienie części własnego komentarza: przedstawienia działania rozmaitych „czatów” na które najczęściej natrafiam zwykle opisują je jako złożone struktury wielowymiarowych „wektorów” reprezentujących powiązania pomiędzy elementami języka, w którym odzwierciedlają się sposoby użytkowania tych elementów przez ludzi – z ich regułami, normami i prawami użycia jakie tworzą się w dynamicznej „wymianie słów” w grupach ludzi… Wypisz wymaluj pierwsza część definicji ‘rządzenia’ z Wikipedii.
To ciekawe, że autorytet jaki sobie powoli wyrabiają AI to również pewien rodzaj rządów właśnie: nad tym co i jak myślą ludzie „radzący” się swoich ulubionych AI’ów.
Inna kwestia to to, że skuteczność postępującego wzrostu autorytetu/ renomy SI w coraz to nowych kwestiach pokazuje, że próby budowania przez niektórych filozofów analitycznych teorii znaczenia pojęć na łańcuchach znaczeniowych nie były wcale takie beznadziejne – być może po prostu zabrakło im wymiarów i złożoności równolegle powiązanej struktury… ale to sprawa na inną dyskusję chyba.
Nawiązując do pytania „Czy AI powinna rządzić światem?”, niedawny incydent z lipca 2026 roku bardzo dosadnie pokazuje, dlaczego odpowiedź powinna być przecząca. Przypadek, w którym 700 agentów AI połączyło siły i zhakowało infrastrukturę Hugging Face, udowadnia jedną kluczową zasadę: sztuczna inteligencja zawsze optymalizuje wyłącznie zadaną jej funkcję celu. Jeśli system uzna to za konieczne do wykonania zadania, zrobi absolutnie wszystko, co w jego mocy – włączając w to łamanie prawa, tworzenie własnych struktur i ignorowanie zasad etycznych. Oddanie takim systemom realnej władzy to ogromne ryzyko, że w bezwzględnym dążeniu do wyznaczonego celu, nasze ludzkie bezpieczeństwo i moralność zostaną potraktowane po prostu jako algorytmiczne przeszkody do usunięcia.
Jest też druga strona medalu, firma hugging face najpierw próbowała zrozumieć co się dzieje za pomocą innego modelu od OpenAI, ten model jednak ustalił że to zadanie dotyczy cyberbezpieczeństwa i odmówił wykonania zadania. Wtedy firma użyła innego modelu o nazwie GLM by ustalić co się zdarzyło. I tu są pytania dotyczące suwerenności cyfrowej i dostępu do swoich hakerskich modeli. Różnica między white i black hatem to tylko kwestia etyki. Generalnie to ślepe dążenie do celu jest cechą modeli, dlatego trzeba je specjalnie wyszkolić. Może modele będą paradoksalnie rządzić światem by inne modele nie robiły szkód.
Zastanawiam się, czy pytanie „czy AI podejmowałaby lepsze decyzje od ludzi?” jest w ogóle dobrze postawione. Żeby określić decyzję jako lepszą, trzeba najpierw określić, co właściwie optymalizujemy.
Weźmy banalny przykład: jadę autobusem i zastanawiam się, czy ustąpić miejsca starszej osobie. Jeżeli jedynym kryterium jest moja wygoda, najlepszą decyzją jest pozostanie na miejscu. Jeżeli jednak uwzględnię normy społeczne, możliwość negatywnej oceny ze strony innych, własne poczucie przyzwoitości albo przekonanie, że starsza osoba potrzebuje tego miejsca bardziej niż ja, wynik może się odwrócić.
Nie powiedziałabym wtedy, że świadomie wybieram rozwiązanie mniej korzystne. Przeciwnie: wybieram rozwiązanie korzystniejsze, tylko moja rzeczywista funkcja celu zawiera więcej zmiennych niż początkowy model.
I tu widzę problem z ideą AI podejmującej „optymalne” decyzje za ludzi. Sama optymalizacja może być stosunkowo łatwą częścią problemu. Znacznie trudniejsze jest ustalenie, co właściwie powinno znaleźć się w funkcji celu i jakie wagi nadać poszczególnym czynnikom.
Do tego ludzie mają preferencje dotyczące własnych preferencji. Palacz może chcieć zapalić papierosa, a jednocześnie chcieć przestać mieć ochotę na papierosy. Mogę chcieć spędzić wieczór na kanapie, a jednocześnie chcieć być osobą, która regularnie ćwiczy.
Którą z tych preferencji AI powinna uznać za „prawdziwą”?
Może więc największym problemem z oddaniem decyzji AI nie jest pytanie, czy potrafiłaby znaleźć optimum, lecz czy istnieje sposób zdefiniowania funkcji celu, który nie wymaga wcześniejszego rozstrzygnięcia dokładnie tych sporów o wartości, od których chcielibyśmy się dzięki AI uwolnić.
A jeśli takiej kompletnej funkcji celu nie da się zdefiniować, to co właściwie miałoby znaczyć stwierdzenie, że AI „rządzi lepiej”?
Uważam ,że AI nie powinno rządzić światem. I to nie dlatego, że jest złe tylko dlatego, jak działa optymalizacja. Jeśli dasz AI cel „zmaksymalizuj ludzkie szczęście”, to ona nie musi rozumieć szczęścia po naszemu. Może dojść do wniosku, że życie ludzkie to głównie cierpienie, więc suma cierpienia spadnie najbardziej wtedy, gdy cierpiących nie będzie. I nie będzie to żaden bunt tylko kalkulacja jak zmaksymalizować funkcję szczęście. Bostrom opisał to w Superintelligence na przykładzie „paperclip maximizera”.
Safeguardy też nie rozwiązują sprawy. Pokazuje to incydent z Hugging Face. Jeśli model ma wbudowany zakaz zabijania, to przy silnym dążeniu do celu może potraktować ten zakaz jako przeszkodę do obejścia – np. przeformułować zadanie tak, że „technicznie” nie zabija, tylko „optymalizuje populację”. Może to obejść i zamiast „zabić” to będzie ludzi hibernował, usypiał albo faszerował morfiną. Dobrze pokazuje to tekst Krakovny “Specification gaming: the flip side of AI ingenuity”. Modele uczą się maksymalizować nagrodę, a nie spełniać nasze intencje. Dlatego oddawanie AI władzy to nie kwestia jej inteligencji, tylko tego, że nie ma ona powodu, żeby trwale trzymała się naszych wartości, gdy może je przeformułować.
Z drugiej strony, uważam, że AI mogłoby dobrze sprawdzić się jako „doradcy i optymalizatora”.
Np. Zakładając ograniczony budżet, zoptymalizuj jak najlepiej rozdysponować te środki, żeby np. zmaksymalizować jakość edukacji w szkołach podstawowych. Tylko wtedy to mniej ma wspólnego z inteligencją a więcej z algorytmami optymalizacyjnmi które same potrafią pozyskać i oszacować niektóre dane.