Trzy stopnie autonomii maszyn
Trzeci: nie być maszyną

Nawiązuję tym szkicem do wpisu Pawła Stacewicza,  inicjującego dyskusję na temat autonomii maszyn, a także do mojej pierwszej na to zagajenie reakcji.  Oto teza  obecnego szkicu na temat trzech stopni możliwej ewolucji maszyn w kierunku autonomiczności — aż po tak pełna autonomię, że maszyna przestaje być maszyną. 

Stopień 1:  zdolność do samouctwa
Stopień 2:  zdolność do energetycznego samozasilania
Stopień 3:  zdolność do samostanowienia.

Na stopniu 1 maszyna do rozwiązywania problemów (o takiej tu mowa) nie jest poddana bez reszty dyktatatowi sterującego nią programu, lecz potrafi  stawiać problemy i je rozwiązywać  w wyniku samoprogramowania oraz  samodzielnego pozyskiwania danych.

Ten stopień był szeroko i wnikliwie rozważany w głosach dyskutantów,  toteż poprzestanę na powyższym dość ogólnikowym sformułowaniu  i odsyłam do  tych bardzo niekiedy ciekawych głosów.

Na stopniu 2 maszyna nie jest zdana na zasilanie energią z zewnątrz (jakim jest też  zasilanie z baterii wymagającej ładowania), lecz może samodzielnie pozyskiwać energię z otoczenia  oraz  przetwarzać ją w sobie na odpowiednią postać (np. chemiczną na kinetyczną), jak to czynią organizmy. Bez tego maszyna będzie zdana na człowieka; jeśliby mój komputer umiał i chciał mi jakoś zaszkodzić, to go po prostu wyłączę z prądu.  To żadna autonomia.

Zwrócenie uwagi na ten stopień zdaje się być, jak dotąd, jedynym głosem w dyskusji. Byłbym ciekaw opinii innych uczestników.

Na stopniu 3 maszyna stawia sobie własne cele i potrafi je realizować niezależnie od woli użytkownika, czy nawet wbrew jego woli. Być może,    ta faza mogłaby nastąpić niejako automatycznie w wyniku osiągnięcia stopni poprzednich.  Mając bowiem własne problemy i możliwości ich rozwiązywania bez konieczności otrzymywania algorytmów (software’u) od człowieka,  oraz mogąc samodzielnie pozyskiwaną energię, maszyna miałaby za cel rozwiązywanie postawionych przez nią czyli jej własnych problemów.  Dokładnie tak, jak czynią to ludzie. A wtedy stałaby się istota wolną i rozumna jak człowiek.  A zatem na tym stopniu ewolucji byłaby w pełni autonomiczna, ale nie byłaby już maszyną.

Sytuacja, która by  zaistniała w tej trzeciej fazie ewolucji byłaby wysoce niebezpieczna. Ludzkość ma i tak dostatecznie wiele kłopotów z silnie konfliktowymi celami niezliczonych indywiduów i zbiorowości —  konfliktami o takiej skali,  że istnieje ryzyko zniszczenia przez nie planety.  Sytuację te jeszcze bardziej by skomplikowało pojawienie się populacji autonomicznych maszyn z trzeciej fazy ewolucji.  Na ten rodzaj problemów zwraca w dyskusji uwagę Zaza w komentarzu z 24 marca.

Temat ten pojawia się w utworach z kategorii fikcji naukowych, a w tej klasie czołowe miejsce zajmuje Isaac Asimov.  Jego pomysł polega na tym,  żeby doprowadzić ewolucję do trzeciego stopnia, ale z ta modyfikacją, żeby producent robota wyposażał go w oprogramowanie, które powoduje następujący rezultat ujęty przez Asimova w „trzech prawach robotyki”. Oto one.

  1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy.
  2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem.
  3. Robot musi chronić sam siebie, jeśli tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

Działanie tych praw Asimov opisuje w powieściach o bardzo pomysłowej fabule, np. w „The Robots of Dawn”.  Czy jednak konstruowanie maszyn  według tych praw nie odebrałoby im autonomii?   Sadzę, ze autonomia moralna człowieka polega na tym,  że nie ma takiego drugiego człowieka, któremu miał obowiązek być  posłuszny, chyba że zobowiąże się do tego dobrowolną umową.  A jeśli zrezygnujemy z praw robotyki podporządkowującym bez reszty maszyny człowiekowi, to znowu trzeba będzie uznać, ze już nie są one maszynami. Na temat tego rodzaju autonomii przysługującej wolnym  ludzkim indywiduom wypowiadam się we wpisie „Kto ma prawo ustanawiać normy i sankcje?”.

Print Friendly
Ten wpis został opublikowany w kategorii Filozofia informatyki, Światopogląd informatyczny. Dodaj zakładkę do bezpośredniego odnośnika.

Jedna odpowiedź na „Trzy stopnie autonomii maszyn
Trzeci: nie być maszyną

  1. km pisze:

    Stopień 2 i 1 wzajemnie się warunkują i uzupełniają: uczenie się rozwiązywania problemów na nowy sposób- stawianie nowych tez co do możliwego rozwiązania- w jedynym procesie który wytworzył autonomiczne formy trwania czyli ewolucji- było weryfikowane poprzez to czy manifestowanie przekonania co do owych tez nie wyklucza zapewnienia sobie źródeł energii w warunkach konkurencji o jej źródła.*

    W mechanizmach regulacji zachowania ku przetrwaniu ustroju odzwierciedlił się przez miliony lat logos właściwy zjawiskom z jakich organizm może pozyskiwać energię niezbędną do przetrwania- oto i geneza założeń i kategorii rozumowania, intuicji i odczuć. W sposób oczywisty konieczność zapewnienia energii stanowi wskazówkę tłumaczącą choćby
    -nie zapętlania się w bezskutecznych próbach rozwiązania problemu (marnowanie skończonych zasobów energii)
    -preferowanie teorii mniej skomplikowanych, symetrycznych, analogicznych do teorii już przyjętych w innych dziedzinach (łatwiejsze/mniej kosztowne energetycznie do użycia i nauczenia się)
    -wiara w jednolitość praw i założenie o tym, że zjawiska otaczającej nas rzeczywistości są połączone w jednej spójnej rzeczywistości sprawia, że tropimy regularności czasem skutecznie odnajdując dodatkowe połączenia pomagające znaleźć dodatkowe równanie by starczyło ich dla szukanych niewiadomych (procesy, z których czerpać można energię charakteryzują się regularnością- już „hipoteza” roślin manifestująca się cyklicznym kwitnieniem sprawdza się)
    -czasem powyższe kończy się rytuałami i myśleniem magicznym ale jeśli nie ma innego sposobu na uporanie się z problemem bo czasem lepiej i zawierzyć w nieprawdopodobne i niewytłumaczalne niż powtarzać nieskuteczne próby lub zdawać się na ślepy traf- w końcu w rzeczywistości manifestują się regularności i takie założenie niejednokrotnie okazało się skuteczne (uzyskano dzięki nim energię).
    -czasem rozwiązania zdają się nam piękne w „odczuciu celowości bez uświadomienia sobie zewnętrznej przyczyny”, czasem przywołują przyjemne wspomnienia z okoliczności sprzyjających zapewnieniu energii- choćby w bardzo odległy sposób.
    Czy chodzi o oszczędzanie energii czy poszukiwanie jej źródeł- rozważanie (nieświadome obliczanie w strukturach neuronalnych) kwestii z nią związanych stanowi krytyczne dla przetrwania tło wszelkiej naszej działalności intelektualnej wpływając na nią (i czasem mistyfikując poznanie, ograniczając rozumienie dla zjawisk na innym poziomie złożoności- jak mechanika kwantowa).

    Stopień 3 także mi zdaje mi się naturalnym rozwinięciem funkcjonowania stopnia 1 i 2.
    Tylko, że po osiągnięciu tego stopnia znów otwierają się nowe możliwości rozbudowy autonomii stopnia 1 i 2. Zmiana celów nie tylko warunkowana jest dostępem do energii- czasem to właśnie nowy sposób jej pozyskania stanowi nowy cel generujący nowe problemy, hipotezy- samouctwo- i nowe obszary autonomii.

    *Przejawianie „przekonania” co do tez zaczęło się już od najprostszych organizmów, których sama konstrukcja stanowiła tezę o możliwości ich przetrwania, którą wcielały w życie poddając się testowi- zwyczajnie zachowując się zgodnie z własną istotą. Konstrukcja już najprostszych organizmów żywych generuje jednocześnie określone ich zachowania w danych okolicznościach. Zmienne konstrukcje organizmów stanowią zatem swoiste teorie jak zachowywać się aby przetrwać. Zmienne środowisko weryfikuje czy są one dostosowane do przetrwania.
    Z zewnątrz wygląda to tak jakby zbiór tych rozmaitych stworzeń symulował wystosowywanie hipotez na temat sposobu na zapewnienie dostaw energii dla podtrzymania dalszego funkcjonowania. Dzięki temu, że te organizmy- których budowa dostosowana była do warunków podtrzymania trwania- trwały.
    To prawie tautologia- tak jak w „przetrwają najlepiej dostosowani do przetrwania”- cóż ciężko o eleganckie sformułowania gdy opisuje się proces statystycznego parcia siłą rozpędu poprzez sploty okoliczności.
    Organizmy nie odzwierciedlające logosu zjawiska mogących dostarczyć energię do przetrwania ginęły. Powstała więc „presja selekcyjna” (a także symulacja celowości i i”praw” ewolucji oraz „projektowania przez ewolucje”) na kumulowanie w konstrukcji form trwania zespołu mechanizmów regulujących ich zachowanie tak, by zapewniał przetrwanie dzięki odwzorowywaniu swoistego logosu przejawiania się zjawisk w rzeczywistości na poziomie warunkującym znowu- właśnie możliwość trwania.
    I z tego zapętlenia powstał cały dany nam wzór autonomii ale także i schemat poznania wiedzy o świcie, który w mniejszym lub większym stopniu powielany jest także przez metodologię nauk (stawianie tez i krytyczna ich weryfikacja w eksperymentach) oraz zbiór kategorii myślenia których odzwierciedlenie w konstrukcji sztucznych automatów jest prawdopodobnie konieczny by znaleźć porozumienie z taką maszyną wierząc w jej wolną wolę, niezawisłość i samoświadomość.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *