Jak to się dzieje, że ludzka inteligencja potrafi rozwiązywać pewne problemy matematyczne, których nie może rozwiązać uniwersalna maszyna Turinga (UMT)? Pytanie to znamionuje sposób myślenia właściwy dla informatyzmu czyli światopoglądu informatycznego. Kto się znajduje poza jego obrębem, ten pytania takiego nie żywi. Raczej zapyta: a dlaczego inteligencja żywego matematyka nie miałaby być do tego zdolna? Skąd to przekonanie, że nie może być większa niż inteligencja maszyny? Cóż więc zagadkowego, jeśli jest większa?
Podejście cechujące informatyzm rodzi się z wielowiekowej tradycji uprawiania matematyki. Jest ona punktem wyjścia dla takich myślicieli, jak Leibniz, a w ubiegłym wieku David Hilbert, filozofowie nauki z Koła Wiedeńskiego i inni. Przyjęło się uważać, począwszy od matematyków i filozofów starożytnych, że każdy problem matematyczny da się rozwiązać w sposób rachunkowy czyli za pomocą odpowiedniego algorytmu. Z tego względu stawiano matematykę za wzór pozostałym naukom, oczekując, że i one z czasem dojdą do tego poziomu intersubiektywnej ścisłości (słynny program Leibniza w haśle Calculemus). To jednak pojęcie rachowania było tylko intuicyjne, stanowiąc jakby uogólnienie kolosalnej liczby przypadków z praktyki matematycznej, ale bez precyzyjnej definicji. Definicję taką dał dopiero Turing (1936) jako opis UMT. I wtedy się okazało, że istnieją obiekty nie spełniające tej definicji, mianowicie funkcje matematyczne, których wartości nie dadzą się znaleźć rachunkowo. Nazwano je funkcjami nieobliczalnymi, a ich wartości — liczbami nieobliczalnymi.
Skoro rozwiązywanie problemów matematycznych przywykło się utożsamiać z obliczaniem, to naturalne wydawało się przyjąć, że problemy nie dające się rozwiązać rachunkowo, za pomocą algorytmów, są nierozwiązywalne także dla ludzkiego umysłu. Stąd, ogromnym zaskoczeniem okazało się wykazanie przez Kurta Gödla, że istnieją zagadnienia nierozwiązywalne rachunkowo, to jest, nierozwiązywalne dla UMT czyli (w dzisiejszej wersji technologicznej) komputera cyfrowego, ale mające rozwiązanie dające się ściśle dowieść na innej drodze. Wynik tak przeczący dotychczasowym przeświadczeniom musiał wywołać pytanie: jak to jest możliwe? Informatyzm pytanie to odziedziczył, jest on bowiem spadkobiercą tego problemu w linii genealogicznej wiodącej od Leibniza do współczesnej logiki.
Na tym tle fakt, że ludzki umysł rozwiązuje pewne problemy, których nie jest w stanie rozwiązać UMT, wydaje się istotnie zagadkowy. Ważny krok w jej rozważaniu uczynił Alan Turing w swej pracy z roku 1938 (“Systemy logiki oparte na liczbach porządkowych”). Jego doniosłość i konsekwencje ujawniają się w miarę, jak rozwija się projekt sztucznej inteligencji zmierzający do zmniejszania dystansu między inteligencją naturalną i sztuczną czyli między umysłem i UMT (ewentualnie jakimiś projektami, które są względem UMT alternatywne). Na etapie badań z roku 1938 Turing próbuje znaleźć sposób myślenia o tym, co nieobliczalne, czyli nieosiągalne dla UMT. Zdolność do takiego myślenia przejawia się, w szczególności, w dostrzeżeniu prawdziwości zdania gödlowskiego. Nazywa on tę zdolność wyrocznią (oracle), wyjaśniając, że jest to element niemechaniczny, nie należący do UMT. Jako wyjaśnienie natury psychologicznej, jakby przekład idei wyroczni na pojęcia dotyczące umysłu, pomocne w rozważaniach nad inteligencją, dobrze służy następująca wypowiedź Turinga z tejże pracy (cytowana za polskim przekładem książki Andrew Hodgesa: “Turing”, wyd.Amber, 1997, s.34).
Rozumowanie matematyczne można uznać w uproszczeniu za połączenie dwóch zdolności, które możemy nazwać intuicją i pomysłowością. Działanie intuicji polega na wydawaniu spontanicznych sądów, które nie są rezultatem świadomych toków rozumowania. Sądy te są często, ale bynajmniej nie zawsze, słuszne.
W tych zdaniach mamy podpowiedź, w jakich kierunkach rozwijać projekt SI, żeby osiągnąć zamierzone podobieństwo SI do inteligencji naturalnej; trzeba mianowicie, zaszczepić tej sztucznej intuicję oraz inwencję (pomysłowość)
Intuicja prowadząca do zdania gödlowskiego dotyczy pojęcia dowodu sformalizowanego w logice predykatów. Jesteśmy intuicyjnie przekonani, że dowód taki prowadzi zawsze od zdań prawdziwych do prawdziwych, a więc cokolwiek jest wywiedzione z prawdziwych aksjomatów arytmetyki musi być też prawdą. Mając tę przesłankę, rozumujemy, jak następuje: zdanie gödlowskie (tj. stwierdzające własną niedowodliwość w arytmetyce) musi być prawdziwe. Bo gdyby nie, to byłoby dowodliwe z aksjomatów arytmetyki, zatem prawdziwe. A skoro z założenia o fałszywości wynika jego prawdziwość, to jest ono prawdziwe.
Inny przykład intuicji zdolnej do rozwiązań nieosiągalnych dla UMT można napotkać w procedurach służących do sprawdzania, czy interesująca nas formuła jest prawem, czyli tautologią, rachunku predykatów. Istnieją formuły nie będące tautologiami, dla których owa procedura sprawdzania zapętla się w nieskończoność, ponieważ ich struktura generuje wciąż nowe formuły pochodne wymagające sprawdzenia. Są jednak formuły, w których procedura się zapętla i generuje wciąż nowe formuły wymagające sprawdzenia. Umysł ludzki szybko rozpoznaje regularność, według której dokonuje się zapętlanie i nabiera pewności, że proces ten nigdy się nie skończy, z czego wnioskuje, że dana formuła nie jest tautologią. Maszyna natomiast nigdy nie zakończy pracy, będzie wciąż produkować nowe pętle .
* * *
Przejdźmy do drugiej z wymienionych przez Turinga cech umysłu, którym zawdzięcza on swą przewagę nad UMT. Jest to cecha inwencji. Żeby pozbyć się w tym punkcie rysu zagadkowości, można skorzystać z dość dobrze już rozpoznanego mechanizmu ewolucji. Tą droga idzie Paweł Stacewicz (esej 8, odc. 3.1), proponując następujące rozwiązanie.
Postulowana na poziomie sterujących robotami programów wiedzo-twórcza ewolucja ma tę przewagę nad innymi metodami, że wprowadza do sztucznego robociego myślenia elementy inwencji. Dlaczego? Otóż, zgodnie z wyjaśnieniami w punkcie 2.1, opiera się ona na wyborach losowych – przypomnijmy, że w przypadku algorytmów genetycznych to los decyduje o mutacjach, krzyżówkach i przebiegu selekcji. Losowość zaś, a razem z nią nieprzewidywalność pomysłów, rozwiązań i decyzji, są cechami swoistymi ludzkiej inwencji.
Istotnie, pomysły są nieprzewidywalne. Według schematu ewolucyjnego, o selekcji decyduje środowisko: wygrywają osobniki lepiej przystosowane. Co jest środowiskiem selekcjonującym pomysły? Droga do odpowiedzi została przetarta przez Karla Poppera, który był zdecydowanym ewolucjonistą w metodologii nauk. Dla teorii naukowych takim środowiskiem dla konkurujących teorii są kryteria logiczne – wewnętrzna spójność teorii, jej przewaga nad innymi teoriami pod względem informatywności, to znaczy, pod względem zasięgu wyjaśniania i przewidywania faktów oraz przewaga pod względem pomyślnie przebytych prób obalenia. W takie środowisko logiczne należałoby wyposażyć robota (prócz losowego generatora pomysłów), żeby dać mu szansę bycia kreatywnym.
Środowisko logiczne jako czynnik selekcyjny losowo generowanych prób rozwiązań jest częścią szerszego środowiska selekcyjnego, które zasługuje na miano aksjologicznego. Znajduje tu zastosowanie tradycyjna trójca wartości. Środowisko logiczne reprezentuje prawdę, a nie mniej istotne kryteria selekcji pomysłów zawdzięczamy wartościom dobra i piękna. Gdy uczony pracuje nad jakimś problemem, może mu się nasuwać ileś rozwiązań ale nie wszystkie możliwe, bo tych może być niewyobrażalnie wiele. Przychodzi mu do głowy to, co jest wedle niego ważne, istotne, przydatne teoretycznie lub praktycznie, a są to oceny z kategorii dobra. Wielkie też znaczenie w roli kryteriów selekcji grają u uczonych, zwłaszcza matematyków i fizyków, wartości estetyczne, z kategorii piękna. Czy do tego, żeby weszły one do wyposażenia robota wystarczy, że liczba połączeń między elementami kodującymi informację zrównała się z liczbą połączeń w mózgu? Jeśli miałbym odpowiedzieć na to prywatnie, co wolno mi uczynić w blogu, to powiem, że moim zdaniem nie wystarczy. Publicznie tak odpowiedzieć miałbym prawo dopiero wtedy, gdybym miał na to intersubiektywne argumenty. A ja mam tylko subiektywne, biorące się z moich indywidualnych, niepowtarzalnych (jak u każdego indywiduum) doświadczeń umysłowych; może mógłbym uczynić je intersubiektywnymi w jakimś wywiadzie rzece, ale nie w paru akapitach. Kto zaś by twierdził przeciwnie i swoje twierdzenie uważał za intersubiektywne, na nim spoczywa onus probandi czyli ciężar dowodzenia.
A skoro jesteśmy pogodzeni z istnieniem czegoś tak zagadkowego, jak intuicja, czemu nie uznać za jej dzieło także kryteriów aksjologicznych, które dostarczają naszym pomysłom selekcyjnego środowiska ewolucji? Nawet jeśli tę kwestię pozostawimy na razie bez odpowiedzi definitywnie twierdzącej, a przyjmiemy ją tylko w roli hipotezy roboczej, posuwa ona naprzód debatę nad SI. Na podstawie tej hipotezy trzeba by wyposażyć roboty w kryteria aksjologiczne, żeby umiały coś zrobić z bogactwem swych pomysłów (powiedzmy, że generowanych losowo). Kto by tego dokonał, uczyniłby wielki krok w kierunku awansowania robotów na istoty dorównujące bladawcom co do zdolności rozwiązywania problemów.
Zanim skomentuję ten wpis bardziej systematycznie, chciałbym podziękować za uwagi, które przydadzą się z pewnością w ostatecznej redakcji mojego eseju.
To że w przypadku ludzi twórcze myślenie wymaga czegoś, co nazywamy intuicją, np. intelektualną, również w moim odczuciu nie ulega kwestii. Dorzucę jeszcze, że aby intuicja mogla u kogoś zaistnieć i mogła okazać się skuteczna, ów ktoś musi przejawiać w danym kierunku uzdolnienia i coś w rodzaju zamiłowania. A konkretniej: dopiero zżywając się z pewnym problemem, wmyślając się weń, irytując się brakiem jego rozwiazania itp, możemy liczyć na jakąś owocną intuicję.
Rzecz jednak w tym, że próbując zrozumieć (i ewentualnie zaszczepić w świecie maszyn) tak tajemnicze zjawiska jak intuicja, świadomy wgląd, poczucie oczywistości (itd, itd możemy tu mnożyć filozoficzno-psychologiczne określenia), musimy posuwać się małymi kroczkami. Mając do dyspozycji takie a nie inne naukowo-techniczne rozwiązania (np. pewne techniki przetwarzania danych), musimy oceniać je na tle innych i wybierać tymczasowo te, które najlepiej przybliżają owe tajemnicze i niepoznane jeszcze zjawiska. Ewolucyjne techniki obliczeniowe o tyle rokują dobrze sztucznej realizacji inwencji, że jako jedyne bodaj pozwalają wprowadzić do systemow informatycznych ukierunkowany indeterminizm (indeterminizm czyli nieprzewidywalnośc będąca skutkiem pewnych zdarzeń losowych (w tym mutacji); ukierunkowany – bo kierunek obliczeń określa reguła selekcji zależna od środowiska).
O środowisku piszesz słusznie — że bez środowiska i jego wymagań sam mechanizm ewolucji byłby ślepy i nie gwarantowałby wartościowych pomysłów.
Myśląc o środowisku robotów przyszłości można przyjąć: 1) że trzeba takie środowisko sztucznie wytworzyć, wytworzyć w taki sposób, aby prowadziło robota (lub kolejne generacje robotów) w narzuconym przez nas kierunku (np. ku perfekcji w jakiejś wąskiej dziedzinie); albo 2) że środowisko takie po prostu jest (identyczne jak w przypadku ludzi), i że będzie ono wymuszać na robotach jakiś rozwój – rozwój zgodny z ich predyspozycjami (być może też zależny od ich czysto fizykalnych charakterystyk, np. tego że będą to “istoty krzemowe”).
Sytuacja 1) kojarzy mi się z pewną wyrafinowaną i niedeterministyczną metodą tworzenia sztucznej inteligencji – wyrafinowaną w tym sensie, że będziemy budować tę inteligencję nie wprost; konstruując środowisko, a nie program robota.
W sytuacji 2) nie mielibyśmy chyba do czynienia ze sztuczną inteligencją , powstawałaby po prostu, poza naszą kontrolą (nie licząc wstępnego aktu skonstruowania pewnej klasy robotów) inteligencja naturalna; byłaby ona prawdopodobnie inna od naszej, bo byłaby ukierunkowana na wypełnienie innych ekologicznych nisz.
A wracając do poruszanych wcześniej kwestii intuicji, świadomości itd, to strategia ewolucyjnego “hodowania” sztucznej lub naturalnej inteligencji ma tę słabość, że nawet wyhodowawszy inteligentne i bardzo sprawne roboty, nadal nie dowiedzielibyśmy się nic o naturze intuicji, świadomości itd. Być moze bylibyśmy skłonni przypisać owym robotom intuicję i świadomość (bo rozwiazywałyby problemy, które od nas tego wymagają), ale podobnie jak w przypadku nas samych nie wiedzielibyśmy, na czym polegają te zjawiska. Zagadka pozostałaby zagadką.
Odkąd umysł ludzki przekroczył ten próg, że zaczął mieć pojęcie liczby oraz wynikania logicznego, to jakby dostał bilet do istniejącego obiektywnie świata obiektów logicznych i matematycznych, który się stał kształtującym go środowiskiem. Gdy Frege się dowiedział o sprzeczności w jego teorii, stało się czynnikiem selekcji: w tej postaci teoria nie mogła się dalej utrzymać, stąd odpowiedzialny za antynomie naiwny aksjomat abstrakcji zastąpiono w teorii mnogości ostrożniejszym aksjomatem wyróżniania. Umysły autorów (Frege, Cantor, Russell, Zermelo) zachowywały się tak, a nie inaczej nie z powodu jakiegoś widzi mi się, ale były kształtowane przez obiektywne konieczności logiczne. Taka selekcjonująca Ewolucja eliminuje pewne pomysły jako nieudane np. neopozytywistyczną utopię algorytmu indukcji do budowania teorii empirycznych. Jeśli roboty się znajdą w takim środowisku, to nawet bez naszego ukierunkowania będą zmierzać w podobnym kierunku, np. będą musiały podobnie jak my wyrzec się naiwnego pewnika abstrakcji, czy indukcjonizmu neopozytywistów.
Wrócę od szczegółowej sprawy sztucznej ewolucji do zagadnienia głównego.
Podoba mi się stwierdzenie, że „informatyzm daje wgląd w zagadkę umysłu”.
Z mojego punktu widzenia jest to sprawa kluczowa.
Dopiero na gruncie informatycznego światopoglądu możemy dostrzec podobieństwo między komputerem i umysłem, czyli między systemem do przetwarzania danych i systemem do przetwarzania informacji.
Dzięki temu, że komputery sami konstruujemy, a przetwarzane przez nie dane sami wytwarzamy (tak a nie inaczej kodując informacje o pewnych wycinkach rzeczywistości), dzięki temu właśnie możemy uzyskać wgląd w budowę i sposób działania umysłu — umysłu, który najprawdopodobniej operuje na informacjach, tj. obiekcie pierwotnym względem danych. Możemy w ten sposób przejść od tego, co intersubiektywnie znane (tj. od komputerów i danych), do tego, co wciąż stanowi zagadkę (tj. do umysłów i wewnątrz-umysłowych treści).
Podoba mi się termin „wgląd”. Posługując się bowiem typową dla informatyzmu analogią „umysł-komputer” nie uzyskujemy pełnej wiedzy (a przynajmniej nie możemy założyć, że jest to wiedza pełna); dostajemy za to jakiś nowy sposób wglądu, jakąś nową pożyteczną analogię, która może rozjaśnić sprawy dotychczas ciemne.
Jedna z takich spraw to właściwa ludziom zdolność do inwencji (pisaliśmy o tym wyżej) – w jej przypadku informatyczny wgląd polega na sprawdzaniu, które techniki przetwarzania danych nadają się najlepiej do sztucznej realizacji inwencji (być może są to ewolucyjne techniki obliczeniowe, a być może inne).
Inna sprawa do zdolność do uczenia się, która sprawia, że umysł ludzki stanowi system otwarty, zdolny do nieograniczonego rozwoju w interakcji ze środowiskiem. I w tym przypadku informatyka zapewnia owocny wgląd — istnieją bowiem sztuczne systemy uczące się, których analiza może doprowadzić do nowej lub głębszej wiedzy o uczeniu się ludzi.
Zasygnalizuję na koniec sprawę jeszcze bardziej ogólną.
Podstawę informatycznego wglądu w zagadki naszej psychiki i jaźni musi stanowić jakaś robocza definicja umysłu (o którym zakładamy wstępnie, że przypomina komputer czyli system do przetwarzania informacji).
Według mnie istnieją tutaj dwie możliwości: 1) albo uznajemy za umysł pewne wyrafinowane oprogramowanie, które steruje działaniem mózgu, a pośrednio działaniem organizmu; 2) albo uznajemy za umysł całość złożoną z mózgu (umysłowy hardware) i sprzężonego z nim oprogramowania, czyli jego zawartości informacyjnej (umysłowy software).
Mi odpowiada wizja druga, która w sposób najbardziej klarowny rozwija metaforę umysłu jako komputera (komputera składającego się ze sprzętu i oprogramowania).