Kilka tygodni temu nasz blog rozpoczął współpracę z arcyciekawym czasopismem Filozofuj!
Zaszczytną dla mnie okazją po temu stała się seria O sztucznej inteligencji z filozofią w tle, do której napisania zostałem zaproszony przez Redakcję.
Jej pierwszy artykuł pt. Filozoficzna prehistoria sztucznej inteligencji. Wkład i znaczenie myśli Leibniza można przeczytać (i obejrzeć :)) tutaj.
W ramach obecnego wpisu możemy zaś podyskutować o pewnych tezach, które formułuję na końcu tekstu.
Zachęcając do przeczytania całości, przytaczam niżej trzy ostatnie akapity artykułu, które najbardziej chyba prowokują do rozmowy. Pozostała część tekstu ma raczej charakter historyczno-dydaktyczny.
A oto wspomniane akapity.
Wróćmy na koniec do wiary Leibniza w to, że inteligencję, czyli zdolność do rozwiązywania problemów, da się zaszczepić maszynom wykonującym obliczenia. Pozostaje pytanie o rodzaj tych obliczeń. Czy wystarczą tu techniki cyfrowe, polegające na przetwarzaniu danych dyskretnych i możliwych do zakodowania w języku binarnym? Czy też należy poza nie wykroczyć, wykorzystując dane ciągłe, które są opisywalne binarnie tylko w pewnym przybliżeniu?
Ku tej drugiej opcji prowadzą pewne myśli, które znajdujemy również u Leibniza, ale których on sam nie łączył ze światem maszyn. Chodzi, po pierwsze, o jego pionierski wkład w budowę rachunku różniczkowo-całkowego, czyli matematycznego rachunku wielkości ciągłych, po drugie zaś, o jego metafizyczną zasadę ciągłości. Zasadę tę stosował na różnych poziomach: począwszy od teorii monad, które miały tworzyć szereg ciągły, a skończywszy na teorii świadomości, którą postrzegał jako własność stopniowalną, przysługującą różnym bytom w różnym stopniu.
Czy koncepcja obliczeń realizowanych na wielkościach ciągłych mogłaby coś wnieść do teorii SI, która, na razie, jest implementowana na maszynach cyfrowych? Nie wszyscy odpowiedzą pozytywnie, bo nie wszyscy wierzą, że w świecie fizycznym występują wielkości i procesy autentycznie ciągłe. Mimo to chciałbym pozostawić czytelnika z inspirowaną myślą Leibniza, filozoficzną hipotezą, że dla sztucznego uzyskania niektórych własności ludzkiej inteligencji, np. świadomości, niezbędne jest wykorzystanie obliczeń ciągłych.
Gorąco zachęcam do DYSKUSJI, a o kolejnych odcinkach serii będę informował sukcesywnie — Paweł Stacewicz.
Ja osobiście wątpie czy obliczenia analogowe są niezbędne. Mózg też raczej nie działa z dowolną przecyzją bo składa się z komórek które są dość dużę, po za tym biologia opiera się na redundacji i pewnych marginesach błędu, a nie na perfekcyjnej precyzji.
Czy koncepcja obliczeń realizowanych na wielkościach ciągłych mogłaby coś wnieść do teorii SI, która, na razie, jest implementowana na maszynach cyfrowych? Nie wszyscy odpowiedzą pozytywnie, bo nie wszyscy wierzą, że w świecie fizycznym występują wielkości i procesy autentycznie ciągłe.
To nie jest kwestia wiary, tylko akceptacji Wszechświata wraz z jego uwarunkowaniami. O niemożności fizycznej realizacji obliczeń analogowych przewyższających precyzją obliczenia współczesnych komputerów cyfrowych było w komentarzu pod jedną z poprzednich notek.
Czy jednak wszystko jest obliczeniami i czy obliczenia są wszystkim? Wielkością fizyczną „podejrzaną o bycie autentycznie ciągłą”, jest czas. Matematyka wobec czasu jest obojętna — wszystko tam dzieje się natychmiast, także zsumowanie elementów nieskończonego szeregu. Informatyka zdefiniowana przez Turinga posługuje się pojęciem „kroku maszynowego”, które to pojęcie z pojęciem czasu łączy tylko tyle, że oba są jednokierunkowe, wyznaczają kolejność, następstwo. Pojęcie to jest pomocne przy ocenianiu wydajności algorytmów (im mniej kroków wykona maszyna dochodząc do celu, tym algorytm jest bardziej wydajny). Informatyczny krok maszynowy nie ma konkretnego wymiaru, jest obojętne, czy trwa nanosekundę, czy minutę. Ważne, że zawsze jest taki sam.
Co by zatem było, gdyby liczby opisujące kroki czasowe włączyć do istniejącej teorii? Na to pytanie nie ma w tej chwili odpowiedzi, bo nie ma pomysłu (przynajmniej ja nie mam), jak te dwa różne światy pogodzić. Chociaż historia technicznej implementacji operacji logicznych z tym się zetknęła. Różnice czasów działania bramek logicznych powodowały niedeterministyczne zachowanie układów, co wtedy (słusznie) uznano za błąd i układy asynchroniczne zastąpiono synchronicznymi (taktowane zegarem).
O sztucznej inteligencji (SI) jako nauce można powiedzieć krótko, że jest działem informatyki, w którym prowadzi się badania nad algorytmizacją i automatyzacją czynności poznawczych człowieka, takich jak percepcja, wnioskowanie czy uczenie się.
Trudno mi się z tym zgodzić. Bo jakże to tak, „algorytmizacja i automatyzacja”? „Czynności poznawczych człowieka”? Informatyk (i każdy inny badacz) ma taki wpływ na czynności poznawcze człowieka, jak meteorolog na pogodę. Nic z tymi czynnościami poznawczymi nie zrobi.
Długo istniała wiara w to, że komuś uda się napisać algorytm, którego zachowanie (oceniane z zewnątrz) będzie takie, jak biologicznego mózgu. Wiara ta upadła, lub przynajmniej skłania się ku temu. Nie będę za nią tęsknił, bo bez niej sztuczna inteligencja rozwija się znacznie lepiej.Tworzenie sztucznej inteligencji w dzisiejszej praktyce wygląda inaczej.
Bardzo dziękuję za pierwsze komentarze i przepraszam, że odpowiadam tak późno… choć pewnym usprawiedliwieniem jest kończąca się właśnie wakacyjna akademicka przerwa :).
W odpowiedzi na wątpliwość Jarka co do mojej charakterystyki, że „Sztuczna inteligencja (rozumiana jako dyscyplina badawcza) jest działem informatyki, w którym prowadzi się badania nad algorytmizacją i automatyzacją czynności poznawczych człowieka” będę jednak tej charakterystyki bronił. Choć faktycznie, gdybym chciał być pedantyczny, napisałbym raczej: „czynności poznawczych specyficznych dla człowieka (a być może też: dla niektórych zwierząt”.
Określenie to nie sugeruje, że owe czynności – takie jak rozpoznawanie i kategoryzowanie obiektów (czyli percepcja), różnego rodzaju rozumowania (w tym: dedukcja i indukcja), czy posługiwanie się językiem (w tym: tłumaczenie z języka na język, czy opisywanie obrazów za pomocą słów) – muszą być realizowane w taki sam lub wysoce podobny sposób, w jaki są realizowane w przypadku ludzi (na poziomie mózgu, a potem połączonych z nim organów). Wystarczy, że są jakoś realizowane, a obserwowany przez nas wynik jest dobry (np. komputer wygrywa z człowiekiem w Go).
A jeśli mają być realizowane informatycznie, no to algorytmicznie.
A jeśli używamy algorytmów, no to daną czynność możemy powierzyć automatom, czyli ją zautomatyzować.
Oczywiście nie neguję tego, że wciąż trwają filozoficzne dyskusje na temat możliwości maszynowej/informatycznej realizacji powyższych czynności. Przykładowo: czy na zawsze pozostaniemy na poziomie umysłopodobnej i niedorównującej ludzkim zdolnościom imitacji, czy też ludziom dorównamy, a nawet ich przewyższymy? A może za pomocą odpowiednio złożonych i odpowiednio dobranych algorytmów uda się zaszczepić (informatycznym) maszynom jakiś rodzaj świadomych przeżyć…?
To wszystko są pytania, nad którymi od dawna dyskutujemy w blogu…
Ale ta dyskusja jest możliwa (i żywa) właśnie dlatego, że specjaliści od sztucznej inteligencji dążyli i dążą do algorytmizacji rozmaitych czynności poznawczych – przede wszystkim tych, które są właściwe ludziom.
Ponieważ moja charakterystyka wydała się kontrowersyjna, postanowiłem umieścić w blogu kolejny wpis, który odwołuje się ponownie do mojego artykułu w czasopiśmie Filozofuj!. I ponownie wchodzi w specyfikę badań nad SI.
Artykuł w czasopiśmie nosi tytuł „Inteligencja sztuczna czyli jaka? (https://filozofuj.eu/pawel-stacewicz-inteligencja-sztuczna-czyli-jaka/), a sam wpis to „O sztuczności sztucznej inteligencji. PoFILOZOFUJmy raz jeszcze…”
Zapraszam zarówno do przeczytania artykułu, jak i do dyskusji pod anonsującym go wpisem.
Drodzy, nie wiem czy to co chcę powiedzieć ma ścisły związek z opcją obliczeń na wielkościach nieciągłych. Z tego co ja kojarzę, w SI odchodzi się od binarnego rozróżniania prawdy i fałszu, i rozwijaja się np podejście uczenia neuronowego na danych ciągłych. Odczuwam, że jest w tym spory związek z rozwojem nieekstensjonalnych systemów logiki. Ale nie umiem wydobyć ścisłych analogii, bo nie mam wiedzy specjalistycznej w obydwu dziedzinach. Może ktoś potrafi to jakoś sprytniej przeanalizować :)
Zgadzam się z Pantokreatorem, że SI już teraz 'udaje’ ciągłość, odchodząc od sztywnej binarnej logiki na rzecz wag i prawdopodobieństw. To zbliża nas do Leibniza, który widział świat jako kontinuum.
Warto jednak zadać pytanie: czy ta 'cyfrowa symulacja ciągłości’ (np. w sieciach neuronowych) to to samo, co 'autentyczna ciągłość’ fizyczna, o której pisał Paweł Stacewicz? Logiki nieekstensjonalne, o których wspomina Pantokreator, pozwalają nam lepiej opisywać niepewność i kontekst, ale wciąż uruchamiamy je na procesorach, które pod spodem przełączają tylko '0′ i '1′. Może więc rewolucja nastąpi dopiero wtedy, gdy połączymy te nowe logiki z nowym rodzajem sprzętu – np. komputerami kwantowymi, fotonicznymi lub biologicznymi, gdzie sygnał jest naprawdę nieprzerwany?
Fajnie zestawione jest tu myślenie Leibniza z dzisiejszą sztuczną inteligencją. Jako ktoś techniczny widzę sens w pytaniu, czy same obliczenia cyfrowe faktycznie wystarczą do odwzorowania ludzkiej inteligencji, skoro w rzeczywistości dużo procesów jest ciągłych, a nie zero-jedynkowych. Teza o możliwej roli obliczeń ciągłych brzmi ciekawie, nawet jeśli dziś jest raczej hipotezą niż realnym kierunkiem rozwoju SI. Dla mnie to dobry przykład, że filozofia może stawiać pytania, które wyprzedzają aktualne możliwości technologii.
Uważam, że w pierwszym akapicie jest sformułowana bardzo ciekawa teza, a mianowicie inteligencja, czyli zdolność do rozwiązywania problemów. W tym miejscu już trzeba się pochylić nad samym tym stwierdzeniem, ponieważ jest to na pewno niepełna definicja. Ogólnie inteligencje jest trudno zdefiniować w pełni, ponieważ może ona odnosić się do wielu, różnych aspektów. Na przykład inteligencja emocjonalna, która jest definiowana jako zdolność do rozumienia uczuć zarówno własnych jak i cudzych. Wydaje mi się, że na tej płaszczyźnie najtrudniej będzie nauczyć komputer, aby rozpoznawał nasze uczucia, o których czasami sami nie jesteśmy przekonani.
Chyba na samym początku należałoby tu sprecyzować, co rozumiemy przez SI. W dzisiejszym świecie, w znaczeniu potocznym, rozumie się pod tym pojęciem duże modele językowe. Natomiast to, czego dotyka dyskusja, to działająca na niższym poziomie warstwa (np. sieci neuronowe).
Użytkownik końcowy spotyka się tekstem wynikowym modelu językowego, który powstał w wyniku obliczeń. Mamy więc sytuację, w której jedne dane językowe są obliczane z innych danych językowych. Nie ma znaczenia, czy dzieje się to za pomocą sieci neuronowych, operacji na tensorach czy jakiegokolwiek innego mechanizmu matematycznego. Fakt pozostaje faktem: w działaniu dużych modeli językowych brak jest tego, na co zwrócił uwagę Georg Kreisel przy okazji prac nad tezą Churcha: derywacji logicznych. Pytanie, co miałoby zmienić przejście z danych dyskretnych do danych ciągłych? Nie widać żadnego powodu, dla którego miałaby tu nagle wystąpić jakaś „emergencja inteligencji”, jedynie przy zmianie sposobu przetwarzania informacji.
Mam wrażenie, że wątek „ciągłości” trochę za łatwo zostaje tutaj potraktowany jako potencjalny brakujący składnik świadomości. To brzmi atrakcyjnie filozoficznie, zwłaszcza w kontekście Leibniza, rachunku różniczkowego i zasady ciągłości, ale jednocześnie może prowadzić na manowce.
Nie jestem przekonany, że problem współczesnej SI polega na tym, że jest ona „zbyt cyfrowa”. Być może to tylko elegancko brzmiąca wersja starej tęsknoty za jakąś ukrytą esencją umysłu. Dawniej mówiono: maszyna nie ma duszy. Później: maszyna nie ma intencjonalności. Dziś można powiedzieć: maszyna nie ma autentycznej ciągłości. Konstrukcja argumentu jest podobna — przesuwamy granicę wtedy, gdy maszyny zaczynają wykonywać kolejne czynności, które wcześniej rezerwowaliśmy dla człowieka.
Moim zdaniem bardziej kontrowersyjna hipoteza jest odwrotna: może świadomość wcale nie wymaga żadnej „głębokiej” ciągłości fizycznej, tylko odpowiednio bogatej organizacji procesów, które z zewnątrz mogą być całkowicie dyskretne. Jeśli tak, to poszukiwanie ciągłości jako warunku świadomości może być filozoficznie efektowne, ale technicznie zbędne.
Co więcej, biologia sama nie wydaje się królestwem idealnej ciągłości. Neurony generują impulsy, receptory mają progi pobudzenia, pamięć jest zawodna, percepcja skokowa i pełna uproszczeń. Człowiek nie działa jak nieskończenie precyzyjny analogowy instrument, tylko raczej jak bardzo skuteczny, szumiący, częściowo dyskretny system przewidywania i korekcji błędów. W tym sensie cyfrowa SI może być mniej odległa od umysłu, niż chcielibyśmy przyznać.
Dlatego pytanie „czy do świadomości potrzebne są obliczenia ciągłe?” zamieniłbym na inne: czy nie przeceniamy metafizycznej różnicy między ciągłym i dyskretnym tylko dlatego, że chcemy zachować jakąś ostatnią linię obrony między człowiekiem a maszyną? Być może najtrudniejsza do przyjęcia lekcja z rozwoju SI jest taka, że inteligencja — a może nawet część tego, co nazywamy świadomością — może okazać się mniej tajemnicza, mniej ciągła i mniej „głęboka”, niż podpowiada nam humanistyczna intuicja.
Przytoczony artykuł z czasopisma Filozofuj! doskonale ukazuje, jak XVII-wieczne idee Leibniza, w tym wizja uniwersalnego języka formalnego oraz rozwój systemów binarnych, położyły podwaliny pod współczesną sztuczną inteligencję. Związek między jego koncepcją rachunku różniczkowego i zasady ciągłości a dzisiejszymi debatami nad naturą maszynowej inteligencji i świadomości jest rzeczywiście niezwykle fascynujący. Leibniz jawi się tu według mnie jako postać nieco paradoksalna: z jednej strony stworzył fundament informatyki (systemy binarne), z drugiej zaś jego metafizyka zdaje się sugerować ograniczenia tego podejścia.
Nawiązując do trwającej na forum dyskusji, uważam, że warto rozważyć kilka kluczowych punktów:
• Dyskretność a ciągłość: Obecna SI opiera się na danych dyskretnych, podczas gdy zasada ciągłości Leibniza sugeruje, że świadomość jest własnością stopniowalną. Jak słusznie zauważył Tomasz F., to, co w sieciach neuronowych traktujemy jako „ciągłe” (wagi, funkcje aktywacji), jest jedynie symulacją na cyfrowym sprzęcie. Jeżeli przyjmiemy hipotezę, że dla autentycznej świadomości niezbędne są obliczenia ciągłe, to dzisiejsze maszyny cyfrowe mogą jedynie przybliżać te procesy, jednak na zawsze pozostaną pewną symulacją rzeczywistości. Dopóki fundamentem SI pozostają tranzystory operujące na stanach 0 i 1, tkwimy w paradygmacie dyskretnym, w którym „ciągłość” jest tylko iluzją oprogramowania.
• Syntaktyka a semantyka: Idąc za myślą Luciano Floridiego, współczesna SI to głównie syntaktyka (opiera się na statystyce i wzorcach w big data), podczas gdy prawdziwa inteligencja rozpoznaje semantykę, czyli znaczenia. Systemy binarne doskonale imitują zachowania, ale niekoniecznie je wytwarzają.
• Biologiczny pierwowzór: Olaf Werner słusznie wskazuje na mózg jako punkt odniesienia. Pozostaje jednak pytanie: czy mózg operuje na matematycznej ciągłości? Fizyka sugeruje raczej „ziarnistość” materii. Być może zatem warunkiem wyłonienia się świadomości nie jest fizyczna ciągłość, lecz zaawansowana architektura radząca sobie z redundancją i szumem, jak w układach neuromorficznych.
• Ograniczenia materiału i problem „sztuczności”: Porównując obliczenia cyfrowe z „obliczeniami biologicznymi”, widzimy ogromną przewagę ewolucyjnych systemów organicznych w efektywności energetycznej. Jeśli zdefiniujemy inteligencję metafizycznie, maszyny zawsze będą „sztuczne”. Jeśli jednak przyjmiemy podejście relacyjne (np. test Turinga), sposób dochodzenia do wyniku staje się drugorzędny wobec skuteczności.
Podsumowując, hipoteza o konieczności obliczeń ciągłych rzuca wyzwanie dominującemu komputacjonizmowi. Zgadzam się z konkluzją Michała A., że zderzenie myśli Leibniza ze współczesnością zmusza nas do wyjścia poza schematy von Neumanna. Zastanawiam się, czy w przyszłości to właśnie komputery kwantowe nie staną się pomostem między tymi światami – łącząc algorytmizację (bronioną przez Pana Pawła Stacewicza) z fizyczną „płynnością” stanów niebinarnych, która przybliży nas do mechanizmów ludzkiego poznania.
Bardzo inspirujący tekst!
Artykuł pokazuje, że sztuczna inteligencja może być tematem nie tylko bardzo interesującym pod względem technologicznym, ale i filozoficznym. Zagadnienia związane z AI były obiektem zainteresowań i przemyśleń dawnych myślicieli, jak choćby Leibniza. Twierdził on,ze umysł ludzki i proces myślenia da się opisać za pomocą logicznych reguł i obliczeń. Tenże filozof śmiał twierdzić, że maszyny byłyby w stanie rozwiązywać wiele różnych problemów, podobnie jak ludzie. Potrzebny byłby tylko odpowiedni system obliczeń. To właśnie Leibnizowi zawdzięczamy rachunek różniczkowo-całkowy, a także znaczenie ciągłości w naturze i świadomości. Artykuł jest niezwykle ciekawy, bowiem traktuje AI jako obiekt filozoficznych rozważań, a nie tylko narzędzie technologiczne. Leibniz, według którego rzeczywistość i świadomość mają charakter stopniowalny oraz ciągły sugeruje, iż pewne cechy ludzkiej inteligencji, jak świadomość wymagają wykorzystania procesów ciągłych, nie tylko cyfrowych.
Hipoteza, że do uzyskania autentycznej sztucznej świadomości potrzebujemy obliczeń ciągłych, uderza w sam środek sporu o granice technologii. Sama nieraz zastanawiałam się nad tym ontologicznym sufitem. Dzisiejsza SI, choć w interakcji wydaje się tak płynna i ludzka, pod spodem jest bezwzględnie dyskretna i binarna, a cała ta płynność to tylko iluzja stworzona przez gigantyczne matematyczne aproksymacje.
Tymczasem leibnizjańska zasada, że „natura nie robi skoków”, idealnie opisuje analogowe i chemiczne środowisko ludzkiego mózgu. U nas świadomość czy emocje to ciągłe spektrum, a nie cyfrowy przełącznik. Jeśli ta intuicja jest słuszna, na krzemowych procesorach zawsze będziemy uwięzieni w sferze przybliżeń, tworząc jedynie genialną makietę umysłu. Być może kluczem do prawdziwego przełomu nie są lepsze algorytmy cyfrowe, lecz renesans komputerów analogowych lub procesorów neuromorficznych, potrafiących operować na fizycznej ciągłości sygnału.
Szczerze mówiąc, po tej lekturze coraz bardziej dociera do mnie, że na samym „cyfrowym” podejściu daleko nie zajedziemy – a już na pewno nie ma co marzyć o stworzeniu maszyny, która naprawdę myśli i czuje. Super, że Pan wyciągnął tutaj Leibniza. Zazwyczaj kojarzy się go przecież z zapisem dwójkowym, od którego zaczęła się cała informatyka, a tutaj dostajemy zupełnie inną perspektywę: jego pracę nad rachunkiem różniczkowo-całkowym i tę całą metafizyczną zasadę ciągłości. Wg mnie “zera i jedynki” to za mało. Nasze współczesne maszyny cyfrowe opierają się na dyskretnym przetwarzaniu danych – świat jest w nich szatkowany na miliony maleńkich, skończonych kawałków (zer i jedynek). Leibniz genialnie zauważył potencjał tego systemu, widząc w nim niemal boską moc stwórczą. Jednak, jak słusznie zostało zauważone, kod binarny opisuje wartości ciągłe jedynie w przybliżeniu. Próbując zamknąć ludzki umysł w komputerze, próbujemy tak naprawdę wcisnąć płynną, ciągłą rzeczywistość do sztywnej, kanciastej formy. Prawdziwy świat – a wraz z nim ludzkie poznanie, emocje i to nieuchwytne „coś”, co nazywamy świadomością – nie działa skokowo. Najbardziej chyba uderzyło mnie to stwierdzenie, że według Leibniza świadomość jest stopniowalna. Że to nie jest przełącznik, który działa na zasadzie „jest albo go nie ma”, tylko coś płynnego. To prowadzi do genialnej, choć odważnej myśli: jeśli chcemy, żeby maszyny miały te najgłębsze ludzkie cechy, w tym świadomość, to musimy wyjść z tych naszych bezpiecznych, binarnych pudełek i wejść w świat obliczeń ciągłych. Kod binarny to w gruncie rzeczy tylko takie grubo ciosane przybliżenie rzeczywistości. Oczywiście, rozumiem też opór tej części badaczy, o których wspomina tekst – tych, którzy wątpią w istnienie autentycznej ciągłości w naszym fizycznym świecie. W końcu mechanika kwantowa uczy nas, że u podstaw rzeczywistości leżą kwanty, czyli porcje energii – a więc coś z natury dyskretnego. Nawet jeśli nasz fizyczny świat w skali mikro jest ziarnisty, to na poziomie makroskopowym – tam, gdzie rodzą się procesy myślowe i interakcje z otoczeniem – doświadczamy go jako ciągłego. Nasza percepcja, czas, ruch – to wszystko płynie. I dopóki sztuczna inteligencja będzie jedynie imitować tę płynność za pomocą coraz gęstszego próbkowania binarnego, zawsze będzie tylko doskonałym kalkulatorem, a nie świadomym bytem.
Jeśli chcemy stworzyć SI, która nie tylko przetwarza dane, ale faktycznie rozumie i posiada chociażby namiastkę świadomości, musimy zmienić paradygmat i zacząć projektować maszyny zdolne do operowania na wartościach ciągłych. Żeby stworzyć coś, co faktycznie nazwiemy „świadomym”, chyba będziemy musieli całkowicie zmienić reguły gry i skręcić właśnie w stronę obliczeń ciągłych.