Kilka tygodni temu nasz blog rozpoczął współpracę z arcyciekawym czasopismem Filozofuj!
Zaszczytną dla mnie okazją po temu stała się seria O sztucznej inteligencji z filozofią w tle, do której napisania zostałem zaproszony przez Redakcję.
Jej pierwszy artykuł pt. Filozoficzna prehistoria sztucznej inteligencji. Wkład i znaczenie myśli Leibniza można przeczytać (i obejrzeć :)) tutaj.
W ramach obecnego wpisu możemy zaś podyskutować o pewnych tezach, które formułuję na końcu tekstu.
Zachęcając do przeczytania całości, przytaczam niżej trzy ostatnie akapity artykułu, które najbardziej chyba prowokują do rozmowy. Pozostała część tekstu ma raczej charakter historyczno-dydaktyczny.
A oto wspomniane akapity.
Wróćmy na koniec do wiary Leibniza w to, że inteligencję, czyli zdolność do rozwiązywania problemów, da się zaszczepić maszynom wykonującym obliczenia. Pozostaje pytanie o rodzaj tych obliczeń. Czy wystarczą tu techniki cyfrowe, polegające na przetwarzaniu danych dyskretnych i możliwych do zakodowania w języku binarnym? Czy też należy poza nie wykroczyć, wykorzystując dane ciągłe, które są opisywalne binarnie tylko w pewnym przybliżeniu?
Ku tej drugiej opcji prowadzą pewne myśli, które znajdujemy również u Leibniza, ale których on sam nie łączył ze światem maszyn. Chodzi, po pierwsze, o jego pionierski wkład w budowę rachunku różniczkowo-całkowego, czyli matematycznego rachunku wielkości ciągłych, po drugie zaś, o jego metafizyczną zasadę ciągłości. Zasadę tę stosował na różnych poziomach: począwszy od teorii monad, które miały tworzyć szereg ciągły, a skończywszy na teorii świadomości, którą postrzegał jako własność stopniowalną, przysługującą różnym bytom w różnym stopniu.
Czy koncepcja obliczeń realizowanych na wielkościach ciągłych mogłaby coś wnieść do teorii SI, która, na razie, jest implementowana na maszynach cyfrowych? Nie wszyscy odpowiedzą pozytywnie, bo nie wszyscy wierzą, że w świecie fizycznym występują wielkości i procesy autentycznie ciągłe. Mimo to chciałbym pozostawić czytelnika z inspirowaną myślą Leibniza, filozoficzną hipotezą, że dla sztucznego uzyskania niektórych własności ludzkiej inteligencji, np. świadomości, niezbędne jest wykorzystanie obliczeń ciągłych.
Gorąco zachęcam do DYSKUSJI, a o kolejnych odcinkach serii będę informował sukcesywnie — Paweł Stacewicz.
Ja osobiście wątpie czy obliczenia analogowe są niezbędne. Mózg też raczej nie działa z dowolną przecyzją bo składa się z komórek które są dość dużę, po za tym biologia opiera się na redundacji i pewnych marginesach błędu, a nie na perfekcyjnej precyzji.
Czy koncepcja obliczeń realizowanych na wielkościach ciągłych mogłaby coś wnieść do teorii SI, która, na razie, jest implementowana na maszynach cyfrowych? Nie wszyscy odpowiedzą pozytywnie, bo nie wszyscy wierzą, że w świecie fizycznym występują wielkości i procesy autentycznie ciągłe.
To nie jest kwestia wiary, tylko akceptacji Wszechświata wraz z jego uwarunkowaniami. O niemożności fizycznej realizacji obliczeń analogowych przewyższających precyzją obliczenia współczesnych komputerów cyfrowych było w komentarzu pod jedną z poprzednich notek.
Czy jednak wszystko jest obliczeniami i czy obliczenia są wszystkim? Wielkością fizyczną „podejrzaną o bycie autentycznie ciągłą”, jest czas. Matematyka wobec czasu jest obojętna — wszystko tam dzieje się natychmiast, także zsumowanie elementów nieskończonego szeregu. Informatyka zdefiniowana przez Turinga posługuje się pojęciem „kroku maszynowego”, które to pojęcie z pojęciem czasu łączy tylko tyle, że oba są jednokierunkowe, wyznaczają kolejność, następstwo. Pojęcie to jest pomocne przy ocenianiu wydajności algorytmów (im mniej kroków wykona maszyna dochodząc do celu, tym algorytm jest bardziej wydajny). Informatyczny krok maszynowy nie ma konkretnego wymiaru, jest obojętne, czy trwa nanosekundę, czy minutę. Ważne, że zawsze jest taki sam.
Co by zatem było, gdyby liczby opisujące kroki czasowe włączyć do istniejącej teorii? Na to pytanie nie ma w tej chwili odpowiedzi, bo nie ma pomysłu (przynajmniej ja nie mam), jak te dwa różne światy pogodzić. Chociaż historia technicznej implementacji operacji logicznych z tym się zetknęła. Różnice czasów działania bramek logicznych powodowały niedeterministyczne zachowanie układów, co wtedy (słusznie) uznano za błąd i układy asynchroniczne zastąpiono synchronicznymi (taktowane zegarem).
O sztucznej inteligencji (SI) jako nauce można powiedzieć krótko, że jest działem informatyki, w którym prowadzi się badania nad algorytmizacją i automatyzacją czynności poznawczych człowieka, takich jak percepcja, wnioskowanie czy uczenie się.
Trudno mi się z tym zgodzić. Bo jakże to tak, „algorytmizacja i automatyzacja”? „Czynności poznawczych człowieka”? Informatyk (i każdy inny badacz) ma taki wpływ na czynności poznawcze człowieka, jak meteorolog na pogodę. Nic z tymi czynnościami poznawczymi nie zrobi.
Długo istniała wiara w to, że komuś uda się napisać algorytm, którego zachowanie (oceniane z zewnątrz) będzie takie, jak biologicznego mózgu. Wiara ta upadła, lub przynajmniej skłania się ku temu. Nie będę za nią tęsknił, bo bez niej sztuczna inteligencja rozwija się znacznie lepiej.Tworzenie sztucznej inteligencji w dzisiejszej praktyce wygląda inaczej.
Bardzo dziękuję za pierwsze komentarze i przepraszam, że odpowiadam tak późno… choć pewnym usprawiedliwieniem jest kończąca się właśnie wakacyjna akademicka przerwa :).
W odpowiedzi na wątpliwość Jarka co do mojej charakterystyki, że „Sztuczna inteligencja (rozumiana jako dyscyplina badawcza) jest działem informatyki, w którym prowadzi się badania nad algorytmizacją i automatyzacją czynności poznawczych człowieka” będę jednak tej charakterystyki bronił. Choć faktycznie, gdybym chciał być pedantyczny, napisałbym raczej: „czynności poznawczych specyficznych dla człowieka (a być może też: dla niektórych zwierząt”.
Określenie to nie sugeruje, że owe czynności – takie jak rozpoznawanie i kategoryzowanie obiektów (czyli percepcja), różnego rodzaju rozumowania (w tym: dedukcja i indukcja), czy posługiwanie się językiem (w tym: tłumaczenie z języka na język, czy opisywanie obrazów za pomocą słów) – muszą być realizowane w taki sam lub wysoce podobny sposób, w jaki są realizowane w przypadku ludzi (na poziomie mózgu, a potem połączonych z nim organów). Wystarczy, że są jakoś realizowane, a obserwowany przez nas wynik jest dobry (np. komputer wygrywa z człowiekiem w Go).
A jeśli mają być realizowane informatycznie, no to algorytmicznie.
A jeśli używamy algorytmów, no to daną czynność możemy powierzyć automatom, czyli ją zautomatyzować.
Oczywiście nie neguję tego, że wciąż trwają filozoficzne dyskusje na temat możliwości maszynowej/informatycznej realizacji powyższych czynności. Przykładowo: czy na zawsze pozostaniemy na poziomie umysłopodobnej i niedorównującej ludzkim zdolnościom imitacji, czy też ludziom dorównamy, a nawet ich przewyższymy? A może za pomocą odpowiednio złożonych i odpowiednio dobranych algorytmów uda się zaszczepić (informatycznym) maszynom jakiś rodzaj świadomych przeżyć…?
To wszystko są pytania, nad którymi od dawna dyskutujemy w blogu…
Ale ta dyskusja jest możliwa (i żywa) właśnie dlatego, że specjaliści od sztucznej inteligencji dążyli i dążą do algorytmizacji rozmaitych czynności poznawczych – przede wszystkim tych, które są właściwe ludziom.
Ponieważ moja charakterystyka wydała się kontrowersyjna, postanowiłem umieścić w blogu kolejny wpis, który odwołuje się ponownie do mojego artykułu w czasopiśmie Filozofuj!. I ponownie wchodzi w specyfikę badań nad SI.
Artykuł w czasopiśmie nosi tytuł „Inteligencja sztuczna czyli jaka? (https://filozofuj.eu/pawel-stacewicz-inteligencja-sztuczna-czyli-jaka/), a sam wpis to „O sztuczności sztucznej inteligencji. PoFILOZOFUJmy raz jeszcze…”
Zapraszam zarówno do przeczytania artykułu, jak i do dyskusji pod anonsującym go wpisem.
Drodzy, nie wiem czy to co chcę powiedzieć ma ścisły związek z opcją obliczeń na wielkościach nieciągłych. Z tego co ja kojarzę, w SI odchodzi się od binarnego rozróżniania prawdy i fałszu, i rozwijaja się np podejście uczenia neuronowego na danych ciągłych. Odczuwam, że jest w tym spory związek z rozwojem nieekstensjonalnych systemów logiki. Ale nie umiem wydobyć ścisłych analogii, bo nie mam wiedzy specjalistycznej w obydwu dziedzinach. Może ktoś potrafi to jakoś sprytniej przeanalizować :)
Zgadzam się z Pantokreatorem, że SI już teraz 'udaje’ ciągłość, odchodząc od sztywnej binarnej logiki na rzecz wag i prawdopodobieństw. To zbliża nas do Leibniza, który widział świat jako kontinuum.
Warto jednak zadać pytanie: czy ta 'cyfrowa symulacja ciągłości’ (np. w sieciach neuronowych) to to samo, co 'autentyczna ciągłość’ fizyczna, o której pisał Paweł Stacewicz? Logiki nieekstensjonalne, o których wspomina Pantokreator, pozwalają nam lepiej opisywać niepewność i kontekst, ale wciąż uruchamiamy je na procesorach, które pod spodem przełączają tylko '0′ i '1′. Może więc rewolucja nastąpi dopiero wtedy, gdy połączymy te nowe logiki z nowym rodzajem sprzętu – np. komputerami kwantowymi, fotonicznymi lub biologicznymi, gdzie sygnał jest naprawdę nieprzerwany?
Fajnie zestawione jest tu myślenie Leibniza z dzisiejszą sztuczną inteligencją. Jako ktoś techniczny widzę sens w pytaniu, czy same obliczenia cyfrowe faktycznie wystarczą do odwzorowania ludzkiej inteligencji, skoro w rzeczywistości dużo procesów jest ciągłych, a nie zero-jedynkowych. Teza o możliwej roli obliczeń ciągłych brzmi ciekawie, nawet jeśli dziś jest raczej hipotezą niż realnym kierunkiem rozwoju SI. Dla mnie to dobry przykład, że filozofia może stawiać pytania, które wyprzedzają aktualne możliwości technologii.
Uważam, że w pierwszym akapicie jest sformułowana bardzo ciekawa teza, a mianowicie inteligencja, czyli zdolność do rozwiązywania problemów. W tym miejscu już trzeba się pochylić nad samym tym stwierdzeniem, ponieważ jest to na pewno niepełna definicja. Ogólnie inteligencje jest trudno zdefiniować w pełni, ponieważ może ona odnosić się do wielu, różnych aspektów. Na przykład inteligencja emocjonalna, która jest definiowana jako zdolność do rozumienia uczuć zarówno własnych jak i cudzych. Wydaje mi się, że na tej płaszczyźnie najtrudniej będzie nauczyć komputer, aby rozpoznawał nasze uczucia, o których czasami sami nie jesteśmy przekonani.
Chyba na samym początku należałoby tu sprecyzować, co rozumiemy przez SI. W dzisiejszym świecie, w znaczeniu potocznym, rozumie się pod tym pojęciem duże modele językowe. Natomiast to, czego dotyka dyskusja, to działająca na niższym poziomie warstwa (np. sieci neuronowe).
Użytkownik końcowy spotyka się tekstem wynikowym modelu językowego, który powstał w wyniku obliczeń. Mamy więc sytuację, w której jedne dane językowe są obliczane z innych danych językowych. Nie ma znaczenia, czy dzieje się to za pomocą sieci neuronowych, operacji na tensorach czy jakiegokolwiek innego mechanizmu matematycznego. Fakt pozostaje faktem: w działaniu dużych modeli językowych brak jest tego, na co zwrócił uwagę Georg Kreisel przy okazji prac nad tezą Churcha: derywacji logicznych. Pytanie, co miałoby zmienić przejście z danych dyskretnych do danych ciągłych? Nie widać żadnego powodu, dla którego miałaby tu nagle wystąpić jakaś „emergencja inteligencji”, jedynie przy zmianie sposobu przetwarzania informacji.
Mam wrażenie, że wątek „ciągłości” trochę za łatwo zostaje tutaj potraktowany jako potencjalny brakujący składnik świadomości. To brzmi atrakcyjnie filozoficznie, zwłaszcza w kontekście Leibniza, rachunku różniczkowego i zasady ciągłości, ale jednocześnie może prowadzić na manowce.
Nie jestem przekonany, że problem współczesnej SI polega na tym, że jest ona „zbyt cyfrowa”. Być może to tylko elegancko brzmiąca wersja starej tęsknoty za jakąś ukrytą esencją umysłu. Dawniej mówiono: maszyna nie ma duszy. Później: maszyna nie ma intencjonalności. Dziś można powiedzieć: maszyna nie ma autentycznej ciągłości. Konstrukcja argumentu jest podobna — przesuwamy granicę wtedy, gdy maszyny zaczynają wykonywać kolejne czynności, które wcześniej rezerwowaliśmy dla człowieka.
Moim zdaniem bardziej kontrowersyjna hipoteza jest odwrotna: może świadomość wcale nie wymaga żadnej „głębokiej” ciągłości fizycznej, tylko odpowiednio bogatej organizacji procesów, które z zewnątrz mogą być całkowicie dyskretne. Jeśli tak, to poszukiwanie ciągłości jako warunku świadomości może być filozoficznie efektowne, ale technicznie zbędne.
Co więcej, biologia sama nie wydaje się królestwem idealnej ciągłości. Neurony generują impulsy, receptory mają progi pobudzenia, pamięć jest zawodna, percepcja skokowa i pełna uproszczeń. Człowiek nie działa jak nieskończenie precyzyjny analogowy instrument, tylko raczej jak bardzo skuteczny, szumiący, częściowo dyskretny system przewidywania i korekcji błędów. W tym sensie cyfrowa SI może być mniej odległa od umysłu, niż chcielibyśmy przyznać.
Dlatego pytanie „czy do świadomości potrzebne są obliczenia ciągłe?” zamieniłbym na inne: czy nie przeceniamy metafizycznej różnicy między ciągłym i dyskretnym tylko dlatego, że chcemy zachować jakąś ostatnią linię obrony między człowiekiem a maszyną? Być może najtrudniejsza do przyjęcia lekcja z rozwoju SI jest taka, że inteligencja — a może nawet część tego, co nazywamy świadomością — może okazać się mniej tajemnicza, mniej ciągła i mniej „głęboka”, niż podpowiada nam humanistyczna intuicja.