Niniejszym wpisem nawiązuję do dyskusji wokół tekstu Alana Turinga pt. „Maszyny liczące a inteligencja” — dyskusji, które odbyły się na ostatnich zajęciach ze studentami PW (wydziały MiNI oraz EiTI). Ponieważ został on utworzony „na gorąco”, nie wszystkie zawarte w nim sformułowania są ostatecznie dopracowane.
Jeśli wpis nie wywoła odzewu, tj. przeniesienia niektórych wątków dyskusji do blogu, zostanie usunięty.
Zacznijmy zatem.
W pierwszym zdaniu swojego artykułu Alan Turing proponuje rozważyć problem wyrażony pytaniem „Czy maszyny mogą myśleć?”. Czy naprawdę jednak podejmuje problem myślenia? Wszak w tytule artykułu nie pojawia się termin myślenie, lecz inteligencja; zaś istota proponowanego dalej testu nierozróżnialności (zwanego dziś testem Turinga) polega na badaniu zewnętrznych przejawów myślenia (a nie samego myślenia).
Mamy zatem pierwsza dyskusyjną kwestię?
Rozwiązując ją na korzyść autora — to znaczy przyjmując, iż chce on spoglądać na myślenie w sposób sobie właściwy, tj. poprzez pryzmat swojej niemałej wiedzy o możliwościach maszyn cyfrowych — spróbujmy wyłuskać z jego tekstu kilka dyskusyjnych tez na temat tak właśnie postrzeganego myślenia?
Jeśli ktoś wydobędzie z tekstu inne tezy, chętnie się do nich ustosunkuję(emy)…
Teza 1
Myślenie, w pełnym tego słowa znaczeniu, przejawiają ludzie — wszak w teście Turinga maszyna jest porównywana z człowiekiem, a nie np. ze słoniem.
Tu zachodzą pytania:
Czy zwierzęta nie myślą? Czy droga do maszynowej realizacji myślenia ludzi nie powinna wieść przez rozpoznanie prymitywniejszych form myślenia, właściwych zwierzętom i organizmom prostszym? Czy możemy „od razu” przejść do prób rozszyfrowania schematów myślenia ludzi?
Teza 2
Myślenie wyraża się w języku; myśleć to przejawiać bardzo złożone zachowania językowe – to właśnie tego rodzaju zachowania badamy w teście Turinga.
Tu zachodzą pytania:
Czy można myśleć, posługując się o wiele prostszym językiem niż język naturalny; lub nawet bez udziału języka? Na przykład problemy matematyczne formułujemy i rozwiązujemy za pomocą znacznie uboższego języka niż naturalny. Czy maszyna, która potrafiłaby rozwiązywać tego rodzaju problemy w sposób dla nas zaskakujący, nie myślałaby?
Teza 3
Myślenie jest niezależne od „nośnika myśli”.
Inaczej: myślenie jest realizacją pewnego schematu/algorytmu/programu, który może być zaimplementowany za pomocą jakiejkolwiek materii (jakiegokolwiek nośnika sygnałów) zdolnej przyjmować stany dyskretne (których liczbę da się zredukować do dwóch: 0 i 1).
Tu zachodzi pytanie:
Czy ludzkie możliwości myślowe/poznawcze nie zależą w istotnym stopniu od czysto fizycznych właściwości materii, która tkwi np. w naszych mózgach? Czy liczy się tylko program i schemat? Czy da się go zaimplementować za pomocą innego rodzaju tworzywa?
Teza 4
Problem myślenia należy oddzielić od problemu świadomości – taka jest w istocie intencja testu Turinga.
Świadomość jest tą własnością myślącego podmiotu, która w odróżnieniu od zachowań fizycznych (reakcji) i wypowiedzi językowych, ma charakter prywatny i (wyłącznie) introspekcyjny. Analizując pod kątem myślenia cokolwiek poza nami samymi, nie możemy uzyskać do niej dostępu.
Tu rodzi się wiele pytań, które być może padną w trakcie dyskusji.
Niezależnie jednak od obecnej w teście Turinga intencji oddzielenia myślenia od świadomości wydaje mi się, że Turingowi były bliskie dwa (niewykluczające się) poglądy na świadomość:
(1) Świadomość jest tyko pewnym nieistotnym dodatkiem do procesów wewnątrz-mózgowych, które warunkują myślenie. Gdyby jej nie było (tj. pewnych związanych z nią przeżyć prywatnych), dany system wykazywałby co najmniej taką samą skuteczność w rozwiązywaniu problemów jak przy jej udziale.
(2) Świadomość jest wynikiem działania pewnego bardzo złożonego programu. Odpowiednia złożoność programu (samego programu, niezależnie od fizycznego nośnika przetwarzanych danych) powoduje, że w systemie pojawia się świadomość.
Mam nadzieję, że powyższych pytań nie jest zbyt dużo, :-) …
Gdyby zaś było za mało, proszę stawiać kolejne…
1. Zwierzęta z pewnością rozumują,a więc myślą; np. słynny Sułtan.
2. Stąd wniosek, że można myśleć bez udziału języka. Twierdzenie o
niezbędności języka jest przesądem nieczułym na fakty. Maszyna zaś, która
sama z siebie, bez zaprogramowania jej do tego celu, zaskoczyłaby nas
stworzeniem języka (a choćby tylko notacji arytmetycznej) oczywiście byłaby
myśląca. Tylko czy kiedykolwiek doczekamy się takiego zaskoczenia?
3. Ludzkie możliwości myślowe/poznawcze zależą w istotnym stopniu od
fizycznych właściwości żywejmaterii. Jest to teza von Neumanna z „The
Computer and the Brain”, polemiczna względem Turinga.
4. To pytanie to jest dla mnie o jedno za dużo. Ma oczywiście sens, ale
potrzebowałbym drugiego życia specjalnie na ten cel, żeby się zagłębić w naturę
świadomości.
Zaczynając od samego testu uważam, że nie sprawdza on możliwości myślenia maszyn. Jest to tylko pewnego rodzaju test wydajnościowy – kiedy będziemy w stanie napisać algorytm (i skonstruować maszynę, która go udźwignie), który będzie zwracał odpowiednie odpowiedzi. Umiejętność oszukania człowieka na jednym polu – wymiany wiadomości tekstowych – nie oznacza, że maszyna jest w stanie myśleć.
Spróbuję się też odnieść do dwóch przedstawionych tez:
1) W mojej opinii zwierzęta nie potrafią myśleć. Nie są w stanie twórczo wykorzystywać zdobytej wiedzy. Nie potrafią ocenić postępowanie na płaszczyźnie dobra i zła. Nie wykonują chłodnej kalkulacji przed podjęciem decyzji. Zachowanie zwierząt jest oparte na instynkcie, którego nie nazywam myślenie.
Uważam zatem, że tylko ludzie potrafią myśleć i dlatego tylko z nimi można używać ten test (przyjmując jego sensowność).
3) Jeśli myślenie ludzi było uzależnione od materiału z którego stworzony jest system nerwowy, a nie byłoby możliwe użycie takiej substancji w maszynach, to znaczyłoby, że maszyny nie mogą myśleć (brak fizycznej możliwości). Jeśli nie ma znaczenie substancja (co osobiście wydaje mi się rozsądne), to ten podpunkt rozważań nie ogranicza nam możliwości maszyn.
Pozdrawiam
Piotr Krzeszewski
1. Bez sensu jest stawiać pytanie 'czy zwierzęta myślą?’ przyjmując definicję myślenia wg Turinga (czyli myślenia w sposób ściśle ludzki). Dlatego, według mnie, najlepszą odpowiedzią na to pytanie jest ulubione przez matematyków „zależy od definicji”. Moja definicja myślenia obejmuje wszystkie procesy zachodzące w mózgach istot żywych związane z rozwiązywaniem problemów, o których istnieniu wiedzieć mogę tylko z obserwacji; dlatego odpowiadam: tak, zwierzęta myślą – ale zupełnie w inny sposób niż ludzie.
3. Uważam, że myślenie jest nierozerwalnie związane z „nośnikiem myśli”, różne nośniki przyniosą różne rezultaty „myślenia”. Patrząc na mózg jako całość (jakby z trochę dalszej perspektywy) nie można powiedzieć, że jego materia przyjmuje stany dyskretne; wchodząc głębiej w strukturę mózgu ta dyskretyzacja się wyłania, ale jednocześnie jesteśmy zmuszeni narzucić coraz więcej warunków/ograniczeń, które muszą być spełnione, by model faktycznie odpowiadał mózgowi. Ja widzę to tak, że aby dojść do całkowitej dyskretyzacji stanów elementów mózgu musielibyśmy dojść do jego budowy atomowej, czyli de facto stworzyć model identyczny z obiektem wyjściowym, a nie o to chodzi.
Pozostałe tezy pozostawiam bez komentarza, gdyż zagadnienie powiązań pomiędzy językiem, świadomością i myśleniem uważam za tematy poza moim zasięgiem.
Mam nadzieję, że to co napisałam jest zrozumiałe (rzadko wypowiadam się na podobne tematy), a jeśli nie, chętnie spróbuję inaczej ułożyć słowa, by mój przekaz dotarł do wszystkich zainteresowanych.
Teza 1: W tym temacie w zupełności zgadam się z przedmówcą, tzn. stwierdzenie, czy zwierzęta myślą, zależy od definicji samego myślenia. Na pewno nie można powiedzieć, że zwierzęta myślą tak jak ludzie. Ich „myślenie” opiera się między innymi na instynkcie lub też na wyuczonych w trakcie ich życia procedurach (jak na przykład przeszkolony pies, który wykonuje polecenia właściciela). Zwierzęta z pewnością myślą w sposób prymitywniejszy od ludzi, dlatego aby móc zrozumieć coś bardziej skomplikowanego (jak myślenie człowieka) należałoby najpierw w pełni zrozumieć myślenie zwierząt.
Teza 2: Nie widzę żadnego problemu, aby maszyna nie mogła wytworzyć własnego sposobu myślenia, który używał o wiele prostszego języka niż język naturalny. Uważam, że jest całkiem mała szansa, że taka maszyna ucząca się wszystkiego „od zera” bez udziału człowieka miałaby opisywać otoczenie, w którym się znajduje, dokładnie tym samym językiem co człowiek. Może wytworzyć znacznie prostszy, ale i znacznie trudniejszy sposób opisu świata. I oczywiście taka maszyna mogłaby być maszyną myślącą, ponieważ potrafiłaby rozwiązywać problemy swoimi sposobami, za pomocą swojego języka.
Teza 3: Zbyt mało wiemy na temat mózgu, żeby móc jakkolwiek odpowiedzieć na większość z tych pytań. Jednak nie wydaje mi się, aby mózg był tak wyjątkowym tworem, że nie dałoby się w jakiś sposób sztucznie odtworzyć jego struktury i funkcjonalności. Potrzeba jedynie odpowiednio szczegółowej wiedzy na jego temat, dlatego niezbędne są jeszcze lata badań nad nim, aby móc wytworzyć wierną kopię ludzkiego mózgu.
Teza 4: Dla mnie obydwa poglądy na świadomość, choć trafniejsza wydaje mi się ta druga – świadomość jako wynik działania programu. Co do pierwszej definicji, to może i rzeczywiście w większości problemów nie jest wymagana świadomość do ich rozwiązania (na przykład granie w szachy), ale jednak ja ją traktuję jako ważną „nakładkę” do myślenia, która poszerza zakres możliwych do rozwiązania problemów.
Myślę, że w miarę jasno odniosłem się do postawionych tez, ale w razie potrzeby chętnie wyjaśnię, co miałem na myśli.
Teza 1:
Z pewnością fakt czy zwierzęta myślą zależy od definicji myślenia, w tej kwestii zgadzam się z przedmówcami. Jednak wydaje mi się, że w mózgu zwierząt zachodzą podobne procesy jak w mózgu człowieka (tylko mniej zaawansowane), więc gdzie była by granica między myśleniem, a nie myśleniem. Ponadto zgodnie z teorią ewolucji pochodzimy od zwierząt, więc one też muszą myśleć, ponieważ nasze myślenie wyewoluowało z myślenia zwierząt.
Co do pytania czy powinniśmy rozpocząć badanie myślenia od zwierząt, to wydaje mi się, że nie. W przypadku prób zrozumienia myślenia człowieka mamy tą przewagę, że mniej więcej wiemy jak człowiek rozumuje i czym się kieruje, w przypadku zwierząt nie mamy tej wiedzy.
Teza 2:
Wydaje mi się, że podejście Turinga, w którym łączy on możliwości myślenia z umiejętnościami językowymi jest błędne. Nie widzę osobiście problemu by maszyny posługujące się dużo prostszym językiem nie mogły myśleć. Jednak ponownie dużo zależy od tego jak zdefiniujemy myślenie.
Teza 3:
Osobiście nie widzę powodów by myślenie było możliwe tylko w mózgu. Według dzisiejszej wiedzy mózg jest bardzo dużą siecią neuronowa. Dlatego wydaje mi się, że jeżeli będziemy potrafili stworzyć sieci neuronowe tak duże jak sieć ludzkiego mózgu oraz zaimplementować w nich połączenia podobne do tych w mózgu będziemy w stanie osiągnąć myślącą maszynę. Wydaje mi się również, że jedynym powodem dla którego takie coś mogło by się nie udać to jakiś element mózgu, który byłby nie do „podrobienia” jednak osobiście nie jestem w stanie wyobrazić sobie takiej cechy.
Teza 4:
Zgadzam się z Turingiem w tej kwestii, należy oddzielić myślenie od świadomości, ponieważ myślenie jesteśmy w stanie jakoś zweryfikować, a tego czy maszyna ma świadomość raczej nie. W związku z tym łączenie tych dwóch rzeczy wydaje mi się bezcelowe.
1) Uważam, że zwierzęta myślą, ale postrzegają świat inaczej. Mało tego – poza myśleniem posiadają również uczucia. Przywiązują się do nas tak samo jak my do nich. Według mnie każdy żywy organizm myśli, ale nie każdy musi mieć samoświadomość.
2) Moim zdaniem myśleć można nie posługując się językiem. Lub nie znając żadnego języka. Nie jest do żadna bariera dla ludzkiego mózgu – podejrzewam, że on sam stworzyłby coś na kształt „języka”. Osoby niewidomie od urodzenia chociaż nigdy nie widziały świata – mają jakieś jego postrzeganie ukształtowane na podstawie innych bodźców. Myślę, że podobnie byłoby z myśleniem. Ewolucja potrafi przygotować organizm na wszystko i dostosować się do panujących warunków.
3) Jeśli potraktujemy mózg jako sieć połączonych ze sobą elektrycznie elementów to nie ma przeszkód, aby myślenie mogło odbywać się w jakiejś innej formie zbudowanej analogicznie do mózgu. Tutaj w religii katolickiej z odpowiedzią przychodzi pojęcie duszy. Rozdziału części fizycznej od duchowej człowieka. To w pełni objaśnia, że do życia i myślenia potrzeba czegoś więcej niż tylko „obudowy” i szkieletu.
4) Tutaj pojawia się problem ze zdefiniowaniem granicy pomiędzy myśleniem, a świadomością. Jeśli myślenie ograniczymy do czynności umożliwiających podtrzymanie czynności życiowych organizmu to jak najbardziej można założyć, że teoretycznie komputer też myśli (mając system do podtrzymywania zasilania), bo zrobi wszystko co ma zaprogramowane, aby się nie wyłączyć. Ale trudno mówić o jego świadomości w przeciwieństwie do człowieka. Według mnie myślenie ściśle wiąże się ze świadomością. Każdy może definiować myślenie na swój własny sposób. Trudno podać jednoznaczną definicję, na którą każdy by się zgodził
Teza 1:
Poznanie sposobu myślenia "prostszych" gatunków z pewnością podniosłoby wiedzę człowieka na temat myślenia. Być może dzięki temu nasz gatunek mógłby w jakich sposób przenieść te prostsze myślenie do maszyn. Jednak wydaję mi się że człowiek na tyle mało wie o samym zjawisku procesu myślowego ( jedynie przepływ impulsów i reakcje chemiczne ), że może zając to wiele lat zanim nasza wiedza na ten temat poszerzy się.O ile jest to w ogóle możliwe, gdybyś rozpatrywali jakąś sferę duchową.
Teza 2:
Skoro myślenie istot żywych może być ściśle związane z szeroko pojętym poziomem rozwoju języka danego gatunku, a co za tym idzie ewolucją to każdy gatunek ma swój unikalną formę komunikacji (werbalnej oraz nie werbalnej) co za tym idzie zarówno każdy gatunek myśli w odmienny sposób (i nie mam na myśli tu poglądów, a technikę :) ). Ludzie znając najlepiej swoją metodę komunikacji starają się skonstruować "myślenie" maszyn na wzór swojego, jednakże to byłoby ciągle konstruowanie i działa tej maszyny byłoby zależne od jakiegoś algorytmu. Wydaje mi się, że wtedy nie możemy w ogóle mówić o myśleniu.
Teza 3:
Jeśli potraktujemy ludzkie myślenie i jego nośnik czysto fizycznie i nie weźmiemy pod uwagę aspektów duchowych, marzeń czy pragnień, z którymi niektóre osoby mogą się zgadzać lub nie to wydaje mi się, że byłaby w przyszłości możliwość odtworzenia ludzkiego mózgu. Z tego co do tej pory wiemy jest to mocno rozbudowana sieć neuronowa i jeśli nie ma części, która byłaby niepodrabialna wydaje mi się, że dałoby się stworzyć coś na kształt tego organu.
Teza 4:
Moim zdaniem bardzo dużo zależy od definicji świadomości. Wydaje mi się jednak, że jakiej definicji byśmy nie przyjęli myślenie zawsze będzie związane ze świadomością i nie należy oddzielać tych dwóch rzeczy. Nie uważam, aby maszyny mogłyby uzyskać samoświadomość istnienia. Jedynie mogą zostać zaprogramowane, aby wykomunikować, że "rozumieją" że są, jakie są ich pragnienia i przeszłość, jednakże tak na prawdę nie będzie to w pełni świadome ( w zależności od definicji oczywiście).
W odpowiedzi na pytanie czy komputery mogą myśleć odpowiadam nie. Teza 1 Myślenie, w pełnym tego słowa znaczeniu, przejawiają ludzie — wszak w teście Turinga maszyna jest porównywana z człowiekiem, a nie np. ze słoniem.W mojej opinii myślenie nie jest to umiejętność, którą można zaprogramować w komputerze. Komputer nie ma żadnych uczuć, nie wyraża własnej opinii na jakiś temat, nie zastanawia się nad tym, czy to co w tej chwili wykonuje jest dobre czy złe, nie odpowiada na zadane pytania. Wykonuje tylko te czynności, które wymaga od niego właściciel. Człowiek potrafi się uczyć, komputer nie nauczy się wiersza, on go może przeczytać za pomocą jakiegoś programu, może wyświetlić nam tekst, który zapisaliśmy, ale aby to zrobić, ktoś musi mu wprowadzić ten wiersz. Człowiek dostaje kartkę, czyta i później już bez kartki może wyrecytować, jak dziecko w szkole. Tak samo z nauką mowy, uczymy się i po prostu jest to dla nas naturalne. Jeżeli z pamięci komputera wyrzucimy wszystko to nie przeczyta nam tego wiersza, dopóki ponownie go nie wprowadzimy.Z mógiem tak łatwo już nie przychodzi. Nie możemy na pstryknięcie klawisza usunąć wszystkiego. W tezie zostało zawarte pytanie czy zwierzęta nie myślą. W mojej opinii nie robią tego w taki sposób jak człowiek. W odpowiedzi na tezę 3 mogę powiedzieć, że myślenia w mojej opinii nie można zaprogramować. Nasza wiedza na procesy zachodzące w mózgu jest zbyt mała i nigdy nie dowiemy się tak naprawdę co tam się dzieje, a tylko z tą wiedzą moglibyśmy zaprogramować komputera do myślenia.
Teza 1:
Zwierzęta podczas podejmowania decyzji kierują się instynktem, co nie do końca oznacza, że nie myślą. Wiadomo, że nie zrobią sobie karteczki, na której nie wypiszą wszystkich wad i zalet rozważanej decyzji, ale ich zachowanie nie jest schematyczne, gdyż pomimo tego, że będą zachowywać się w określony sposób, ich zachowanie będzie uwarunkowane od otoczenia, nie zawsze będzie takie samo.
Uważam, że główna trudność w maszynowej realizacji myślenia polega na skonstruowaniu urządzenia, które będzie potrafiło podejmować decyzje z uwzględnieniem warunków zewnętrznych, uczącego się na własnych błędach, jak i otoczenia. Co oznacza, że zależy nam na stworzeniu czegoś, co nie będzie działało tylko na zasadzie algorytmu, ale rozważając pewne aspekty będzie potrafiło podjąć lepszą decyzję niż ta, którą nakazuje jej algorytm.
Teza 2
Odnosząc się do zadanych pytań, uważam, że myślenie ma niewiele wspólnego z językiem, ponieważ jest to proces poznawczy, który polega na wyciąganiu wniosków i ciągłej nauce zachowań z życia codziennego. Maszyna/czlowiek nie musi używać zaawansowanego języka, w ogóle nie musi używać języka, aby można było po niej stwierdzić że myśli, myślenie samo się objawi poprzez zachowania i postępowanie w życiu codziennym. Maszyna, która potrafiłaby rozwiązać problem niekoniecznie matematyczny, w sposób szybszy i łatwiejszy niż ten, który ma zaimplementowany w wachlarzu swoich postępowań myślałaby, gdyż powyższy przykład oznacza, że podejmując pewną ilość prób znalazła łatwiejszy sposób, czyli wyciągnęła wnioski, a co za tym idzie z definicji myślała.