Cafe Aleph

Obecny wpis zamieszczam w blogu w imieniu Pani Natalii Wochtman (studentki Wydziału Fizyki PW), która chciałaby sprowokować swoje koleżanki i kolegów do dyskusji na temat   sztucznej inteligencji. Dyskusja rozpoczęła się w „realu”, na naszych zajęciach; być może jednak znajdzie swoją kontynuację tutaj.

Oto obszerne zagajenie autorstwa Pani Natalii:

Po raz pierwszy terminu sztuczna inteligencja użył John McCarthy w 1956r., definiując sztuczną inteligencję jako „naukę i inżynierię tworzenia inteligentnych maszyn”. Wszelkie definicje z perspektywy inżynierskiej odwołują się zaś do wyjaśnienia terminu „sztuczna inteligencja” poczynionego przez Marvina Minsky’ego w 1960r., który określił sztuczną inteligencję jako „naukę o maszynach realizujących zadania, które wymagają inteligencji, gdy są wykonywane przez człowieka”.
Jedna ze współczesnych definicji traktuje z kolei sztuczną inteligencję jako „badanie i projektowanie inteligentnych agentów, gdzie inteligentny agent jest systemem, który rozpoznaje swoje otoczenie i podejmuje działania maksymalizujące jego szanse na rozwój”.
Sztuczną inteligencję definiować można również jako własność systemów informatycznych, dzięki której wykazują one znamiona ludzkiej inteligencji lub maszyn, które taką własność posiadają. Niemniej jednak przeważająca większość definicji odnosi się do aspektów inżynierskich i badań.

Dotychczasowe osiągnięcia w dziedzinie badań nad sztuczną inteligencją, jak również przewidywania dotyczące najbliższych lat są naprawdę imponujące. Jako doskonały przykład ilustrujący te prognozy posłużyć może firma Google, która  stworzyła „sztuczny mózg” – czyli maszynę, która jest w stanie zrozumieć to, co widzi i wyciągnąć z tego racjonalne wnioski.
Z kolei analitycy firmy Gartner w swoich prognozach przepowiadają m.in. że od 2018 roku maszyny stopniowo zaczną zastępować piszących raporty i sprawozdania, a ponad 2 miliony pracowników będzie musiało nosić urządzenia monitorujące stan zdrowia i ogólną kondycję jako warunek zatrudnienia.
Wybitny badacz profesor Alan Black, który zajmuje się między innymi syntezą mowy, twierdzi z kolei, że roboty kolejnej generacji będą wzdychać, chrząkać oraz uśmiechać się i płakać. Mają to być tzw. wypełniacze rozmowy. Chodzi o to, aby roboty miały osobowość, a nie zachowywały się zawsze tak samo. Wtedy człowiek rozmawiający z robotem znajdującym się za ścianą nie będzie do końca pewny czy ma do czynienia rzeczywiście ze sztuczną inteligencją, czy z drugim człowiekiem. Przykład ten choć z naszej perspektywy wydaje się nieco futurystyczny doskonale pokazuje, że rozwój sztucznej inteligencji wykracza daleko poza ściśle rozumiane zagadnienia technologiczne.
Przy obecnym tempie rozwoju badań wydaje się nieuniknione wkroczenie sztucznej inteligencji w sferę stosunków społecznych, które do tej pory wydawały się zarezerwowane wyłącznie dla ludzi. Ingerencja sztucznej inteligencji w sferę relacji i emocji stanowić może niezwykłą rewolucję w zakresie kontaktów międzyludzkich. Czy nie doprowadzi to do katastrofy? Oto sztuczny twór myśli i inwencji stać się może równoprawnym partnerem dla człowieka. Co więcej twór ten w wielu kwestiach dalece wykraczać będzie poza zdolności umysłowe ludzi. Fakt ten wydaje się równie fascynujący jak i groźny.

Nadal istnieje wiele aspektów ludzkiej inteligencji, których według niektórych naukowców sztuczna inteligencja nie jest w stanie pojąć. Na przykład jeśli nie słyszymy całej treści rozmowy, jesteśmy w stanie ze względną łatwością wypełnić „luki” poprzez interpretacje jej kontekstu, czy charakteru naszego rozmówcy. Według niektórych naukowców, komputery nie są do tego zdolne, bowiem to pamięć i jej efektywne wykorzystanie stanowi kluczowy warunek do poznania otaczającego nas świata.
Jednocześnie należy zauważyć, że sam ludzki mózg pozostaje jedną z największych tajemnic współczesnej nauki i medycyny. Nie są bowiem dokładnie poznane wszystkie mechanizmy umożliwiające mu  tworzenie naszej inteligencji.

Podkreślić trzeba, że problematyka sztucznej inteligencji dalece wykracza poza sferę technologii i nauki. Dotyka ona także podstawowych problemów społecznych, a nawet filozoficznych. Naukowcy pracujący nad projektami związanymi z wdrożeniem projektów dotyczących sztucznej inteligencji tworzą w pewnym sensie „świat równoległy” niejako konkurencyjny wobec inteligencji naturalnej. Z całą pewnością otwiera to niespotykane dotychczas możliwości oraz pozwala rozwijać zupełnie niezagospodarowane obszary badawcze. Projekty te tworzą więc nowe szanse rodząc jednocześnie nieznane do tej pory wyzwania. Wizje rozwoju sztucznej inteligencji tak mocno osadzonej w nauce mają często charakter futurystyczny rodem z filmów science-fiction. W tym zakresie racjonalne i pragmatyczne metody, a także projekty naukowe mocno ingerują w świat rzeczywistych relacji społecznych.

W tym kontekście warto postawić następujące pytania:

Czy jesteśmy gotowi na to by nasze dzieła nie tylko nam dorównywały, ale także w wielu aspektach nas przewyższały?

Czy komputery mogą stać się niezawodne? Nieomylne? Czy sztuczna inteligencja nas przewyższy i będzie lepsza od nas pod każdym względem?

Czy istnienie sztucznej inteligencji zagraża nam jako społeczeństwu? Czy może dojść do sytuacji, gdy nasza władza nad technologią wymknie się spod kontroli? A może istnienie takiego bytu przyniesie nam tylko korzyści?

ZAPRASZAMY do dyskusji – Natalia Wochtman i Paweł Stacewicz.

Na rozgrzewkę zaś polecamy następujące materiały:
♦   Czy istnieje sztuczna inteligencja? (esej P. Stacewicza)
♦   https://www.youtube.com/watch?v=MaItaCQcYIE
♦   https://www.youtube.com/watch?v=5rNKtramE-I
♦   https://www.youtube.com/watch?v=CK5w3wh4G-M

Podczas kilku ostatnich zajęć na różnych Wydziałach PW (zob. spis przedmiotów) dyskutowaliśmy o hipotetycznym myśleniu maszyn. Dość nawet zażarcie. Odnosiliśmy się przy tym do klasycznych tekstów Alana Turinga i Johna Searle’a, które zalinkowałem na końcu wpisu. Wydaje mi się, że zawarte w tych tekstach  argumenty są wciąż warte komentowania.

Choć w tym roku studenci nie garną się zbytnio do naszego bloga, to akurat w ramach powyższego tematu zadeklarowali wstępnie chęć porozmawiania.
Zaczynam zatem blogową dyskusję, a czynię to fikcyjnymi głosami dwóch naszych bohaterów.

*********

Rozmowę zaczyna SEARLE:

– Panie Alanie, skoro mamy rozmawiać o hipotetycznym myśleniu maszyn, to niech Pan określi na początek, co to w ogóle znaczy – według Pana –  „myśleć”. Myśleć oczywiście przez duże „M”, a nie na przykład wtedy, gdy na coś instynktownie reagujemy lub wykonujemy ślepo czyjeś rozkazy.

TURING odpowiada:

– Hmm… Właściwie, to nie wiadomo, cóż to znaczy. Wiadomo jednak, że istotami, które myślą przez największe „M” są ludzie. Ludzie zaś używają niezwykle wyrafinowanego języka, który ze względu na składnię, bogactwo odniesień, siłę wyrazu etc… nie daje  się porównać z językiem żadnego innego gatunku.
Maszyna myśląca zatem powinna być zdolna do używania naszego języka. Jeśli podczas swobodnej rozmowy z maszyną, nie będę potrafił odróżnić jej od człowieka, to będę musiał uznać ją za myślącą.

SEARLE:

– Zaraz, zaraz… Do maszyn jeszcze dojdziemy. Póki co jednak skupmy się na ludziach. Pan powiada, że nie za bardzo wiadomo, co to znaczy „myśleć”. Ja na to odpowiadam, że „dobrze wiem, kiedy myślę, to znaczy, kiedy ja myślę”.
Myślę, gdy rozumiem (ewentualnie: usiłuję zrozumieć) to co robię, lub to co mówię.
Gdy działam w sposób instynktowny, nie myślę; gdy powtarzam dźwięki innych jak papuga, nie myślę; gdy rozwiązuję zadanie, wykonując mechanicznie pewien algorytm, nie myślę…
Myśleć zatem to rozumieć (rozum mieć, :-)), a rozumieć można tylko przy udziale świadomości. Świadomość czegoś jest zatem warunkiem koniecznym, choć nie wystarczającym, myślenia.

TURING:

Uua… Poleciał Pan teraz po maśle maślanym. Myśleć to znaczy rozumieć (lub usiłować rozumieć), a rozumieć to być (co najmniej) świadomym.  Czy w ogóle potrafi Pan wyjaśnić, czym jest rozumienie i świadomość?

SEARLE:

Nie poleciałem po maśle maślanym, bo podałem przykłady. Podejrzewam, że i Pan potrafi rozpoznać  sytuacje, w których działa Pan ze zrozumieniem, i sytuacje, w których żadnego rozumienia nie ma. W pierwszych sytuacjach Pan myśli (przez duże M), w drugich – nie.
Dlatego też, jeśli mamy oceniać, czy maszyna myśli, czy nie – to musimy wyobrazić  sobie, że działamy tak jak ona i ocenić uczciwie, czy działamy wtedy ze zrozumieniem. Jeśli widzimy, że rozumienia nie ma (i być nie musi), to nie wolno nam uznać maszyny za myślącą.  Tak właśnie stawiam sprawę w znanej Panu argumentacji chińskiego pokoju.

TURING:

Panie Johnie…  Ja uważam jednak, że odwoływanie się do własnej tylko wyobraźni jest nieuczciwe. W gruncie rzeczy powiada Pan, że nie może sobie wyobrazić, iż maszyna (jedną z nich Pan w swoim chińskim eksperymencie naśladuje) posiądzie świadomość.
Rozumiem, że trudno sobie wyobrazić, jak człowiek (który już posiada świadomość), wykonując bez ustanku jakieś dziwne komputerowe operacje niskiego poziomu (przeznaczone dla zupełnie innych niż człowiek elementów), może wzmocnić swoją świadomość lub zyskać jakąś nową warstwę świadomości.
Proszę jednak pomyśleć o maszynie, która początkowo świadomości nie ma, lecz realizuje pewien bardzo złożony program, który rozwijając się w interakcji ze środowiskiem,  wytwarza jakieś pierwociny świadomości.  Pierwociny, które stopniowo mogą przekształcać się w świadomość głęboką i wieloaspektową. Według mnie to całkiem realna perspektywa.
Innymi słowy, ja przeciwnie do Pana jestem w stanie wyobrazić sobie, że odpowiednia złożoność programu – programu wchodzącego w interakcje z otoczeniem (czego Pan w chińskim pokoju nie dopuszcza) – może dać maszynie świadomość.
Inna sprawa, że wcale nie wiemy, czy o skuteczności działań jakiegokolwiek układu w świecie decyduje świadomość (nam znana z introspekcji). W to jednak nie będę wchodził…

SEARLE:

Przypuśćmy na próbę, że przyjmuję Pańskie argumenty i godzę się na możność zaistnienia świadomości wskutek odpowiednio wysokiej złożoności programu sterującego systemem interaktywnym.
Co Pan jednak na to, że ludzie posiadają mózgi, a mózgi są układami biologicznymi, złożonymi z materii organicznej. Nawet jeśli mózgi mają jakieś złożone oprogramowanie, to ów „niematerialny” software jest nierozerwalnie spleciony z biologicznym hardware. Biologicznym – powtarzam. Nie krzemowym, nie mechanicznym, nie jakimś zupełnie dowolnym – lecz złożonym z takich a takich substancji organicznych.
Gdyby świadomość była zależna od biologii mózgu, to złożoność mózgowego oprogramowania nie wystarczałaby do jej zaistnienia…

Tutaj musimy przerwać nasz fikcyjny dialog i poprosić czytelników o jego kontynuowanie w formie komentarzy.  Kontynuacja może polegać zarówno na ustosunkowywaniu się do przedstawionych argumentów, jak i formułowaniu nowych.

Gorąco ZAPRASZAM…

A oto linki do dwóch tekstów źródłowych:
♦  Alan Turing, „Maszyny liczące a inteligencja”.
♦  John Searle, „Czy maszyny mogą myśleć?”.

Niniejszy wpis czynię z myślą o białostockich Spotkaniach z kognitywistyką, na których będę miał zaszczyt wygłosić wykład pt. „O kognitywistycznej interpretacji niektórych pojęć informatycznych”. Mam nadzieję, że dyskusja rozpoczęta na spotkaniu będzie miała swój odpowiednik blogowy – zapraszam do niej nie tylko słuchaczy wykładu.

Podstawą rozmowy proponuję uczynić wykładowe SLAJDY.

Proponuję też przyjąć następującą konwencję dyskusji.
Jeśli ktoś ma pytania lub sugestie do któregokolwiek ze slajdów, niech wstawi odpowiedni komentarz pod tym wpisem, a ja się do niego odniosę, stymulując w ten sposób dalszą dyskusję. Jeśli uznam dodatkowo, że wywołany temat zasługuje na osobną rozmowę, poczynię osobny wpis, pod którym będziemy mogli omawiać ten właśnie temat.

***

W ramach krótkiego wstępu do dalszej dyskusji objaśnię w punktach ideę anonsowanego wyżej wykładu.

1) Traktuję pojęcia informatyczne, a także opisywane przez nie obiekty (algorytmy, struktury danych, kody…), jako pojęcia formalne, które można interpretować – na podobieństwo formalizmów matematycznych – w różnych dziedzinach problemowych.
(Na przykład: będący abstrakcyjnym obiektem formalnym algorytm przeszukiwania grafów może być wykorzystywany w dziedzinie sieci transportowych, gier komputerowych etc…)

2) Interpretacja kognitywistyczna pojęć informatycznych polega na ich wykorzystaniu w ramach pewnego modelu umysłu/mózgu – modelu zazwyczaj cząstkowego, opisującego pewien fragment aktywności poznawczej umysłu.
(Na przykład: sztuczną sieć neuronową – jak perceptron czy cognitron – można uczynić kluczowym elementem modelu ludzkiej percepcji).

3) Kognitywistycznie zinterpretowany układ pojęć jest tym cenniejszy – z punktu widzenia kognitywistyki, a nie samej informatyki – im bardziej pobudza do cennych poznawczo pytań o umysł.
(Na przykład: pojęcie nieobliczalności, sprzężone z pojęciem realizującego obliczenia automatu (jak maszyna Turinga), pozwala postawić pytanie o struktury wewnątrz-umysłowe, które pozwalają umysłowi rozwiązywać problemy nieobliczalne)

4) Jeśli przyjąć, że w ramach interdyscyplinarnych badań kognitywistycznych istnieje pewien „podział pracy”, to rolą filozofów winno być zadawanie pytań (także takich, które są inspirowane informatycznie), a rolą empiryków – weryfikowanie możliwych odpowiedzi.

***

Zachęcam gorąco do dyskusji (która może dotyczyć także powyższych wyjaśnień).
Paweł Stacewicz