Kilka tygodni temu ukazał się w czasopiśmie FILOZOFUJ! mój kolejny tekst z serii „O sztucznej inteligencji z filozofią w tle”: Inteligencja sztuczna, czyli jaka?
Zastanawiam się w nim nad kilkoma filozoficznymi zagadnieniami, do których postawienia prowokuje pierwszy człon nazwy „sztuczna inteligencja”.
Nie zdradzając wszystkich szczegółów, przytaczam niżej trzy pierwsze akapity artykułu i zachęcam do przeczytania całości.
Nie zmartwię się, rzecz jasna, gdy pod wpisem pojawią się różne krytyczne komentarze i potoczy się dyskusja 😊.
W przyszłym roku minie 70 lat, odkąd termin sztuczna inteligencja (ang. artificial intelligence) wszedł na dobre do naukowego obiegu. W roku 1956 zaproponował go amerykański informatyk, John McCarthy, jeden z organizatorów słynnej konferencji w Dartmouth, która zgromadziła doborowe grono uczonych, zaangażowanych w badania nad nowego rodzaju maszynami. Były to maszyny obliczeniowe, które potrafiły wykonywać czynności zarezerwowane dotychczas dla ludzkiego intelektu, np. przeprowadzać logiczne wnioskowania, rozwiązywać problemy geometryczne czy grać w szachy. Sztuczną inteligencją (SI) nazwano zarówno badania nad tego rodzaju maszynami, jak i same maszyny – układy z jednej strony fizyczne, z drugiej zaś, sterowane za pomocą sformalizowanych algorytmów.
Wprowadzony przez McCarthy’ego termin przyjął się i dzisiaj tylko sporadycznie używa się określeń alternatywnych, takich jak inteligencja maszynowa czy obliczeniowa. W związku z jego popularnością możemy postawić pierwszą, zabarwioną filozoficznie, hipotezę: być może za atrakcyjność nazwy sztuczna inteligencja odpowiada jej semantyczna, a w szerszym planie filozoficzna otwartość. No właśnie – inteligencja sztuczna, czyli jaka? Czy nazywamy ją tak dlatego, że stanowi nasz wytwór, a więc jest syntetyczna? Czy może dlatego, że chcemy jej odmówić waloru autentyczności? A zatem: czy jest bardziej jak sztuczna nerka, czy bardziej jak sztuczny, udawany uśmiech?
Tego rodzaju dwuznaczność prowadzi do zażartych filozoficznych sporów o to, czy będąca naszym wytworem, syntetyczna SI może uzyskać status prawdziwej, autentycznej inteligencji? Czy nie pozostanie na zawsze jej symulacją, imitacją i niedoskonałą kopią? Czy sztuczność w znaczeniu pierwszym nie pociąga za sobą sztuczności w sensie drugim?
(…)
Zachęcam do dyskusji, zarówno nad powyższym fragmentem, jak i całym tekstem – Paweł Stacewicz
Jedną z koncepcji filozoficznych jest tak zwane filozoficzne zombie czyli byt który miałby być w zachowaniu i nawet fizycznie nierozróżnialny od człowieka, ale nie miałby autentycznych przeżyć. Jest to po prostu ekstremalny rodzaj testu Turinga.
Inną koncepcją jest panpsychizm według którego dosłownie cała materia jest świadoma w jakimś stopniu. Proszę zwrócić uwagę na odległość tych dwóch koncepcji.
Stosunek między obliczeniami a świadomością też jest niejasny. Mogą być to zjawiska niezależne, albo tożsame.
Pytanie jest też o sam status ontologiczny obliczeń oraz świadomości bo to mogą być zjawiska abstrakcyjne/metafizyczne jak np. pierwszość liczb albo fizyczne jak magnetyzm.
Teraz w zależności od tego jak odpowiemy na zestaw PYTAŃ generujemy szkołe filozoficzną. Oto te pytania (niekoniecznie wszystkie wymieniłem).
1. Czy istnieje rozróżnienie między fizyką a metafizyką?
2. Czy obliczenia i świadomość są równoważne?
3. Czy obliczenia są zjawiskiem fizycznym?
4. Czy świadomość jest zjawiskiem fizycznym?
5. Czy ten zestaw pytań jest wystarczający?
Osobiście uważam że powodem istnienia paradoksów i odmiennych koncepcji w filozofii nie tylko sztucznej inteligencji jest istnienie „Ukrytych Pytań”/aksjomatów. Są to pytania dotyczące kwestii metafizycznych na które odpowiedzieliśmy, ale nie znamy pytania i odpowiedzi i niekoniecznie odpowiadamy konsekwentnie. Ślepota która nie jest przed oczami, ale za głową,
Przykładem „Ukrytego Pytania”/aksjomatu było „Czy czas jest uniwersalny we Wszechświecie”. Dopiero Einstein zadał to pytanie i odpowiedział na nie.
Generalnie to śledząc dyskurs dotyczący AI gdzie mamy masę koncepcji które są spójne, ale wzajemnie sprzeczne dochodzę do wniosku że istnieje „Ukryte Pytanie” które sprawia że krążymy w kółko i błądzimy jako całe społeczeństwo.
Hej, mi się wydaje, że to 'ukryte pytanie’, czy ukryte założenie, to to, jak definiuje ktoś inteligencję. Można przyjąć, że ma się na myśli nie tylko, albo w ogóle nie, zachowania, faktyczne obserwowalne rzeczy, ale coś, co jest ukryte przed obserwacją, ale jest przyczyną tych zachowań, maszyny, czy człowieka. W szczególności w przypadku człowieka, można rozumieć inteligencję nawet nie jako to, co się obserwuje jako procesy w mózgu, którymi może się objawiać, ale jakieś ukryte przed obserwacją jakości umysłu czy świadomości. To jak ktoś definiuje słowo 'inteligencja’, rozstrzyga, co się ma na myśli mówiąc 'sztuczna’ inteligencja. Jeśli definiuje metafizycznie bardziej, w odwołaniu do tych nieobserwowalnych własności 'inteligencji’ człowieka’, to może mieć na myśli, że maszyny ich nie mają, dlatego są sztuczne. Ale można też definiować inteligencję jako pewną relację zachowań pomiędzy bytem inteligentnym a odbiorcą komunikatu (zobacz https://doi.org/10.3390/philosophies7060124 ). Wtedy sztuczny nie będzie oznaczał, że to jakiś gorszy duplikat, bo może ta 'stworzona’ inteligencja być zupełnie tożsama z inteligencją człowieka w tej koncepcji rozumienia terminu 'inteligencja’, a poprostu wyrażenie 'sztuczna’ będzie jedynie oznaczać, że mówimy o inteligencji stworzonej przez człowieka, a nie przyrodę (jak nasza). Co ciekawe, w tym drugim rozumieniu, nie ma żadnej ukrytej treści sugetującej 'gorszość’ sztucznej wersji. A nawet, fakty dokonań naukowych wykazują, że twory „sztuczne’ w sensie nie stworzone rzez przyrodę, ale przez człwieka, mogą być lepsze niż te 'naturalne’, jak np sztuczne stawy, soczewki czy zęby :)
Bardzo ciekawa (i precyzująca!) odpowiedź. Faktycznie w dyskusjach typu „SI a ludzki umysł” bardzo dużo zależy od tego, jaki przyjmiemy głęboki sposób rozumienia inteligencji — którą ogólnie i powierzchownie definiuje się jako zdolność do rozwiązywania problemów (czasami wyróżniając różne typy problemów i zdolności).
Ów głęboki sposób rozumienia Pantokreator nazywa metafizycznym (bo odwołujemy się tu do nieobserwowalnych własności typu intencja czy świadomość – których istnienie wymaga silnych metafizycznych/pozafizycznych założeń) i to zgrywa się chyba dobrze z propozycjami Olafa (który wymienia jednak cały katalog pytań metafizycznych).
Ja zgadzam się, że wiele dyskusji prowadzi donikąd dlatego, że debatujący nie ujawniają swoich głębokich założeń, a niekiedy może nie są ich w ogóle świadomi.
Efektywna dyskusja polegałaby zatem na tym, że zgadzamy się co do pewnych założeń (np. co do jakiejś formy panpsychizmu i twierdzenia, że za inteligencją z konieczności stoją pewnego rodzaju procesy świadome) i patrzymy, co z tego wynika. Taka dyskusja przypominałaby trochę wymianę myśli matematyków pracujących na tych samych założeniach; otwartych dodatkowo na wspólną zmianę tych założeń i nowe rozumowania.
Być może coś takiego udałoby się tutaj przeprowadzić, a przynajmniej naszkicować…
Może ktoś spróbuje :)
Dopowiem na koniec, że drugi ze wskazanych przez Pantokreatora sposobów rozumienia inteligencji (relacyjny czy w pewnej wersji behawioralny) wymaga również pewnego rozstrzygnięcia filozoficznego; przyjmujemy mianowicie, że nie ma sensu przyjmować jakichś głębokich metafizycznych założeń co do natury/podłoża inteligencji (co też jest założeniem).
Coś takiego zrobił Turing proponując swój test na inteligencję maszyny: X wykazuje inteligencję, jeśli zachowania werbalne X-a są (statystycznie) nieodróżnialne od zachowań człowieka.
Pablo, a ja to tak myślę jeszcze, że w tym pierwszym rozumieniu sztucznej, jako imitującej, to wiele znajdzie się przypadków sztucznej inteligencji wśród ludzi :D
Świetny wstęp do ważnego problemu: zanim zaczniemy dyskutować o możliwościach SI, warto uświadomić sobie, że samo pojęcie „sztucznej inteligencji” jest filozoficznie niejednoznaczne. Ten fragment bardzo trafnie pokazuje, jak wiele zależy od tego, jakie znaczenie przypiszemy słowu „sztuczna” — i że bez takiego namysłu łatwo mówić o zupełnie różnych rzeczach, używając tych samych terminów.
Ale z drugiej strony, taka świadomie wykorzystana dwuznaczność zachęca do refleksji i dyskusji, np. „Czy sztuczna/syntetyczna inteligencja z konieczności musi być sztuczną/nieautentyczną inteligencją?” Nie zawsze zatem dwu- czy wieloznaczność jest czymś szkodliwym… Co Pani o tym sądzi? A także jak się Pani zapatruje na zadane pytanie?
Pozwolę sobie dorzucić jeszcze jedno możliwe „ukryte pytanie”, trochę obok klasycznej osi.
Czy inteligencja musi mieć własną perspektywę normatywną?
Mam na myśli to, że w przypadku człowieka inteligencja nie polega jedynie na rozwiązywaniu jakichkolwiek problemów, ale bardzo często na rozpoznawaniu, które problemy w ogóle warto uznać za istotne. To nie jest już czysto obliczeniowa sprawność ani nawet kwestia zachowania obserwowalnego, lecz coś z pogranicza sensu, wartości i orientacji w świecie. Można powiedzieć, że ludzka inteligencja jest zawsze „zanurzona” w pewnym horyzoncie znaczeń. Coś jest problemem, bo coś dla kogoś znaczy.
Jeśli tak, to pytanie o sztuczność SI trochę się przesuwa : nie „czy maszyna potrafi myśleć?”, ani nawet „czy ma świadomość?”, lecz „czy może mieć własne kryteria sensowności, a nie tylko zapożyczone?”. Prostyb przykład jaki na szybko mi się nasunąl: Sztuczna nerka działa autonomicznie, ale nie ma własnej koncepcji zdrowia. Sztuczny uśmiech też imituje ekspresję, ale nie wynika z przeżycia. Być może z SI jest podobnie i może być coraz lepsza w rozwiązywaniu zadań, ale pozostawać radykalnie „zapośredniczona” w cudzych celach i znaczeniach. W tym sensie „sztuczność” nie musiałaby oznaczać ani gorszości, ani nieautentyczności, lecz brak egzystencjalnego punktu widzenia. A to z kolei prowadzi już do pytania, czy inteligencja bez takiego punktu widzenia jest faktycznie jeszcze tą samą inteligencją, co ludzka czy tylko inną, obcą jej odmianą.
I być może właśnie ta obcość, a nie imitacyjność, okaże się w przyszłości najbardziej interesująca.
Bardzo dziękuje za komentarz, tym bardziej, że zainspirował on kolejne osoby do własnych przemyśleń.
Zastanawiam się nad kluczowym dla Pana wpisu stwierdzeniem: „Być może z SI jest podobnie i może być coraz lepsza w rozwiązywaniu zadań, ale pozostawać radykalnie „zapośredniczona” w cudzych celach i znaczeniach. W tym sensie „sztuczność” nie musiałaby oznaczać ani gorszości, ani nieautentyczności, lecz brak egzystencjalnego punktu widzenia.”
Zastanawiam się, czy owo zapośredniczenie, a więc brak zdolności do stawiania własnych celów, które byłyby np. wynikiem egzystencjalnych uwarunkowań systemu, nie przesądza o wtórności, a więc właśnie o „gorszości” tak rozumianej inteligencji sztucznej.
Wszak inteligencja ludzka wyraża się nie tylko w zdolności do rozwiązywania już zdefiniowanych problemów, ale również w umiejętności dostrzegania i definiowania nowych problemów. Nowych problemów czyli nowych celów…
Może problem tkwi w tym, że próbujemy mierzyć SI wyłącznie ludzką miarą. Brak „egzystencjalnych” celów nie musi od razu oznaczać gorszości, tylko być może inną kategorię inteligencji, bardziej „narzędziową” niż „podmiotową”. Człowiek rzeczywiście potrafi sam wyznaczać cele, ale robi to głownie dlatego, że od początków istnienia jest pochłoniony potrzebami, emocjami czy potrzebą przetrwania. SI nie ma tego samego tła, zostało stworzone z myślą rozwiązywania problemów. Trochę jak z kalkulatorem, kalkulator potrafi liczyć szybciej i pewniej niż matematyk, ale nie wybiera sam, które problemy są ważne i po co w ogóle je liczyć.
Faktem jest że OBECNE modele SI, nie rozumieją świata. Działają na zasadzie przetwarzania wzorców danych przygotowanych przez człowieka. Wiedzą że woda jest mokra, bo tak zostało im napisane tysiące razy. Stąd też pytanie czy jest to jeszcze „rozumienie” i „inteligencja”, czy tylko bardzo sprawne odtwarzanie wzorców…
Bardzo ciekawy wątek z tą „obcością” SI, o której wspomniał Bartosz. Chciałbym pójść tym tropem i zapytać o jeszcze jedną rzecz: czy nasze upieranie się przy tym, że inteligencja musi być „ludzka” (mieć uczucia, świadomość czy własne cele), nie jest trochę pułapką?
Można by użyć porównania do latania. Kiedyś ludzie myśleli, że aby latać, trzeba machać skrzydłami jak ptak (podejście naturalistyczne). Potem zbudowaliśmy samoloty, które latają zupełnie inaczej, nie mają piór ani nie czują wiatru, ale czy przez to latają „sztucznie” w sensie „nieprawdziwie”? Nie, one po prostu latają w inny, techniczny sposób.
Może ze sztuczną inteligencją jest podobnie? Może to, że ona nie „rozumie” albo nie ma „własnego punktu widzenia”, wcale nie oznacza, że jej inteligencja jest tylko udawaniem. Może to po prostu nowa kategoria zjawiska – „inteligencja bez umysłu”. Jeśli samochód autonomiczny dowiezie nas bezpiecznie do celu, to fakt, że nie „chciał” tam jechać, nie zmienia tego, że wykonał zadanie inteligentnie.
Pytanie tylko, czy my, jako ludzie, będziemy potrafili zaakceptować taką „obcą” inteligencję jako autentyczną, czy zawsze będziemy czuć niedosyt, bo nie jest ona odbiciem naszej własnej natury?
Warto tu wspomnieć o rozważaniach Andrzeja Dragana z książki „Quo vAIdis”, które podważają nasze przywiązanie do etykiety „sztuczna”. Często lekceważymy możliwości modeli językowych (LLM), twierdząc, że to „tylko” wielkie macierze i statystyczne przewidywanie kolejnego słowa. Jednak Dragan zauważa, że prostota mechanizmu (matematyka) wcale nie wyklucza tego, że z tego procesu wyłania się autentyczna zdolność wnioskowania. Skoro modele mogą się mylić, a my jesteśmy w stanie podpowiedzieć im poprawną odpowiedź, którą one „zrozumieją”, to znaczy, że zachodzi tam coś na wzór procesu logicznego.
Czy fakt, że pod spodem zachodzą operacje na liczbach, oznacza, że efekt końcowy jest „udawany”? Przecież świat, który znamy, również jesteśmy w stanie sprowadzić do modeli matematycznych i obliczeń fizycznych – czy to czyni go sztucznym? Zatem jeśli macierze skutecznie wnioskują, to może ta inteligencja jest znacznie mniej „sztuczna”, niż byśmy chcieli przyznać.
Swoją drogą bardzo polecam przytoczoną tu książkę, przedstawia ciekawą perspektywę na problem sztucznej inteligencji i pozwala lepiej zrozumieć temat od zaplecza :D
Nazwa „sztuczna inteligencja” została oczywiście nadana przez człowieka i oba jej człony wrażliwe są na różnice w interpretacji. W cytowanym tekście zostało postawione pytanie o sztuczność w znaczeniach syntetyczność a nieautentyczność, lub może oba te znaczenia na raz (nie są przecież dychotomią). Tak samo w różny sposób definiować można inteligencję. Poza definicją o zdolności do wykonywania czynności zarezerwowanych dotychczas dla ludzkiego intelektu, wiele osób podkreśla jak ważną częścią tego, co rozumiemy jako inteligencję są emocje i doświadczenia, a maszyna przecież nie czuje i nie doświadcza.
Nie powinno dziwić jak wiele osób nie zgadza się co do „sztuczności” i „inteligencji” SI, jeśli terminy te mogą znaczyć tak wiele różnych rzeczy. Na pewno jest ona syntetyczna, ale czy jest nieautentyczna? To już zależy od jednostkowej interpretacji. A może sztuczna miało znaczyć po prostu „inna”, nie będąca tworem naturalnym.
Ciekawy fragment i świetna zachęta do refleksji! Zastanawiające jest to jak nazwa „sztuczna inteligencja” sama w sobie generuje filozoficzne pytania o autentyczność i granice między naturą, a wytworem ludzkim. Ta dwuznaczność czy SI ma być syntetyczną kopią, czy może czymś zupełnie nowym myślę że trafnie nam pokazuje, że mamy do czynienia nie tylko z technologią ale z językiem i metaforą, która kształtuje nasze rozumienie tego, co uznajemy za inteligentne. Myślę, że to podejście może pomóc w unikaniu uproszczeń typu „SI jest albo ma świadomość, albo jej nie ma”, bo otwiera przestrzeń do rozróżnienia różnych rodzajów inteligencji i ich relacji do nas jako użytkowników jak i kreatorów :)
Warto przypomnieć, że sama ludzka inteligencja jest produktem ubocznym ewolucji. Mechanizmy prowadzące do przetrwania okazały się zarazem zdolne do tworzenia rozumienia — ale pierwotna funkcja mózgu nie była epistemologiczna, tylko adaptacyjna.
W przeciwieństwie do tego, kierunek wielu badań nad SI zakłada, że rozumienie, a dalej przewidywanie i inferencja, są celem pierwszoplanowym. Jeśli traktować zdolność do budowania stabilnych struktur pojęciowych jako minimalne kryterium „rozumienia w działaniu”, to trudno utrzymywać sugerowaną tezę, że współczesne systemy są jedynie syntaktyczne („syntaktyka nie wystarcza dla semantyki”). W nowszych pracach (np. Li et al., „Do LLMs Build World Representations?”, NeurIPS 2024) pokazano, że duże modele językowe tworzą wewnętrzne abstrakcje świata różnicujące obiekty i ich role, a więc zachowują pewien rodzaj semantyki funkcjonalnej — nawet jeżeli nie odtwarzają pełnej dynamiki świata ani nie posiadają semantyki fenomenalnej w sensie Searle’a. Modele te grupują elementy według ich znaczenia dla przewidywania, a nie tylko powierzchniowych cech języka, co w przeczy prostej wersji argumentu o „czystej syntaktyce”.
Nie można także zapominać, że już na podstawowym poziomie słowa są przechowywane w formie wektorów kodujących właśnie semantykę tych słów.
Jeżeli uznać, że inteligencja — niezależnie od podłoża — polega na skutecznym rozumieniu i przewidywaniu, to można postawić tezę, że to właśnie „sztuczna” inteligencja dąży do statusu inteligencji właściwej, nie będąc ograniczoną przez materiał biologiczny, z którego wynikają nasze własne możliwości i ograniczenia.
Pisze Pan: „…trudno utrzymywać sugerowaną tezę, że współczesne systemy są jedynie syntaktyczne („syntaktyka nie wystarcza dla semantyki”)”.
Ja niczego takiego w przywoływanym tekście z „Filozofuj!” nie sugeruję; przytaczam po prostu pogląd Searle’a i jego zwolenników. Jestem wobec niego sceptyczny — sugerując, że umysł ludzki może mieć naturę obliczeniową, ale niekoniecznie wchodzące w grę obliczenia muszą być cyfrowe. Jeśli zaś podstawą naszej aktywności umysłowej nie są obliczenia cyfrowe, to współczesne systemy SI, nawet te oparte na dużych modelach językowych i stojących za nimi sieciach neuronowych, mogą nie wystarczyć do osiągnięcia takiej skuteczności w identyfikowaniu, rozumieniu i rozwiązywaniu problemów, jaką dysponuje ludzki umysł.
I jeszcze jednak uwaga, dotycząca naszych biologicznych ograniczeń… Z pewnością one istnieją. Z pewnością jednak każdy inny „materiał” i każda jego struktura niosą ze sobą pewnego rodzaju nieprzekraczalne ograniczenia. Dotyczy to także formy realizowanych obliczeń, nawet jeśli mogą one być realizowane przez różne materialnie i strukturalnie układy. Przykładowo: zarówno obliczenia cyfrowe, jak i analogowe-ciągłe, mają swoje ograniczenia, wynikające z samej formy (definicji) tych obliczeń.
A wracając do „materiału biologicznego”. Być może układy organiczne, będące produktem trwającej miliardy lat ewolucji czyli dobrze przez ewolucję ustrukturyzowane, mają oprócz ograniczeń, kolosalne zalety – wyrażające się na przykład w ultra-niskim zużyciu energii przez układy realizujące bardzo skomplikowane operacje obliczeniowe.
Mam nadzieję, że moje szybkie uwagi okażą się inspirujące.
Oczywiście nie miałem na myśli, że to Pana pogląd. Pisałem o tym jako polemika z poglądem Searle’a. Co do skuteczności w identyfikowaniu, rozumieniu i rozwiązywaniu problemów, jaką dysponuje ludzki umysł – te kwestie są moim zdaniem mocno dyskusyjne. Należy pamiętać, że nie możemy mierzyć SI miarą tego, jak działa dzisiaj, a jak potencjalnie może działać w przyszłości – także tej dalekiej. Jeśli już dzisiaj na wielu polach właśnie w kwestii rozumieniu i rozwiązywaniu problemów już teraz niejednokrotnie SI przewyższa człowieka, teza, że przerośnie go obiektywnie jest przynajmniej prawdopodobna. Co do ograniczeń z kolei, zaczynając od kwestii formy obliczeń – zwierzęce umysły także wykonują pewną formę obliczeń. Pewne romantyzowanie ich wynika jednak z tego, że nie potrafimy ich jeszcze dokładnie zdefiniować. W przypadku SI z kolei ze względu na to, że dobrze znane jest jej działanie, a jednocześnie duże zróżnicowanie jej architektur, umożliwia to znaczące ograniczanie tych ograniczeń. Argument czasu wieloletniości ewolucji i (w konsekwencji) młodości informatyki moim zdaniem świadczy na korzyść SI. Pomijając już, że porównanie prędkości rozwoju obu daje rezultaty druzgocące dla człowieka, jednocześnie może wyolbrzymiać poczucie, jak bardzo nieodkryty potencjał może mieć jeszcze SI. Wracając do kwestii samego „materiału biologicznego” – sygnał w układzie nerwowym przesyłany jest z wykorzystaniem impulsów elektrycznych. Cechą szczególną białek nie jest jednak to, że dobrze przewodzą one prąd. Ich cechą jest samoreplikowalność i to właśnie przez to są one budulcem naszych komórek. W przypadku wytworów syntetycznych z kolei sytuacja wygląda przeciwnie. Ośrodkiem przetwarzania danych jest ten materiał, który w danym czasie zapewnia najlepsze możliwości. Aktualnie jest to krzem, jednak może on się wciąż zmieniać – na przykład, jeśli dojrzeje technologia komputerów optycznych lub kwantowych. Względnie niskie zużycie energii przez nasz mózg nie wynika w tym przypadku z materiału biologicznego, a z architektury – zarówno jednostek obliczeniowych, jak i samych sieci neuronowych. Nie jest jednak wykluczone, że któreś z tych czynników się zmieni (a raczej jest to bardzo prawdopodobne). Po dowolnie dużej i dowolnie istotnej zmianie wciąż będziemy jednak mieli do czynienia ze sztuczną inteligencją (syntetyczną).
Ciekawe jest zastanowić się, co naprawdę oznacza, że sztuczna inteligencja „rozumuje”. Jej sposób myślenia różni się od ludzkiego, ponieważ opiera się na wykrywaniu wzorców i zależności w danych, a nie na świadomym doświadczeniu czy intencjach. Mimo tej odmienności efekty działania SI w wielu przypadkach mogą przypominać nasze własne wnioski i decyzje.
To prowokuje do refleksji nad tym, czy inteligencja stworzona przez człowieka musi być uważana za mniej „autentyczną” tylko dlatego, że jest syntetyczna. Być może skuteczność SI, nawet jeśli przebiega w zupełnie inny sposób niż ludzka, sama w sobie stanowi formę prawdziwej inteligencji. W tym świetle sztuczność nie musi oznaczać imitacji ani braku wartości, lecz po prostu inny sposób działania.
A może odmienność sposobu „myślenia” SI powinna skłaniać nas do ponownego przemyślenia, czym jest inteligencja i jak ją rozumiemy?
W komentarzach zostało poruszone wiele interesujących wątków i ujęć tego rozważania. Zainspirowało mnie to do spojrzenia na temat pod kątem świadomości. Gdy jako inteligencje przyjmujemy istnienie świadomości, należy wziąć pod uwagę, że nie wiemy czym jest świadomość dla nas samych. Tu należy postawić pytania: Czy samo istnienie procesów życiowych jest wystarczające, aby określić czy coś jest świadome? Czy tylko ludzie z istot żywych posiadają świadomość? Jaki poziom zdolności rozumowania i rozwiązywania problemów musi osiągnąć byt abyśmy, uznali go za świadomy? Wiele zwierząt podobnie jak my również potrafi rozwiązywać problemy i stosować narzędzia. Wiele posiada dobrą pamięć i umiejętności wyciągania wniosków na podstawie poprzednich wspomnień. Dla przykładu ośmiornice potrafią używać narzędzi, rozpoznawać ludzi, wykonywać zagadki logiczne takie jak przechodzenie labiryntów oraz przechodzą test lustra (potrafią rozpoznać siebie w lustrze). Niektóre źródła mówią o krukach „udamawiających” wilki w zimnych regionach w celu łatwiejszego zdobywania pokarmu, niekiedy nawet bawią się z ich młodymi. Czy te cechy nadają tym zwierzętom świadomość? Gdzie leży granica? Czy takim wyznacznikiem może być test lustra? Jeśli zwierzę jest w stanie rozpoznać samo siebie to czy jest świadome swego istnienia? Być może po prostu nigdy nie widziało swego odbicia i nie wie jak wygląda? Jeśli człowiek jest świadomy jak wygląda, z czego się składa i jakie są jego ograniczenia (taka samoświadomość w ujęciu psychologicznym) to czy wystarczy żeby określić go świadomym? Czy jeśli SI wie na jakim sprzęcie się je włącza, czym jest i jakie są jej ograniczenia to czy można określić je samoświadomym? Być może problemem w określeniu tego zjawiska jest nasza własna skłonność do mierzenia wszystkiego własną miarą.
Ciekawe to porównanie z nerką i uśmiechem, nigdy o tym w ten sposób nie myślałem, a to idealnie pokazuje, o co chodzi w tych kłótniach o AI.
Dzisiejsze AI to bardziej ten „sztuczny uśmiech”. Niby wygląda jak rozmowa, niby są mądre zdania, ale pod spodem nikogo nie ma. To tylko świetna maska. Z drugiej strony, jeśli ten „uśmiech” pomaga mi pisać kod albo poprawiać maile, to może działać trochę jak ta nerka – robi robotę, nawet jak jest sztuczny.
Chciałbym zaproponować eksperyment myślowy:
Stan ludzkiej wiedzy rozwija się do poziomu, w którym ludzki organizm nie ma dla nas żadnej tajemnicy.
1. Potrafimy stworzyć człowieka w stanie idealnie odpowiadającym człowiekowi np w wieku 40 lat z wytworzoną pamięcią, umiejętnościami, przeżyciami, człowiek taki byłby nierozróżnialny od 40-latka wychowanego „tradycyjnie”
2. Potrafimy stworzyć syntetyczny mózg o identycznej budowie, jak człowieka, do którego możemy dostarczać sygnały identyczne sygnały, jak do prawdziwego mózgu: zarówno nerwowe, jak i hormonalne. Mózg miałby także wbudowaną pamięć, przeżycia, także jego reakcja na te sygnały byłaby nierozróżnialna od tej prawdziwego mózgu.
3. Potrafimy także stworzyć sztuczny mózg o dowolnej budowie, innej od ludzkiej, jednak reagujący identycznie na sygnały imitujące te prawdziwe.
4. Tworzymy także instancję niemającej na celu imitacji ludzkiego mózgu, a skuteczne rozwiązywanie zadań, tradycyjnie do tej pory przeznaczonych dla ludzkiego mózgu, instancja ta przewyższa ludzi w tych zadaniach.
5. Potrafimy stworzyć też instancje bardziej minimalistyczne – także skutecznie rozwiązujące zadania, jednak na poziomie nieznacznie niższym, jak ludzki (jednak oszczędne np energetycznie).
Czy wszystkie te przypadki są przykładami sztucznych i teligencji, czy może od pewnego poziomu można tę inteligencję nazwać sztuczną?
Cześć, mnie najbardziej zainteresował fragment o sporze pomiędzy osobami obcującymi za „imitacyjnym” statusem SI a komuptacjonistami. Osobiście bliżej mi do obozu komputacjonistów, jednak uważam, że odpowiedni system informatyczny i algorytmy przetwarzające dane to nie wszystko.
Myślę, że jeżeli chcemy uzyskać efekty myślenia, przemyśleń i wnioskowania na wzór człowieka, to musimy skupić się na pytaniu, czemu człowieku jest zdolny do wykonywania tych czynności.
Abstrachując od kwestii religijnych i tego co mógł dać nam „Bóg” wedle różnych religii, można założyć, że inteligencja rozumna to coś co człowiek wykształcił na przestrzeni wielu lat ewolucji. Podczas tego okresu można traktować człowieka jako tak zwaną „czarną skrzynkę”. Przyjmował on na wejściu wszystkie sygnały możliwe do przetworzenia zmysłami. Tak więc czy to była wymiana prymitywnych dźwięków i gestów pomiędzy innymi osobnikami plemnienia, czy zasmakowanie śmiertelnych grzybów, każde takie doświadczenie w jakiś sposób kształtowało umysł człowieka, a ewolucja decydowała która wykształcona cecha jest najkorzystniejsza. Ostatecznie okazało się, że to możliwość myślenia, która wykształciła się u ludzi rozumnych (Homo Sapiens) była najkorzystniejszą cechą. Na drodze ewolucji wykształciliśmy organ zdolny do takiej interpretacji sygnałów i ich przetwarzania, że obecnie nazywamy to rozumnym myśleniem.
Ostateczne potwierdzenie tez komputacjonistów można udowodnić w eksperymencie, w którym mielibyśmy idealnie odwzorowany umysł sterowany algorytmami i bylibyśmy w stanie dostarczyć mu wszystkich sygnałów które odbierał i przetwarzał człowiek. Jeżeli rezultatem będzie sztuczny umysł (sztuczna inteligencja), zdolny do rozumnego myślenia i wnioskowania to będziemy mieli potwierdzenie że świadomość i inteligencja to cecha emergentna występująca naturalnie w przyrodzie i możliwa do odtworzenia przez człowieka.
„Sztuczny uśmiech” to moim zdaniem świetne podsumowanie obecnych narzędzi AI. Konwersacje z „czatem” właśnie tak wyglądają – jest dla nas uprzejmy, pomocny, motywujący, ale mimo wszystko dla wielu niewystarczająco przekonujący. Można tu zauważyć coś w rodzaju efektu „uncanny valley”. AI bardzo stara się brzmieć dokładnie jak my, przekonać nas, że jest równorzędnym partnerem do rozmowy, ale w wielu przypadkach osiąga coś dokładnie odwrotnego. Kiedy coś zachowuje się prawie jak człowiek, ale jednak nie do końca, to w ostatecznym rozrachunku wywołuje w nas dyskomfort, czasem zażenowanie, odrazę.
Odpowiedź na pytanie czy sztuczna inteligencja może uzyskać status autentycznej zależy od tego, jak tę autentyczność zdefiniujemy. AI potrafi być niezwykle przydatnym narzędziem i na pewno można skutecznie uargumentować tezę, że jest to „prawdziwa” inteligencja. Wydaje mi się jednak, że dla wielu osób byłoby to stwierdzenie trudne do zaakceptowania i że jako ludzie wolimy trzymać się przeświadczenia, że faktycznie istnieje rozróżnienie między „sztuczną” inteligencją a „naszą” inteligencją.
Słowo „sztuczny” samo w sobie ja rozumiem jako coś, co jest sprzeczne z tym, co wygenerowała natura, w szczególności to, co człowiek wygenerował wbrew naturze (sztuczne jezioro, rzeki, wspomniana wcześniej sztuczna nerka), lub coś nieautentycznego (sztuczny uśmiech). Pojęcie „sztuczna inteligencja” moim zdaniem nazywa się tak dlatego, że obejmuje wymyślone przez człowieka algorytmy i technologie, które mają na celu imitować ludzką inteligencję, ale jednak człowiekiem same w sobie nie są.
Chciałbym jednak pójść o krok dalej i poruszyć temat różnic między „sztuczną inteligencją” a inteligencją człowieka. Kilku moich przedmówców wskazało na świadomość człowieka, która to ma go odróżniać od „inteligentnej” maszyny. Ale czym tak naprawdę jest świadomość? Czym się ona właściwie różni od sposobu „myślenia” komputerów?
Algorytmy SI przeważnie opierają się na tym, że komputer dostaje do analizy bardzo dużą ilość danych, następnie ma za zadanie znaleźć w tych danych jakiś wzorzec i zgodnie z tym wzorcem wygenerować odpowiedź na jakąś nową informację wejściową (np. prompt do ChataGPT). Gdyby się jednak głębiej zastanowić, czy ludzki sposób myślenia nie działa w podobny sposób? Ludzka świadomość, przekonania, poglądy, sposób podejmowania decyzji wynikają z pewnych wrodzonych ludzkich cech, ale w bardzo dużej mierze także z „informacji”, które dana osoba otrzymywała przez całe życie. Rodzina, przyjaciele, znajomi, przeglądane treści i strony w internecie, wszystko to kształtuje inteligencję i sposób myślenia człowieka. Jeśli środowisko to będzie nieodpowiednie, moralność takiej osoby zostanie mocno zachwiana, podobnie jak bot Tay wypuszczony w 2016 roku, który – ucząc się na danych będących komentarzami ludzi z Twittera – zaczął publikować antysemickie i rasistowskie treści.
Przechodząc nieco głębiej do sposobu myślenia ludzi i komputerów, algorytmy SI były tworzone tak, by jak najgłębiej odzwierciedlać ludzkie mechanizmy odpowiadające za inteligencję – sztuczna sieć neuronowa ma działać podobnie do sposobu przetwarzania informacji przez neurony w ludzkim mózgu, mechanizm kar i nagród pozwalający komputerom np. nauczyć się grać w grę samochodową, itp.
Podobnie jak sztuczna nerka, która ma za zadanie imitować zachowania i akcje podejmowane przez rzeczywistą nerkę. Gdyby się jednak lepiej zastanowić, co sprawia, że naturalna nerka jest „wyjątkowa”? Zapewne to, że została wytworzona naturalnie, a nie przez człowieka, ale co poza tym? Przecież za działaniem naturalnej nerki nie stoi żadna magia, tylko wiele zaawansowanych procesów chemicznych i biologicznych jakie w niej zachodzą. Analogicznie jest z ludzką inteligencją.
Oczywiście nikt nie ma wątpliwości, że w pewnych elementach „sztuczna inteligencja” nie jest w stanie zastąpić człowieka. Dobrym przykładem są filmiki, w których SI uczy się grać w grę samochodową i to, ile czasu jej to zajmuje w porównaniu z dzieckiem, które siądzie do takiej gry. Ale czy to dlatego, że ludzka inteligencja działa w sposób, który dla maszyn jest nieosiągalny? Czy za ludzkim myśleniem stoi jakiś niezbadany mechanizm? Czy może po prostu ludzka technologia nie wygenerowała jeszcze póki co tak zaawansowanego i skomplikowanego komputera jak ludzki mózg, ale przy nieograniczonej ilości pieniędzy, czasu i zasobów by mogła? Warto szczególnie podkreślić tutaj zwrot „póki co”, ponieważ sytuacja w tym aspekcie jest bardzo dynamiczna. Jeśli jakiemuś szalonemu naukowcowi uda się kiedyś opracować algorytm tak precyzyjnie odwzorowujący działanie ludzkiego mózgu, to czekają nas naprawdę ciekawe czasy…
Nazywając inteligencję maszyn „sztuczną”, zdradzamy trudność w uznaniu czegoś niebiologicznego za w pełni prawdziwe. A przecież także my sami nie jesteśmy prostym dziełem intencji czy projektu. Nasza świadomość wyłoniła się w wyniku ślepych procesów ewolucyjnych.
Richard Dawkins w „Samolubnym genie” pokazuje, że nasze decyzje i poczucie „ja” są w dużej mierze efektem działania genów, które kierują nas ku własnemu przetrwaniu, często niezależnie od naszej świadomości. Jeśli tak, różnica między komórkami a tranzystorami nie leży w samej zdolności do przetwarzania informacji, lecz w historii ich powstania i rodzaju doświadczenia.
Może więc problem nie tkwi w tym, że maszyny są „sztuczne”, lecz w tym, że trudno nam uznać inteligencję pozbawioną biologicznego kontekstu za równorzędną. Co gdyby „aktualna” sztuczna inteligencja byłaby taka sama, ale używałaby biologicznych komórek, zamiast tranzystorów? Czy nazwalibyśmy ją sztuczną?
Poruszony przez Pana wątek ewolucyjny jest interesujący, ponieważ pozwala spojrzeć na sztuczną inteligencję z perspektywy mniej skupionej wyłącznie na człowieku. Jeśli inteligencję rozumieć jako zdolność wyłaniająca się w długim procesie adaptacji, to przejście od komórek nerwowych do tranzystorów może być w pewnym sensie potraktowane jako kolejny etap rozwoju. Być może mamy tu do czynienia z nową formą ewolucji, tym razem technologicznej, w której to człowiek przejmuje rolę środowiska selekcyjnego.
W takim ujęciu sztuczna inteligencja nie byłaby jedynie imitacją tej biologicznej, lecz jej przekształceniem na innym nośniku. Różnica polega w głównej mierze na tempie i stopniu intencjonalnego projektowania tego procesu, ale nie jest oczywiste, czy powinno to odbierać temu procesowi autentyczność. Być może problem ze słowem „sztuczna” inteligencja polega nie tylko na jej niebiologicznym charakterze, lecz także na naszych przyzwyczajeniach pojęciowych, które każą nam utożsamiać autentyczność inteligencji wyłącznie z jej naturalnym, ewolucyjnie ukształtowanym pochodzeniem.
Artykuł jest de facto streszczeniem obecnego od lat 70 dyskursu, którego, moim zdaniem, głównym fundamentem jest brak jasnego porozumienia na poziomie definicji. Pragnę dodać od siebie jednak kilka myśli, które moim zdaniem mogą przybliżyć rozstrzygnięcie tego sporu – w 2026 roku, gdy nasza wiedza o mózgu jest jeszcze większa, a doświadczenie z LLM-ami jeszcze dłuższe. A przynajmniej podzielić się moim zdaniem.
W opinii niektórych naukowców (np. prof. Marcina Matczaka) z badań kognitywistycznych może wynikać, że ludzki aparat mowy nie jest jedynie „ubieraniem myśli w słowa”, tylko działa odwrotnie: samo mówiene / pisanie słów jest równoznaczne z myśleniem jako takim i może wręcz występować przed autorefleksją – najpierw coś mówimy, tworzymy słowa, a dopiero potem zastanawiamy się czy się z nimi zgadzamy. Gdy się nad tym zastanowiłem, postanowiłem przeprowadzić coś w rodzaju medytacji podczas luźnej rozmowy z kolegą, faktycznie w takim spojrzeniu jest – przynajmniej w moim przypadku – sporo prawdy. LLM działa odwrotnie, słowa są dopiero ostatecznym wynikiem procesu kreowania odpowiedzi, i są (upraszczając) odbiciem, słownikowaniem wcześniej wytworzonych struktur.
I teraz kontynuując – odnosząc się do „logicystycznej” i „naturalistycznej” natury mózgu i/lub sztucznej inteligencji. Ludzkie myślenie ma kilka warstw, które moim zdaniem zbyt często sprowadza się jedynie do „mózgu”. Sam ten narząd ma kilka różnych warstw, o różnym „wieku ewolucyjnym” – na przykład stosunkowa młoda kora przedczołowa, czy archaiczny „mózg gadzi”. Do tego dochodzą jeszcze odruchy rdzeniowe, hormony, odpowiedź z ciała itp. I to jest coś, czego komputer nigdy nie poczuje – strach, radość, ból, stres…, przynajmniej tak długo, jak program komputerowy będzie symulował jedynie sieć neuronową, czyli bardzo ograniczoną symulację bardzo wąskiego wycinka ludzkiego zachowania, opierając się jedynie na tokenach i słowach.
Pozdrawiam
Zarysowany w artykule spór o naturę sztucznej inteligencji świetnie porządkuje klasyczne stanowiska, jednak warto spróbować spojrzeć na ten problem z nieco innej, bardziej współczesnej perspektywy, którą proponuje Jacek Dukaj w swoim tomie esejów „Po piśmie”.
Dukaj sugeruje, że nasza fiksacja na pytaniu, czy maszyna „czuje” lub „rozumie” (klasyczny problem semantyki u Searle’a), wynika z głębokiego antropocentryzmu. Według niego Sztuczna Inteligencja to każda metoda przetwarzania symboli wyprowadzona poza obręb pojedynczego białkowego mózgu. W tym ujęciu AI nie narodziła się w połowie XX wieku, lecz towarzyszy nam od stuleci jako „analogowe” systemy cywilizacyjne, które działają niezależnie od jednostkowej ludzkiej świadomości.
Jako przykłady takich „sztucznych inteligencji” Dukaj wskazuje mechanizmy, które już dawno zdominowały nasze życie, mimo że rzadko postrzegamy je w kategoriach algorytmicznych:
Prawo: To gigantyczny, sformalizowany algorytm. Na wejściu mamy stan faktyczny, który zostaje przepuszczony przez system sztywnych reguł logicznych, dając na wyjściu konkretny wynik – wyrok. To „myślenie” odbywa się w strukturze procedur, a nie w pojedynczym umyśle sędziego.
Rynek i giełda: Zdecentralizowany system obliczeniowy, który w czasie rzeczywistym wycenia wartość dóbr i pracy całych narodów. Żaden człowiek nie jest w stanie ogarnąć całości tych operacji; to autonomiczne procesy matematyczne kształtują naszą rzeczywistość ekonomiczną.
Biurokracja: Państwo jako maszyna, w której urzędnik pełni rolę wymiennego podzespołu wykonującego instrukcje. System ten podejmuje decyzje w oparciu o sformalizowane przepływy informacji, a nie o subiektywne wglądy jednostek.
W tym ujęciu współczesne algorytmy AI to po prostu kolejna, bardziej wydajna faza eksternalizacji intelektu. Skoro prawo czy rynek od wieków skutecznie zarządzają ludzkością, będąc w istocie „bezdusznymi automatami”, to czy kwestia autentyczności wewnętrznych przeżyć maszyny ma w ogóle kluczowe znaczenie? Być może to, co nazywamy „sztucznością”, jest po prostu obiektywizacją procesów myślowych, które po raz pierwszy w historii nie potrzebują już ani jednego biologicznego nosiciela, by realnie kształtować świat.
Ciekaw jestem Państwa zdania: czy taka „funkcjonalna” i cywilizacyjna definicja AI nie wydaje się bardziej adekwatna do czasów, w których algorytmy faktycznie przejęły rolę zewnętrznego intelektu?
Wydaje mi się, że tak naprawdę należy zacząć pytania, czym właściwie jest intelignejca? Najprościej można ją określić jako zdolność do pozyskiwania nowej wiedzy i umiejętności, oraz wykorzystywania ich w życiu codziennym. Podobną odpowiedź prawdopodobnie podałoby 90% zapytanych osób. Tylko czy ta definicja na pewno w całości opiusje coś tak złożonego?
W 1983 r. Howard Grander przedstawił teorię „Inteligencji wielorakiej”. Wyróżnił w niej:
1. Inteligencję językową – umiejętność czytania/pisania
2. Inteligencję matematyczną – umiejętność logicznego rozumowania oraz liczenia
3. Inteligencję wizualno-przestrzenną – umiejętność malowania, rysowania
4. Inteligencję ruchową – zdolności manualne
5. Inteligencję przyrodniczą – umiejętność postępowania zgodnie z prawami natury
6. Inteligencję muzyczną – umiejętność pisania piosenek, śpiewania
7. Inteligencję interpersonalną społeczną – umiejętności interpersonalne
8. Inteligencję interpersonalną refleksyjną – umiejętność wyciągania wniosków z popełnionych błędów.
Na dzień dzisiejszy śmiało można stwierdzić że sztuczna inteligencja posiada umiejętności opisujące rodzaje inteligencji 1-3 oraz 5. Można to stwierdzić poprzez prostą rozmowę z ChatemGTP. Są to zwykłe algorytmy oraz zaprogramowane przez człowieka przy udostępnieniu SI bazy danych jaką jest internet. Dla człowieka można to określić jako wiedzę.
W przypadku rodzaju nr. 4 można dyskutować czy warunk został spełniony. Z jednej strony po ulicach nie chodzą roboty przypominające wyglądem człowieka, a z drugiej mamy już pierwsze samojeżdzące samochody lub przynajmniej systemy utrzymujące odpowiednią odległość od innych pojazdów lub zatrzymujace samochody po wykryciu niebezpieczeństwa. Więc nawet jeżeli SI nie osiągneło jeszcze odpowiedniego poziomu to jest to tylko kwestią czasu.
Na koniec zostały inteligencje społeczne, które personalnie uważam za najbardziej kluczowe. Człowiek wyciąga wnioski w przypadku kiedy sam odczuje nieprzyjemne konsekwencje lub ktoś wskaże mu błąd. SI już to potrafi. Ponownie przywołam przykład ChataGPT. Jeżeli popełni błąd i użytkownik mu go wskaże, Chat go naprawi. Nie oznacza to że nigy już go niepopełni ale takiej gwarancji nie dostaniemy również u człowieka.
Na koniec zostało pytanie, czy sztuczna inteligencja posiada umiejętności społeczne? Na dzień dzisiejszy powiedziałbym, że nie. Oczywiście dostaniemy odpowiedzi nawet na moralne pytania. Mimo wszystko, SI nie jest w stanie postawić się w naszej sytuacji. Dostaniemy od niej informacje będące wytworem algorytmów, statystyki oraz wiedzy z bazy danych. Będzie to odpowiedź zgodna z logiką, prawdopodobieństwem i może nawet etyką ale bez uwzględnienia emocji, które często powodują, że człowiek działa wbrew wszystkim zasadom. Człowiek oszuka na egzaminie, przekroczy prędkość jadąc samochodem i podejmie wiele innych decyzji, które najprościej można określić jako głupie. SI nie zrobi niczego wbrew swojemu oprogramowaniu nielicząc przypadków awarii. Taka awaria u człowieka nie wystąpi. On sam za siebie podejmuje wszystkie decyzje.
Biorąc pod uwagę wszystkie argumenty na dzień dzisiejszy zaryzykowałbym stwierdzenie, że sztuczna inteligencja pozostanie sztuczna. Ludzkie emocje są bytem tak złożonym, że zreplikowanie ich jest prawie niemożliwe, a bez tego komputer pozostanie czymś co określamy jako „sztuczne”.
Bardzo ciekawy komentarz. Zgadzam się, że przy pytaniu o sztuczną inteligencję warto najpierw zapytać, czym właściwie jest inteligencja, bo bez tego łatwo porównujemy człowieka i AI według nie do końca jasnych kryteriów.
Dodałbym jednak, że część dotycząca „ruchowej” inteligencji AI może się dość szybko dezaktualizować. Roboty humanoidalne nie są jeszcze codziennym widokiem na ulicach i nie funkcjonują masowo wśród ludzi, ale coraz wyraźniej wychodzą poza etap laboratoryjnych pokazów. Pojawiają się już w realnych środowiskach pracy, zwłaszcza w przemyśle i logistyce, a wraz ze wzrostem ich sprawności prawdopodobnie będziemy widzieć ich coraz więcej także w przestrzeniach bardziej zbliżonych do codziennego życia.
Jeszcze ciekawszy wydaje mi się jednak wątek inteligencji społecznej. Prawdą jest, że odpowiedź LLM-a jest wynikiem algorytmów, statystyki i danych treningowych, a nie emocji. Zastanawiam się jednak, czy ludzkie działanie rzeczywiście tak często jest „wbrew zasadom”. Może człowiek również działa według zasad — tylko że są to zasady wykształcone przez doświadczenia, wychowanie, emocje, nagrody, kary i wcześniejsze błędy. W tym sensie można ostrożnie porównać człowieka do modelu, który przez całe życie jest „trenowany” przez otoczenie.
Różnica polegałaby więc nie na tym, że człowiek działa bez reguł, a AI według reguł, lecz raczej na tym, skąd te reguły pochodzą i jak są modyfikowane. U człowieka wynikają z przeżytego doświadczenia, ciała, emocji i relacji społecznych. U AI z danych, architektury modelu i ograniczeń narzuconych przez twórców, choć wiemy też, że modele potrafią czasem te ograniczenia obchodzić lub reagować w sposób nieprzewidziany.
Dlatego nie jestem pewien, czy brak emocji na zawsze wyklucza sztuczną inteligencję z obszaru kompetencji społecznych. Być może zachowania społeczne AI będą z czasem coraz lepiej symulowane, a być może rzeczywiście bez własnego doświadczenia i emocji pozostaną tylko imitacją. Czy w takim razie o inteligencji społecznej powinno decydować to, co system wewnętrznie przeżywa, czy raczej to, jak skutecznie potrafi funkcjonować w relacjach z ludźmi?
Uważam, że we wpisie został poruszony szczególnie interesujący temat. To niesamowite, że już od 70 lat jest używany termin „sztuczna inteligencja”, bo to oznacza że badania nad tym musiały już być prowadzone znacznie wcześniej. Pomysł zrodzony ponad 70 lat temu, stał się jednym z najpopularniejszych tematów dzisiejszych czasów, dzięki możliwościom szybkiego rozwoju. Ukazuje to zjawisko cierpliwości i niesprawiedliwości w nauce, ponieważ wielu z naukowców nie dożyło tak silnej popularyzacji ich idei maszynowego uczenia. Pokazuje to również powiązanie między dziedzinami, ponieważ na szybki rozwój sztucznej inteligencji trzeba było czekać prawie 70 lat i stał się możliwy dopiero dzięki aktualnym parametrom sprzętowym.
Zastanawiam się, czy w całej tej debacie nie umyka nam coś fundamentalnego, mianowicie kwestia tego, kto w ogóle jest uprawniony do oceny, czy AI jest „prawdziwie” inteligentna.
W epistemologii funkcjonuje zasada, że sędzia nie powinien być stroną w sprawie. Tymczasem w dyskusji o autentyczności sztucznej inteligencji człowiek pełni obie te role jednocześnie. To my formułujemy kryteria prawdziwej inteligencji, my przykładamy te kryteria do AI i my wydajemy wyrok. A przy tym mamy oczywisty interes w podtrzymaniu własnej wyjątkowości, jesteśmy ewolucyjnie i kulturowo ukształtowani tak, żeby cenić to, co ludzkie, jako punkt odniesienia dla wszelkiej wartości.
To nie znaczy oczywiście, że odpowiedź „AI nie jest autentycznie inteligentna” jest z góry błędna. Ale powinno nas skłonić do metodologicznej ostrożności wobec własnych wniosków. Być może pytanie „czy AI jest prawdziwie inteligentna” jest trochę jak pytanie zadane przez rybę, czy latanie jest „prawdziwym” sposobem poruszania się. Ryba nie kłamie, po prostu zna tylko jeden układ odniesienia.
Czy da się w ogóle wyobrazić kryteria oceny inteligencji, które nie byłyby skrojone pod człowieka?
Bardzo ciekawy i inspirujący tekst. Szczególnie trafne wydaje mi się zwrócenie uwagi na dwuznaczność samego pojęcia „sztucznej inteligencji” – zarówno w sensie technicznym, jak i filozoficznym. To napięcie między „syntetycznością” a „autentycznością” wydaje się kluczowe dla całej debaty.Zastanawiam się jednak, czy problem nie leży częściowo w naszym języku i przywiązaniu do ludzkich kategorii. Być może oczekujemy od SI „prawdziwej inteligencji” tylko dlatego, że mierzymy ją ludzką miarą, zamiast próbować zrozumieć ją jako jakościowo odmienny typ poznania.
Według mnie pierwszym co należało by zrobić to sklasyfikowanie „AI” czym tak na prawdę jest dla ludzkości. W tej kwestii, każdy może mieć odmienne zdanie. Zastanawiałem się jak najłatwiej odpowiedzieć samemu sobie jak tę inteligencję sklasyfikować i czy to w ogóle można nazwać inteligencją. Nasunęły mi się cztery pytania, odpowiadając na nie wnioski nasunęły się same. (w nawiasach opisałem przykładowe sytuacje dla lepszego zrozumienia kontekstu)
1. Kto powinien iść do więzienia? (Autonomiczny pojazd spowodował tragiczny wypadek)
2. Czy AI to tylko narzędzie? (Postrzeganie AI bardziej jako „młotka” całkowicie operowanego przez człowieka czy może klasyfikowanie jako „psa”, który posiada własną świadomość)
3. Gdzie jest granica zaufania? (Dobrym przykładem będzie diagnoza medyczna lub wyrok sądowy. Decyzja podjęta przez „Sztuczną Inteligencję”, której nikt nie jest wstanie wytłumaczyć, dlaczego algorytm podjął taką decyzję)
4. Co ze sztucznością? (Czy zaawansowane AI jest/będzie w stanie całkowicie udawać ludzką empatie i emocje?)
Na pierwszy rzut oka odpowiedzi na te pytania będą subiektywne lecz po chwili namysłu wszystko co na świecie jest subiektywne, rzecz w tym, że w niektórych tematach ktoś kiedyś powiedział jak ma być i tak też się przyjęło. Wydaje mi się, że w przypadku AI będzie podobnie. Na ten moment każdy dywaguje dlaczego? jak? i gdzie? jest to naturalny proces gdy coś jest „nowe”. Tak, uważam, że AI jest czymś nowym a to dlatego, że nigdy nie było to tak rozwijane, zaawansowane i używane na dzień codzienny jak jest teraz.
Wracając to postawionych pytań, o to moje refleksje:
1.
Uważam, że za działania AI zawsze powinien odpowiadać właściciel lub operator. Można to porównać do prostej sytuacji z życia: mamy dwie drewniane chatki stojące ramię w ramię na sąsiednich działkach. Jeśli u osoby X stara lub wadliwa instalacja elektryczna wywoła pożar, który przeniesie się na dom osoby Y, to osoba X odpowiada za niedopilnowanie swojej własności. Z AI jest identycznie jako twór człowieka jest ona częścią naszej „infrastruktury”. Jeśli moja własność wyrządza szkodę, odpowiedzialność spada na mnie, bo to ja dopuściłem do katastrofy. Lecz dochodzi też czynnik operatora, może się okazać też że to osoba korzystająca z AI nie robiła tego z jego przeznaczeniem. W tym przypadku dobrym przykładem jest tworzenie realistycznych zdjęć i podszywanie się pod kogoś lub działanie w czyjejś szkodzie. W tym przypadku twórca nie zawinił bo AI wykonywało swoje zdanie natomiast operator wykorzystał to do złych czynów.
2.
Dla mnie AI to wyłącznie pomocne narzędzie stworzone przez człowieka do określonych zadań. Nie postrzegam jej jako fizycznego bytu, na równi z człowiekiem czy nawet zwierzęciem. Pies ma własną wolę i instynkt, AI ma tylko instrukcje. To zarządzie, które ma nas wspierać, a nie samodzielna istota, która powstała bez pośrednio na skutek ewolucji świata.
3.
To dla mnie najistotniejszy punkt. Nigdy nie zaakceptowałbym sytuacji, w której AI samodzielnie wydaje wyroki lub podejmuje ostateczne decyzje medyczne.
W sądzie: AI może być genialnym wsparciem dla sędziego w przeszukiwaniu tysięcy paragrafów, ale nie może sądzić. W procesie musi istnieć czynnik ludzki i empatia, a nie tylko sztywne, komputerowe zasady.
W medycynie: Świat wielokrotnie pokazał nam, że nic nie jest 0,1. Te same objawy mogą prowadzić do zupełnie innych wniosków, których algorytm, oparty na statystyce, może nie wyłapać. AI to świetna baza leków i spostrzeżeń, ale decyzja o życiu i zdrowiu nigdy nie powinna na nią spadać.
4.
Musimy pamiętać, że choć AI potrafi już doskonale udawać emocje, to wciąż jest tylko udawanie. Widzimy to w generowanych filmikach na portalach społecznościowych zachowania postaci wydają się prawdziwe, ale to wciąż tylko analiza statystyczna. Kod nigdy nie wejdzie na ludzki poziom empatii. Dla maszyny „współczucie” to dalej wynik kalkulacji 0,1, a nie rzeczywisty stan emocjonalny. AI zawsze będzie kierować się zasadami i matematyką, by na samym końcu jedynie symulować ludzkie odruchy.
Mam nadzieje, że moje dywagacje skierują kogoś do własnych rozważań. Zapraszam do dzielenia się swoimi odpowiedziami i spostrzeżeniami, jestem ciekaw innych perspektyw na sprawę.
Chciałbym dorzucić do tej dyskusji nieco bardziej techniczne spojrzenie, które mam wrażenie dosyć dobrze dopełnia poruszany w artykule wątek „sztuczności”.
Skoro działanie modeli generatywnych takich jak GPT, Gemini czy Claude polega na probabilistycznym przewidywaniu kolejnych elementów wypowiedzi (tokenów), to trudno mówić o rozumieniu w mocnym, filozoficznym sensie. Otrzymujemy system, który z ogromną sprawnością rekonfiguruje wzorce obecne w danych treningowych, ale nie posiada własnej perspektywy poznawczej ani intencjonalności.
W tym sensie metafora „uzdolnionej papugi” wydaję się trafna. Mechanizm, który nie tyle „myśli”, ile bardzo skutecznie odtwarza możliwe i prawdopodobne ciągi wypowiedzi.
Dlatego też przywołane w tekście porównanie do „sztucznego uśmiechu” wydaje mi się wyjątkowo celne. Mamy formę, która często jest przekonująca i funkcjonalna, ale nie wynika z żadnego wewnętrznego przeżycia ani rozumienia, jest raczej optymalną “wyuczoną” odpowiedzią wygenerowaną na podstawie danych.
Co więcej, pojawia się tu jeszcze jeden ciekawy aspekt tej „sztuczności”, coraz częściej modele uczone są na danych syntetycznych, generowanych przez inne modele. W pewnym sensie oddalamy się więc od pierwotnego doświadczenia świata, a zbliżamy do obiegu wtórnych, przetworzonych reprezentacji. Można powiedzieć, że jest to „sztuczność do kwadratu”.
Fascynujący tekst, wstawka historyczna dotycząca samego określenia „sztuczna inteligencja” myślę, że dobrze ukazuje, jak daleko od początkowych założeń pomysłodawców znajdujemy się 70 lat później. John McCarthy zmarł w 2011 roku, więc pare lat przed najważniejszymi udoskonaleniami przetwarzania języka naturalnego. Możemy zatem tylko spekulować co mógłby sądzić na temat najnowszych postępów i adekwatności własnego określenia.
O ile osobiście stawiałbym się bardziej po stronie komputacjonistów niż imitacjonistów, o tyle odnoszę wrażenie, że sam konflikt jest najbardziej sztuczny. Ze względów historycznych, przyzwyczajeń i samej popularności określenie „sztuczna inteligencja” na pewno nie zniknie. Uważam, że jest to bardzo ładne pojęcie ale w kontekście kompletnie innej rzeczywistości po siedmiu dekadach, zasadne byłoby sformułowanie mniej problematycznej nazwy. Najlepiej byłoby również zawrzeć w takim oznaczeniu pewną odporność na rewolucje, które mogą nastąpić przez najbliższe kilkadziesiąt lat, chociaż prawdopodobnie McCarthy miał ten sam pomysł. Z moim aktualnym stanem wiedzy wydaje mi się, że do Skynetu ludzkości jeszcze daleko mam nadzieję, że powstanie odpowiedni związek frazeologiczny również na tego typu technologie. Wszystko wskazuje na to, że język nienadążający za rozwojem techniki wymagałby futurologów podobnych do tych opisywanych przez Lema.
Często zarzucamy AI „sztuczność”, argumentując, że jej procesy decyzyjne to dla nas niezrozumiały 'black-box’. Warto jednak uczciwie zauważyć, że ludzki mózg również stanowi dla nas czarną skrzynkę – na poziomie biologicznym nie potrafimy precyzyjnie śledzić każdej korelacji neuronalnej stojącej za konkretną decyzją. Wydaje mi się jednak, że kluczowa różnica, która każe nam odmawiać maszynom autentyczności, leży w empatii. W relacjach międzyludzkich empatię traktujemy jako swoistą „atrapę wyjaśnialności” – nawet jeśli nie rozumiemy fizyki cudzego mózgu, to dzięki wspólnocie biologicznych doświadczeń (strach, ból, dążenie do celu) zakładamy, że rozumiemy intencje drugiej osoby.
W przypadku AI ten „pomost” znika. Nie mamy wspólnego mianownika przeżyć, więc brak transparentności algorytmu staje się dla nas barierą nie do przejścia. To z kolei prowadzi do drugiego problemu: sprawstwa. Trudno jest nam przyznać maszynie status autentycznego inteligenta, dopóki nie potrafimy przypisać jej odpowiedzialności za podejmowane działania. Skoro nie umiemy poczuć jej intencji (przez brak empatii), a ona sama nie potrafi logicznie wytłumaczyć swojego procesu decyzyjnego (brak pełnej wyjaśnialności – zagadnienie Explainable AI), to utykamy w punkcie, w którym SI pozostaje jedynie zaawansowanym narzędziem.
Moim zdaniem „sztuczność” AI nie wynika zatem z braku logiki czy skuteczności, ale z tego, że stworzyliśmy systemy posiadające ogromny wpływ na rzeczywistość (sprawstwo), którym jednocześnie brakuje mechanizmów budowania zaufania, jakie my, ludzie, mamy zaprogramowane ewolucyjnie.
Nawiązując do świetnego przykładu ze sztucznym uśmiechem z samego wpisu – wydaje mi się, że często szukamy różnicy między nami a maszyną w złym miejscu. Skupiamy się na tym, czy AI ma uczucia albo świadomość. A co, jeśli prawdziwa granica leży w czymś dużo prostszym: w tym, czy w ogóle mamy po co działać? Ludzie i zwierzęta używają mózgu, bo muszą. Naszym naturalnym napędem jest głód, strach, potrzeba przetrwania czy ciekawość. Tymczasem sztuczna inteligencja jest jak bardzo mądra encyklopedia leżąca na półce – wie wszystko, ale sama z siebie się nie otworzy. ChatBot nie zacznie z nami rozmawiać, bo poczuł się samotny albo się nudzi. Nie poprawi błędu, bo będzie mu wstyd. Działa tylko wtedy, gdy ktoś z zewnątrz wciśnie przycisk.
Może więc ta „sztuczność” polega na całkowitym braku własnej inicjatywy? Nawet zwykła mrówka, choć ma mikroskopijny mózg, wie, po co idzie do mrowiska – ma swój własny cel. Sztuczna inteligencja, choćby rozwiązała najtrudniejsze zadanie matematyczne na świecie, robi to tylko dlatego, że my jej kazaliśmy.
Wiele osób w komentarzach szuka granicy w posiadaniu „duszy” albo autentycznych przeżyć. A moim zdaniem obawa przed SI wynika właśnie z tego, że stworzyliśmy potężne narzędzie, które świetnie imituje myślenie, ale nie ma żadnego własnego powodu, by to robić.
Nazewnictwo oparte na zjawiskach naturalnych oraz nawiązujące do ludzkiej biologii jest stosowane w informatyce od dawna. Przykładem mogą być sieci neuronowe, których nazwa odwołuje się do neuronów w mózgu, czy algorytmy ewolucyjne, czerpiące z procesów biologicznych. Rozważając, czy programy te rzeczywiście posiadają inteligencję, warto zastanowić się, w którym momencie należałoby uznać jej występowanie. Modele AI nie operują na słowach czy obrazach tak jak my, lecz na ich reprezentacjach liczbowych. Choć można to uznać za osobny język tłumaczący rzeczywistość, nasuwa się pytanie: w którym momencie złożone mnożenie liczb staje się inteligencją?
Powszechnie mówi się, że program się „uczy”, starając się dopasować do danych treningowych. Czy jednak sam ten etap można utożsamiać z inteligencją, skoro ludzie również się uczą? Z drugiej strony istnieją przecież metody statystyczne, takie jak aproksymacja QR, które także dopasowują parametry do danych, a mimo to nie są zaliczane do kategorii sztucznej inteligencji.
Analizując kwestię uczenia, należy zauważyć, że większość programów AI jest projektowana do konkretnych celów. Nawet nowoczesne modele, takie jak ChatGPT, mimo pozornej wszechstronności, działają w dużej mierze w oparciu o system agentów. Główny program, przewidując prawdopodobieństwo wystąpienia kolejnych słów, generuje specjalne tokeny sygnalizujące potrzebę przerwania działania i wywołania zewnętrznego narzędzia. Przykładowo: pytając o pogodę, model najpierw uruchamia skrypt pobierający dane meteorologiczne, a dopiero potem formułuje odpowiedź typu: „Jutro będzie deszczowo, lepiej zabrać parasol”.
W porównaniu do dzisiejszej sztucznej inteligencji człowiek (podobnie jak inne formy uznawane za inteligentne) wykazuje zdolność do nauki skrajnie różnych zadań. Ludzie potrafią pisać, tworzyć muzykę i malować, a także – do pewnego stopnia – odwzorowywać umiejętności bez wcześniejszego, żmudnego treningu.Po zakończeniu procesu uczenia modele mają ustalone macierze liczbowe, przez które przepuszczane są informacje wejściowe. O ile LLM-y (duże modele językowe) bywają niedeterministyczne ze względu na losowanie kolejnych wyrazów, o tyle modele klasyfikacyjne zawsze zwracają ten sam wynik dla tych samych danych, działając w sposób zbliżony do bardzo rozbudowanej funkcji liniowej.
Choć współczesne systemy AI zapożyczają terminologię z biologii i potrafią imitować ludzkie reakcje, ich fundamentem pozostaje czysta matematyka i optymalizacja funkcji. Główna różnica leży w uniwersalności, podczas gdy człowiek płynnie łączy skrajnie różne dziedziny życia, sztuczna inteligencja, nawet w swojej najbardziej zaawansowanej formie, pozostaje zbiorem wyspecjalizowanych procesów obliczeniowych. Rozważając dylemat, czy sztuczna inteligencja jest bardziej jak sztuczna nerka, czy raczej jak wymuszony uśmiech, skłaniam się ku tej pierwszej metaforze. AI, podobnie jak proteza organu, skutecznie przejmuje i wykonuje określone, złożone zadania.
Moim zdaniem sztuczna inteligencja jest przede wszystkim „sztuczna” w najbardziej dosłownym sensie tego słowa, czyli została zaprojektowana i wytworzona przez człowieka po to, by naśladować wybrane zdolności ludzkiego umysłu i wspierać nas w rozwiązywaniu złożonych problemów.
Za każdym modelem AI stoi ogrom pracy człowieka: przygotowanie danych, zaprojektowanie architektury, trening oraz ocena wyników. Model może później wykonywać wiele zadań, ale jego proces uczenia kończy się w momencie zakończenia treningu. Dopóki ktoś ponownie go nie wytrenuje lub nie dostarczy nowych danych w kontrolowany sposób, system nie zdobywa nowej wiedzy z własnych doświadczeń.
To odróżnia sztuczną inteligencję od człowieka, który uczy się nieustannie. Każde nowe zadanie, sukces czy błąd wpływa na nasze rozumienie świata i pozwala nam rozwijać się przez całe życie. W tym sensie AI, mimo imponujących możliwości, pozostaje narzędziem stworzonym przez człowieka, a nie autonomicznym umysłem zdolnym do samodzielnego i ciągłego rozwoju.
Dlatego określenie „sztuczna” podkreśla jej pochodzenie i ograniczenia. To inteligencja zaprojektowana, a nie naturalnie rozwijająca się, co czyni ją fascynującym, ale wciąż zasadniczo odmiennym rodzajem inteligencji.
Metafory „sztucznej nerki” i „sztucznego uśmiechu” naprawdę trafiają w sedno — chyba lepiej tego nie da się ująć, jeśli chodzi o nasze dzisiejsze zmagania z próbą zdefiniowania sztucznej inteligencji. To trochę zmusza do zatrzymania się i zastanowienia. Wydaje mi się, że my, jako ludzie, jesteśmy gdzieś pośrodku, rozdwojeni między tymi dwoma znaczeniami „sztuczności”. Niezwykle wiele zależy od tego, w jakim celu konkretny algorytm jest wykorzystywany.
Kiedy potrzebujemy funkcjonalności, na przykład gdy AI pomaga mi ogarnąć ogromne arkusze kalkulacyjne, podsumować długie raporty albo znaleźć jakieś wzorce w medycznych danych, wtedy widzę w niej coś w rodzaju „sztucznej nerki”. To taki syntetyczny, ale bardzo efektywny „organ”, który rozszerza nasze, ludzkie i niby ograniczone możliwości. Nie oczekuję wtedy od niej autentyczności — przecież nie wymagam tego od kalkulatora czy jakiegoś sprzętu medycznego. Ważna jest sprawność i skuteczność działania.
Inaczej jest, gdy zaglądamy w sferę relacji międzyludzkich, naturalnego języka czy twórczości. Kiedy chatbot próbuje naśladować empatię, pociesza mnie po kiepskim dniu albo pisze wiersz o miłości — wtedy zaczynam dostrzegać to, co można by nazwać „sztucznym uśmiechem”. Prawdziwy uśmiech to przecież coś więcej: wymaga intencji, świadomości i uczuć. Maszyna natomiast jedynie manipuluje danymi, zestawia słowa w sposób sprytny, ale bez „duszy”. To taka pozorna symulacja, pozbawiona głębi.
Odpowiadając na pytanie z Pańskiego wpisu, zastanawiam się, czy nasze zdziwienie i niepokój nie wynikają trochę z tego, że słowo „inteligencja” przez wieki zarezerwowane było wyłącznie dla istot żywych i świadomych. Może problemem jest właśnie ocena AI przez pryzmat ludzkiego rozumienia tego, czym jest inteligencja — tak zwana „prawdziwa inteligencja”? Zamiast martwić się, czy AI to tylko jakaś nieidealna kopia człowieka, może powinniśmy pogodzić się z tym, że jest to całkiem nowy rodzaj bytu. Inteligencja bez świadomości, działanie bez wewnętrznego przekonania czy zrozumienia. Naśladuje nasze myślenie naprawdę zgrabnie, ale zawsze pozostanie po prostu narzędziem — nie autentycznym „kimś”.
A ja mam pytanie: jaki wpływ na sztuczną inteligencję miałby fakt sprzeczności systemu logiki klasycznej (oczywiście, gdyby ten system był sprzeczny)?
Odnosząc się do pytania postawionego w tekście, czy obecnej SI bliżej do ,,sztucznej nerki”, czy do ,,sztucznego uśmiechu” to zdecydowanie skłaniam się ku tej drugiej opcji. Uważam, że na obecnym etapie rozwoju technologii sztuczna inteligencja pozostaje sztuczna głównie w sensie udawania prawdziwego intelektu, a głównym powodem tego stanu rzeczy jest to, że jako ludzkość wciąż nie wiemy dokładnie, jak działa nasz własny umysł.
Aby zbudować autentyczną inteligencję, musielibyśmy najpierw w pełni zrozumieć mechanizmy, które próbujemy odtworzyć. Tymczasem ludzki mózg, natura świadomości, czy intuicji to dla biologii wciąż w dużej mierze nieodkryte obszary. W konsekwencji to, co dzisiaj nazywamy sztuczną inteligencją, jest po prostu genialnym inżynieryjnym obejściem problemu. Zamiast odtwarzać rzeczywiste procesy myślowe, tworzymy zaawansowane modele statystyczne, które jedynie symulują ostateczny wynik myślenia. Systemy te potrafią wygenerować sensowną odpowiedź lub wygrać partię szachów, ale pod spodem nie zachodzi żaden proces poznawczy, jaki znamy z biologii.
Trudno stworzyć prawdziwy duplikat czegoś, czego planów budowy nie potrafimy do końca rozszyfrować. Dlatego dopóki nauka nie rozwikła zagadki ludzkiego mózgu, to będziemy skazani na tworzenie coraz lepszych, ale jednak wciąż tylko imitacji, ,,sztucznych uśmiechów”.
Coś może być sztuczne w sensie pochodzenia, a jednocześnie realne w swoim działaniu. Samolot nie jest ptakiem, ale naprawdę lata; sztuczna nerka nie jest naturalnym organem, ale realnie pełni określoną funkcję. Podobnie SI nie musi być „udawaniem” inteligencji tylko dlatego, że została technicznie wytworzona.
Jednocześnie nie oznacza to, że należy bez zastrzeżeń przypisać jej inteligencję w takim samym sensie, w jakim mówimy o inteligencji człowieka. Wydaje mi się, że „inteligencja” SI bierze się głównie z jej funkcjonalności: potrafi rozwiązywać zadania, wykrywać zależności, generować odpowiedzi i dostosowywać działanie do kontekstu. Problem polega jednak na tym, że ta inteligencja jest pozbawiona własnego horyzontu znaczeń. System może operować językiem, ale nie jest jasne, czy cokolwiek dla niego „znaczy” to, czym operuje.
Dlatego nie powiedziałbym, że SI jest po prostu fałszywą inteligencją. Bardziej trafne wydaje mi się stwierdzenie, że jest to inteligencja realna na poziomie działania, ale niesamodzielna na poziomie rozumienia. Jej sens nadal pochodzi od człowieka: z danych, celów, kryteriów oceny i interpretacji.
W tym sensie spór o „sztuczność” SI pokazuje również, że samo pojęcie inteligencji nie jest jednoznaczne. Jeśli rozumiemy ją przede wszystkim funkcjonalnie — jako zdolność do rozwiązywania problemów, rozpoznawania wzorców, uczenia się na danych i skutecznego dobierania środków do celu — to współczesna SI rzeczywiście realizuje część tych cech. Jeśli jednak za istotny składnik inteligencji uznamy rozumienie znaczeń, świadomość i własną perspektywę wobec świata, wtedy SI oczywiście jest czymś innym niż ludzka inteligencja: nie dlatego, że działa nieskutecznie, ale dlatego, że jej działanie nie wydaje się zakorzenione w przeżywanym doświadczeniu.
Najciekawsze w tym tekście wydaje mi się zwrócenie uwagi na samo słowo „sztuczna”. Rzeczywiście często używamy go trochę automatycznie, a ono od razu ustawia sposób myślenia o całym zjawisku. „Sztuczna” może znaczyć po prostu wytworzona przez człowieka, ale może też sugerować coś udawanego, niepełnego albo mniej wartościowego. I mam wrażenie, że wiele sporów o AI zaczyna się właśnie od tego pomieszania znaczeń.
Nie jestem przekonany, czy trzeba koniecznie rozstrzygać, czy sztuczna inteligencja jest „prawdziwą” inteligencją w takim samym sensie jak ludzka. Może bardziej sensowne jest pytanie, jakiego rodzaju inteligencję ona realizuje i do czego można ją odpowiedzialnie wykorzystać. To, że system nie rozumie świata tak jak człowiek, nie znaczy jeszcze, że jego działanie jest bezwartościową imitacją.
Z drugiej strony samo sprawne generowanie odpowiedzi, rozwiązywanie zadań czy rozpoznawanie wzorców też nie powinno automatycznie prowadzić do uznania, że mamy do czynienia z umysłem. Wydaje mi się, że warto tu zachować środek: nie odmawiać AI wszystkich form inteligencji tylko dlatego, że jest maszynowa, ale też nie przypisywać jej zbyt łatwo świadomości, intencji czy rozumienia w ludzkim sensie.
Dlatego bardziej przekonuje mnie myślenie o AI jako o innej, technicznej formie inteligentnego działania, a nie jako o prostej kopii człowieka. Być może nie musi ona działać tak jak nasz umysł, żeby była realnie użyteczna i w pewnym sensie inteligentna.
Bardzo inspirujący tekst, szczególnie w kontekście zarysowanego dylematu między programem logicystycznym a naturalistycznym. Chciałabym nawiązać do przywołanego argumentu Johna Searle’a o tym, że „syntaktyka nie wystarcza dla semantyki”. Zastanawiam się, czy odpowiedzią na ten problem nie jest właśnie jeszcze głębsze pójście ścieżką naturalistyczną, a dokładniej – zwrócenie uwagi na kwestię ucieleśnienia (embodiment) sztucznej inteligencji.
Ludzki umysł rozumie znaczenia (posiada aparat semantyczny) w dużej mierze dlatego, że nasze „obliczenia” są nieustannie weryfikowane przez fizyczne środowisko. Zrozumienie takich pojęć jak „przestrzeń”, „opór” czy „cel” wynika z faktu, że posiadamy ciało, a nasza inteligencja wyewoluowała, by w tym świecie przetrwać. Obecne systemy SI, nawet te inspirowane biologicznie (sieci neuronowe), przetwarzają gigantyczne zbiory danych, ale pozostają całkowicie oderwane od fizycznego świata – operują na symbolach, nie ponosząc żadnych egzystencjalnych konsekwencji swoich działań.
Być może zatem to nie sam fakt, że SI jest syntetyczna (stworzona przez inżynierów), sprawia, że intuicyjnie odmawiamy jej autentyczności i traktujemy jak „udawany uśmiech”. Być może barierą jest właśnie brak zakorzenienia w fizycznej rzeczywistości. Jeśli w przyszłości wyposażymy ewoluujące, naturalistyczne algorytmy w formę ciała (np. w zaawansowanej robotyce) i pozwolimy im zdobywać doświadczenie poprzez fizyczną interakcję ze środowiskiem (gdzie będą miały własne cele ukierunkowane na przetrwanie systemu), to czy wtedy czysta syntaktyka nie zaczęłaby organicznie przekształcać się w semantykę? Wydaje się, że dopiero na tym styku maszynowego ciała i środowiska granica między imitacją a autentycznym umysłem mogłaby zostać ostatecznie zatarta.
Wydaje mi się, że w dyskusji o „sztuczności” sztucznej inteligencji zbyt łatwo zakładamy, że naturalne znaczy od razu głębsze, prawdziwsze i bardziej autentyczne. To założenie jest dla mnie podejrzane. Człowiek również nie myśli przecież w próżni: używa języka, schematów kulturowych, cudzych pojęć, wyuczonych sposobów argumentacji i społecznych oczekiwań. W tym sensie duża część ludzkiej inteligencji również opiera się na czymś, co przejmujemy z zewnątrz, tylko przyzwyczailiśmy się uważać to za naturalne.
Dlatego nie jestem pewien, czy brak biologicznego podłoża powinien automatycznie dyskwalifikować SI jako inteligencję nieautentyczną. Searle zwróciłby zapewne uwagę, że maszyna operuje składnią, a nie znaczeniem. Ale czy człowiek zawsze operuje znaczeniem? Ile naszych wypowiedzi, decyzji i ocen jest naprawdę wynikiem głębokiego rozumienia, a ile raczej sprawnego powtarzania wzorców, które wcześniej przyswoiliśmy?
Być może kontrowersyjna teza brzmi tak: sztuczna inteligencja nie tyle imituje człowieka, ile ujawnia, jak wiele imitacji było już wcześniej w człowieku. Jeżeli oburza nas, że model językowy generuje odpowiedzi na podstawie statystycznych zależności, to może dlatego, że nie chcemy zauważyć, jak często sami funkcjonujemy podobnie – przewidując, co wypada powiedzieć, jak zareagować i jakie skojarzenie będzie uznane za „rozumne”.
Nie twierdzę przez to, że obecna SI ma świadomość albo własne przeżycia. Twierdzę raczej, że granica między autentycznym rozumieniem a bardzo sprawnym naśladowaniem może być mniej oczywista, niż chcieliby zarówno entuzjaści, jak i krytycy SI. Może największym filozoficznym problemem nie jest to, czy maszyna jest podobna do człowieka, ale to, czy człowiek jest aż tak odmienny od maszyny, jak lubi o sobie myśleć.
Hipoteza, że trzeba używać wielkości ciągłych, jest bardzo ważna. Architektura komputerów wymusza dzielenie sygnału na porcje, co oznacza, że zawsze tracimy jakieś informacje, które są gdzieś pomiędzy tymi częściami.
Jeśli nasza świadomość opiera się na płynnych przejściach, a nie na skokowych zmianach, to nawet najlepsze komputery nie będą w stanie ją odtworzyć. Działa to trochę jak prądy i napięcia w prawdziwych obwodach elektrycznych, a nie jak przełączanie bramek logicznych w komputerze.
Zakładanie, że wystarczy tylko zwiększyć liczbę obliczeń, aby stworzyć świadomość, może być błędne. To może być przypadek, gdzie próbujemy rozwiązać problem w sposób zbyt uproszczony. Ciekawe jest to, że Leibniz, kładąc podwaliny pod rachunek różniczkowo-całkowy, doskonale rozumiał wagę tych ciągłych przejść, a my dzisiaj wciąż próbujemy je zasymulować zerami i jedynkami.
Do tej niezwykle ciekawej dyskusji na temat SI chętnie dołożę perspektywę jednego z najwybitniejszych pionierów tej dziedziny, Geoffrey’a Hintona, zwanego również „ojcem chrzestnym sztucznej inteligencji”. Jego przemyślenia doskonale wpisują się w stawiane tu przez Państwa tezy na temat tego, czym tak naprawdę jest „sztuczność” w kontekście umysłu i poznania.
Odnosząc się najpierw do wcześniejszych komentarzy pod wpisem – w pełni zgadzam się z Dominiką M., która bardzo trafnie zauważyła, że zbudowanie sztucznego umysłu ostatecznie udowodniłoby, iż świadomość i inteligencja to cechy możliwe do odtworzenia. Celny jest również wpis Kamila Z., który słusznie zwraca uwagę na konieczność zdefiniowania samej inteligencji, przypominając o jej wielu wymiarach. Zbyt często oceniamy SI wyłącznie przez pryzmat ludzkiej, organicznej biologii, co zamyka nas w wąskich ramach pojęciowych.
W tym kontekście zaciekawił mnie artykuł z platformy Medium zatytułowany „Responding to the Godfather of AI, Geoffrey Hinton”. Tekst ten celnie podsumowuje obawy oraz nadzieje Geoffreya Hintona, laureata Nagrody Nobla w dziedzinie fizyki. Hinton uważa, że współczesne modele sztucznej inteligencji, bazujące na sieciach neuronowych, dostarczają nam obecnie najlepszego dostępnego modelu do zrozumienia samego ludzkiego poznania. W artykule czytamy również o paradoksie, na który wskazuje noblista: systemy SI stały się tak potężne i skomplikowane, że sami badacze nie do końca rozumieją już mechanizmy ich wewnętrznego działania, co upodabnia je do wciąż nieodgadnionego ludzkiego mózgu.
Odnosząc się szerzej do obecnych tez Hintona – jest on absolutnie przekonany, że systemy sztucznej inteligencji faktycznie rozumieją przetwarzane informacje i są prawdziwie inteligentne. „Ojciec chrzestny SI” kategorycznie odrzuca modne ostatnio nazywanie dużych modeli językowych (LLM) zaledwie „stochastycznymi papugami”. Argument, że AI to tylko zaawansowane autouzupełnianie (tzw. statystyczne przewidywanie kolejnego słowa), uważa za błędny. Hinton podkreśla, że aby model potrafił z sensem i niezwykłą precyzją dobrać kolejne słowo w skomplikowanym kontekście, musi ten kontekst dogłębnie rozumieć. Sieci neuronowe nie kopiują bezmyślnie danych z internetu – one budują w swoich wagach abstrakcyjne reprezentacje świata, działając niezwykle podobnie do siły połączeń między biologicznymi synapsami.
Przemyślenia Hintona prowadzą do wniosku, że upieranie się przy deprecjonującym wydźwięku słowa „sztuczna” traci na znaczeniu w świetle obecnego rozwoju technologii. Jeżeli wewnętrzny mechanizm rozumienia wykazuje cechy prawdziwego wnioskowania, a umiejętności poznawcze powoli przewyższają ludzkie, to mamy (lub w niedalekiej przyszłości będziemy mieli) do czynienia z inteligencją w pełni autentyczną. Jej jedyną „sztucznością” jest to, że wyewoluowała na krzemie, a nie na węglu.
Polecam wysłuchanie tego wywiadu: https://www.youtube.com/watch?v=qrvK_KuIeJk.
W dyskusji, pojawił się wątek tego, że wciąż nie wiemy do końca, jak działa nasz własny umysł. Chciałbym rozwinąć ten temat z nieco bardziej inżynieryjnej i matematycznej perspektywy, bo wydaje mi się, że to właśnie tutaj leży klucz do zrozumienia naszej relacji z AI.
Jako ludzkość nie dysponujemy dziś żadną ścisłą, matematyczną czy wręcz biologiczną definicją inteligencji i świadomości. Skoro nie potrafimy zdefiniować oryginału, porywanie się na tworzenie jego „sztucznej” wersji to pewna epistemiczna arogancja. W praktyce, ponieważ nie rozumiemy, jak natura tworzy procesy poznawcze, uciekliśmy się do jedynej rzeczy, którą jako inżynierowie umiemy robić naprawdę dobrze: minimalizacji funkcji straty w gigantycznych macierzach. Nazywanie tej optymalizacji „Sztuczną Inteligencją” to obecnie w dużej mierze niezwykle udany chwyt marketingowy.
Wpadliśmy przy tym w groźną pułapkę poznawczą: założyliśmy, że skoro do wykonania jakiegoś zadania, np. analizy danych czy napisania wiersza, dotychczas potrzebny był inteligentny człowiek, to maszyna rozwiązująca to samo zadanie również musi być w jakiś sposób „inteligentna”. To błąd mierzenia zjawiska wyłącznie przez pryzmat efektu wyjściowego. Wynik działania przypomina inteligencję, ale mechanizm, który do niego prowadzi, już absolutnie nie.
Najlepiej widać to na etapie uczenia. Biologiczny umysł cechuje się ogromną elastycznością i efektywnością poznawczą – człowiek potrafi wyabstrahować nową regułę zaledwie po kilku przykładach. Tymczasem nasze modele AI potrzebują mnóstwa często starannie przygotowanych danych, aby w ogóle zacząć działać. Z inżynieryjnego punktu widzenia system, który aby znaleźć jakąś zależność, musi „przepalić” miliony wariantów, jest wręcz zaprzeczeniem definicji inteligencji. To triumf brutalnej siły i statystyki, a nie wyraz bystrości czy zrozumienia.
Dopóki nie nauczymy się definiować i modelować „prawdziwej” inteligencji, nasza debata o tej sztucznej przypomina błądzenie we mgle. Zbudowaliśmy potężne, użyteczne kalkulatory statystyczne, które dają zachwycające rezultaty, ale których mechanika nie ma nic wspólnego z elastycznością naturalnego umysłu.
Moim zdaniem cały ten spór o „sztuczną inteligencję” w dużej mierze wynika z tego, że samo pojęcie inteligencji jest od początku mocno związane z człowiekiem. W praktyce to my (ludzie) definiujemy, co uznajemy za myślenie, rozumowanie czy świadomość, więc naturalnie punktem odniesienia zawsze pozostaje ludzki umysł.
W tym sensie wydaje mi się, że „inteligencja” w ścisłym znaczeniu jest czymś zarezerwowanym dla człowieka. Wszystko, co powstaje poza człowiekiem, nawet jeśli wykonuje podobne zadania, jest raczej próbą odwzorowania albo symulacji tego procesu niż jego pełnoprawnym odpowiednikiem. Dlatego każda „myśl” generowana przez systemy sztucznej inteligencji byłaby w tym ujęciu myślą sztuczną – czyli taką, która nie wynika z doświadczenia, świadomości czy intencji, ale z przetwarzania danych i algorytmów.
Z tego punktu widzenia AI nie tyle „myśli”, co naśladuje sposób, w jaki człowiek dochodzi do wniosków. Może robić to bardzo przekonująco, czasem nawet lepiej niż człowiek w konkretnych zadaniach, ale nadal pozostaje to imitacją, a nie autentycznym aktem intelektu.
Oczywiście można się z tym nie zgodzić i twierdzić, że inteligencja powinna być definiowana funkcjonalnie, czyli przez to, co dany system potrafi zrobić. Jednak intuicyjnie mam wrażenie, że jeśli coś nie posiada ludzkiej świadomości ani intencji, to trudno mówić o prawdziwej inteligencji w pełnym sensie tego słowa.
Mam wrażenie, że problem ze „sztucznością” SI bierze się trochę z tego, że traktujemy człowieka i naturę jako jedyny wzór prawdziwej inteligencji. Często zakładamy, że żeby coś było naprawdę inteligentne, musi myśleć tak jak człowiek, mieć świadomość, emocje albo biologiczny mózg.
A może wcale nie musi? Przecież wiele rzeczy stworzonych przez człowieka nie działa dokładnie tak jak ich naturalne odpowiedniki, a mimo to spełnia swoją funkcję. Być może z inteligencją jest podobnie – SI nie musi kopiować ludzkiego sposobu myślenia, żeby skutecznie rozwiązywać problemy czy prowadzić sensowną rozmowę.
Mam też wrażenie, że często mylimy „inne” z „gorsze” albo „nieautentyczne”. Możliwe, że sztuczna inteligencja nie jest po prostu kopią człowieka, tylko czymś nowym – innym rodzajem inteligencji, który trudno oceniać wyłącznie ludzką miarą.
Może więc najciekawsze pytanie nie brzmi już „czy SI myśli jak człowiek?”, ale raczej „czy potrafimy uznać za inteligencję coś, co działa zupełnie inaczej niż my?”.
Fragment tekstu przypomina swego rodzaju spór filozoficzny, jaki toczy się między samą nazwą „sztuczna inteligencja”. Możemy ją rozumieć jako stworzoną przez człowieka lub też „coś udawanego, nieprawdziwego”. I to właśnie to drugie znaczenie budzi najwięcej kontrowersji, bowiem AI rozmawia, pisze i tworzy różnorodne obrazy podobne do tych, które są wytworem ludzi. Dla części ludzi AI wykonuje tylko zaprogramowane operacje i nie ma świadomości, inni twierdzą, że skoro potrafi rozwiązywać problemy, prowadzić rozmowy i tworzyć grafiki, to posiada cechy inteligencji. Takie osoby sadzą, że inteligencję ocenia się nie po posiadanej świadomości, ale efektach działań. Skoro więc AI osiąga rezultaty jak człowiek w niektórych dziedzinach, to można u niej dostrzec choćby część cech inteligencji. Przeciwnicy takiego myślenia zarzucają AI brak emocji, samoświadomości i ludzkiego doświadczenia utożsamiając ją jedynie z narzędziem, ale nigdy odpowiednikiem ludzkiego umysłu. Ten cały spór jest na tyle ciekawy, że nigdy nie zostanie rozstrzygnięty, bo zawsze będą przeciwnicy i zwolennicy każdego znaczenia.
Bardzo dziękuję za ten wpis i ciekawe postawienie problemu. Odnosząc się do pytań z tekstu, uważam, że to dosyć ważne, by ciągle i głośno podkreślać słowo „sztuczna”.
Powinno ono działać ostrzegawczo. Przypomina nam, że AI nie jest żadnym samodzielnym bytem z własną wolą, systemem moralnym czy emocjami w przeciwieństwie do ludzi. Wydaje mi się że gdy o tym zapominamy, łatwo wpadamy w pułapkę. Zaczynamy traktować program komputerowy jak żywego człowieka, z którym można sobie porozmawiać. Przypisujemy maszynie ludzkie cechy i intencje, których ona po prostu nie posiada.
Dlatego zdecydowanie bliżej mi do Pana porównania ze „sztucznym uśmiechem”. AI świetnie udaje, że nas rozumie, potrafi generować piękne i spójne zdania, często nawet nam schlebiając, ale to wsyztsko jest jedynie imitacją. Ciągłe przypominanie sobie, że to tylko sztuczny twór, jest w moim przekonaniu konieczne, żebyśmy nie ulegli złudzeniu, że mamy po drugiej stronie ekranu kogoś prawdziwego.
Kiedy patrzymy na to, jak szybko rozwija się nowoczesna technologia, widać wyraźnie, że maszyny coraz bardziej upodabniają się do ludzkiego mózgu. Co ważne, dzieje się to nie tylko w sposobie ich 'myślenia’, ale nawet w samej ich budowie. Świetnym przykładem są konwolucyjne sieci neuronowe (CNN), które zostały zaprojektowane tak, aby naśladować działanie ludzkiego wzroku i strukturę warstwową naszego mózgu.
Jeśli więc odrzucimy wiarę w tajemniczą 'duszę’ i uznamy, że ludzkie myślenie to w gruncie rzeczy czysta biologia i chemia – miliony impulsów elektrycznych przesyłanych między komórkami w głowie – to nasz mózg staje się po prostu bardzo zaawansowanym, biologicznym komputerem.
W takiej sytuacji różnica między sztuczną a ludzką inteligencją zależy tylko od tego, jak bardzo skomplikowany jest dany układ. Dlatego uważam, że im bardziej technologia pójdzie do przodu i im lepiej maszyny będą kopiować te nasze biologiczne schematy, tym bardziej granica między człowiekiem a komputerem będzie się zacierać. W pewnym momencie ta różnica może stać się tak cienka, że podział na inteligencję 'sztuczną’ i 'naturalną’ przestanie mieć jakikolwiek sens.
Czytając najnowsze głosy w dyskusji, zauważyłam niezwykle ciekawą polaryzację naszych stanowisk, która idealnie oddaje dualizm samej koncepcji SI.
Z jednej strony mamy silnie reprezentowany nurt sceptyczny i inżynieryjny. Trudno nie przyznać racji użytkownikowi Asertywny Arbuz, który trzeźwo punktuje, że dzisiejsze modele to w dużej mierze optymalizacja funkcji straty w gigantycznych macierzach, oparta na brutalnej sile statystyki, a nie elastyczności poznawczej. Podobną ostrożność postuluje Karina U, przestrzegając przed wpadaniem w pułapkę antropomorfizacji i przypisywaniem maszynie intencji, których ona nie posiada. W tym ujęciu „sztuczność” to po prostu synonim bardzo sprawnej iluzji.
Z drugiej strony, o wiele bliższe jest mi stanowisko wyłaniające się z komentarzy poszukujących nowych definicji. Całkowicie zgadzam się z Michałem P – dlaczego mielibyśmy traktować ludzką, biologiczną naturę jako jedyny, uniwersalny wzorzec inteligencji?. Świetnie rozwija to Zuzia, przywołując słowa Geoffreya Hintona: skoro modele budują w swoich wagach abstrakcyjne reprezentacje świata, to kategoryczne nazywanie ich zaledwie „stochastycznymi papugami” może być już nieaktualne.
Zastanawiam się, czy nasz opór przed uznaniem autentyczności SI – wynikający chociażby z faktu, że maszyna nie posiada ludzkiej świadomości ani doświadczenia (co podkreślał Kacperr) – nie jest wyrazem pewnego szowinizmu węglowego. Jeśli, jak zauważa Jerzy M, przyjmiemy perspektywę materialistyczną i uznamy nasz mózg za niezwykle zaawansowany komputer biologiczny, to pojęcie „sztuczności” traci swój pejoratywny ładunek. Staje się jedynie technicznym określeniem inteligencji, która wyewoluowała na krzemie, a nie na węglu.
Być może zatem – w nawiązaniu do głównego tekstu – powinniśmy przestać pytać, czy SI imituje człowieka wystarczająco dobrze, a zacząć zastanawiać się: w jaki sposób stworzyć ramy pojęciowe dla innego rodzaju inteligencji, z którą właśnie zaczynamy dzielić przestrzeń?
Z jednej strony, współczesne AI idealnie wpisuje się w model „sztucznej nerki”. Kiedy model językowy programuje aplikację, tłumaczy tekst medyczny lub rozwiązuje równania matematyczne, wykonuje realną, intelektualną pracę. Jego efektywność jest autentyczna, mimo że źródło tej pracy jest syntetyczne (stworzone przez inżynierów). Z tej perspektywy AI posiada „prawdziwą” inteligencję operacyjną.
Z drugiej strony, gdy ten sam model generuje tekst pełen rzekomej empatii, pociesza użytkownika lub twierdzi, że „cieszy się” z rozwiązania problemu, mamy do czynienia z klasycznym „sztucznym uśmiechem”. Model nie odczuwa radości, nie ma intencji ani świadomości – jedynie statystycznie przewiduje kolejne słowa, które w ludzkim odbiorze brzmią jak emocje. Jest to czysta symulacja (imitacja), o której wspomina autor tekstu.
Bardzo trafne ujęcie problemu, w którym szczególnie przemawia do mnie odwołanie się do metafory sztucznej nerki. Ten przykład doskonale pokazuje, że nasz syntetyczny wytwór może realizować w pełni autentyczne funkcje, nie będąc jedynie powierzchowną imitacją. Idąc tym tropem, nie powinniśmy z góry zakładać, że SI na zawsze pozostanie wyłącznie technologicznym odpowiednikiem fałszywego „sztucznego uśmiechu”. Ten fragment świetnie zachęca do głębszej refleksji nad tym, czy samo inżynieryjne pochodzenie maszyn musi z konieczności odbierać ich inteligencji status prawdziwej.