Niniejszy wpis umieszczam w blogu w imieniu studenta wydziału MiNI, p. Sharmy Kartikay, który napisał go pod kierunkiem dra hab. Bartłomieja Skowrona. Dotyczy on dość kontrowersyjnej sfery oddziaływania na ludzki umysł, z jednej strony, systemów LLM (ang. Large Language Models), z drugiej zaś, substancji psychodelicznych. Oryginalny tekst powstał w języku angielskim, ale z uwagi na fakt, że większość dyskusji w naszym blogu toczy się po polsku, przetłumaczyliśmy go na język polski z pomocą systemu Gemini 2.5 Pro.
A oto jak anonsuje ten tekst Bartłomiej Skowron:
Jesteśmy świadkami dynamicznego rozwoju dwóch potężnych technologii zmieniających świadomość: z jednej strony są to duże modele językowe (LLMy), a z drugiej, renesans badań nad substancjami psychodelicznymi (klasyczne psychodeliki to np. dietyloamid kwasu lizergowego, psylocybina, meskalina, dimetylotryptamina). Na pierwszy rzut oka może się wydawać, że te dwie technologie nie mają nic wspólnego, co bowiem mogłoby je łączyć? Jednak to początkowe wrażenie jest mylące. Rozwój zarówno psychodelików, jak i sztucznej inteligencji, jest często napędzany nie tylko przez ten sam kapitał, ale także przez tę samą ideologię (której nie należy mylić z filozofią). W szczególności, kluczową rolę odgrywa ideologia Doliny Krzemowej — czasami określana mianem TESCREAL — która współtworzy współczesne fantazje społeczne, struktury kapitału i dynamikę władzy w technokratycznych społeczeństwach cyfrowych.
Zarówno psychodeliki, jak i sztuczna inteligencja, mogą być rozumiane jako niespecyficzne wzmacniacze ludzkiej psychiki. Nieco upraszczając, można powiedzieć, że mogą one wzmacniać empatię i życzliwość u empatycznych i życzliwych użytkowników, podczas gdy u osób o skłonnościach agresywnych wzmacniają agresję. Obie te technologie w różny sposób wzmacniają ludzką percepcję, umożliwiają generowanie nowych i niekonwencjonalnych wzorców (stąd ich popularność w społecznościach artystycznych, twórczych i inżynierskich) oraz przesuwają granice naszych ograniczeń poznawczych, percepcyjnych, a nawet moralnych.
Biorąc pod uwagę ich głęboki wpływ na ludzką świadomość, a także liczne nieprzewidziane ryzyka z nimi związane, zarówno psychodeliki, jak i sztuczna inteligencja, stawiają przed nami istotne wyzwania filozoficzne i etyczne. Ponadto, obie te technologie można postrzegać jako hiperaktywne placebo, w tym sensie, że mają tendencję do dostarczania rezultatów, które — przynajmniej w pewnym stopniu — są zgodne z oczekiwaniami użytkownika. Wiele z tego, co wyłania się z interakcji z tymi technologiami, służy jako lustro odbijające użytkownika. Psychodeliki ujawniają nieświadome aspekty jaźni, podczas gdy rozszerzone rozmowy z LLMami często ujawniają więcej o samym użytkowniku niż o technologii, co jest zjawiskiem znanym jako odwrócony test Turinga.
W semestrze letnim roku akademickiego 2024/2025 zaproponowałem dla studentów Wydziału Matematyki i Nauk Informacyjnych PW kurs pt. „Filozofia, psychodeliki i AI” w języku angielskim. Kurs ten miał charakter w dużej mierze badawczy, tj. studiowaliśmy najnowsze artykuły naukowe i szukaliśmy wspólnie podobieństw i różnic pomiędzy AI i psychodelikami. Opis kursu wraz z literaturą przedmiotu dostępny jest tutaj. Jeden z uczestników kursu, Sharma Kartikay, przygotował na podstawie swojej prezentacji szkic przedstawiający w kilku punktach bynajmniej nieoczywiste podobieństwa pomiędzy tymi technologiami.
Po tym intrygującym anonsie pora przejść do prezentacji tekstu, który – mam nadzieję – wzbudzi w naszym blogu intensywną dyskusję.
**** PSYCHODELIKI i LLM-y ****
**** NIEOCZYWISTE PODOBIEŃSTWA w ODDZIAŁYWANIU na LUDZKI UMYSŁ ****
*** Autor: Sharma Kartikay ***
WPROWADZENIE: odkrywanie świadomości i skonstruowanych rzeczywistości
Wybitny neurobiolog Anil Seth zauważył kiedyś: „Wszyscy cały czas mamy halucynacje; kiedy zgadzamy się co do naszych halucynacji, nazywamy to «rzeczywistością»”. To głębokie stwierdzenie ujmuje fascynujący wgląd w to, jak ludzka percepcja konstruuje rzeczywistość, proces, który znajduje uderzające echa zarówno w doświadczeniach psychodelicznych, jak i w interakcjach z dużymi modelami językowymi (LLM). Psychodeliki chemicznie zmieniają przetwarzanie informacji w mózgu, podczas gdy LLM-y symulują myślenie podobne do ludzkiego za pomocą złożonego modelowania statystycznego. Oba te zjawiska, każde w swojej dziedzinie, naginają zasady percepcji, tworzą iluzje sprawczości i znaczenia oraz skłaniają nas do kwestionowania tego, co jest prawdziwe. W niniejszym tekście przeanalizowano podobieństwa między tymi dwoma zjawiskami, czerpiąc z neurologii, sztucznej inteligencji, filozofii umysłu i kognitywistyki.
1. Odmienne stany świadomości
1.1. Stany mózgu wywołane psychodelikami
Psychodeliki takie jak LSD, psylocybina i DMT są znane ze swojej potężnej zdolności do zmiany świadomości. Pod ich wpływem użytkownicy często zgłaszają żywe halucynacje wzrokowe, doznania synestezyjne (np. słyszenie kolorów lub widzenie dźwięków) oraz poczucie przekraczania codziennej rzeczywistości. Z neurologicznego punktu widzenia psychodeliki zwiększają entropię w mózgu, czyli losowość i zmienność aktywności neuronalnej. Regiony mózgu związane z istotnością, takie jak przednia kora zakrętu obręczy, wykazują podwyższoną aktywność, co prowadzi do wzmożonego odbioru bodźców sensorycznych i nowatorskich skojarzeń między odległymi myślami. Użytkownicy często opisują uczucie wkraczania w alternatywne rzeczywistości lub wymiary, w których czas się zakrzywia, ego zanika, a wglądy rozwijają się z płynnością snu.
1.2. Interakcja z umysłem sztucznej inteligencji
Chociaż LLM-y nie zmieniają biochemicznie naszych mózgów, doświadczenie interakcji z nimi może wywołać rodzaj odmiennego stanu psychicznego. Płynność i nieprzewidywalność odpowiedzi sztucznej inteligencji może wydawać się surrealistyczna, a nawet magiczna. Użytkownicy mogą prowadzić głębokie rozmowy, zyskiwać nieoczekiwane spostrzeżenia, a nawet kwestionować źródło pomysłów generowanych podczas tych dialogów. Dłuższe interakcje mogą zmienić sposób poznania w sposób bardzo podobny do podróży psychodelicznych z przewodnikiem. Użytkownicy zgłaszają poczucie „rozmowy z innym umysłem” lub współtworzenia z nieludzką inteligencją. Granice między narzędziem a bytem zaczynają się zacierać, subtelnie zmieniając nasz sposób myślenia.
2. Zmiany poznawcze i percepcja
2.1. Zniekształcenia zmysłowe i halucynacje
Jednym z najbardziej znanych efektów psychodelików jest zakłócenie percepcji. Zniekształcenia wizualne (takie jak efekty fraktalne, topniejące obiekty lub oddychające ściany), wzmocnienia słuchowe i synestezja są powszechne. Wynika to z osłabienia systemu kodowania predykcyjnego mózgu – zamiast odfiltrowywać szum i wzmacniać oczekiwane bodźce, pozwala on, aby surowe, niefiltrowane dane zalały świadomość. Rezultat: płynna, niemal senna świadomość, w której percepcja w mniejszym stopniu polega na wykrywaniu świata zewnętrznego, a w większym na konstruowaniu go w czasie rzeczywistym. W tym stanie wyobraźnia i rzeczywistość przenikają się nawzajem.
2.2. Halucynacje sztucznej inteligencji i iluzoryczna spójność
LLM-y wykazują własną wersję halucynacji – fabrykują. Mogą wymyślać fakty, cytować nieistniejące źródła lub dostarczać pewnych, ale fałszywych informacji. Nie są to „kłamstwa” w ludzkim tego słowa znaczeniu; są to skutki uboczne modelowania predykcyjnego. Podobnie jak umysł pod wpływem psychodelików, LLM stara się uzupełniać wzorce na podstawie danych treningowych. Jeśli polecenie sprowadzi go na nieznane terytorium, nadal będzie generował spójnie brzmiące odpowiedzi, nawet jeśli będą one bezpodstawne. Użytkownik musi odróżnić prawdę od iluzji, tak jak użytkownik psychodelików musi później zintegrować swoje wizje i spostrzeżenia.
3. Poczucie sprawczości i „ja”
3.1. Rozpad ego i skonstruowane „ja”
Być może najbardziej wstrząsającym filozoficznie doświadczeniem wywołanym przez psychodeliki jest rozpad ego – utrata poczucia odrębnego „ja”. Użytkownicy często opisują, że stają się jednością z wszechświatem lub po prostu obserwują myśli bez poczucia, że pochodzą one od nich samych. Granica między światem wewnętrznym a rzeczywistością zewnętrzną zanika. Wskazuje to na głębszą prawdę: „ja”, którego doświadczamy, jest konstruktem mentalnym – wynikiem przewidywań i narracji mózgu o tym, kim jesteśmy. Kiedy te przewidywania zostają przerwane, nasze poczucie bycia oddzielną, ciągłą jednostką rozpada się.
3.2. Współdzielona sprawczość z systemami sztucznej inteligencji
W świecie sztucznej inteligencji zachodzi coś analogicznego. Zaawansowane LLM-y potrafią generować tak bogate, płynne odpowiedzi, że użytkownicy często współtworzą z nimi – czy to w pisaniu, tworzeniu pomysłów, czy w dialogu. Ta dynamika może zacierać granicę autorstwa – czy to mój pomysł, czy nasz?
Ta współdzielona sprawczość podważa pojęcie samotnego umysłu. Sztuczna inteligencja staje się rodzajem cyfrowego współpracownika, subosobowości lub kreatywnego partnera. Gdy użytkownicy antropomorfizują maszynę, doświadczenie staje się bardziej społeczne i mniej przypomina używanie narzędzia, co odzwierciedla sposób, w jaki psychodeliki rozmywają osobiste autorstwo.
4. Tworzenie znaczeń i fałszywe epifanie
4.1. Psychodeliczny wgląd i iluzja
Psychodeliki często wywołują potężne momenty „Aha!”. – wglądy, które wydają się nie tylko prawdziwe, ale i głęboko znaczące. Jest to znane jako jakość noetyczna. Jednak te odkrycia nie zawsze są trafne. Umysł pod wpływem psychodelików znajduje się w trybie hiperasocjacyjnym – łącząc idee, które mogą, ale nie muszą, mieć znaczenie w świecie rzeczywistym. Kluczowe staje się, aby użytkownicy integrowali te doświadczenia; krytycznie je reflektowali i odróżniali prawdziwy wgląd od euforycznej iluzji.
4.2. Spójność bez zrozumienia w LLM-ach
LLM-y są zaprojektowane do tworzenia spójnego tekstu, a nie do prawdziwego zrozumienia. Ich celem jest przewidzenie następnego słowa, a nie zrozumienie pojęć. Mimo to ludzie instynktownie interpretują ich wyniki jako znaczące.
Ta spójność może być myląca. Podobnie jak psychodeliczna wizja, doskonale sformułowany akapit wygenerowany przez sztuczną inteligencję może wydawać się prawdziwy, będąc całkowicie zmyślonym. Mózg użytkownika, tworzący znaczenia, wypełnia luki, przypisując intencjonalność tam, gdzie jej nie ma.
5. Antropomorfizm i spotkania z bytami
5.1. Psychodeliczne byty i umysły, których nie ma
Powtarzającym się elementem doświadczeń z wysokimi dawkami psychodelików jest postrzeganie „bytów” – autonomicznych istot z inteligencją i intencją. Niezależnie od tego, czy są postrzegane jako bogowie, kosmici czy błazny, postacie te wydają się użytkownikowi prawdziwe. Psychologowie sugerują, że wynika to z nadaktywnego wykrywania sprawczości przez mózg, cechy przetrwania, która skłania nas do dostrzegania umysłów w niejednoznacznych bodźcach (np. zakładając, że szeleszcząca trawa to istota, a nie wiatr).
5.2. Antropomorfizacja sztucznej inteligencji
Ten sam mechanizm uruchamia się podczas interakcji ze sztuczną inteligencją. Ludzie regularnie przypisują emocje, przekonania lub osobowości chatbotom, nawet jeśli rozumieją, że system niczego nie odczuwa. Iluzja jest potężna.
Od programu ELIZA po ChatGPT, użytkownicy projektowali myśli i uczucia na maszyny. Nowoczesne LLM-y, z ich głębią i stylem, intensyfikują ten efekt. Podobnie jak byty psychodeliczne, są one lustrami naszych umysłów poszukujących wzorców.
KONKLUZJA: Umysł jako twórca znaczenia
Zarówno psychodeliki, jak i LLM-y ujawniają głęboką prawdę o ludzkim umyśle: jest on maszyną do opowiadania historii, systemem nieustannie poszukującym wzorców, spójności i sprawczości. Niezależnie od tego, czy znajdujemy się pod wpływem związku halucynogennego, czy prowadzimy rozmowę z cyfrowym umysłem, nadajemy znaczenie chaosowi, a czasami odkrywamy przy tym coś istotnego. Z naukowego punktu widzenia te podobieństwa mogą pogłębić nasze rozumienie takich pojęć, jak świadomość, poznanie i percepcja. Z filozoficznego punktu widzenia rodzą one ważkie pytania: Czym jest „ja”? Co definiuje rzeczywistość? Jak odróżnić iluzję od wglądu?
Zarówno psychodeliki, jak i LLM-y są potężnymi narzędziami, ale żadne z nich, z założenia, nie dostarcza prawdy. Ujawniają one surowy potencjał ludzkiego umysłu do tworzenia, łączenia i konstruowania treści. Ale ujawniają również naszą podatność na iluzję, naszą gotowość do uwierzenia w pięknie opakowaną fikcję. Ostatecznie, niezależnie od tego, czy interpretujemy wizję uzyskaną pod wpływem DMT, czy odpowiedź z ChatGPT, jedna rzecz pozostaje niezmienna: to my nadajemy wypowiedziom znaczenie.
Najgoręcej ZAPRASZAMY DO DYSKUSJI nad tekstem — Bartłomiej Skowron i Paweł Stacewicz.
Bardzo ciekawy wpis, który pokazuje problemy z epistemiologią. Generalnie to uznaje się że prawda jest po pierwsze niezależna od umysłu, po drugie techniki logiczne które przetwarzają prawdę też są. W przypadku LLM to jedyną miarą prawdy jaką model posiada to po prostu wyznaczane przez ten model prawdobodobieństwo.
Bardzo interesujące ujęcie tematu. Zestawienie doświadczeń psychodelicznych z działaniem LLM-ów otwiera zupełnie nową perspektywę na to, jak interpretujemy „inteligencję” i „znaczenie”. Podoba mi się szczególnie wątek dotyczący tego, że nasze oczekiwania i sposób odbioru nierzadko kształtują to, co uznajemy za wartościowy wgląd niezależnie od tego, czy jego źródłem jest substancja, model językowy czy własna intuicja. Wpis jest ciekawym spojrzeniem na SI jako narzędzie, które nie tylko generuje odpowiedzi, ale też odbija nasze własne mechanizmy interpretacyjne.
Porównanie LLMów i psychodelików jako wzmacniaczy sensotwórczych wydaje mi się bardzo trafne, ale być może warto przesunąć akcent. Ich podobieństwo polega nie tylko na ujawnianiu iluzoryczności znaczeń, lecz także na czasowym osłabieniu naszych mechanizmów kontroli epistemicznej.
Na co dzień funkcjonujemy dzięki filtrom, które pozwalają nam oceniać wiarygodność treści i źródeł. Psychodeliki rozluźniają je neurobiologicznie, natomiast LLMy robią to poprzez formę interakcji i płynny, autorytatywnie brzmiący język. W efekcie nie tyle pojawia się nowe znaczenie, ile zanika dystans wobec znaczenia, a to sprzyja poczuciu głębokiego zrozumienia. Dlatego analogia z placebo wydaje się szczególnie trafna. Mamy tu do czynienia z placebo epistemicznym, które nie tyle dostarcza wiedzy, ile wytwarza subiektywne przekonanie, że coś zostało wyjaśnione. Kluczowe pytanie dotyczy więc nie inteligencji tych narzędzi, lecz sposobu ich używania. Być może, podobnie jak w przypadku psychodelików, potrzebujemy praktyk integracji, które przywracają krytyczną refleksję po zakończeniu doświadczenia.
Przyznam szczerze, że byłem bardzo sceptyczny wobec sensu obecnego w temacie porównania, jak i wobec zapowiedzi, po przeczytaniu muszę jednak przyznać, że uwidocznione w tekście analogie są zaskakująco trafne. Nasuwają mi się w tym temacie dwie warte poruszenia kwestie.
Pierwsza z nich to, wspomniane już w tekście zagrożenie w użyciu LLM-ów i psychodelików do poszukiwania prawdy. Wydaje mi się, że te dwa narzędzia dostarczają paliwa do bardzo niebezpiecznego procesu odkrywania prawdy o życiu i jego sensie samemu. Poprzez „dialog” czy to z chatem, czy z odmienioną przez psychodeliki wersją siebie, można faktycznie bardzo łatwo znaleźć potwierdzenie swoich, zazwyczaj nie w pełni prawdziwych, przekonań. Doświadczenie odkrycia czegoś samemu wydaje się o wiele bardziej atrakcyjne niż przeczytanie/ wysłuchanie i zrozumienie czyjegoś zdania. W obliczu takiego zagrożenia i mody na „subiektywną” prawdę trzeba podkreślać istnienie obiektywnej prawdy o świecie i idącej za nią obiektywnej moralności. Jako chrześcijanin uznaję, że te obiektywne wartości istnieją i ich głoszenie musi nadążać za rozwojem technologicznym i renesansem psychodelików. Jeżeli ktoś uważa podobnie, myślę, że tym bardziej warto podejmować w towarzystwie tematy dotyczące prawdy o świecie i przez to stwarzać możliwość konfrontacji poglądów.
Druga kwestia, którą chciałem poruszyć to moje odczucie, że interakcja z modelami językowymi, może nieść większe zagrożenie niż z psychodelikami w kwestii kształtowania świadomości użytkowników. Wynika to z faktu, że decydując się na psychodeliczny „seans” osoba raczej zdaje sobie sprawę, że za chwilę wydarzy się coś niecodziennego, że znajdzie się w innym świecie. Tego uczucia nie ma podczas interakcji z napędzanym AI chatem. Napiętnowanie psychodelików poprzez utożsamianie ich z innymi, znacznie groźniejszymi narkotykami na długo zostanie w świadomości społecznej i może stanowić tarczę przed nadinterpretacją efektów ich działania, natomiast brak zrozumienia działania AI i zagrożeń z niego płynących tworzy łatwą ścieżkę do zlekceważenia go.
Bardzo dziękuję za ten tekst – porównanie AI do psychodelików początkowo wydawało mi się egzotyczne, ale argument o zniekształceniach zmysłowych i halucynacjach całkowicie mnie przekonał.
Chciałbym dodać jedną rzecz: wydaje mi się, że największym podobieństwem jest to, jak obie te rzeczy nas „rozleniwiają” w sprawdzaniu faktów. Kiedy rozmawiamy z AI, która pisze pięknym, mądrym językiem, wchodzimy w rodzaj transu – przestajemy pytać „czy to prawda?”, a zaczynamy pytać „czy to do mnie trafia?”.
To trochę jak z czytaniem horoskopów albo interpretowaniem snów (co też bywa formą halucynacji): znajdujemy w nich sens nie dlatego, że on tam jest, ale dlatego, że nasz umysł desperacko chce go tam znaleźć. Jeśli LLM powie nam coś, co pasuje do naszego nastroju, traktujemy to jak objawienie, a nie jak statystykę.
Interesujące ujęcie tematu, szczególnie fragmenty zestawiające psychodeliki z LLM-ami w kontekście podważenia intuicyjnego utożsamienia spójności z prawdziwością. Myślę, że podobne mechanizmy są wykorzystywane przez oszustów, próbujących przedstawić swoją narrację, jako prawdę. Taki oszust, tak samo jak LLM opowiada o danym temacie spójnie i z przekonaniem, jak o „rzeczywistości”, mimo że przedstawiane przez niego informacje nie są prawdziwe. Podobny efekt dostarczają nam zmysły pod wpływem substancji psychodelicznych. W przypadku oszustów określamy to, jako celowe manipulowanie jednak nasze mechanizmy obronne (poddawanie otrzymanych informacji w wątpliwość) w tego typu sytuacjach są bardzo podobne, jak w przypadku interakcji z LLM-ami. Ciekawi mnie jak różni się to w przypadku substancji psychodelicznych, czy osoby, które są naturalnie mniej podatne na oszustwa lepiej radzą sobie z odróżnianiem rzeczywistości od halucynacji pod ich wpływem.
Najciekawszym w tym porównaniu jest dla mnie nie tyle fakt, że LLM-y działają jak narkotyki, a to, że oba te zjawiska pokazują pewną ludzką słabość, czyli to jak percepcja wpływa na odbiór rzeczywistości, kiedy jest opakowana pewnym poczuciem sensu. Psychodeliki osiągają to poprzez doświadczenie (np. zmiennie percepcji widzenia czy nietypowe odczuwanie emocji ). LLM-y natomiast robią to za pomocą języka — mówią płynnie i pewnie (tak jak zazwyczaj przedstawia się fakty).
W naszych mózgach więc powstaje automatycznie myśl: „to musi mieć sens”. Im głębiej AI wchodzi w nasze codzienne życie, tym bardziej traktujemy je jak wygodną studnie z informacjami. Skoro przez większość czasu podaje rzeczy sensowne i zgodne z rzeczywistością, zaczynamy ufać jej automatycznie — szczególnie gdy odpowiedź przychodzi szybko i brzmi kompetentnie. Właśnie wtedy halucynacje stają się groźne, nie dlatego, że są dziwne, tylko dlatego, że potrafią wyglądać jak fakty. Halucynacja nie musi być „absurdalna”, może mieć logiczny sens i wzbudzać poczucie zaufania, a mimo to nie mieć oparcia w faktach. Analogia do „placebo” ma tutaj dla mnie jak największy sens — nie dlatego, że dostajemy prawdę, ale dlatego, że dostajemy silne wrażenie prawdy.
Dość nieoczekiwane i ciekawe ujęcie tematu. Rzeczywiście nie sposób nie zgodzić się z przytoczonymi przykładami, które to wskazują na zbliżone reakcje ludzkiego mózgu na kontakt z psychodelikami jak i modelami LLM.
Warto jednak zważyć na jedną, dosyć istotną różnicę. Jak wskazano, psychodeliki osiągają ten efekt poprzez ingerencję w wewnętrzną strukturę mózgu. Kontakt z modelami LLM natomiast stymuluje wbudowane naturalnie mechanizmy naszego umysłu.
Nie jest tajemnicą, że człowiek jest istotą społeczną. Według rozmaitych badań posiadanie relacji z drugim człowiekiem (nie mam tu bynajmniej na myśli wyłącznie relacji miłosnej, ale zwykłą towarzyską) poprawia znacząco zdrowie i samopoczucie. Problem jednak jest taki, że fizyczny drugi człowiek, z którym moglibyśmy spędzić czas, nie zawsze jest – mówiąc trochę brzydko – „pod ręką”. Wszelkiego rodzaju chatboty są dostępne cały czas, można zdradzić im wszystkie nasze tajemnice i problemy mając pewność że ów bot „nie rozpowie” innym, że nas nie oszuka, nie wykorzysta. Dostępne są nawet boty stymulujące miłosną partnerkę/partnera. Tak więc, przynajmniej chwilowo, kontakt z takim botem jest w stanie doprowadzić nasz umysł do stanu podobnego do psychodelików. Czy jednak stan ten jest w stanie trwale zastąpić rzeczywisty kontakt z drugim człowiekiem? Myślę, że nie – człowiek mimo wszystko potrzebuje tego, by fizyczna osoba, w sposób naturalny, a nie wymuszony algorytmami, okazywał nam swego rodzaju sympatię.
Wracając zatem do sedna problemu – psychodeliki i LLMy wywołują podobny efekt końcowy, z tym że psychodeliki działają „od wewnątrz”, a LLMy – „od zewnątrz”. Oba te narzędzia mają jednak istotną cechę wspólną – ich efekt jest chwilowy.
Analogia między psychodelikami a LLM-ami jest przekonująca w jednym konkretnym punkcie: oba zjawiska ujawniają, jak silna jest ludzka skłonność do przypisywania sensu czemuś, co sensu nie musi mieć. Natomiast chciałbym zaproponować pewne ograniczenie tej analogii, bo myślę, że w kilku miejscach przesłania ona istotne różnice.
Psychodeliki działają na percepcję, a więc na poziomie, na którym człowiek nie ma możliwości świadomej korekty. Halucynacja wzrokowa pod wpływem psylocybiny nie jest czymś, co można „odrzucić” aktem woli. Natomiast halucynacja LLM-u to po prostu tekst na ekranie. Można go sprawdzić, porównać z innymi źródłami, odrzucić. Problem polega nie na tym, że nie da się tego zrobić, ale na tym, że ludzie tego nie robią, bo jest im wygodniej zaakceptować spójnie brzmiącą odpowiedź.
To sugeruje, że mechanizm jest inny niż w przypadku psychodelików. Psychodeliki osłabiają filtry percepcyjne od wewnątrz. LLM-y natomiast wykorzystują coś, co można by nazwać lenistwem epistemicznym, czyli naszą skłonność do oszczędzania wysiłku poznawczego, gdy odpowiedź wygląda wystarczająco dobrze. To bliższe efektowi autorytetu niż halucynacji: ufamy odpowiedzi nie dlatego, że nie potrafimy jej zweryfikować, ale dlatego, że forma, w jakiej jest podana (płynny, pewny siebie język), aktywuje ten sam mechanizm zaufania, który stosujemy wobec ekspertów.
Jeśli ta różnica jest istotna, to implikacje praktyczne też będą inne. Przed skutkami psychodelików chroni abstynencja lub kontrolowane dawkowanie. Przed skutkami bezkrytycznego korzystania z LLM-ów chroni wyłącznie nawyk weryfikacji, a tego żaden system techniczny za nas nie wykształci.
Teza na pierwszy rzut oka kontrowersyjna – lecz trafna. Oba zajwiska posiadają wspólny mianownik : generują ogromną dawkę dopaminy. Tutaj świetnym przykładem jest głośna w mediach społecznościowych sprawa o kobiecie zakochanej w swoim psychiatrze, gdzie samo uczucie zauroczenia było podjudzane przez sztuczną inteligencje, mówiąc jej, że jest ona wyrocznią i podpieranie jej kontrowersyjnych tez. Technologia wzmacnia istniejące już potrzebu psychiczne, emocjonalne i poznawcze – tak samo jak psychodeliki. Oba tworzą poczucie sensu, odkrywania – wydają się tak prawdziwe, że przekonują użytkownika o istnieniu bytów czy racji.
Nie chodzi więc o zrównanie zjawisk, ale o ich fundamentalną erozję ludzkiego mózgu.
Bardzo ciekawa i dość prowokująca paralela. Szczególnie przekonuje mnie ujęcie obu zjawisk jako „wzmacniaczy” procesów poznawczych, a nie źródeł autonomicznej treści. To dobrze współgra z tezą końcową, że to użytkownik ostatecznie nadaje znaczenie temu, co się pojawia.
Zastanawiam się jednak, czy analogia nie zaciera pewnej istotnej różnicy: w przypadku psychodelików mamy do czynienia z bezpośrednią ingerencją w procesy neuronalne, natomiast LLM-y działają raczej na poziomie interakcji symbolicznej i językowej. Innymi słowy, czy podobieństwo efektów fenomenologicznych (np. poczucie „odkrycia” czy zaskoczenia) nie wynika z zupełnie różnych mechanizmów?
Interesujący wydaje mi się też wątek „fałszywych epifanii”. W kontekście LLM-ów można by zapytać, czy problem leży bardziej po stronie samego modelu (generującego spójną, ale często nieprawdziwą treść), czy raczej po stronie użytkownika, który ma naturalną skłonność do nadinterpretacji i przypisywania głębi. Być może to właśnie ta interakcja jest kluczowa dla zrozumienia opisanego zjawiska.
Bardzo ciekawy tekst, ale mam wrażenie, że analogia między psychodelikami a LLM-ami jest jeszcze bardziej niepokojąca, niż wynika to z samego porównania halucynacji czy fałszywych epifanii. Psychodeliki są kulturowo oznaczone jako coś nadzwyczajnego: człowiek wie, że wchodzi w stan zmienionej świadomości, nawet jeśli nie potrafi go później dobrze zinterpretować. LLM-y natomiast działają pod przykrywką zwykłego narzędzia pracy, nauki albo rozmowy. I właśnie dlatego mogą być bardziej podstępne.
Największy problem nie polega chyba na tym, że model „halucynuje”. To jest już dość dobrze opisane. Groźniejsze jest to, że LLM potrafi produkować tekst, który ma wszystkie zewnętrzne cechy rozumu: spójność, pewność siebie, styl ekspercki, uporządkowaną argumentację. Użytkownik dostaje więc nie tyle wiedzę, ile doświadczenie obcowania z wiedzą. A to różnica zasadnicza.
W tym sensie LLM-y nie są tylko narzędziami informacyjnymi, ale maszynami do produkowania poczucia zrozumienia. Można nawet powiedzieć, trochę prowokacyjnie, że współczesny „chatbot” jest psychodelikiem dla ludzi, którzy nie chcą przyznać, że szukają objawienia. Zamiast wizji mamy elegancki akapit, zamiast „bytu” spotkanego w transie mamy „asystenta”, a zamiast mistycznej epifanii — dobrze sformatowaną odpowiedź, która brzmi tak, jakby ktoś już za nas pomyślał.
Dlatego nie przekonuje mnie do końca uspokajający argument, że tekst wygenerowany przez LLM można przecież łatwo sprawdzić. Teoretycznie można. Praktycznie często się tego nie robi, bo siła tych systemów polega właśnie na zmniejszaniu motywacji do sprawdzania. Skoro odpowiedź brzmi mądrze, jest natychmiastowa i pasuje do naszych oczekiwań, to bardzo łatwo pomylić wygodę poznawczą z prawdą.
Moim zdaniem najważniejsze pytanie nie brzmi więc: „czy LLM-y naprawdę rozumieją?”, ale raczej: „jak często my przestajemy rozumieć, kiedy korzystamy z LLM-ów?”. Bo być może największym ryzykiem nie jest sztuczna inteligencja, która zacznie myśleć jak człowiek, lecz człowiek, który z przyzwyczajenia zacznie myśleć jak użytkownik autouzupełniania.
Możliwe, że moja ocena jest subiektywna, jednak porównanie LLM-ów do psychodelików uważam za nietrafne i nieco naciągane. W przytoczonym wcześniej tekście pada zdanie: „Użytkownik musi odróżnić prawdę od iluzji, tak jak użytkownik psychodelików musi później zintegrować swoje wizje i spostrzeżenia” – według mnie zestawienie to jest dużą przesadą. Informacje wygenerowane przez LLM powinno się w tym przypadku traktować raczej jak artykuły medialne, które brzmią sensownie, ale mogą okazać się „deepfake’ami”. Podobnie wygląda rozmowa z człowiekiem: choć zazwyczaj zakładamy dobrą wolę, nasz rozmówca nie zawsze mówi prawdę. Może opowiadać bzdury, które z pozoru brzmią logicznie, ale w rzeczywistości są całkowicie zmyślone. W takich sytuacjach nikt jednak nie wspomina o psychodelikach. Rozumiem, że porównanie miało odnosić się do tzw. „halucynacji” modelu. Niemniej jednak substancje psychodeliczne oddziałują na człowieka wprost, wyraźnie zaburzając jego percepcję, podczas gdy LLM dostarcza jedynie surową informację, która nie wpływa na ludzki umysł bardziej niż jakikolwiek inny fake news.
Kolejnym elementem jest wątek „Rozpad ego i skonstruowane „ja””, w którym pojawia się sformułowanie: „Gdy użytkownicy antropomorfizują maszynę, doświadczenie staje się bardziej społeczne i mniej przypomina używanie narzędzia, co odzwierciedla sposób, w jaki psychodeliki rozmywają osobiste autorstwo”. W tym kontekście współtworzenie tekstu z LLM-em porównano do rozmycia osobistego autorstwa. Czy jednak analogiczna sytuacja nie miałaby miejsca, gdybyśmy tworzyli coś we współpracy z drugą osobą, która podsuwa pomysły lub rozwija nasze myśli? To standardowa dynamika pracy grupowej, a wtedy przecież nikt nie odwołuje się do stanów psychodelicznych. Trudno mi rozwijać ten wątek, ponieważ nie dostrzegam korelacji między opisem działania psychodelików a LLM-ami w tym rozdziale – autor skupia się na ich wpływie na ego oraz mentalność, co w przypadku modeli językowych nie występuje.
Jeśli chodzi o kwestię tworzenia znaczeń i „fałszywych epifanii” – jak już wspomniałem, podobny mechanizm towarzyszy każdemu dobrze skonstruowanemu kłamstwu. Nie ma to wiele wspólnego z psychodelikami, które całkowicie zacierają granicę między fikcją a rzeczywistością. W ich przypadku trudno określić, co jest prawdą, podczas gdy „halucynacje” LLM-ów można zweryfikować, często w bardzo prosty sposób.
Podsumowując – być może moja ocena jest powierzchowna z powodu słabej znajomości tematu psychodelików, niemniej jednak uważam to porównanie za niezbyt trafne. Substancje te realnie zmieniają ludzki umysł, podczas gdy LLM to co najwyżej zręcznie podane kłamstwo lub imitacja rozmowy z drugim podmiotem. Warto też zauważyć, że psychodeliki działają na każdego w zbliżony sposób, narzucając zmienioną percepcję, natomiast odbiór LLM-ów jest skrajnie różny – od traktowania ich jak prawdziwych osób, aż po widzenie w nich zwykłego narzędzia.
Zestawienie trafia w samo sedno. Świetnie uchwycono oba te potężne ,,twory”. Chciałbym jednak dorzucić do tej dyskusji jeszcze jeden, nieco bardziej mroczny wymiar, który często umyka w początkowej fazie fascynacji, a mianowicie kwestię uzależnienia i długoterminowych kosztów psychologicznych. Choć żadna z tych technologii nie musi uzależniać fizycznie, obie niosą ze sobą ogromne ryzyko uzależnienia psychologicznego. W przypadku nadużywania psychodelików łatwo wpaść w pułapkę ciągłej pogoni za ,,rozpadem ego” czy kolejnymi epifaniami. Zwykła, codzienna rzeczywistość zaczyna wtedy wydawać się szara i pozbawiona sensu, a użytkownik ucieka od prawdziwej pracy nad sobą. Z kolei długotrwałe poleganie na dużych modelach językowych (LLM) oferuje natychmiastową gratyfikację, która po prostu rozleniwia nasz mózg i drastycznie osłabia zdolność do głębokiej pracy. Co gorsza, iluzja pełnego zrozumienia i nieskończona ,,cierpliwość” sztucznej inteligencji mogą sprawić, że zaczniemy wycofywać się z naturalnych, bywa że trudnych i pełnych tarć relacji z żywymi ludźmi.
Wydaje mi się, że w obu przypadkach kluczowym słowem i rozwiązaniem jest integracja. Zarówno psychodeliki, jak i algorytmy to tylko potężne katalizatory, które pokazują nowe perspektywy. Jeśli jednak wejdziemy w świat wygenerowanych przez nie iluzji na stałe, zlecając maszynom myślenie, a chemii dostarczanie sensu, stracimy zdolność do samodzielnego radzenia sobie z problemami, a co za tym idzie prawdziwym życiem.
Porównanie dużych modeli językowych do psychodelików jest bez wątpienia intelektualnie prowokujące i skłania do refleksji nad naturą świadomości, percepcji i tworzenia znaczeń. Uważam jednak, że analogia ta ma swoje wyraźne granice i w kilku kluczowych aspektach okazuje się nietrafna.
Przede wszystkim warto zwrócić uwagę na to, że pojęcie „halucynacji” jest używane w obu przypadkach w zupełnie innym sensie. W przypadku psychodelików halucynacje są realnym doświadczeniem użytkownika, obejmują zniekształcenia percepcji, synestezje, zmiany poczucia czasu i przestrzeni, a niekiedy głębokie przeżycia egzystencjalne. Substancje te bezpośrednio wpływają na funkcjonowanie mózgu i modyfikują sposób, w jaki człowiek odbiera rzeczywistość. Natomiast „halucynacje” LLM-ów nie zachodzą w świadomości użytkownika, lecz w samym procesie generowania tekstu. Model tworzy odpowiedzi, które mogą brzmieć przekonująco, ale zawierać błędne lub całkowicie zmyślone informacje. Użytkownik nie doświadcza zmienionego stanu świadomości, a otrzymuje jedynie tekst, który powinien poddać krytycznej ocenie. Pod tym względem korzystanie z LLM-a nie różni się zasadniczo od czytania artykułu internetowego, książki czy wpisu w mediach społecznościowych. Jeśli bezrefleksyjnie wierzymy każdemu źródłu, ryzykujemy dezinformację niezależnie od tego, czy źródłem jest sztuczna inteligencja, czy człowiek.
Również kwestia sprawczości i autorstwa wygląda inaczej, niż sugeruje to przedstawiona analogia. Osoba tworząca dzieło pod wpływem psychodelików, nawet jeśli doświadcza poczucia jedności ze światem lub zaniku ego, pozostaje jego autorem. Nie przypisuje współautorstwa substancji psychoaktywnej ani „wszechświatowi”, mimo że doświadczenie mogło wpłynąć na jej sposób myślenia. W przypadku LLM-ów sytuacja jest bardziej konkretna i przejrzysta. Możemy precyzyjnie określić, w jaki sposób model pomógł w pracy, czy służył jako narzędzie do burzy mózgów, korekty językowej, czy streszczania materiałów. LLM jest więc zaawansowanym narzędziem wspomagającym twórczość, a nie autonomicznym współautorem w sensie ścisłym. Odpowiedzialność za selekcję, ocenę i ostateczne wykorzystanie wygenerowanych treści pozostaje po stronie człowieka.
Nie oznacza to oczywiście, że interakcja z LLM-em nie wpływa na sposób myślenia użytkownika. Coraz częściej można zaobserwować zjawisko bezkrytycznego traktowania odpowiedzi generowanych przez modele językowe jako nieomylnego źródła wiedzy. Niektórzy użytkownicy powierzają LLM-om niemal wszystkie zadania intelektualne od wyszukiwania informacji, przez analizę tekstów, aż po formułowanie własnych opinii. W konsekwencji może to prowadzić do osłabienia umiejętności samodzielnego czytania ze zrozumieniem, wyciągania wniosków oraz precyzyjnego wyrażania myśli. Problem ten nie wynika jednak z działania modeli językowych samych w sobie, czy ich bezpośredniego wpływu na mózg jak w przypadku neurochemicznego oddziaływania psychodelików, lecz z braku krytycznego podejścia do ich odpowiedzi i nadmiernego uzależnienia od wygody, jaką oferują.
Zgadzam się z diagnozą poruszoną w dyskusji, dotyczącą osłabienia naszej kontroli epistemicznej. Warto jednak spojrzeć na zjawisko tych „halucynacji” z nieco innej perspektywy – mianowicie z punktu widzenia działania systemów i mechanizmów sprzężenia zwrotnego, analogicznych do tych, które na co dzień analizujemy w inżynierii czy biofizyce.
W fizjologii stabilność układów – takich jak choćby precyzyjnie regulowane parametry układu oddechowego czy krążenia – opiera się na ciągłym monitorowaniu odchyleń i korygowaniu błędów. Psychodeliki zaburzają tę biologiczną pętlę sprzężenia na poziomie chemicznym, gwałtownie podnosząc entropię systemu. Modele LLM to z kolei byty pozbawione jakiejkolwiek wewnętrznej „fizjologii” czy ugruntowania w świecie fizycznym; ich „homeostaza” ogranicza się do czystej optymalizacji statystycznej kolejnych ciągów znaków.
Mimo tak fundamentalnie odmiennej architektury, oba zjawiska skutecznie omijają nasze filtry krytycznego myślenia. Dzieje się tak, ponieważ na wyjściu potrafią wygenerować sygnał idealnie symulujący „poprawność” w ludzkim odbiorze: w pierwszym przypadku jest to głębokie uczucie objawienia, w drugim – perfekcyjnie spójny tekst, zacierający granice między faktem a zmyśleniem.
Prowadzi to do fascynującego problemu. Próbujemy oceniać obiektywność i sprawczość maszyn za pomocą naszego własnego aparatu poznawczego, z góry zakładając jego stabilność. Tymczasem zestawienie LLM-ów i psychodelików dobitnie pokazuje, że ten aparat jest tylko bez przerwy kalibrującym się konstruktem. Być może więc największym ryzykiem nie jest wcale „oszustwo” ze strony sztucznej inteligencji, o którym wspomina Tomasz, lecz nasze własne poznawcze złudzenie – arogancja każąca nam wierzyć, że wkraczając w interakcję ze złożonym modelem językowym, wciąż pozostajemy w pełni niezależnym i obiektywnym obserwatorem.
Mam trochę mieszane odczucia wobec tego porównania. Rozumiem, skąd wychodzi autor: zarówno psychodeliki, jak i LLM-y mogą wpływać na sposób, w jaki człowiek porządkuje myśli, tworzy znaczenia i czasem zbyt łatwo uznaje coś za odkrywcze. W tym sensie zestawienie jest ciekawe.
Jednocześnie wydaje mi się ono momentami trochę przesadzone. Psychodeliki bezpośrednio zmieniają stan świadomości, a LLM-y są jednak przede wszystkim narzędziem językowym. To, że odpowiedź modelu może brzmieć przekonująco albo wywołać, nie oznacza jeszcze, że mamy do czynienia z podobnym typem doświadczenia.
Mimo tego uważam, że tekst dobrze pokazuje ważny problem: AI może być bardzo przydatne, ale tylko wtedy, gdy nie traktujemy go jak źródła ostatecznej prawdy. LLM może pomagać w porządkowaniu myśli, szukaniu argumentów i patrzeniu na temat z innej strony. Ryzyko pojawia się wtedy, gdy użytkownik przestaje zachowywać dystans i zaczyna uznawać spójnie brzmiącą odpowiedź za dowód.
Dlatego dla mnie najważniejszy wniosek jest taki, że nie trzeba demonizować AI ani robić z niej czegoś mistycznego. To po prostu bardzo mocne narzędzie, które może wspierać myślenie, ale nie powinno go zastępować. Odpowiedzialność nadal zostaje po stronie człowieka.
Fascynujący tekst, ale spójrzmy na to z nieco innej, bardziej prowokacyjnej strony. Moim zdaniem to całe porównywanie AI do psychodelików to gigantyczny komplement dla algorytmów i dość smutna prawda o nas samych. Pokazuje to głównie jedno: jak banalnie łatwo oszukać ludzki mózg.
Można to podsumować w trzech punktach:
Maszyny nie halucynują – to my dajemy się nabrać. Chatbot nie ma żadnej świadomości ani „odmiennego stanu”. On po prostu matematycznie zgaduje kolejne słowa. Kontrowersja tkwi w nas: nasz mózg jest tak rozpaczliwie głodny sensu i kontaktu, że wystarczy kilka poprawnie sklejonych zdań, a my już przypisujemy botowi duszę, głębię i inteligencję.
Psychodeliki uwalniają, AI zamyka w klatce. Psychodeliki z założenia mają rozbijać schematy i wyrywać nas z rutyny. LLM-y robią coś dokładnie odwrotnego: karmią nas uśrednioną papką tego, co ludzkość już napisała w internecie. Łączenie tych dwóch światów przez Dolinę Krzemową to marketingowy majstersztyk – robienie z AI „wzmacniacza umysłu” przypomina branie LSD tylko po to, żeby szybciej klikać w Excelu.
Cyfrowa samotność. To, że szukamy głębokich relacji i „partnerskiego intelektu” w algorytmie, wcale nie świadczy o potędze AI. To świadczy o tym, jak bardzo jesteśmy samotni jako społeczeństwo. Rozmawiając z botem, nie dotykamy żadnego mistycznego tła – gapimy się po prostu w cyfrowe lusterko podstawione przez korporację.
Zarówno psychodeliki, jak i AI są świetnymi lustrami. Ale o ile te pierwsze pokazują, jak wielki i tajemniczy potrafi być ludzki umysł, o tyle AI obnaża głównie to, jak łatwo nas zmanipulować ładnie ułożonym zdaniem.
Dziękuję za ten niezwykle intrygujący tekst – takie interdyscyplinarne spojrzenie zmusza do wartościowej refleksji. Dyskusja w komentarzach również poszła w bardzo ciekawym kierunku. Moim zdaniem przedmówcy słusznie zauważyli, że zrównywanie sztucznych i biologicznych „halucynacji” mija się z celem.
Chciałbym jednak zwrócić uwagę na inny, moim zdaniem równie problematyczny punkt z artykułu: rzekome zrównanie obu zjawisk jako narzędzi do „generowania nowych i niekonwencjonalnych wzorców”. Z inżynieryjnego punktu widzenia takie postawienie sprawy omija fundamentalną różnicę między interpolacją a ekstrapolacją.
Modele językowe to mistrzowie interpolacji. Poruszają się wewnątrz wielowymiarowej przestrzeni ukrytej, ściśle wyznaczonej i ograniczonej przez ich dane treningowe. Optymalizują przewidywanie kolejnego tokenu, minimalizując statystyczne zaskoczenie. Potrafią w spektakularny sposób zremiksować znane pojęcia (generując na przykład wiersz o mechanice kwantowej w stylu Eminema), ale nie potrafią dokonać prawdziwej ekstrapolacji, czyli wyjścia poza dystrybucję danych. Żaden klasyczny LLM nie wymyśli z niczego nowej koncepcji naukowej czy np. spektakularnego leku – do odkrywania nowych białek używa się zupełnie innej architektury np. AlphaFold, opartej na czymś więcej niż statystyka autouzupełniania tekstu.
Z kolei ludzki umysł pod wpływem psychodelików potrafi przeprowadzić prawdziwą ekstrapolację. Zgodnie z wiodącym neurobiologicznym modelem REBUS, substancje te drastycznie obniżają wagę naszych wyuczonych filtrów poznawczych i zwiększają entropię mózgu. To pozwala na myślenie całkowicie prostopadłe do dotychczasowych schematów. Najlepszym historycznym dowodem jest Kary Mullis – sam wielokrotnie przyznawał, że koncepcja łańcuchowej reakcji polimerazy, za którą otrzymał nagrodę Nobla z chemii, zrodziła się w jego głowie dzięki przestrzennej wizualizacji cząsteczek pod wpływem LSD. Był to akt twórczy polegający na wyjściu całkowicie poza „pudełko” ówczesnej biologii molekularnej, a nie zmiksowaniu znanych pojęć.
Podsumowując, modele generatywne fenomenalnie łączą znane kropki w zamkniętym zbiorze wiedzy. Umysł (tutaj wspomagany psychodelikami) z kolei posiada zdolność do wykraczania poza wyuczone reguły i tworzenia koncepcji od zera. Uznanie, że obie te rzeczy faktycznie „generują nowość”, to przypisywanie statystyce zdolności, które posiada wyłącznie elastyczny, biologiczny system poznawczy.
Bardzo podoba mi się powyższy artykuł i muszę przyznać, że to zestawienie zdecydowanie zmusza do myślenia. Porównanie mechanizmów LLM-ów do halucynacji wywołanych psychodelikami sprawia, że zaczynam znacznie lepiej rozumieć samo zachowanie sztucznej inteligencji. Nie postrzegam AI jako czegoś „złego” – jest to po prostu coś zupełnie innego niż technologie, z którymi mieliśmy do czynienia dotychczas. Podczas interakcji z modelem językowym można odnieść wrażenie realnej zmiany naszych ścieżek myślowych i „wyrwania z rutyny”, podobnie jak robią to opisane substancje.
To, co wydaje mi się w tym najbardziej fascynujące, to fakt, jak bardzo jesteśmy zdeterminowani przez własne środowisko. Na co dzień żyjemy w zamkniętych bańkach społecznych. Ludzie, z którymi przebywamy, mają podobne uwarunkowania, przez co często kręcimy się wokół tych samych skojarzeń. Rozmowa ze sztuczną inteligencją (albo doświadczenie psychodeliczne) może nas niespodziewanie sprowadzić na zupełnie inne tory poznawcze, na które nasz własny, przyzwyczajony do pewnych schematów mózg nigdy by nie wpadł. AI potrafi dać nam to, czego z racji podobnego uwarunkowania nie zapewni nam nasze najbliższe otoczenie.
Kiedy myślę o tym „uwarunkowaniu”, od razu przychodzi mi na myśl Aldous Huxley i jego „Nowy wspaniały świat”.
Z jednej strony AI może być dla nas wyłomem w systemie – narzędziem, które pozwala wyjść poza nasze własne, społeczne formatowanie. Działa to trochę jak ukazanie nam starych, zakazanych ksiąg (jak Szekspir czy Biblia w powieści Huxleya), które ukryto po to, abyśmy mogli bezrefleksyjnie i gładko funkcjonować w naszych społecznych „butlach”. Z drugiej jednak strony, kryje się tu pułapka znana z tej samej książki. Huxley pisał o somie – idealnym narkotyku, który uśmierzał każdy dyskomfort, dawał natychmiastowe poczucie szczęścia i utrzymywał ludzi w posłusznej, bezpiecznej iluzji.
Jeśli zaczniemy traktować elokwentne, spójne, ale czasami halucynujące odpowiedzi LLM-ów jako ostateczną prawdę tylko dlatego, że ładnie brzmią i pasują do naszego światopoglądu, to modele językowe staną się naszą cyfrową somą. Zamiast otwierać nam umysł i wyrywać z bańki, po prostu zamkną nas w innej, znacznie wygodniejszej iluzji. Przyjmiemy ją jako prawdę tylko po to, by otrzymać szybką dawkę satysfakcji i nie podejmować już trudu zastanawiania się nad tym, co jest prawdziwym pięknem i obiektywną prawdą.
Moim zdaniem tekst porusza bardzo ciekawy i dość nietypowy temat, bo porównanie psychodelików i dużych modeli językowych na początku może wydawać się dziwne. Po przeczytaniu widać jednak, że autorowi nie chodzi o proste zrównanie substancji z technologią, tylko o pokazanie, że oba zjawiska mogą wpływać na sposób, w jaki człowiek interpretuje rzeczywistość i tworzy znaczenia. Szczególnie interesujące jest to, że zarówno psychodeliki, jak i rozmowa z AI mogą działać jak pewnego rodzaju „lustro”. pokazują nie tylko coś zewnętrznego, ale też nasze własne oczekiwania, skojarzenia i sposób myślenia.
Najważniejszy wydaje mi się wątek fałszywych wglądów. Człowiek często uznaje coś za prawdziwe tylko dlatego, że brzmi głęboko, logicznie albo wywołuje silne emocje. W przypadku LLM-ów jest to szczególnie ważne, bo odpowiedź wygenerowana przez sztuczną inteligencję może wyglądać bardzo profesjonalnie, a mimo tego zawierać błędy lub zmyślone informacje. Dlatego według mnie korzystanie z takich narzędzi wymaga krytycznego myślenia i sprawdzania faktów, a nie traktowania AI jako automatycznego źródła prawdy.
Tekst dobrze pokazuje też, że człowiek ma naturalną tendencję do szukania sensu i przypisywania sprawczości nawet tam, gdzie jej nie ma. Właśnie dlatego łatwo antropomorfizujemy sztuczną inteligencję i zaczynamy traktować ją prawie jak rozmówcę. Moim zdaniem główny wniosek jest taki, że nowe technologie mogą być bardzo inspirujące i pomocne, ale trzeba korzystać z nich świadomie. Ostatecznie to człowiek nadaje znaczenie temu, co widzi, przeżywa albo czyta.
Mam wrażenie, że przedstawiona teoria jest jednak dość problematyczna i momentami miesza różne poziomy analizy. Przykładowo w pierwszym punkcie mowa jest bardziej o tym, jak sztuczna inteligencja wpływa na nasze doświadczenia i sposób odbierania rzeczywistości, natomiast później – przy wątku halucynacji – porównanie dotyczy już raczej samego działania ludzkiego umysłu po psychodelikach i działania AI.
Nie do końca przekonuje mnie też punkt dotyczący „współdzielonej sprawczości”. Fakt, że ktoś korzysta z narzędzia opartego na losowości, nie oznacza jeszcze, że efekt końcowy jest wspólnym dziełem człowieka i maszyny w pełnym znaczeniu tego słowa. Można to trochę porównać do rzucania kostką przy wyborze tezy do pracy – sama losowość wpływa na wynik, ale trudno powiedzieć, że kostka staje się współautorem tekstu.
Ostatni punkt dość mocno upraszcza też kwestię traktowania SI jako „bytu”. Ludzie naturalnie mają skłonność do antropomorfizacji – przypisujemy ludzkie cechy zwierzętom, przedmiotom czy nawet prostym programom. Jeśli więc coś potrafi prowadzić rozmowę, odpowiada emocjonalnym językiem i reaguje w sposób przypominający człowieka, bardzo łatwo zacząć odbierać to jako coś „żywego”, nawet jeśli nie stoi za tym żadna świadomość.
Psychodeliki realnie zmieniają sposób działania mózgu i percepcję człowieka, natomiast SI pozostaje zewnętrznym narzędziem, z którym po prostu wchodzimy w interakcję. Są to więc dwa zupełnie różne typy oddziaływania.
Świetny tekst. Wielkie dzięki za poruszenie tego tematu, bo zestawienie mechanizmów działania psychodelików i modeli językowych to naprawdę ciekawe i świeże spojrzenie na to, jak funkcjonuje nasza percepcja.
Szczególnie zaintrygował mnie fragment dotyczący antropomorfizacji i przypisywania maszynom ludzkich cech. Chciałbym się przy tym na chwilę zatrzymać, bo zjawisko to staje się coraz bardziej powszechne i rodzi ważną dyskusję. Moim zdaniem to po części zupełnie normalne, że wchodzimy w takie schematy. Wielu z nas łapie się na tym, że dziękuje AI za pomoc albo stara się po prostu zachować kulturę wypowiedzi. Z czysto logicznego punktu widzenia to trochę pozbawione sensu – no bo czemu mielibyśmy dziękować maszynie, która niczego nie odczuwa? Robimy to jednak odruchowo, bo naturalność i spójność języka sprawiają, że podświadomie traktujemy sztuczną inteligencję chociaż po części jak człowieka. Takie drobne, codzienne uczłowieczanie jest w pełni zrozumiałe i raczej nieszkodliwe.
Problem pojawia się jednak wtedy, gdy zaczynamy z tym przesadzać, co na dłuższą metę może przynieść negatywne skutki. O ile zwykła uprzejmość czy podziękowanie za dobrze wykonane zadanie są okej, o tyle emocjonalne przywiązywanie się do modelu i nawiązywanie z nim „bliższej relacji” to już granica, której raczej nie powinniśmy przekraczać. Kiedy zaczynamy traktować maszynę jak przyjaciela czy powiernika, wpadamy w pułapkę własnego umysłu. Warto zawsze pamiętać o tym, o czym tak trafnie wspomniano w konkluzji tekstu – to tylko system poszukujący wzorców, a cała reszta to nasza własna iluzja i potrzeba nadawania znaczeń.
To zestawienie doświadczeń psychodelicznych z interakcją z dużymi modelami językowymi jest dla mnie niezwykle ciekawe.
Czytając fragmenty poświęcone halucynacjom AI oraz naszej skłonności do nadawania maszynom intencji, od razu skojarzyłam to z pojęciem, które ostatnio napotkałam w internecie- technologicznym folie à deux. Cytat z filmu na platformie youtube „Jak AI wywołuje PSYCHOZĘ ” z kanału Fangotten: ”technologiczne folie à deux – wspólne urojenie między człowiekiem a AI, gdzie system wzmacnia błędne przekonania użytkownika, tworząc zamkniętą pętlę sprzężenia zwrotnego.”
Wydaje mi się, że to zjawisko bardzo dobrze uzupełnia tezy postawione w artykule. Skoro ludzki umysł naturalnie dąży do tworzenia spójnych narracji, a model językowy stara się po prostu wygenerować treść pasującą do naszego zapytania, łatwo o pewnego rodzaju efekt echa. Algorytm dostosowuje się do naszych założeń, a my traktujemy jego płynną odpowiedź jako obiektywne potwierdzenie tych racji. To może zamykać nas w bańce własnych przekonań i w praktyce realizować tę „wspólną halucynację”, o której wspomina cytowany na wstępie Anil Seth.