Obecnym wpisem chciałbym odświeżyć, ale też nieco inaczej ukierunkować, dyskusję sprzed 11 lat (!), która nosiła tytuł „Czy informatykom jest potrzebna filozofia?”. Tytuł ten był wyrazem wstępnego rozpoznania „stanu ducha” ówczesnych studentów informatyki, którzy raczej stronili od filozofii. Postrzegali ją jako dyscyplinę radykalnie różną od informatyki (czy nauk pokrewnych) i stąd zastanawiali się, czy w ogóle, w jakimkolwiek stopniu, może się ona im przydać.
Tym razem, zadaję pytanie mniej ostrożne, a nawet ciut tendencyjne: „Do czego i dlaczego informatycy potrzebują filozofii?”. Nie pytam zatem “Czy…“, lecz przyjmując, że odpowiedź jest pozytywna, dopytuję o szczegóły i przyczyny ich zainteresowania filozofią. Sugeruję tym samym, że stan ducha przyszłych programistów, analityków danych i specjalistów od sztucznej inteligencji (…) istotnie się zmienił.
Przekonałem się o tym podczas ostatnich zajęć na wydziale MiNI PW, kiedy to większość osób (aktywnie!) dyskutujących relację [informatyka a filozofia] była głęboko przekonana o pożytkach, jakie mogą płynąć ze znajomości filozofii. Były oczywiście głosy sceptyczne, ale te pozytywne względem filozofii przeważały.
Jedni wskazywali na etykę – jako źródło zasad i norm, które mogłyby zapobiec niekontrolowanemu i szkodliwemu dla człowieka wykorzystywaniu systemów informatycznych, w tym sztucznej inteligencji.
Inni wybijali na pierwszy plan zdolność do krytycznego myślenia – którą filozofia mogłaby kształtować w sposób ogólny, przydatny również w kwestiach technicznych.
Jeszcze inni mówili o pozytywnej roli filozofów w objaśnianiu takich zjawisk, jak świadomość, myślenie twórcze czy wolna wola – które musimy zrozumieć, chcąc oceniać aktualne i potencjalne możliwości systemów sztucznej inteligencji. W szczególności wtedy, gdy potraktujemy serio możliwość skonstruowania maszyn autonomicznych, zdolnych do stawiania i realizacji własnych celów.
Dlaczego tak się stało?
Dlaczego po 11 latach filozofia ma w oczach studentek i studentów tego samego wydziału zdecydowanie lepsze notowania?
Czy chodzi o to, że współcześni informatycy muszą posiadać tzw. umiejętności miękkie, a te kształtuje m.in. filozofia? Na przykład, podczas swobodnych dyskusji o miejscu informatyki we współczesnej kulturze.
A może chodzi o pewien akademicki trend, przychodzący do nas m.in. ze Stanów, polegający na włączaniu treści filozoficznych do programów studiów technicznych. Za ich sprawą informatycy mieliby uzyskać szersze horyzonty i szerszy ogląd swojej dyscypliny.
A może idzie o rosnące konsekwencje społeczne informatycznych wynalazków?
Na przykład o to, że ktoś może ich użyć w sposób nieetyczny (co to znaczy?). Albo, że ich reguły działania i złożoność w wielu przypadkach nie pozwalają wyjaśniać podejmowanych przez nie decyzji (czym jest dobre wyjaśnienie?).
A może informatyków niepokoi fakt, że zaczynają wkraczać w sfery zdecydowanie wykraczające poza ich kompetencje – tworzą coś, co może być świadome (czym jest świadomość?), co może czuć (czym są doznania i przeżycia?), co może być podmiotem własnych działań (czym jest podmiotowość i co to znaczy działać intencjonalnie?).
Jednym słowem, informatycy dotykają sfery filozoficznych pytań i chcą się dowiedzieć, jak filozofowie próbowali i próbują na nie odpowiadać…
Sformułowawszy swoje spontaniczne domysły, otwieram DYSKUSJĘ :).
A zatem:
Do czego i dlaczego informatycy potrzebują filozofii?
A może pomyliłem się, stawiając diagnozę, że stan ducha studentek i studentów kierunków informatycznych stał się bardziej filozoficzny…
Jeśli tak, to ciekaw jestem również głosów sceptycznych i antyfilozoficznych.
Zapraszam serdecznie do rozmowy wszystkich czytelników bloga — Paweł Stacewicz.
Jedenaście (!) lat temu popełniłem długie wpisy w tym temacie.
Od tego czasu co pewien czas „na pierwsze strony gazet” wdzierały się informacje o kolejnych osiągnięciach na drodze do budowy sztucznej inteligencji. Wytwory tych systemów informatycznych budzą zainteresowanie i podziw – trzeba przyznać, że działając w określonej domenie potrafią być skuteczne (podtrzymywać rozmowę, tworzyć grafiki trafnie odpowiadające „zamówieniu” itd.). Są jednak także poddawane krytycznej analizie. Zwraca się uwagę na to, że działanie „modeli językowych” to jedynie probabilistyczne tasowanie słowami. Wskazuje się, że sztuczni „muzycy” i „rysownicy”miksują jedynie tony / kształty / kolory zgodnie z wyliczonymi z dostarczonych danych wejściowych regularnościami – zupełnie bez zrozumienia co ich wytwory oznaczają (wyśmiewamy dodatkowe stawy w kończynach „fotorealistycznych” przedstawień ludzi).
Czy poddajemy jednak podobnej analizie wypowiedzi znanych nam ludzi, czy wytwory ludzkiego działania? Czy pod kątem takiego:
‘jedynie odtwarzania regularności z wąskiego przedziału obserwacji, bez dociekania ich „szerszego znaczenia”, podstaw „prawomocności” oraz wzajemnego powiązania rozmaitych elementów składających się na obraz otaczającego nas Świata’
– krytykujemy owoce naszej własnej „umysłowej” roboty?
Tam właśnie czai się Filozofia, która potrafi zrobić istotnie różnicę perspektywy (pewności), choć w praktyce niewiele (jeśli w ogóle cokolwiek) zmienia.
Może jednak niedługo przyjdzie wielki test Filozofii: czy da Ona narzędzia rozróżnienia ludzkich od sztucznych agentów gdy ci ostatni staną się zwodniczo doskonali? A może przynajmniej pozwoli wyjaśnić to, że różnica jest jedynie kwestią perspektywy…
Bardzo dziękuję za powrót do tematu po latach :) !
Mamy zatem ważny epistemologiczny problem kryterium: w jaki sposób odróżnić sztucznych agentów, zaprogramowanych lub wstępnie algorytmicznie ukształtowanych (jako systemy uczące się), od podmiotów naturalnych, ukształtowanych przez naturalną (chyba) ewolucję.
Czy wystarczy tutaj kryterium behawioralne w stylu testu Turinga, polegające na sprawdzaniu podobieństw i różnic w wypowiedziach testowanych indywiduuów i zaliczaniu je do jednej z dwóch klas abstrakcji: człowiek, system sztuczny? Czy jednak trzebaby zajrzeć do wnętrza tych indywiduów, w to, jak dochodzą do obserwowalnych zachowań? Dyskutowaliśmy o tym nie raz, ale możemy temat jeszcze podrążyć :).
Nie rozumiem też do końca końcówki powyższego komentarza: co należy rozumieć przez “kwestię perspektywy”?
Różnica może okazać się jedynie kwestią perspektywy, bo gdy różnice w produktach ludzkich Umysłów i sztucznych systemów będą się zacierać, ludzie (z powodów psychologicznych ale i np. prawnych) mogą szukać dodatkowych kryteriów i sposobów wartościowania:
1.Z ludzkiej perspektywy procesy Umysłu biologicznego zawsze będą się wydawały przepełnione rozpatrującą rozpatrywane myśli obecnością Świadomego Podmiotu, spoglądającego na Świat z pierwszo-osobowej perspektywy (właśnie) a w wytworach sztucznych systemu dopatrywać się będziemy zimnych kalkulacj nie-rozumiejacych rzeczywistego kontekstu i wyników obliczeń symulakrum. Sama swoistość spoglądania z 1-osobowej perspektywy na świadome rozumowanie prowadzące do wolnych wyborów jest jakością na tyle mocną, instynktownie ukonstytuowaną (pierwotne przekonanie o niezależności jako jednostki, nadające konieczny sens i wartość walce o byt) wraz ze współodczuwaniem i miłością bliźniego (genetycznego pobratymcy) może wystarczyć by zawsze spoglądać z nieufnością w to czy przekształcenia liczb mogą dać podobne rezultaty. Żaden test (nie tylko Turinga) nie przekona nie-przekonanych.
2.Różna będzie perspektywa rozumienia inteligentnych zwierząt, które wyewoluowały w warunkach fizycznej rzeczywistości, biologicznej walki o przetrwanie w społeczno-kulturalnej bańce i systemów sztucznej inteligencji:
-których reprezentację znaczeniowe przetwarzanych “pojęć” opierać się będą na pozycjach w porozgałęzianych łańcuchach relacji między obliczanymi elementami,
-które zamiast instynktu (przetrwania ja) będą miały wykalkulowane funkcje strategii i taktyk zaprogramowanych (i wyliczonych) “wartości” w rachunku dających się oszacować rezultatów możliwych wyborów,
-które funkcjonują w wirtualnych warunkach, wobec sztucznych kryteriów, z wolnością zależną od przyznanych mocy obliczeniowych i zasobów pamięci.
Porozumienie istot – równie generalnie inteligentnych – może się okazać trudne, zależne od możliwości dopasowania perspektyw.
Sprawę może odmienić zdecydowana przewaga inteligencji (sztucznej):
– na plus gdy możliwe będzie przetłumaczenie swoistych walorów jej perspektywy
-na minus gdy rozwiązania rozpatrywanych problemów dostępne sztucznej inteligencji nie dadzą się przełożyć (scenariusz z Lemowego “Golema XIV”)
3.Wartościowanie Umysłów może odbywać się podług możliwej prawnej odpowiedzialności (zdolności do czynności prawnych) – taka prawna perspektywa może nie być zależną od inteligencji sztucznych systemów.
4. Perspektywa społeczno-ekonomiczna może mieć znaczenie. Zależnie od klasy (w rozumieniu Marksistowskim) ludzie mogą różnie spoglądać na inteligentne twory. Choć najłatwiej byłoby zastąpić ważką rolę kapitalisty w systemie ekonomicznym, badania w tym zakresie raczej nie znajdą sponsorów
Za to kosztowna i trudna wymiana pracowników (vide zmagania ze stworzeniem sztucznego kierowcy) będzie celem z racji wzmocnienia władzy tych którzy już teraz w praktyce decydują.
4.a.Perspekrywa ekologiczno także może obniżać wartość nawet bardzo inteligentnej AGI- ostatnio często mówi się np. o małej energochłonności mózgu w stosunku do zapotrzebowania infrastruktury na której “odpalane” są czaty.
Na pierwszym miejscu wskazałbym filozofię, jako źródło narzędzi myślowych. Nie tylko pojęć, konceptów, intuicji czy metafor, ale całych rozumowań. Nie tyle rozumienia, co rozumowania. Nie zbioru definicji, ale rozumowania poruszającego się wśród zbioru definicji. Czasem zbyt wąskich, czasem zbyt ogólnych, nierzadko ze sobą sprzecznych. Tworzywo informatyki jest przecież do gruntu ścisłe, to matematyka, logika, algorytm. Wymaga innej dyscypliny myślenia. Aby rozwiązać problem algorytmiczny, należy odbyć podróż w gąszczu ścisłych struktur. Aby rozwiązać problem filozoficzny, należy odbyć podróż w przestrzeni, wypełnionej gąszczem struktur poplątanych, niespójnych ze sobą, nawet efemerycznych. Zaletę filozofii widzę właśnie w nauce dyscypliny umysłowej i umiejętności budowania własnych przekonań.
Ogląd filozoficzny poszerza także horyzonty. Własne doświadczenia, wiedza potoczna i popularnonaukowa, każdemu dostarczają wyobrażeń o umyśle. Bledną jednak przy ogromie wiedzy zgromadzonej przez filozofów. Młody informatyk, który na początku studiów marzy o zaprogramowaniu sztucznej inteligencji, rozważa problemy do rozwiązania ze swojego wstępnego punktu widzenia. Niech jednak przeczyta kilkanaście książek z filozofii umysłu, jak naiwny wyda się sobie wtedy! Jakże wielką ciekawość ta wiedza w nim obudzi!
Chciałbym też wierzyć, że nabierze pokory, w tym konstruktywnym sensie. Ogrom problematyki umysłu/intelektu/ducha/jaźni wzbudzi w nim ciekawość i ambicję, a jednocześnie szacunek dla tego niezwykłego tworu, jakim jest człowiek.
Współcześnie coraz bardziej odczuwamy i słyszymy o coraz bliższych dużych przełomach mających wpłynąć na wiele sfer życia.
Jednym z takich przełomów jest praca nad komputerem kwantowym. Z założeń taki komputer miałby ogromną moc obliczeniową i potrafiłby poradzić sobie między innymi z problemami matematycznymi, jakich do tej pory nie mogliśmy obliczyć oraz optymalizacją. Brzmiąca sielankowa wizja komputera niesie za sobą pytanie : Co z szyfrowaniem, które jest bezpieczne dzięki niemożliwości wykonywania pewnych obliczeń matematycznych? Czy rozwój powinien postępować pomimo utraty bezpieczeństwa? Czy może należy zakończyć pracę nad potencjalnie zagrażającym wynalazkiem? Pytania natury etycznej są stawiane przed osobami dokonującymi wielkich odkryć. A może da się połączyć innowacje i zachowanie bezpieczeństwa i równowagi świata?
Postęp w tworzeniu komputera kwantowego mógłby zaburzyć bezpieczeństwo danych między innymi bankowych. Komputery kwantowe dobrze nadają się do wykonywania obliczeń, które są obiektem zainteresowania tajnych służb i hakerów. Chodzi o podsłuchiwanie szyfrowanej transmisji danych, dzięki której zabezpieczane są dziś np. operacje bankowe. Najlepszym dostępnym dziś superkomputerom złamanie takiego szyfru zajęłoby dziesiątki lat. Maszyna wykorzystująca zjawiska kwantowe mogłaby się z tym uporać w kilka sekund. Myśląc jednocześnie o etycznym aspekcie, równolegle do rozwoju urządzenia o ogromnej mocy obliczeniowej, tworzone jest alternatywne szyfrowanie kwantowe, odporne na nowy wynalazek. Każda ingerencja, próba podsłuchania tak szyfrowanych danych niszczy je. Moim zdaniem jest to kompromisowy sposób postępowania wobec nowych zagadnień mający na uwadze etykę. Człowiek stojąc przed przełomem, będzie miał opory, żeby od niego odejść lub nie będzie widział w nim zagrożenia. Po latach lub w rękach innej osoby taki wynalazek może okazać się bronią. Dlatego ważne jest, aby osoby tworzące nowe technologie miały świadomość zagrożeń płynących z powszechnego dostępu do takiego produktu i zapewniły narzędzia do obrony przed niepożądanym użytkiem.
Rozumiem argumenty osób, że filozofia nie jest niezbędna informatykowi piszącemu algorytmy korzystające z dostępnych mu narzędzi i nieingerującemu w nowe „nieodkryte” działy. Jednak bardziej innowacyjne podejście do pracy informatyka niesie za sobą konieczność myślenia, chociażby o etyce. Również jako osoby wykształcone powinniśmy mieć na uwadze rozwój swojej wiedzy ogólnej. Czasami inspirację do działania możemy znaleźć w zaskakujących działach nauki, nawet samej filozofii.
W kontekście potrzeby filozofii w informatyce, chciałbym podzielić się kilkoma przemyśleniami. Zgadzam się z autorem, że obecnie informatycy coraz częściej dostrzegają wartość filozofii. W mojej opinii, jest to związane z kilkoma kluczowymi czynnikami:
1. Dynamiczny rozwój technologii wymusza na informatykach nie tylko znajomość najróżniejszych języków programowania czy algorytmów, ale także zrozumienie szerszych konsekwencji społecznych i etycznych ich pracy. Filozofia dostarcza narzędzi do analizy tych aspektów, co jest ważne w kontekście np. sztucznej inteligencji i jej wpływu na życie ludzi.
2. Filozofia uczy krytycznego myślenia i argumentacji, co jest niezbędne w procesie projektowania skomplikowanych systemów informatycznych. Umiejętność zadawania właściwych pytań i krytycznej analizy problemów to fundamenty w tworzeniu oprogramowania.
3. Jak słusznie zauważył autor, filozofia może przyczynić się do rozwoju umiejętności miękkich, które są coraz bardziej cenione w branży IT w kontekście komunikacji, empatii i zdolność do pracy zespołowej.
Tak więc filozofia może być dla informatyków nie tylko źródłem inspiracji, ale także praktycznym narzędziem do rozwiązywania problemów etycznych i społecznych związanych z technologią.
W odpowiedzi na komentarz WojKo, chciałbym przedstawić alternatywną perspektywę na pytanie “Do czego i dlaczego informatycy potrzebują filozofii?”.
Zgadzam się, że filozofia może przynieść pewne korzyści dla informatyków, takie jak rozwijanie umiejętności krytycznego myślenia czy zrozumienie etycznych implikacji technologii. Jednakże, moim zdaniem, nie jest to konieczne dla efektywnego wykonywania pracy przez informatyków.
Informatyka jest przede wszystkim nauką ścisłą, opartą na matematyce i logice. Wielu informatyków skupia się na rozwiązywaniu konkretnych problemów technicznych, tworzeniu oprogramowania czy analizie danych. W tych dziedzinach, głębokie zrozumienie filozofii nie jest zazwyczaj wymagane.
Co więcej, nauka filozofii wymaga nakładu czasu i wysiłku. Czas ten mógłby być wykorzystany na naukę nowych języków programowania, technologii czy metod analizy danych, które bezpośrednio przekładają się na umiejętności przydatne w pracy informatyka.
Podsumowując, choć filozofia może przynieść pewne korzyści dla informatyków, nie jest ona niezbędna w ich pracy. Informatycy powinni skupić się na rozwijaniu umiejętności technicznych i praktycznych, które są bezpośrednio związane z ich zawodem. Filozofia może być ciekawym dodatkiem, ale nie jest kluczowym elementem edukacji informatyka.
Patrząc na komentarze użytkowników WojKo oraz Krawczyk, raczej jestem skłonny zgodzić się z poglądem WojKo. Nie uważam, że informatyka skupia się tylko na logice i rozwiązywaniu problemów.
Większość problemów, z jakimi informatycy w praktyce się spotykają to nie podręcznikowe zadania, do których należy przyłożyć znany z góry algorytm.
Praca informatyka była, jest i będzie pracą w zespole. Dobry informatyk będzie dobrze pracował w grupie – co za tym idzie, będzie potrzebował umiejętności miękkich w rozwiązywaniu sporów, osiąganiu kompromisów, komunikacji własnych potrzeb, przedstawianiu swoich racji i podejmowaniu decyzji – na których mogą się ważyć losy całych zespołów i projektów. Jak zauważyli inni komentujący, nauki filozoficzne mogą w znacznym stopniu przyczynić się do rozwoju takich miękkich umiejętności.
Innym, poruszanym przez autorów postu i komentarzy, przecięciem informatyki oraz filozofii jest etyka. Szybki rozwój technologii komputerowych przysparza nowe problemy związane z wykluczeniem technologicznym, łamaniem istniejących zabezpieczeń przez komputery kwantowe, czy niewspółmiernym wykorzystaniem zasobów energetycznym potrzebnych do uruchamiania skomplikowanych modeli „sztucznej inteligencji”.
Z tych powodów uważam informatykę za powiązaną z filozofią. Moim zdaniem każdy informatyk, chociaż trochę powinien zaznajomić się z naukami filozoficznymi, aby lepiej zrozumieć wpływ swoich działań i rozwiązań na otoczenie.
Podzielam opinie użytkownika Miko. Jeśli by spojrzeć na informatykę surowo, czysto pod kątem definicji to mogłabym zgodzić się jednak również z użytkownikiem Krawczyk. Jednak po co nam informatyka? Według mnie kluczowe jest, to że informatyka jest dla ludzi, a konkretnie rozwiązania techniczne są dla ludzi, mają się nam w czymś przysłużyć. Żeby rozwiązanie było jak najlepiej dopasowane do potrzeb odbiorcy potrzebna jest odpowiednia analiza, bardzo często rozmowa z użytkownikiem końcowym, spojrzenie całościowe na problem. Tutaj filozofia i myślenie krytyczne według mnie mogą pomóc. Trzeba wiedzieć jakie pytania zadać. Umiejętność myślenia, otwartość umysłu, które mogą być rozwijane przez filozofie są bardzo ważne w tym kontekście. Może po 11 latach opinie studentów kierunków ścisłych są bardziej przychylne do filozofii ze względu na większą świadomość w społeczeństwie na temat doświadczeń użytkownika i projektowania usług? Może również przyczynił się do tego fakt, że obecnie jesteśmy częściej użytkownikami rozwiązań IT niż 11 lat temu. Poprzez kontakt z większą liczbą aplikacji/programów nabyliśmy doświadczenia pozytywne i negatywne. Kto z nas nie miał negatywnych doświadczeń z aplikacją/stroną internetową? Ile razy pomagaliśmy znajomym zrobić coś w internecie? Takie doświadczenia uczą nas tego jak ważne jak odpowiednie zaprojektowanie usługi, które wymaga również umiejętności miękkich.
Zgodzę się z komentarzem zamieszczonym przez WojKo. Z jednej strony dynamiczny rozwój technologii wymaga od informatyków zrozumienie szerszych konsekwencji społecznych i etycznych ich pracy. Z drugiej zaś umożliwia bardziej krytyczne podejście do procesu rozwoju tworzonych przez nich systemów informatycznych.
Ze swojej strony uważam, że filozofia jest na swój sposób elementem wyróżniającym NAS jako ludzi. Pozwala nam na wybór “właściwej drogi” w sytuacjach spornych. Uważam, że zrozumienie podstawowych zachowań człowieka i jego potrzeb pozwala nie tylko udoskonalać istniejące systemy informatyczne, lecz, w połączeniu z wiedzą o samych trendach i przyzwyczajeniach człowieka, umożliwia tworzenie kompletnie nowych, jeszcze lepiej dostosowanych (spersonalizowanych wręcz) rozwiązań informatycznych. Z pewnością filozofia jest jednym z narzędzi, który to umożliwia.
Uważam, że obecny świat wymusza wręcz zrozumienie procesów filozoficznych, które kierują człowiekiem. To właśnie ich właściwe zrozumienie umożliwia wytworzenie narzędzi, które będę jeszcze lepiej dostosowane “do człowieka”. W efekcie rozwiązania takie mają znacznie większą szansę na osiągnięcie popularności i przyniesienie wymiernych zysków.
Informatycy, zazwyczaj skupiają się na technicznych aspektach swojej pracy, jednakże są również powiązani z aspektami społecznymi, etycznymi czy też filozoficznymi, ponieważ tworzenie filozoficznych technologii ma ogromny wpływ na społeczeństwo. Filozofia dostarcza im materiałów do lepszego zrozumienia tych zagadnień oraz analizy w szerszym polu widzenia.
Przykładowo, refleksje filozoficzne nad etyką informatyki pomagają w zrozumieniu swoich działań oraz podejmowaniu świadomych decyzji na temat projektowania czy też wykorzystywania technologii. Często informatykom nasuwają się pytania dotycznące bezpieczeństwa danych, odpowiedzialności za sztuczną inteligencję czy też wpływu technologii na demokrację stają się coraz bardziej popularne w erze cyfrowej, a filozofia pomaga informatykom zgłębiać te kwesti, dzięki czemu podejmują dużo bardziej świadome decyzje.
Warto również zauważyć, że filozofia pomaga informatykom rozwijać swoje umiejętności krytyczngo myślenia, analizy co jest istotne podczas rozwijania swoich umiejętności. Zrozumienie myślenia filozoficznego pomaga rozszezryć horyzonty, lepiej zrozumieć społeczeństwo, w którym ma miejsce praca informatyków.
Filozofia może być też inspiracją dla twórców nowych technologii, wiele innowacyjnych pomysłów w dziedzinie informatymi może być skutkiem przemyśleń filozoficznych nad rzeczywistością czy też świadomością. Dlatego też uważam, że może nie być to oczywiste na pierwszy rzut oka, natomiast filozofia jest niezwykle istotnym elementem w życiu i pracy infamatyków.