Czy technologie informatyczne mogą zagrozić naszej cywilizacji?

W tytule obecnego wpisu zadaję pytanie, które z jednej strony wydaje się dość absurdalne (bo komputery i  technologie informatyczne wydźwignęły naszą cywilizację na nowy jakościowo poziom), z drugiej strony jednak, stanowi coś w rodzaju sygnału ostrzegawczego (wysyłanego zresztą przez tak zasłużone dla informatyzacji postaci, jak Bill Gates czy Elon Musk).
Pytanie to dyskutowaliśmy ostatnio na dwóch wydziałach Politechniki Warszawskiej (WEiTI + WAiNS), gdzie wzbudziło  sporo emocji. Większość dyskutantów rozważała je w kontekście sztucznej inteligencji (czy może nam zagrozić fizycznie, czy pozbawi nas pracy, czy wymknie się spod kontroli),  jednak niektórzy stawiali sprawę szerzej, wskazując na różne niepokojące zjawiska związane ze zbyt silnym przenikaniem informatycznych technologii do naszego życia.  W dyskusji blogowej warto byłoby rozwinąć także ten drugi  (de facto: szerszy) wątek.

Dla zogniskowania dyskusji wokół pewnych, w miarę konkretnych, tematów, proponuję rozważyć wstępnie następujące uszczegółowienia pytania tytułowego:

1) Czy wyposażone w sztuczną inteligencję maszyny autonomiczne przyszłości nie podporządkują sobie ludzi (lub, co gorsza: czy nie zniszczą naszego gatunku)?

2) Czy postępująca informatyzacja, automatyzacja, robotyzacja (itp.) nie wywołają zgubnych dla człowieka zjawisk ekonomiczno-gospodarczych (w tym: masowego bezrobocia)?

3) Czy rosnące uzależnienie człowieka od wspomagających go (czy wręcz zastępujących) technologii informatycznych nie spowoduje degeneracji ludzkiego mózgu?

Do dyskusji zapraszam, jak zwykle, wszystkich czytelników bloga.
W sposób szczególny jednak liczę na osoby, które w trakcie ostatnich zajęć na PW deklarowały, iż:  ”~ z wielką chęcią przeniosą swoje opinie do bloga”.

Na koniec, i trochę na rozgrzewkę, podaję linki do dwóch innych (starszych) dyskusji blogowych na podobne tematy:

♦  SI. Wyzwanie czy zagrożenie?
♦  Starcie cywilizacyjne z maszynami…

Proszę poczytać, zobaczyć, jak inni argumentowali wcześniej, lecz nowe komentarze dodawać już tutaj.

Gorąco zapraszam do dyskusji — Paweł Stacewicz.

Ten wpis został opublikowany w kategorii Dydaktyka logiki i filozofii, Filozofia informatyki, Światopogląd informatyczny. Dodaj zakładkę do bezpośredniego odnośnika.

12 odpowiedzi na „Czy technologie informatyczne mogą zagrozić naszej cywilizacji?

  1. JakubA pisze:

    Dlaczego rozwój komputerów jest zagrożeniem?

     

    Sądzę, że zagrożenie wynikające z rozwoju komputerów można podzielić na różne kategorie.
    I w tym miejscu chciałbym zacząć od zagrożenia militarnego oraz zagrożenia wolności przeciętnego człowieka. Wszechobecny rozwój technologii cyfrowych, który towarzyszy nam od dziesiątek lat oraz, z roku na rok, dynamicznie przyspiesza, może służyć jako narzędzie kontrolujące całe państwa. Już na obecnym etapie rozwoju naszej cywilizacji, technologia wspiera w ogromny stopniu inwigilację człowieka. Śmiem twierdzić, że wraz z dalszym postępem, niektóre technologie wykorzystywane przez władzę będą mogły służyć do brutalnych pacyfikacji. Zagrożenie, które będzie realne dla przeciętnego osobnika, może mieć fatalny w skutkach wpływ na wolną wolę człowieka oraz ograniczanie jego wolności.

    Już na dzień dzisiejszy możemy obserwować symulacje (na dziś dzień jeszcze nierealne, acz prawdopodobne w przyszłości), na których chmara bezzałogowych statków powietrznych wielkości komarów dokonuje masowego mordu na grupie ludzi – na podstawie rysopisów.
    Możliwość kontroli całym narodem za pomocą wysoko rozwiniętej technologii na chwilę obecną wydaje się być niemożliwym do zrealizowania, jednakże sama idea na pewno jest rozwijana i aż strach pomyśleć jakie konsekwencje wewnętrzne i międzynarodowe może za sobą nieść.
    Fakt rozwoju tak zwanej sztucznej inteligencji wciąż pozostaje wielką zagadką. Rozsądnym pytaniem w tym miejscu wydaje się pytanie: Czy komputery mogą stać się nieomylne oraz czy sztuczna inteligencja będzie kiedykolwiek zdolna do takiej analizy wszystkiego, co ją otacza, aby być w stanie przewyższyć człowieka? Wynaleziony przez Google “sztuczny mózg”, czyli maszyna, która przetwarza to, co widzi i wyciąga z tego wnioski może służyć jako przykład, w jak dynamicznym tempie rozwija się technologia sztucznej inteligencji i może rodzić masę pytań – jak będzie to wyglądało w najbliższej przyszłości? Pojawiają się głosy, że roboty nowej generacji będą mogły wykazywać się ludzkimi odruchami – płakać, śmiać się czy wzdychać. Gdyby taka sytuacja miała miejsce, oznaczałoby to ogromny kryzys społeczny. Moment, w którym człowiek nie zdawałby sobie sprawy, czy rozmawia z robotem czy z innym człowiekiem byłby największym przełomem naszej cywilizacji i najprawdopodobniej czasem, w którym maszyny mogłyby nam dorównać. Na chwilę obecną wydaje się to być bardzo futurystyczną wizją, jednakże na pewno jest jeszcze wiele aspektów technologicznych, których ludzki mózg nie jest w stanie pojąć. Trzeba zdawać sobie sprawę, że moment, w którym maszyna społecznie będzie w stanie zastąpić człowieka, posiadając przy tym znacznie większą sprawność obliczeniową może być początkiem upadku cywilizacji człowieka.

    Rozwój technologii może również spowodować, że przestaniemy być potrzebni na świecie. W momencie pełnej automatyzacji większości aspektów naszego życia, człowiek nie będzie się w stanie odnaleźć. Już teraz żyjemy w czasach zwiększonych depresji i stanów lękowych oraz ludzi, którzy nie wiedzą, co mogą robić z własnym życiem, Śmiem twierdzić, że wynika to z rozwoju technologii, który po prostu zabiera ludziom potrzebę inwencji, tworzenia i po prostu – myślenia. Mózg człowieka, wciąż nieopanowany przez naukę oraz największa zagadka naukowców, w takiej sytuacji może bardzo negatywnie wpływać na sposób myślenia. Pojawi się wysyp psychopatów, morderców czy gwałcicieli. Staniemy się zagrożeniem dla nas samych.

  2. km pisze:

    Chciałbym przedstawić pod dyskusję jeszcze inne zagrożenia mogące wynikać z rozwoju technik informatycznych- w szczególności związane z negatywnym wpływem rozrostu możliwości technologii cyfrowych na zjawiska społeczne.
    Coraz częściej w „publicznym dyskursie” pojawiają się kwestie (wzmagania wraz z rozrostem cyfrowych technologii):
    1. Upadku obyczajów – nie chodzi mi o to, że teraz możemy przekonać się jakimi treściami ludzie są naprawdę zainteresowani (i jakie znajdują jako użytkownicy Internetu) ale o brutalizację debat i pogorszenie się jakości „argumentacji” będącej „w obrocie”. Opinie jakie skrywano by na forum publicznym (w tradycyjnym – a  nie internetowym – rozumieniu) podparte przesłankami nie do wypowiedzenia „twarzą w twarz” są przedstawiane i równie – bezwstydnie – podchwytywane przez innych.
    Najbardziej nierozsądne przekonania znajdują w sieci ‘społeczny dowód słuszności’ (w jakiejś sieciowej grupie dyskusyjnej) czy ‘dowód z autorytetu’ (internetowego guru). (Stanisław Lem: „Nie wiedziałem, że na świecie jest tylu idiotów, dopóki nie poznałem internetu.” ).

    2. Polaryzacji opinii społecznych i podziału na plemiona okopujące się coraz głębiej – w swoich „bańkach informacyjnych” niezdolnych do chwili refleksji nad innymi opiniami – zawsze przefiltrowanymi, obarczonymi komentarzem.
    Od dawna mogliśmy wybierać gazety, programy radiowe i TV przedstawiające opinie, które nie budziły w nas sprzeciwu (nie wytrącały z samozadowolenia, nie kwestionowały przekonań – nie testowały naszego światopoglądu). Teraz mamy dostęp do oceanów informacji ale algorytmy wciąż prześcigają się dostarczając „to co Ci się może spodobać” – inne opinie stają się niewidoczne, przesłonięte przez docierający ze wszystkich stron (i wszelkimi kanałami) formatowany specjalnie dla nas „kontent”.
     

    3.Formatowanie odbiorcy i konsumenta treści / produktu stworzonego by zaspokoić sztucznie wykreowane potrzeby.
    Bezprecedensowy rozwój technologii cyfrowej dał możliwość niespotykanej wcześniej inwigilacji  obywateli, przedstawienie im całkiem „nowego wspaniałego świata”, w którym mogliby wybierać spośród zaprezentowanych im produktów (przedstawienie mnogości opcji dostarczone przez algorytmy przesłania wszystko inne) według przedstawionych im kryteriów (nie znają innych gdyż ogląd sieci jest ich całym światopoglądem).

    3.a) Młodzi i przyjmijmy, że retorycznie nieprzygotowani – ludzie mogą łatwiej (dzięki możliwościom oferowanym przez sieć) mieć dostęp do ekstremalnych poglądów. A gdy już raz sformatują swoje wzorce dostępu do treści to algorytmy sprawnie utrudnią im wyrwanie się z tego kokonu, prezentując im utwierdzające ich w ekstremalnym światopoglądzie treści.

    3.b)Zresztą nie chodzi tu nawet (tylko) o ekstremalność poglądów, ale także o to, że zamknięci w sformatowanych kokonach (utkanych z nawet zupełnie nie-granicznych a „średnich” mniemań) ludzie mogą nigdy nie osiągnąć pełni swego potencjału. Rozwój technologii informatycznych może paradoksalnie przyczynić się do spowolnienia rozwoju społecznego. Pomijając wpływ na postęp cywilizacji – dla każdej z tych jednostek jest to swoista tragedia o kosmicznym wymiarze.

    4. Zniewolenie myśli stajnie się (stało się) możliwe gdy sieć przestanie (przestała)być neutralna, kiedy nie tylko formalne legislacje Państw ale (przede wszystkim) pozbawione demokratycznego mandatu (a wręcz w swej istocie totalitarne) podmioty prywatne (z)decydują o tym jakie treści mogą być dostępne, co może być przedstawione i co powiedziane. 
    Sieć wolna – nieskrępowana regulacjami – stała się łatwą pożywką dla rozrostu niedemokratycznych podmiotów posiadających coraz to szersze atrybuty władzy (dotąd zarezerwowane dla państw). Wszystko jest dozwolone: monopole, zmowy, kartele decydujące o tym co będzie nam przedstawione/ dane. Polityki (kierujących się prywatnym interesem zarządów) korporacji decydują jakie treści są zgodne z arbitralnie przyjętymi normami. (Na wszystko się zresztą – mniej lub bardziej świadomie – godzimy gdy tylko rozpoczynamy korzystanie z najbardziej niewinnej usługi oferowanej przez cyfrowe techniki.)

    Wyżej wymienione zagrożenia stają się bardziej prawdopodobne gdy podważono wszelkie wartości (dowolny idiotyzm może stać się hasłem przewodnim internetowej grupy) a idee ścierają się na wirtualnych arenach według reguł stronnie (arbitralnie ) określonych przez dostarczycieli treści.
    Przywołany wyżej Lem twierdził, że żaden totalitaryzm nie przetrwa gdy nauka może nieskrępowanie się rozwijać (i z tego powodu wieszczył upadek ZSRR gdy innym się on nie śnił).
    Studiując obraz świata przedstawiany przez modele ścisłej nauki ludzie mogą zapoznać się z korzyściami płynącymi z pragmatycznej trafności niektórych idei, wartościowania pomiędzy poszczególnymi stanowiskami w konfrontacji  z rzeczywistym światem – a nie wirtualnym konstruktem  ideologii sprzedaży.
    Krótko rzecz ujmując można nabyć intuicje co do idei prawdy i tego kiedy należy dane ujęcie obserwowanego zjawiska uznać za trafne/ pożyteczne a co za tym idzie zyskać fundamenty do racjonalnego budowania własnego światopoglądu. Tymczasem obserwujemy

    5. Upadek autorytetu nauki. Dostęp do wyrwanych z kontekstu naukowego postępu informacji o perypetiach i błędach naukowców i ślepych zaułkach nauki w ogólnej atmosferze ponowoczesnego dekonstrukcjonizmu prowadzi do powszechności przyjęcia przez ludzi równoważności ich mniemań (opartych na studiach „dr googl’ea czy portalach zwolenników teorii płaskiej ziemi) z ustaleniami ekspertów prezentujących najtrafniejszą wiedzę z danej dziedziny.
    Gdy zaś podstawową wartością staje się zdobywanie „lajków”, „subskrybentów” itp. robi się trochę śmiesznie troszkę strasznie.
     

    5.a)  Wszystko da się podważyć w sztucznie wykreowanym świecie – a gdy do niego wkroczymy stajemy się zakładnikami twórców dyktujących warunki rozgrywki
    W związku z tym może grozić nam:

    6.Zmniejszenie się szans na racjonalne kształtowanie strefy publicznej.
    Indywidualnie możemy wybierać co chcemy, zamykać się w dowolne bańki informacyjne bez rozważania konsekwencji jakie mniej lub bardziej prawdopodobnie – w świetle wiedzy najtrafniej opisującej zjawiska z danej dziedziny – na siebie sprowadzimy. Ale w sytuacji konfliktu interesów rozstrzygnąć powinna taka wiedza (nic – intersubiektywnie – lepszego nie mamy).
    Tymczasem dyskurs bywa  w oświeconych kręgach coraz częściej cenzurowany z politycznie niepoprawnych tematów (lub takich niewygodnych / niezgodnych z polityką moderatorów dyskusji i dostarczycieli treści) i jego uczestnicy (mający stanowić elity intelektualne) są nieodporni na argumenty, z którymi zmagań nie przećwiczyli.
    Trzeba przy tym pamiętać, że tryumfuje koncepcja prawdy społeczna – zdekonstruowano wszelkie pojęcia, zburzono wszelkie wartości.
     I rzeczywiście – co może ostać się po tym jak powie się, że ‘nie istnieje takie coś jak’ elektron, atom, gatunek biologiczny, płeć…. Chętnie zresztą przyklasnę takiej "ostrożności poznawczej" jeśli to z jej powodu chce się przyjąć, że w/w pojęcia to jedynie konstrukcje. Jednak jeśli służą one opisowi rzeczywistości trafnie korespondującemu z rzeczywiście obserwowanymi regularnościami w manifestacji zjawisk w rzeczywistości, to odrzucenie ich pożyteczności (ich skuteczności jako narzędzi) nie wydaje się być racjonalnym krokiem na drodze do budowania nowego ładu.
    Jak ostać się może teraz (po odrzuceniu przedstawień ścisłych nauk) ta mniej pragmatycznie dowodliwa, a powstała w wyniku akumulacji tysięcy lat rozwoju filozofii, etyki (religii) ‘mądrość’ opisująca to jak zachowywać się dobrze, jak być sprawiedliwym, jak wieść wartościowe życie… Można dyskutować jak sprawują się wynikające z tej wiedzy formy sprawowania władzy, organizacji życia społecznego, czy edukacji – lecz odrzucenie wszystkiego co zastane (a co ma być wg jednych wynikiem spisku klasy panujących kapitalistów a zgodnie z tezami innych rezultatem zmowy syjonistów) i konstrukcja na nowo człowieka, przewartościowanie wszelkich wartości pozostawia nas w próżni dowolności bez punktu podparcia.
    To co się rodziło w takiej próżni, gdy podstawą była (niekłamana) charyzma ideologów i nienawiść (często uzasadniona) do zastanych struktur chyba pamiętamy.
    A (jak już napisano) internetowe technologie dają wiele możliwości na takie skonstruowanie sobie człowieka od nowa. Ponownie wspomnę tu także o w istocie totalitarnym ustroju korporacji sprawujących nieformalne rządy nad przetwarzaniem zawartości cyfrowego świata.

    Na koniec wspomnę o tym, że grozić nam może jeszcze :
    7. Rozpad społecznych struktur, tragedie rodzin i upadek jednostek, które wybrać mogą fantomatyczną rzeczywistość coraz bardziej kuszących cybernetycznych fantazji zupełnie porzucając realne życie (o ile znajdą sposób na podtrzymanie swej egzystencji na poziomie wystarczającym do tego by się „podłączyć”).

    • km pisze:

      Dodam jeszcze – spinając swoistą klamrą wyżej przedstawioną listę zagrożeń – że jednostki zamknięte w różnych bańkach informacyjnych nie będą mogły (nie mogą) się nawzajem porozumieć także „w realu” (uruchamiane w konfrontacji „twarzą w twarz” mechanizmy społecznych emocji, empatii – biologiczne dyspozycje generujące skłonność do porozumienia nie pomogą) gdyż po prostu nie mogą zrozumieć jak można żywić inne niż ich przekonania. Jak można uwierzyć, że ktoś rozsądny może mieć odmienne zdanie jeśli cyfrowe mechanizmy nieustannie dostarczają im treści potwierdzające ich w ich mniemaniach? Jeśli ktoś myśli coś innego niż im zdaje się właściwe (z perspektywy ich informatycznego kokonu) musi być albo idiotą albo częścią spisku.

      Podważenie wszelkich wartości i prawd byłoby dobrym punktem wyjścia dla wielkiego filozoficznego zadania – gdyby nie to, że odrzucenie naukowych ekspertyz oraz kompromitacja samej idei prawdy oraz pragmatycznej/ praktycznej wartości naukowych (ścisłych) teorii i modeli sprawia, że nie ma intersubiektywnych kryteriów porozumienia.

      Bez żadnego odniesienia, czegoś z czym można skonfrontować coraz bardziej uwodzące przedstawienia dostarczane przez informatyczne technologie, w tej próżni wartości jednostki będą dały się urabiać i sterować zgodnie z interesem zarządców cyfrowych treści.

  3. Paweł Stacewicz pisze:

    Ponieważ powiało głębokim pesymizmem, zdecydowałem się przytoczyć tutaj – dla zrównoważenia sił dyskutantów – głos pewnego studenta z WEiTI, który postrzega przyszłość zinformatyzowanego świata raczej optymistycznie.

    Studentem tym jest p. Paweł Gąsecki (być może po opublikowaniu tych przesłanych mi inną drogą uwag zdecyduje się wziąć udział w naszej rozmowie).

    Oto jego argumentacja:

    1.  Komputery są obecne w naszym codziennym życiu. Są one dla nas na tyle powszechne, że nie wyobrażamy sobie istnienia bez wszystkich udogodnień których nam dostarczają. Wykorzystujemy je do pracy, rozrywki, wyszukiwania informacji, komunikacji oraz niezliczonych ilości innych zastosowań.

    Rano budzi nas telefon z nastawionym alarmem, na którym następnie sprawdzamy informacje ze świata oraz najszybszą drogę do pracy, w której to też zapewne będziemy pracowali na komputerach. Jedziemy samochodem z zainstalowanymi modułami komputerowymi które zwiększają nasz komfort i bezpieczeństwo. Żyjąc we współczesnym świecie musimy się postarać, aby na każdym kroku nie widzieć komputera. Jest tak, ponieważ komputery wspomagają człowieka, pomagają mu podejmować decyzje i ułatwiają jego pracę. Sądzę, że mając to wszystko na uwadze, ciężko jest wyobrazić sobie komputery jako zło zagrażające naszej cywilizacji.

    2. Komputery nie tylko są stałym elementem naszej codzienności. Są one również wykorzystywane w wielu dziedzinach, aby pomagać człowiekowi. Rozwój komputerów niezwykle przyczynił się do rozwoju m.in. medycyny oraz nauk inżynieryjnych, pozwolił również na automatyzację produkcji w fabrykach oraz zastąpienie ludzi w niebezpiecznych zawodach- na przykład ratownicy na ciężkim terenie mogą skorzystać z komputerowych zwiadowców aby określić pozycję zaginionego. Komputery pozwoliły ludziom na wykonywanie zadań uciążliwych lub zbyt skomplikowanych dla człowieka, co doprowadziło do zwiększenia naszego bezpieczeństwa i komfortu, a dalszy ich rozwój pozwoli na jedynie dalsze poprawienie warunków naszego życia.

    3. Kiedy szukałem argumentów świadczących za stwierdzeniem, że komputery mogłyby zagrozić naszej cywilizacji, jedynym argumentem (który wydaje się być wszechobecny) jest zagrożenie związane ze sztuczną inteligencją która miałaby obrócić się przecież ludziom i ich zniszczyć. Na moment obecny zagrożenie to jest futurystyczne-jesteśmy przecież bardzo dalecy od stworzenia sztucznej inteligencji mogącej zdać choćby test Turinga, nie mówiąc o tym, że ten przez wielu uważany jest za niewystarczający do udowodnienia inteligencji maszyny. Zakładając jednak nawet, że by się to udało,  to pamiętajmy że to człowiek jest wciąż kreatorem sztucznej inteligencji. Jest więc na pewno możliwość ograniczenia jej w celu powstrzymania przed zwróceniem się przeciwko ludziom (np koncepcja 3 praw robotyki Asimova). Poza tym nic nie mówi, że stworzona SI zwróciła by się przecież ludzkości. Uważam, że logiczniejsza i bardziej prawdopodobna w takim przypadku jest koncepcja wzajemnej współpracy i koegzystencji.

    Ciekaw jestem reakcji…

    Od siebie dodam, że używane wyżej (przez k-ma) pojęcie bańki informacyjnej brzmi sugestywnie i groźnie, ale czyż nie jest to tylko współczesny wyraz typowej dla wielu ludzi tendencji do zamykania się w świecie własnych lub środowiskowych poglądów (typowych dla jakiejś partii, organizacji, stowarzyszenia, czy nawet narodu). Być może internet i związany z nim powszechny dostęp do bardzo wielu różnych źródeł informacji bardziej ułatwiają (niż utrudniają)  pękanie tych współczesnych baniek informacyjnych.

    • km pisze:

      Tylko co do kwestii czy informatyczne technologie będą raczej utrudniały czy ułatwiały dostęp do treści – sądzę, że do większości poszukiwanych treści będą zdecydowanie dostęp ułatwiać co będzie jednocześnie fortyfikować w/w bańki:

      Można powiedzieć, że co najmniej część zagrożeń z mojej listy jest analogiczna do niebezpieczeństw jakie wskazywano setki a nawet tysiące lat temu przy wprowadzaniu kolejnych nowych technologii. (Upadek obyczajów miał towarzyszyć chyba bez mała każdej rewolucji technicznej, TV miała doprowadzić do rozpadu rodzin, których członkowie mieli zmartwieć przed odbiornikami sączącymi im sformatowaną treść i wstawać tylko by robić zakupy reklamowanych produktów… Ponoć starożytni grecy bali się, że pismo spowoduje upadek umysłów, które nie będą musiały już zapamiętywać wspomnień.)
      Kolejne technologie pozwalają nam tylko coraz lepiej zaspokajać nasze potrzeby – techniki cyfrowe robią to lepiej niż jakiekolwiek wcześniejsze. Jak już pisałem już wcześniej ludzie, którym tak wygodnie mogli WYBRAĆ by przedstawiać sobie tylko informacje podtrzymujące ich wizję świata i ODWZRACAĆ WZROK od wszystkiego co im nie pasuje. Mogli starać się zamknąć w „świecie własnych lub środowiskowych poglądów” – kształtując odpowiednio środowisko (otaczając się „bezpieczną” grupę ludzi). Niestety (?) Świat (zewnętrzny) ze swoimi regułami od czasu do czasu wdziera się w tą „komfortową” strefę nie zważając na przyjmowane przez nas wartości.

      I tu właśnie „z pomocą” przychodzą cyfrowe technologie (jakościowy krok ku „uszczęśliwieniu” ludzi) tak, że w pogoni za usatysfakcjonowaniem odbiorcy cyfrowych treści, mogą one całkowicie przesłonić ten (złowrogi?) zewnętrzny Świat – jedyną wspólną wszystkim obywatelom arenę (porozumienia). I nawet ktoś dokonujący iście Herkulesowych wysiłków – starający się odrzucać wszelkie mniemania i sfalsyfikować wszystkie swe przekonania – niczym cyfrowy Syzyf nigdy nie przekroczy bariery wzniesionej przez bogów cyfrowego uniwersum.

      Niekoniecznie chodzi mi tu o wizję ostatecznej apokalipsy cywilizacji – cyfrowe techniki pozwolą robić tylko jeszcze lepiej i skuteczniej to co robimy:

      Jeszcze większy „kawałek tortu” (władzy, majątku) dostanie się jeszcze mniejszej części ludzkości.
      Ludzie szczelniej odgrodzą się i wzniosą wokół siebie wyższe fortyfikacje (łatwiej niż kiedykolwiek wcześniej – dzięki nowym funkcjonalnościom cyfrowych technologii) zasłaniające im własne odbicie w (nieprzyjaznym czasem wręcz budzącym instynktowny wstręt „innym”).

      I tak jak w radiu puszczane są tylko określone (umowami prywatnych koncernów) piosenki tak NIE-neutralny Internet przestanie być źródłem wszelkiej informacji.
      Najpierw „niezgodny z wewnętrznymi politykami” dostawcy Internetowej przekaz prezentowany na czyimś blogu nie będzie dostępny nawet dla jego sąsiadów, później nawet naukowe treści (badania, teorie, dyskusje) znikną z cyfrowego uniwersum… Wszystko to już się dzieje – algorytmy YouTube usuwają filmy z rozmowami naukowców, w których używają oni „niewłaściwych” terminów jak „fenotyp”, „rasa” – na razie często z „głupoty” owych programów. Ale kto zagwarantuje nam, że kiedy ludzkość zanurzy się jeszcze głębiej w coraz wygodniejszym, nowym wspaniałym – wirtualnym – świecie algorytmy te (już z premedytacją ich twórców) nie będą dbały by pokazane być mogło jedynie to co nie zagraża ich interesom?
      – Przecież nie mogą temu zapobiec regulacje państw – „to byłby komunizm/ marksizm” – "wolny rynek dział sprawniej". I dostarczy sprawnie jeszcze większej grupie ludzi wirtualne szczęście a jeszcze mniejszej garstce coraz większe pieniądze i niespotykaną dotąd władzę w każdym ze światów (cyfrowym i „analogowym”).

      Zresztą Fantomatyczna rzeczywistość sieci stanie się jedynym ważnym światem – bo jest on bardzo wygodny. Mogę wręcz zatem powiedzieć, że i ja także przyszłość zinformatyzowanego świata postrzegam raczej optymistycznie – prawdopodobnie szybko się rozwinie zgodnie z obserwowanymi od wieków schematami.

  4. KarolinaK pisze:

    Postawione w tytule wpisu pytanie: Czy technologie informatyczne mogą zagrozić naszej cywilizacji? nie pozostawia watpliwości , że odpowiedzieć jest twiedząca. Zdażyć się tak może – i pewnie wielokrotnie w przyszłości tak się stanie.

    Nie sposób też odpowiedzieć zaprzecząjąco na kolejne stawiane przez dr Pawła Stacewicza pytania – do których odniosę się w szczegółach nieco później: czy maszyny autonomiczne nie podporządkują sobie lub nie zniszczą naszego gatunku oraz czy sami nie doprowadzimy się do zguby.

    Zapoznawszy się ze zdaniami przedmówców chciałabym zauważyć, że odpowiadając na owe pytania bardzo trafnie nakreślili fatalistyczne scenariusze tego co może się wydarzyć w przyszłości. Chcialabym poniżej odnieść się do ich argumentów jak i przytoczyć swoje:

     

    Zgadzam się z uwagą JakubaA – rozwój technologii może stworzyć dodatkowe zagrożenie militarne oraz przynieść inwigilaję zupełną. Patrząc jednak na pozytywna strone – może zwiększyć bezpieczeństwo cywili. W wypowiedzi JakubAa widzę nawiazanie do filmu Her. Roboty, które będą mogły wykazywać się ludzkimi odruchami mogą dostarczać człowiekowi pewnej dozy niepewności i konsternacji.

     

    Zgadzam się z ogółem spostrzeżeń p. Pawła Gąseckiego. Urzadzenia elektroniczne głęboko przesiąkły do naszego codziennego rytmu dnia. Ponadto, w dziedzinach specyficznych jak medycyna czy przemysł specjalistyczne technologie wspaniale wspierają człowieka zapewniając większą wydajność i precyzję. Można się spodziewać, że w przyszłości wyspecjalizowanie będzie się pogłębiać. Oczekiwać należy zatem pogłębienia się podziałów w społeczeństwie. Ludność słabo wykształcona będzie ograniczona do wykonywania zawodów prostych. Wymagania edukacyjne zostana postawione wysoko i będą specyficzne, poniewaź powierzone pracownikom zadania będą wiązać się ze skomplikowanymi technologiami. Właśnie te prace będą najwyżej opłacane i powiązane z najlepszą wiedzą i świadomością o otaczającym świecie. Tak jak wspomniał p. Gąsecki: „Jeszcze większy kawałek tortu (władzy, majątku) dostanie się jeszcze mniejszej części ludzkości”. Nie jest to łatwe zagadnienie, gdyż wprowadzenie ograniczeń przez Państwa mogłoby zakrywać o ograniczenie wolności.

     

    Jak wskazał p. Gąsecki dostęp do ogromu informacji pozwala na reewaluację własnych poglądów. Wbrem temu co powiedział km nie sposób obecnie pozostać we własnej bańce internetowej. Wydaje się wrecz, że kiedyś łatwiej było o izolację niż teraz. Na początku XX wieku na zgromadzeniach i wiecach nikt nie miał telefonu, którym mógłby zrobić zdjęcię, nagrać rozmowy lub udostępnić swoją lokalizację.

     

    Niewolnictwo

    Do fatalistycznych wizji możnaby tu jeszcze dodać, w przypadku uzyskania autonomiczności przez maszyny, potenjalne niebezpieczeństwo niewolnictwo i wyzysk człowieka np. przy pracy fizycznej. Hierarchia niewolnictwa – zjawiska znanego nam już z historii – w tym przypadku na najwyższym szczeblu umieściłaby maszyny.

     

    Upadek formy – fizyczne i zdolności analitycznych/poznawczych

    Wraz z fascynacją i poleganiem na technologii przestaliśmy być zdani na własne umiejętności. Stąd obawę o degenerację nie tylko ludzkiego mózgu ale i fory fizycznej uważam za jak najbardziej zasadną. Jeśli spojrzy się na rekordy lekkoatletów w biegach krótko – i długodystansowyh można zauważyć, że większość z nich pochodzi z czasów nie późniejszych niż lata 80. zeszłego wieku. Już obecnie wypomina się młodemu pokoleniu, że nie potrafi liczyć sprawnie bez kalkulatora, a całki wrzuca do „Wolframa”.

     

    Pozytywnie

    Nie należy zapominać o pozytywnym wpływie rozwoju technologii – progres w chirurgii, wspomagania wojska oraz wypraw ratunkowych, Bez superkomputerów niemożliwe byłyby badania prowadzone w biologii, chemii czy fizyce – Human Genome Project, Brain Mapping lub symulacje zachować gwiazd neutronowych.

    Rozwój technologii ma też swój udział w produkcji filmów i muzyki oraz w kustoalizacji usług i towarów nam oferowanych.

     

    Historia lubi zataczać koło

    Nieprzypadkowo, Uniwersalna Deklaracja Praw Człowieka powstała w 1948 roku czyli po oraz w odpowiedzi na barbarzyństwo drugiej wojny światowej. Podobnie, dopiero po drugiej wojnie światowej postanowiono wprowadzić obostrzenia związane z dostępem do i dalszym rozwojem broni atomowej. Zanim jednak dojrzeliśmy do tych kroków, 6. i 9. sierpnia 1945 roku, flota lotnicza Stanów Zjednoczonych upuściła na japońśkie miasta Hiroshimę i Nagasaki bomby atomowego rażenia, które spowodowały natychmiastową śmierć 200 tys. ludzi oraz kolejne ofirary na skutek odniesionych efektów popromiennych. Nauka oraz nauczka zazwyczaj okupiona jest jakąś ceną. Należy pamiętać, że historia lubi zataczać koło. Mało kto myśli w sposób konstrutywny o konsekwencjach zwiazanych z dodatkową władzą lub nowymi narzędziami za wczasu. Nie dziwi więc fakt, iż obok entuzjastycznych przyklaśnięć rozwojowi AI pochodzących od fascynatów gadżetów i nowinek techologicznych pojawiają się głosy przestrogi pionierów ze świata technologii: Elon Musk i Bill Gates.

     

    Profilaktyka przede wszystkim

    Przygotowując się do tej wypowiedzi wczytałam się w opinię wymienionych powyżej autorytetów. Obaj zgodnie stwierdzają, że AI może być największym zagrożeniem czyhającym na nas w przyszłości. Wypowiadają się oni na temat konieczności powstania pewnych regulacji prawnych na poziomie państwowym lub międzynarodowym. Z tym faktem zgadzam się w zupełności. O ile zostaną podjęte konkretne kroki profilaktyczne ograniczające samodzielność i sposób użytkowania technologii informatycznych – możemy spodziewać się wspaniałej przyszłości.

    Podsumowując, rozwój techologiij jest nieunikniony. Ważnym jest natomiast, aby odpowiednio wcześnie rozpoznać zagrożenia jakie mogą być z nim związane i im przeciwdziałać – na skalę globalną. Można się spodziewać, że tak jak w przypadku broni atomowej – dojdzie do eskalacji pewnych niebezpieczeństw – ze skutkami dla ludzi. Po czym, mam nadzieję, zostaną podjęte pewne kroki prawnego uregulowania i ukierunkowania technologii. Zadanie, które nas czeka na pewno nie będzie łatwe i obyśmy obejrzeli się w porę zanim nie będzie za późno.

    • km pisze:

      „Na początku XX wieku na zgromadzeniach i wiecach nikt nie miał telefonu, którym mógłby zrobić zdjęcię, nagrać rozmowy lub udostępnić swoją lokalizację.”

      Czy to zdjęcie trafi do mnie siecią cyfrowych powiązań zdecydują algorytmy, czy wśród informacji godnych mej uwagi cyfrowi pomocnicy w ogóle przedstawią te o tym wydarzeniu zdecyduje struktura mej „bańki” – zalewająca mnie ze wszystkich stron takim ogromem danych, że zwyczajnie mogę nie mieć szans na dotarcie do zapisu tychże rozmów.

      A gdy sam zapiszę jakieś rozmowy, zrobię zdjęcie, udostępnię lokalizację to nakarmię algorytmy informacjami pozwalającymi na jeszcze dokładniejsze sprofilowanie mnie tak, że kokon dostępnych mi cyfrowych treści będzie szczelniejszy – pozostawiając mnie w cyfrowym ukontentowaniu preferowanym przeze mnie obrazem Świata.

      Z jakiegoś powodu najwięcej wiedzący o informatycznych technologiach biją na alarm nie tylko wygłaszając ostrzeżenia o AI ale poprzez praktykę swych działań- „pracownicy doliny krzemowej” o wiele częściej niż reszta społeczeństwa wybierają archaiczne telefony (takie bez funkcjonalności smartfonów – bez możliwości robienia zdjęć, czy dostępu do portali społecznościowych).

      Teoretycznie nigdy nie mieliśmy takiego potencjału dostępu do dowolnych treści. Praktycznie – przy każdym kliknięciu na drodze do informacji, która może mi się nie spodobać (i wyrwać mnie z mej „bańki”) przedstawiany mi jest nieprzebrany wybór tego co może mi bardziej odpowiadać (i pozostawić mnie w sformatowanym katalogu klientów danego rodzaju).

      Mogę pozostać sobą wybierając to co wszyscy mi podobni. Jeszcze łatwiej będziemy mogli zasłonić się przed Innym i tym trudniej będzie nam znaleźć drogi porozumienia.

      Społeczeństwa powinny się demokratycznie umówić na regulacje – nie tylko w zakresie AI. Regulacje ograniczaj wolność – ważne by te granice wyznaczał demokratyczny konsens – a takie ograniczenie wolności w niektórych kwestiach
      (na przykład.:
      – mistyfikowania obrazu świata i zyskiwanie władzy czy kontroli nad decyzjami konsumenckimi – wypaczenie relacji sprzedawca konsument – poprzez profilowanie,
      – zabronienie zastawiania ordynarnych pułapek z generującą dopaminą przynętą na portalach społecznościowych.)
      przyczyniłoby się do zwiększenia zasobów „wolności netto” w społeczeństwie i prawdoupodobnienia teorii o rzeczywistości jakie maja poszczególni użytkownicy sieci i zwiększenia szans na racjonalną debatę i porozumienie ludzi w różnych sytuacjach społeczno-gospodarczych.

      Rekordy sportowe nie są najlepszym przykładem (na razie) by wskazywać na upadek formy fizycznej  ludzi– przypadek Usaina Bolta nie jest raczej odosobniony – a na wyniki elity sportowej mają wpływ jeszcze inne czynniki. Federacje różnych sportów miały na przełomie w latach 80 i 90 duże problemy z odsianiem rekordów ustanowionych na „niedozwolonym wspomaganiu”.  Stąd np. zmiany kategorii wagowych w dwuboju – zawodnicy o podobnej wadze kiedyś radzili sobie z większymi ciężarami ale testy antydopingowe były wtedy gorsze. O realnym pogorszeniu stanu atletyzmu społeczeństwa świadczą chyba lepiej słabsze wyniki sprawności dzieci szkolnych.

  5. KarolinaK pisze:

    “A gdy sam zapiszę jakieś rozmowy, zrobię zdjęcie, udostępnię lokalizację to nakarmię algorytmy informacjami pozwalającymi na jeszcze dokładniejsze sprofilowanie mnie tak, że kokon dostępnych mi cyfrowych treści będzie szczelniejszy – pozostawiając mnie w cyfrowym ukontentowaniu preferowanym przeze mnie obrazem Świata.”

    Aby pozostać w owej bańce internetowej trzeba przyjąć aktywną postawę – dokonać pewnych działać ją tworzących i blokujących sygnały docierające z zewnątrz. Myślę, że o to samo również chodziło Panu Gąseckiemu. Trzeba nieustannie i w sposób aktywny blokować coraz to nowe sposoby poprzez która informacja stara się do nas dotrzeć.

    Zgadzam się ze stwierdzeniem o demokratycznym ustanowieniu regulacji – o ile mowa tu o społeczeństwie w jakimś stopniu świadomym czyhających zagrożeń . Uświadamianie społeczeństwa to proces pochłaniający czas i wysiłek – dlatego warto ten temat poruszać już teraz.

    Częściowo zgadzam się z Tobą km, wiele czynników może świadczyć o kondycji olimpijczyków. Pewne zatrzymanie formy może również świadczyć o dotarciu do fizjologicznych i anatomicznych granic ludzkich w kwestii ustalawianych rekordów. Żeby odpowiedzieć możliwie dokładnie na postawiony argument o zmianach zasad panującyc w federacjach sportowych, przyjrzałam się ponownie wynikom rekordów w biegach na dystans 1 mili. Czasy nowych rekordzistów sukcesywnie skracały się co 1-8 lat począwszy od 1913, lecz skończywszy na 1999. Moja pierwsza myśl była jednak podobna do Twojej – spadek formy można zaobserwować już u dzieci i młodzieży w wieku szkolnym – co poparte jest badaniami WHO. Byłam jednak ciekawa czy można te badania przełożyć na nieco inną płaszczyznę.

    • km pisze:

      Kiedy raz poszukam w YouTube filmu ze  śmiesznymi kotkami przy kolejnym uruchomieniu zostaną mi zaproponowane podobne. Jeśli zdecyduje się je obejrzeć i jeszcze kilka razy pozwolę sobie na poprawienie sobie nastroju poprzez oglądanie swawoli małych zwierzątek, to gdy za jakiś czas włączę w/w portal „na wierzchu” odnajdę jedynie zabawy kociaków, szczeniaków i świnek miniaturek. Filmy w innej tematyce będą coraz dalej na liście (nie tylko na moim komputerze w domu ale – dzięki temu, że technologie informatyczne coraz bardziej ułatwiają nam dostęp do interesujących nas informacji – także w pracy, w telefonie i na „smart-TV” ) i gdybym zechciał obejrzeć cokolwiek nie będącego pociesznym przedstawicielem fauny, będę musiał się coraz bardziej wysilić, szukając coraz niżej pośród  przygotowanych specjalnie dla mnie ofert (starając się oprzeć urokowi świnek morskich i szopów!). Wcale nie będę musiał dokonywać jakichkolwiek starań by z danego portalu dowiedzieć się, że jest cokolwiek poza bawiącymi się zwierzaczkami.

      Nie trzeba specjalnej aktywności – wystarczy „być sobą” w cyfrowym świecie – by w naszym zachowaniu przejawiły się regularności co do preferowanych treści/ towarów. Nie trzeba przedsiębrać specjalnych działań by uaktywniły się algorytmy mierzące te prawidłowości – by sprofilować nas. One uruchamiają się ku naszej wygodzie gdy tylko uruchamiamy komputer, włączamy smartTV czy smartphone’a.
      Artykuły w regularnie wyszukiwanych przez nas (interesujących nas) tematach i ich ujęcia przedstawiane przez regularnie wybieranych publicystów i media informacyjne (lubiane przez nas) zostaną nam zaproponowane przy kolejnym wkroczeniu do wirtualnego świata. Nie będziemy musieli starać się by inne tematy uszły naszej uwadze – zepchnięte na dół listy, tam gdzie (dysponując skończonymi zasobami czasu i sił) nigdy nie dotrzemy.

      Dużo łatwiej było 100 lat temu oderwać wzrok od gazety tendencyjnie przedstawiającej nam dowolna sprawę – nie tyle o to by ujrzeć w jakimś transcendentalnym akcie prawdę w rzeczy samej, ale by dostrzec, że poza obrazem przedstawianym w owej gazecie jest coś jeszcze, że obraz jest „niepełny”.  Teraz – gdy zewsząd dociera do nas sformatowana specjalnie dla nas informacja (wszystkimi w/w kanałami dostępu) – można ograniczone zasoby ludzkiego pojmowania wypełnić treścią po brzegi – nie pozostawiając miejsca na cokolwiek ‘Innego’.

      I jeszcze w temacie upadku kultury fizycznej społeczeństw – pozostałbym przy myśli, że wystarczająco dobrze wskazuje na nią pogarszający się stan sprawności dzieci i poszukał danych dotyczących dorosłego „statystycznego średniaka” (lub rosnącego procenta ludzi o ograniczonej sprawności – np. ze względu na otyłość) bo z tego, że coraz rzadziej padają nowe rekordy (czyli ze spowolnienia wzrostu sprawności ułamka procenta populacji) raczej nie można wyciągnąć wniosków o pogarszaniu się kondycji fizycznej gatunku.

      • km pisze:

        Pisałem powyżej o tym co nam grozi już dziś- a co może przynieść rozwój technologii cyfrowych w tym zakresie (baniek informatyczmych)?

        Miłośnik małych ślicznych korków może – nawigowany na codzień przez swe okulary "rozszerzonej rzeczywistości" – omijać dzielnicę pełne starych, chorych zwierząt, pozostając w kompletnej nieświadomości ich istnienia, bez podejmowania kognitywnej decyzji o wymazaniu ich ze swego "światopoglądu informatycznego". Obraz rzeczywistości skonstruowany na miarę preferencji, tendencji rynkowych i wymogów mocodawców dostarczycieli treści pozostanie zmodyfikowany jak nigdy dotąd (i to pomimo tego, że dostęp do całych oceanów informacji będzie bezprecedensowy łatwy). A pozostający w różnych bańkach informacyjnych będą mieli coraz większe trudności w odnalezieniu choćby najwątlejszej nici porozumienia.

        • KarolinaK pisze:

          Jasne, możemy – korzystając zalogowani na konto Google-owe „odpajając” YouTuba – podpierać się argumentem, że jesteśmy w bańce informatycznej.

          Możemy też włączyć przeglądarkę w trybie incognito, użyć serwerów proxy bądź najzwyczajniej w świecie – nieślędzącej przeglądarki.

          Wydaje mi się, że dyskusja ta odbiegła nieco od zakładanego celu.

          • km pisze:

            To dobrze, że zgadzamy sie, że aktywnych starań wymaga NIE bycie „śledzonym” gdy korzysta się z dobroczynnych funkcjonalności cyfrowego świata a nie uzyskiwanie „nieprzefiltrowanej” informacji. Niestety coraz częściej aby skorzystać z usług cyfrowych (lub by użycie danej funkcjonalności w ogóle miało sens) trzeba się (bardziej lub mniej świadomie) zgodzić na „profilowanie”.
            Wybierając inną drogę (nie korzystając z portali społecznościowych lub wybierając „przeglądarki nieśledzace”) cyfrowa rzeczywistość przedstawiona przez technologie będzie inna- nie zobaczymy tego co przedstawiane jest (statystycznej większości) korzystających z udogodnień. Społeczny problem baniek informatycznych utrudniających wzajemne porozumienie – jest w takim wypadku tak samo obecny.
            To wręcz trywialny przykład: gotowy przepis na trybalizację- recepta na podział na „zorientowanych” i tych, którzy gładko przyjmują wszelkie technologie z dobrodziejstwem inwentarza. Choć akurat w przypadku przeglądarek widzę tu pewna analogię do prób wyciągania wniosków o stanie sprawności większości (społeczeństwa) na bazie wyników elity sportowców.
            Nie można jednak nie zauważyć, że tu własnie rodzi sie zagrożenia (płynące z rozwoju technologii cyfrowych): bowiem za każdym razem gdy ktoś podejmie (mniej lub bardziej świadomie) decyzję o tym czy/jak skorzysta z danej techniki – automatycznie trafi do określonej grupy. Grupy te zaś zostaną wzajemnie rozdzielone szczelniej niż kiedykolwiek wcześniej- murem inteligentnych algorytmów. Przedstawienie m.in. takiego zagrożenia było moim celem gdy pisałem swoje komentarze, gdyż podziały społeczne i ich negatywny wpływ na jednostki zdaje mi się być bardziej „namacalną” i palącą kwestią niż zagrożenie „terminatorami” a wraz z innymi przedstawionymi przeze mnie kwestiami już dziś stanowi negatywną stronę postępu informatycznych technologii.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *