Czy komputery mogą zagrozić naszej cywilizacji?

Jakiego rodzaju zagrożenia może nieść ze sobą wynalazek, którego zaistnienie pchnęło cywilizację ludzką na zupełnie nowe tory? Tory, po których ruszyliśmy w przyszłość z iście zawrotną prędkością. Ku automatyzacji, robotyzacji, wirtualizacji, globalizacji… W stronę zupełnie nowej jakości życia i międzyludzkiej komunikacji.

A jednak… Coraz częściej słyszy się o komputerowych uzależnieniach: od gier, portali społecznościowych, internetowej pornografii… Coraz głośniej o programach i systemach, które z powodzeniem zastępują lekarzy, prawników czy doradców podatkowych, a tym samym wysyłają na bezrobocie  całe rzesze dobrze wykształconych specjalistów. Coraz śmielej przebijają się do ludzkiej świadomości wizje autorów science fiction, w których sztuczna inteligencja przejmuje władzę nad światem…

Czy mamy zatem się czego bać? Czy są jakieś istotne racje po temu, by postrzegać komputery, technologie informatyczne oraz  towarzyszące im zjawiska społeczne jako pewnego rodzaju zagrożenie? Czy stanowią one zagrożenie w skali cywilizacyjnej? Czy mogą przyczynić się do degeneracji, upadku, a może nawet całkowitego zniknięcia naszej cywilizacji?

Do podjęcia powyższych pytań zapraszam przede wszystkim –  ale nie tylko! – uczestników seminarium pt. „Społeczeństwo informacji i wiedzy”, które prowadzę  na wydziale WEiTI PW…

Przydatne w dyskusji lektury, w tym wybrane prezentacje studentów,  znajdują się na stronie:

♦   Społeczeństwo informacji i wiedzy

Zapraszam serdecznie do dodawania komentarzy, najlepiej odnoszących się do siebie wzajem, czyli dyskusyjnych.

Pozdrawiam i zapraszam – Paweł Stacewicz

Ten wpis został opublikowany w kategorii Dydaktyka logiki i filozofii, Światopogląd informatyczny, Światopogląd racjonalistyczny. Dodaj zakładkę do bezpośredniego odnośnika.

12 odpowiedzi na „Czy komputery mogą zagrozić naszej cywilizacji?

  1. Filip pisze:

    Odniosę się do argumentu związanego z programami, które z powodzeniem zastępują lekarzy, prawników czy doradców podatkowych. Nie zgodzę się z tym faktem, gdyż aktualnie takie systemy uzupełniają pracę specjalistów. Dzisiejszy poziom zaawansowania robotyki stoi na poziomie zastępowania człowieka w automatycznych prostych czynnościach, dzięki temu powstały takie urządzenia jak samoobsługowe kasy. Czy spowodowało to zwolnienie ogromnej liczby kasjerów ? Oczywiście że nie. Tak samo uważam, że komputer, który zastępowałby lekarza nie spowoduje zwolnienia całej masy doktorów, ponieważ przez wiele lat, roboty nie będą budziły zaufania takiego jakie posiada człowiek z wieloletnim doświadczeniem. Obecnie ten sam problem przechodzimy w związku z autonomicznymi samochodami, gdzie pomimo większej liczby pomyłek robionych przez człowieka, nie mamy zupełnie zaufania do tej technologii.

    • Paweł Stacewicz pisze:

      Przynajmniej wg niektórych badań prognozy nie są jednak tak optymistyczne…

      Oto ciekawy artykuł z sieci:
      http://it-filolog.pl/sztuczna-inteligencja-bedzie-zabierac-etaty-ponad-60-proc-zawodow-zagrozonych/

      Czytamy w nim:
      W 2013 r. badacze z Uniwersytetu Oksfordzkiego opublikowali listę zawodów najbardziej zagrożonych automatyzacją. Na pierwszym miejscu znaleźli się sprzedawcy kredytów i pożyczek. Drugie miejsce przypadło recepcjonistom i pracownikom udzielającym informacji. Następni na liście znaleźli się asystenci prawni, personel sprzedawców detalicznych, kierowcy, ochroniarze, pracownicy fast foodów, barmani, personalni doradcy finansowi, reporterzy i korespondenci, muzycy i piosenkarze oraz prawnicy.

      Nie pamiętam dokładnie źródła i pełnej treści tej informacji, ale w zeszłym roku bodaj agencje donosiły, że w pewnej japońskiej firmie ubezpieczeniowej ‚zatrudniono’ program sztucznej inteligencji, zwalniając jednocześnie kilkunastu zbędnych już specjalistów.

      • Andrzej pisze:

        Chciał bym odnieść się do komentarza Filipa oraz Pawła Stacewicza. Zastępowanie pracy ludzkiej poprzez roboty jest krokiem w ewolucji, tam gdzie praca jest z jakichś powodów jest niebezpieczna lub szkodliwa użycie robota jest wręcz wskazana i nie sądzę aby ktoś był innego zdania. Rozważmy tu pracę z materiałami promieniotwórczymi, pacę w otoczeniu bardzo silnych pól elektromagnetycznych, lub w skrajnych warunkach termicznych. Kolejnym argumentem jaki mi się nasuwa jest fakt wynalezienia silników i zastąpienie nimi pracy koni, one też nie zostały wyeliminowane z dzisiejszego świata, można powiedzieć że ich ranga ewoluowała w kręgu pasjonatów, hodowców oraz sportowców i dziś jest to swojego rodzaju hobby dla elity. Jeszcze inny argument na potwierdzenie tezy o braku możliwości wyeliminowania pracy ludzi może być na przykład prosta czynność, mianowicie mycie samochodów. Myjnie automatyczne istnieją od wielu lat a mimo to to człowiek jet w stanie z większą dokładnością ”dopieści” auto. firmy zajmujące się auto detailing ostatnio bardzo zyskują na popularności

  2. miko pisze:

    Podstawowym pytaniem które trzeba by tutaj postawić, to nie czy w istocie komputery nam zagrażają lecz czy ludzie są w stanie dostosować się do postępującego rozwoju technologicznego. Póki maszyny będziemy określać mianem „komputer” jedyne realne zagrożenie wychodzi z naszej strony – ludzkiej strony. Jeśli komputery mają zagrozić istnieniu populacji na ziemi to tylko z ręki ludzkiej. Cały dark web, urządzenia zabijające ludzi lub niszczące inne urządzenia, powstają z ręki ludzkiej. Manipulacje informacjami typu „fake-news”, zajmowanie stanowisk pracy przez urządzenia itp. sami sobie tworzymy zagrożenia, nie powstają one przecież z rąk maszyn (przynajmniej na razie). Myślę że przy uzyskaniu świadomości przez maszyny, komputery przestały by zagrażać aż tak ludziom jak w tej chwili a negatywną przyszłość zgotować sobie możemy tylko i wyłącznie my sami.

    • Andrzej pisze:

      Zgadzam się z tobą miko. Głównym zagrożeniem jesteśmy sami dla siebie. Zadajmy sobie pytanie kto tworzy wirusy, podszywa się pod cudzą tożsamość w sieci, kto i w jaki sposób uzyskuje dostęp do naszych ukrytych danych takich jak hasła dostępu do portali online. Ataki hakerskie to nie bunt maszyn które gromadzą waluty całego świata na sekretnym dysku żeby następnie, no właśnie co maszyna miała by osiągnąć z kradzieży czego kolwiek z sieci.

  3. Juro pisze:

    Wydaję mi się, że abyśmy poczuli się naprawdę zagrożeni musiał by nastąpić przełom i zacytuję: „Taką inteligencją wykazywałaby się maszyna, która np. w lesie albo na ulicy potrafiłaby samodzielnie przetrwać i zdobywać źródła energii.” oraz odpowiednie ogniwa, które by wystarczająco długo działały. Więc na razie nie mamy co się martwić że cokolwiek się zadzieje bez naszego wyraźnego życzenia, z drugiej strony wyobraźmy sobie, że za miesiąc ktoś wynajduje tani procesor i algorytm samouczący się… nie zatrzymalibyśmy już tego.
    Wracając do tematu, jesteśmy bardziej uzależnieni od technologii niż może się nam wydawać i będzie to postępowało i raczej nic tego już nie zatrzyma. Podstawowe pytanie, do czego dążymy – chyba do tego, aby się zbytnio nie napracować, więc automatyzujemy wszystko co się da. Przykład w pracy: powiedzmy 10 lat temu było 10 pracowników IT i zajmowali się ok 100 zadaniami w określonym czasie, po 10 latach jest rozwój i jest już nie 1000 zadań tylko 5000 zadań. Czyli logicznie powinno być więcej pracowników… jest mniej, bez automatyzacji procesów po prostu by się nie dało. Wszyscy czekają aż ta bańka pęknie i niestety, ale obsługa awarii jest tańsza niż pracownicy.
    Rolnictwo już teraz można by stworzyć system w 100% zautomatyzowany, maszyny pojada zasieją, zbiorą, zapakują i wyślą w świat – i to nie one będą nam usługiwać tylko My będziemy usługiwać im w postaci serwisantów. Użyłem specjalnie tej branży, ponieważ jest, że tak powiem duża (duże tereny, duże maszyny i najważniejsza branża dla nas).
    Pracownik „korpo” 6 włącza się telewizor na kanale informacyjnym, szybka toaleta, 10 min na rowerze stacjonarnym, kawa gotowa, zestaw jedzenia czeka pod drzwiami, przechodzi przez jedne drzwi wsiada do samochodu po 20 min wysiada tuż przy windzie w korpo, lunch z „plastiku”, zdrofit w drodze powrotnej, parkuje godz 21, zakupy z szablonu czekają, browar przed snem i tak w kółko…
    Nie ma możliwości, aby zastąpić wszystkich wymienionych zawodów, na początku będzie coraz większa automatyzacja… Na szczęście ktoś to musi obsługiwać „Bateryjki”…

    • Paweł Stacewicz pisze:

      „… z drugiej strony wyobraźmy sobie, że za miesiąc ktoś wynajduje tani procesor i algorytm samouczący się… nie zatrzymalibyśmy już tego.”

      Takie algorytmy już istnieją. Ostatnio furorę robią głębokie sieci neuronowe, uczące się metodami „deep learning”. Co ciekawe, metody te działają i są niezwykle skuteczne, ale nie do końca wiadomo dlaczego (brakuje ich dobrej teorii matematycznej,a także narzędzi wydobywania z ich złożonej struktury przejrzystej struktury wyjaśnień podejmowanych przez sieć decyzji).

      A zatem proces już trwa i trudno go będzie zatrzymać… (nawiązujac do powyższego cytatu)

      • Andrzej pisze:

        Do tej pory wszelkie znane mi wytwory ludzkiej pracy ulegały awarii więc czemu metody ,,deep lerning” nie miały by zawieźć i obrać niezrozumiały kierunek. Co wtedy gdy okazało by się że te algorytmy obiorą słuszny kierunek z którym ludzkość nie będzie się zgadzać. W ostatnim czasie normy emisji co2 stale się zaostrzają z różnym skutkiem, kiedyś zasłyszałem opinię że jeśli mieli byśmy realnie ograniczyć tę emisję należało by powstrzymać rozwój co ze względu ekonomicznego jest nie realne. Wracając do tematu powiązania emisji co2 rozwoju oraz rozwoju sztucznej inteligencji. Co wydarzyło by się gdyby taka maszyna dała nam odpowiedź typu pozbądźmy się połowy populacji ziemi. Czy wtedy nadal u władzy będzie prezydent lub partia czy może w takim momencie może to maszyna będzie obejmowała takie funkcje i wtedy zostaniemy wyłączeni jak żarówki ??

      • Juro pisze:

        Bardziej chodziło mi o np moduł dla mas, przykładowo z klocków lego – zróbmy sobie robota i niech się uczy najpierw ruchu, następnie własnej rozbudowy, następnie poruszania, chodzenia po schodach itd. i nie chodzi tu o to aby pisać cały kod, tylko żeby motywować do samorozwoju kodu a nie pisać instrukcję na każdy przypadek.

  4. Andrzej pisze:

    ,,A jednak… Coraz częściej słyszy się o komputerowych uzależnieniach: od gier, portali społecznościowych, internetowej pornografii…”

    Tego rodzaju uzależnienia nie są domeną wyłącznie pojedynczych obywateli. Na dzień dzisiejszy jest wiele firm które swoje bazy danych przechowują na dyskach sieciowych, są one poniekąd uzależnione od tych danych a awarie takich sieci również się zdarzają.
    Wtedy firma jest zupełnie zablokowana. Nie tak dalekim przykładem może być chociażby pożar mostu Łazienkowskiego który podwieszone pod nim światłowody. Od internetu odciętych było wielu mieszkańców Warszawy, a także różne instytucje na czele z Ministerstwem Obrony Narodowej.

    • Juro pisze:

      Kwestia inteligentnego planowania ;) a nie fuszerka i kompletny brak wyobraźni w MON’ie… W swoim czasie mieliśmy pomiędzy serwerowniami dwa niezależne łącza światłowodowe a jak by to poleciało to było jeszcze radio. Pomiędzy WarszawaCentrum – WarszawaWłochy. Dopiero rozwija się era zabezpieczeń, do tej pory było poczucie bezpieczeństwa.

  5. km pisze:

    Podobno dzieci od maleńkości dorastające w „inteligentnych domach” przyzwyczajone, że jakaś „Aleksa” czy inny fantomatyczny Byt spełni każde ich żądanie- inteligentnie domyślając się każdej ich intencji, nawet jeśli zostanie ona wyrażona w niecodziennej czy niestosownej (tradycyjnie rzecz ujmując: niegrzecznej) formie – nie radzą sobie najlepiej gdy zaczynają się socjalizować z Innymi.
    Pewnie nie pomaga to, że mogą trafić na podobnie „uczące” się społecznych interakcji rówieśników.

    Są tacy, którzy boją się i tego co stanie się, gdy już niedługo trochę starsi będą „uczyć” się szczególnego rodzaju interakcji międzyludzkich w ramach wirtualnych środowisk zaprogramowanych na spełnianie dowolnych fantazji „inteligentnie”- domyślających się życzeń użytkownika, niezależnie od tego czy zostaną one wyrażone w stosownej czy nie (tradycyjnie rzecz ujmując: niegrzecznej) formie. Nie wspominając, już o tym, że dowolnie (pięknie) „ucieleśnione” informatyczne „twory” mogą być w swej wizualnej/fizycznej formie robotów o wiele atrakcyjniejsze od nie tylko rówieśników.

    W pewnym sensie może to i lepiej- bo po co płodzić kolejne dzieci jeśli perspektywa znalezienia dla nich pracy wygląda tak ponuro jak kreślą to raporty o jakich napisał dr. Stacewicz? Jeden z kandydatów na prezydenta USA w nadchodzących wyborach już nawet za trzon swej kampanii obrał problem utraty ponad 40% miejsc pracy związany komputerową automatyzacją. Ów polityk dotychczas specjalizował się w tworzeniu nowych stanowisk pracy- i to działając właśnie w tej specjalności dostrzegł, że właśnie ten futurystycznie teoretyczny problem ma jak najbardziej praktycznie aktualny wymiar. Zakładając, że wyliczenia, na których się on opiera są poprawne, to „rozmiar” problemu jest tak istotny, że tradycyjne porady przebranżowienia i adaptacji do zmieniającego się rynku pracy (takie jak ta by rzesza niepotrzebnych kierowców ciężarówek „nauczyła się programować”) stają się coraz bardziej oczywistym kpiną. Zresztą problem ten staje się już tak wyraźny, że hasztag #LearnToCode został uznany przez niektórych za „mowę nienawiści”.

    Wolność i nieskrępowanie regulacjami Państwa komunikacji i porozumienie między różnymi ludźmi o odmiennych perspektywach na Świat– to miały dać nam komputery (i ich światowa sieć). Państwa w swych zeskorupiałych strukturach i procedurach zniewalają dostawców rozmaitych mediów (wody, gazu, prądu) do tego by podłączali do ich sieci indywidualnych odbiorców/użytkowników nawet jeśli nie opłaca się to przedsiębiorcom/gestorom owych dóbr. Już dziesiątki i setki lat temu (przed erą informatyzacji ) oczywistym było dla legislatorów oraz teoretyków Państwa i Prawa, że dostęp do informacji i udział w debacie publicznej jest krytyczny dla kształtu społeczeństw. Można by wnosić, że w umowie społecznej także i wolności dostarczycieli informacji powinny być ograniczone dla dobra indywidualnych odbiorców/użytkowników (wobec nierówności sił przedsiębiorstwo medialne/informacyjne vs obywatel). Tymczasem największe koncerny medialne, portale informatyczne i społecznościowe już kształtują obraz świata ich użytkowników zgodnie z wytycznymi sponsorów/reklamodawców ale nieskrępowani – poza społeczną umową i regulacjami demokratycznie wybranymi – wprowadzają własne zasady i polityki odcinając („banując”) wybrane „głosy”. A coraz większe uzależnienie od komputerów „użytkowników” informacji (związane z tym coraz sprawniej działającymi komputerami i lepszymi technikami zaspokajania ludzkich potrzeb) tylko jeszcze bardziej ułatwi korporacjom sprawowanie „rządu dusz”.

    To wszystko przybiera naprawdę ciekawy obrót, gdy stwierdzenia jakie przedstawiła znana tenisistka Martina Navrátilová i niektóre feministki, że osoba, której biologiczna płeć (1-wszo i 2-go rzędowe cechy płciowe, chromosomy etc.) jest męska nie ma takich samych cech mogących mieć wpływ w szczególności na sportowy wynik jak osoba o w/w charakterystykach biologicznych wskazujących na płeć kobiecą są nie tylko uznane za „mowę nienawiści”, ale powód do odebrania głosu w dyskusji publicznej (Twitter). Trzeba pamiętać, że w USA głosy poza Twitterem pozostają „wołaniem na puszczy” – i odcięty od niego komentator jest w sytuacji analogicznej do kogoś, kto zbudowałby dom ale odmówionoby mu dostępu do wodociągu, gazociągu i sieci elektrycznej. To, że prywatne podmioty mogą zgodnie ze swoimi mniemaniami usunąć z debaty zgodne z aktualną wiedzą naukowa twierdzenia może mieć zaiste ciekawe konsekwencje. (Oczywiście jeśli mogą tak czynić w sprawach niekomercyjnych prawdopodobnie nie zawahają się tak postąpić gdy będą mieli wymierny interes.) Zresztą także usuwanie z debaty głupich argumentów czy nieprawdziwych twierdzeń może mieć negatywny wpływ na zdolność do późniejszego radzenia sobie jej uczestników z podobnymi głupotami gdy opuszczą „chronione” środowisko.

    Wszystko to razem wiąże się z zasadniczym zagrożeniem na jakie wskazywałem już w poprzedniej blogowej dyskusji na temat niebezpieczeństw związanych z informatyzacją. Chodzi mi o to, że coraz lepiej rozumiejące nasze potrzeby komputery i dbające o nasz komfort oraz spokój (o to, by nic nie burzyło nam obrazu świata) mogą utrudnić nam (naszym dzieciom) porozumienie z Innymi ludźmi (widzącymi Świat z wnętrza innej „bańki informacyjnej”).

    A porozumienie z Innymi ludźmi jest krytyczne – jeśli chcemy dogadać się co do tego jak poradzić sobie z zagrożeniami jakie niesie ze sobą rozwój komputerów oraz jak zadbać o to by z beneficjów jakie niosą ze sobą technologie informatyczne mogli skorzystać wszyscy.

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *