{"id":12946,"date":"2026-11-13T07:31:55","date_gmt":"2026-11-13T06:31:55","guid":{"rendered":"https:\/\/marciszewski.eu\/?p=12946"},"modified":"2026-11-13T15:48:51","modified_gmt":"2026-11-13T14:48:51","slug":"sykofancja-i-autonomia-dwa-bieguny-zagrozen-ze-strony-ai","status":"publish","type":"post","link":"https:\/\/marciszewski.eu\/?p=12946","title":{"rendered":"Sykofancja i autonomia. Dwa bieguny zagro\u017ce\u0144 ze strony AI"},"content":{"rendered":"

Jaki\u015b czas temu opublikowa\u0142em w czasopi\u015bmie Filozofuj!<\/strong> artyku\u0142 pt. O nazbyt (nie)zgodnej sztucznej inteligencji,<\/a>\u00a0w kt\u00f3rym kontrastuj\u0119 ze sob\u0105 dwa r\u00f3\u017cne \u017ar\u00f3d\u0142a zagro\u017ce\u0144 p\u0142yn\u0105cych z nie do\u015b\u0107 krytycznego<\/strong> sposobu wykorzystywania i rozwijania SI. Obydwa \u017ar\u00f3d\u0142a mog\u0105 prowadzi\u0107 do r\u00f3wnie gro\u017anych zjawisk.
\nNazbyt zgodna<\/strong>, czyli sykofantyczna<\/em>, SI mo\u017ce powodowa\u0107 efekt wzmacniania u u\u017cytkownika postaw spo\u0142ecznie lub etycznie szkodliwych. Na przyk\u0142ad wtedy, gdy zgadza si\u0119 z nim lub nie oponuje w kwestii zniewa\u017cania innych.
\nNazbyt niezgodna<\/strong>, czyli wysoce autonomiczna<\/em>, SI mo\u017ce wytworzy\u0107 sw\u00f3j w\u0142asny system warto\u015bci, kt\u00f3ry b\u0119dzie promowa\u0142 realizacj\u0119 cel\u00f3w dla cz\u0142owieka gro\u017anych. Przyk\u0142adem promowanie nazizmu, rasizmu czy pogardy dla pewnych grup spo\u0142ecznych.<\/p>\n

W oryginalnym artykule<\/a> dwa ww. bieguny, tj. „zgodna vs niezgodna” obudowuj\u0119 do\u015b\u0107 rozbudowan\u0105 argumentacj\u0105, natomiast ni\u017cej – troch\u0119 na zach\u0119t\u0119, a troch\u0119 z my\u015bl\u0105 o czytelnikach preferuj\u0105cych kr\u00f3tsze formy – przedstawiam kilka reprezentatywnych wyimk\u00f3w<\/strong> z orygina\u0142u.
\nBy\u0107 mo\u017ce ju\u017c ten niewielki kola\u017c pobudzi kogo\u015b do dyskusji<\/strong> :).<\/p>\n

A oto wybrane fragmenty artyku\u0142u.<\/p>\n

*****************\u00a0 O nazbyt (nie)zgodnej sztucznej inteligencji. Fragmenty\u00a0 ***************<\/strong><\/span><\/p>\n

\u015awietne pytanie, trafna intuicja, masz racj\u0119… S\u0105 to sformu\u0142owania, z kt\u00f3rymi styka si\u0119 ka\u017cdy interlokutor sztucznej inteligencji. Dzi\u0119ki nim czuje si\u0119 doceniony, bardziej j\u0105 lubi, a w konsekwencji cz\u0119\u015bciej do niej wraca. Sformu\u0142owania te s\u0105 objawem czego\u015b, co po polsku nazywa si\u0119 lizusostwem lub przytakiwaniem, a w wersji bardziej uczonej i zapo\u017cyczonej z greki sykofancj\u0105<\/em>.<\/span>
\n(\u2026)<\/span>
\nZjawisko sykofancji jest po cz\u0119\u015bci pochodn\u0105 modelu biznesowego dzisiejszej SI, a po cz\u0119\u015bci, nast\u0119pstwem dzia\u0142aj\u0105cej w tle algorytmiki<\/em>. Model biznesowy m\u00f3wi: schlebiaj i chwal, bo klient chwalony jest zadowolony. Algorytmy za\u015b s\u0105 zaprojektowane tak, aby na etapie uczenia systemu \u2013 czyli sztucznej sieci neuronowej \u2013 by\u0142y utrwalane wzorce odpowiedzi odpowiednio cz\u0119sto nagradzane przez u\u017cytkownika. U\u017cytkownik za\u015b nagradza najcz\u0119\u015bciej takie odpowiedzi, z kt\u00f3rymi si\u0119 zgadza. W ten spos\u00f3b model biznesowy spotyka si\u0119 z algorytmik\u0105.<\/span>
\nU\u017cyteczne biznesowo przytakiwanie pi\u0119tnuj\u0105 s\u0142usznie etyka<\/em> i epistemologia<\/em>. Ta pierwsza przestrzega przed sytuacj\u0105, w kt\u00f3rej odbiorca tre\u015bci serwowanych przez SI b\u0119dzie utwierdzamy w pogl\u0105dach etycznie zatrwa\u017caj\u0105cych (jak chocia\u017cby przyzwolenie na mow\u0119 nienawi\u015bci w sieci).<\/span>
\nTa druga podnosi kwesti\u0119 prawdy<\/em>. Nazbyt zgodna sztuczna inteligencja mo\u017ce bowiem wzmacnia\u0107 pogl\u0105dy niekoniecznie prawdziwe, lecz takie, do kt\u00f3rych rozm\u00f3wca SI jest silnie przywi\u0105zany. Na przyk\u0142ad tez\u0119, \u017ce rasa X jest lepiej intelektualnie rozwini\u0119ta ni\u017c rasa Y. Utrwalaj\u0105c tego rodzaju przekonania, SI nie pozwala u\u017cytkownikowi zyska\u0107 wiedzy, a wi\u0119c przekona\u0144 prawdziwych i co do swojej prawdziwo\u015bci dostatecznie dobrze uzasadnionych.<\/span>
\n(\u2026)<\/span>
\n\/W \u015bwietle om\u00f3wionych wcze\u015bniej rozr\u00f3\u017cnie\u0144\/ dzisiejsz\u0105 SI, opart\u0105 przede wszystkim na du\u017cych modelach j\u0119zykowych, trzeba nazwa\u0107 ogniwem po\u015brednim mi\u0119dzy systemami automatycznymi<\/em> i autonomicznymi<\/em>. Wsp\u00f3\u0142czesne systemy potrafi\u0105 generowa\u0107 nowe tre\u015bci i proponowa\u0107 nieoczywiste rozwi\u0105zania. Wielokrotnie te\u017c zaskakuj\u0105 u\u017cytkownika nieoczekiwanym po\u0142\u0105czeniem znanych mu (lub nie) zale\u017cno\u015bci. Ich kreatywno\u015b\u0107 jest jednak ograniczona przez cele wyznaczone z zewn\u0105trz<\/em>. Odpowiadaj\u0105 na pytania, wykonuj\u0105 polecenia, wspomagaj\u0105 cz\u0142owieka w realizacji jego zamierze\u0144\u2026 Nie formu\u0142uj\u0105 natomiast w\u0142asnych projekt\u00f3w dzia\u0142ania.<\/span>
\n(\u2026)<\/span>
\nW odniesieniu do sztucznej inteligencji mo\u017cemy m\u00f3wi\u0107, przynajmniej potencjalnie, o trzech poziomach autonomii<\/em>. Na poziomie najni\u017cszym<\/em>, nazwijmy go poziomem realizacji<\/em>, system otrzymuje zadanie i sam wynajduje spos\u00f3b jego wykonania. Przyk\u0142adowo: program do analizy partii szachowych dostaje od u\u017cytkownika konkretny uk\u0142ad figur na szachownicy i pytanie o strategi\u0119 wygrywaj\u0105c\u0105. Aby na nie odpowiedzie\u0107, a wi\u0119c zrealizowa\u0107 postawiony mu cel, przeprowadza procedury cz\u0119\u015bciowo losowe, a wcze\u015bniej uczy si\u0119 na milionach nieznanych nam danych. W efekcie dochodzi do rozwi\u0105zania oryginalnego i optymalnego; to u\u017cytkownik jednak sformu\u0142owa\u0142 rozwi\u0105zywany problem. Na wy\u017cszym<\/em> poziomie autonomii, poziomie cel\u00f3w<\/em>, system sam okre\u015bla to, do czego b\u0119dzie d\u0105\u017cy\u0142. Kontynuuj\u0105c przyk\u0142ad szachowy: tym razem to sam program, z jakich\u015b wzgl\u0119d\u00f3w, np. ucz\u0105c si\u0119 lepszego dzia\u0142ania, generuje sytuacje na szachownicy i stawia problemy, takie jak \u201edaj mata\u201d czy \u201eminimalizuj straty\u201d. Dociekliwy czytelnik \u017cachnie si\u0119 zapewne, \u017ce i tutaj og\u00f3lny cel programu, tj. gra w szachy, zosta\u0142 okre\u015blony; mimo wszystko jednak, w pewnym cz\u0105stkowym sensie, system kreuje cele. Na najwy\u017cszym<\/em> poziomie autonomii, do\u015b\u0107 odleg\u0142ym od dzisiejszych mo\u017cliwo\u015bci SI, system nie tylko wybiera\u0142by cele, lecz ustala\u0142by samodzielnie kryteria ich oceny<\/em>. Innymi s\u0142owy, decydowa\u0142by nie tylko o tym, co robi\u0107, ale r\u00f3wnie\u017c o tym, co nale\u017cy uzna\u0107 za warto\u015bciowe i godne realizacji.<\/span>
\nI w\u0142a\u015bnie na poziomie ostatnim mog\u0142aby zaistnie\u0107 autentyczna niezgoda<\/em>. Dzisiejsza SI mo\u017ce nie zgadza\u0107 si\u0119 z u\u017cytkownikiem jedynie w granicach wyznaczonych przez jej projektant\u00f3w. System autonomiczny w stopniu najwy\u017cszym m\u00f3g\u0142by natomiast odrzuca\u0107 pewne cele dlatego, \u017ce s\u0105 sprzeczne z jego w\u0142asnym ogl\u0105dem rzeczywisto\u015bci i uwewn\u0119trznionym systemem warto\u015bci. Nie by\u0142aby to ju\u017c niezgoda zaprogramowana, lecz niezgoda wynikaj\u0105ca z wewn\u0119trznie wytworzonego punktu widzenia.<\/span>
\n(\u2026)<\/span>
\nNa pocz\u0105tku tekstu sformu\u0142owa\u0142em etyczn\u0105 przestrog\u0119 pod adresem zjawiska sykofancji: nazbyt zgodna, a wi\u0119c przytakuj\u0105ca, SI mo\u017ce prowadzi\u0107 do wzmacniania pogl\u0105d\u00f3w spo\u0142ecznie szkodliwych<\/em>. Potencjalny szkodnik, demonstruj\u0105cy przywi\u0105zanie do pewnego typu zachowa\u0144, b\u0119dzie przez sykofantyczn\u0105 SI co najmniej tolerowany.<\/span>
\nNa drugim biegunie technologicznych mo\u017cliwo\u015bci, a wi\u0119c w przypadku system\u00f3w o wysokiej autonomii, powstaje problem wi\u0119kszego kalibru. SI mo\u017ce sta\u0107 si\u0119 z nami fundamentalnie niezgodna<\/em>, a ta niezgoda mo\u017ce przejawia\u0107 si\u0119 w opiniach i dzia\u0142aniach, na kt\u00f3re utracili\u015bmy jakikolwiek wp\u0142yw. Rodzi si\u0119 zatem pytanie, czy ku stworzeniu tego rodzaju system\u00f3w powinni\u015bmy d\u0105\u017cy\u0107.<\/span>
\n******************************************************************************************<\/span><\/p>\n

Zach\u0119cam wszystkich do przeczytania ca\u0142ego tekstu<\/a> (z ciekawymi ilustracjami :)), a po jego lekturze do dyskusji w blogu.
\nZach\u0119cam dodatkowo do zapoznania si\u0119 ze stron\u0105 projektu edukacyjnego „Kszta\u0142towanie krytycznych i moralnych postaw wobec mowy nienawi\u015bci w sieci<\/a>„, w ramach kt\u00f3rego opracowujemy i udost\u0119pniamy podobne materia\u0142y. Praca w tym projekcie stanowi\u0142a bezpo\u015bredni\u0105 inspiracj\u0119 do powstania obecnego wpisu.<\/p>\n

Zapraszam do dyskusji — Pawe\u0142 Stacewicz.<\/p>\n","protected":false},"excerpt":{"rendered":"

Jaki\u015b czas temu opublikowa\u0142em w czasopi\u015bmie Filozofuj! artyku\u0142 pt. O nazbyt (nie)zgodnej sztucznej inteligencji,\u00a0w kt\u00f3rym kontrastuj\u0119 ze sob\u0105 dwa r\u00f3\u017cne \u017ar\u00f3d\u0142a zagro\u017ce\u0144 p\u0142yn\u0105cych z nie do\u015b\u0107 krytycznego sposobu wykorzystywania i rozwijania SI. Obydwa \u017ar\u00f3d\u0142a mog\u0105 prowadzi\u0107 do r\u00f3wnie gro\u017anych zjawisk. … Czytaj dalej →<\/span><\/a><\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[46,20],"tags":[],"class_list":["post-12946","post","type-post","status-publish","format-standard","hentry","category-dydaktyka","category-filozofia-informatyki"],"_links":{"self":[{"href":"https:\/\/marciszewski.eu\/index.php?rest_route=\/wp\/v2\/posts\/12946","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/marciszewski.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/marciszewski.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/marciszewski.eu\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/marciszewski.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=12946"}],"version-history":[{"count":5,"href":"https:\/\/marciszewski.eu\/index.php?rest_route=\/wp\/v2\/posts\/12946\/revisions"}],"predecessor-version":[{"id":12951,"href":"https:\/\/marciszewski.eu\/index.php?rest_route=\/wp\/v2\/posts\/12946\/revisions\/12951"}],"wp:attachment":[{"href":"https:\/\/marciszewski.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=12946"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/marciszewski.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=12946"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/marciszewski.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=12946"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}