Nawi\u0105zuj\u0119 tym szkicem do wpisu Paw\u0142a Stacewicz<\/a>a,\u00a0 inicjuj\u0105cego dyskusj\u0119 na temat autonomii maszyn, a tak\u017ce do mojej pierwszej na to zagajenie reakcji<\/a>.\u00a0 Oto teza\u00a0 obecnego szkicu na temat trzech stopni mo\u017cliwej ewolucji maszyn w kierunku autonomiczno\u015bci — a\u017c po tak pe\u0142na autonomi\u0119, \u017ce maszyna przestaje by\u0107 maszyn\u0105.\u00a0<\/em><\/p>\n Stopie\u0144 1:\u00a0 zdolno\u015b\u0107 do samouctwa Na stopniu 1<\/strong> maszyna do rozwi\u0105zywania problem\u00f3w (o takiej tu mowa) nie jest poddana bez reszty dyktatatowi steruj\u0105cego ni\u0105 programu, lecz potrafi\u00a0 stawia\u0107 problemy<\/em> i je rozwi\u0105zywa\u0107\u00a0 w wyniku samoprogramowania<\/em> oraz\u00a0 samodzielnego pozyskiwania danych<\/em>.<\/p>\n Ten stopie\u0144 by\u0142 szeroko i wnikliwie rozwa\u017cany w g\u0142osach dyskutant\u00f3w,\u00a0 tote\u017c poprzestan\u0119 na powy\u017cszym do\u015b\u0107 og\u00f3lnikowym sformu\u0142owaniu\u00a0 i odsy\u0142am do\u00a0 tych bardzo niekiedy ciekawych g\u0142os\u00f3w.<\/p>\n Na stopniu 2<\/strong> maszyna nie jest zdana na zasilanie energi\u0105 z zewn\u0105trz (jakim jest te\u017c\u00a0 zasilanie z baterii wymagaj\u0105cej \u0142adowania), lecz mo\u017ce samodzielnie pozyskiwa\u0107 energi\u0119 z<\/em> otoczenia<\/em>\u00a0 oraz\u00a0 przetwarza\u0107 j\u0105 w sobie<\/em> na odpowiedni\u0105 posta\u0107 (np. chemiczn\u0105 na kinetyczn\u0105), jak to czyni\u0105 organizmy<\/em>. Bez tego maszyna b\u0119dzie zdana na cz\u0142owieka; je\u015bliby m\u00f3j komputer umia\u0142 i chcia\u0142 mi jako\u015b zaszkodzi\u0107, to go po prostu wy\u0142\u0105cz\u0119 z pr\u0105du.\u00a0 To \u017cadna autonomia.<\/p>\n Zwr\u00f3cenie uwagi na ten stopie\u0144 zdaje si\u0119 by\u0107, jak dot\u0105d, jedynym g\u0142osem w dyskusji. By\u0142bym ciekaw opinii innych uczestnik\u00f3w.<\/p>\n Na stopniu 3<\/strong> maszyna stawia sobie w\u0142asne cele<\/em> i potrafi je realizowa\u0107 niezale\u017cnie od woli u\u017cytkownika, czy nawet wbrew jego woli. By\u0107 mo\u017ce, \u00a0\u00a0 ta faza mog\u0142aby nast\u0105pi\u0107 niejako automatycznie w wyniku osi\u0105gni\u0119cia stopni poprzednich.\u00a0 Maj\u0105c bowiem w\u0142asne problemy i mo\u017cliwo\u015bci ich rozwi\u0105zywania bez konieczno\u015bci otrzymywania algorytm\u00f3w (software’u) od cz\u0142owieka,\u00a0 oraz mog\u0105c samodzielnie pozyskiwan\u0105 energi\u0119, maszyna mia\u0142aby za cel rozwi\u0105zywanie postawionych przez ni\u0105 czyli jej w\u0142asnych problem\u00f3w.\u00a0 Dok\u0142adnie tak, jak czyni\u0105 to ludzie.<\/em> A wtedy sta\u0142aby si\u0119 istota woln\u0105 i rozumna jak cz\u0142owiek.\u00a0 A zatem na tym stopniu ewolucji by\u0142aby w pe\u0142ni autonomiczna, ale nie by\u0142aby ju\u017c maszyn\u0105.<\/em><\/p>\n Sytuacja, kt\u00f3ra by\u00a0 zaistnia\u0142a w tej trzeciej fazie ewolucji by\u0142aby wysoce niebezpieczna. Ludzko\u015b\u0107 ma i tak dostatecznie wiele k\u0142opot\u00f3w z silnie konfliktowymi celami niezliczonych indywidu\u00f3w i zbiorowo\u015bci —\u00a0 konfliktami o takiej skali,\u00a0 \u017ce istnieje ryzyko zniszczenia przez nie planety.\u00a0 Sytuacj\u0119 te jeszcze bardziej by skomplikowa\u0142o pojawienie si\u0119 populacji autonomicznych maszyn z trzeciej fazy ewolucji.\u00a0 Na ten rodzaj problem\u00f3w zwraca w dyskusji uwag\u0119 Zaza w komentarzu z 24 marca.<\/p>\n Temat ten pojawia si\u0119 w utworach z kategorii fikcji naukowych, a w tej klasie czo\u0142owe miejsce zajmuje Isaac Asimov.\u00a0 Jego pomys\u0142 polega na tym,\u00a0 \u017ceby doprowadzi\u0107 ewolucj\u0119 do trzeciego stopnia, ale z ta modyfikacj\u0105, \u017ceby producent robota wyposa\u017ca\u0142 go w oprogramowanie, kt\u00f3re powoduje nast\u0119puj\u0105cy rezultat uj\u0119ty przez Asimova w „trzech prawach robotyki”. Oto one.<\/p>\n Dzia\u0142anie tych praw Asimov opisuje w powie\u015bciach o bardzo pomys\u0142owej fabule, np. w „The Robots of Dawn”.\u00a0 Czy jednak konstruowanie maszyn\u00a0 wed\u0142ug tych praw nie odebra\u0142oby im autonomii?\u00a0\u00a0 Sadz\u0119, ze autonomia moralna cz\u0142owieka polega na tym,\u00a0 \u017ce nie ma takiego drugiego cz\u0142owieka, kt\u00f3remu mia\u0142 obowi\u0105zek by\u0107\u00a0 pos\u0142uszny, chyba \u017ce zobowi\u0105\u017ce si\u0119 do tego dobrowoln\u0105 umow\u0105.\u00a0 A je\u015bli zrezygnujemy z praw robotyki podporz\u0105dkowuj\u0105cym bez reszty maszyny cz\u0142owiekowi, to znowu trzeba b\u0119dzie uzna\u0107, ze ju\u017c nie s\u0105 one maszynami. Na temat tego rodzaju autonomii przys\u0142uguj\u0105cej wolnym\u00a0 ludzkim indywiduom wypowiadam si\u0119 we wpisie „Kto ma prawo ustanawia\u0107 normy i sankcje?”<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":" Nawi\u0105zuj\u0119 tym szkicem do wpisu Paw\u0142a Stacewicza,\u00a0 inicjuj\u0105cego dyskusj\u0119 na temat autonomii maszyn, a tak\u017ce do mojej pierwszej na to zagajenie reakcji.\u00a0 Oto teza\u00a0 obecnego szkicu na temat trzech stopni mo\u017cliwej ewolucji maszyn w kierunku autonomiczno\u015bci — a\u017c po tak … Czytaj dalej
\nStopie\u0144 2:\u00a0 zdolno\u015b\u0107 do energetycznego samozasilania
\nStopie\u0144 3:\u00a0 zdolno\u015b\u0107 do samostanowienia.<\/p>\n\n