Uwagi te nasunęły mi się w trakcie uczestnictwa w seminarium na Politechnice Warszawskiej na temat mowy nienawiści, jak jest rozumiany ten termin w definicjach prawniczych oraz etycznych. Abstrahując od treści odczytów, która w żadnym punkcie nie budziła moich zastrzeżeń, a raczej uznanie dla kompetencji mówców, chcę zwrócić uwagę na pewien fenomen językowy, który się przejawił w odczytach i w dyskusji. Jest to zjawisko tak powszechne, że daje powód do komentarza z tego punktu widzenia, który określam jako światopogląd informatyczny. Jak w każdym światopoglądzie, i każdym innym produkcie intelektualnym, mogą się pojawiać błędy myślowe.
Można zauważyć, że istnieje taka wersja światopoglądu informatycznego, w której dokonuje się pewne naiwne hipostazowanie sztucznej inteligencji. Jest to mówienie o niej, jak gdyby był to jakiś podmiot (w grece — hypostasis) zdolny do samodzielnego rozwiązywania problemów i podejmowania decyzji.
Polega to przypisywaniu sztucznej inteligencji zdolności do postrzegania i eliminowania mowy nienawiści w mediach społecznościowych. Tematem obu referatów były kryteria służące do rozpoznawania mowy nienawiści: w jednym kryteria prawne, w drugim — etyczne. Toteż SI jako samodzielny podmiot dozorowania mediów musiałaby dysponować systemem takich kryteriów i na tej podstawie podejmować eliminujące czy korygujące decyzje.
Oczywiście, nikt z uczestników dyskusji nie żywił takiego przekonania. Należy ono raczej do potocznego slangu, jakiejś — by tak rzec — ludowej (folk) filozofii informatyki. Chodziłoby jednak o takie kształtowanie języka przez ekspertów, żeby owego naiwnego pojmowania nie umacniać przez fakt, że dla jakiegoś uproszczenia dyskursu tak się wyrażamy, jakbyśmy ów „ludowy” dialekt podzielali.
Nie zgadzam się z stanowiskiem że potrzebne są kryteria prawne lub etyczne by eliminować mowę nienawiści przez sztuczną inteligencję. W praktyce zdania to wielowymiarowe sekwencje i ustalanie czy coś jest mową nienawiści to po prostu zadanie klasyfikacyjne. Nie potrzebujemy definiować etyki lub prawa tylko pokazać praktyczne użycie. Inna sprawą jest to czy prawo powinno wymuszać udostępnianie kodu systemów moderacji treści i moim zdaniem powinno jako że ma wpływ społeczny.
Uważam, że nie powinno się wprowadzać systemów eliminujących mowę nienawiści w internecie. Każdy człowiek ma prawo do swobodnego wyrażania swoich poglądów – nawet jeśli ich forma jest obraźliwa, to przede wszystkim świadczy to o autorze wypowiedzi, nie o odbiorcy. Ograniczanie wolności słowa w imię walki z mową nienawiści może prowadzić do nadmiernej wrażliwości społecznej, co nie jest właściwym kierunkiem rozwoju. Co więcej, pojęcie mowy nienawiści jest trudne do jednoznacznego zdefiniowania. To, co w jednej kulturze czy społeczności uznaje się za niedopuszczalne, w innej może być w pełni akceptowalne. Różnice te występują nie tylko między narodami, ale także wewnątrz jednego kraju, między różnymi grupami społecznymi czy lokalnymi wspólnotami. Dlatego uważam, że próba całkowitej eliminacji mowy nienawiści z przestrzeni publicznej jest nie tylko nierealna, ale i niebezpieczna. Może bowiem prowadzić do stopniowego ograniczania podstawowego prawa człowieka, jakim jest wolność słowa.
Zgadzam się, że kwestia odpowiedzialności językowej ekspertów jest ważna. Choć potoczne przypisywanie systemom SI cech „osobowościowych” bywa wygodne, może również prowadzić do niepożądanych skutków, szczególnie wśród odbiorców mniej obeznanych z technologicznym aspektem tych narzędzi.
Tego rodzaju uproszczenia mogą przyczyniać się do umacniania fałszywego obrazu SI jako czegoś, co „myśli” czy „wie”, a nie po prostu przetwarza dane zgodnie z ustalonymi wzorcami. Język, jakim się posługujemy, ma realny wpływ na to, jak technologia jest postrzegana społecznie, a w konsekwencji także na to, jakie oczekiwania i lęki się wokół niej pojawiają.