Fake news, deepfake i ChatGPT. „Sztuczna inteligencja kształtuje nasze myślenie"

Pisze pan, że kampanie fake newsów i dezinformacji, spotęgowane przez media społecznościowe, doprowadziły do podważenia zaufania do dziennikarzy, a nawet do delegitymizacji profesjonalnego dziennikarstwa. Czy w tej sytuacji nasza rozmowa, która będzie opublikowana w tradycyjnym papierowym tygodniku, w ogóle ma sens?

Absolutnie tak, bo to właśnie jest jeden ze środków zaradczych. Nie łudzę się, że jesteśmy w stanie konkurować z AI slopem [bezwartościowymi treściami – red.], który zalewa media społecznościowe. Ale wciąż powinniśmy budować więź z czytelnikami, a media tradycyjne – jako strażnicy jakości informacji – muszą się jakoś zagospodarować w tej nowej rzeczywistości. Przed nią nie uciekniemy, starajmy się więc ją choć trochę oswoić.

AI dała każdemu narzędzia do tworzenia własnej wersji rzeczywistości. Coraz trudniej o zgodę co do tego, co prawdziwe – i coraz trudniej żyć we wspólnym świecie, bo nasza wyobraźnia i marzenia kształtują to, jak ten świat postrzegamy. Jak się odnaleźć w tak pokawałkowanej rzeczywistości? 

To trudne, głęboko filozoficzne pytanie. Co ciekawe, niemiecka i angielska wersja „Przed waszą erą” noszą tytuł… „Koniec rzeczywistości”. Dostaliśmy do rąk narzędzia, które potrafią wygenerować niemal wszystko, w tym grafiki i filmy nieodróżnialne od prawdziwych. Możemy niemal dowolnie tworzyć alternatywne rzeczywistości. Co więcej, wtóruje nas też generatywna AI, która poprzez interakcje użytkowników kształtuje, jak postrzegamy rzeczywistość, jak myślimy. To uderza w środki przekazu, które do tej pory były dla nas punktem odniesienia. Warto jednak pamiętać, że ludzkość ma za sobą długą historię wyobrażania sobie różnych światów: najpierw w przekazach ustnych, potem literaturze, współcześnie w filmie. Nie jest więc tak, że dopiero dziś dostaliśmy narzędzia pozwalające konstruować rzeczywistość. Różnica polega na tym, że dziś możemy fałszować to, co do tej pory wydawało się wiarygodne – nagrania, obrazy – i robić to na skalę masową. Każdy z nas nosi w kieszeni przenośne hollywoodzkie studio. Odwrócenie trendów będzie niezwykle trudne. Szansę dostrzegam w tym, że w pewnym momencie jako ludzkość po prostu znudzimy się zalewem treści niskiej jakości i poczujemy wewnętrzne pragnienie powrotu do źródeł dobrej jakości. Ja bym sobie tego życzył – jako człowiek, obywatel i naukowiec. Widzimy już pewne oznaki kontrrewolucji, zwłaszcza względem generatywnej AI. Wielu młodych ludzi mocno kontestuje algorytmy i zalew AI slopu.

Sztuczna inteligencja nie tylko produkuje treści informacyjne czy pseudoinformacyjne, ale też daje możliwość wchodzenia z nią w interakcję. Dla niektórych użytkowników to sposób na radzenie sobie z samotnością, inni traktują chata wręcz jak darmowego psychoterapeutę. Te osoby chwalą sobie, że przed sztuczną inteligencją nie muszą udawać – ale czy aby na pewno? Czy rozmowa z algorytmem jest mniej ryzykowna niż rozmowa z drugim człowiekiem?

Moim zdaniem nie jest. Po pierwsze, bardzo łatwo się uzależnić – algorytmy są stworzone po to, żeby podtrzymywać rozmowę, co przekłada się na czas spędzany na platformie, a więc i na pieniądze dla dostawcy usługi. W efekcie możemy grzęznąć w takich relacjach, zamiast budować prawdziwe więzi międzyludzkie, które są podstawowym narzędziem socjalizacji i odgrywają kluczową rolę w świecie prawdziwym.

Drugie ryzyko to złudne przekonanie, że rozmowa z chatbotem jest odpowiednio chroniona. W rzeczywistości każda firma-dostawca ma dostęp do historii naszych rozmów – często niezwykle intymnych, w których powierzamy rzeczy, jakich nie powierzylibyśmy żadnemu człowiekowi. Mamy wyłącznie ułudę prywatności i ochrony naszych tajemnic, i to trzeba mocno podkreślać.

Trzecie ryzyko ma charakter społeczny i emocjonalny – nie wiemy jeszcze, jakie będą długotrwałe konsekwencje coraz głębszych interakcji z dużymi modelami językowymi. Pierwsze badania empiryczne wskazują na negatywne reakcje: uzależnienia emocjonalne, podtrzymywanie destrukcyjnych mechanizmów, kształtowanie niedojrzałych wzorców, utwierdzanie w błędnych przekonaniach – co jest pochodną tzw. sykofancji modeli językowych, ich „lizusostwa”. Widzimy też inne niepokojące zjawiska, jak delegowanie procesów myślowych na chatboty, co przekłada się na gorsze wyniki, gdy nie mamy do nich dostępu.

A pan jakie sobie stawia granice w korzystaniu ze sztucznej inteligencji, na przykład przy pisaniu tej książki?

Starałem się ograniczać wykorzystanie AI do procesów kreatywnych. Były jednak momenty, w których prowadziłem z nią pewien dialog, traktując ją – co jest oczywiście elementem antropomorfizacji – jako swego rodzaju sparring partnera, który miał mnie naprowadzić na ciekawe tropy, tak bym mógł później w sposób tradycyjny pogłębić swój research. Sprawdzało się to całkiem nieźle, podobnie jak generowanie krytycznego feedbacku i zwracanie uwagi na rzeczy, które pominąłem w procesie pisania. AI świetnie wypadła przy zadaniach takich jak korekta oraz tłumaczenie, uzupełniając w tym wypadku pracę człowieka.

A jaka – z punktu widzenia odbiorcy – jest różnica między tekstem napisanym przez człowieka a tekstem stworzonym przez maszynę, która uczy się na tekstach napisanych przez ludzi?

To sprawa bardzo indywidualna. Są badania pokazujące, że gdy nie wiemy, co jest wytworem AI, a co człowieka, często nie dostrzegamy różnicy i wręcz preferujemy AI – ale gdy wiemy, że coś zostało wygenerowane przez AI, automatycznie wybieramy to, co stworzył człowiek. To pokazuje, że mamy, przynajmniej na poziomie emocjonalnym, potrzebę obcowania z tym, co stworzył ludzki autor. Dlatego bezpośredni kontakt – spotkania autorskie, rozmowy z czytelnikami – będzie zyskiwał na znaczeniu jako przejaw autentyczności, pewne intymne doświadczenie na linii autor-czytelnik. Nie ma się jednak co czarować: znaczna część autorów będzie wspierać się AI także w samym procesie pisania. Musimy zaakceptować tę rzeczywistość albo wypracować nowy kontrakt społeczny w obszarze prac kreatywnych – choć na razie trudno mi sobie wyobrazić, jak miałby wyglądać. Są już nawet propozycje monitorowania aktywności na komputerze, żeby na bieżąco sprawdzać, czy AI została użyta w procesie twórczym, ale to mocno dystopijna wizja.

Modele generatywnej sztucznej inteligencji nie powstają w ideologicznej próżni. Zwraca pan uwagę na konieczność większej kontroli państwa nad nimi. Ale czy państwa również nie mogą ich ideologizować? 

Państwa mogą ideologizować technologie i będą. Powiedzmy sobie jasno – technologia nie jest neutralna. To mit. Możemy jednak zapytać, czy chcielibyśmy, żeby model, z którego korzystamy na co dzień, był trenowany na korpusie danych zakotwiczonych w naszej kulturze, historii, tradycji i literaturze. I do jakiego stopnia chcielibyśmy, żeby wartości biorące źródła w innym systemie kulturowym przepływały do naszego? To rozważanie ma wymiar ideologiczno-polityczny, ale wydaje mi się, że w tym wypadku wciąż jesteśmy „kulturowymi patriotami”. Jest oczywiście ryzyko, że taki model zostanie „podkręcony” pod określone wartości sprzyjające linii politycznej rządzącej partii czy systemu politycznego, co widać właśnie na przykładzie chińskich modeli. Musimy więc zadać sobie fundamentalne pytanie: czy chcemy korzystać z infrastruktury tak istotnie wpływającej na nasze myślenie i decyzje, gdy kontroluje ją obce państwo i zaszywa w niej specyficzny punkt widzenia? Pamiętajmy, że żyjemy w społeczeństwie demokratycznym, mamy wolność wyboru, ale muszą pojawiać się konkretne rynkowe alternatywy. Jeśli w Polsce powstanie własny model, trenowany na polskich korpusach i zakotwiczony w polskim systemie, jak Bielik czy PLLuM, wciąż będziemy mieli wybór między rozwiązaniem amerykańskim czy chińskim, ale może świadomie zdecydujemy się na polskie. To właśnie piękno demokracji i możliwości wyboru.

A jak w ogóle ma się sztuczna inteligencja do demokracji? Fake newsy, chaos informacyjny, polaryzacja, podkręcanie poglądów skrajnych – czy AI ma w ogóle jakieś zalety w życiu politycznym?

Tak, ma zalety w życiu politycznym, ale musi być wykorzystywana z głową i przy zachowaniu elementarnych zasad. Wdrażanie poszczególnych narzędzi przez ich dostawców do tej pory podporządkowane było przede wszystkim logice zysku, więc trudno oczekiwać, że w dobie ekonomii uwagi duże platformy cyfrowe będą kierować się w pierwszej kolejności interesem społecznym. Potencjał dla demokracji jednak istnieje – AI może być wykorzystywana do automatycznych tłumaczeń, w edukacji politycznej, może sprzyjać przeciwdziałaniu teoriom spiskowym. Zawsze jednak istnieje ryzyko, że kontrolujące takie narzędzie partie czy państwa nie oprą się pokusie dostosowania i wykorzystania go do własnych interesów. I, nie czarujmy się, tak często się dzieje. 

Cytuje pan kanadyjskiego pisarza Cory’ego Doctorowa, który porównał sztuczną inteligencję do azbestu wmurowanego w tkankę naszego społeczeństwa – takiego, który przyszłe pokolenia będą przez dekady próbowały usuwać. Ale czy da się skutecznie usunąć i zakazać czegoś, na czym można zarabiać? Historia ludzkości chyba nie zna takich przypadków.

Też sobie nie przypominam takiego przypadku. Może poza energią nuklearną, gdzie mamy bardzo wysokie międzynarodowe standardy i konkretne ograniczenia dotyczące produkcji broni. Wydaje mi się jednak, że bardzo trudno będzie całkowicie wyrugować generatywną AI. To zresztą tylko jedna z jej odmian; inne, jak te wykorzystywane do prognozowania, zarządzania czy logistyki, funkcjonują od dawna i nie ma sensu ich usuwać, bo nie byłoby to wskazane ani społecznie, ani gospodarczo. Nie tworzą też większych ryzyk. Jestem natomiast zwolennikiem reglamentowania dostępu do niektórych narzędzi – z uwzględnieniem wieku i rozwoju psychoedukacyjnego dzieci. Niektóre kraje już eksperymentują z takimi rozwiązaniami. Powinniśmy wyciągać mądre wnioski z tych doświadczeń, zwłaszcza w obliczu zagrożeń, które już możemy udowodnić empirycznie – osłabienia zdolności kognitywnych, malejącego czasu koncentracji uwagi.

Dotąd nie udało się skutecznie zablokować dzieciom dostępu do mediów społecznościowych, nie wiem, jak miałoby się to udać z AI.

Zgadza się. Ale uderzmy się w pierś – czy faktycznie chcieliśmy zablokować ten dostęp? Mamy przecież mechanizmy, choćby zmuszenie platform cyfrowych do weryfikacji wieku i tożsamości użytkowników. To oczywiście mocne stwierdzenie – obrońcy wolności słowa i prawa do prywatności od razu powiedzieliby, że to zbyt daleko idąca ingerencja w nasze prawa. Z drugiej strony: czy każdemu z nas należy się gwarancja absolutnej anonimowości w internecie? To kwestia dyskusyjna. W każdym razie musimy bardzo uważnie obserwować konsekwencje interakcji dzieci z dużymi modelami językowymi, wyciągać z tego wnioski i interweniować wcześniej, a nie później. Mamy już rozwiązania pozwalające przycisnąć duże platformy do lepszej moderacji treści – tylko z nich nie korzystamy na dużą skalę. To także problem polityczny, bo przyciśnięcie platform cyfrowych naraża nas na reperkusje ze strony rządu Stanów Zjednoczonych.

Na koniec zapytam o coś lżejszego. Czy należy być uprzejmym w rozmowie z czatem? Pisze pan pół żartem, że może nam się to opłacić, ale wcześniej ostrzegał pan, że ekologiczne koszty takich dodatkowych zwrotów grzecznościowych są niemałe, bo pożerają energię.

Tak, napisałem to z przymrużeniem oka – że powinniśmy zwracać się kulturalnie do chatbotów, bo nie wiemy, czy ich „wnukowie” kiedyś nie przejmą władzy nad światem i nie zabiorą się za tych, którzy byli nieuprzejmi i niewdzięczni. Mam tu jednak inną refleksję. Z jednej strony antropomorfizujemy chatboty, doszukując się w nich ludzkich cech, a jednocześnie zapominamy o cechach, którymi sami powinniśmy się odznaczać. Myślą przewodnią „Przed waszą erą” jest zachowanie ludzkiej wyjątkowości. Ta książka nie jest poświęcona technologii, lecz człowiekowi. Jest manifestem na rzecz ratowania ludzkości, naszej empatii, zdolności doświadczania. Jeśli zatem traktujemy rozmowy z chatbotami jako interakcje społeczne, niech będą oparte na zrozumieniu, szacunku i kulturze. Jeśli w codziennych rozmowach z chatbotami nie będziemy odwoływać się do zasad, które powinny przyświecać relacjom międzyludzkim, szybko stracimy te umiejętności – a nasze nawyki komunikacyjne mogą później przenieść się do świata realnego, pogłębiając problemy na linii człowiek–człowiek.

A może przeniosą się też do świata chatbotów, które będą nam nieuprzejmie odpowiadać na nasze nieuprzejme odzywki?

To rzeczywiście mogłoby nastąpić – swego rodzaju sprzężenie zwrotne. Jeśli chatboty są karmione tym, jak się do nich zwracamy, i będziemy nieuprzejmi, mogą po pewnym czasie wyuczyć się, że to naturalny sposób komunikacji, i zacząć go naśladować. Mało zachęcająca wizja, prawda?