Deepfake, czyli obijo-ba.

Zmyślone postacie, takie jak Henryk Batuta czy Jára Cimrman, przeszły już do historii jako przykłady, jak dzięki konsekwentnej narracji i publikacjom w autoryzowanych mediach można kreować historię. Takich przykładów jest o wiele więcej. Powstało kilka poważnych prac naukowych opisujących to zjawisko.

Dzisiejszy świat zmaga się z nowym trendem – deepfake, czyli modyfikacją audio-wizualną z użyciem zaawansowanych technologii. Zjawisko jest na tyle poważne, że kilka dni temu podpisane zostało porozumienie przez "big techy" Doliny Krzemowej w celu zwalczania go podczas kampanii prezydenckiej w USA.

I wydawać by się mogło, że to akcja jak każda inna. Walczymy z dezinformacją i w imię ogólnie zaakceptowanego postulatu „walczymy z fałszerstwem w mediach”. Jest tu jednak pewna głębsza myśl i pewne ryzyko. Oczywiście łatwo sobie wyobrazić, że usuwane z sieci będą oczywiste „fejki”. Blokowane będą konta służące propagacji tych treści, a przeciwko wyjątkowo aktywnym organizacjom zapewne będą stawiane zarzuty. Nasuwa się jednak pytanie, dlaczego firmy technologiczne mają przejąć od państwa i organów te działania. Ba, nie tylko działania, ale i osąd, co jest a co nie „fejkiem”. Bo skoro ma to być działanie skuteczne, to i reakcja musi być natychmiastowa. I tu pojawia się ale. Co jeżeli celowo lub poprzez bias AI usuwane lub blokowane będą nie tylko treści rzeczywiście fałszywe, ale również te prawdziwe? Czy powszechna cenzura nie przeniesie się z fałszów na niepoprawne politycznie treści?

Pamiętamy, jak Microsoft zakończył swój projekt Tay.AI, po tym jak zaczęła wychwalać Hitlera i Donalda Trumpa? Kontrowersje wokół modeli Google'a po nadmiernej poprawności rasowej oraz słynne ograniczenia na Twitterze przed przejęciem go przez Muska są przykładem, jak mało skuteczne i kontrowersyjne są praktyki używania AI do automatycznej i autonomicznej (tu wątpię) kontroli.

Sami zgotowaliśmy sobie los, w którym demokratyczne i otwarte sieci społecznościowe mogą masowo manipulować tłumem. Za ostatnim wydaniem "The Economist" i artykułem „WhatsApp – What’s Down” można dojść do wniosku, że te otwarte sieci są teraz ograniczane przez grupy użytkowników chcących odseparować się od ogólnie dostępnych i z dużą dozą prawdopodobieństwa fałszywych treści. I zamiast sieci społecznościowych mamy na powrót sieci frakcyjne lub klubowe. Ale wbrew przekonaniu ich użytkowników, w jeszcze większym stopniu zakrada się do nich ryzyko fałszowania treści autoryzowane przez członków grupy.

Jeżeli zastanowimy się nad tym zjawiskiem, to zaczyna ono być przerażające. Albowiem nie sposób dziś odróżnić fałszu od prawdy, a arbitrzy prawdomówności nader często bywają w błędzie.

Zdjęcie jest manipulacją ujęcia świątyni z Ta Prohm w Kambodży, naniesione na fakturę pogniecionego papieru. Wydrukowane na dobrej drukarce i w dobrej rozdzielczości z powodzeniem może być repliką rycin z XVIII wieku.

Dedykuję je wszystkim, którzy muszą się dziś mierzyć z oddzielaniem prawdy od nieprawdy, nawet tej obiektywnej.