The BIG FAKE, czyli broń masowego rażenia

Szwajcaria jest droga, Tajlandia jest tania. Stereotypy. Skąd się biorą? Zazwyczaj pojedyncze, wyrywkowe przekonania i wierzenia wynikają ze skojarzeń obrazów i opowieści, które zapamiętaliśmy. W chwili, gdy je słyszymy, zazwyczaj nie mają one dla nas znaczenia. Są jakąś ciekawostką, fragmentem dłuższej relacji z podróży, zasłyszaną od przyjaciół podczas spotkania przy winie. Te relacje są zazwyczaj bardzo subiektywne i wyrwane z kontekstu. Są fragmentem rzeczywistości. To, co dla jednego jest drogie, może być tanie dla innej osoby. Tego typu obrazy rzeczywistości, przekłamywane są upływem czasu. Nasz umysł odkłada je w głębokich pokładach pamięci. Kiedy przychodzi czas, że jesteśmy zainteresowani podróżą, przypominamy sobie je, wówczas stają się podstawą naszych oczekiwań.

W biznesie tego typu zasłyszane historie często dotyczą spektakularnych sukcesów lub porażek. Pamiętamy świetnie sukces „Dollar Shave Club” czy spektakularną porażkę „Titanica”. Co więcej, bez szczególnego wchodzenia w detale, powtarzamy te historie. Jeżeli są one wielkie, to stanowią fantastyczny przykład do robienia lub zaniechania określonych działań. Przykład historii spektakularnego upadku firmy Kodak rozbudza wyobraźnię decydentów i popycha ich w kierunku transformacji cyfrowej. Ale dlaczego nie mówimy o przykładzie Fuji czy Konica Minolta?

W 2010 roku Fiona Broome rozpoczęła internetową dyskusję na temat śmierci Nelsona Mandeli w południowoafrykańskim więzieniu. Okazało się, że wiele osób na grupie dyskusyjnej pamięta fakt śmierci Mandeli. W rzeczywistości Mandela nie umarł w więzieniu, lecz w 2013 roku, czyli trzy lata później. Fiona, zafascynowana tym zjawiskiem, rozpoczęła serię badań, starając się odnaleźć inne przykłady zbiorowej fałszywej pamięci. Społeczność, zafascynowana tym zjawiskiem, bardzo szybko odnalazła inne spektakularne przykłady. Zjawisko to dziś nazywane jest Efektem Mandeli. Od czasu pojawienia się i upowszechnienia mediów społecznościowych zjawisko to przybiera na sile, w szczególności za sprawą preparowania – manipulacji faktami przez celebrytów. Bardzo mocno poprawiane zdjęcia przedstawiające rajskie plaże tropikalnych wysp, dalekowschodnie metropolie, przypominające obrazy z filmu „Blade Runner”, nawet w małej części nie odpowiadają rzeczywistości. Umiejętne kadrowanie oraz silna ingerencja programów graficznych tworzy nieistniejący w rzeczywistości obraz. Ale w pamięci odbiorcy właśnie taki obraz jest zapamiętywany. I pomimo że bardzo często po nawet pobieżnej analizie widać, że coś jest nie tak, masy zapamiętują obraz. Nie można nie wspomnieć o kreacji produktów konsumpcyjnych, które od lat tworzone są dokładnie tą samą techniką. Kto z nas nie porównywał hamburgera z reklamy McDonalda z kanapką, którą odebrał przy kasie. Tyle że weryfikacja następuje natychmiast i usprawiedliwiamy tę manipulację marketingiem. Co więcej, nie mamy szczególnego żalu, chociaż aby nie narazić się na pozwy, firmy na dole reklamy piszą drobnym drukiem, że „produkt może różnić się w rzeczywistości od przedstawionego w reklamie”.

W erze błyskawicznego wzrostu generatywnego AI, dostępnego za centy dla każdego, pojawia się potężne ryzyko kreowania masowego efektu Mandeli przez algorytmy. Uczenie maszynowe bazuje na źródłach danych. Jeżeli zostaną one (nieetycznie) sprofilowane, wówczas tworzymy masowy efekt. Co gorsza, na podstawie tak wygenerowanych treści, kolejne algorytmy douczają się „rzeczywistości”. Konsekwencja? Wygenerowane portrety przez generatywne AI są domyślnie wolne od skaz dermatologicznych (chyba że eksplicite poprosiliśmy o skazy na twarzy). Podczas generowania widoków miast zawsze pojawiają się znane architektoniczne elementy. Ale co, jeżeli zaczniemy otrzymywać małe dawki przekłamanej rzeczywistości? Stopniowo. Nienachalnie. I tak, po pewnym czasie, efektem promptu „dziewczyna w Paryżu” nie będzie już ładna uśmiechnięta dziewczyna na tle wieży Eiffla, lecz coś innego.

Wielcy manipulatorzy, dyktatorzy od zarania dziejów używali konceptu: kłamstwo powtórzone tysiąc razy staje się prawdą. I pomimo że przypisuje się to stwierdzenie Josephowi Goebbelsowi, jak nigdy przedtem nie stoimy w obliczu tyranii „wielkiego fejka”.

Zdjęcie wykonane obiektywem „rybie oko” 14 mm przekłamuje obraz, który jest nienaturalny dla naszego mózgu.

Dedykuję je wszystkim, którzy zajmują się etyką AI. Nie tylko etycznym jej wykorzystaniem, ale przede wszystkim etycznym używaniem danych treningowych i algorytmom testowania.