Hazard moralny i zaufanie do technologii.

Od początku rozwoju technologii M2M i później IoT, jednym z głównych zastosowań zbierania danych w czasie rzeczywistym z sensorów był cyfrowy bliźniak. Początkowo, jako narzędzie diagnostyczne, znakomicie przyjęło się w urządzeniach codziennego użytku. W samochodach klasyczne kokpity zastąpiono komputerami pokładowymi. Szybko przyzwyczailiśmy się do całkowicie zintegrowanego mechanizmu, pokazującego, ile kilometrów wystarczy nam paliwa w baku, aż stało się standardem, by na tabletach przyjmować w pełni reaktywne, działające w czasie rzeczywistym kopie cyfrowe naszych samochodów. Pierwsze wyświetlacze w Tesli, na których pojawiające się dane można było łatwo interpretować i zmieniać ustawienia samochodu, przyjęły się znakomicie. W tle działają analizatory danych, obserwujące nasze zachowania, porównujące je z fizycznymi właściwościami pojazdu i pozwalające kontrolować "bliźniaka", a pośrednio jego pierwotną postać, czyli samochód.

Podobnie, przyzwyczajeni do urządzeń mierzących parametry naszego życia, jak "smartwatche", nie zapamiętujemy i nie kalkulujemy codziennej rutyny. Jedno spojrzenie na zegarek i wiem, ile kroków jeszcze muszę przejść, aby osiągnąć ustalony cel, lub ile szklanek wody wypić, by zachować dobre samopoczucie.

Stopniowo przestajemy ufać rzeczywistości i swoim zmysłom na rzecz "rzeczywistości" opisywanej nam przez urządzenia. Jest to zjawisko typowego hazardu moralnego. Jak nabieramy pewności, że mapa Google działa dla naszego dobra, wybieramy proponowaną trasę bez szczególnego zastanawiania się, czy jest ona najlepsza - przecież mapa wie lepiej. Przechodzimy na zielonym świetle (oczywiście z telefonem w ręce i słuchawkami na uszach), bo przecież to oczywiste, że pędzący samochód musi się zatrzymać, bo ma czerwone światło. Jedziemy do warsztatu, bo samochód powiedział nam, że czas na wymianę klocków hamulcowych lub oleju. Wierzymy i działamy zgodnie z rekomendacją.

Co jednak, gdy sensory działają źle, są źle skalibrowane lub po prostu źle nas informują? Miałem ostatnio bardzo ciekawą sytuację, gdy mój samochód poinformował mnie o awarii układu napędowego. Kazał mi się zatrzymać i zadzwonić po pomoc drogową. Wydarzyło się to na autostradzie, więc postanowiłem jechać dalej. W międzyczasie zadzwoniłem do dyspozytora, który już o wszystkim wiedział, wiedział, gdzie jestem, i skierował mnie do warsztatu, gdzie już na mnie czekano. Po kilkudniowej inspekcji i historii rodem z serialu Dr House (wiele podejrzeń, wymiana części, naprawy, jazdy testowe itp.), okazało się, że miałem uszkodzony, a w rzeczywistości rozładowany, jeden z akumulatorów. Spadek napięcia wprowadził zamieszanie w danych. Nic się nie zepsuło, mimo że jedna z początkowych diagnoz dotyczyła uszkodzenia silnika. I gdyby nie to, że auto jest na gwarancji, umarłbym na zawał, słysząc o potencjalnych kosztach i terminie naprawy.

Definitywnie cyfrowe bliźniaki są zawodne. Nie jest to jeszcze etap, kiedy można mówić o bezpiecznym ich używaniu w służbie zdrowia czy nawet w krytycznych procesach w fabryce. Bardzo dobrze rozwinięte systemy zbierania danych i analizy historycznej (obecne w samolotach czy pojazdach Formuły 1) nie są jeszcze gotowe na zastąpienie i działanie w czasie rzeczywistym.

Analogicznie jest dziś z generatywną sztuczną inteligencją. Bezkrytyczne jej używanie może prowadzić do bardzo złych konsekwencji dla użytkownika. Nie mówię jedynie o halucynacjach, ale o moralnym hazardzie. Wyniki generowane przez GenAI, przy braku wiedzy, sprawiają, że wyobrażenie świata może być bardzo mylne. Przerzucenie odpowiedzialności na narzędzie będzie niemożliwe (już teraz regulamin używania zrzuca wszelką odpowiedzialność z twórców i usługodawców), ale pozorna wiara, że tak jest, jest zgubna.

Zdjęcie przedstawia zamek Neuschwanstein w Bawarii. Dla większości turystów odwiedzających park w Orlando, ten Disneya jest oryginalny i jedyny, jaki znają. 8 z 10 turystów jadących kolejką w Niemczech wyraża swój sceptycyzm do piękna budowli w stosunku do bliźniaka w USA.

Dedykuję to zdjęcie wszystkim tym, którzy zapisując kawiat mówiący o tym, że nie należy wierzyć we wszystko, co pokazuje smart urządzenie, pozbywają się problemu, nie myśląc o konsekwencjach.