Rysunek Anna Głąbicka
Jak możecie sobie cokolwiek wyobrazić, skoro wyobrażenia są wam stale dostarczane?” – pyta swoich uczniów Henry Barthes, główny bohater filmu Z dystansu – amerykańskiego dramatu psychologicznego z 2011 roku w reżyserii Tony’ego Kaye’a. Obraz ten nigdy nie był tak aktualny jak dzisiaj. Zwłaszcza po 30 września 2025 roku, kiedy to szef firmy OpenAI Sam Altman oddał w ręce ludzkości nową aplikację Sora, tym samym – zdaniem niektórych – grzebiąc żywcem „ludzki internet”.
Bo czy wyobrażacie sobie, że na rynek trafia samochód, który nie przeszedł testów bezpieczeństwa? Zresztą nie ograniczajmy się w tym ćwiczeniu: załóżmy, że takim samochodem mogą w zasadzie jeździć wszyscy. Może ktoś przebąknie, że dzieci mają kłopot z sięganiem do pedałów i powodują wypadki, ale chór dorosłych wykrzyczy w odpowiedzi: „Moje dziecko musi jeździć, bo inaczej będzie wykluczone!”. Policjanci nie sprawdzą wieku kierowców ani ich uprawnień, a w przypadku jakiegoś nieszczęścia wszyscy wzruszą ramionami, mówiąc: „No cóż, daj małpie brzytwę, to się potnie”. Jeśli wszystko, na co jako społeczeństwa pozwalamy firmom technologicznym, przełożymy na jakąkolwiek inną gałąź gospodarki, niemal zawsze otrzymamy coś kuriozalnego.
Tymczasem kolejne produkty VLOP-ów, czyli wielkich platform technologicznych (od ang. Very Large Online Platform), których używają miliardy ludzi na całym świecie, produkowane są bez opcji safety by design, czyli podejścia uwzględniającego już na etapie projektowania zapewnienie bezpiecznej usługi z opcją prewencyjnego działania – zapobiegania ewentualnym szkodom środowiskowym czy zdrowotnym. Dobrym przykładem jest tu Sora – cyfrowy nowotwór. Aplikacja oparta na sztucznej inteligencji pozwala tworzyć w stu procentach sztuczne materiały, które do złudzenia przypominają prawdziwe nagrania. Na generowanych wideo nikt już nie ma sześciu palców jak na wcześniejszych wytworach AI. Przeciwnie – filmy z Sory idealnie udają nagrania z telefonu (obraz nieco się trzęsie, czasem jest rozmyty) czy z kamer monitoringu. Co prawda w teorii na takim materiale powinno się pojawić oznaczenie, że mamy do czynienia z obrazem syntetycznym, ale w praktyce logo Sory pojawia się na nagraniach – na razie – tylko na chwilę, a niekiedy użytkownicy zupełnie je usuwają. Tego rodzaju filmy w ciągu pierwszych dni od premiery Sory dosłownie zalały należące do VLOP-ów media atencyjne, takie jak Facebook, Instagram, TikTok czy YouTube.
Nie trzeba być tytanem intelektu, by wyobrazić sobie, jakie konsekwencje przyniesie serwowanie ponad 5 miliardom ludzi (tyle osób używa dzisiaj mediów społecznościowych) całkowicie syntetycznej wizji rzeczywistości. Żeby to zobrazować, nie będę sięgać po najprostsze przykłady związane z dezinformacją wykorzystywaną w ramach toczących się wojen. Nie będę też epatować przykładami przedstawiającymi krzywdzenie dzieci, choć trzeba przyznać, że Altman i jego ekipa ofiarowali przestępcom seksualnym prawdziwy prezent gwiazdkowy.
Przeczytaj też: Big techy. Parapaństwa z krzemu i danych
Aby pokazać szkodliwość produktów takich jak Sora, mam przykład zupełnie milusi. Na kamerze monitoringu powieszonej gdzieś w rogu werandy „typowego amerykańskiego domu” widać dziewczynkę. Wtem zbliża się do niej niedźwiedź. Obraz jest ziarnisty, przefiltrowany na niebiesko. Dziewczynka nie rozumie niebezpieczeństwa, więc wystawia rączkę z jedzeniem, a niedźwiedź… jak na prawdziwego misia przystało, sympatycznie sobie te smakołyki chrupie. Aż z domu wybiega przerażona matka i porywa dziecko do środka. Film trwa kilkadziesiąt sekund, zaraz po nim wyświetla się kolejny materiał pożerający uwagę – było, minęło, zostało zapamiętane jako obraz rzeczywistości. I to właśnie takich nieprawdziwych scen, dotyczących kontaktów człowieka z dziką przyrodą, jest w tej chwili w mediach atencyjnych zatrzęsienie. Stawiam dolary przeciwko orzechom, że i Wam wyświetliły się w ostatnich tygodniach rolki o kotach i psach ratujących małe dzieci przed jakimś niebezpieczeństwem. Ile osób na widok niedźwiedzia, zamiast zachować zasady ostrożności, wyciągnie z plecaka orzeszki i zacznie go karmić? Ilu ludzi będzie zbliżało się do dzikich zwierząt, bo widzieli w internecie, że wilk to całkiem sympatyczny pies, tylko taki trochę dziki? A to i tak zaledwie pozornie niewinny początek.
W tym miejscu do boju ruszą zapewne technologiczni symetryści, nieustannie porównujący mnie do sokratejczyków, którzy obawiali się, że ludzie zgłupieją od upowszechnienia pisma. Oczywiście, że nowe wynalazki zawsze budziły lęk, ale dzisiaj mamy do czynienia z czymś znacznie potężniejszym, bo niezrozumiałym dla przeciętnego człowieka. Tymczasem technologiczny symetrysta, którego ulepiłam w swojej głowie z wielu publicznych wypowiedzi ludzi biznesu i nauki, nie uważa serwowania wyobrażeń za rzecz nową i niebezpieczną. „Czy nie tym od zawsze była kultura? – pyta. – Muzyka, literatura, sztuki plastyczne, film – wszystko to było podsuwaniem ludziom wyobrażonego”.
Ponad połowa treści powstających obecnie w internecie została stworzona przez AI, a ponad połowę ruchu w sieci generują boty.
Technosolucjoniści nie biorą jednak pod uwagę faktu, że przez całą historię ludzkości, aż do czasów upowszechnienia się AI, funkcjonował jasny rozdział między naturą a kulturą. Gdy korzystaliśmy z dzieł tej drugiej, wiedzieliśmy, że patrzymy na namalowany przez kogoś obraz, że czytamy opowiadanie, czyli fikcyjną historię napisaną przez danego autora, lub że oglądamy artystyczny film. Twórca wyobrażonego zawierał z nami uczciwą umowę: zapraszam cię do wizji świata, którą stworzyłem. Kultura czerpała z natury, a człowiek, będący częścią natury, inspirował się kulturą i dzięki niej wprowadzał zmiany, które zawsze mógł zweryfikować na podstawie zwykłej obserwacji swojego stada. Tymczasem takie aplikacje jak Sora zacierają granicę między wyobrażonym a naturalnym poprzez celowe utrudnienie rozpoznawania, z czym ma się do czynienia.
Co więcej, wytresowani w ciągu ostatnich dwóch dekad do szybkiego przerzucania uwagi, zwyczajnie pomijamy element analizy. I tak zaczynamy uczyć się poprzez naśladowanie wzorców syntetycznych – niemożliwych do odtworzenia lub których odtworzenie w realnym świecie może skutkować negatywnymi konsekwencjami. Zwłaszcza że jak pokazują najnowsze badania, w tym raport firmy Graphite, ponad połowa treści powstających obecnie w internecie została stworzona przez AI, a ponad połowę ruchu w sieci generują boty.
Henry Barthes w filmie Z dystansu odwołuje się do klasyka – dystopijnej powieści George’a Orwella Rok 1984 – i mówi o „dwójmyśleniu”, czyli wyznawaniu dwóch sprzecznych idei jednocześnie. Przekonanie „muszę być piękna, aby być szczęśliwa” Barthes nazywa „marketingowym holokaustem”. Och, Henry, gdybyśmy tylko mogli pozostać przy problemach, jakich internet i marketing nastręczały nam pod koniec pierwszej dekady XXI wieku! Dziś wierzymy, że wchodzimy w interakcje z ludźmi, choć wymieniamy się wiadomościami i komentarzami z botami. Nie potrafimy odróżnić nagrania autorstwa człowieka od wideo wyprodukowanego przez Sorę. Coraz częściej dajemy się nabrać wizjom sprzedawanym nam przez VLOP-y. I jest to tym bardziej perfidne, że wepchnięto nam te nieetyczne, szkodliwe produkty AI na siłę, wprost przez media społecznościowe, do których zapraszano nas, obiecując kontakt z innymi ludźmi.
Żeby się obronić, musimy ponownie nauczyć się czytać – pobudzać swoją wyobraźnię, kształtować własne przekonania i budować swój system wartości.
Najbardziej niepokoi mnie jednak obojętność państwa, którego obowiązkiem jest przecież ochrona obywateli przed negatywnymi skutkami rozwoju gospodarki. Aplikacje serwowane przez VLOP-y, z dziurawym systemem weryfikacji wieku oraz usuwania treści szkodliwych, nie powinny być w obecnej formie dopuszczone do masowego użytku. Czy jest to więc jeszcze systemowe zaniedbanie, czy już systemowa przemoc – ten marketingowy holokaust podsuwający nam wyobrażenia pod pozorem prawdy, bo garstce elit się to zwyczajnie opłaca?
O coraz wyraźniejszych oznakach buntu przeciwko „wyobrażaniu nam” świata przez garstkę cyfrowych gigantów napiszę w kolejnym Liście z cyfrowego roju. Niemniej wśród wielu istotnych kroków na drodze do wyjścia z obecnego położenia jest jeden, który każdy i każda z nas może zrobić natychmiast, co pięknie ujmuje filmowy Barthes w słowach: „Żeby się obronić, musimy ponownie nauczyć się czytać – pobudzać swoją wyobraźnię, kształtować własne przekonania i budować swój system wartości”.
Masz przed sobą otwartą treść, którą udostępniamy w ramach promocji „Pisma”. Odkryj pozostałe treści z magazynu, także w wersji audio. Jeśli nie masz prenumeraty lub dostępu online – zarejestruj się i wykup dostęp.
Fundację Pismo, wydawcę magazynu „Pismo”, wspiera Orange.
