Deepfake w 2024 – co to jest i jakie zagrożenia niesie

Sztuczna inteligencja (znana pod postacią skrótu AI – artificial intelligence) może zdziałać wiele. Jest sprawnym artystą, wyszukuje odpowiedzi na liczne pytania, wspomaga procesy medyczne czy przemysłowe, a także ułatwia programowanie. Niestety, może być też sporym zagrożeniem jeżeli wpadnie w nieodpowiednie ręce. Najlepszym przykładem tego jest deepfake. Co to takiego? Jak powstaje i jakie może stanowić zagrożenie? Podpowiadamy.

Deepfake oznacza z angielskiego połączenie wyrażeń deep learning (co w wolnym tłumaczeniu oznacza „głębokie nauczanie”) oraz fake (czyli fałszywy). Jest zjawiskiem stosunkowo nowym i rozpowszechnił się masowo od 2016-2017 roku, wraz z rozwojem sztucznej inteligencji.

W obliczu rosnącej popularności deepfake w kontekście politycznym i społecznym, szczególnie w świetle niedawnych wydarzeń na arenie międzynarodowej, temat ten zyskuje na znaczeniu. Znaczący rozwój technologii w ostatnich latach sprawił, że deepfake jest teraz łatwiejszy w użyciu i bardziej dostępny dla szerszej publiczności.

Co to jest deepfake?

Deepfake to technika obróbki obrazu, bazująca na działaniu sztucznej inteligencji. Polega na łączeniu obrazów (szczególnie ludzkich twarzy), używając do tego specjalnych systemów komputerowych. Deepfake może mieć formę pliku wideo oraz obrazu statycznego (w różnych formatach). Obróbka deepfake jest na tyle zaawansowana, że trudno na pierwszy rzut oka rozpoznać, który plik jest prawdziwy, a który został zmodyfikowany.

Deepfake pokazuje coś, co tak naprawdę nigdy się nie wydarzyło. W swoisty sposób „kreuje rzeczywistość”. Głęboka sieć neuronowa analizuje obraz twarzy i otoczenie ze wskazanych obrazów, a następnie dobiera odpowiednie wartości, układające ostateczny efekt w całość. Do tego dochodzi jeszcze technologia wykrywania i eliminowania błędów z generowanych treści.

Jak i po co powstają deepfake’i?

Współczesny deepfake powstaje w wyniku nakładania na siebie i inteligentnego łączenia dwóch obrazów (wideo lub zdjęcia) przedstawiających sylwetkę i twarz określonych osób lub w wyniku generowania fałszywego głosu, podobnego do postaci źródłowej. Na przykład, w 2023 roku deepfake był wykorzystywany do manipulowania opiniami publicznymi w przededniu wyborów w kilku krajach. Technologia oparta jest na kilku rodzajach programów – mniej lub bardziej zaawansowanych.

Istnieje kilka możliwości wykonania deepfake. Pierwszy to posiłkowanie się powszechnymi narzędziami sztucznej inteligencji, która umożliwia wykreowanie własnej rzeczywistości na bazie wydawanych jej poleceń i np. pojedynczego zdjęcia realnej osoby. W sieci działa wiele stron, które zamieniają prawdziwe fotografie w realnie wyglądające, ale fałszywe obrazy czy filmy. Mogą to być sceny pornograficzne, rozbierane, ukazanie postaci w niejednoznacznej sytuacji lub pozornie niewinne (np. zdjęcie określonego człowieka w innym mieszkaniu lub poza granicami kraju). Co ważne, narzędzia dostępne w sieci pomagają też tworzyć fałszywy dźwięk. Twórca deepfake może podszywać się więc pod głos swojej ofiary.

Drugi sposób to korzystanie z zaawansowanych narzędzi, obsługiwanych przez profesjonalistów. Te mają jeszcze większe możliwości i mogą osiągać wyniki niezwykle trudne do wykrycia na pierwszy rzut oka. Tego typu nowoczesne oprogramowanie może tworzyć też deepfake w czasie rzeczywistym. W takiej sytuacji nakłada twarz wybranej osoby na sylwetkę oszusta, tworząc pozory rozmowy z realną postacią.

Czy deepfake stanowi zagrożenie? Jeżeli tak, to jakie?

Trzeba podkreślić, że deepfake z założenia powstawał, aby wyrządzać krzywdę „bohaterom” obrazów, filmów lub dźwięków. W wielu przypadkach stanowił obszar zemsty (np. za zerwane relacje o charakterze matrymonialnym). Dziś wykorzystanie deepfake przez przestępców jest powszechne i ma dość szeroki aspekt. Ostatnio, przestępcy wykorzystują deepfake do tworzenia bardziej przekonujących oszustw finansowych, co stanowi nowy wymiar zagrożeń.

Dlaczego deepfake może stanowić zagrożenie?

• Szantaż – przestępcy będą szantażować ofiarę, że ujawnią kompromitujące materiały przygotowane przez sztuczną inteligencję. Często przybiera formę tzw. sextortion, czyli szantażu o charakterze seksualnym. Szantażysta będzie żądał pieniędzy za usunięcie deepfake’ów lub zażąda przesłania mu prawdziwych zdjęć, lub filmów z treściami o charakterze seksualnym.
• Wyłudzenie kredytów – wyłudzenie kredytu, oszustwo na wnuczka, syna czy wiele innych przestępstw o charakterze finansowym jest istotnie łatwiejsze dzięki deepfake. Przestępca może posługiwać się określonym głosem, a nawet przybierać twarz, aby wyłudzić określoną kwotę od osoby prywatnej lub placówki finansowej.
• Manipulacje matrymonialne – to częste wykorzystywanie deepfake. Fałszywe zdjęcia czy filmy o charakterze seksualnym mogą stanowić próbę wyłudzenia określonych korzyści podczas postępowania rozwodowego albo używane są do ośmieszenia partnera m.in. w oczach rodziny i znajomych. W skrajnych przypadkach deepfake może np. doprowadzić do rozpadu małżeństwa.
• Próby kompromitowania określonych osób lub organizacji – deepfake wykorzystywany jest też do dezinformacji i propagandy. Politycy wielu opcji padali już ofiarą fałszywych nagrań na swój temat (wśród nich np. Donald Trump, Barack Obama itd.). Istnieje zagrożenie, że deepfake będą istotnie wpływać na wybory demokratyczne, np. na polecenie mafii, obcych wywiadów czy grup przewrotowych.

Warto pamiętać, że już samo w sobie powstanie deepfake’a może stanowić poważne złamanie prawa. Mówimy tutaj bowiem o przewinienie z zakresu przepisów Kodeksu cywilnego, a także naruszenia dóbr osobistych. Szczególnie dzieje się, to gdy deepfake został stworzony w celu ośmieszenia drugiej osoby.

W niektórych przypadkach deepfake wykorzystywane są także w celach humorystycznych (np. kabaretowo, w programach rozrywkowych) lub edukacyjnych. Niektóre placówki muzealne czy galerie sztuki generują przy pomocy AI sztuczny obraz twórców dzieł, z którymi można porozmawiać lub zrobić sobie zdjęcie.  Naukowcy podkreślają, że to jedyny pozytywny sposób takiego wykorzystania AI.

Jak chronić się przed deepfake?

Ochrona przed deepfake ma szeroki aspekt. Powinna opierać się na edukowaniu, kontrolowaniu i przeciwdziałaniu. Zacznijmy od pierwszego elementu. Należy przede wszystkim rozmawiać z małoletnimi o konsekwencjach, jakie mogą wiązać się z tworzeniem deepfake. Pamiętajmy, że dzieci nie są tak odporne na zewnętrzne bodźce, co prowadzi m.in. do chorób psychicznych, a nawet prób samobójczych. Małoletni powinni wiedzieć też jak reagować, gdy pojawi się deepfake na ich temat (powiadomienie rodziców, pedagogów, policji).

Czytaj także: Jak się przygotować na sprawę sądową w Polsce – praktyczny przewodnik

W odpowiedzi na te zagrożenia, opracowano nowe narzędzia do wykrywania deepfake, takie jak zaawansowane algorytmy analizujące niewielkie nieregularności w obrazie, które mogą świadczyć o manipulacji.

Edukacja powinna obejmować również dorosłych. Społeczeństwo jest podatne na próby manipulacji i nie zawsze zdaje sobie sprawę, że dany obraz jest fałszywy. Ma to znaczenie z punktu widzenia jednostki (wspomniane próby szantażu, wyłudzenia środków czy kompromitacji określonego człowieka) oraz państwowości (wpływ na wyniki wyborów).

Druga kwestia związania jest z kontrolą. Tutaj możemy dbać o nasze bezpieczeństwo samodzielnie. Ograniczmy publikację zdjęć w mediach społecznościowych (które mogą być wykorzystane przez szantażystów), dbajmy o wysokie zabezpieczenie konta w banku (np. podwójne uwierzytelnianie logowania z wykorzystaniem U2F).

Jeżeli zostaniemy ofiarami fałszywych materiałów, nie warto tego ukrywać. Im szybciej publicznie zdementujemy informację o prawdziwości tego rodzaju materiałów, tym mniejsze szanse na sukces mają potencjalni przestępcy. Zwróćmy uwagę na fakt, że nie jesteśmy realnymi bohaterami wygenerowanych materiałów, a wyłącznie przedmiotem sprytnie wykonanego montażu wideo, audio lub foto. To wszystko!