W polskim systemie prawa nie odnajdziemy definicji legalnej w odniesieniu do deepfake. Unijny prawodawca wprowadził ją w art. 3 pkt 60 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. – Aktu w sprawie sztucznej inteligencji (AI Act). Zgodnie z tym przepisem deepfake oznacza „wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe”.

AI Act ma być stosowany zgodnie z wartościami Unii zapisanymi w Karcie Praw Podstawowych, ułatwiając ochronę osób fizycznych, przedsiębiorstw, demokracji i praworządności, a zarazem wspierając innowacje (motyw 2). W motywie 134 rozporządzenie podkreśla obowiązek przejrzystości: podmioty stosujące system AI do generowania lub manipulowania obrazami, dźwiękiem czy wideo, które łudząco przypominają istniejące osoby, powinny w wyraźny sposób oznaczać, że treść została sztucznie wygenerowana lub zmanipulowana. Obowiązek ten nie może być interpretowany jako ograniczający wolność wypowiedzi, sztuki czy nauki – w przypadku dzieł o wyraźnie twórczym, satyrycznym lub fikcyjnym charakterze wystarczy odpowiednie ujawnienie, że mamy do czynienia z treścią deepfake.

Równie istotna jest dyrektywa Parlamentu Europejskiego i Rady (UE) 2024/1385 z dnia 14 maja 2024 r. w sprawie zwalczania przemocy wobec kobiet i przemocy domowej. Jej motyw 19 wskazuje, że przestępstwem powinno być publiczne udostępnianie za pomocą ICT obrazów lub nagrań o charakterze seksualnym bez zgody osoby, w tym treści wytworzonych bez zgody lub zmanipulowanych – na przykład przy użyciu AI – które sprawiają wrażenie, że osoba uczestniczy w czynnościach seksualnych. Dotyczy to również deepfake’ów, które przedstawiają osoby, przedmioty, miejsca lub wydarzenia łudząco podobne do rzeczywistych, a odbiorca może je niesłusznie uznać za autentyczne.

Techniki manipulacji w świecie deepfake’ów

Ewelina Bartuzi-Trokielewicz, naukowczyni w NASK-Państwowym Instytucie Badawczym, kierująca Zakładem Analiz Audiowizualnych i Systemów Biometrycznych, specjalizująca się w uczeniu głębokim, widzeniu komputerowym, analizie dźwięku, biometrii i pogłębionej analizie deepfake’ów, członkini sekcji AI, prawa człowieka i demokracja w Grupie Roboczej ds. sztucznej inteligencji i internetu rzeczy „GRAI” przybliża techniki manipulacji wykorzystywane w syntetycznych materiałach audiowizualnych.

Sztuczna inteligencja zmieniła sposób, w jaki pracujemy, komunikujemy się i podejmujemy decyzje. Niestety, coraz częściej służy kompleksowej manipulacji ludzką percepcją. Technologia deepfake pozwala tworzyć syntetyczne dane realistycznie odwzorowujące prawdziwe materiały – modele generatywne umożliwiają m.in. tworzenie lub modyfikację obrazów i dźwięków. Ludzie mają naturalną skłonność do ufania temu, co widzą i słyszą, dlatego zjawisko to jest szczególnie niebezpieczne w cyfrowym społeczeństwie przyzwyczajonym do audiowizualnego przekazu i korzystającym z internetu jako głównego źródła wiedzy. Co gorsza, metody tworzenia deepfake’ów są dziś łatwo dostępne, tanie i niewymagające specjalistycznej wiedzy.

Narzędzia oparte na AI pozwalają generować realistyczne fałszywe treści w kilka minut – bez konieczności inwestowania w sprzęt, dane treningowe czy infrastrukturę IT. Konsekwencją są materiały masowo produkowane niskim kosztem i rozpowszechniane w mediach społecznościowych, komunikatorach i serwisach wideo, w krótkim czasie docierające do setek tysięcy odbiorców.

Deepfake kojarzy się głównie z manipulacją obrazu, zwłaszcza twarzy – podmianą wizerunku lub sterowaniem mimiką. Równie groźne są techniki manipulacji głosem (voice cloning) oraz materiały łączone audio-wideo, w których sztucznie wygenerowany głos i mimika współgrają, tworząc bardzo realistyczne filmy. Zrozumienie mechanizmów i technik manipulacji stojących za syntetycznymi materiałami jest kluczowe. Główne obszary manipulacji dotyczą:

• wykorzystania wizerunków znanych osób,
• modyfikacji treści przekazu,
• dopasowania kontekstu i formy.

Manipulacja tożsamością

Najpotężniejszą formą manipulacji z użyciem AI jest wykorzystanie wizerunku autorytetu – osoby, która wzbudza zaufanie i automatycznie zwiększa wiarygodność przekazu. W materiałach dezinformacyjnych można spotkać różne typy autorytetów:

• publiczne – powszechnie znane, np. politycy, sportowcy, dziennikarze,
• eksperci dziedzinowi – specjaliści, np. lekarze, ekonomiści, profesorowie,
• osoby bliskie autorytetom – współpracownicy, członkowie rodziny,
• przeniesione – osoba będąca autorytetem w jednej dziedzinie wypowiada się na tematy z nią niezwiązane,
• auto-autorytety – kreowanie siebie na eksperta, by zdobyć uwagę,
• reprezentanci grup – przedstawiciele instytucji, rządu, których wypowiedzi mają być postrzegane jako głos całej społeczności.

Wykorzystanie autorytetów służy wzbudzeniu natychmiastowego zaufania i często odwraca uwagę od treści – odbiorca reaguje na „twarz”, nie analizując przekazu. Do tego rodzaju manipulacji używa się technik podmiany twarzy, klonowania głosu, modyfikacji atrybutów umożliwiającej dopasowanie ruchu ust i mimiki do nowej ścieżki dźwiękowej oraz tworzenia całkowicie syntetycznych postaci (awatarów).

Technologie generatywne stają się jednym z najskuteczniejszych narzędzi manipulacji informacją. NASK-PIB we współpracy z KNF CSIRT zidentyfikował ponad 13 tysięcy fałszywych materiałów, głównie reklamowych. Niemal 60% z nich dotyczyło rzekomych instrumentów finansowych i programów rządowych, a wykorzystano w nich ponad 280 wizerunków znanych osób.

Manipulacja treścią przekazu

Treści deepfake’ów budowane są według powtarzalnego schematu perswazyjnego:

• wprowadzenie – osobista, często emocjonalna historia,
• opis problemu – sytuacja zagrożenia (np. choroba, inflacja, spisek),
• pobudzenie emocji – strach, złość, frustracja lub wyidealizowany świat,
• autorytet – przedstawienie siebie lub znanej osoby jako polecającej rozwiązanie,
• rozwiązanie – produkt, usługa albo inwestycja, która ma „uratować sytuację”,
• korzyści i dowody – fałszywe recenzje, wykresy, liczby,
• wezwanie do działania – presja natychmiastowego podjęcia decyzji, np. pobrania aplikacji czy wypełnienia formularza.

Stosuje się presję czasu, ekskluzywność oferty i ograniczenia („tylko dla wybranych”). Język wypowiedzi dopasowuje się do grupy odbiorców: potoczny, młodzieżowy, a czasem wulgarny – skierowany głównie do młodych użytkowników social mediów; ekspercki, stylizowany na specjalistów; oraz podniosły, przypominający przemówienia polityczne lub kazania – często adresowany do osób starszych. Materiały pełne są bezpośrednich zwrotów („rodacy”, „słuchajcie”, „my, zwykli ludzie”) i odwołań do „realiów życia” – zmęczenia, braku pieniędzy, chorób. Forma imituje znane formaty: rolki TikTok, wywiady, reportaże, reklamy, konsultacje online.

Dodatkowo pojawiają się fałszywe opinie (rzekome komentarze internautów, wywiady uliczne), zapewnienia o braku ryzyka i gwarantowany zysk. Wiele przekazów opiera się na narracjach spiskowych – teorii „ujawnionej prawdy” i odrzuceniu oficjalnych źródeł, przedstawiając rozwiązanie jako przełomowe, a nawet zakazane. Fałszywe materiały często działają jak emocjonalna huśtawka: strach → złość lub poczucie zdrady → ratunek. Takie narracje mogą nie tylko skłaniać do kliknięcia, ale też eskalować agresję i podżegać do przemocy.

Manipulacja formą i kontekstem

Materiały deepfake mogą być jednolite – cały oryginalny film zyskuje nową ścieżkę głosową i dopasowanie ruchu ust – albo przybierać postać złożonych montaży, czyli kompilacji wielu źródeł, w których zmanipulowany materiał przeplata się z prawdziwymi nagraniami, stockami czy wypowiedziami kilku osób. Pojawiają się też kolaże stylizowane na wideorozmowy, panele ekspertów lub reportaże, a wiarygodność wzmacniają fragmenty serwisów informacyjnych, logotypy stacji czy transkrypcje.

Aby ukryć błędy i utrudnić pracę automatycznych detektorów, na materiałach umieszcza się znaki wodne, szumy tekstualne (Rys. 2) i dźwiękowe (szum uliczny, piosenki, melodie, śmiech, krzyki, dźwięki monet i przycisków, odgłos migawki aparatu). Często fałszywe filmy osadza się w długich, nawet półgodzinnych kompilacjach o neutralnym charakterze.

Podsumowanie

Technologia deepfake to nowoczesna i kompleksowa broń psychologiczna – spójnie łączy iluzję wizualną z precyzyjną manipulacją emocjami i zaufaniem. Dlatego tak ważna jest edukacja społeczeństwa: rozumiejąc techniki manipulacji, można budować odporność na fałszywe treści. Skuteczne przeciwdziałanie wymaga jednak nie tylko reagowania na incydenty, lecz także długofalowej strategii obejmującej rozwój automatycznych metod detekcji, regulacje prawne, programy edukacyjne i standardy odpowiedzialnego korzystania z AI.

Potrzebne zmiany prawa – stanowisko Prezesa UODO

Prezes UODO Mirosław Wróblewski w komentarzu dla Prawo.pl odniósł się do problemu opisanego w artykule „Technologia deepfake. Regulacja obejmie tylko materiały powstałe z użyciem AI”. Zgodnie z przedstawionym tam stanowiskiem Ministerstwa Cyfryzacji, korzystanie z technologii deepfake zostanie uregulowane od 2 sierpnia 2026 r. wraz z wejściem w życie kolejnych przepisów AI Act. Definicja zawarta w rozporządzeniu obejmuje jedynie materiały wygenerowane lub zmanipulowane przez AI – nie dotyczy więc np. tradycyjnego fotomontażu wykonanego w programie graficznym.

Prezes UODO podkreśla konieczność odróżnienia deepfake’u od fotomontażu. Choć w obu przypadkach może dojść do naruszenia praw osoby, której wizerunek został bezprawnie wykorzystany, różnica leży w dostępności i skali:

– Przerobienie zdjęcia danej osoby bez użycia technologii opartych o algorytmy sztucznej inteligencji w taki sposób, aby ciężko było odróżnić je od oryginału, wymaga określonych umiejętności graficznych i nakładu pracy. Jeszcze wyższych kwalifikacji i nakładów pracy, ale i pieniędzy wymaga stworzenie w taki sposób materiału filmowego z wykorzystaniem czyjegoś wizerunku – uważa Mirosław Wróblewski.

Technologia deepfake, dzięki algorytmom AI, pozwala na łatwiejsze i szybsze wygenerowanie fałszywych obrazów przypominających rzeczywiste osoby, a także dźwięku. Nawet dzieci, nieposiadające kwalifikacji animatorów czy grafików, mogą tworzyć realistyczne materiały.

– Niebezpieczeństwo wykorzystania tej technologii w niewłaściwych celach polega na tym, że taki obraz może wygenerować osoba, która nie zna się nawet na grafice czy animacji – zwraca uwagę prezes UODO. I dodaje, że taką technologią potrafią się posługiwać nawet dzieci.

To wszystko stwarza ryzyko wykorzystania cudzego wizerunku lub głosu do ośmieszenia, wprowadzania w błąd, szantażu czy kradzieży tożsamości.

Prezes UODO wystąpił do wicepremiera i ministra cyfryzacji Krzysztofa Gawkowskiego o zainicjowanie prac nad przepisami, które uregulują odpowiedzialność prawną za rozpowszechnianie fałszywych treści w postaci deepfake’ów i zapewnią skuteczną ochronę danych osobowych. Obecne regulacje – Kodeks cywilny (ochrona dóbr osobistych), prawo autorskie, RODO oraz Kodeks karny (art. 191a – rozpowszechnianie wizerunku nagiej osoby bez zgody, art. 202 – treści pornograficzne, art. 212 i 216 – zniesławienie i zniewaga, art. 286 – oszustwo) – nie są w pełni dostosowane do specyfiki nowych technologii.

– W obliczu możliwości, jakie daje technologia deepfake, która jest oparta o coraz bardziej zaawansowane algorytmy sztucznej inteligencji, konieczne są zmiany prawa, które będą odnosić się do rozpowszechniania szkodliwych treści w postaci deepfake’ów, zapewniając ofiarom możliwość skutecznego i szybkiego dochodzenia ochrony swoich praw – podsumowuje prezes UODO.

—

Źródła:

• AI Act – rozporządzenie 2024/1689
• Karta Praw Podstawowych UE
• Dyrektywa 2024/1385 ws. zwalczania przemocy wobec kobiet
• Techniki manipulacji w świecie deepfake’ów – gov.pl
• Wideo: deepfake – jak rozpoznać? (NASK)
• Wideo: deepfake a bezpieczeństwo (NASK)
• Deepfake a prawo – apel Prezesa UODO (Prawo.pl)
• Technologia deepfake – czy AI Act rozwiąże problem? (Prawo.pl)