Najważniejsza zmiana dla użytkowników internetu dotyczy oznaczania treści. AI Act przewiduje, że określone materiały wygenerowane lub zmanipulowane przez sztuczną inteligencję powinny być wyraźnie rozpoznawalne jako treści stworzone z udziałem AI. Chodzi szczególnie o deepfake’i, czyli obrazy, nagrania dźwiękowe lub filmy, które sprawiają wrażenie autentycznych, choć przedstawiają sytuację wygenerowaną albo zmienioną technicznie.
W praktyce oznacza to, że nie każda grafika przygotowana z pomocą AI stanie się automatycznie nielegalna. Problemem nie jest samo użycie narzędzia, lecz ryzyko wprowadzenia odbiorcy w błąd. Inaczej należy ocenić satyryczną ilustrację, a inaczej film sugerujący, że konkretna osoba powiedziała lub zrobiła coś, co w rzeczywistości nie miało miejsca. Jeszcze inaczej wygląda reklama, w której wygenerowano twarz modela, oraz nagranie głosu podszywające się pod członka rodziny, pracownika banku albo polityka.
Komisja Europejska wskazuje, że obowiązki przejrzystości z AI Act mają przeciwdziałać oszustwom, manipulacji i dezinformacji. Przepisy dotyczące oznaczania treści generowanych przez AI mają zacząć obowiązywać od 2 sierpnia 2026 r. To ważna data dla platform, firm technologicznych, reklamodawców, mediów, twórców i podmiotów publikujących materiały dla szerokiej publiczności.
Fałszywy głos, fałszywe wideo, prawdziwe straty
Deepfake jest szczególnie groźny dlatego, że działa na zaufanie. Użytkownik nie analizuje każdego filmu klatka po klatce i nie sprawdza każdego nagrania głosowego w specjalistycznych narzędziach. Jeżeli widzi znajomą twarz, słyszy znany głos albo otrzymuje wiadomość z konta przypominającego profil bliskiej osoby, może zareagować impulsywnie. Właśnie dlatego deepfake’i są wykorzystywane nie tylko w polityce i propagandzie, lecz także w zwykłych oszustwach.
Najbardziej praktyczne zagrożenia dotyczą wyłudzania pieniędzy, podszywania się pod członków rodziny, fałszywych reklam inwestycyjnych, preparowanych nagrań z udziałem znanych osób i manipulowania opinią publiczną. Sztuczna inteligencja może wygenerować realistyczny głos, który prosi o pilny przelew. Może stworzyć wideo z rzekomą rekomendacją produktu finansowego. Może też przerobić prawdziwe nagranie tak, aby zmienić sens wypowiedzi.
AI Act ma ograniczyć ten problem przez przejrzystość, ale nie zastąpi zdrowego rozsądku ani odpowiedzialności platform. Oznaczenie treści jako wygenerowanej przez AI pomoże tylko wtedy, gdy będzie widoczne, zrozumiałe i trudne do usunięcia. W praktyce jednym z największych wyzwań pozostanie obieg treści między platformami: materiał raz pobrany, skopiowany i ponownie opublikowany może stracić pierwotne oznaczenie.
Internet po AI Act. Odbiorca ma wiedzieć, co ogląda
AI Act opiera się na założeniu, że użytkownik powinien dostać jasną informację wtedy, gdy kontaktuje się z systemem AI albo widzi treść stworzoną lub zmienioną przez sztuczną inteligencję. To ważne nie tylko przy filmach i zdjęciach, lecz także przy chatbotach, automatycznych rozmowach i tekstach publikowanych w sprawach istotnych publicznie. W przypadku treści informacyjnych problem jest szczególnie poważny, bo odbiorca może potraktować wygenerowany materiał jak pracę dziennikarską albo autentyczny dokument.
Przepisy nie oznaczają końca kreatywnego używania AI. Narzędzia generatywne będą nadal używane w reklamie, edukacji, rozrywce, projektowaniu graficznym i mediach społecznościowych. Różnica polega na tym, że odbiorca ma nie być pozostawiony sam sobie w sytuacji, w której syntetyczny obraz udaje rzeczywistość. Jeżeli materiał ma charakter deepfake’u, jego twórca lub podmiot publikujący powinien zadbać o właściwe oznaczenie.
Dla zwykłego internauty oznacza to większą szansę na rozpoznanie manipulacji, ale nie gwarancję bezpieczeństwa. AI Act reguluje rynek i obowiązki podmiotów, ale nie sprawi, że znikną anonimowe konta, zagraniczne farmy treści czy prywatne wiadomości rozsyłane poza dużymi platformami. Fałszywe nagranie może pojawić się w komunikatorze szybciej, niż zostanie wykryte przez moderatorów.
Deepfake w polityce, reklamie i życiu prywatnym
Największą uwagę przyciągają deepfake’i polityczne, bo mogą wpływać na debatę publiczną, kampanie wyborcze i zaufanie do instytucji. Fałszywe nagranie lidera partii, urzędnika albo kandydata może zostać użyte w kluczowym momencie, zanim pojawi się oficjalne dementi. W takich przypadkach liczą się godziny, a czasem minuty. Oznaczenia treści generowanych przez AI mają zmniejszać ryzyko, że odbiorcy potraktują syntetyczny materiał jako dowód realnego zdarzenia.
Coraz większym problemem jest również reklama. Firmy korzystają z AI, aby taniej tworzyć grafiki, wirtualne modele i materiały promocyjne. Samo w sobie nie jest to zakazane. Spór zaczyna się wtedy, gdy reklama tworzy wrażenie, że prawdziwa osoba występuje w kampanii, popiera produkt albo rekomenduje usługę, choć w rzeczywistości nie brała w tym udziału. Podobne ryzyko dotyczy wykorzystywania wizerunku osób zmarłych, celebrytów albo ekspertów.
Najbardziej dotkliwe dla zwykłych ludzi są jednak deepfake’i prywatne: fałszywe kompromitujące zdjęcia, spreparowane nagrania, podszywanie się pod znajomych i używanie głosu bliskich osób do wyłudzania pieniędzy. AI Act nie zastępuje przepisów karnych, cywilnych ani regulacji o ochronie dóbr osobistych, ale wzmacnia wymóg przejrzystości tam, gdzie treści generowane przez AI trafiają do odbiorców.
Źródła: Komisja Europejska, informacje o obowiązkach przejrzystości i oznaczaniu treści generowanych przez AI; EUR-Lex, rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689; AI Act Service Desk, informacje o art. 50; Reuters, informacje o sporach wokół oznaczania reklam i treści generowanych przez AI; analiza naukowa Kristofa Medinga i Christopha Sorgego dotycząca definicji deepfake’u w AI Act.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.