Od 2 sierpnia 2026 r. organizacje zobowiązane są odpowiednio oznaczać materiały generowane lub modyfikowane z użyciem AI.
1. Producenci systemów generative AI
Od 2 sierpnia 2026 dostawcy (producenci) systemów AI generujących treści – obraz, dźwięk, video, tekst – muszą zapewnić, że system AI automatycznie je oznacza, w formacie nadającym się do odczytu maszynowego, aby były wykrywalne jako wygenerowane lub zmodyfikowane przez AI1Dostawcy systemów AI, które zostały wprowadzone do obrotu przez 2 sierpnia 2026 muszą zapewnić zgodność swoich systemów AI z tymi wymogami do 2 grudnia 2026 r..
AI Act nie precyzuje w jaki sposób pliki muszą być oznaczane. Zgodnie z Wytycznymi Komisji Europejskiej dot. realizacji obowiązków zapewnienia przejrzystości działania systemów AI („Wytyczne KE”) znakowanie może polegać np. na (niewidocznym) watermarkingu albo oznaczeniu w metadanych pliku.
Zgodnie z Code of Practice on Transparency of AI-Generated Content („Kodeks dobrych praktyk”) opublikowanym przez Komisję Europejską dobrą praktyką jest wdrożenie przez dostawcę rozwiązania wielowarstwowego – np. informacji w metadanych pliku oraz niewidocznego znaku wodnego.
Dostawcy systemów AI muszą również zapewnić, żeby treści generowane przez ich systemy były wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Dostawcy muszą zapewnić skuteczność, interoperacyjność, solidność i niezawodność swoich rozwiązań technicznych służących do wykrywania takich treści generowanych przez ich systemy AI (w zakresie, w jakim jest to technicznie wykonalne).
Wytyczne KE wskazują, że dostawcy powinni udostępnić takie narzędzia osobom, które mogą zetknąć się z treściami generowanymi przez ich systemy AI – czyli w praktyce powinni udostępnić publicznie takie narzędzia.
2. Organizacje korzystające z systemów generative AI
Od 2 sierpnia 2026 podmioty stosujące systemy AI generujące treści, które wykorzystują je do tworzenia deepfake’ów, muszą odpowiednio oznaczać je jako rezultat działania AI.
Informacja ma być podana w sposób jasny, odróżnialny, dostępny i przy pierwszym kontakcie odbiorcy z treścią. Informacja musi być ujawniona w formacie zdatnym do odczytu ludzkiego.
Ważne: techniczne znakowanie „w tle” przez dostawcę narzędzia nie wystarczy – odbiorca musi zobaczyć lub usłyszeć oznaczenie bez dodatkowych narzędzi.
 |
Deepfake to wygenerowane przez AI lub zmanipulowane przez AI obrazy, treści dźwiękowe lub treści wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub zdarzenia, które odbiorca mógłby niesłusznie uznać za autentyczne lub prawdziwe. Za deepfake uznaje się również realistyczne przedstawienia nieistniejących osób, zdarzeń lub miejsc, jeśli mogą one zostać niesłusznie uznane za autentyczne. Deepfake może być np. grafika przedstawiająca pacjentów albo lekarzy / naukowców na materiale marketingowym lub edukacyjnym. |
AI Act nie precyzuje w jaki sposób deepfakes muszą być oznaczane. Szczegółowe wytyczne dotyczące sposobu oznaczania treści, także w zależności od rodzaju materiału (obraz, wideo, dźwięk) przedstawione zostały w Kodeksie dobrych praktyk opublikowanym przez Komisję Europejską.
Kodeks rekomenduje stosowanie ikon wskazujących charakter ingerencji AI: „AI GENERATED” (dla treści w całości wygenerowanych przez AI) oraz „AI MODIFIED” (dla treści zmodyfikowanych przy użyciu AI). Alternatywnie, Kodeks dopuszcza zastosowanie ogólnego oznaczenia „AI”, które po kliknięciu / najechaniu kursorem wskazywać będzie doprecyzowanie AI GENERATED” / „AI MODIFIED”, albo dodatkowo wskazywać będzie również jakie elementy zostały wygenerowane / zmodyfikowane.
3. Sankcje
Naruszenie przez dostawcę albo podmiot stosujący systemy generative AI obowiązków dot. przejrzystości wynikających z art. 50 AIA zagrożone jest karą administracyjną do 15 000 000 EUR albo do 3% całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego – w zależności od tego, która kwota jest wyższa.
4. Potrzebne działania
Aby zapewnić zgodność z wymogami art. 50 AIA należy:
- zweryfikować, czy używane narzędzia AI oferują funkcje oznaczania i wykrywania generowanych przez nie treści
- wprowadzić wewnętrzne zasady oznaczania i oceny materiałów tworzonych z użyciem AI (grafik, wideo, tekstów) publikowanych przez firmę
- przeszkolić zespoły marketingu i komunikacji odpowiedzialne za tworzenie i publikację treści generowanych z użyciem AI
- zweryfikować i aneksować umowy z agencjami marketingowymi i innymi dostawcami tworzącymi i publikującymi materiały dla firmy
***
W razie pytań zachęcamy do kontaktu z naszym zespołem.
- 1
Dostawcy systemów AI, które zostały wprowadzone do obrotu przez 2 sierpnia 2026 muszą zapewnić zgodność swoich systemów AI z tymi wymogami do 2 grudnia 2026 r.
