Rozwój generatywnej sztucznej inteligencji sprawił, że stworzenie realistycznego nagrania głosu, filmu z cudzą twarzą albo materiału „w stylu” konkretnego twórcy stało się łatwiejsze niż kiedykolwiek. Deepfake’i nie są już wyłącznie problemem celebrytów czy polityków – mogą dotknąć zarówno przedsiębiorców, ekspertów, lektorów, muzyków, influencerów, pracowników firm, jak i zwykłych użytkowników internetu. U.S. Copyright Office wskazał, że cyfrowe repliki głosu lub wyglądu mogą powodować poważne szkody dla reputacji, zarobków i bezpieczeństwa osób prywatnych, a istniejące mechanizmy ochrony bywają niewystarczające.
Poniżej znajduje się praktyczny artykuł omawiający, jak chronić głos, wizerunek i styl przed nieautoryzowanym wykorzystaniem przez AI.
1. Czym jest deepfake i dlaczego stanowi problem?
Deepfake to materiał wizualny, dźwiękowy lub audiowizualny wygenerowany albo zmodyfikowany przy użyciu AI w taki sposób, aby sprawiał wrażenie autentycznego. Może polegać na podmianie twarzy, sklonowaniu głosu, wygenerowaniu fałszywego nagrania wypowiedzi albo stworzeniu pozornej reklamy z udziałem osoby, która nigdy nie wyraziła na to zgody.
Problem polega na tym, że technologia deepfake może jednocześnie naruszać kilka różnych obszarów prawa: dobra osobiste, prawo do wizerunku, ochronę danych osobowych, prawo autorskie, prawa pokrewne, przepisy karne oraz zasady uczciwej konkurencji. Dlatego skuteczna ochrona rzadko opiera się na jednej podstawie prawnej – zazwyczaj trzeba łączyć kilka instrumentów.
2. Ochrona głosu przed klonowaniem AI
Głos jako dobro osobiste
W polskim prawie głos może być traktowany jako dobro osobiste, ponieważ jest elementem tożsamości człowieka i pozwala go rozpoznać. Nieautoryzowane wykorzystanie czyjegoś głosu, manipulacja – zwłaszcza w reklamie, nagraniu promocyjnym, fałszywej rozmowie telefonicznej albo syntetycznym utworze – może naruszać art. 23 i 24 Kodeksu cywilnego.
Osoba, której głos został sklonowany, może żądać m.in. zaprzestania naruszeń, usunięcia materiału, przeprosin, zadośćuczynienia, odszkodowania lub wydania korzyści uzyskanych dzięki bezprawnemu wykorzystaniu jej głosu. W przypadku artystów, lektorów, aktorów czy muzyków może dodatkowo wchodzić w grę naruszenie praw pokrewnych do artystycznych wykonań.
Głos jako dane osobowe lub biometryczne
Głos może być również daną osobową, a w niektórych sytuacjach – gdy służy do jednoznacznej identyfikacji osoby – może mieć charakter danych biometrycznych. To oznacza, że jego przetwarzanie, kopiowanie, analizowanie albo wykorzystywanie do trenowania lub generowania modeli AI może wymagać podstawy prawnej na gruncie RODO (tj. Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z dnia 27 kwietnia 2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. U. UE. L. z 2016 r. Nr 119, str. 1 z późn. zm.). W praktyce oznacza to, że firma, która nagrywa głos pracownika, lektora czy klienta, nie powinna automatycznie zakładać, że może później użyć tego nagrania do stworzenia syntetycznego głosu. Do takiego celu potrzebna jest odrębna, jasna i świadoma zgoda albo inna wyraźna podstawa prawna.
Oddzwaniamy w dni robocze w godzinach 9:00 - 17:00.
3. Ochrona wizerunku przed deepfake’ami
Prawo do wizerunku
Wizerunek jest w Polsce chroniony m.in. na podstawie prawa autorskiego. Co do zasady rozpowszechnianie wizerunku wymaga zezwolenia osoby przedstawionej, chyba że zachodzi jeden z ustawowych wyjątków. Deepfake wykorzystujący czyjąś twarz może więc stanowić naruszenie prawa do wizerunku, nawet jeśli obraz został wygenerowany lub zmodyfikowany przez AI. Istotne jest nie tylko to, czy materiał zawiera oryginalne zdjęcie danej osoby, ale także to, czy odbiorca może rozpoznać konkretną osobę. Jeżeli deepfake wywołuje wrażenie, że dana osoba naprawdę wystąpiła w nagraniu, reklamie albo wypowiedzi, ryzyko naruszenia prawa do wizerunku jest wysokie.
Wizerunek a dobra osobiste
Deepfake z cudzą twarzą może naruszać także dobra osobiste, takie jak dobre imię, godność, prywatność, reputacja zawodowa czy wiarygodność publiczna. Ma to szczególne znaczenie wtedy, gdy materiał przedstawia osobę w kompromitującym, fałszywym, reklamowym albo politycznie kontrowersyjnym kontekście. W takiej sytuacji można domagać się nie tylko usunięcia materiału, ale również publikacji oświadczenia, przeprosin, zapłaty zadośćuczynienia lub odszkodowania za szkodę majątkową i reputacyjną.
4. Czy można chronić „styl” przed AI?
Styl jest trudniejszy do ochrony niż głos i wizerunek
Najtrudniejszym obszarem ochrony jest styl. Sam „styl” – rozumiany jako sposób malowania, pisania, komponowania, montażu czy wypowiadania się – nie zawsze podlega bezpośredniej ochronie prawnoautorskiej. Prawo autorskie chroni konkretny utwór, a nie ogólną manierę twórczą, pomysł, estetykę albo technikę. U.S. Copyright Office (tj. Amerykański Urząd ds. Praw Autorskich) zauważył obawy twórców dotyczące imitowania ich stylu przez AI, ale nie rekomendował ujęcia samego stylu w zakresie federalnej ochrony „cyfrowych replik”. Nie oznacza to jednak, że twórca jest całkowicie bezbronny. Ochrona może pojawić się wtedy, gdy AI wygeneruje materiał bardzo podobny do konkretnego utworu, wykorzysta nazwisko lub pseudonim twórcy, sugeruje jego udział, narusza renomę albo wprowadza odbiorców w błąd co do autorstwa.
Kiedy imitacja stylu może być problemem prawnym?
Ryzyko naruszenia rośnie, gdy materiał:
- przypomina konkretny istniejący utwór,
- wykorzystuje nazwisko, pseudonim, markę lub rozpoznawalny znak twórcy,
- sugeruje, że twórca autoryzował materiał,
- konkuruje z jego twórczością,
- powstał z wykorzystaniem nielegalnie pozyskanych materiałów,
- wprowadza odbiorców w błąd,
- szkodzi reputacji twórcy.
W takich sytuacjach można rozważać nie tylko ochronę z tytułu prawa autorskiego, ale również ochronę dóbr osobistych, przepisy o zwalczaniu nieuczciwej konkurencji, ochronę znaków towarowych, ochronę renomy lub roszczenia związane z fałszywą reklamą.
5. Najważniejsze zabezpieczenie: dobre umowy
Jednym z najskuteczniejszych sposobów ochrony przed deepfake’ami jest precyzyjne uregulowanie wykorzystania głosu, wizerunku, nagrań i materiałów twórczych w umowach. Szczególnie ważne jest to dla aktorów, lektorów, muzyków, podcasterów, trenerów, ekspertów, influencerów i osób występujących publicznie. W umowie warto wyraźnie wskazać, że zgoda na wykorzystanie nagrania, zdjęcia lub wystąpienia nie obejmuje trenowania modeli AI, klonowania głosu, tworzenia cyfrowych awatarów, generowania deepfake’ów ani syntetycznych reklam, chyba że strony postanowią inaczej w osobnej zgodzie.
Przykładowa klauzula:
„Zgoda na wykorzystanie wizerunku, głosu, nagrań, wypowiedzi lub innych cech identyfikujących Wykonawcę nie obejmuje ich użycia do trenowania, uczenia maszynowego, dostrajania, testowania ani tworzenia systemów sztucznej inteligencji (AI), w szczególności modeli generatywnych, klonów głosu, cyfrowych awatarów, deepfake’ów lub syntetycznych replik osoby, chyba że Strony wyraźnie postanowią inaczej w odrębnej pisemnej umowie”.
Warto też unikać bardzo szerokich zgód typu: „(…) na wszelkie pola eksploatacji, bez ograniczeń czasowych, terytorialnych i technologicznych (…)”, jeżeli nie jest jasne, czy obejmują one wykorzystanie w AI. Im bardziej precyzyjna zgoda, tym mniejsze ryzyko sporu.
6. Ograniczanie ryzyka technicznego
Ochrona prawna jest ważna, ale sama nie wystarczy. W praktyce warto ograniczać liczbę publicznie dostępnych, wysokiej jakości próbek głosu i obrazu. Długie, czyste nagrania podcastowe, webinary, wywiady czy nagrania bez szumów ułatwiają stworzenie klonu głosu. Praktyczne środki ostrożności:
- nie publikuj niepotrzebnie surowych nagrań głosu,
- ograniczaj dostęp do plików źródłowych,
- przechowuj oryginały z metadanymi,
- stosuj watermarki audio lub wideo tam, gdzie to możliwe,
- monitoruj Internet pod kątem swojego nazwiska, marki, zdjęć i nagrań,
- korzystaj z narzędzi wykrywających syntetyczne audio lub wideo,
- dokumentuj, kiedy i gdzie publikujesz własne materiały.
Takie działania nie eliminują ryzyka, ale ułatwiają późniejsze wykazanie, że dany materiał jest fałszywy, nieautoryzowany albo wygenerowany na podstawie bezprawnie użytych próbek.
7. Co zrobić, gdy deepfake już się pojawi? Jak walczyć z oszustwem?
W przypadku wykrycia deepfake’a najważniejsze jest szybkie zabezpieczenie dowodów. Nie należy ograniczać się do jednego zrzutu ekranu, ponieważ materiał może zostać usunięty, zmieniony albo przeniesiony. Warto zabezpieczyć:
- link do materiału,
- datę i godzinę dostępu,
- nazwę konta lub profilu,
- zrzuty ekranu,
- nagranie ekranu,
- liczbę wyświetleń, reakcji i komentarzy,
- opis reklamy lub kampanii,
- dane domeny lub hostingu,
- wszelkie wiadomości od osób, które widziały materiał.
Następnie warto zgłosić materiał platformie jako naruszenie wizerunku, podszywanie się, naruszenie prywatności, manipulację, brak autentyczności, oszustwo, dezinformację, naruszenie praw autorskich, naruszenie znaku towarowego albo nadużycie AI. Równolegle można wysłać wezwanie do osoby publikującej, reklamodawcy, hostingu lub właściciela domeny.
8. Możliwe roszczenia i ścieżki działania
W zależności od sytuacji można rozważyć kilka równoległych ścieżek działania:
Ścieżka cywilna
Możliwe żądania to m.in.: usunięcie materiału, zakaz dalszego rozpowszechniania, przeprosiny, zadośćuczynienie, odszkodowanie lub wydanie bezprawnie uzyskanych korzyści. Podstawą mogą być dobra osobiste, prawo do wizerunku, prawa pokrewne albo przeciwdziałanie nieuczciwej konkurencji.
Ścieżka karna
Jeżeli deepfake służy do oszustwa, zmanipulowania rzeczywistości, wyłudzenia, podszywania się, szantażu, nękania albo wyrządzenia szkody majątkowej lub osobistej, możliwe jest zawiadomienie organów ścigania. Potencjalne znaczenie mają przepisy o kradzieży tożsamości, oszustwie i bezprawnym wykorzystaniu wizerunku.
Ścieżka RODO
Jeżeli głos, twarz lub inne cechy identyfikujące zostały przetworzone bez podstawy prawnej, można rozważyć skargę do organu ochrony danych osobowych albo roszczenia związane z naruszeniem RODO.
Ścieżka „platformowa”
Najszybszym sposobem ograniczenia szkody bywa zgłoszenie materiału bezpośrednio do platformy, np. serwisu społecznościowego, hostingu, marketplace’u reklamowego albo wyszukiwarki. Nie zawsze rozwiązuje to problem, ale może ograniczyć dalsze rozpowszechnianie materiału i ukrócić działanie cyberprzestępców.
9. Jak chronić firmę przed deepfake’ami?
Deepfake’i są też zagrożeniem biznesowym. Sklonowany głos prezesa, fałszywa wideokonferencja z członkiem zarządu albo reklama wykorzystująca wizerunek pracownika mogą prowadzić do strat finansowych, reputacyjnych i prawnych. W praktyce szczególnie groźne są sytuacje, w których fałszywy głos lub obraz służy do wymuszenia szybkiego przelewu, przekazania poufnych danych albo celowego kompromitowania osób publicznych. Firmy powinny wdrożyć procedury anty-deepfake, takie jak:
- obowiązek potwierdzania przelewów drugim kanałem,
- zasada oddzwaniania na znany numer,
- wewnętrzne hasła bezpieczeństwa,
- zakaz wykonywania poleceń finansowych wyłącznie na podstawie audio lub wideo,
- szkolenia pracowników z rozpoznawania presji czasu,
- monitoring fałszywych reklam i profili,
- procedura szybkiego zgłaszania incydentów.
To szczególnie ważne, ponieważ poradniki dotyczące klonowania głosu wskazują na rosnące znaczenie oszustw telefonicznych i potrzebę dodatkowej weryfikacji tożsamości.
10. Podsumowanie
Jak chronić się przed deepfake’ami? Przede wszystkim, ochrona wymaga połączenia kilku działań. Głos najlepiej chronić przez dobra osobiste, RODO, prawa pokrewne i precyzyjne zgody umowne. Wizerunek można chronić przez prawo do wizerunku, dobra osobiste i mechanizmy platformowe. Styl jest trudniejszy do ochrony, ale można reagować, gdy dochodzi do kopiowania konkretnych utworów, podszywania się, wprowadzania odbiorców w błąd albo naruszenia renomy.
Najważniejsza zasada brzmi: nie czekać, aż problem się pojawi. Warto zawczasu uregulować wykorzystanie AI w umowach, ograniczyć dostępność surowych nagrań, monitorować internet i mieć gotową procedurę reagowania. Deepfake może rozprzestrzenić się bardzo szybko, dlatego w praktyce liczy się nie tylko podstawa prawna, ale również tempo działania i jakość zabezpieczonych dowodów. Deepfake’i dobrze ilustrują, że każda innowacja z czasem wymusza niezbędne inwestycje celu zabezpieczenia przed skutkami technologii. O tym jak trudno zabezpieczyć się przed skutkami Deepfake’ów niech świadczy fakt, że serwisy społecznościowe przeznaczały miliony dolarów na programy badawcze, a nawet na konkursy (np. Facebook – Deepfake Detection Challenge albo Microsoft – Coalition for Content Provenance and Authenticity – C2PA), a ostatecznie nawet te nakłady nie przyniosły oczekiwanych rezultatów.
Skontaktuj się ze mną
