Czym jest deepfake zgodnie z AI Act? Definicja jest szersza, niż myślisz
Deepfake nie zaczyna się tam, gdzie ktoś podmienia twarz celebryty. Według AI Act może nim być także sklonowany głos, realistyczne nagranie nieistniejącego wydarzenia albo zmanipulowany obraz prawdziwego miejsca. Granicę wyznacza możliwość pomylenia fikcji z autentycznym materiałem.
Definicja opiera się na podobieństwie i złudzeniu prawdy
AI Act opisuje deepfake jako wygenerowany lub zmanipulowany przez AI obraz, dźwięk albo wideo, które przypominają istniejące osoby, przedmioty, miejsca, podmioty lub wydarzenia i mogłyby fałszywie wydawać się autentyczne lub prawdziwe.
Potrzebne są więc dwa elementy. Materiał odnosi się do czegoś istniejącego oraz stwarza ryzyko, że człowiek uzna go za prawdziwy. Fantastyczny smok nie spełnia tych warunków tylko dlatego, że powstał w generatorze.
Głos bez obrazu też może być deepfake
Nagranie imitujące głos konkretnej osoby mieści się w definicji równie dobrze jak zmanipulowany film. To szczególnie ważne dla podcastów, reklam, automatycznych telefonów i oszustw „na prezesa”. Odbiorca może rozpoznać osobę wyłącznie po brzmieniu.
Przy legalnym wykorzystaniu syntetycznego głosu potrzebna jest ocena oznaczenia oraz podstawy użycia próbki i zgody. Komunikat powinien znaleźć się na początku nagrania oraz w opisie, bo fragment audio może zostać udostępniony poza pierwotną stroną.
Cyfrowy prezenter nie zawsze jest podróbką
Całkowicie fikcyjna postać, konsekwentnie przedstawiana jako wirtualna, nie musi przypominać istniejącego człowieka ani udawać dokumentalnego nagrania. Sytuacja zmienia się, gdy awatar kopiuje twarz lub głos konkretnej osoby albo występuje jako rzekomo prawdziwy ekspert.
Kontekst ma ogromne znaczenie. Ten sam obraz pokazany jako ilustracja może być odebrany inaczej niż materiał wrzucony do serwisu informacyjnego z podpisem sugerującym prawdziwe wydarzenie.
Jak oznaczyć deepfake w praktyce
Dla obrazu sprawdza się trwała, kontrastowa ikona i krótki podpis. Film może potrzebować planszy na początku oraz znaku pozostającego w kadrze. Audio wymaga słownego komunikatu. Informacja powinna być dostępna najpóźniej przy pierwszym kontakcie z materiałem.
W przypadku sztuki, satyry i fikcji oznaczenie może zostać dopasowane tak, aby nie psuło odbioru dzieła, ale nie powinno znikać całkowicie. Gdy kwalifikacja jest niepewna, lepszy jest precyzyjny komunikat niż ogólny symbol bez wyjaśnienia.