W dobie technologii, w której komputery i modele sztucznej inteligencji znacząco zyskały na mocy, technologia deepfake zyskała na popularności i przyciągnęła powszechną uwagę. Technologia deepfake polega na tworzeniu wysokiej rozdzielczości treści wizualnych lub dźwiękowych, które sprawiają wrażenie, że zostały nagrane przez człowieka. Technologia deepfake zagraża wszystkim aspektom życia społecznego.
Nasza zdolność do identyfikowania fałszywych treści jest kluczowa dla przeciwdziałania dezinformacji, ale wraz z rozwojem technologii sztucznej inteligencji, komu możemy zaufać w wykrywaniu deepfake'ów? Pytanie brzmi: kto jest lepszy w wykrywaniu deepfake'ów: ludzie czy sztuczna inteligencja?
Ludzie potrafią rozróżniać głosy, twarze i rozumieć języki od tysięcy lat. Ale czy maszyny oparte na sztucznej inteligencji (AI) przewyższają te zdolności? W tym artykule omówiono wyzwania i rozwój w dziedzinie wykrywania deepfake’ów oraz porównano możliwości człowieka i AI w tym kontekście. Sprawdź Jak rozpoznać, czy film został zmodyfikowany za pomocą technologii deepfake?
Szybkie linki
Ryzyko związane z deepfake’iem
Wraz z rozwojem sztucznej inteligencji, ryzyko związane z technologią deepfake stanowi coraz większe zagrożenie dla nas wszystkich. Oto krótkie podsumowanie najpilniejszych problemów związanych z technologią deepfake:
- Zwodniczy: Fałszywe filmy i nagrania audio mogą być źródłem dezinformacji, na przykład fałszywych wiadomości.
- Personifikacja: Podszywając się pod inne osoby, technologia deepfake może zaszkodzić reputacji ludzi lub oszukać każdego, kogo znają.
- Bezpieczeństwo narodowe: Jasny scenariusz wojenny wykorzystujący technologię deepfake to sfabrykowane nagrania wideo lub audio przedstawiające światowego przywódcę podżegającego do konfliktu.
- Niepokoje społeczne: Strony mogą również wykorzystywać wprowadzające w błąd nagrania i pliki audio w celu podżegania do gniewu i niepokojów społecznych wśród określonych grup.
- Cyberbezpieczeństwo: Cyberprzestępcy już korzystają z narzędzi do klonowania głosu opartych na sztucznej inteligencji, aby wysyłać przekonujące wiadomości od osób, które znają.
- Prywatność i zgoda: Złośliwe użycie deepfake'ów odbywa się bez zgody konkretnych osób.
- Zaufanie i jego brak: Jeśli nie potrafisz odróżnić prawdy od oszustwa, prawdziwe informacje stają się tak samo niewiarygodne.
Technologia deepfake stanie się bardziej przekonująca, dlatego potrzebujemy zaawansowanych narzędzi i metod do jej wykrywania. Sztuczna inteligencja oferuje takie narzędzie w postaci modeli wykrywania deepfake. Jednak, podobnie jak algorytmy zaprojektowane do rozpoznawania tekstu generowanego przez sztuczną inteligencję, narzędzia do wykrywania deepfake nie są idealne i nie będą idealnie dokładne.
W tej chwili, ludzki osąd to jedyne narzędzie, na którym możemy polegać. Czy zatem jesteśmy lepsi od algorytmów w identyfikowaniu deepfake'ów?
Czy algorytmy potrafią wykrywać deepfake’i lepiej niż ludzie?
Technologia deepfake stanowi tak poważne zagrożenie, że giganci technologiczni i grupy badawcze przeznaczają ogromne środki na badania i rozwój. W 2019 roku firmy takie jak Meta, Microsoft i Amazon zaoferowały nagrody o wartości XNUMX miliona dolarów w ramach konkursu. Wyzwanie Deepfake Detection Aby uzyskać najdokładniejszy model wykrywania.
Najlepiej działający model osiągnął dokładność 82.56% w odniesieniu do zbioru danych publicznie dostępnych filmów. Jednak gdy te same modele przetestowano na zbiorze danych „czarnej skrzynki” zawierającym 10000 65.18 nieoglądanych filmów, najskuteczniejszy model osiągnął dokładność zaledwie XNUMX%.
Przeprowadziliśmy również liczne badania analizujące skuteczność narzędzi do wykrywania deepfake opartych na sztucznej inteligencji w porównaniu z ludźmi. Oczywiście wyniki różnią się w zależności od badania, ale generalnie ludzie osiągają taki sam lub wyższy wskaźnik skuteczności niż narzędzia do wykrywania deepfake.
Badanie opublikowane w 2021 r. wykazało, że: PNAS „Zwykli ludzcy obserwatorzy” osiągnęli nieco wyższe wskaźniki dokładności niż wiodące narzędzia do wykrywania deepfake'ów. Badanie wykazało jednak również, że zarówno ludzie, jak i modele sztucznej inteligencji były podatne na różnego rodzaju błędy.
Co ciekawe, badania przeprowadzone przez Uniwersytet w Sydney Odkryłem, że ludzki mózg jest podświadomie skuteczniejszy w wykrywaniu deepfake'ów niż nasze świadome działania. Sprawdź Główne zagrożenia związane z technologią deepfake i sposoby ich wykrywania.
Odkrywanie wskazówek wizualnych w technologii deepfake
Wykrywanie deepfake'ów jest złożone, a wymagana analiza różni się w zależności od charakteru materiału filmowego. Na przykład, fałszywe nagranie z przywódcą Korei Północnej Kim Dzong Unem z 2020 roku to w zasadzie nagranie dyskusyjne. W tym przypadku najskuteczniejszą metodą wykrywania deepfake'ów może być analiza dźwięku (ruchów ust) i fonetyki (dźwięków głosu) pod kątem niespójności.
Analizę tego typu mogą przeprowadzać eksperci, przypadkowi obserwatorzy i algorytmy, nawet jeśli jej wyniki będą się różnić. Instytut Technologii w Massachusetts (MIT) Osiem pytań, które pomogą zidentyfikować fałszywe filmy:
- Zwróć uwagę na twarzWyrafinowane manipulacje deepfake polegają często na transformacjach twarzy.
- Zwróć uwagę na policzki i czoło.Czy skóra wydaje się zbyt gładka lub zbyt pomarszczona? Czy wiek skóry odpowiada wiekowi włosów i oczu? Mogą one być niedopasowane w niektórych wymiarach.
- Zwróć uwagę na oczy i brwi.Czy cienie pojawiają się tam, gdzie się ich spodziewasz? Technologia deepfake może nie odzwierciedlać w pełni naturalnej fizyki sceny.
- Zwróć uwagę na okularyCzy występuje odblask? Czy jest go dużo? Czy kąt padania odblasku zmienia się wraz z ruchem osoby? Ponownie, technologia deepfake może nie w pełni odzwierciedlać naturalnej fizyki oświetlenia.
- Owłosienie twarzy lub jego brakCzy ten zarost wygląda realistycznie? Technologia deepfake może dodać lub usunąć wąsy, baki lub brodę. Jednak technologia deepfake może nie dać całkowicie naturalnego efektu.
- Zwróć uwagę na znamiona na twarzyCzy ten pieprzyk wygląda naprawdę?
- Zwróć uwagę na rzęsyCzy dana osoba mruga wystarczająco, czy za dużo?
- Zwróć uwagę na ruchy ustNiektóre deepfake'i opierają się na synchronizacji ruchu ust. Czy ruchy ust wyglądają naturalnie?
Najnowsze narzędzia AI do wykrywania deepfake'ów potrafią analizować te same czynniki, ponownie z różnym stopniem skuteczności. Analitycy danych stale opracowują również nowe metody, takie jak wykrywanie naturalnego przepływu krwi w twarzach osób mówiących na ekranie. Nowe techniki i udoskonalenia istniejących metod mogą sprawić, że narzędzia AI do wykrywania deepfake'ów będą w przyszłości skuteczniejsze niż ludzie.
Wykrywanie wskazówek dźwiękowych w deepfake’ach
Wykrywanie fałszywych dźwięków to zupełnie inne wyzwanie. Bez wizualnych wskazówek wideo i możliwości identyfikacji niespójności audiowizualnych, wykrywanie deepfake’ów opiera się w dużej mierze na analizie dźwięku (w niektórych przypadkach pomocne mogą być również inne metody, takie jak weryfikacja metadanych).
Badanie opublikowane przez University College London W 2023 roku ludzie byli w stanie wykryć fałszywe dźwięki z 73% skutecznością (zarówno w języku angielskim, jak i mandaryńskim). Podobnie jak w przypadku filmów deepfake, słuchacze często intuicyjnie rozpoznają nienaturalne wzorce mowy w mowie generowanej przez sztuczną inteligencję, nawet jeśli nie potrafią zidentyfikować, co brzmi nienaturalnie.
Do typowych objawów należą:
- Asymilacja
- Brak ekspresji.
- Szum tła lub zakłócenia.
- – Niespójność głosu lub mowy.
- Brak „pełni” dźwięków.
- Zbyt nachalne sformułowanie.
- Żadnych błędów (fałszywych startów, poprawek, odchrząknięć itp.).
Algorytmy mogą również analizować mowę pod kątem tych samych sygnałów deepfake, ale nowe metody zwiększają skuteczność tych narzędzi. Badania wykazały USENIX Wzory w rekonstrukcjach toru głosowego sztucznej inteligencji, które nie naśladują naturalnej mowy. Sugeruje to, że generatory głosu oparte na sztucznej inteligencji generują dźwięki, które naśladują wąski tor głosowy (mniej więcej wielkości słomki) bez naturalnych ruchów ludzkiej mowy.
Poprzednie badania przeprowadzone przez Instytut Horsta Görtza Analiza prawdziwych i fałszywych dźwięków w języku angielskim i japońskim ujawniła subtelne różnice w wysokich częstotliwościach prawdziwej i fałszywej mowy.
Zarówno ludzkie uszy, jak i modele detekcji oparte na sztucznej inteligencji (AI) mogą dostrzegać niespójności w torze głosowym i wysokich częstotliwościach. W przypadku wahań w wysokich częstotliwościach modele AI mogłyby teoretycznie stawać się coraz bardziej precyzyjne – choć to samo można powiedzieć o deepfake'ach opartych na AI.
Ludzie i algorytmy dają się oszukać technologii deepfake, ale na różne sposoby.
Badania wskazują, że ludzie i najnowsze narzędzia do wykrywania oparte na sztucznej inteligencji (AI) mogą w podobny sposób identyfikować deepfake'i. Skuteczność może wahać się od 50% do 90%, w zależności od kryteriów testowania.
Zatem ludzie i maszyny są w równym stopniu podatni na ataki deepfake. Należy jednak pamiętać, że jesteśmy podatni na ataki w różny sposób, co może być naszym największym atutem w radzeniu sobie z ryzykiem związanym z technologią deepfake. Połączenie mocnych stron ludzi i narzędzi do wykrywania deepfake pozwoli zniwelować słabości obu stron i poprawić wskaźniki skuteczności.
Na przykład znalazłem Badania MIT Ludzie byli lepsi w rozpoznawaniu fałszywych zdjęć światowych przywódców i celebrytów niż modele sztucznej inteligencji. Ujawniono również, że modele sztucznej inteligencji miały trudności z przechwytywaniem dźwięku od wielu osób, choć sugerowano, że może to wynikać z faktu, że algorytmy były trenowane na nagraniach zawierających indywidualne głosy.
Z drugiej strony, to samo badanie wykazało, że modele sztucznej inteligencji (AI) przewyższają ludzi w przypadku filmów o niskiej jakości (rozmytych, ziarnistych, ciemnych itp.), co może być celowo wykorzystywane do oszukiwania widzów. Podobnie, nowoczesne metody wykrywania AI, takie jak monitorowanie przepływu krwi w określonych obszarach twarzy, wymagają analizy, której ludzie nie są w stanie wykonać.
W miarę rozwoju kolejnych metod, zdolność sztucznej inteligencji do wykrywania sygnałów, których my nie potrafimy wykryć, nie tylko się poprawi, ale także wzrośnie jej zdolność do oszukiwania. Kluczowe pytanie brzmi, czy technologia wykrywania deepfake może przewyższyć samą technologię deepfake. Sprawdź Jak przeciwdziałać ryzyku wirtualnego porwania i chronić się w sieci? Zidentyfikuj zagrożenia..
często zadawane pytania
P1. Czym jest technologia deepfake?
Deepfake to technologia wykorzystująca sztuczną inteligencję do tworzenia treści wizualnych i dźwiękowych, które z dużą dokładnością sprawiają wrażenie, jakby zostały stworzone przez człowieka.
P2. Jakie jest zastosowanie deepfake?
Technologia deepfake jest wykorzystywana w wielu zastosowaniach, m.in. w filmach, grach, w zabezpieczeniach, przy oszustwach i wielu innych.
P3. Jak można wykryć deepfake?
Technologie wykrywania deepfake’ów nieustannie się rozwijają dzięki sztucznej inteligencji, ale wciąż niezbędne są ludzkie narzędzia i metody.
P4. Jakie wyzwania stoją przed wykrywaniem deepfake?
Do wyzwań zalicza się ciągły rozwój fałszywych technologii i trudność w odróżnianiu prawdziwych treści od deepfake'ów.
P5. Czy sztuczna inteligencja będzie skuteczniejsza od ludzi w wykrywaniu deepfake’ów?
Sztuczna inteligencja poczyniła znaczne postępy, ale w tym kontekście nadal istotne są możliwości człowieka.
Spojrzenie na rzeczy inaczej w erze deepfake
Narzędzia do wykrywania deepfake oparte na sztucznej inteligencji będą się stale udoskonalać, podobnie jak jakość samych treści deepfake. Jeśli zdolność sztucznej inteligencji do oszukiwania przeważa nad jej zdolnością do wykrywania (jak w przypadku tekstów generowanych przez sztuczną inteligencję), ludzka ocena może być jedynym narzędziem, jakie nam pozostało do walki z treściami deepfake.
Każdy ma obowiązek rozpoznawać oznaki deepfake'a i wiedzieć, jak je rozpoznać. Poza ochroną przed oszustwami i zagrożeniami bezpieczeństwa, wszystko, o czym rozmawiamy i co udostępniamy w internecie, jest podatne na dezinformację, jeśli stracimy z oczu rzeczywistość. Możesz teraz sprawdzić Ryzyko związane z tworzeniem treści przy użyciu sztucznej inteligencji i jak wykrywać tekst generowany przez sztuczną inteligencję.
