Pewnej nocy rodzice otrzymują od Ciebie przerażoną wiadomość głosową, że masz kłopoty i potrzebujesz pomocy. Twój portfel został skradziony i utknąłeś w nieznanym miejscu. Pieniądze muszą zostać Ci natychmiast przelane, żebyś mógł wrócić do domu.
Głos w wiadomości brzmi bardzo realistycznie i bez wątpienia należy do jego dziecka, ale tak nie jest. To klon głosu stworzony przez sztuczną inteligencję, który padł ofiarą oszustwa równie wyrafinowanego, co przerażająco skutecznego.
Ten rodzaj oszustwa opiera się na wykorzystaniu technologii sztucznej inteligencji do generowania głosów, które brzmią bardzo podobnie do głosów członków rodziny lub przyjaciół. Jeśli nie zostaną wykryte, te fałszywe głosy mogą powodować zamieszanie i dezinformację, a także mieć poważne konsekwencje. Dlatego wykrywanie oszustw związanych z klonowaniem głosów członków rodziny jest kluczowe dla zachowania integralności i bezpieczeństwa. Sprawdź Ocena wykorzystania technologii klonowania dźwięku w tworzeniu treści na dużą skalę.
Szybkie linki
Jak działa oszustwo polegające na klonowaniu głosu za pomocą sztucznej inteligencji?
Technologie klonowania głosu pozwalają tworzyć niezwykle realistyczne cyfrowe kopie głosu danej osoby. Technologia ta, powszechnie nazywana Deepfake audioDzięki wykorzystaniu narzędzi do klonowania głosu opartych na sztucznej inteligencji, takich jak ElevenLabs (zobacz przykład klonowania głosu oparty na sztucznej inteligencji poniżej), w połączeniu z generatywną sztuczną inteligencją i syntezą głosu, sklonowany głos może odzwierciedlać emocje, niuanse, intonację, a nawet strach.
Dla porównania, oto jak naprawdę brzmi Christian Cowley, wypowiadający się w podcaście The Really Helpful Podcast.
Do utworzenia transkryptu AI potrzebna jest jedynie niewielka próbka audio – często trwająca zaledwie minutę lub krócej. Próbki audio są często pobierane z publicznych postów w mediach społecznościowych, co naraża vlogerów, twórców i celebrytów na szczególne ryzyko, ponieważ dźwięk w ich postach jest wysokiej jakości i łatwo dostępny.
Po sklonowaniu próbki głosu oszust wykorzystuje technologię zamiany tekstu na mowę lub nawet zamianę mowy na mowę w czasie rzeczywistym, aby tworzyć fałszywe połączenia i wiadomości głosowe.
Po uzyskaniu dostępu do kont ofiary w mediach społecznościowych i zebraniu jej danych osobowych, oszust tworzy wiarygodny scenariusz. Może on obejmować hospitalizację, aresztowanie, rabunek, porwanie lub cokolwiek innego, co wywołuje strach i dezorientację. Sklonowany głos jest następnie wykorzystywany do manipulowania członkiem rodziny, aby uwierzył, że bliska osoba zmaga się z poważnym problemem.
Realizm głosu i emocji, a także szok i pilność prośby mogą przyćmić sceptycyzm, prowadząc do pochopnych decyzji o przekazaniu pieniędzy lub udostępnieniu poufnych informacji.
Dlaczego oszustwo polegające na klonowaniu głosu za pomocą sztucznej inteligencji jest tak skuteczne?
Podobnie jak większość oszustw wymierzonych w rodzinę i znajomych, klonowanie głosu za pomocą sztucznej inteligencji jest skuteczne, ponieważ wykorzystuje powiązania osobiste. Panika wywołana otrzymaniem wezwania pomocy od członka rodziny może szybko zaburzyć osąd sytuacji, prowadząc do pochopnych decyzji. To ta sama taktyka stosowana w oszustwach barterowych, ale efekt jest spotęgowany, gdy usłyszysz głos kogoś bliskiego.
Członkowie rodzin osób z dużą aktywnością w mediach społecznościowych lub tych, którzy dużo podróżują, są szczególnie narażeni, ponieważ ich sytuacja stanowi wiarygodny kontekst dla sfabrykowanej narracji oszusta. Oszuści często zbierają i wykorzystują prywatne dane swoich ofiar z ich publicznych kont w mediach społecznościowych z wyprzedzeniem, co sprawia, że historie są bardziej przekonujące. Sprawdź Jak przeciwdziałać ryzyku wirtualnego porwania i chronić się w sieci? Zidentyfikuj zagrożenia..
Kluczowe oznaki oszustwa związanego z klonowaniem głosu za pomocą sztucznej inteligencji
Mimo swojej złożoności klonowanie głosu przez sztuczną inteligencję może ujawnić się poprzez określone sygnały ostrzegawcze:
- Pilność: Oszuści będą próbowali przekonać Cię, że jeśli natychmiast nie podejmiesz działań, stanie się coś strasznego.
- Fakty: Oszuści nie zawsze znają całą historię twojej relacji ze swoją ofiarą, dlatego zwracaj uwagę na nieścisłości.
- Nietypowe prośby: Powszechną metodą jest prośba o przelew środków na zagraniczne konta bankowe lub wpłata na portfel kryptowalutowy.
Trudno wziąć te czynniki pod uwagę w obliczu dramatycznego scenariusza, mogą one jednak uchronić nas przed oszustwem.
Co zrobić, jeśli podejrzewasz oszustwo polegające na klonowaniu głosu za pomocą sztucznej inteligencji
Jeśli otrzymasz telefon lub wiadomość głosową od bliskiej osoby w potrzebie, zachowaj spokój. Oszust próbuje wywołać w Tobie panikę i emocje, ponieważ zwiększa to prawdopodobieństwo, że padniesz ofiarą jego taktyki.
Jeśli otrzymasz połączenie telefoniczne
Jeśli podejrzewasz, choćby na sekundę, że połączenie może być próbą oszustwa związanego z klonowaniem głosu, natychmiast je zakończ. Nie udostępniaj żadnych informacji ani nie wdawaj się w interakcje z oszustami. Zamiast tego oddzwoń do bliskich na znany numer, aby potwierdzić autentyczność połączenia alarmowego.
Dalsze rozmowy ze oszustem niosą ze sobą ryzyko, że Twój głos zostanie nagrany i sklonowany.
Jeśli otrzymasz wiadomość głosową
Jeśli oszust zostawi wiadomość głosową, natychmiast zapisz nagranie na telefonie lub laptopie. Tę próbkę dźwięku można wykorzystać w klasyfikatorze mowy opartym na sztucznej inteligencji (AI), aby określić, czy jest to głos ludzki. Klasyfikatory mowy oparte na sztucznej inteligencji działają tak samo jak komputery. Wykrywanie pisma ręcznego przez sztuczną inteligencjęWystarczy, że wprowadzisz plik audio, a klasyfikator oznaczy go jako wygenerowany przez człowieka lub przez sztuczną inteligencję.
Jednym z doskonałych narzędzi do tego celu jest ElevenLabs Speech Classifier. ElevenLabs obsługuje większość platform do klonowania głosu opartych na sztucznej inteligencji, co czyni go idealnym narzędziem do określania, czy głos został sklonowany. Oto jak go użyć do identyfikacji głosu sklonowanego przez sztuczną inteligencję:
- Iść do Klasyfikator mowy ElevenLabs.
- Prześlij próbkę wiadomości głosowej i kliknij „Wykryj mowę syntetyczną”.
W poniższym przykładzie wiadomość o niebezpieczeństwie została zarejestrowana przez kogoś i przesłana do klasyfikatora. Widać, że została oznaczona jako mająca 2% prawdopodobieństwo manipulacji.
W poniższym przykładzie ten sam komunikat alarmowy został wygenerowany za pomocą narzędzia do klonowania głosu opartego na sztucznej inteligencji. Dla ludzkiego ucha dźwięki są nieodróżnialne. Jednak narzędzie zaklasyfikowało go jako mający 98% prawdopodobieństwo wygenerowania przez sztuczną inteligencję.
Chociaż nie możesz w 100% polegać na tym zeszycie ćwiczeń, może on potwierdzić Twoje podejrzenia dotyczące klonu głosu. Powinieneś również zadzwonić do bliskiej osoby pod znany numer, aby to potwierdzić. Sprawdź Czy ludzkie zdolności czy sztuczna inteligencja są lepsze w wykrywaniu technologii deepfake?.
Najlepszą obroną przed oszustwami polegającymi na klonowaniu głosu za pomocą sztucznej inteligencji jest zapobieganie.
Czasami najlepszą obroną przed oszustwami wykorzystującymi wysokie technologie są rozwiązania mało zaawansowane technologicznie.
Utwórz hasło offline znane tylko Twoim bliskim, rodzinie i znajomym. W przypadku połączenia w krytycznej sytuacji, użycie tego hasła może być niezawodnym sposobem na potwierdzenie tożsamości dzwoniącego.
Wreszcie, trzymanie swoich prywatnych danych poza mediami społecznościowymi to duży krok w kierunku uniemożliwienia oszustom zebrania wystarczającej ilości informacji, aby zbudować historię. Pamiętaj: jeśli nie chcesz, aby wszyscy się o tym dowiedzieli, najlepiej nie udostępniać tego w mediach społecznościowych. Możesz teraz sprawdzić Jaką wartość mają dane z Twoich kont w mediach społecznościowych w dark webie?
