Abstrakcyjny:
- Naukowcy porównali wiadomości spamowe sprzed ery GPT z tymi, które pojawiły się po niej.
- Większość dzisiejszego spamu jest generowana przez sztuczną inteligencję.
- Wiadomości BEC wymagają większej precyzji.
Niedawne badanie ujawniło, że autorami większości wysyłanych obecnie wiadomości spam są twórcy sztucznej inteligencji generatywnej (GenAI).
Raport Barracuda Networks wskazuje, że cyberprzestępcy nie wykorzystują sztucznej inteligencji do radykalnej zmiany metod ataków, lecz do ich udoskonalenia i utrudnienia wykrycia. Udoskonalenie to obejmuje takie aspekty, jak jakość używanego języka, sposób projektowania wiadomości i personalizacja, które sprawiają, że cyberprzestępcy wydają się bardziej wiarygodni.
W badaniu porównano wiadomości e-mail wysłane przed wprowadzeniem ChatGPT (tj. przed listopadem 2022 r.) z tymi wysłanymi później i zaobserwowano znaczącą zmianę – przestępcy wykorzystywali GenAI głównie do rozsyłania spamu. Ta zmiana stanowi poważne wyzwanie zarówno dla osób prywatnych, jak i organizacji, ponieważ coraz trudniej jest odróżnić legalne wiadomości od złośliwych.
Zwiększ wiarygodność
Badania wykazały, że do kwietnia 2025 roku 51% wiadomości spamowych będzie generowanych przez sztuczną inteligencję, a nie przez ludzi. Ta zmiana stanowi poważne wyzwanie w dziedzinie cyberbezpieczeństwa.
Naukowcy wyjaśnili, że „większość wiadomości e-mail, które obecnie trafiają do folderu ze spamem/niechcianą pocztą, jest pisana w oparciu o model dużego języka (LLM)”. Oznacza to, że sztuczna inteligencja stała się kluczowym narzędziem w rękach spamerów.
Z drugiej strony, przestępcy zdają się nie być entuzjastycznie nastawieni do wykorzystywania sztucznej inteligencji w atakach typu Business Email Compromise (BEC). Według badaczy, tego typu ataki wymagają dużej precyzji i zazwyczaj są wymierzone w osobę na wysokim stanowisku w organizacji. W rezultacie, do kwietnia 2025 roku, tylko 14% ataków BEC było generowanych przez sztuczną inteligencję.
Zgodnie z oczekiwaniami, wiadomości generowane przez sztuczną inteligencję są lepiej napisane. Charakteryzują się wyższym poziomem formalności, mniejszą liczbą błędów gramatycznych i większym wyrafinowaniem językowym. W rezultacie wydają się ofiarom bardziej wiarygodne i profesjonalne, zwiększając prawdopodobieństwo, że padną ofiarą.
Oznacza to również, że cyberprzestępcy, których językiem ojczystym nie jest angielski, będą mieli mniejsze trudności z atakowaniem firm w krajach anglojęzycznych. Wreszcie, oszuści zdają się wykorzystywać sztuczną inteligencję do testowania A/B różnych wariantów spamu, próbując określić, które wersje sformułowań sprawdzają się najlepiej w rzeczywistych warunkach.
Najlepszym sposobem obrony przed spamem generowanym przez sztuczną inteligencję jest korzystanie z rozwiązań bezpieczeństwa poczty elektronicznej opartych na sztucznej inteligencji. Przed erą GPT można było wykryć phishing i spam, po prostu skanując wiadomości e-mail – wiadomości te były zazwyczaj pełne błędów ortograficznych i gramatycznych, a język często wulgarny i niezrozumiały.
Ponieważ sztuczna inteligencja usunęła te czerwone flagi, zaawansowane rozwiązanie do ochrony poczty e-mail, wyposażone w wielowarstwową detekcję i umożliwiające Sztuczna inteligencja/uczenie maszynowe (AI/ML)To jest „krytyczne” – podsumowali badacze. Wymaga to inwestycji w zaawansowane technologie, aby chronić organizacje przed zaawansowanymi zagrożeniami.
