Rozwój sztucznej inteligencji (AI) to miecz obosieczny. Jak wszystko Przełomowa technologia Sztuczna inteligencja oferuje ogromny potencjał, ale także niszczycielskie ryzyko. Pomimo wyraźnych nacisków na regulację sztucznej inteligencji, cyberprzestępcy zdają się być w stanie wykorzystać różne technologie, które stały się dostępne, do siania paniki i atakowania niczego niepodejrzewających użytkowników.
Nowy chatbot podobny do ChatGPT, o nazwie FraudGPT, zyskuje popularność wśród cyberprzestępców, umożliwiając im automatyzację i wykonywanie znacznej części standardowych operacji oszustw. Każdy może paść ofiarą, dlatego ważne jest, aby być na bieżąco.
FraudGPT może być wykorzystywany do różnych złośliwych celów, w tym do rozpowszechniania fałszywych wiadomości i podżegania do przemocy. Może również służyć do kradzieży danych osobowych lub oszukiwania ludzi. Oto wszystko, co do tej pory wiemy o FraudGPT. Sprawdź Dlaczego nie powinieneś ufać ChatGPT w kwestii udostępniania poufnych informacji.
Szybkie linki
Czym jest FraudGPT?
FraudGPT to narzędzie sztucznej inteligencji oparte na precyzyjnie dostrojonym modelu języka, zaprojektowane, aby pomóc cyberprzestępcom w popełnianiu cyberprzestępstw. Ten oparty na subskrypcji chatbot umożliwia cyberprzestępcom ułatwianie działań przestępczych, takich jak tworzenie fałszywych kart, phishing i złośliwe oprogramowanie.
Chociaż szczegóły dotyczące chatbota są wciąż bardzo ograniczone, badacze z firmy ujawnili, że… Netenricha Firma badawcza Netenrich zajmująca się bezpieczeństwem odnotowała liczne reklamy w dark webie promujące ten model. Według raportu Netenrich, opłaty abonamentowe wahają się od 200 do 1700 dolarów miesięcznie.
Aby lepiej zobrazować to narzędzie, można wyobrazić sobie FraudGPT jako ChatGPT, ale dostosowane do dostarczania różnych informacji związanych z oszustwami. Ale jak dokładnie działa FraudGPT i jak wykorzystują go cyberprzestępcy?
Jak działa FraudGPT?
W swojej istocie FraudGPT nie różni się znacząco od żadnego modelu opartego na LLM. Innymi słowy, sam model stanowi interfejs umożliwiający przestępcom dostęp do specjalnego modelu językowego dostosowanego do cyberprzestępczości.
Nadal nie wiesz, co to oznacza? Oto przybliżony przykład. Na początku istnienia ChatGPT, chatbot oparty na sztucznej inteligencji mógł być używany do niemal wszystkiego, w tym do pomagania cyberprzestępcom w tworzeniu złośliwego oprogramowania. Było to możliwe, ponieważ bazowy model językowy ChatGPT został wytrenowany na zbiorze danych, który prawdopodobnie zawierał próbki z szerokiego zakresu danych, w tym danych, które potencjalnie mogłyby pomóc w działalności przestępczej.
Duże modele językowe zazwyczaj są zasilane wszystkim, od wartościowych danych, takich jak teorie naukowe, informacje o zdrowiu i polityce, po dane mniej wartościowe, takie jak próbki kodu złośliwego oprogramowania, wiadomości pochodzące z ataków socjotechnicznych i kampanii phishingowych oraz inne materiały przestępcze. W przypadku zbiorów danych potrzebnych do trenowania modeli językowych, takich jak te, które napędzają ChatGPT, niemal nieuniknione jest, że model będzie zawierał próbki niepożądanych treści.
Pomimo zazwyczaj skrupulatnych wysiłków mających na celu usunięcie niechcianych materiałów ze zbioru danych, część z nich przedostaje się do systemu, zazwyczaj na tyle duża, że model może generować materiały sprzyjające cyberprzestępstwom. Dlatego, dzięki odpowiedniej, szybkiej inżynierii, możesz wykorzystać narzędzia takie jak ChatGPT, Google Gemini i Bing AI, aby pomóc w pisaniu e-maili phishingowych lub złośliwego oprogramowania komputerowego.
Jeśli narzędzia takie jak ChatGPT mogą pomóc cyberprzestępcom popełniać przestępstwa pomimo wszelkich wysiłków podejmowanych w celu zapewnienia bezpieczeństwa tym inteligentnym chatbotom, to teraz pomyślmy, jaką moc może zapewnić narzędzie takie jak FraudGPT, biorąc pod uwagę, że zostało ono celowo zainfekowane tak wieloma szkodliwymi materiałami, aby nadawało się do cyberprzestępczości. To jak ulepszony zły bliźniak ChatGPT.
Aby skorzystać z chatbota, przestępcy mogą po prostu poprosić go o zrobienie tego samego, co z ChatGPT. Mogą na przykład poprosić go o napisanie wiadomości phishingowej do Jane Doe, która pracuje w firmie ABC, lub o napisanie złośliwego oprogramowania w C++, aby ukraść wszystkie pliki PDF z komputera z systemem Windows 10. Przestępcy w zasadzie wprowadzają złośliwy monit i pozwalają chatbotowi wykonać większość pracy. Sprawdź Czy ChatGPT stanie się zagrożeniem dla cyberbezpieczeństwa? Oto, na co warto zwrócić uwagę..
Jak chronić się przed oszustwami?
Chociaż jest to nowy rodzaj narzędzia, zagrożenie, jakie stwarza FraudGPT, zasadniczo się nie różni. Można argumentować, że wprowadza on większą automatyzację i wydajność do istniejących metod cyberprzestępczości.
Przestępcy korzystający z tego modelu, przynajmniej teoretycznie, będą w stanie pisać bardziej przekonujące e-maile phishingowe, planować skuteczniejsze oszustwa i tworzyć skuteczniejsze złośliwe oprogramowanie, ale nadal w realizacji swoich nikczemnych planów polegają głównie na sprawdzonych metodach. W rezultacie, sprawdzone metody ochrony zazwyczaj nadal obowiązują:
- Zachowaj ostrożność wobec niechcianych wiadomości, które proszą o podanie informacji lub nakłaniają do kliknięcia w linki. Nie podawaj informacji ani nie klikaj w linki w tych wiadomościach, chyba że zweryfikujesz ich źródło.
- Skontaktuj się z firmami bezpośrednio, korzystając z niezależnego, zweryfikowanego numeru, aby upewnić się co do ich wiarygodności. Nie używaj danych kontaktowych podanych w podejrzanych wiadomościach.
- Używaj silnych, unikalnych i trudnych do złamania haseł oraz stosuj uwierzytelnianie dwuskładnikowe, jeśli jest dostępne dla wszystkich kont. Nigdy nie udostępniaj haseł ani kodów, które do Ciebie wysłano.
- Regularnie sprawdzaj wyciągi z konta pod kątem podejrzanej aktywności.
- Aktualizuj aplikacje i korzystaj z narzędzi antywirusowych i chroniących przed złośliwym oprogramowaniem.
- Niszcz dokumenty zawierające dane osobowe lub finansowe, jeśli nie są Ci potrzebne.
Aby dowiedzieć się więcej o tym, jak się chronić, przeczytaj nasz poradnik: Jak chronić się w dobie sztucznej inteligencji.
Bądź na bieżąco, aby się chronić
Pojawienie się narzędzi takich jak FraudGPT przypomina nam, że pomimo wszystkich korzyści, jakie oferuje nam sztuczna inteligencja, pozostaje ona nadal bardzo potężnym narzędziem w rękach cyberprzestępców.
W obliczu wyścigu rządów i dużych firm z branży AI o opracowanie lepszych metod regulacji AI, ważne jest, aby być świadomym zagrożenia, jakie AI obecnie stwarza, i podjąć środki ostrożności, aby się chronić. Możesz już teraz sprawdzić Sztuczna inteligencja i zagrożenia prywatności: ochrona danych w zautomatyzowanym świecie.
