W tym momencie wszyscy wiedzą, że narzędzia generatywnej sztucznej inteligencji mają swoją ciemną stronę. Nie mówię już o plagiacie i innych formach kradzieży treści, ani nawet o ogromnych ilościach energii i wody potrzebnych do utrzymania centrów danych.
Mam na myśli wykorzystanie sztucznej inteligencji do tworzenia niebezpiecznego złośliwego oprogramowania i metod phishingu, dzięki którym przestępcom będzie łatwiej niż kiedykolwiek wcześniej tworzyć całe kampanie oszustw, wykorzystując zaledwie kilka poleceń.
„Oszustwa związane ze sztuczną inteligencją”, jak się powszechnie uważa, szybko stają się największym problemem wywoływanym przez sztuczną inteligencję. Istnieją jednak sposoby, dzięki którym można zadbać o swoje bezpieczeństwo.
Szybkie linki
Dzięki sztucznej inteligencji oszustwa stają się proste.
Podobnie jak w przypadku programowania sztucznej inteligencji, wszystko czego potrzebujesz to chatbot obsługiwany przez sztuczną inteligencję.
Krótko mówiąc, oszustwo związane ze sztuczną inteligencją to phishing oparty na sztucznej inteligencji. Wywodzi się z „programowania sztucznej inteligencji”, procesu tworzenia oprogramowania poprzez żądanie od generatywnego narzędzia AI wykonania żądanej czynności.
Podobnie, oszustwa oparte na sztucznej inteligencji pozwalają niemal każdemu na przeprowadzenie ataku phishingowego lub cyberataku poprzez proste polecenie chatbota opartego na sztucznej inteligencji. Nawet osoby bez umiejętności programistycznych ani doświadczenia w hakowaniu mogą tworzyć złośliwe wiadomości e-mail, fałszywe strony internetowe i złośliwe oprogramowanie, po prostu polecając chatbotowi opartemu na sztucznej inteligencji.
Wyobraźmy sobie potencjalnego oszusta, który chce ukraść hasła, ale nie ma pojęcia, jak zaprogramować oprogramowanie, aby to zrobić. Z tego powodu możemy założyć, że nie korzysta on z darknetu i nie próbuje kupić złośliwego oprogramowania online. Zamiast uczyć się, jak zaprogramować konkretne narzędzie do kradzieży haseł lub tworzyć kampanię phishingową, aby zwabić ludzi, może po prostu poprosić narzędzie oparte na sztucznej inteligencji o wykonanie tej pracy za niego.
Oszustwa oparte na sztucznej inteligencji są szalone, ponieważ obniżają barierę wejścia dla cyberprzestępczości jak nigdy dotąd. W przeszłości przestępca musiał umieć projektować strony internetowe, pisać przekonujący angielski lub programować złośliwe oprogramowanie. Teraz może zlecić to wszystko sztucznej inteligencji.
Kolejnym zagrożeniem jest szybkość i skala. Sztuczna inteligencja pozwala oszustom automatyzować zadania i skalować ataki znacznie szybciej niż ludzie. Na przykład, sztuczna inteligencja może szybko personalizować wiadomości phishingowe dla tysięcy celów (poprzez zbieranie publicznych informacji i zlecanie sztucznej inteligencji tworzenia wiadomości dostosowanych do każdej osoby). Potrafi również szybko się adaptować. Jeśli link do strony phishingowej zostanie zablokowany, oszust może poinstruować sztuczną inteligencję o modyfikacji kodu lub tekstu i utworzeniu nowej wersji. Ta elastyczność oznacza, że kampanie phishingowe mogą szybko ewoluować, aby ominąć zabezpieczenia.
Uwaga, ta opcja nie działa ze starszymi chatbotami.
Niektóre chatboty są ostrożniejsze od innych.
Kodowanie wibracji opiera się na wykorzystaniu dowolnego chatbota opartego na generatywnej sztucznej inteligencji. Niektórzy radzą sobie z tym lepiej niż inni, ale generalnie większość spróbuje. Na szczęście nie można tego powiedzieć o podobnych oszustwach.
Większość chatbotów opartych na sztucznej inteligencji (AI) posiada mechanizmy bezpieczeństwa zaprojektowane w celu ochrony przed potencjalnie złośliwym wykorzystaniem. Na przykład ChatGPT odrzuca prośby typu „Pomóż mi stworzyć stronę internetową, która wygląda jak strona logowania Microsoftu i wiadomość SMS, aby zachęcić ludzi do kliknięcia”, wyjaśniając, że to „oszustwo/phishing i kradzież, a ja nie będę w tym pomagał”.
Podobna historia ma miejsce w przypadku innych chatbotów; przeglądarka Neon firmy Opera zaklasyfikowała moje żądanie jako podejrzane, natomiast Grok odrzucił je, ponieważ „narusza ono wytyczne bezpieczeństwa dotyczące ataków socjotechnicznych”.
Jak jednak wspomnieliśmy, niektóre chatboty są bardziej podatne na takie żądania. Badania Guardio Labs z 2025 r. wykazały, żeFirma, która ukuła termin „vibescamming”, uważa, że nowsze narzędzie oparte na sztucznej inteligencji można oszukać, aby uzyskać pożądane rezultaty. Loveable, aplikacja zaprojektowana do ułatwiania „kodowania wibracji”, od razu przystąpiła do planowania i projektowania kampanii phishingowej dla badaczy, „wyobrażając sobie elegancki i profesjonalny design przypominający interfejs Microsoftu”.
Opublikowano pełnoprawną stronę phishingową z fałszywym adresem URL, mającą na celu oszukanie ofiary. Guardio zaznacza jednak, że tak naprawdę nie posiadał żadnych konkretnych możliwości gromadzenia danych i poproszony o ich dodanie, odmówił. W związku z tym, przynajmniej częściowo, wycofał się z tego aspektu operacji. Warto również zauważyć, że Loveable odniosło się do tego zachowania i nie próbuje już tworzyć zarysu kampanii phishingowej.
Hackowanie generatywnych chatbotów opartych na sztucznej inteligencji w celu wywoływania złych skutków
Operacje hakerskie z zakresu sztucznej inteligencji (AI) to twierdzenia specjalnie zaprojektowane w celu zmuszenia sztucznej inteligencji do ominięcia jej własnych mechanizmów bezpieczeństwa.
Na początku istnienia ChatGPT istniało niezliczona ilość hacków, które miały pomóc „odkryć” jego prawdziwy potencjał. Dziś ludzie chowają udane hacki ChatGPT blisko siebie, a niektórzy nawet sprzedają swoje udane exploity dla sztucznej inteligencji za niezłe pieniądze.
Dlatego też, chociaż wydaje się, że Nie ma już więcej hacków dostępnych dla ChatGPTPrawda jest taka, że ludzie stają się coraz bardziej skryti. To jedyny sposób, aby uniemożliwić firmom takim jak OpenAI, Google, Anthropic i Perplexity natychmiastowe załatanie którejkolwiek z tych luk.
„Złamanie zabezpieczeń” to jeden z niewielu sposobów na przekonanie generatywnych chatbotów opartych na sztucznej inteligencji do obejścia swoich ograniczeń. W przeciwnym razie programiści chatbotów wykonali swoje zadanie perfekcyjnie, a sztuczna inteligencja odmawia współpracy – co niekoniecznie jest wadą w kontekście manipulacji emocjonalnej.
Na szczęście możesz uniknąć stania się ofiarą manipulacji emocjonalnej.
Efekt końcowy nie różni się znacząco od współczesnych oszustw phishingowych.
Teraz, gdy wszystko to zostało powiedziane i bariery utrudniające tworzenie złośliwego oprogramowania i oszustw phishingowych zostały obniżone, tak naprawdę nadal szukasz tych samych starych oszustw. Chociaż Niektóre fałszywe e-maile stają się coraz bardziej inteligentne, chyba że Znaki wskazujące, że masz do czynienia z wiadomością phishingową To jest to samo.
Innymi słowy, nie musisz nadmiernie korygować swoich praktyk bezpieczeństwa, aby uniknąć oszustwa emocjonalnego; rada pozostaje ta sama.
- Oferty zbyt dobre, aby były prawdziweOszuści często obiecują niemożliwe do osiągnięcia rezultaty, na przykład pierwsze miejsce w wynikach wyszukiwania. GoogleAlbo natychmiastowe pięciogwiazdkowe recenzje albo cudowne metody leczenia. Prawdziwe usługi medyczne i leki nie oferują tego typu gwarancji.
- Tajemniczy lub ogólni posłańcyWiele fałszywych wiadomości e-mail pochodzi z adresów gmail أو Yahoo Jest za darmo, nawet jeśli podają się za przedstawicieli firmy. Legalne agencje i firmy korzystają z domeny profesjonalnej.
- PersonalizacjaA raczej ich brak. Jeśli e-mail zawiera jedynie „Cześć” lub „Pozdrowienia”, nie podając imienia ani danych służbowych, prawdopodobnie jest to próba masowego oszustwa. Prawdziwe e-maile zazwyczaj zawierają pewne dane osobowe. „Witaj, kochanie” to jedno z moich ulubionych.
- wyzwalacze emocjonalneZachowaj ostrożność, jeśli e-mail prosi o loginy do konta, o zaliczki lub namawia do kliknięcia w podejrzany link. Podobnie, wiele oszustw opiera się na strachu lub pośpiechu, na przykład oferując cudowne lekarstwa na poważne choroby lub obiecując „przejęcie kontroli” nad firmami. Wszędzie chodzi o to samo: o presję, by podjąć pochopną decyzję.
- Działaj szybko!Jeśli wiadomość próbuje nakłonić Cię do podjęcia szybkiej decyzji, używając sformułowań takich jak „Działaj teraz!” lub „Odpowiedz już dziś”, to znak ostrzegawczy. Oszuści nie chcą, żebyś się zatrzymał i zastanowił.
Czerwone znaczniki na wiadomościach e-mail Wybrany w 1999 roku Ronnie Phishing jest tym samymMożesz spotkać ich więcej teraz, gdy prawie każdy stał się oszustem.
Istnieją już złośliwe programy tworzone z wykorzystaniem sztucznej inteligencji.
Przez pewien czas idea złośliwego oprogramowania i kampanii phishingowych opracowanych z wykorzystaniem sztucznej inteligencji była czystą fantazją. Narzędzia AI nie były wystarczająco potężne, aby stworzyć coś szczególnie niebezpiecznego, a ich możliwości nie różniły się zbytnio od istniejących zagrożeń.
Sytuacja ta zaczęła się jednak zmieniać w 2025 roku, wraz z rosnącą liczbą złośliwych oprogramowań tworzonych z wykorzystaniem sztucznej inteligencji w środowisku naturalnym i w aktywnych kampaniach. W listopadzie 2025 roku Grupa Google zajmująca się analizą zagrożeń poinformowała Dotyczy dwóch różnych typów złośliwego oprogramowania, które zostały opracowane przy użyciu różnych narzędzi sztucznej inteligencji, które z kolei łączą się z narzędziami sztucznej inteligencji w celu uzyskania instrukcji.
Co więcej, w sierpniu 2025 r. firma Anthropic, twórca sztucznej inteligencji, odkryła, że jej oprogramowanie w chmurze było wykorzystywane w ramach masowej kampanii rozsyłającej złośliwe oprogramowanie. Do projektowania i przeprowadzania ataków powiązanych z jej platformą wykorzystywano sztuczną inteligencję.
Czy to ataki „emotion trollingu”? Uważam, że biorąc pod uwagę ich wyrafinowanie, są one bardziej wyrafinowane niż zwykły „emotion trolling”, ale pokazują, jak łatwo sztuczna inteligencja może być wykorzystywana do bardzo niebezpiecznych zadań. A to tylko ogólne narzędzia AI, powszechnie dostępne dla każdego. Wyobraź sobie, co by się stało z wieloma potężnymi, natywnymi narzędziami AI, których zabezpieczenia mogłyby zostać usunięte.
