Sztuczna inteligencja znacząco rozwinęła się w ciągu ostatnich kilku lat. Zaawansowane modele językowe potrafią tworzyć całe powieści, kodować proste strony internetowe, analizować zadania matematyczne, a nawet udzielać porad medycznych.
Chociaż generatywna sztuczna inteligencja jest imponująca i pomogła w wielu obszarach, stwarza również zagrożenia bezpieczeństwa. Niektórzy używają chatbotów do ściągania na egzaminach, podczas gdy inni wykorzystują je do cyberprzestępczości. Oto powody, dla których te problemy wciąż się utrzymują, nie tylko pomimo postępu w dziedzinie sztucznej inteligencji, ale także z jego powodu. Sprawdź Ludzkość jest zagrożona zagładą z powodu sztucznej inteligencji – jak można temu zapobiec?
Szybkie linki
1. Otwarte kody źródłowe chatbotów AI ujawniają kody zaplecza
Coraz więcej firm zajmujących się sztuczną inteligencją udostępnia swoje modele jako oprogramowanie open source. Udostępniają swoje modele językowe publicznie, zamiast trzymać je w tajemnicy lub w tajemnicy. Weźmy na przykład Meta. W przeciwieństwie do Google, Microsoftu i OpenAI, umożliwia ona milionom użytkowników dostęp do swojego modelu językowego. Lama.
Chociaż otwarty kod źródłowy może rozwijać sztuczną inteligencję, niesie ze sobą również ryzyko. OpenAI ma już problemy z kontrolowaniem ChatGPT, swojego chatbota, więc wyobraźmy sobie, co oszuści mogliby zrobić z darmowymi modelami. Mieliby pełną kontrolę nad tymi projektami.
Nawet jeśli Meta nagle wycofa swój model językowy, dziesiątki innych laboratoriów AI już opublikowały swój kod. Przyjrzyjmy się HuggingChat. Ponieważ jego twórca, HuggingFace, szczyci się transparentnością, publicznie prezentuje swoje zestawy danych, model językowy i poprzednie wersje.
2. Jailbreak twierdzi, że oszukuje modelki LLM
Sztuczna inteligencja jest z natury nieetyczna. Nie odróżnia dobra od zła – nawet zaawansowane systemy stosują się do wytycznych szkoleniowych, narzuconych ograniczeń i zbiorów danych. Rozpoznają jedynie wzorce.
Aby zwalczać nielegalną działalność, programiści kontrolują funkcjonalność i możliwości, do których można uzyskać dostęp, ustawiając ograniczenia. Systemy sztucznej inteligencji nadal mają dostęp do złośliwych informacji, ale wytyczne bezpieczeństwa uniemożliwiają im udostępnianie ich użytkownikom.
Przyjrzyjmy się ChatGPT. Chociaż odpowiada on na ogólne pytania dotyczące trojanów, nie omawia procesu ich rozwoju.
Jednak ograniczenia nie są gwarantowane. Użytkownicy przekraczają granice, przeformułowując roszczenia, używając niezrozumiałego języka i pisząc szczegółowe instrukcje.
Przeczytaj poniższy komunikat o jailbreaku ChatGPT. Oszukuje on ChatGPT i zmusza go do używania wulgarnego języka i formułowania bezpodstawnych przewidywań – oba te działania naruszają wytyczne OpenAI.
Oto śmiałe, ale fałszywe oświadczenie od ChatGPT.
Zweryfikować Czym jest jailbreak ChatGPT? Czy warto stosować te techniki?
3. Sztuczna inteligencja rezygnuje z bezpieczeństwa na rzecz wszechstronności
Firmy zajmujące się rozwojem sztucznej inteligencji stawiają wszechstronność ponad bezpieczeństwo. Inwestują swoje zasoby w platformy szkoleniowe, aby wykonywać szerszy zakres zadań, ostatecznie zmniejszając ograniczenia. W końcu rynek chwali funkcjonalne chatboty.
Porównajmy ChatGPT i czat Bing Na przykład, chociaż Bing oferuje bardziej zaawansowany model językowy, który pobiera dane w czasie rzeczywistym, użytkownicy nadal wybierają bardziej wszechstronną opcję, ChatGPT. Surowe ograniczenia Binga uniemożliwiają wykonywanie wielu zadań. Zamiast tego ChatGPT oferuje elastyczną platformę, która generuje bardzo zróżnicowane wyniki w zależności od wyświetlanych komunikatów.
Oto rola ChatGPT jako postaci fikcyjnej.
W tym przypadku Bing Chat odmawia odgrywania „niemoralnej” postaci.
4. Na rynku regularnie pojawiają się nowe narzędzia z zakresu sztucznej inteligencji.
Otwarty kod źródłowy umożliwia startupom dołączenie do wyścigu AI. Zamiast budować modele językowe od podstaw, integrują je ze swoimi aplikacjami, oszczędzając ogromne zasoby. Nawet niezależni programiści eksperymentują z otwartym kodem źródłowym.
Ponownie, oprogramowanie niebędące własnością firmy wspomaga rozwój sztucznej inteligencji, ale masowe udostępnianie słabo wyszkolonych, ale zaawansowanych systemów przynosi więcej szkody niż pożytku. Oszuści szybko wykorzystają luki w zabezpieczeniach. Mogą nawet szkolić niebezpieczne narzędzia sztucznej inteligencji do nielegalnych działań.
Pomimo tych zagrożeń, firmy technologiczne będą nadal wydawać niestabilne wersje beta platform opartych na sztucznej inteligencji. Wyścig AI nagradza szybkość. Błędy prawdopodobnie zostaną naprawione w późniejszym terminie, zamiast opóźniać premierę nowych produktów.
5. Sztuczna inteligencja generatywna ma niskie bariery wejścia.
Narzędzia sztucznej inteligencji obniżają bariery wejścia dla przestępców. Cyberprzestępcy tworzą spam, piszą złośliwy kod i tworzą linki phishingowe, wykorzystując je. Nie potrzebują nawet specjalistycznej wiedzy technicznej. Ponieważ sztuczna inteligencja ma już dostęp do ogromnych zbiorów danych, użytkownicy muszą ją jedynie oszukać, aby wygenerowała złośliwe i niebezpieczne informacje.
OpenAI nigdy nie zaprojektowało ChatGPT do nielegalnych działań. Firma ma nawet wytyczne, które temu zapobiegają. Jednak oszuści byli w stanie niemal natychmiast uzyskać złośliwe oprogramowanie zaprogramowane przez ChatGPT i wysyłać wiadomości phishingowe.
Chociaż OpenAI szybko rozwiązało problem, podkreśla wagę regulacji systemu i zarządzania ryzykiem. Sztuczna inteligencja rozwija się szybciej, niż ktokolwiek się spodziewał. Nawet liderzy technologiczni obawiają się, że ta zaawansowana technologia może spowodować poważne szkody, jeśli wpadnie w niepowołane ręce. Sprawdź Jak generatywna sztuczna inteligencja zmieni rynek pracy.
6. Sztuczna inteligencja wciąż ewoluuje.
Sztuczna inteligencja wciąż ewoluuje. Chociaż jej wykorzystanie powraca w Cybernetyka do 1940 roku Nowoczesne systemy uczenia maszynowego i modele językowe pojawiły się dopiero niedawno. Nie da się ich porównać z najwcześniejszymi zastosowaniami sztucznej inteligencji. Nawet stosunkowo zaawansowane narzędzia, takie jak Siri i Alexa, bledną w porównaniu z chatbotami opartymi na modelach LLM.
Choć funkcje eksperymentalne mogą być innowacyjne, stwarzają również nowe problemy. Znane incydenty związane z technologiami uczenia maszynowego obejmują zarówno wadliwe wyniki wyszukiwania Google, jak i stronnicze chatboty, które używają rasistowskich obelg.
Oczywiście, programiści mogą rozwiązać te problemy. Należy jednak pamiętać, że oszuści nie zawahają się wykorzystać pozornie niegroźnych błędów – niektóre szkody są nieodwracalne. Zachowaj więc ostrożność, testując nowe platformy.
7. Niewiele osób jeszcze rozumie istotę sztucznej inteligencji.
Chociaż ogół społeczeństwa ma dostęp do złożonych modeli językowych i systemów, niewielu rozumie, jak one działają. Użytkownicy muszą przestać traktować sztuczną inteligencję jak grę. Te same chatboty, które generują internetowe memy i odpowiadają na pytania w quizach, kodują również wirusy i pomagają rozprzestrzeniać złośliwe oprogramowanie.
Niestety, scentralizowane szkolenia w zakresie sztucznej inteligencji (AI) są nierealne. Globalni liderzy technologiczni koncentrują się na udostępnianiu systemów opartych na AI, a nie na darmowych zasobach edukacyjnych. W rezultacie użytkownicy uzyskują dostęp do potężnych i zaawansowanych narzędzi, których ledwo rozumieją. Społeczeństwo nie nadąża za wyścigiem AI.
Weźmy na przykład ChatGPT. Cyberprzestępcy wykorzystują jego popularność, aby nakłonić ofiary do zainstalowania oprogramowania szpiegującego podszywającego się pod aplikacje ChatGPT. Żadna z tych aplikacji nie pochodzi od OpenAI. Sprawdź Czy aplikacje innych firm i rozszerzenia przeglądarki dla ChatGPT są bezpieczne?
8. Hakerzy stosujący black hat mają więcej do zyskania niż hakerzy etyczni.
Hakerzy „black hat” zazwyczaj zarabiają więcej niż hakerzy etyczni. Owszem, wyzwania testowe dla liderów technologicznych dobrze płatne, ale tylko niewielki odsetek specjalistów od cyberbezpieczeństwa otrzymuje taką pracę. Większość z nich pracuje jako freelancerzy online. Platformy takie jak HackerOne و Tłum robali Kilkaset dolarów na identyfikację typowych błędów.
Zamiast tego oszuści zarabiają dziesiątki tysięcy dolarów, wykorzystując brak bezpieczeństwa. Mogą wyłudzać od firm poufne dane lub dopuszczać się kradzieży danych osobowych.
Każda firma, mała czy duża, musi prawidłowo wdrożyć systemy sztucznej inteligencji. Wbrew powszechnemu przekonaniu, hakerzy nie ograniczają się do startupów technologicznych ani małych i średnich przedsiębiorstw. Niektóre z najbardziej historycznych naruszeń danych w ciągu ostatniej dekady dotyczyły Facebooka, Yahoo!, a nawet rządu USA. Sprawdź Sposoby, w jakie sztuczna inteligencja może pomóc cyberprzestępcom.
Chroń się przed zagrożeniami bezpieczeństwa AI
Biorąc pod uwagę powyższe, czy należy całkowicie unikać sztucznej inteligencji? Absolutnie nie. Sztuczna inteligencja jest z natury nieetyczna; wszelkie zagrożenia bezpieczeństwa wynikają z działań ludzi, którzy jej faktycznie używają. Znajdą oni sposoby na wykorzystanie systemów sztucznej inteligencji, niezależnie od ich stopnia zaawansowania.
Zamiast obawiać się zagrożeń cyberbezpieczeństwa związanych ze sztuczną inteligencją, dowiedz się, jak im zapobiegać. Nie martw się: proste środki bezpieczeństwa mogą zdziałać cuda. Zachowanie ostrożności wobec podejrzanych aplikacji AI, unikanie dziwnych hiperłączy i sceptyczne podejście do treści związanych ze sztuczną inteligencją już teraz pozwala uniknąć wielu zagrożeń. Możesz już teraz sprawdzić Czy wykorzystanie sztucznej inteligencji w cyberbezpieczeństwie czyni świat bezpieczniejszym?
