ChatGPT to potężny i szybko działający nowy chatbot oparty na sztucznej inteligencji, ale wielu użytkowników zauważyło, że ma on poważne wady. Zapytaj go o cokolwiek chcesz, a otrzymasz odpowiedź, która brzmi, jakby została stworzona przez człowieka, wyposażonego w wiedzę i umiejętności pisania zdobyte podczas szkolenia na dużych zbiorach danych online.
Jednak, podobnie jak w przypadku internetu, granica między prawdą a fikcją jest płynna, a ChatGPT niejednokrotnie popełniał błędy. W związku z tym, że ChatGPT ma zmienić naszą przyszłość, oto kilka naszych największych obaw. Sprawdź: Czy ChatGPT ma problemy z prywatnością?
Szybkie linki
Co to jest ChatGPT?
ChatGPT to model języka naturalnego zaprojektowany w celu generowania odpowiedzi, które są bardzo zbliżone do ludzkiej rozmowy. Możesz rozmawiać z ChatGPT, tak jak podczas kłótni, a on zapamięta Twoje słowa z przeszłości, a jednocześnie będzie mógł korygować swoje odpowiedzi, gdy zostaniesz o to poproszony.
Został on wytrenowany na wszelkiego rodzaju tekstach z internetu – na przykład na Wikipedii, blogach, książkach i artykułach akademickich. Oznacza to, że oprócz odpowiadania na pytania w sposób zbliżony do ludzkiego, potrafi on również wyszukiwać informacje o naszym obecnym świecie, a także wydobywać informacje historyczne z naszej przeszłości.
Nauka korzystania z ChatGPT jest prosta i łatwo dać się zwieść przekonaniu, że system sztucznej inteligencji działa bez zarzutu. Jednak w ciągu kilku miesięcy od premiery użytkownicy na całym świecie doprowadzili chatbota opartego na sztucznej inteligencji do granic możliwości, ujawniając kilka poważnych problemów.
1. ChatGPT generuje błędne odpowiedzi
ChatGPT nie radzi sobie z podstawowymi obliczeniami matematycznymi, nie odpowiada na proste pytania logiczne, a nawet posuwa się do podawania całkowicie nieprawdziwych faktów. Jak potwierdzą użytkownicy mediów społecznościowych, ChatGPT może się mylić nie raz i nie dwa.
Poznaj firmę OpenAI O tym ograniczeniu napisałem: „ChatGPT czasami generuje odpowiedzi, które brzmią rozsądnie, ale są niepoprawne lub bezsensowne”. Ta „halucynacja” faktów i fikcji, jak ją nazywam, jest szczególnie niebezpieczna w przypadku takich kwestii jak porady medyczne czy ustalanie faktów dotyczących kluczowych wydarzeń historycznych.
W przeciwieństwie do innych asystentów AI, takich jak Siri czy Alexa, ChatGPT nie korzysta z internetu do wyszukiwania odpowiedzi. Zamiast tego konstruuje zdanie słowo po słowie, wybierając na podstawie treningu najbardziej prawdopodobny „token”. Innymi słowy, ChatGPT uzyskuje odpowiedź, dokonując serii zgadywań, co jest jednym z powodów, dla których może argumentować przeciwko niepoprawnym odpowiedziom, jakby były absolutnie poprawne.
Chociaż ChatGPT doskonale wyjaśnia złożone koncepcje, co czyni go potężnym narzędziem do nauki, ważne jest, aby nie wierzyć we wszystko, co mówi. ChatGPT nie zawsze jest poprawny – przynajmniej na razie. Sprawdź ChatGPT potrafi opowiadać dowcipy, ale czy sztuczna inteligencja faktycznie potrafi nas rozśmieszyć?
2. Model ChatGPT jest obarczony błędami.
ChatGPT został przeszkolony na podstawie tekstów tworzonych przez wielu ludzi z całego świata, zarówno w przeszłości, jak i obecnie, w oparciu o crowdsourcing. Niestety, oznacza to, że te same błędy, które występują w świecie rzeczywistym, mogą pojawić się również w modelu.
Udowodniono, że ChatGPT generuje czasami fatalne odpowiedzi, które dyskryminują płeć, rasę i mniejszości, a firma stara się temu przeciwdziałać.
Jednym ze sposobów wyjaśnienia tego problemu jest wskazanie danych jako źródła problemu i obwinianie ludzkości za uprzedzenia obecne w internecie i poza nim. Jednak część odpowiedzialności spoczywa również na OpenAI, którego badacze i programiści wybierają dane wykorzystywane do trenowania ChatGPT.
OpenAI ponownie uznaje ten problem i oświadczyło, że zajmuje się tym, co nazywa „stronniczym zachowaniem”, zbierając opinie od użytkowników, których zachęca się do zgłaszania błędnych wyników ChatGPT.
Biorąc pod uwagę potencjalne zagrożenie dla ludzi, można argumentować, że ChatGPT nie powinien zostać udostępniony publicznie, dopóki te problemy nie zostaną zbadane i rozwiązane. Jednak wyścig o to, kto jako pierwszy wprowadzi na rynek najpotężniejsze narzędzia AI, może sprawić, że OpenAI zrezygnuje z takich środków ostrożności.
Podobny chatbot oparty na sztucznej inteligencji o nazwie Sparrow, należący do spółki macierzystej Google, Alphabet, został uruchomiony we wrześniu 2022 roku. Jednak celowo trzymano go w tajemnicy ze względu na podobne obawy dotyczące bezpieczeństwa.
Mniej więcej w tym samym czasie Facebook opublikował model języka sztucznej inteligencji o nazwie Galactica, mający wspomagać badania naukowe. Szybko wycofano go z użytku po tym, jak wielu użytkowników skrytykowało go za generowanie niedokładnych i stronniczych wyników badań naukowych.
3. ChatGPT może odbierać ludziom zadania
Choć szum wokół szybkiego rozwoju i wdrożenia ChatGPT jeszcze nie opadł, przekonasz się, że technologia ta jest już zintegrowana z wieloma aplikacjami komercyjnymi. Wśród tych, które zintegrowały GPT-4, znajdują się Duolingo i Khan Academy. Sprawdź Aplikacje, które w swojej istocie integrują model GPT-4. Jak on działa?
Pierwsza z nich to aplikacja zaprojektowana specjalnie do nauki nowego języka, a druga to wszechstronne narzędzie do nauki oferujące liczne kursy. Obie aplikacje oferują w zasadzie korepetytora opartego na sztucznej inteligencji (AI), albo w postaci postaci sterowanej przez AI, z którą możesz rozmawiać w języku, którego się uczysz, albo jako korepetytora opartego na AI, który może zapewnić Ci spersonalizowaną informację zwrotną na temat Twojej nauki i postępów.
Z jednej strony, mogłoby to zmienić sposób, w jaki się uczymy, ułatwiając edukację i opanowywanie umiejętności. Ale wadą jest to, że odbiera ludziom pracę, którą od dawna sprawowali.
Postęp technologiczny zawsze prowadził do utraty miejsc pracy, ale szybki rozwój sztucznej inteligencji oznacza, że wiele branż stoi przed tym samym problemem. Od edukacji, przez ilustrację, po stanowiska obsługi klienta – ChatGPT i jego technologia radykalnie zmienią nasz współczesny świat. Sprawdź Jak generatywna sztuczna inteligencja zmieni rynek pracy.
4. ChatGPT może kwestionować język używany w szkole.
Możesz poprosić ChatGPT o korektę Twojego tekstu lub zasugerować, jak poprawić akapit. Możesz też całkowicie zrezygnować z udziału w tym procesie i zlecić ChatGPT napisanie wszystkiego za Ciebie.
Nauczyciele eksperymentowali z zadaniami z języka angielskiego w ChatGPT i otrzymywali lepsze odpowiedzi niż wielu ich uczniów. Od pisania listów motywacyjnych po opisywanie głównych wątków w słynnym dziele literackim – ChatGPT potrafi to wszystko zrobić bez wahania.
Nasuwa się pytanie: skoro ChatGPT może pisać za nas, czy uczniowie będą musieli uczyć się pisać w przyszłości? Może się to wydawać egzystencjalne, ale gdy uczniowie zaczną korzystać z ChatGPT do pisania esejów, szkoły będą musiały szybko znaleźć odpowiedź. Gwałtowne rozprzestrzenianie się sztucznej inteligencji w ostatnich latach zrewolucjonizuje wiele branż, a edukacja jest tylko jedną z nich.
5. ChatGPT może wyrządzić realne szkody.
Wcześniej wspominaliśmy, jak nieprawdziwe informacje z ChatGPT mogą wyrządzić realne szkody, na przykład udzielając nieprawdziwych porad medycznych. Ale są też inne obawy.
Szybkość generowania naturalnie wyglądającego tekstu sprawia, że oszustom niezwykle łatwo jest podszywać się pod kogoś, kogo znasz w mediach społecznościowych. Podobnie, wykrycie wiadomości phishingowej, której celem jest wyłudzenie od Ciebie poufnych danych, będzie trudniejsze, a dodatkową zaletą jest to, że ChatGPT generuje tekst wolny od błędów gramatycznych – co wcześniej było wyraźnym sygnałem ostrzegawczym.
Rozpowszechnianie fałszywych informacji jest również poważnym problemem. Skala, na jaką ChatGPT generuje tekst, w połączeniu z jego zdolnością do sprawiania, że fałszywe informacje wydają się przekonująco prawdziwe, z pewnością sprawi, że informacje online będą bardziej wątpliwe.
Szybkość, z jaką ChatGPT generuje informacje, już przysporzyła problemów Stack Exchange, stronie internetowej poświęconej udzielaniu trafnych odpowiedzi na codzienne pytania. Krótko po uruchomieniu ChatGPT użytkownicy zaczęli zalewać stronę odpowiedziami, o które prosili ChatGPT.
Bez wystarczającej liczby wolontariuszy, którzy mogliby nadrobić zaległości, utrzymanie wysokiego poziomu jakości odpowiedzi byłoby niemożliwe. Nie wspominając już o tym, że wiele odpowiedzi było po prostu niepoprawnych. Aby uniknąć awarii strony, wszystkie odpowiedzi wygenerowane za pomocą ChatGPT zostały zablokowane. Sprawdź Sposoby bezpiecznego korzystania z ChatGPT przez dzieci.
6. OpenAI ma dużą moc.
Z wielką mocą wiąże się wielka odpowiedzialność, a OpenAI ma ogromną moc. To jedna z pierwszych firm zajmujących się sztuczną inteligencją, która naprawdę wstrząsnęła światem, wprowadzając nie jeden, a wiele modeli sztucznej inteligencji, w tym Dall-E 2, GPT-3 i GPT-4.
OpenAI wybiera dane używane do trenowania ChatGPT, ale te informacje nie są publicznie dostępne. Po prostu nie znamy szczegółów dotyczących sposobu trenowania ChatGPT, użytych danych, ich źródła ani szczegółowej architektury systemu.
Chociaż OpenAI traktuje bezpieczeństwo priorytetowo, wciąż wiele nie wiemy o działaniu samych modeli, na dobre i na złe. Niezależnie od tego, czy uważasz, że kod powinien być otwarty, czy zgadzasz się, że jego fragmenty powinny pozostać tajne, niewiele możemy z tym zrobić.
Ostatecznie musimy mieć pełne zaufanie, że OpenAI będzie prowadzić badania, rozwijać i korzystać z ChatGPT w sposób odpowiedzialny. Niezależnie od tego, czy zgadzamy się z metodami, czy nie, OpenAI będzie nadal rozwijać ChatGPT zgodnie z własnymi celami i standardami etycznymi. Sprawdź Czy OpenAI naprawdę straciło kontrolę nad swoim chatbotem ChatGPT?
Rozwiązywanie największych problemów sztucznej inteligencji
ChatGPT ma wiele powodów do ekscytacji, ale poza jego bezpośrednimi zastosowaniami, istnieją pewne poważne problemy, które warto zrozumieć. OpenAI zdaje sobie sprawę, że ChatGPT może generować złośliwe i stronnicze odpowiedzi, mając nadzieję na złagodzenie tego problemu poprzez zbieranie opinii użytkowników. Jednak jego zdolność do generowania przekonujących tekstów, nawet gdy fakty są nieprawdziwe, może być łatwo wykorzystana przez osoby o złych intencjach.
Przy tak nowej technologii trudno przewidzieć, jakie problemy pojawią się w przyszłości. Dlatego, choć korzystanie z ChatGPT może być przyjemne, nie wierz we wszystko, co mówi. Możesz sprawdzić już teraz. Czy ChatGPT może dostarczać wiarygodnych informacji na temat zdrowia?
