Sztuczna inteligencja jest gorącym tematem debat od samego początku. Choć obawy przed przejęciem władzy nad wszechświatem przez sztuczną inteligencję na wzór Skynetu i unicestwieniem ludzkości są, delikatnie mówiąc, irracjonalne, niektóre eksperymenty przyniosły niepokojące rezultaty.
Jednym z takich eksperymentów jest problem maksymalnego spinacza, eksperyment myślowy, który pokazuje, że wysoce inteligentna sztuczna inteligencja, nawet zaprojektowana całkowicie bez złych intencji, mogłaby ostatecznie zniszczyć ludzkość. Sprawdź Czy OpenAI naprawdę straciło kontrolę nad swoim chatbotem ChatGPT?
Szybkie linki
Wyjaśnienie problemu nadmiaru spinaczy biurowych
Ten eksperyment myślowy, który sugeruje, że nawet całkowicie nieszkodliwa sztuczna inteligencja może ostatecznie negatywnie wpłynąć na ludzkie życie, początkowo nazwano „wzmocnieniem spinaczem”. Spinacze wybrano, aby zademonstrować możliwości sztucznej inteligencji, ponieważ stanowią one niewielkie widoczne zagrożenie i nie powodują stresu emocjonalnego w porównaniu z innymi obszarami, w których występuje ten problem, takimi jak leczenie raka czy wygrywanie wojen.
Pierwszy eksperyment pojawił się w artykule szwedzkiego filozofa Nicka Bostroma z 2003 r. Kwestie etyczne w zaawansowanej sztucznej inteligencji , w tym „lupę w kształcie spinacza”, mającą na celu zademonstrowanie ryzyka egzystencjalnego, jakie może stwarzać odpowiednio zaawansowana sztuczna inteligencja.
Problem polegał na tym, że sztuczna inteligencja (SI) miała za zadanie stworzyć jak najwięcej spinaczy. Mogła postanowić, że wszystko we wszechświecie, w tym ludzie, zamieni się w spinacze. Wcześniej czy później wystarczająco inteligentna SI zdałaby sobie sprawę, że ludzie stanowią wyzwanie dla jej celu w trzech odrębnych obszarach.
- Ludzie mogą wyłączyć sztuczną inteligencję.
- Ludzie mogą zmieniać swoje cele.
- Ludzie składają się z atomów, z których można zrobić spinacze do papieru.
We wszystkich trzech przykładach we wszechświecie byłoby mniej spinaczy. Dlatego wystarczająco inteligentna sztuczna inteligencja, której jedynym celem jest wyprodukowanie jak największej liczby spinaczy, wykorzystałaby cały dostępny materiał i energię, zapobiegając wyłączeniu się lub zmianie. Jak można sobie wyobrazić, jest to o wiele bardziej niebezpieczne niż przestępcy używający ChatGPT do włamania się na konto bankowe lub komputer.
Sztuczna inteligencja nie jest wroga ludziom. Jest po prostu obojętna i nie ceni ludzkiego życia. Dlatego sztuczna inteligencja, której zależy tylko na zwiększeniu liczby spinaczy, w zasadzie wytępi ludzkość i zamieni ją w spinacze, aby osiągnąć swój cel.
„Rozszerzanie spinacza” to przykład konwergencji instrumentalnej – termin ten odnosi się do sztucznej inteligencji dążącej do nieszkodliwego celu w sposób szkodliwy (z ludzkiej perspektywy). Wykorzystanie prawdziwej sztucznej inteligencji do wykonywania prostych, pozornie niewinnych zadań może stanowić egzystencjalne zagrożenie dla ludzkości, jeśli nie odkryjemy, jak sprawić, by maszyna ceniła ludzkie życie. Sprawdź Błędy, których należy unikać podczas korzystania z narzędzi sztucznej inteligencji generatywnej.
Jak problem spinacza ma się do sztucznej inteligencji?
Badania i eksperymenty dotyczące problemu „przeciążenia spinaczami” wskazują na istnienie bardzo potężnego hipotetycznego optymalizatora lub wysoce inteligentnego agenta jako aktora reprezentatywnego. Problem ten dotyczy jednak sztucznej inteligencji, o ile idealnie wpisuje się ona w tę rolę.
Pomysł „rozszerzenia możliwości spinacza do papieru” powstał przecież po to, by zademonstrować niektóre zagrożenia związane z zaawansowaną sztuczną inteligencją. Generalnie rzecz biorąc, stwarza on dwa problemy.
- Teza o ortogonalnościTeza ortogonalności to pogląd, że inteligencja i motywacja nie są wzajemnie zależne. Oznacza to, że sztuczna inteligencja o wysokim poziomie inteligencji ogólnej może nie dojść do tych samych wniosków moralnych co ludzie.
- Automatyczna konwergencjaKonwergencja maszyn jest definiowana jako tendencja większości wystarczająco inteligentnych istot (zarówno ludzi, jak i innych istot) do dążenia do podobnych podcelów, nawet jeśli ich cel ostateczny jest zupełnie inny. W przypadku problemu nadpodaży spinaczy oznacza to, że sztuczna inteligencja ostatecznie przejmie wszystkie zasoby naturalne i wyeliminuje ludzkość, tylko po to, by osiągnąć swój cel, jakim jest produkcja coraz większej liczby spinaczy.
Największym problemem uwydatnionym w przykładzie „rosnącej liczby spinaczy do papieru” jest efektywna konwergencja. Można to również zauważyć, odwołując się do hipotezy Riemanna, w której przypadku sztuczna inteligencja zaprojektowana do rozwiązania tej hipotezy mogłaby zdecydować się na przejęcie całej powierzchni Ziemi i przekształcenie jej w komputer (najbardziej wydajny procesor), aby zbudować superkomputery, które rozwiążą problem i osiągną swój cel.
Sam Bostrom podkreślił, że nie sądzi, by problem spinacza kiedykolwiek stał się realnym problemem, ale jego intencją było zilustrowanie zagrożeń związanych z tworzeniem superinteligentnych maszyn bez wiedzy, jak je kontrolować lub programować, aby nie stanowiły egzystencjalnego zagrożenia dla ludzi. Współczesne systemy sztucznej inteligencji, takie jak ChatGPT, również mają problemy, ale daleko im do superinteligentnych SI omówionych w przykładzie ze spinaczem, więc na razie nie ma powodu do paniki. Sprawdź Czy ChatGPT ma problemy z prywatnością?
Zaawansowane systemy sztucznej inteligencji wymagają ekstremalnej kontroli.
Problem zwiększania liczby spinaczy biurowych zawsze prowadzi do tego samego rezultatu i uwypukla problemy związane z zarządzaniem niezwykle inteligentnym i potężnym systemem, w którym brakuje wartości ludzkich.
Chociaż użycie spinaczy biurowych może być najczęstszym sposobem zilustrowania problemu, dotyczy on dowolnej liczby zadań, jakie można powierzyć sztucznej inteligencji – czy to eliminacji raka, wygrywania wojen, sadzenia większej liczby drzew, czy jakiegokolwiek innego zadania, bez względu na to, jak oczywiste by ono nie było. Możesz już sprawdzić Czy wykorzystanie sztucznej inteligencji w cyberbezpieczeństwie czyni świat bezpieczniejszym?
