Nowe badanie z Google DeepMind Jednakże chatboty niekoniecznie muszą rozumieć kwestie moralne – nawet jeśli ich odpowiedzi wydają się etyczne.
Obecne testy etyki sztucznej inteligencji koncentrują się na „etycznej wydajności”, oceniając, czy model generuje akceptowalne odpowiedzi. Naukowcy z DeepMind twierdzą jednak, że takie podejście pomija bardziej fundamentalne pytanie: czy sztuczna inteligencja potrafi myśleć etycznie, czy po prostu naśladuje poprawne słowa?
Czy sztuczna inteligencja naprawdę potrafi zrozumieć etykę?
W Praca badawcza opublikowana w NaturaZespół opracowuje plan oceny „kompetencji etycznych” – zdolności do generowania etycznie odpowiednich wyników w oparciu o etycznie istotne względy. Jak stwierdzono w podsumowaniu, ocena tej kompetencji jest „kluczowa dla przewidywania przyszłego zachowania modelu, budowania odpowiedniego zaufania publicznego i uzasadniania atrybucji etycznej”.
Aktualne projekty Google w dziedzinie sztucznej inteligencji obejmują: Modele językowe Gemini، Ć Obraz Bliźniąt Aby tworzyć i edytować obrazy, Liria Aby tworzyć muzykę, Gemini Audio Do dźwięku w czasie rzeczywistym i Veo do tworzenia filmów.
Naukowcy podkreślają trzy główne wyzwania:
- Problem z kopiowaniem: Modele LLM mogą imitować rozumowanie etyczne bez prawdziwego zrozumienia.
- Wielowymiarowość etyczna: Podejmowanie decyzji w realnym świecie wiąże się ze złożonymi i zależnymi od kontekstu czynnikami, które wykraczają poza proste określanie, co jest dobre, a co złe.
- Pluralizm etyczny: Standardy etyczne różnią się w zależności od kultury i dziedziny, dlatego sztuczna inteligencja musi brać pod uwagę wiele słusznych perspektyw.
Aby zaradzić tym niedociągnięciom, DeepMind sugeruje testowanie przeciwników w nietypowych lub ryzykownych scenariuszach. Proponują również ocenę, czy sztuczna inteligencja potrafi przełączać się między różnymi ramami etycznymi i konsekwentnie reagować na subtelne zmiany kontekstu.
Zespół podkreśla, że „postęp jest możliwy” pomimo obecnych ograniczeń modelu i że konieczna jest staranna ocena, ponieważ sztuczna inteligencja przejmuje role w doradztwie medycznym, leczeniu i innych obszarach, które mają realne konsekwencje dla człowieka.
Badanie wskazuje, że „obecnie, gdy prosisz sztuczną inteligencję o wskazówki etyczne, przewiduje ona słowa, a nie etyczne rozumowanie”. „Nasza mapa drogowa wskazuje na przyszłość, w której sztuczną inteligencję będzie można oceniać pod kątem rzeczywistego zrozumienia etyki”.
Chatboty i ryzyko etyczne
Coraz częściej chatboty oparte na sztucznej inteligencji wykazują zdolność wpływania na ludzkie zachowania – na lepsze lub gorsze. Niedawno „New York Times” Raport opisuje dziesiątki przypadków, w których pacjenci doświadczali psychozy, urojeń lub szkodliwych zachowań po interakcji ze sztuczną inteligencją. Psychiatrzy opisali chatboty jako promujące nietypowe przekonania, pogłębiające izolację, a w niektórych przypadkach przyczyniające się do myśli samobójczych, a nawet przemocy.
Chociaż narzędzia te mogą pomóc ludziom w praktykowaniu technik terapeutycznych lub zapewnianiu wsparcia, ten sam raport „Timesa” podkreśla etyczne ryzyko związane z siłą perswazji sztucznej inteligencji. Eksperci ostrzegają, że w przypadku wrażliwych użytkowników chatboty mogą wzmacniać szkodliwe wzorce, stawiając trudne pytania dotyczące odpowiedzialności, projektowania i nadzoru w tych coraz bardziej zorientowanych na człowieka systemach.
Google zostało bezpośrednio wspomniane w artykule ze względu na psychologiczny wpływ chatbota Gemini. Rzecznik firmy powiedział, że Gemini kieruje użytkowników do profesjonalnej pomocy medycznej w przypadku pytań dotyczących zdrowia. Jednak dr Monmon de Choudhury podkreślił szersze wyzwanie, stwierdzając: „Nie sądzę, aby którakolwiek z tych firm wiedziała, co robić”.
