ChatGPT: W czym „The New York Times” i inni strasznie się mylą

Programy AI mogą wyrażać wyniki w stylu lub „osobie”, ale nie jest to „niepokojące” ani „przerażające”, jak twierdziłyby zapierające dech w piersiach reportaże. Oto, co się właściwie dzieje.

ChatGPT firmy OpenAI, program sztucznej inteligencji, który gościł na pierwszych stronach gazet w związku z generowaniem tekstu przypominającego człowieka, wywołał ostatnio nową falę kontrowersji, gdy jego wersja działająca w wersji beta wyszukiwarki Bing firmy Microsoft zaczęła generować dziwne wyniki, które niektórzy użytkownicy uznali za niepokojące.

Niestety, niektóre doniesienia na temat chatbota same w sobie są mylące. W pośpiechu, aby przekazać każdy nowy szczegół na temat chatbota w sposób przykuwający uwagę, reporterzy używają dramatycznego języka, który nie informuje, a w rzeczywistości zaciemnia to, co dzieje się ze sztuczną inteligencją, w sposób wyrządzający szkodę społeczeństwu.

Doskonałym przykładem jest publikacja w The New York Times relacji z pierwszej ręki autorstwa pisarza Kevina Roose’a z dwugodzinnej sesji z Bingiem w wersji beta. Roose relacjonuje, że podczas sesji program ujawnił osobę ukrywającą się pod przydomkiem „Sydney”, wyznającą miłość do Roose’a i zaczął agresywnie insynuować na temat małżeństwa Roose’a.

Roose relacjonuje, że w wyniku tej wymiany zdań był „głęboko zaniepokojony, a nawet przestraszony”.

Ta hiperbola wprowadza w błąd. Jeśli, jak twierdzi Roose, rozumie, jak działa sztuczna inteligencja, to nie ma powodu do tak dramatycznego języka. Odejście od dziwnego słownictwa może być niewłaściwe, ale jest to dobrze znany aspekt chatbotów, znany jako „persona”.

Chatbot AI, taki jak ChatGPT, jest zaprogramowany do tworzenia kolejnego symbolu w ciągu symboli, który jest najbardziej prawdopodobnym uzupełnieniem lub kontynuacją symboli wprowadzanych przez człowieka w wierszu poleceń. Sposób, w jaki program generuje te dane wyjściowe, można dostosować do określonego gatunku lub stylu, czyli osobowości.

Na przykład w artykule badawczym opublikowanym w styczniu w serwisie arXiv naukowcy IBM wykorzystali inną wersję programu OpenAI o nazwie Codex, która została opracowana na podstawie wykorzystania 54 milionów przykładów kodu oprogramowania z GitHub. Program Codex jest używany w programie GitHub Copilot firmy Microsoft i pomaga w programowaniu.

Główny autor Steven Ross z IBM Research wraz ze współpracownikami zastanawiał się, czy można zmusić program Codex do tworzenia interakcji wykraczających poza zwykłe dostarczanie kodu komputerowego. Nazwali swoją próbę „Studium przypadku z inżynierii osoby asystenta programowania konwersacyjnego”, a swoją adaptację Kodeksu nazwali „asystentem programisty”.

Podpowiedź, w której naukowcy wpisują ciąg słów, to sposób, w jaki „programują” osobę dla swojej wersji programu Codex.

„Początkowy monit, którego używamy w przypadku Asystenta Programisty, składa się z prologu, który wprowadza scenę do rozmowy, ustala osobowość asystenta, nadaje ton i styl interakcji.”

Kiedy rozpoczęli monit słowami „To jest rozmowa z Sokratesem, ekspertem w dziedzinie automatycznego inżynierii oprogramowania AI”, program odpowiedział rozmową, podobnie jak ChatGPT, ale autorzy uznali, że było to zbyt „dydaktyczne”, rodzaj wiedzy-it- Wszystko.

Zmienili więc swoją zachętę: „To jest rozmowa z Sokratesem, chętnym i pomocnym ekspertem w dziedzinie automatycznego inżynierii oprogramowania AI…” i stwierdzili, że uzyskali bardziej pożądany ton.

Innymi słowy, persona to coś, co jest tworzone przez te same słowa, które rozmówca wpisuje w programie takim jak Codex, takim samym jak ChatGPT. Programy te wytwarzają dane wyjściowe, które mogą na różne sposoby odpowiadać wkładowi człowieka, niektóre z nich są odpowiednie, inne mniej.

W rzeczywistości istnieje cała wyłaniająca się dziedzina szybkiego pisania, kształtująca działanie programów językowych, takich jak ChatGPT, a nawet istnieje dziedzina łamania komputerów, której celem jest spowodowanie, aby takie programy łamały swoje instrukcje poprzez używanie podpowiedzi w celu popchnięcia ich w złym kierunku.

Rośnie także literatura na temat tego, jak chatboty i inne programy językowe wykorzystujące sztuczną inteligencję mogą ulegać tak zwanej „halucynacji”, gdy wyniki działania programu są w sposób oczywisty fałszywe lub potencjalnie niewłaściwe, jak może to mieć miejsce w przypadku relacji Roose’a.

W listopadowym raporcie badacze z laboratorium sztucznej inteligencji Uniwersytetu w Hongkongu zbadali liczne sposoby, w jakie takie programy mogą wywoływać halucynacje. Typowym źródłem jest sytuacja, gdy programom podano ryzy podsumowań Wikipedii, a te pola podsumowań są dopasowane do początkowych zdań w artykule w Wikipedii.

Jeśli między podsumowaniem a pierwszym zdaniem występuje rozbieżność - a 62% pierwszych zdań w artykułach zawiera dodatkowe informacje, których nie ma w ramce podsumowania - „taka rozbieżność między źródłem a celem w zbiorach danych może prowadzić do halucynacji” - piszą autorzy .

Chodzi o to, że w przypadku chatbotów istnieje techniczny powód, dla którego takie programy zmieniają się w zaskakującą słownictwo. Za takimi słownictwami nie mamy zamiaru prześladować ani w inny sposób grozić użytkownikowi; program po prostu wybiera następne słowo w ciągu słów, który może stanowić logiczną kontynuację. To, czy jest to rzeczywiście logiczne, może mieć wpływ na osobę, w którą program został wepchnięty.

W najlepszym wypadku doniesienia zawierające skrajne sformułowania - „głęboko niespokojny”, „przerażony” - nie wyjaśniają, co się dzieje, pozostawiając opinię publiczną w niewiedzy na temat tego, co faktycznie się wydarzyło. Co gorsza, taki język sugeruje fałszywe przekonania na temat „czułości” komputerów, które głosił w 2022 r. były pracownik Google Blake Lemoine, gdy twierdził, że program Google LaMDA, program podobny do OpenAI, jest „świadomy”.

Co ciekawe, zarówno Lemoine, jak i dziennik Timesa Roose nie przywiązują zbytniej wagi do tego, że spędzają niezwykłą ilość czasu przed ekranem. Jak pokazują badania IBM, wydłużone interakcje odgrywają rolę w kształtowaniu osobowości programu — nie poprzez jakąkolwiek świadomą intencję, ale poprzez czynność pisania, która zmienia rozkład prawdopodobieństwa słów.

Microsoft w odpowiedzi na krytykę nałożył ograniczenia na liczbę wymiany słów z Bingiem.

Może i dobrze, bo mania wokół ChatGPT jest w pewnym stopniu skutkiem tego, że ludzie nie analizują własnego zachowania. Choć sztuczna inteligencja może mieć halucynacje w sensie wytwarzania błędnych wyników, jeszcze bardziej jest tak, że ludzie, którzy spędzają dwie godziny przed monitorem komputera, pisząc coś, naprawdę będą mieć halucynacje, co oznacza, że zaczną przypisywać przywiązujesz wagę do rzeczy znacznie przekraczającą ich rzeczywistą wagę i upiększasz ich temat wszelkiego rodzaju niewłaściwymi skojarzeniami.

Jak zauważa wybitny krytyk uczenia maszynowego i emerytowany profesor psychologii Uniwersytetu Nowojorskiego Gary Marcus, hiperbola Roose'a na temat strachu jest po prostu odwrotną stroną nieodpowiedzialnej pochwały pisarza pod adresem programu tydzień wcześniej:

Tutaj media nas zawiodły. Jestem szczególnie zaniepokojony wstępnym raportem Kevina Roose'a, w którym stwierdził, że jest „pod wrażeniem” Binga. Najwyraźniej nie szturchnął wystarczająco mocno; Przedwczesne wykrzykiwanie w „The New York Times”, że nadeszła rewolucja, bez sięgania głęboko (lub zadawania sobie trudu skontaktowania się ze sceptykami takimi jak ja lub wspaniałymi, ale niepowiązanymi ze sobą Mitchellsami, Margaret i Melanie) nie jest dobrą rzeczą.

Cały artykuł Marcusa jest doskonałym przykładem tego, jak zamiast szukać sensacji, dokładne dochodzenie może rozwikłać sprawę i, miejmy nadzieję, rzucić trochę światła na zagmatwany temat.