ChatGPT i Google Bard: Czy szukamy odpowiedzi we wszystkich niewłaściwych miejscach?

Jak dotąd chatboty konwersacyjne mogą udzielić nam wiarygodnie brzmiących odpowiedzi na nasze pytania. Ale czy zawsze wiedzą, jak analizować rosnące ilości danych na świecie?

Rozpoczyna się nowa era przeszukiwania Internetu, napędzana imponującym postępem w dziedzinie sztucznej inteligencji. Zaledwie kilka miesięcy po uruchomieniu chatbota chatbota OpenAI ChatGPT skłoniło Google do ponownego przemyślenia swojej podstawowej usługi i otworzyło drogę innym firmom technologicznym, takim jak Microsoft, do zdobycia nowych możliwości.

Nie jest niespodzianką, że narzędzie konwersacyjne, takie jak chatbot, może zakłócić działalność wyszukiwania, jeśli pomyślisz o ewolucji rynku.

W szczegółach: Ci eksperci ścigają się, by chronić sztuczną inteligencję przed hakerami. Czas ucieka

Google, dominująca wyszukiwarka na świecie od około dwudziestu lat, twierdzi, że jej misją jest „organizowanie informacji z całego świata i zapewnianie ich powszechnej dostępności i użyteczności”.

Informacje na całym świecie gromadzą się jednak w zawrotnym tempie. W zeszłym roku firma badawcza IDC przewidywała, że do 2026 r. ilość danych tworzonych rocznie osiągnie ponad 221 000 eksabajtów. To ponad dwukrotnie więcej niż ilość danych utworzonych w 2022 r.

Wyszukiwarka indeksująca strony internetowe to z pewnością skuteczny sposób na uporządkowanie wszystkich informacji, ale niekoniecznie najlepszy sposób na uczynienie ich użytecznymi.

W rzeczywistości zbieranie i organizowanie danych jest tak łatwe, że samo przejrzenie własnych danych lub danych, których szukasz w pracy, może stanowić wyzwanie. Czy pamiętasz, ile czasu zajęło Ci ostatnie przeglądanie platformy HR swojej firmy, aby dowiedzieć się, jak złożyć raport z wydatków?

Tego rodzaju wyzwania stwarzają możliwości dla następnej iteracji wyszukiwania.

„Kiedy ludzie myślą o Google, często myślą o zwróceniu się do nas w celu uzyskania szybkich, rzeczowych odpowiedzi, na przykład: «Ile klawiszy ma fortepian?»” - napisał w tym tygodniu w poście na blogu dyrektor generalny Google, Sundar Pichai, przedstawiając eksperymentalny chatbot Google oparty na sztucznej inteligencji: Bard. „Ale coraz częściej ludzie zwracają się do Google, aby uzyskać głębsze informacje i zrozumienie, na przykład: «Czy łatwiej jest nauczyć się gry na pianinie czy na gitarze i ile praktyki potrzeba w każdym przypadku?». Zapoznanie się z takim tematem może wymagać wiele wysiłku, aby dowiedzieć się, co naprawdę musisz wiedzieć, a ludzie często chcą poznać różnorodne opinie i punkty widzenia”.

Pichai dodał: „Sztuczna inteligencja może być pomocna w takich momentach, syntetyzując spostrzeżenia dotyczące pytań, na które nie ma jednej właściwej odpowiedzi”.

Problem polega jednak na tym, że te subiektywne spostrzeżenia, starannie opakowane w formę konwersacji, zazwyczaj muszą być osadzone w jakiejś prawdzie.

Jak Sabrina Ortiz wyjaśniła dla ZDNET, te chatboty konwersacyjne są przeznaczone do prowadzenia rozmów z ludźmi - niekoniecznie do dostarczania dokładnych odpowiedzi. Według OpenAI OpenAI przeszkoliło swój model językowy, korzystając z uczenia się przez wzmacnianie na podstawie informacji zwrotnej od ludzi (RLHF). Trenerzy Human AI zapewnili modelowi rozmowy, w których wcielili się w obie role - użytkownika i asystentów AI. Zamiast prosić o wyjaśnienie niejednoznacznych pytań, model po prostu zgaduje, co oznacza Twoje pytanie, co może prowadzić do niezamierzonych odpowiedzi na pytania.

Już to doprowadziło witrynę StackOverflow dla programistów z pytaniami i odpowiedziami do przynajmniej tymczasowego zablokowania odpowiedzi na pytania generowanych przez ChatGPT. „Głównym problemem jest to, że chociaż odpowiedzi generowane przez ChatGPT mają wysoki wskaźnik błędnych odpowiedzi, zazwyczaj wyglądają na dobre, a odpowiedzi są bardzo łatwe do udzielenia” - wyjaśnili moderatorzy Stack Overflow.

Samo OpenAI przyznaje, że „ChatGPT czasami pisze wiarygodnie brzmiące, ale niepoprawne lub bezsensowne odpowiedzi”.

Bard firmy Google najwyraźniej próbuje rozwiązać ten problem, umożliwiając swoim modelom korzystanie z niedawno utworzonych danych ze źródeł zewnętrznych. Bard opiera się na LaMDA, dużym modelu językowym opracowanym przez Google. Jak zauważył Tiernan Ray dla ZDNET, programiści LaMDA skupili się szczególnie na tym, jak ulepszyć to, co nazywają „oparciem na faktach”. Dokonali tego, umożliwiając programowi odwoływanie się do zewnętrznych źródeł informacji wykraczających poza to, co już przetworzył w trakcie swojego rozwoju, w tak zwanej fazie szkoleniowej.

Jednak niedawne demo Barda firmy Google, które zakończyło się niepowodzeniem, dokładnie pokazuje, dlaczego korzystanie z zewnętrznych źródeł informacji jest ryzykownym przedsięwzięciem, szczególnie w przypadku modeli sztucznej inteligencji, które przedkładają spójność nad dokładność. W odpowiedzi na pytanie: „O jakich nowych odkryciach Kosmicznego Teleskopu Jamesa Webba mogę opowiedzieć mojemu 9-latkowi?” Bard powiedział, że teleskop wykonał pierwszy w historii obraz egzoplanety - co nie jest prawdą.

Jak Bard ostatecznie złożył to niedokładne oświadczenie? Prawdopodobnie ma to związek z jakością zewnętrznych informacji dostępnych na dany temat. Jak wie każdy informatyk, „śmieci wchodzą, śmieci wychodzą”.

I rzeczywiście, własne materiały NASA na temat Kosmicznego Teleskopu Jamesa Webba - niewątpliwie próbujące przedstawić teleskop w jak najlepszym świetle - były niejednoznaczne. We wrześniu 2022 r. agencja napisała: „Po raz pierwszy astronomowie wykorzystali należący do NASA Kosmiczny Teleskop Jamesa Webba do wykonania bezpośredniego zdjęcia planety poza naszym Układem Słonecznym”. Dla jasności, był to pierwszy raz, kiedy ten konkretny teleskop wykonał bezpośrednie zdjęcie egzoplanety, ale inny teleskop zrobił to już w 2004 roku.

Jednym z bezpośrednich sposobów usunięcia tych niedociągnięć chatbota jest zapewnienie jak największej przejrzystości. Nowa wersja wyszukiwarki Bing firmy Microsoft, która działa w oparciu o wielkojęzykowy model OpenAI nowej generacji, wraz z odpowiedziami cytuje źródła.

Dokąd nas to zatem prowadzi? Z pewnością pomaga to, jak zawsze, użytkownikom korzystać z tych narzędzi ze sceptycyzmem i jasnym zrozumieniem ich działania, jak podkreśla Microsoft.

„Bing stara się opierać wszystkie swoje odpowiedzi na wiarygodnych źródłach, ale sztuczna inteligencja może popełniać błędy, a treści internetowe stron trzecich mogą nie zawsze być dokładne i wiarygodne” - czytamy w sekcji Często zadawane pytania dotyczące Bing. „Bing czasami błędnie przedstawia znalezione informacje i możesz zobaczyć odpowiedzi, które brzmią przekonująco, ale są niekompletne, niedokładne lub niewłaściwe. Kieruj się własnym osądem i dokładnie sprawdź fakty przed podjęciem decyzji lub podjęciem działań na podstawie odpowiedzi Bing”.

Nasi nowi cyfrowi przyjaciele mogą chcieć być pomocni, ale nierozsądne byłoby jeszcze na nich polegać.