Sztuczna inteligencja nie uderza w ścianę, jest po prostu zbyt inteligentna, aby można ją było stosować w testach porównawczych, mówi Anthropic
W miarę jak poprawia się ich samokorekta i samorozumowanie, najnowsi LLM odkrywają nowe możliwości w tempie, które utrudnia zmierzenie wszystkiego, co potrafią.
Anurag Rana z Bloomberga [po lewej] rozmawia z Michaelem Gerstenhaberem z Anthropic [w środku] i Vijayem Karunamurthym ze Scale AI podczas konferencji Bloomberg Intelligence pt. „Gen AI: czy może spełnić obietnicę dotyczącą produktywności?”
Według wiceprezesa Anthropic, wiodącego dostawcy, modele wielkojęzykowe i inne formy generatywnej sztucznej inteligencji stale udoskonalają się pod względem „samokorekty”, otwierając możliwości dla nowych rodzajów pracy, które mogą wykonywać, w tym „agentycznej sztucznej inteligencji”. modeli sztucznej inteligencji.
„Staje się bardzo dobry w samokorekcie i rozumowaniu” - powiedział Michael Gerstenhaber, szef technologii API w firmie Anthropic, która tworzy rodzinę LLM Claude, która konkuruje z GPT OpenAI.
„Co kilka miesięcy przedstawiamy nowy model, który poszerza możliwości LLM” - powiedział Gerstenhaber podczas środowego wywiadu w Nowym Jorku z Anuragiem Raną z Bloomberg Intelligence. „Najbardziej interesującą rzeczą w tej branży jest to, że z każdą rewizją modelu odblokowują się nowe przypadki użycia”.
Najnowsze modele obejmują planowanie zadań, na przykład sposób wykonywania zadań na komputerze w zwykły sposób; na przykład zamawianie pizzy online.
„Planowanie etapów śródmiąższowych to coś, co nie było możliwe wczoraj, a jest możliwe dzisiaj” - powiedział Gerstenhaber o realizacji zadań krok po kroku.
Dyskusja, w której uczestniczył także Vijay Karunamurthy, główny technolog start-upu AI Scale AI, była częścią całodniowej konferencji zorganizowanej przez Bloomberg Intelligence w celu omówienia tematu: „Gen AI: czy może spełnić obietnicę dotyczącą produktywności?”
Uwagi Gerstenhabera stoją w sprzeczności z argumentami sceptyków sztucznej inteligencji, że pokolenie AI i szerzej reszta sztucznej inteligencji „uderza w ścianę”, co oznacza, że zwrot z każdej nowej generacji modelu jest coraz mniejszy.
Badacz sztucznej inteligencji, Gary Marcus, ostrzegł w 2022 r., że samo tworzenie modeli sztucznej inteligencji z coraz większą liczbą parametrów nie przyniesie ulepszeń równych wzrostowi rozmiaru. Marcus w dalszym ciągu powtarzał to ostrzeżenie.
Anthropic, powiedział Gerstenhaber, naciska na to, co można zmierzyć za pomocą obecnych testów porównawczych sztucznej inteligencji.
„Nawet jeśli wygląda na to, że w pewnym sensie będzie to zanikać, dzieje się tak dlatego, że udostępniamy zupełnie nowe klasy [funkcjonalności], ale wysyciliśmy standardy i możliwości wykonywania starszych zadań” - powiedział Gerstenhaber. Innymi słowy, coraz trudniej jest zmierzyć możliwości obecnych modeli AI generacji.
Zarówno Gerstenhaber, jak i Karunamurthy ze Scale AI argumentowali, że „skalowanie” sztucznej inteligencji generacji - powiększanie modeli sztucznej inteligencji - pomaga w rozwoju takich samokorygujących się sieci neuronowych.
„Zdecydowanie obserwujemy coraz większe skalowanie inteligencji” - powiedział Gerstenhaber. „Jednym z powodów, dla których niekoniecznie uważamy, że uderzamy w ścianę planowaniem i rozumowaniem, jest to, że dopiero teraz uczymy się, w jaki sposób należy ustrukturyzować zadania związane z planowaniem i rozumowaniem, aby modele mogły przystosować się do różnorodnych nowych środowisk, z którymi nie próbowali się przedostać.”
„Jesteśmy na bardzo początku” - powiedział Gerstenhaber. „Uczymy się od twórców aplikacji, co próbują zrobić i co [model językowy] robi słabo, i możemy to zintegrować z LM”.
Część tego odkrycia, powiedział Gerstenhaber, ma związek z szybkością badań podstawowych w Anthropic. Jednak częściowo ma to związek z uczeniem się poprzez słuchanie, „czego branża mówi nam, że od nas potrzebuje, i naszej zdolności do przystosowania się do tego - w dużej mierze uczymy się w czasie rzeczywistym”.
Klienci zwykle zaczynają od dużych modeli, a następnie czasami zmniejszają ich rozmiar do prostszych modeli AI, aby dopasować je do określonego celu, powiedział Karunamurthy ze Scale AI. „Jest bardzo jasne, że najpierw zastanawiają się, czy sztuczna inteligencja jest wystarczająco inteligentna, aby w ogóle dobrze wykonać test, a następnie, czy jest wystarczająco szybka, aby spełnić ich potrzeby w aplikacji, a następnie możliwie najtańsza”.