3 lukratywne poboczne zajęcia, które możesz zacząć już teraz, dzięki generatorowi wideo Sora firmy OpenAI
Usługa w chmurze typu pay-per-use obiecuje obniżyć o połowę koszty szkolenia GPT-3 i podobnych modeli, jednocześnie ośmiokrotnie przyspieszając czas szkolenia.
Cerebras twierdzi, że partnerstwo z Cirrascale zapewni naukowcom dostęp do klastrów maszyn AI w cenie znacznie niższej niż koszt typowych wieloletnich dzierżaw. Na zdjęciu znajduje się bank stojaków Cerebras dla komputerów AI dedykowanych CS2.
Producent komputerów ze sztuczną inteligencją Cerebras Systems, który zbudował chipy i komputery, a teraz produkuje superkomputery przeznaczone do przyspieszania głębokiego uczenia, ogłosił we wtorek usługi mające na celu przyspieszenie wykorzystania bardzo dużych modeli językowych, które stają się coraz bardziej popularne nie tylko w badaniach, ale także do użytku komercyjnego.
"Uważamy, że duże modele językowe są niedostatecznie reklamowane, a nie przereklamowane" - powiedział współzałożyciel i dyrektor generalny Cerebras Andrew Feldman podczas briefingu prasowego. "Dopiero zaczynamy dostrzegać ich wpływ; Pojawią się zwycięzcy i nowi gracze w każdej z trzech warstw ekosystemu, w warstwie sprzętowej, warstwie infrastruktury i warstwie aplikacji".
Feldman przewiduje: "W przyszłym roku będziemy świadkami ogromnego wzrostu wpływu dużych modeli językowych na różne części gospodarki".
Współpracując z dostawcą usług przetwarzania w chmurze Cirrascale, Cerebras oferuje to, co nazywa czasem obliczeniowym "pay-per-model", zryczałtowaną stawką za szkolenie w celu konwergencji dużego modelu językowego, takiego jak GPT-3 firmy OpenAI, na klastrach komputerów CS2 zaprojektowanych do głębokiego uczenia.
Usługa jest oznaczona jako Cerebras AI Model Studio.
Ceny, wahające się od 2500 dolarów za wytrenowanie 1,3-miliardowego modelu GPT-3 w 10 godzin do 2,5 miliona dolarów za wyszkolenie wersji z 70 miliardami parametrów w 85 dni, są średnio o połowę niższe, niż użytkownicy zapłaciliby za wynajem pojemności chmury lub dzierżawę maszyn na lata, aby wykonać równoważną pracę. A klastry CS2 mogą być osiem razy szybsze do trenowania niż klastry maszyn Nvidia A100 w chmurze.
Cirrascale korzysta z kombinacji klastrów posiadanych CS2 i maszyn, których właścicielem jest Cerebras, a także superkomputera Andromeda, który znajduje się w obiektach kolokacyjnych w Santa Clara w Kalifornii, Colovore, gdzie Cirrascale również ma zainstalowany sprzęt.
Harmonogram cen Cerebras we współpracy z Cirrascale obiecuje być o połowę niższy niż średni koszt usług w chmurze lub wyspecjalizowanych klastrów do trenowania dużych modeli.
Partnerstwo ze studiem jest następstwem partnerstwa między firmami Cerebras i Cirrascale, ogłoszonego rok temu, w ramach którego co tydzień oferowane są maszyny CS2 w chmurze.
Usługa będzie automatycznie skalować rozmiar klastrów w zależności od skali modelu językowego, powiedział Feldman. Firma podkreśla, że wydajność szkolenia poprawia się liniowo proporcjonalnie do dodawania kolejnych maszyn.
Skalowanie do największych klastrów wzrosłoby pod względem ceny do premii, powiedział Feldman. Na przykład 16-maszynowy klaster Andromedy jest cztery razy większy niż czterokierunkowy klaster CS2, ale korzystanie z niego kosztowałoby klienta prawdopodobnie pięć razy więcej pieniędzy, ponieważ osiąga wyższy poziom wydajności.
Najważniejszą natychmiastową korzyścią z obniżenia kosztów szkolenia dużych modeli może być zapewnienie dostępu do rozwoju dużych modeli stronom, które nie mogą sobie pozwolić na tego rodzaju ogromne koszty leasingu, które zwykle są wymagane, powiedział Feldman.
"Widzieliśmy wielokrotnie, że znajomość cen z wyprzedzeniem i czas, jaki to zajmie, są prawdziwymi problemami dla całej klasy klientów i mamy nadzieję, że uda nam się przezwyciężyć te problemy" - powiedział.
Alternatywą, powiedział Feldman, jest to, że firmy wydają ogromne pieniądze na dzierżawę sprzętu na lata.
"Jeśli pomyślisz o sposobie, w jaki największe modele są obecnie trenowane, a wszystkie są w dedykowanych klastrach, które są objęte kilkuletnimi dzierżawami" - powiedział Feldman. "W tej chwili są firmy, które zebrały ogromne pieniądze i mają ogromne wyceny, ale w swoich najśmielszych snach nigdy nie posiadały sprzętu".
Również we wtorek Cerebras ogłosił, że jego superkomputer Andromeda, który zaprezentował na początku tego miesiąca, klaster 16 maszyn CS2, będzie używany przez Jasper, startup wspierany przez kapitał podwyższonego ryzyka, który uruchamia duże modele językowe jako usługę dla aplikacji biznesowych, takich jak generowanie komunikatów prasowych i wpisów na blogach.
Jasper, który ma prawie sto tysięcy płacących klientów za swoją generatywną funkcję tekstową, obsługuje przedsiębiorstwa, które muszą trenować duże modele językowe za pomocą danych klientów, takich jak określona baza wiedzy, katalog produktów i "głos" korporacyjny.
"Chcą spersonalizowanych modeli i bardzo ich chcą" - powiedział Dave Rogenmoser, dyrektor generalny Jasper, na tym samym briefingu prasowym. Pomysł polega na tym, aby dział marketingu "mówił tym samym głosem", a nowi pracownicy "nadążali za tym, aby wszyscy mówili tym samym głosem", co reszta firmy. Obejmuje to takie rzeczy, jak model generujący reklamy na Facebooku przy użyciu zwyczajowego języka klienta.
Możliwość obniżenia kosztów szkolenia i radykalnego przyspieszenia czasu szkolenia dużych modeli językowych "jest dla nas ogromnym atutem" w pracy z Cerebras, powiedział Rogenmoser.
Jasper niedawno zamknął rundę serii A, wyceniając firmę na 1,5 miliarda dolarów, powiedział Rogenmoser.
Korzystanie z dedykowanych klastrów może być nie tylko szybsze i tańsze, ale także bardziej zniuansowane, powiedział szef produktu Cerebras, Andy Hock, podczas tego samego briefingu prasowego.
"Jedną z rzeczy, które obserwujemy szerzej na rynku, jest to, że wiele firm chciałoby mieć możliwość szybkiego badania i rozwijania tych modeli na dużą skalę, ale infrastruktura, która istnieje w tradycyjnej chmurze, po prostu nie ułatwia tego rodzaju badań i rozwoju na dużą skalę" - powiedział Hock.
"Możliwość zadawania pytań, takich jak: czy powinienem trenować od zera [duży model językowy], czy powinienem dostroić publiczny punkt kontrolny typu open source, jaka jest najlepsza odpowiedź, jakie jest najbardziej efektywne wykorzystanie mocy obliczeniowej w celu obniżenia kosztów towarów, aby zapewnić najlepszą obsługę moim klientom - możliwość zadawania tych pytań jest kosztowna i niepraktyczna w wielu przypadkach tradycyjnej infrastruktury".
Gromady w Cerebras umożliwiają Jasperowi i innym zadawanie tych pytań.
Oba ogłoszenia zostały ogłoszone z okazji 36. dorocznej konferencji Neural Information Systems Conference (NeurIPS), premierowej konferencji w dziedzinie sztucznej inteligencji, która odbywa się w tym tygodniu w Nowym Orleanie.