OpenAI oferuje GPT-4o mini, aby obniżyć koszty aplikacji
Odchudzona wersja GPT-4o będzie kosztować programistów o 60% mniej przy prognozowaniu za pomocą modelu.
W czwartek OpenAI zaprezentowało uproszczoną wersję swojego dużego modelu językowego GPT-4o, GPT-4o mini, który według startupu ma lepszą dokładność niż GPT-4 i kosztuje znacznie mniej niż GPT-3.5 Turbo, gdy jest używany przez programistów, dla którym może przyspieszyć rozwój aplikacji korzystających w szerokim zakresie z modelu AI.
Startup reklamuje nowy model AI jako „najtańszy mały model na rynku”, choć - podobnie jak w przypadku większości wydań OpenAI - nie są dostępne żadne szczegóły techniczne dotyczące GPT-4o mini (takie jak liczba parametrów), więc jest to nie jest jasne, co w tym przypadku oznacza „mały”.
(„Model sztucznej inteligencji” to część programu sztucznej inteligencji, która zawiera liczne parametry sieci neuronowej i funkcje aktywacji, które są kluczowymi elementami funkcjonowania programu sztucznej inteligencji).
GPT-4o mini „jest wyceniony na 15 centów za milion tokenów wejściowych i 60 centów za milion tokenów wyjściowych, co oznacza rząd wielkości tańszy niż poprzednie modele frontierowe i ponad 60% tańszy niż GPT-3.5 Turbo” - napisał OpenAI na blogu post przesłany e-mailem do ZDNET.
Startup twierdzi, że redukcja kosztów pomoże w opracowywaniu aplikacji, na które wpływa wielkość aktywności.
Na przykład aplikacje, które muszą wykonywać wiele wywołań interfejsu programowania aplikacji (API) lub które używają większych „okien kontekstowych” do pobierania materiałów (powiedzmy w celu pobrania całej bazy kodu podczas tworzenia aplikacji) lub które muszą często wchodzić w interakcję z OpenAI twierdzi, że użytkownik, taki jak bot wsparcia technicznego, odniesie korzyści z obniżenia kosztów transakcji.
Model ten przewyższa standardowy model GPT-4, gdy jest używany jako chatbot, co stwierdzono na podstawie testów crowdsourcingowych przeprowadzonych przez tabelę liderów Lmsys. „Przewyższa także GPT-3.5 Turbo i inne małe modele w akademickich testach porównawczych zarówno pod względem inteligencji tekstowej, jak i rozumowania wielomodalnego” i obsługuje tyle języków, co standardowy model GPT-4o.
W popularnych testach porównawczych AI, takich jak test „MMU” „rozumowania multimodalnego”, mini model GPT-4o pokonuje kilka innych i jest bliski wydajności standardowego GPT-4o.
W popularnych testach porównawczych AI, takich jak test „MMU” „rozumowania multimodalnego”, mini model GPT-4o pokonuje kilka innych i jest bliski wydajności standardowego GPT-4o.
Nowy model jest natychmiast dostępny dla programistów za pośrednictwem Assistants API, Chat Completions API i Batch API i może być używany zamiast GPT-3.5 Turbo na kontach ChatGPT bezpłatnych, Plus i Team.
GPT-4o mini obsługuje obecnie wyłącznie tekst i obraz, a audio i wideo zostaną dodane w bliżej nieokreślonym terminie. Miniokno kontekstowe GPT-4o zawiera 128 000 tokenów, a jego dane szkoleniowe są aktualne do października 2023 r.