Wyszukiwanie w witrynie

Meta zmierza w stronę sztucznej inteligencji typu open source dzięki nowej lamie 3.1


Czy model Meta zawierający 405 miliardów parametrów jest naprawdę open source? Zależy kogo spytasz. Oto, jak samodzielnie wypróbować nowy silnik.

Meta, spółka matka Facebooka, ogłosiła nowy program AI typu open source o nazwie Llama 3.1 405B. Za nazwą, którą może pokochać tylko programista, kryje się nowy, potężniejszy model wielkojęzykowy (LLM), który będzie obsługiwał asystenta Meta AI, który jest wbudowany w wiele programów użytkownika końcowego Meta.

Dyrektor generalny Meta Mark Zuckerberg zaprezentował Lamę 3.1 w poście w Threads, w którym ogłosił, że „sztuczna sztuczna inteligencja typu open source to droga naprzód”. W wywiadzie dla Rundown.ai Zuckerberg dodał: „Modele otwarte będą standardem i myślę, że wyjdzie to na dobre światu. Tworzenie funkcji zgodnych z tym, w co się wierzy, jest trochę miażdżące”. jest dobre dla Twojej społeczności, a potem powiedziano Ci, że nie możesz ich wysłać, ponieważ jakaś firma chce umieścić Cię w pudełku, aby móc z Tobą lepiej konkurować”.

Czy to oznacza, że Llama 3.1 jest naprawdę oprogramowaniem typu open source? Odpowiedź ma znaczenie. Jak Neal Gompa, programista Linuksa, zapytał w serwisie Mastodon: „Czy to oznacza, że Lama 3 jest objęta zatwierdzoną przez OSI [Open Source Initiative] licencją open source, w przeciwieństwie do swoich poprzedników? Nie mogliśmy dostarczyć Lamy 2 w Fedorze ze względu na jej brak zastosowania licencji open source zatwierdzonej przez OSI.”

Odpowiedź brzmi: nie. W wywiadzie dyrektor wykonawczy OSI, Stefano Maffulli, powiedział mi: „Teoretycznie zgadzamy się ze wszystkim, co napisał i powiedział Zuck. Gdyby tylko licencja Meta usunęła ograniczenia, bylibyśmy bardziej zsynchronizowani”.

„W obecnym stanie” - kontynuował Maffulli - „lama jest obowiązkiem każdego programisty; jest zbyt nieprzejrzysta, aby można ją było bezpiecznie używać, i z licencją, która ostatecznie pozostawia Meta odpowiedzialną za ich innowacje”.

Zgadza się z tym Stephen O'Grady, analityk branżowy RedMonk. „To miła wiadomość, że Meta zniosła niektóre ograniczenia użytkowania związane z Lamą, ale dopóki nadal ogranicza firmy, które mogą korzystać z oprogramowania, tak jak ma to miejsce w przypadku nowej licencji, z całą pewnością i niezaprzeczalnie nie jest to oprogramowanie typu open source. Na przykład Linux zostały wydane na tej licencji, Meta byłaby uprawniona do korzystania z nich, ale firmy takie jak Amazon, Google i Microsoft nie mogłyby tego zrobić. To nie jest oprogramowanie typu open source i my byśmy tego nie zaakceptowali.

Według Zuckerberga, wychodząc poza kwestie open source i przechodząc do technologii, nowy model ma być bardziej wydajny i wydajny niż jego poprzednicy. Oferuje ulepszone możliwości dla różnych zastosowań, od przetwarzania języka naturalnego po złożoną analizę danych. W szczególności uważa, że metoda Meta jest lepsza niż podejście Apple oparte na sztucznej inteligencji.

Nowa Llama może poszczycić się modelem o 405 miliardach parametrów, co czyni ją jednym z najbardziej wyrafinowanych dostępnych modeli sztucznej inteligencji. To wciąż znacznie mniej niż ChatGPT 4.0 z 1,8 biliona parametrów. To powiedziawszy, jest to nadal znaczące ulepszenie. Oczekuje się, że poprawi wydajność w zakresie tłumaczeń językowych, tworzenia treści i badań naukowych.

Zuckerberg twierdzi, że Llama 3.1 „jest konkurencyjna w stosunku do niektórych wiodących modeli zamkniętych, a w niektórych obszarach nawet ją wyprzedza”. Benchmarking Meta pokazuje, że Llama jest konkurencyjna w stosunku do wiodących modeli podstawowych, w tym GPT-4, GPT-4o i Claude 3.5 Sonnet, w różnych zadaniach. Stwierdza również: „Według naszych szacunków wnioskowanie bezpośrednio na modelu 405B będzie o 50% tańsze niż GPT-4”.

Nowy model jest już dostępny u ponad 25 partnerów, w tym AWS, NVIDIA, Databricks, Groq, Dell, Azure i Google Cloud. Meta stwierdziła również, że jest gotowa do obsługi takich popularnych narzędzi AI, jak vLLM, TensorRT i PyTorch, dzięki czemu programiści mogą od razu przystąpić do pracy z Llamą 3.1

Możesz samodzielnie wypróbować nowy silnik. Programiści mogą sami sprawdzić Llamę 3.1 tutaj.

Powiązane artykuły