Red Hat ujawnia główne ulepszenia sztucznej inteligencji Red Hat Enterprise Linux
Zaledwie kilka tygodni po wydaniu Red Hat Enterprise Linux AI firma Red Hat wypuściła następną wersję: RHEL AI 1.2.
Cóż, to było szybkie. Dopiero na początku września firma Red Hat wypuściła wersję Red Hat Enterprise Linux AI (RHEL AI) 1.0. Teraz firma Red Hat ogłosiła ogólną dostępność RHEL AI 1.2. W najnowszej wersji wprowadzono kilka kluczowych ulepszeń mających na celu usprawnienie opracowywania, testowania i wdrażania dużych modeli językowych (LLM).
Zanim przejdziemy do nowości i ulepszeń, oto kilka informacji o tym, co oferuje RHEL AI. Został zaprojektowany, aby usprawnić opracowywanie, testowanie i wdrażanie modeli generatywnej sztucznej inteligencji (gen AI). RHEL AI ma również sprawić, że szkolenia LLM będą przystępne cenowo.
Ta nowa platforma łączy rodzinę wielkojęzycznych modeli Granite (LLM) firmy IBM Research z licencją open source, narzędzia do dopasowywania InstructLab oparte na metodologii LAB oraz wspólne podejście do opracowywania modeli za pośrednictwem projektu InstructLab AI o otwartym kodzie źródłowym.
RHEL AI korzysta również z generacji rozszerzonej wyszukiwania (RAG), aby umożliwić LLM dostęp do zatwierdzonej wiedzy zewnętrznej przechowywanej w bazach danych, dokumentach i innych źródłach danych. Takie podejście zwiększa zdolność RHEL AI do dostarczania właściwej odpowiedzi, a nie odpowiedzi, która brzmi poprawnie.
Następna generacja RHEL AI oferuje rozszerzoną obsługę sprzętu. Nowa wersja obsługuje teraz serwery Lenovo ThinkSystem SR675 V3, oferując fabryczne opcje wstępnego ładowania w celu szybszego i łatwiejszego wdrożenia. W wersji zapoznawczej technologii RHEL AI 1.2 wprowadza obsługę akceleratorów AMD Instinct, w tym procesorów graficznych MI300x do treningu i wnioskowania oraz procesorów graficznych MI210 do zadań wnioskowania.
RHEL AI 1.2 rozszerzył także swój zasięg na główne platformy chmurowe — użytkownicy mogą teraz wdrażać RHEL AI na platformie Azure i Google Cloud Platform (GCP), oprócz istniejącej obsługi AWS i IBM Cloud.
W oprogramowaniu również wprowadzono znaczne ulepszenia. Nowa funkcja „Okresowe punkty kontrolne” zapisuje długie przebiegi treningowe w regularnych odstępach czasu podczas dostrajania. Użytkownicy mogą wznowić szkolenie od ostatniego zapisanego punktu kontrolnego zamiast zaczynać od nowa, oszczędzając cenny czas i zasoby obliczeniowe.
RHEL AI 1.2 jest wyposażony w technologię PyTorch Fully Sharded Data Parallel (FSDP). Wprowadzony jako podgląd technologii, FSDP radykalnie skraca czas szkolenia w przypadku wielofazowego uczenia modeli z danymi syntetycznymi. Technologia ta dzieli parametry modelu, gradienty i stany optymalizatora na równoległe procesy robocze (na przykład procesory graficzne), znacznie skracając czas szkolenia.
RHEL AI kontynuuje działania firmy Red Hat mające na celu uczynienie szkoleń LLM bardziej dostępnymi dla programistów i ekspertów merytorycznych, a nie tylko analityków danych.
Jak powiedział Joe Fernandes, wiceprezes Foundation Model Platform w firmie Red Hat: „RHEL AI umożliwia ekspertom dziedzinowym, a nie tylko badaczom danych, wnoszenie wkładu w zbudowany do określonego celu model sztucznej inteligencji genu w chmurze hybrydowej, jednocześnie umożliwiając organizacjom IT skalować te modele do celów produkcyjnych za pomocą sztucznej inteligencji Red Hat OpenShift.”
Innymi słowy, dzięki RHEL AI sprawianie, że sztuczna inteligencja będzie użyteczna dla Twoich konkretnych potrzeb, staje się jeszcze łatwiejsza.
Wreszcie, wraz z wydaniem RHEL AI 1.2, Red Hat wycofuje także obsługę wersji 1.1, dając użytkownikom 30 dni na aktualizację do najnowszej wersji. Ta szybka iteracja podkreśla agresywne wejście firmy Red Hat na rynek sztucznej inteligencji dla przedsiębiorstw. Na dobre i na złe, rozwój sztucznej inteligencji przyspiesza w stale rosnącym tempie.