Red Hat uwalnia sztuczną inteligencję Enterprise Linux - i jest ona naprawdę przydatna
Wiele programów AI, pomimo całego szumu, nie jest aż tak przydatnych. Z drugiej strony Red Hat Enterprise Linux AI pomoże zarówno administratorom systemów, jak i programistom.
Firma Red Hathas oficjalnie udostępniła technologię Red Hat Enterprise Linux (RHEL) AI. To nie jest po prostu kolejna premiera produktu; to naprawdę przydatne podejście do sztucznej inteligencji, które administratorzy i programiści RHEL uznają za wyjątkowo pomocne.
RHEL AI ma uprościć wdrażanie w całym przedsiębiorstwie, oferując w pełni zoptymalizowany, startowy obraz RHEL do wdrożeń serwerów w środowiskach chmury hybrydowej. Te zoptymalizowane instancje wykonawcze modelu startowego współpracują z modelami Granite i pakietami narzędzi InstructLab. Obejmują one zoptymalizowane biblioteki wykonawcze Pytorch i akceleratory GPU dla procesorów AMD Instinct MI300X, procesorów graficznych Intel i NVIDIA oraz frameworków NeMo.
To podstawowa platforma AI firmy Red Hat. Program ma na celu usprawnienie opracowywania, testowania i wdrażania generatywnego modelu AI (gen AI). Ta nowa platforma łączy rodzinę wielkojęzycznych modeli Granite (LLM) firmy IBM Research z licencją open source, narzędzia do dopasowywania InstructLab oparte na metodologii LAB oraz podejście oparte na współpracy przy opracowywaniu modeli w ramach projektu InstructLab.
IBM Research jest pionierem metodologii LAB, która wykorzystuje syntetyczne generowanie danych i wielofazowe dostrajanie w celu dostosowania modeli AI/ML bez kosztownego wysiłku ręcznego. Podejście LAB, udoskonalone przez społeczność InstructLab, umożliwia programistom tworzenie i wnoszenie wkładu w LLM, tak samo jak w przypadku każdego projektu typu open source.
Wraz z uruchomieniem oprogramowania InstructLab firma IBM udostępniła także wybrane modele języka i kodu Granite English na licencji Apache, udostępniając przejrzyste zbiory danych na potrzeby szkoleń i wkładu społeczności. Model języka angielskiego Granite 7B jest teraz zintegrowany z InstructLab, gdzie użytkownicy mogą wspólnie zwiększać jego możliwości.
RHEL AI jest również zintegrowany z OpenShift AI, platformą operacji uczenia maszynowego (MLops) firmy Red Hat. Pozwala to na wdrażanie modeli na dużą skalę w rozproszonych klastrach Kubernetes.
Spójrzmy prawdzie w oczy: sztuczna inteligencja nie jest tania. Wyszkolenie wiodących modeli wielkojęzykowych (LLM) kosztuje dziesiątki milionów. Dzieje się tak, zanim w ogóle zaczniesz myśleć o dostrojeniu do konkretnych przypadków użycia. RHEL AI to próba Red Hata sprowadzenia astronomicznych kosztów na ziemię.
Red Hat częściowo robi to za pomocą generacji rozszerzonej pobierania (RAG). RAG umożliwia LLM dostęp do zatwierdzonej wiedzy zewnętrznej przechowywanej w bazach danych, dokumentach i innych źródłach danych. Zwiększa to zdolność RHEL AI do dostarczania właściwej odpowiedzi, a nie odpowiedzi, która po prostu brzmi dobrze.
Oznacza to również, że możesz szkolić instancje RHEL AI od ekspertów merytorycznych z Twojej firmy bez konieczności posiadania doktoratu. w uczeniu maszynowym. Dzięki temu sztuczna inteligencja RHEL będzie znacznie bardziej użyteczna niż sztuczna inteligencja ogólnego przeznaczenia, jeśli chodzi o wykonywanie pracy, którą musisz wykonać, zamiast pisać fikcję dla fanów Gwiezdnych Wojen.
W oświadczeniu Joe Fernandes, wiceprezes Foundation Model Platform w firmie Red Hat, powiedział: „RHEL AI umożliwia ekspertom dziedzinowym, a nie tylko badaczom danych, wnoszenie wkładu w budowany specjalnie do tego celu model sztucznej inteligencji genu w chmurze hybrydowej, a jednocześnie umożliwiając organizacjom IT skalowanie tych modeli do celów produkcyjnych za pośrednictwem sztucznej inteligencji Red Hat OpenShift.”
RHEL AI nie jest powiązany z żadnym pojedynczym środowiskiem. Został zaprojektowany do działania wszędzie tam, gdzie znajdują się Twoje dane — lokalnie, na brzegu sieci lub w chmurze publicznej. Ta elastyczność jest kluczowa przy wdrażaniu strategii sztucznej inteligencji bez całkowitej przebudowy istniejącej infrastruktury.
Program jest teraz dostępny w Amazon Web Services (AWS) i IBM Cloud w ramach subskrypcji „przynieś własne (BYO)”. W ciągu najbliższych kilku miesięcy będzie dostępna jako usługa na platformach AWS, Google Cloud Platform (GCP), IBM Cloud i Microsoft Azure.
Firma Dell Technologies ogłosiła współpracę w celu wprowadzenia technologii RHEL AI do serwerów Dell PowerEdge. Celem tego partnerstwa jest uproszczenie wdrażania sztucznej inteligencji poprzez dostarczanie sprawdzonych rozwiązań sprzętowych, w tym akcelerowanych obliczeń NVIDIA, zoptymalizowanych pod kątem sztucznej inteligencji RHEL.
Jako osoba zajmująca się oprogramowaniem typu open source od dziesięcioleci i bawiąca się sztuczną inteligencją, gdy Lisp był uważany za najnowocześniejszy, uważam, że RHEL AI oferuje znaczącą zmianę w podejściu przedsiębiorstw do sztucznej inteligencji. Łącząc moc open source ze wsparciem klasy korporacyjnej, Red Hat pozycjonuje się na czele rewolucji AI.
Prawdziwym testem będzie oczywiście zastosowanie i zastosowania w świecie rzeczywistym. Jeśli jednak można brać pod uwagę osiągnięcia Red Hata, RHEL AI może równie dobrze być platformą, która wyprowadza sztuczną inteligencję ze świata gigantów technologicznych i trafia w ręce firm każdej wielkości.