HPE współpracuje z firmą Nvidia, aby oferować rozwój i wdrażanie GenAI „pod klucz”.

Portfolio produktów i usług, nazwane przez HPE Nvidia AI Computing, ma na celu uproszczenie programowania i zarządzania obciążeniami związanymi ze sztuczną inteligencją.

Hewlett Packard Enterprise (HPE) nawiązał współpracę z firmą Nvidia, aby zaoferować to, co reklamują jako zintegrowane rozwiązanie „pod klucz” dla organizacji, które chcą wdrożyć generatywną sztuczną inteligencję (GenAI), ale zniechęca je złożoność tworzenia takich obciążeń i zarządzania nimi.

Portfolio produktów i usług, nazwane przez HPE Nvidia AI Computing, obejmuje wspólnie opracowane aplikacje AI i obie firmy będą wspólnie prezentować i dostarczać rozwiązania klientom. Zrobią to wspólnie z partnerami handlowymi, do których należą Deloitte, Infosys i Wipro.

Rozszerzenie partnerstwa HPE-Nvidia, które trwa od dziesięcioleci, zostało ogłoszone podczas przemówienia prezesa i dyrektora generalnego HPE Antonio Neri na konferencji HPE Discover 2024, która odbyła się w tym tygodniu w Sphere w Las Vegas. Na scenie dołączył do niego założyciel i dyrektor generalny Nvidii Jensen Huang.

Neri zauważył, że GenAI ma znaczną moc transformacyjną, ale złożoność fragmentarycznej technologii sztucznej inteligencji wiąże się ze zbyt wieloma zagrożeniami, które utrudniają wdrażanie rozwiązań biznesowych na dużą skalę. Pośpiech w adaptacji może być kosztowny, szczególnie w przypadku najcenniejszego aktywa firmy - danych - dodał.

Huang dodał, że sztuczna inteligencja składa się z trzech kluczowych elementów, a mianowicie dużych modeli językowych (LLM) oraz zasobów obliczeniowych umożliwiających przetwarzanie tych modeli i danych. Dlatego firmy będą potrzebować stosu obliczeniowego, stosu modeli i stosu danych. Każde z nich jest skomplikowane we wdrożeniu i zarządzaniu, powiedział.

Partnerstwo HPE-Nvidia pracowało nad stworzeniem tych modeli, wykorzystując platformę oprogramowania AI Enterprise firmy Nvidia, w tym mikrousługi wnioskowania Nvidia NIM, oraz oprogramowanie HPE AI Essentials, które zapewnia wyselekcjonowane narzędzia sztucznej inteligencji i fundamentów danych wraz ze scentralizowanym panelem sterowania.

Rozwiązanie „pod klucz” umożliwi organizacjom, które nie mają czasu ani wiedzy specjalistycznej, aby połączyć wszystkie możliwości, w tym modele szkoleniowe, skoncentrować swoje zasoby zamiast tego na opracowywaniu nowych przypadków użycia sztucznej inteligencji, powiedział Neri.

Kluczem do tego jest HPE Private Cloud AI, powiedział, który oferuje zintegrowany stos AI obejmujący sieć Nvidia Spectrum-X Ethernet, HPE GreenLake do przechowywania plików i serwery HPE ProLiant zoptymalizowane do obsługi procesorów graficznych Nvidia L40S, H100 NVL Tensor Core, i platformę GH200 NVL2.

Sztuczna inteligencja wymaga chmury hybrydowej z założenia, aby skutecznie dostarczać GenAI przez cały cykl życia sztucznej inteligencji, powiedział Neri, powtarzając to, co powiedział w marcu na konferencji Nvidia GTC. „Od szkolenia i dostrajania modeli lokalnie, w obiekcie kolokacyjnym lub chmurze publicznej, po wnioskowanie na krawędzi, sztuczna inteligencja jest obciążeniem w chmurze hybrydowej” - powiedział.

Dzięki zintegrowanej ofercie HPE-Nvidia Neri twierdzi, że użytkownicy mogą skonfigurować wdrożenie sztucznej inteligencji za pomocą zaledwie trzech kliknięć i 24 sekund.

Huang powiedział: „GenAI i przyspieszone przetwarzanie danych napędzają fundamentalną transformację, gdy każda branża ściga się, by dołączyć do rewolucji przemysłowej. Nigdy wcześniej Nvidia i HPE nie zintegrowały naszych technologii tak głęboko - łącząc cały stos obliczeniowy Nvidia AI z technologią chmury prywatnej HPE. "

Usuwanie zawiłości i rozłączenie

Wspólne rozwiązanie łączy technologie i zespoły, które niekoniecznie są zintegrowane w organizacjach, powiedział Joseph Yang, dyrektor generalny HPE na region Azji i Pacyfiku i Indii ds. HPC i sztucznej inteligencji.

Zespoły AI (w firmach, które je posiadają) zazwyczaj działają niezależnie od zespołów IT i mogą nawet nie podlegać działowi IT, powiedział Yang w wywiadzie dla ZDNET na marginesie HPE Discover. Wiedzą, jak budować i szkolić modele sztucznej inteligencji, podczas gdy zespoły IT znają architektury chmurowe, w których obsługują obciążenia ogólnego przeznaczenia i mogą nie rozumieć infrastruktur sztucznej inteligencji.

Stwierdził, że istnieje rozdźwięk między nimi, zauważając, że infrastruktura AI i chmura znacznie się od siebie różnią. Na przykład obciążenia w chmurze są zwykle niewielkie, a jeden serwer może obsługiwać kilka maszyn wirtualnych. Dla porównania, obciążenia związane z wnioskowaniem sztucznej inteligencji są duże, a działające modele sztucznej inteligencji wymagają znacznie większej infrastruktury, co utrudnia zarządzanie tymi architekturami.

Zespoły IT borykają się również z rosnącą presją ze strony kierownictwa, aby wdrożyć sztuczną inteligencję, co jeszcze bardziej zwiększa presję i złożoność wdrażania GenAI, powiedział Yang.

Dodał, że organizacje muszą zdecydować, jakiej architektury będą potrzebować, aby kontynuować swoje plany dotyczące sztucznej inteligencji, ponieważ ich istniejąca infrastruktura sprzętowa to mieszanina serwerów, które mogą być przestarzałe. A ponieważ być może nie zainwestowali w prywatną chmurę lub farmę serwerów do obsługi obciążeń AI, napotykają ograniczenia w tym, co mogą zrobić, ponieważ ich istniejące środowisko nie jest skalowalne.

„Przedsiębiorstwa będą potrzebować odpowiedniej infrastruktury obliczeniowej i możliwości, które pozwolą im przyspieszyć innowacje, jednocześnie minimalizując złożoność i ryzyko związane z GenAI” - powiedział Yang. „Portfolio rozwiązań Nvidia AI Computing firmy HPE umożliwi przedsiębiorstwom przyspieszenie osiągania korzyści dzięki GenAI w celu stymulowania nowych możliwości i rozwoju”.

Neri zauważył ponadto, że wdrożenie chmury prywatnej rozwiąże również obawy organizacji dotyczące bezpieczeństwa i suwerenności danych.

Dodał, że HPE przestrzega wszystkich lokalnych przepisów i wymogów zgodności, dlatego zasady i polityki AI będą stosowane zgodnie z potrzebami lokalnego rynku.

Według HPE oferta sztucznej inteligencji w chmurze prywatnej zapewnia obsługę obciążeń AI w zakresie wnioskowania, dostrajania i RAG (generowania wspomaganego pobieraniem), które wykorzystują zastrzeżone dane, a także kontrolę prywatności, bezpieczeństwa i zgodności danych. Oferuje także możliwości ITOps i AIOps w chmurze.

Oparta na usługach chmurowych HPE GreenLake oferta sztucznej inteligencji w chmurze prywatnej umożliwi firmom automatyzację i orkiestrację punktów końcowych, obciążeń i danych w środowiskach hybrydowych.

Rozwiązanie HPE Private Cloud AI ma być ogólnie dostępne jesienią, wraz z serwerem HPE ProLiant DL380a Gen12 z procesorami graficznymi Nvidia H200 NVL Tensor Core i serwerem HPE ProLiant DL384 Gen12 z podwójną kartą Nvidia GH200 NVL2.

Serwer HPE Cray XD670 z procesorem Nvidia H200 NVL ma być ogólnie dostępny latem.

Eileen Yu raportowała dla ZDNET z HPE Discover 2024 w Las Vegas na zaproszenie firmy Hewlett Packard Enterprise.