Komputery z procesorem Intel Core Ultra uzyskują bardziej zoptymalizowane modele AI, w tym stabilną dyfuzję
Rewolucja generatywnej sztucznej inteligencji skupiała się głównie na uruchamianiu dużych i złożonych modeli sztucznej inteligencji w serwerowych centrach danych. Niektóre modele AI są jednak wystarczająco zoptymalizowane, aby działać na typowych komputerach, a Intel czyni w tym zakresie pewne postępy.
Firma Intel ogłosiła dzisiaj, że dostępnych jest obecnie ponad 500 modeli AI zoptymalizowanych pod kątem nowych procesorów Intel Core Ultra, które zostały zaprezentowane w grudniu i zaczęły pojawiać się w nowych laptopach PC. Lista ta prawdopodobnie zawiera wiele modeli eksperymentalnych i testowych, które nie służą praktycznemu celowi w większości zastosowań, ale jest kilka dużych: Phi-2, model Lllama Meta, Mistral, Bert, Whisper i Stable Diffusion 1.5.
Intel oświadczył w komunikacie prasowym: „Modele stanowią podstawę funkcji oprogramowania wspomaganych sztuczną inteligencją, takich jak usuwanie obiektów, superrozdzielczość obrazu czy podsumowywanie tekstu. Istnieje bezpośredni związek między liczbą włączonych/zoptymalizowanych modeli a szeroką gamą funkcji sztucznej inteligencji dostępnych dla użytkownika, które można wprowadzić na rynek. Bez modelu nie można zaprojektować funkcji. Bez optymalizacji czasu działania funkcja nie może osiągnąć najlepszej wydajności.
Większość (jeśli nie wszystkie) tych modeli AI może działać na sprzęcie innej firmy niż Intel, ale dodanie obsługi nowszych funkcji sprzętowych, specyficznych dla najnowszych chipów Intela, czyni je bardziej praktycznymi w rzeczywistym użyciu. Na przykład Intel stwierdził, że proces optymalizacji modelu OpenVINO AI obejmował „równoważenie obciążenia wszystkich jednostek obliczeniowych, kompresję modeli w celu wydajnego działania na komputerze AI oraz optymalizację czasu działania w celu wykorzystania przepustowości pamięci i architektury rdzenia w ramach Intel Core Ultra .”
Uczenie maszynowe i modele sztucznej inteligencji działające lokalnie na komputerach nie są niczym nowym, ale uruchamianie nowszych generatywnych modeli sztucznej inteligencji lokalnie na komputerach PC ma kilka interesujących przypadków zastosowania. Możesz mieć coś takiego jak ChatGPT i Microsoft Copilot działające całkowicie na swoim komputerze, potencjalnie eliminując obawy dotyczące prywatności i wymagania dotyczące łączności sieciowej, które wiążą się z szybkim wysyłaniem danych do serwerów zewnętrznych. Lokalny chatbot ChatRTX firmy NVIDIA jest krokiem w tym kierunku, ale wciąż ma charakter eksperymentalny i wymaga komputera PC z wydajną kartą graficzną RTX z serii 30 lub 40.
Intel ma nadzieję, że oprogramowanie korzystające z tych zoptymalizowanych modeli może skłonić ludzi do zakupu nowszych komputerów z procesorami Core Ultra. Na razie jednak oparte na chmurze narzędzia AI, takie jak ChatGPT i Copilot, nigdzie się nie wybierają.
Źródło: Intel