W erze komputerów PC ze sztuczną inteligencją nadchodzi nowy test szybkości
Nowy test porównawczy klienta MLPerf oceni, jak dobrze chipy i systemy radzą sobie z generatywną sztuczną inteligencją na komputerach stacjonarnych, laptopach i stacjach roboczych, zaczynając od Meta's Llama 2 LLM.
Nowe komputery PC z chipem Core Ultra są już dostępne podczas wydarzenia Intela.
Ten rok będzie rokiem „komputerów ze sztuczną inteligencją”, przynajmniej według dyrektorów generalnych firm Intel i Advanced Micro Devices (AMD), którzy wraz ze swoimi partnerami firmą Dell zasygnalizowali zamiar wprowadzenia znaczących możliwości sztucznej inteligencji do komputerów osobistych , HP, Inc. i Lenovo, między innymi.
W oczekiwaniu na falę laptopów i komputerów stacjonarnych ze specjalnymi możliwościami sztucznej inteligencji, wiodąca w branży komputerowej organizacja zajmująca się oceną wydajności sieci neuronowych ogłosiła w tym tygodniu utworzenie nowej inicjatywy mającej na celu porównywanie sztucznej inteligencji na komputerach osobistych.
Nowy test porównawczy klienta MLPerf pozwoli ocenić, jak dobrze chipy i systemy radzą sobie z generatywną sztuczną inteligencją na komputerach stacjonarnych, laptopach i stacjach roboczych, stwierdziło w poście na blogu MLCommons, konsorcjum branżowe, które od pięciu lat publikuje różne testy porównawcze sztucznej inteligencji.
Intel i AMD mają nadzieję, że nowe możliwości AI zwiększą sprzedaż komputerów stacjonarnych.
Początkowe testy porównawcze będą skupiać się na pomiarze szybkości, z jaką komputery formułują przewidywania, co jest powszechnie znane jako „wnioskowanie” w przeciwieństwie do „trenowania”, czyli momentu, w którym po raz pierwszy opracowuje się sieć neuronową. Większość klienckich urządzeń komputerowych nie ma mocy wymaganej do szkolenia sieci neuronowych, zatem logicznym punktem wyjścia jest wnioskowanie.
Pierwszy test porównawczy wnioskowania będzie obejmował zadania z wykorzystaniem dużego modelu językowego Llama 2 o otwartym kodzie źródłowym firmy Meta.
Współprzewodniczącymi grupy roboczej MLPerf Client są Ramesh Jaladi, starszy dyrektor ds. inżynierii w grupie IP Performance w firmie Intel; Yannis Minadakis, partner GM, rozwój oprogramowania w firmie Microsoft; oraz Jani Joki, dyrektor ds. testów porównawczych wydajności w firmie NVIDIA.
Nowy benchmark pojawił się w samą porę, ponieważ dyrektorzy komputerów osobistych pokładają nadzieje w ożywieniu podupadającego rynku komputerów osobistych w lokalnym przetwarzaniu sztucznej inteligencji jako uzupełnieniu przetwarzania w chmurze, które obecnie dominuje nad sztuczną inteligencją. Według firmy badawczej Gartner sprzedaż komputerów PC spadła w zeszłym roku o 15% w ujęciu jednostkowym, co stanowi najgorszy rok w historii komputerów osobistych.
W zeszłym miesiącu podczas wydarzenia medialnego dyrektor generalny Intela, Pat Gelsinger, zachwalał najnowszy układ firmy do komputerów stacjonarnych, Core Ultra, o nazwie kodowej „Meteor Lake”, jako platformę sztucznej inteligencji. Po raz pierwszy w jakimkolwiek procesorze Intel do komputerów stacjonarnych chip zawiera dedykowaną jednostkę akceleratora dla sztucznej inteligencji, zwaną jednostką przetwarzania neuronowego (NPU).
Według Intela ten układ NPU umożliwi „nowy poziom energooszczędnego akceleracji AI z 2,5 razy lepszą wydajnością energetyczną w porównaniu z poprzednią generacją” chipów Core.
Jak poinformowało ZDNET MLCommons, za pośrednictwem poczty elektronicznej portal MLCommons przekazał ZDNET datę premiery pierwszego testu porównawczego prawdopodobnie za kilka miesięcy. Inne raporty porównawcze były zazwyczaj publikowane dwa razy w roku.