Kosztowny powód, dla którego nadchodzące funkcje sztucznej inteligencji Apple nie będą dostępne na Twoim starszym iPhonie
Wyłączenie modeli z niższej półki uwydatnia wyzwania związane z kosztami i infrastrukturą związane z wdrażaniem serwerów z akceleracją sztucznej inteligencji na brzegu sieci.
Podczas WWDC 2024 firma Apple zaprezentowała „Apple Intelligence”, która obejmuje zaawansowane możliwości sztucznej inteligencji w całym ekosystemie. Jednak te funkcje są dostępne tylko na urządzeniach z najwyższej półki, takich jak iPhone 15 Pro, iPad Pro z chipami z serii M i komputery Mac z systemem Apple Silicon.
Dlaczego Apple nie udostępnił tych funkcji w podstawowym modelu iPhone’a 15 i wcześniejszych modelach? Chociaż mogą istnieć inne powody, dla których firma zdecydowała się tego nie robić, na decyzję prawie na pewno wpływają znaczne koszty i wyzwania infrastrukturalne związane z wdrażaniem sztucznej inteligencji na dużą skalę.
Koszt przetwarzania GPU
Zaawansowane funkcje AI wymagają znacznej mocy obliczeniowej, zwykle zapewnianej przez wysokowydajne procesory graficzne. Na przykład procesor NVIDIA MGX z superchipem GH 200 i Grace Hopper przeznaczony do szkolenia sztucznej inteligencji, wnioskowania, 5G i HPC kosztuje około 65 000 dolarów każdy. Wdrożenie tych serwerów regionalnie w celu obsługi urządzeń z niższej półki byłoby zbyt kosztowne. Apple z łatwością potrzebowałby tysięcy takich jednostek do obsługi całej bazy użytkowników, co spowodowałoby astronomiczne koszty prawdopodobnie przeniesione na konsumentów w postaci opłat za usługi.
Nawet główni dostawcy usług AI, tacy jak OpenAI, Microsoft i Google, napotykają wyzwania, oferując społeczeństwu niezawodny i szybki dostęp do modeli LLM i generatywnych AI bez przestojów i nadmiernego angażowania zasobów. Niedobór i koszt serwerów obsługujących procesory graficzne pogarszają te problemy. Aby utrzymać oczekiwany przez klientów szybki czas reakcji, Apple będzie musiał znacząco zainwestować w serwery, centra danych i infrastrukturę brzegową - w poziom infrastruktury, którego prawdopodobnie obecnie nie posiada.
Podejście Apple do Private Cloud Compute (PCC)
W przypadku pierwszego wdrożenia Apple Intelligence firma wybrała podejście hybrydowe, aby zrównoważyć koszty i wydajność, łącząc przetwarzanie na urządzeniu z usługą Private Cloud Compute (PCC). Przetwarzanie na urządzeniu wykorzystuje chip A17 Pro w linii iPhone'a 15 Pro oraz chipy z serii M w iPadach i komputerach Mac, aby zwiększyć bezpieczeństwo i prywatność. W przypadku bardziej wymagających zadań PCC umożliwia działanie w chmurze przy jednoczesnym zachowaniu prywatności użytkownika. PCC został zaprojektowany z wykorzystaniem niestandardowego krzemu Apple i solidnego systemu operacyjnego, aby zapewnić bezpieczeństwo danych osobowych i zapobiec nieautoryzowanemu dostępowi.
Apple koncentruje się obecnie na wdrażaniu usług generatywnej sztucznej inteligencji na urządzeniach z najwyższej półki w ramach początkowej fazy wdrożenia Apple Intelligence. Dzięki temu Apple może ulepszyć swoje możliwości i infrastrukturę w zakresie sztucznej inteligencji przed rozszerzeniem swojej oferty na szerszą gamę urządzeń. Aby wprowadzić Apple Intelligence do reszty swojego ekosystemu, firma prawdopodobnie wdroży urządzenia serwerowe z akceleracją sztucznej inteligencji na brzegu sieci, umożliwiając mniej wydajnym urządzeniom korzystanie z zaawansowanych funkcji sztucznej inteligencji. Infrastruktura ta nie jest jednak jeszcze gotowa do wdrożenia na dużą skalę, ponieważ przejście Apple na rozwój sztucznej inteligencji dopiero niedawno.
Wyzwania przetwarzania brzegowego
Przetwarzanie brzegowe, które polega na przetwarzaniu danych bliżej miejsca ich generowania, zamiast polegać wyłącznie na scentralizowanych centrach danych, mogłoby znacząco zwiększyć wydajność i zmniejszyć opóźnienia. Jednak wdrażanie infrastruktury przetwarzania brzegowego jest złożone i kosztowne oraz wymaga solidnych rozwiązań sprzętowych i programowych, aby zapewnić bezproblemową integrację i bezpieczeństwo. Apple jest znane ze skrupulatnego podejścia do rozwoju sprzętu i oprogramowania, a firma prawdopodobnie nadal testuje i udoskonala swoje rozwiązania do przetwarzania brzegowego, zanim wdroży je na dużą skalę.
Choć NVIDIA jest głównym graczem na rynku serwerów GPU, do innych należą tradycyjni dostawcy serwerów x86 opartych na procesorach Intel i ARM, tacy jak Qualcomm i Ampere. Serwery te mogą również korzystać z procesorów graficznych NVIDIA, ale Apple prawdopodobnie chce kontrolować integrację ze swoim systemem operacyjnym i układem krzemowym, aby wdrożyć obliczenia AI. Ponadto łańcuch dostaw firmy NVIDIA lub dowolnego innego dostawcy serwerów HPC jest prawdopodobnie niewystarczający, aby spełnić wymagania firmy Apple dotyczące wdrożeń na dużą skalę.
Jak donosi The Register, Apple opracowuje własne serwery AI, które mają być bardziej opłacalne i lepiej zintegrowane z ekosystemem. Serwery te są obecnie testowane w centrach danych pod kątem wykorzystania w podstawowym modelu, a ich szersze wdrożenie przewidywane jest na rok 2025. To etapowe podejście gwarantuje Apple utrzymanie wysokich standardów prywatności, bezpieczeństwa i komfortu użytkownika, przy jednoczesnym stopniowym rozszerzaniu możliwości sztucznej inteligencji w całej gamie urządzeń.
Szersze implikacje dla Internetu Rzeczy i innych urządzeń
Decyzja Apple o ograniczeniu Apple Intelligence do modeli z najwyższej półki wynika ze znacznych wyzwań związanych z kosztami i infrastrukturą związanych z wdrażaniem sztucznej inteligencji na dużą skalę, co pozwala firmie zapewnić płynną i bezpieczną obsługę użytkownika, jednocześnie kładąc podwaliny pod przyszłe rozszerzenia.
Zapotrzebowanie na serwery przyspieszane przez sztuczną inteligencję nie dotyczy tylko starszych telefonów i urządzeń z niższej półki. Produkty Apple IoT, takie jak Apple Watch, Apple TV i HomePod, którym brakuje mocy obliczeniowej dla sztucznej inteligencji na urządzeniu, również odniosłyby korzyści z takiej infrastruktury. Jest mało prawdopodobne, aby te urządzenia wkrótce obsługiwały obliczenia AI na urządzeniach, co sprawi, że rozwiązania chmurowe i brzegowe staną się jeszcze bardziej krytyczne.
Gdy Apple wprowadza Apple Intelligence, użytkownicy starszych modeli lub modeli innych niż Pro mogą czuć się pominięci. Jasna komunikacja od Apple dotycząca strategii etapowego wdrażania i planów szerszego wdrożenia będzie ważna w zarządzaniu oczekiwaniami użytkowników.
W miarę jak Apple kontynuuje rozwój swojej infrastruktury sztucznej inteligencji, w tym potencjalnych rozwiązań przetwarzania brzegowego, spodziewamy się, że w nadchodzących latach nastąpi szersze wdrożenie Apple Intelligence. To etapowe podejście gwarantuje, że Apple będzie w stanie utrzymać wysokie standardy prywatności, bezpieczeństwa i wygody użytkownika, jednocześnie stopniowo rozszerzając możliwości sztucznej inteligencji w całej gamie swoich urządzeń.