W końcu generatywna sztuczna inteligencja nie musi być pożeraczem władzy

Nowe badania wskazują, że w przypadku sztucznej inteligencji firmy nie przedkładają już mocy obliczeniowej nad wydajność. Oto dlaczego to ma znaczenie.

Podobnie jak kryzys wieku średniego, gdy tata wyrzucił swojego oszczędnego sedana na rzecz pochłaniającego paliwo samochodu typu muscle car, rozwój generatywnej sztucznej inteligencji (AI generacji) i jej energochłonnych procesorów graficznych wydawał się być sygnałem śmierci dla wszelkich obaw związanych z obliczeniami efektywność energetyczna i zrównoważony rozwój przedsiębiorstwa.

Pierwsze liczby zdawały się potwierdzać ten koszmar. Po latach stałego wzrostu zobowiązań na rzecz zmniejszania zużycia energii i tworzenia wydajnych możliwości obliczeniowych badanie przeprowadzone w Aberdeen w 2023 r. po raz pierwszy wykazało niewielki spadek tych wskaźników, ponieważ przedsiębiorstwa odkładały na bok zobowiązania w zakresie wydajności w wyścigu o wdrażanie potężnej infrastruktury obliczeniowej w celu wykorzystania sztucznych inteligencja (AI).

Trudno winić firmy za tę pomyłkę. W końcu zapierający dech w piersiach szum towarzyszący pierwszej fali sztucznej inteligencji gen. sprawił, że wiele organizacji uwierzyło, że muszą jak najszybciej dysponować rozwiązaniami i możliwościami w zakresie sztucznej inteligencji.

Towarzyszyło to opowieściom o niedoborach procesorów graficznych i wzroście mocy pewnej firmy produkującej układy graficzne, która kładła nacisk na moc obliczeniową zamiast oszczędzania energii. Słyszeliśmy nawet od niektórych mniejszych firm kupujących systemy do gier w celu tworzenia sztucznej inteligencji. Przez pewien czas wydawało się, że era zrównoważonego rozwoju, oszczędzania energii i zobowiązań dotyczących zerowej emisji dwutlenku węgla stoi na dość niepewnym gruncie.

Jednak wraz ze zmniejszeniem szumu medialnego i wzrostem rozsądnego sceptycyzmu wobec niektórych z bardziej ekstremalnych przewidywań dotyczących sztucznej inteligencji, trendy w stosowaniu i wdrażaniu generatywnej sztucznej inteligencji pokazują, że wiele firm może korzystać ze sztucznej inteligencji, jednocześnie zmniejszając zużycie energii i koszty.

Aby zrozumieć niektóre z tych trendów, firma Aberdeen przeprowadziła niedawno nową ankietę dotyczącą sposobu, w jaki firmy wykorzystują sztuczną inteligencję i planują jej używać. W tej ankiecie zapytaliśmy o czynniki skłaniające firmy do korzystania ze sztucznej inteligencji, stojące przed nimi wyzwania, kluczowe strategie i technologie, z których korzystają, a także jakie korzyści mogli już zauważyć z korzystania ze sztucznej inteligencji. Wyniki zostaną zaprezentowane na nadchodzącej konferencji SpiceWorld w listopadzie w Austin.

Jak można się spodziewać, większość organizacji traktuje sztuczną inteligencję bardzo poważnie: ponad 90% korzysta ze sztucznej inteligencji w jakiejś formie, a 25% dokonuje specjalnych inwestycji strategicznych w budowanie sztucznej inteligencji (oczekuje się, że liczba ta wzrośnie o ponad 20% w ciągu najbliższych sześciu miesięcy). Jednak, co ciekawe, obserwujemy również wzrost bardziej praktycznego i skoncentrowanego na wydajności podejścia do korzystania z sztucznej inteligencji generacji.

W dużej mierze firmy chcą wykorzystać sztuczną inteligencję wewnętrznie, wykorzystując własne dane i korzystając z małych, niestandardowych modeli językowych. Na pierwszy rzut oka może to prowadzić do obaw, że firma będzie inwestować w wiele energochłonnych systemów intensywnie wykorzystujących procesor graficzny.

Jednak coraz częściej firmy przekonują się, że budowanie małych, niestandardowych modeli nie wymaga ogromnych banków wydajnych systemów (słyszałem, że niektóre firmy budowały swoje modele na laptopie jednego inżyniera) i że zużycie energii można ograniczyć do minimum. Tak naprawdę, gdy zapytaliśmy, jakie technologie kupują firmy, aby wesprzeć swoje inicjatywy związane ze sztuczną inteligencją, procesory graficzne spadły na 4. miejsce, podczas gdy na szczycie listy znalazła się zwiększona pojemność pamięci masowej i możliwości chmury hybrydowej.

Tendencje te mają sens, ponieważ firmy muszą zarządzać ogromnymi ilościami danych potrzebnych do zasilania swoich modeli sztucznej inteligencji i je przechowywać. Coraz częściej modele chmur hybrydowych, które wykorzystują elastyczność chmury oraz bezpieczeństwo i wydajność rozwiązań lokalnych, okazują się podstawową infrastrukturą do wdrażania rozwiązań AI.

Co najważniejsze, jeśli chodzi o wykorzystanie generatywnej sztucznej inteligencji, firmy i użytkownicy sztucznej inteligencji nie przedkładają już mocy obliczeniowej nad wydajność. W naszym badaniu zaobserwowaliśmy, że spadek obaw związanych ze zużyciem energii uległ odwróceniu, a zamiast tego zaobserwowaliśmy 10% wzrost obaw związanych ze zużyciem energii, ponieważ organizacje te rozumieją, że mogą czerpać korzyści ze sztucznej inteligencji bez odrzucania oszczędzania energii i zrównoważonego rozwoju okno.

Oczywiście, jeśli chodzi o największych dostawców sztucznej inteligencji na świecie, energia jest nadal koniecznością, dlatego widzimy, jak główni gracze, tacy jak Amazon, Microsoft i Google, zawierają umowy na wyłączność na energię z nowych elektrowni jądrowych. Istnieją jednak inne trendy i potencjalne nowe technologie związane ze sztuczną inteligencją, które mogą nawet zmniejszyć zużycie energii przez tych gigantów.

Naukowcy z sektora prywatnego i publicznego pracują nad nowymi technikami wykorzystującymi mnożenie złożoności liniowej i mnożenie macierzy, które mogą potencjalnie znacznie zmniejszyć zużycie energii przez generatywną sztuczną inteligencję oraz je demonstrują. W najbliższej perspektywie zaobserwowaliśmy kilka nowych rozwiązań serwerów i systemów od głównych dostawców, które zaprojektowano z myślą o większej wydajności w tworzeniu i rozwijaniu rozwiązań AI.

Wszystko to oznacza, że era generatywnej sztucznej inteligencji i oszczędzania energii wzajemnie się wykluczają. Firmom zależy na oszczędności energii i wydajności i przekonują się, że mogą zarówno skorzystać na sztucznej inteligencji, jak i osiągnąć swoje cele w zakresie oszczędności energii.

To trochę tak, jakby tata przeżywający kryzys wieku średniego porzucił samochód sportowy na rzecz wydajnego pojazdu elektrycznego.