Użyłem Copilot AI Vision do przeglądania sieci za mnie i ma on duży potencjał
Korzystając z multipleksowania z podziałem długości fali, naukowcy byli w stanie przeprowadzić rozpoznawanie obrazu za pomocą obliczeń optycznych, co znacznie obniżyło zapotrzebowanie na energię.
Naukowcy z MIT wykorzystali specjalne fotodetektory do wykonania równania sztucznej inteligencji poprzez wysyłanie światła do urządzenia klienckiego o niskim poborze mocy. Podejście to może być szczególnie przydatne w głębokim kosmosie.
Jednym z najbardziej palących problemów związanych z przemysłowym zastosowaniem sztucznej inteligencji jest to, jak uruchamiać programy na małych urządzeniach obliczeniowych, które mają bardzo małą moc obliczeniową, bardzo mało pamięci i być może ograniczenie dostępnej energii w przypadku baterii.
Tak zwany rynek brzegowy dla sztucznej inteligencji jest ostatnio ogromnym obszarem, a start-upy otrzymują dziesiątki milionów kapitału wysokiego ryzyka na opracowanie chipów i oprogramowania. Wysiłek związany z brzegiem sieci doprowadził do powstania specjalnych narzędzi programistycznych dla form sztucznej inteligencji opartych na uczeniu maszynowym, takich jak inicjatywa TinyML firmy Google.
Te dwie ścieżki reprezentują dwie filozofie: albo zwiększyć moc urządzeń brzegowych, albo odchudzić programy sztucznej inteligencji, aby zużywały mniej obliczeń.
Istnieje trzecie możliwe podejście, a mianowicie próba ostrożniejszego zrównoważenia tego, jaka praca jest wykonywana na ograniczonych urządzeniach i w jaki sposób. Taki plan został przedstawiony w październiku przez naukowców z MIT w czasopiśmie naukowym Science.
Badacz Alexander Sludds i jego koledzy z Laboratorium Badawczego Elektroniki, Informatyki i Sztucznej Inteligencji MIT oraz Lincoln Laboratory, we współpracy z Nokią i NTT Research, opracowali system, który wykorzystuje fotonikę do przesyłania danych do urządzenia klienckiego, gdzie można je obliczyć w domenie optycznej w znacznie bardziej energooszczędny sposób.
Ich konfiguracja sieciowa, którą nazywają Netcast, może wykonać podstawową operację manipulowania wagami lub parametrami głębokiej sieci neuronowej, używając około 10 femtodżuli mocy lub 10 fJ, co, jak mówią, "jest o trzy rzędy wielkości niższe niż jest to możliwe w istniejących cyfrowych CMOS" - mając na myśli standardowe chipy półprzewodnikowe.
Femtodżul, zapisany jako przecinek dziesiętny, po którym następuje 14 zer i 1, to jedna kwadrylionowa, przy czym jest to bardzo mały ułamek dżula, przy czym dżul to ilość energii elektrycznej potrzebna do uruchomienia urządzenia o mocy 1 wata na sekundę.
Ten maleńki, maleńki ułamek wata to znaczna oszczędność energii i jest ważna, ponieważ wiele urządzeń brzegowych, jak zauważają autorzy, będzie miało całkowity budżet mocy w miliwatach lub tysięcznych częściach wata, w porównaniu z typowymi urządzeniami komputerowymi wykorzystującymi dziesiątki lub setki watów. Działanie femtoJoule Netcasta skutecznie sprowadza program poniżej tego, co do tej pory było "uporczywym wąskim gardłem w pobliżu 1 pJ", czyli jednego picodżula, czyli jednej bilionowej dżula.
Kluczem do Netcastu było to, jak zmniejszyć nakład pracy, jaką klient musi wykonać, aby zmieścić się w budżecie 10 femtodżuli.
Sieć neuronowa dokonuje przewidywań, przekazując pewne dane wejściowe do swoich parametrów lub wag i mnożąc dane wejściowe przez wagę. Ta operacja matematyczna, iloczyn wektora wejściowego i macierzy parametrów, nazywana jest operacją wielokrotnego gromadzenia lub MAC, a programy sieci neuronowych wykonują ich mnóstwo w każdej sekundzie, gdy wiele wag każdej warstwy sieci jest przykładanych do danych wejściowych.
Największym problemem dla większości sieci neuronowych w ogóle jest pobieranie danych z układów pamięci RAM i uzyskiwanie dostępu do sieci. Jest to problem, ponieważ wagi neuronowe są zwykle przechowywane w pamięci RAM, więc każda warstwa operacji MAC może wymagać wielu podróży przez magistralę PCIe do pamięci RAM, a być może nawet do karty sieciowej w celu zdalnego przechowywania pamięci.
W związku z tym kluczem do Netcast było zminimalizowanie dostępu do pamięci i ruchu sieciowego dla urządzenia klienckiego.
Rozwiązaniem jest istniejąca technologia fotoniczna zwana multipleksowaniem z podziałem długości fali. Korzystając z WDM, jak to się powszechnie określa, wiele fragmentów danych może być przesyłanych jednocześnie przez linię światłowodową, przypisując każdemu fragmentowi danych własną długość fali światła, tak aby wiele danych współdzieliło całkowite dostępne widmo promieniowania w światłowodzie. WDM to bardzo dojrzała, solidna technologia, która jest stosowana we wszystkich nowoczesnych sieciach telekomunikacyjnych w celu zwiększenia przepustowości światłowodowej transmisji danych; stanowi on kręgosłup Internetu.
Każdy rząd matrycy może być zakodowany na długości fali światła, a następnie "rozbudowany" do urządzenia klienckiego, dzięki czemu sygnał WDM o wielu długościach fali może wysyłać całą macierz wag lub nawet wiele matryc. W urządzeniu klienckim odbiornik optyczny odzyskuje dane zakodowane w każdej długości fali i łączy je z danymi wejściowymi w celu zwielokrotnienia matrycy w domenie optycznej, a nie elektrycznej. Produkt może być następnie przechowywany elektrycznie w lokalnej pamięci RAM po przekształceniu z sygnału optycznego.
Sludds i jego zespół piszą, że powoduje to radykalne uproszczenie komponentów, które muszą znajdować się w urządzeniu klienckim na brzegu sieci.
"Ta architektura minimalizuje aktywne komponenty u klienta, wymagając tylko jednego optycznego modulatora nadawczo-odbiorczego, przetwornika cyfrowo-analogowego (DAC) i przetwornika analogowo-cyfrowego (ADC)".
Autorzy zbudowali rzeczywistą wersję Netcast, która biegnie przez ponad 84 kilometry światłowodu za pomocą WDM o przepustowości 2,4 terabita na sekundę, biegnąc od głównego kampusu MIT do Lincoln Lab i z powrotem. Ich test systemu polega na wykonywaniu przewidywań w klasycznym zadaniu uczenia maszynowego, bazie danych MNIST znaków odręcznych. Obrazy odręcznych znaków są wprowadzane do sieci neuronowej, a sieć musi wykonać zadanie rozpoznawania obrazu, identyfikując, który znak reprezentuje każdy obraz.
"Korzystając z 1000 obrazów testowych lokalnie, wykazaliśmy 98,7% dokładności obliczeń, porównywalnej z bazową dokładnością modelu wynoszącą 98,7%" - donoszą.
Autorzy idą jeszcze dalej. Przewidując rozmieszczenie w satelitach i innych egzotycznych miejscach, pracowali nad stworzeniem fotodetektorów, zwanych odbiornikami integrującymi, które mogą pracować z bardzo małą liczbą fotonów.
"Zastosowania Netcast, w tym rozmieszczenie w wolnej przestrzeni kosmicznej na dronach lub statkach kosmicznych, mogą działać w środowiskach głęboko pozbawionych fotonów" - piszą. Wersja ich odbiorników integrujących jest w stanie wykryć wyniki operacji MAC działającej tylko na ułamkach femtodżulu, znanej jako attodżul, która wymaga tylko 100 fotonów do operacji MAC.
Autorzy idą jednak jeszcze dalej. Udało im się dotrzeć aż do teoretycznego limitu Netcastu, w którym każdy Mac wymaga wykrycia mniej niż jednego fotonu. Korzystając z tak zwanych nadprzewodzących nanoprzewodowych detektorów pojedynczych fotonów (SNSPD), konstruują odbiornik, który może mierzyć wyniki każdego adresu MAC z mniej niż fotonem informacji.
"Ten wynik może początkowo wydawać się zaskakujący, biorąc pod uwagę, że mniej niż pojedynczy foton na MAC jest sprzeczny z intuicją" - napisali Sludds i jego zespół. "Możemy lepiej zrozumieć ten pomiar, zauważając, że przy odczycie wykonaliśmy iloczyn wektor-wektor z M=100 MAC. Każdy MAC może zawierać mniej niż jeden foton, ale zmierzony sygnał będzie zawierał wiele fotonów.
Implikacje dla informatyki mogą być poważne.
"Realizacja obliczeń z mniej niż jednym fotonem na MAC" - napisali - "może umożliwić nową klasę systemów obliczeniowych, które chronią zarówno dane wejściowe klienta, jak i dane o wadze serwera" z punktu widzenia prywatności danych. Może to również sprawić, że obliczenia na statkach kosmicznych będą bardziej niezawodne. "Dane o masie z kierunkowej stacji bazowej mogą być przesyłane do statku kosmicznego i klasyfikowane na statku, zanim wyniki zostaną przesłane na Ziemię".
Wszystkie części Netcast mogą być dziś wyprodukowane w dowolnej standardowej fabryce chipów półprzewodnikowych, zauważyli Sludds i jego zespół.
Podsumowując, napisali: "Nasze podejście usuwa fundamentalne wąskie gardło w przetwarzaniu brzegowym, umożliwiając szybkie przetwarzanie na rozmieszczonych czujnikach i dronach".