LeCun, luminarz sztucznej inteligencji firmy Meta, bada granicę energetyczną głębokiego uczenia

Tak zwane modele oparte na energii, które zapożyczają koncepcje z fizyki statystycznej, mogą utorować drogę do "abstrakcyjnego przewidywania", mówi Yann LeCun, umożliwiając stworzenie "ujednoliconego modelu świata" dla sztucznej inteligencji zdolnej do planowania.

Tak zwane modele oparte na energii, które czerpią z koncepcji fizyki statystycznej, mogą prowadzić do form głębokiego uczenia się sztucznej inteligencji, które dokonują abstrakcyjnych przewidywań, mówi Yann LeCun, główny naukowiec Meta.

Trzy dekady temu Yann LeCun, pracując w Bell Labs, sformalizował podejście do uczenia maszynowego zwane konwolucyjnymi sieciami neuronowymi, które okazały się niezwykle produktywne w rozwiązywaniu zadań takich jak rozpoznawanie obrazów. CNN, jak są powszechnie znane, są koniem pociągowym głębokiego uczenia się sztucznej inteligencji, zdobywając LeCun prestiżową nagrodę ACM Turing Award, odpowiednik Nobla w dziedzinie informatyki, w 2019 roku. 

Obecnie LeCun, który jest zarówno profesorem na Uniwersytecie Nowojorskim, jak i głównym naukowcem w Meta, jest najbardziej podekscytowany od 30 lat, powiedział ZDNet w wywiadzie w zeszłym tygodniu. Powód: nowe odkrycia odmładzają długą linię badań, które mogą okazać się równie produktywne w sztucznej inteligencji, jak CNN.

Ta nowa granica, którą bada LeCun, znana jest jako modele oparte na energii. Podczas gdy funkcja prawdopodobieństwa to "opis prawdopodobieństwa, że zmienna losowa lub zestaw zmiennych losowych przyjmie każdy ze swoich możliwych stanów" (zob . Deep Learning, Ian Goodfellow, Yoshua Bengio i Aaron Courville, 2019), modele oparte na energii upraszczają zgodność między dwiema zmiennymi. Zapożyczając język z fizyki statystycznej, modele oparte na energii zakładają,  że energia między dwiema zmiennymi rośnie, jeśli są one niekompatybilne i spada, im bardziej są zgodne. Może to usunąć złożoność, która pojawia się podczas "normalizacji" rozkładu prawdopodobieństwa.

Jest to stary pomysł w uczeniu maszynowym, sięgający co najmniej lat 80. XX wieku, ale od tego czasu nastąpił postęp w kierunku zwiększenia użyteczności modeli opartych na energii. LeCun wygłosił kilka przemówień w ostatnich latach, gdy rozwijały się jego poglądy na ten temat, w tym przemówienie w Instytucie Studiów Zaawansowanych w Princeton w 2019 roku, o którym poinformował ZDNet.

Niedawno LeCun opisał obecny stan badań nad modelami energetycznymi w dwóch artykułach. "Barlow Twins", opublikowany zeszłego lata wraz z kolegami z Facebook AI Research i VICReg, który został opublikowany w styczniu we współpracy z FAIR i francuską Inria w École normale supérieure. 

W niektórych z tych zagadnień można dostrzec intrygujące podobieństwa do elektrodynamiki kwantowej, co LeCun przyznał w rozmowie, choć nie na tym się skupia. Skupia się na tym, jakie rodzaje prognoz można rozwijać dla systemów sztucznej inteligencji.

Korzystając z wersji nowoczesnych modeli opartych na energii, którą opracował LeCun, co nazywa "modelem wspólnego osadzania", LeCun uważa, że systemy głębokiego uczenia się będą miały "ogromną przewagę", a mianowicie, że "przewidywanie odbywa się w abstrakcyjnej przestrzeni reprezentacji". 

To otwiera drogę, jak twierdzi LeCun, do "przewidywania abstrakcyjnych reprezentacji świata". Systemy głębokiego uczenia z abstrakcyjnymi zdolnościami przewidywania mogą być ścieżką do planowania w ogólnym sensie, gdzie "stosy" takich abstrakcyjnych maszyn predykcyjnych mogą być nakładane warstwowo w celu tworzenia scenariuszy planowania, gdy system jest w trybie wnioskowania. 

To może być ważne narzędzie do osiągnięcia tego, co zdaniem LeCuna może być ujednoliconym "modelem świata", który rozwinąłby to, co nazywa autonomiczną sztuczną inteligencją, coś zdolnego do planowania poprzez modelowanie zależności między scenariuszami i różnymi modalnościami obrazu, mowy i innych danych wejściowych dotyczących świata. 

Poniżej znajduje się zredagowana wersja naszej rozmowy za pośrednictwem Zooma.

ZDNet: Po pierwsze, aby pomóc nam się zorientować, mówiłeś ostatnio o samonadzorowanym uczeniu się w uczeniu maszynowym, a termin "uczenie nienadzorowane" jest również tam używany. Jaki jest związek między uczeniem się nienadzorowanym a uczeniem się nadzorowanym?

Yann LeCun: Cóż, myślę o samonadzorowanym uczeniu się jako o szczególnym sposobie uczenia się bez nadzoru. Uczenie nienadzorowane to trochę przeładowany termin i niezbyt dobrze zdefiniowany w kontekście uczenia maszynowego. Kiedy o tym wspominasz, ludzie myślą o grupowaniu i PCA [analiza składowych zasadniczych], rzeczach tego typu i różnych metodach wizualizacji. Tak więc uczenie się nadzorowane jest w zasadzie próbą użycia tego, co sprowadza się do metod uczenia nadzorowanego dla uczenia nienadzorowanego: używasz metod uczenia nadzorowanego, ale trenujesz sieć neuronową bez etykiet dostarczonych przez człowieka. Weź więc fragment filmu, pokaż mu fragment filmu i poproś go, aby przewidział, co wydarzy się dalej w filmie, na przykład. Albo pokaż mu dwa fragmenty filmu i zapytaj: "Czy ten jest kontynuacją tamtego?" Nie prosząc go, aby przewidział, ale prosząc go, aby powiedział ci, czy te dwie sceny są kompatybilne. Albo pokaż mu dwa różne spojrzenia na ten sam przedmiot i zapytaj go, czy te dwie rzeczy są tym samym przedmiotem. A więc tego typu rzeczy. Nie ma więc nadzoru człowieka w tym sensie, że wszystkie dane, które przekazujesz systemowi, są w zasadzie danymi wejściowymi.

ZDNet: W ostatnich latach wygłosił Pan kilka prelekcji, m.in. w Instytucie Studiów Zaawansowanych (IAS) w Princeton w stanie New Jersey w 2019 roku, a ostatnio w lutym podczas wykładu zorganizowanego przez Baidu na temat metod tak zwanego podejścia do głębokiego uczenia opartego na energii. Czy te modele oparte na energii mieszczą się w samonadzorowanym segmencie uczenia się bez nadzoru?

YL: Tak. Wszystko może być takie, jak założono w kontekście modelu opartego na energii. Daję ci X i Y; X to obserwacja, a Y to coś, co model ma uchwycić zależność względem X. Na przykład X to segment wideo, Y to inny segment, a ja pokazuję X i Y systemowi, który ma mi powiedzieć, czy Y jest kontynuacją X. Albo dwa obrazy, czy są one zniekształconą wersją siebie nawzajem, czy też są to zupełnie różne obiekty? A więc energia mierzy tę kompatybilność lub niezgodność, prawda? Byłoby to zero, gdyby te dwa elementy były zgodne, a wtedy, w niektórych dużych liczbach, nie są. 

Istnieją dwie strategie trenowania modeli opartych na energii. Pierwszym z nich jest pokazanie mu kompatybilnych par X, Y, a także pokazanie mu niekompatybilnych par X, Y. Dwa segmenty filmu, które do siebie nie pasują, widoki dwóch różnych obiektów. Tak więc, dla tych [niekompatybilnych par], chcecie, aby energia była wysoka, więc w jakiś sposób podnosicie energię. Natomiast w przypadku tych, które są niekompatybilne, spychasz energię w dół. 

Są to metody kontrastywne. I przynajmniej w niektórych kontekstach, wymyśliłem je dla szczególnego rodzaju samonadzorowanego uczenia się zwanego "sieciami syjamskimi". Kiedyś byłem ich fanem, ale już nie. Zmieniłem zdanie na ten temat. Myślę, że te metody są skazane na porażkę. Nie uważam, że są bezużyteczne, ale myślę, że nie są wystarczające, ponieważ nie skalują się zbyt dobrze z wymiarem tych rzeczy. To jest ta linia; Wszystkie szczęśliwe pary są szczęśliwe w ten sam sposób, wszystkie nieszczęśliwe pary są nieszczęśliwe na różne sposoby. [Tołstoj, Anna Karenina, "Szczęśliwe rodziny są wszystkie takie same; każda nieszczęśliwa rodzina jest nieszczęśliwa na swój sposób."] 

To ta sama historia. Istnieje tylko kilka sposobów, w jakie dwa obrazy mogą być identyczne lub zgodne; Istnieje wiele, wiele sposobów, w jakie dwa obrazy mogą się różnić, a przestrzeń jest wielowymiarowa. Tak więc, zasadniczo, potrzebowałbyś wykładniczo dużej liczby kontrastywnych próbek energii, aby popchnąć w górę, aby te kontrastywne metody zadziałały. Nadal są dość popularne, ale moim zdaniem są naprawdę ograniczone. Wolę więc metodę niekontrastową lub tak zwane metody regularyzowane. 

"Jest tylko kilka sposobów, w jakie dwa obrazy mogą być identyczne lub zgodne; Jest wiele, wiele sposobów, w jakie dwa obrazy mogą się różnić, a przestrzeń jest wielowymiarowa".

Metody te opierają się na założeniu, że zamierzamy skonstruować funkcję energii w taki sposób, aby objętość przestrzeni, do której przypisujemy niską energię, była ograniczona. Można to zinterpretować za pomocą wyrażenia w funkcji straty lub wyrażenia w funkcji energii, które mówi o zminimalizowaniu objętości przestrzeni, która może w jakiś sposób przyjąć niską energię. Mamy na to wiele przykładów. Jednym z nich jest integralne kodowanie rzadkie, którego początki sięgają lat 90. To, co mnie naprawdę ekscytuje w dzisiejszych czasach, to te niekontrastywne metody stosowane do samodzielnego uczenia się.

ZDNet: W swoich wystąpieniach mówił Pan w szczególności o tym, co nazywa się "modelem opartym na regularnej utajonej zmiennej energii", czyli RLVEB. Czy mówisz, że to jest droga naprzód, nowe konwolucyjne sieci neuronowe z lat 2020. lub 2030.?

YL: Cóż, powiem to w ten sposób: nie byłem tak podekscytowany czymś w uczeniu maszynowym od czasu sieci konwolucyjnych, dobrze? [śmiech] Nie jestem pewien, czy to nowe konvolucions, ale jest to naprawdę coś, co bardzo mnie ekscytuje. Kiedy przemawiałem na IAS, miałem na myśli model generatywny z utajoną zmienną utajoną. Były to modele generatywne, ponieważ jeśli chcesz zastosować je do czegoś takiego jak przewidywanie wideo, dajesz mu fragment filmu, prosisz go o przewidzenie następnego segmentu wideo. 

W ciągu ostatnich kilku lat zmieniłem też zdanie na ten temat. Moim ulubionym modelem nie jest model generatywny, który przewiduje Y na podstawie X. To jest to, co nazywam modelem osadzania stawów, który pobiera X, przepuszcza go przez koder, jeśli wolisz, sieć neuronową; pobiera Y, a także przepuszcza go przez koder, inny; A potem przewidywanie odbywa się w tej abstrakcyjnej przestrzeni reprezentacji. Ma to ogromną zaletę. 

Po pierwsze, dlaczego zmieniłem zdanie na ten temat? Zmieniłem zdanie, ponieważ wcześniej nie wiedzieliśmy, jak to zrobić. Teraz mamy kilka metod, aby to zrobić, które faktycznie działają. I te metody pojawiły się w ciągu ostatnich dwóch lat. Te, które forsuję, są właściwie dwie, które wyprodukowałem; jeden nazywa się VIC-REG, drugi nazywa się Barlow Twins. 

ZDNet: Jak myślisz, jaki postęp w tym toku rozumowania może Pan zaobserwować w ciągu najbliższych pięciu do dziesięciu lat?

YL: Myślę, że teraz mamy przynajmniej podejście, które może nas poprowadzić w kierunku systemów, które mogą nauczyć się przewidywać w abstrakcyjnej przestrzeni. Mogą nauczyć się abstrakcyjnego przewidywania w tym samym czasie, w którym mogą nauczyć się przewidywać, co się wydarzy, w czasie lub nad stanami, w tej abstrakcyjnej przestrzeni. Jest to niezbędny element, jeśli chcemy mieć na przykład autonomiczny system inteligentny, który ma jakiś model świata, który pozwala z góry przewidzieć, co się w nim wydarzy, ponieważ świat ewoluuje, lub jakie są konsekwencje jego działań. Tak więc, biorąc pod uwagę oszacowanie stanu świata i biorąc pod uwagę działanie, które podejmujesz, daje ci to przewidywanie, jaki może być stan świata po podjęciu działania. 

MODEL OPARTY NA ENERGII: "VICREG", skrót od "Variance-Invariance-Covariance Re-Gularization For Self-Supervised Learning", to najnowsze podejście LeCuna do architektury sieci neuronowych opartej na energii. Zestaw obrazów jest przekształcany w dwóch różnych potokach, a każdy zniekształcony obraz jest wysyłany do kodera en, który zasadniczo go kompresuje. Następnie projektor, znany również jako "ekspander", rozpakowuje tę skompresowaną reprezentację do ostatecznego "osadzenia", wymiaru Z. To właśnie podobieństwo między tymi dwoma wbudowaniami, niezmiennicze dla ich zniekształceń, pozwala programowi znaleźć odpowiedni poziom niskoenergetyczny, na którym coś jest identyfikowane. 

A to przewidywanie zależy również od jakiejś zmiennej utajonej, której nie można zaobserwować. Na przykład, gdy prowadzisz samochód, samochód jest przed tobą; Mógł hamować, przyspieszać, skręcać w lewo lub w prawo. Nie ma sposobu, abyś wiedział z wyprzedzeniem. To jest zmienna utajona. Ogólna architektura to coś takiego, że bierzesz X i Y, początkowy zestaw wideo, przyszły film, osadzasz je w jakiejś sieci neuronowej, masz dwie abstrakcyjne reprezentacje tych dwóch rzeczy. I w tej przestrzeni robisz jedną z tych ukrytych zmiennych, modele predykcyjne oparte na energii. 

Chodzi o to, że model ten przewiduje teraz abstrakcyjne reprezentacje świata. Nie jest to przewidywanie wszystkich szczegółów świata, z których wiele może być nieistotnych. Więc prowadzisz ten samochód na drodze; Możesz mieć bardzo złożoną porcję liści drzewa na poboczu drogi. I nie ma absolutnie żadnego sposobu, aby to przewidzieć, albo nie chcesz poświęcać żadnej energii ani zasobów, aby to przewidzieć. Tak więc ten koder może zasadniczo wyeliminować te informacje, zanim zostaną o to poproszone.

ZDNet: A czy w ciągu najbliższych pięciu-dziesięciu lat przewiduje Pan/Pani jakieś konkretne kamienie milowe? A może gole?

"Jak więc zmusić maszynę do planowania? Jeśli masz predykcyjny model świata... Wtedy system może wyobrazić sobie swój sposób działania, wyobrazić sobie wynikowy wynik".

YL: Przewiduję, że moglibyśmy użyć tej zasady -- nazywam to architekturą JEPA, Joint Embedding Predictive Architecture, i jest na tym wpis na blogu, i jest długi artykuł, który przygotowuję na ten temat -- i widzę z tego, że mamy teraz narzędzie do uczenia się modeli predykcyjnych świata. aby nauczyć się reprezentacji perceptów w sposób samonadzorowany bez konieczności trenowania systemu do konkretnego zadania. A ponieważ systemy uczą się abstrakcyjnych reprezentacji zarówno X, jak i Y, możemy je układać w stosy. Tak więc, kiedy już nauczymy się abstrakcyjnej reprezentacji otaczającego nas świata, która pozwoli nam na dokonywanie krótkoterminowych przewidywań, możemy ułożyć kolejną warstwę, która być może nauczy się bardziej abstrakcyjnych reprezentacji, które pozwolą nam na tworzenie długoterminowych przewidywań. 

To byłoby niezbędne, aby stworzyć system, który uczyłby się, jak działa świat, poprzez obserwację, oglądanie filmów, prawda? Tak więc dzieci uczą się, w zasadzie, obserwując świat i ucząc się intuicyjnej fizyki i wszystkiego, co wiemy o świecie. Zwierzęta też to robią. I chcielibyśmy, aby nasze maszyny to robiły. A do tej pory nie byliśmy w stanie tego zrobić. Moim zdaniem jest to droga do osiągnięcia tego celu, wykorzystując wspólną architekturę osadzania i sprawdzając je w sposób hierarchiczny.

Inną rzeczą, w której może nam pomóc, są maszyny do głębokiego uczenia, które są zdolne do rozumowania. Tematem debaty jest to, że to, w czym głębokie uczenie było do tej pory dobre, to percepcja, wiecie, rzeczy, które są, tutaj jest dane wejściowe, a tutaj są wyniki. A co, jeśli chcesz, aby system w zasadzie rozumował, planował? W niektórych bardziej złożonych modelach dzieje się trochę tego, ale tak naprawdę nie aż tak dużo. 

A więc, jak zmusić maszynę do planowania? Jeśli masz predykcyjny model świata, jeśli masz model, który pozwala systemowi przewidzieć, co się wydarzy w wyniku jego działań, wtedy możesz sprawić, że system wyobrazi sobie swój sposób działania, wyobrazi sobie wynikowy wynik, a następnie przekaż to do jakiejś funkcji domowej, która: Wiesz, charakteryzuje, czy zadanie zostało wykonane, coś w tym stylu. A następnie, poprzez optymalizację, być może przy użyciu gradientowego spadku, wymyśl sekwencję działań, która zminimalizuje ten cel. Nie mówimy o uczeniu się; Mówimy teraz o wnioskowaniu, planowaniu. W rzeczywistości to, co tutaj opisuję, to klasyczny sposób planowania i optymalnego sterowania dla sterowania predykcyjnego modelu.

Różnica w stosunku do optymalnej kontroli polega na tym, że robimy to za pomocą wyuczonego modelu świata, a nie pewnego rodzaju zakodowanego. A ten model zawierałby każdą zmienną, która poradziłaby sobie z niepewnością świata. Może to być podstawą autonomicznego systemu wywiadowczego, który jest w stanie wyobrażać sobie przyszłość, planując sekwencję działań. 

Chcę stąd polecieć do San Francisco; Muszę dostać się na lotnisko, złapać samolot itp. Aby dostać się na lotnisko, muszę wyjść z budynku, przejść się ulicą i złapać taksówkę. Aby wydostać się z mojego budynku, muszę wstać z krzesła, podejść do drzwi, otworzyć drzwi, udać się do windy lub schodów. Aby to zrobić, muszę wymyślić, jak rozłożyć to na milisekundę po milisekundowej kontroli mięśni. Nazywa się to planowaniem hierarchicznym. A chcielibyśmy, aby systemy były w stanie to zrobić. Obecnie nie jesteśmy w stanie tego zrobić. Te ogólne architektury mogą nam zapewnić te rzeczy. Taką mam nadzieję.  

ZDNet: Sposób, w jaki opisałeś modele oparte na energii, brzmi trochę jak elementy elektrodynamiki kwantowej, takie jak całka po ścieżce Diraca-Feynmana czy funkcja falowa, gdzie jest to suma amplitud możliwości. Być może to tylko metaforyczny związek, a może właściwie istnieje korespondencja?

YL: Cóż, to nie jest tylko metafora, ale jest to częściowo inne. Kiedy masz zmienną utajoną, a ta zmienna utajona może przyjmować wiele różnych wartości, zazwyczaj to, co robisz, to cyklicznie przechodzisz przez wszystkie możliwe wartości tej zmiennej utajonej. Może to być niepraktyczne. Możesz więc pobrać próbkę tej zmiennej utajonej z pewnej dystrybucji. A to, co przeliczasz, to zestaw możliwych wyników. Ale tak naprawdę to, co ostatecznie obliczasz, to pewna funkcja kosztu, która daje wartość oczekiwaną, w której uśredniasz możliwe wartości tej zmiennej utajonej. Wygląda to bardzo podobnie do całki ścieżki. Całka po ścieżce, obliczasz sumę energii na wielu ścieżkach, zasadniczo. Przynajmniej w klasycznym wydaniu. W sposób kwantowy nie sumujesz prawdopodobieństw ani wyników; Sumujesz liczby zespolone, które mogą się nawzajem znosić. Nie mamy tego w naszym, chociaż myśleliśmy o takich rzeczach -- przynajmniej ja myślałem o takich rzeczach. Ale nie jest używany w tym kontekście. Ale idea marginalizacji z powodu zmiennej utajonej jest bardzo podobna do idei sumowania ścieżek lub trajektorii; Jest bardzo podobny. 

ZDNet: Wygłosił Pan dwa dość uderzające stwierdzenia. Jednym z nich jest to, że probabilistyczne podejście głębokiego uczenia się odeszło do lamusa. Przyznał Pan/Pani, że modele oparte na energii, o których mówicie, mają pewien związek z podejściami z lat 80., takimi jak Hopfield Nets. Czy mógłbyś rozwinąć te dwa punkty?

"Świadomość jest konsekwencją ograniczeń naszych mózgów. Gdybyśmy mieli mózg o nieskończonych rozmiarach, nie potrzebowalibyśmy świadomości".

YL: Powodem, dla którego musimy porzucić modele probabilistyczne, jest sposób, w jaki można modelować zależność między dwiema zmiennymi, X i Y; jeśli Y jest wielowymiarowe, to jak zamierzamy przedstawić rozkład przez Y? Nie wiemy, jak to zrobić, naprawdę. Możemy zapisać tylko bardzo prosty rozkład, rozkład Gaussa lub mieszaninę Gaussa i tym podobne rzeczy. Jeśli chcesz mieć złożone miary prawdopodobieństwa, nie wiemy, jak to zrobić, lub jedynym sposobem, w jaki wiemy, jak to zrobić, jest funkcja energii. Piszemy więc funkcję energii, w której niska energia odpowiada wysokiemu prawdopodobieństwu, a wysoka energia odpowiada niskiemu prawdopodobieństwu, czyli sposób, w jaki fizycy rozumieją energię, prawda? Problem polega na tym, że nigdy, ale to rzadko wiemy, jak się znormalizować. Istnieje wiele artykułów w statystyce, uczeniu maszynowym, fizyce obliczeniowej itp., które dotyczą tego, jak obejść problem polegający na tym, że ten termin jest nierozwiązywalny. 

To, za czym w zasadzie opowiadam się za tym, aby zapomnieć o modelowaniu probabilistycznym, po prostu pracować z samą funkcją energii. Nie jest nawet konieczne, aby energia przybrała taką formę, aby można ją było znormalizować. Ostatecznie sprowadza się to do tego, że powinieneś mieć pewną funkcję straty, którą minimalizujesz podczas trenowania modelu danych, która sprawia, że funkcja energii rzeczy, które są zgodne, jest niska, a funkcja energii rzeczy, które są niekompatybilne, wysoka. To takie proste.

ZDNet: A powiązania z takimi rzeczami jak Hopfield Nets?

YL: Z pewnością sieci Hopfield i maszyny Boltzmann są do tego odpowiednie. Sieci Hopfielda to modele oparte na energii, które są trenowane w sposób niekontrastowy, ale są wyjątkowo nieefektywne, dlatego nikt ich nie używa.

Maszyny Boltzmanna są w zasadzie kontrastową wersją sieci Hopfielda, gdzie masz próbki danych i obniżasz ich energię, a następnie generujesz inne próbki i zwiększasz ich energię. Są one w pewien sposób nieco bardziej satysfakcjonujące, ale też nie działają zbyt dobrze, ponieważ są to metody kontrastywne, a metody kontrastywne nie skalują się zbyt dobrze. Z tego powodu też nie są używane. 

ZDNet: A zatem, czy regularne, utajone modele oparte na zmiennej energii naprawdę należy traktować jako Hopfield Net 2.0?

YL: Nie, nie powiedziałbym tego.

ZDNet: Wygłosił Pan inne, dość uderzające stwierdzenie, że istnieje "tylko jeden model świata" i że świadomość jest "celową konfiguracją modelu świata" w ludzkim mózgu. Nazwałeś to być może szaloną hipotezą. Czy to jest twoje przypuszczenie, ta szalona hipoteza, czy też są na to dowody? A co liczyłoby się jako dowód w tej sprawie?

YL: Tak i tak. To tylko przypuszczenie, to szalony pomysł. Wszystko, co dotyczy świadomości, do pewnego stopnia, jest domysłem i szalonym pomysłem, ponieważ tak naprawdę nie wiemy, czym jest świadomość. Mój punkt widzenia na ten temat jest taki, że jest to trochę złudzenie. Ale chodzi mi o to, co jest nieco żartobliwe, że świadomość jest uważana za pewnego rodzaju zdolność, którą mają ludzie i niektóre zwierzęta, ponieważ są tak inteligentne. Chodzi mi o to, że świadomość jest konsekwencją ograniczeń naszych mózgów, ponieważ potrzebujemy świadomości, ponieważ mamy w głowie ten pojedynczy, rodzaj silnika modelu świata i potrzebujemy czegoś, co go kontroluje. I to właśnie daje nam złudzenie świadomości. Ale gdybyśmy mieli mózg o nieskończonych rozmiarach, nie potrzebowalibyśmy świadomości. 

Jest przynajmniej kilka dowodów na to, że mamy w głowie coś w rodzaju jednego silnika symulacyjnego. Dowodem na to jest to, że w zasadzie możemy próbować tylko jednego zadania świadomości w danym momencie. Koncentrujemy się na zadaniu; W pewnym sensie wyobrażamy sobie konsekwencje naszych działań, które planujemy. Możesz to zrobić tylko raz z tych opcji na raz. Możesz wykonywać wiele zadań jednocześnie, ale są to zadania podświadomości, które nauczyliśmy się wykonywać bez myślenia, w zasadzie. Możemy rozmawiać z kimś obok nas podczas jazdy, po tym jak ćwiczyliśmy jazdę na tyle długo, że stało się to podświadomym zadaniem. Ale w pierwszych godzinach, kiedy uczymy się jeździć, nie jesteśmy w stanie tego zrobić; Musimy skoncentrować się na zadaniu, jakim jest prowadzenie. Musimy użyć naszego silnika przewidywania modelu świata, aby wymyślić wszystkie możliwe przerażające scenariusze rzeczy, które mogą się wydarzyć.

ZDNet: Jeśli coś takiego jest domysłem, to tak naprawdę nie ma to dla Ciebie w tej chwili żadnego praktycznego znaczenia w Twojej pracy, prawda?

YL: Nie, tak jest w przypadku tego modelu autonomicznej sztucznej inteligencji, który zaproponowałem, który ma pojedynczy konfigurowalny silnik symulacji modelu świata w celu planowania i wyobrażania sobie przyszłości oraz wypełniania pustych miejsc rzeczy, których nie można w pełni zaobserwować. Posiadanie pojedynczego modelu, który można konfigurować, ma przewagę obliczeniową. Posiadanie jednego silnika, który skonfigurujesz, może pozwolić systemowi na dzielenie się tą wiedzą między zadaniami, rzeczami, które są wspólne dla wszystkiego na świecie, czego nauczyłeś się przez obserwację lub rzeczami, takimi jak podstawowa logika. O wiele bardziej efektywne jest posiadanie skonfigurowanego dużego modelu niż posiadanie całkowicie oddzielnego modelu dla różnych zadań, które mogą wymagać osobnego trenowania. Ale to już widzimy, prawda? Kiedyś, w dawnych czasach na Facebooku -- kiedy jeszcze nazywał się Facebook, wizja, której używaliśmy do analizowania obrazów, do tworzenia rankingu i filtrowania, mieliśmy wyspecjalizowane sieci neuronowe, wyspecjalizowane sieci konwolucyjne, w zasadzie, do różnych zadań. A teraz mamy jeden gigantyczny, który robi wszystko. Kiedyś mieliśmy pół tuzina sieci ConvNet; Teraz mamy tylko jedną.

Widzimy więc tę konwergencję. Mamy teraz nawet architektury, które robią wszystko: widzą, tekstem, mową, z jedną architekturą. Muszą być szkoleni oddzielnie dla tych trzech zadań, ale ta praca, data2vec, jest podejściem samonadzorowanym.

ZDNet: Najbardziej intrygujące! Dziękuję za poświęcony czas.