Badanie AI Economist firmy Salesforce ma na celu zbadanie równowagi między równością a produktywnością
Wiadomo, że teoria ekonomii jest ograniczona przez szereg nieefektywności w jej modelowaniu. Badacze Salesforce twierdzą, że sztuczna inteligencja może pomóc rozwiązać ten problem, prowadząc do bardziej zdecydowanej polityki gospodarczej.
Rok 2016 był przełomowy dla Salesforce. To właśnie wtedy firma przejęła MetaMind, "korporacyjną platformę AI, która działała w obrazowaniu medycznym i obrazach eCommerce, NLP i wielu innych rzeczach, horyzontalnej platformie jako narzędziu uczenia maszynowego dla programistów", jak opisał to założyciel Richard Socher.
Jeśli dziś brzmi to interesująco, to prawdopodobnie wtedy wyprzedzał swoje czasy. Przejęcie wyniosło Sochera na stanowisko Chief Data Scientist w Salesforce, kierując ponad 100 badaczami i wieloma setkami inżynierów pracujących nad aplikacjami, które zostały wdrożone na dużą skalę i pod kątem wpływu Salesforce. Sztuczna inteligencja stała się integralną częścią wysiłków Salesforce, głównie za pośrednictwem Salesforce Einstein, szeroko zakrojonej inicjatywy mającej na celu wprowadzenie możliwości sztucznej inteligencji do platformy Salesforce.
Oprócz działań prorynkowych, Salesforce sponsoruje również inicjatywy "AI for good". Obejmuje to to, co Salesforce określa jako strzał w dziesiątkę: zbudowanie planera społecznościowego opartego na sztucznej inteligencji, który uczy się optymalnych polityk ekonomicznych dla świata rzeczywistego. Projekt działający pod nazwą "AI Economist" opublikował niedawno nowe wyniki. Stephan Zheng, główny naukowiec ds. badań w Salesforce, starszy menedżer w zespole ekonomistów ds. sztucznej inteligencji, opowiedział więcej o kulisach projektu, wynikach i planie działania.
Uczenie się przez wzmacnianie jako narzędzie polityki gospodarczej
Zheng pracował nad doktoratem z fizyki mniej więcej w czasie, gdy eksplodowało głębokie uczenie - w 2013 roku. Motywacja, którą przytoczył dla swojej pracy w Salesforce, jest dwojaka: "przesuwanie granic uczenia maszynowego w celu odkrycia zasad ogólnej inteligencji, ale także działanie na rzecz dobra społecznego".
Zheng uważa, że kwestie społeczno-ekonomiczne są jednymi z najbardziej krytycznych w naszych czasach. To, co przyciągnęło go do tego konkretnego kierunku badań, to fakt, że nierówności ekonomiczne przyspieszają w ostatnich dziesięcioleciach, negatywnie wpływając na możliwości ekonomiczne, zdrowie i dobrobyt społeczny.
Podatki są ważnym narzędziem rządowym służącym poprawie równości, zauważa Zheng. Uważa jednak, że wyzwaniem dla rządów jest projektowanie struktur podatkowych, które pomagają tworzyć równość, a jednocześnie napędzają produktywność gospodarczą. Jak dodaje, część problemu wiąże się z samym modelowaniem ekonomicznym.
"W tradycyjnej ekonomii, jeśli ludzie chcą zoptymalizować swoją politykę, muszą przyjąć wiele założeń. Na przykład mogą powiedzieć, że świat jest mniej więcej taki sam każdego roku. Tak naprawdę nic tak bardzo się nie zmienia.
To jest naprawdę ograniczające. Oznacza to, że wiele z tych metod tak naprawdę nie znajduje najlepszej polityki, jeśli weźmie się pod uwagę świat w jego pełnym bogactwie, jeśli spojrzy się na wszystkie sposoby, w jakie świat może się zmienić wokół ciebie" - powiedział Zheng.
Zespół Salesforce AI Economist próbuje rozwiązać ten problem, stosując szczególny rodzaj uczenia maszynowego zwany uczeniem przez wzmacnianie (RL). RL został wykorzystany do budowy systemów takich jak AlphaGo i różni się od podejścia opartego na uczeniu nadzorowanym, które jest powszechne w uczeniu maszynowym.
"W uczeniu nadzorowanym ktoś daje ci statyczny zestaw danych, a następnie próbujesz nauczyć się wzorców w danych. W uczeniu się przez wzmacnianie zamiast tego mamy symulację, to interaktywne środowisko, a algorytm uczy się patrzeć na świat i wchodzić w interakcje z symulacją. A potem może bawić się środowiskiem, może zmienić sposób, w jaki środowisko działa" - wyjaśnił Zheng.
Ta elastyczność była głównym powodem, dla którego RL został wybrany na stanowisko ekonomisty AI. Jak wyjaśnił Zheng, podejście to składa się z trzech części. Jest sama symulacja, optymalizacja polityki, a także dane, ponieważ dane mogą być wykorzystane do poinformowania o tym, jak działa symulacja. Ekonomista zajmujący się sztuczną inteligencją skupił się na modelowaniu i symulowaniu uproszczonego podzbioru gospodarki: podatku dochodowego.
Stworzono dwuwymiarowy świat, modelujący relacje przestrzenne i czasowe. W tym świecie agenci mogą pracować, wydobywać zasoby, budować domy i zarabiać w ten sposób pieniądze. Dochody, które agenci osiągają poprzez budowę domów, są następnie opodatkowane przez rząd. Zadaniem ekonomisty AI jest zaprojektowanie systemu podatkowego, który będzie w stanie zoptymalizować pod kątem równości (jak podobne są dochody ludzi) i produktywności (sumy wszystkich dochodów).
Modelowanie AI a świat rzeczywisty
Badania Salesforce pokazują, że sztuczna inteligencja może poprawić kompromis między równością dochodów a produktywnością w porównaniu z trzema alternatywnymi scenariuszami: znaczącą formułą podatkową opracowaną przez Emmanuela Saeza, progresywnymi podatkami przypominającymi amerykańską formułę podatkową oraz wolnym rynkiem (brak podatków). Jak wyjaśnił Zheng, te 3 alternatywy zostały zakodowane w systemie, a ich wyniki zostały porównane z wynikami uzyskanymi przez sztuczną inteligencję za pomocą symulacji RL.
Choć brzmi to obiecująco, powinniśmy również zwrócić uwagę na ograniczenia tych badań. Po pierwsze, badania dotyczą podatku dochodowego tylko w bardzo uproszczonej gospodarce: nie ma czegoś takiego jak aktywa, handel międzynarodowy i tym podobne, istnieje tylko jeden rodzaj działalności. Ponadto łączna liczba agentów w systemie wynosi w tym momencie maksymalnie 10.
Ekonomista AI to symulacja ekonomiczna, w której agenci AI zbierają i handlują zasobami, budują domy, uzyskują dochody i płacą podatki rządowi.
Zheng zauważył, że w badaniach wzięto pod uwagę wiele różnych układów przestrzennych i rozkładów zasobów, a także agentów o różnych zestawach umiejętności lub poziomach umiejętności. Wspomniał również, że obecne prace są dowodem słuszności koncepcji, skupiając się na części problemu związanej ze sztuczną inteligencją.
"Kluczową kwestią koncepcyjną, którą się zajmujemy, jest to, że rząd próbuje zoptymalizować tę politykę, ale możemy również wykorzystać sztuczną inteligencję do modelowania, jak gospodarka będzie reagować. Jest to coś, co nazywamy dwupoziomowym problemem RL.
Z tego punktu widzenia posiadanie dziesięciu agentów w gospodarce i rządzie jest już dość trudne do rozwiązania. Naprawdę musimy włożyć dużo pracy, aby znaleźć algorytm, znaleźć odpowiednią kombinację strategii uczenia się, aby system faktycznie znalazł te naprawdę dobre rozwiązania w zakresie polityki podatkowej" - powiedział Zheng.
Patrząc na to, w jaki sposób ludzie używają RL do trenowania systemów do grania w niektóre rodzaje gier wideo lub szachów, są to już naprawdę trudne problemy z wyszukiwaniem i optymalizacją, mimo że wykorzystują tylko dwóch lub dziesięciu agentów, dodał Zheng. Twierdził, że AI Economist jest bardziej wydajny niż te systemy.
Zespół AI Economist jest przekonany, że teraz, gdy dobrze rozumie część edukacyjną, jest w doskonałej pozycji, aby myśleć o przyszłości i rozszerzać tę pracę również na inne wymiary.
We wcześniejszej wersji AI Economist zespół eksperymentował z udziałem w symulacji również graczy. Spowodowało to większy hałas, ponieważ ludzie zachowywali się w niespójny sposób; Jednak według Zhenga ekonomista AI nadal osiągnął wyższy poziom jakości i wydajności.
Ekonomia i ekonomiści
Oczywiste pytania, jeśli chodzi o te badania, to co myślą o nich ekonomiści i czy ich spostrzeżenia również zostały zamodelowane w systemie. Żaden członek zespołu AI Economist nie jest w rzeczywistości ekonomistą. Jednak, jak twierdzi Zheng, skonsultowano się z niektórymi ekonomistami.
"Kiedy zaczynaliśmy, nie mieliśmy na pokładzie ekonomisty, więc nawiązaliśmy współpracę z Davidem Parkesem, który zajmuje się zarówno informatyką, jak i ekonomią. W trakcie prac rozmawialiśmy z ekonomistami i poznaliśmy ich opinie. Rozmawialiśmy też z [ekonomistą i autorem bestsellerów] Thomasem Pikettym. Jest bardzo zajętym człowiekiem, więc myślę, że jego praca była dla niego interesująca.
Poruszył również kwestię tego, w jaki sposób można do pewnego stopnia wdrożyć te polityki. Można o tym myśleć z wielu perspektyw, ale ogólnie rzecz biorąc, był zainteresowany tą pracą. Myślę, że odzwierciedla to szerszą reakcję ze strony środowiska gospodarczego. Pojawia się zarówno zainteresowanie, jak i pytania, czy jest to możliwe do wdrożenia. Co jest nam potrzebne, aby to zrobić? To materiał do przemyśleń dla społeczności ekonomicznej" - powiedział Zheng.
Jeśli chodzi o drogę naprzód, Zheng uważa, że jest nią "uczynienie tego szeroko użytecznym i wywarcie pozytywnego wpływu na społeczeństwo". Zheng dodał, że jednym z kierunków, w których zmierza zespół, jest zbliżenie się do prawdziwego świata.
Z jednej strony oznacza to tworzenie większych i lepszych symulacji, aby były dokładniejsze i bardziej realistyczne. Zheng uważa, że będzie to kluczowy element ram modelowania ekonomicznego i projektowania polityki. Dużą częścią tego dla badaczy sztucznej inteligencji jest udowodnienie, że można ufać tym metodom.
"Chcesz pokazać takie rzeczy, jak solidność i wytłumaczalność. Chcemy powiedzieć wszystkim, oto powody, dla których sztuczna inteligencja zaleciła taką lub inną politykę. Wierzę też w to, że jest to problem interdyscyplinarny. Myślę, że naprawdę jest to szansa dla badaczy sztucznej inteligencji na współpracę z ekonomistami, na współpracę z ekspertami politycznymi w celu zrozumienia nie tylko technicznego wymiaru ich problemu, ale także zrozumienia, w jaki sposób ta technologia może być użyteczna dla społeczeństwa" - powiedział Zheng.
Dwa aspekty, na które Zheng położył nacisk w tym badaniu, to wyznaczanie celów i przejrzystość. Wyznaczanie celów, czyli tego, pod kątem jakich wyników należy optymalizować, odbywa się zewnętrznie. Oznacza to, że wybór projektowy należy do użytkownika, niezależnie od tego, czy system powinien być optymalizowany pod kątem maksymalnej równości, maksymalnej wydajności, równowagi, czy też potencjalnie w przyszłości powinien uwzględniać również inne parametry, takie jak zrównoważony rozwój.
Zheng opisał "pełną przejrzystość" jako kamień węgielny projektu. Jeśli w przyszłości iteracje tego typu systemów mają być wykorzystywane dla dobra społecznego, to według Zhenga każdy powinien być w stanie je kontrolować, kwestionować i krytykować. Aby służyć temu celowi, zespół AI Economist udostępnił cały kod źródłowy i dane eksperymentalne oparte na badaniach.
Kolejnym krokiem naprzód dla zespołu AI Economist jest zwiększenie zasięgu społeczności ekonomistów. "Myślę, że jest tu sporo edukacji, gdzie dzisiaj ekonomiści nie są kształceni jako informatycy. Zazwyczaj nie uczą się programowania na przykład w Pythonie. A rzeczy takie jak RL mogą również nie być czymś, co jest częścią ich standardowego programu nauczania lub ich sposobu myślenia. Myślę, że jest to naprawdę duża szansa dla badań interdyscyplinarnych" - powiedział Zheng.
Zespół AI Economist stale rozmawia z ekonomistami i prezentuje te prace społeczności naukowej. Zheng powiedział, że zespół pracuje nad wieloma projektami, o których będą mogli podzielić się więcej w najbliższej przyszłości. Doszedł do wniosku, że odrobina edukacji, aby oswoić ludzi z tym podejściem i bardziej przyjaznym dla użytkownika UI/UX może przejść długą drogę.