Altman z OpenAI widzi, że „superinteligencja” jest tuż za rogiem, ale brakuje mu szczegółów

Esej Altmana stoi w sprzeczności z intelektualną krytyką ograniczeń sztucznej inteligencji i obawami dotyczącymi zakłóceń środowiskowych i społecznych.

Altman z OpenAI widzi perspektywę „superinteligencji” w ciągu ośmiu lat, a w rezultacie nowej ery dobrobytu ludzkości.

Według dyrektora generalnego OpenAI Sama Altmana za zaledwie osiem lat sztuczna inteligencja (AI) może doprowadzić do powstania czegoś, co nazywa się „superinteligencją”.

„Możliwe, że będziemy mieli superinteligencję za kilka tysięcy dni (!); może to zająć więcej czasu, ale jestem pewien, że nam się to uda” - napisał Altman w eseju zatytułowanym Wiek inteligencji i. , na stronie internetowej jego imienia. Wygląda na to, że post jest jak dotąd jedyną treścią w witrynie.

W poniedziałek Altman zamieścił link do posta na X (dawniej Twitterze), który do wtorkowego popołudnia otrzymał 12 000 polubień i 2400 ponownych postów:

Wiek inteligencji: https://t.co/vuaBNwp2bD

— Sam Altman (@sama) 23 września 2024 r

Altman używał terminu „superinteligencja” w wywiadach, takich jak rok temu „Financial Times”. Altman miał tendencję do utożsamiania superinteligencji z szeroko zakrojonymi poszukiwaniami w środowisku akademickim i przemysłowym mającym na celu osiągnięcie „sztucznej inteligencji ogólnej” (AGI), czyli komputera zdolnego do rozumowania równie dobrze lub lepiej niż człowiek.

W eseju składającym się z 1100 słów Altman przedstawia argumenty za rozpowszechnianiem sztucznej inteligencji wśród jak największej liczby osób w ramach postępu w „infrastrukturze społeczeństwa”, który umożliwi dramatyczny wzrost dobrobytu ludzkości.

„Dzięki tym nowym umiejętnościom możemy dzielić dobrobyt w stopniu, który wydaje się dziś niewyobrażalny” - napisał Altman.

„W przyszłości życie każdego może być lepsze niż życie kogokolwiek obecnie. Sam dobrobyt niekoniecznie uszczęśliwia ludzi - jest mnóstwo nieszczęśliwych bogatych ludzi - ale znacząco poprawiłby życie ludzi na całym świecie”.

W eseju Altmana brakuje szczegółów technicznych i zawiera kilka ogólnych twierdzeń na temat sztucznej inteligencji:

• Sztuczna inteligencja jest kulminacją „tysięcy lat łączenia odkryć naukowych i postępu technologicznego”, których kulminacją jest wynalezienie i ciągłe udoskonalanie chipów komputerowych.
• Formy sztucznej inteligencji polegające na „głębokim uczeniu się”, które umożliwiły generatywną sztuczną inteligencję, sprawdziły się bardzo dobrze pomimo komentarzy sceptyków.
• Coraz większa moc obliczeniowa wykorzystuje algorytmy głębokiego uczenia się, które w dalszym ciągu rozwiązują problemy, więc „sztuczna inteligencja będzie coraz lepsza dzięki skali”.
• Ciągłe zwiększanie infrastruktury komputerowej ma kluczowe znaczenie, aby rozpowszechnić sztuczną inteligencję wśród jak największej liczby osób.
• Sztuczna inteligencja nie zniszczy miejsc pracy, ale umożliwi nowe rodzaje pracy i doprowadzi do niespotykanego wcześniej postępu w nauce oraz osobistych pomocników, takich jak spersonalizowani korepetytorzy dla uczniów.

Esej Altmana zaprzecza wielu powszechnym obawom dotyczącym etycznego, społecznego i gospodarczego wpływu sztucznej inteligencji, które nabrały popularności w ostatnich latach.

Pogląd, że skalowanie obliczeń doprowadzi do powstania pewnego rodzaju superinteligencji, czyli AGI, jest sprzeczny z tym, do czego doszło wielu badaczy sztucznej inteligencji, takich jak na przykład krytyk Gary Marcus, który twierdzi, że AGI lub coś w tym rodzaju jest dalekie od ideału. na horyzoncie, jeśli w ogóle będzie to możliwe.

Pogląd Altmana, że skalowanie sztucznej inteligencji jest główną drogą do lepszej sztucznej inteligencji, jest kontrowersyjny. Wybitny badacz sztucznej inteligencji i przedsiębiorca Yoav Shoham powiedział w zeszłym miesiącu ZDNET, że skalowanie obliczeń nie wystarczy, aby wzmocnić sztuczną inteligencję. Zamiast tego Shoham opowiadał się za eksploracją naukową poza głębokim uczeniem się.

Optymistyczny pogląd Altmana nie wspomina również o licznych kwestiach związanych ze sztuczną inteligencją podnoszonych przez badaczy tej technologii, ani też nie ma wzmianki o szybko rozwijającym się zużyciu energii przez centra danych AI, które zdaniem wielu stwarza poważne zagrożenie dla środowiska.

Na przykład ekolog Bill McKibbon napisał, że „nie ma możliwości wytworzenia energii odnawialnej wystarczająco szybko, aby zaspokoić tego rodzaju dodatkowe zapotrzebowanie” ze strony sztucznej inteligencji oraz że „w racjonalnym świecie, w obliczu sytuacji nadzwyczajnej, odłożylibyśmy na razie skaluję sztuczną inteligencję.”

Godny uwagi jest czas publikacji eseju Altmana, ponieważ nastąpił on tuż po niedawno opublikowanych niektórych wybitnych krytykach sztucznej inteligencji. Krytyki te obejmują książkę Poskromienie Doliny Krzemowej Marcusa, opublikowaną w tym miesiącu przez MIT Press oraz AI Snake Oil, autorstwa informatyków z Princeton, Arvinda Narayanana i Sayasha Kapoora, opublikowaną w tym miesiącu przez Princeton Prasa uniwersytecka.

W książce Poskromienie Doliny Krzemowej Marcus ostrzega przed ogromnymi zagrożeniami wynikającymi z generatywnych systemów sztucznej inteligencji nieskrępowanych żadną kontrolą społeczną:

W najgorszym przypadku zawodna i niebezpieczna sztuczna inteligencja może doprowadzić do masowych katastrof, począwszy od chaosu w sieciach elektrycznych po przypadkową wojnę lub amok floty robotów. Wielu może stracić pracę. Modele biznesowe generatywnej sztucznej inteligencji ignorują prawo autorskie, demokrację, bezpieczeństwo konsumentów i wpływ na zmiany klimatyczne. A ponieważ rozprzestrzeniła się tak szybko i przy tak niewielkim nadzorze, generatywna sztuczna inteligencja w efekcie stała się ogromnym, niekontrolowanym eksperymentem na całej naszej populacji.

Marcus wielokrotnie krytykuje Altmana za wykorzystywanie szumu do podkreślania priorytetów OpenAI, szczególnie w zakresie promowania rychłego pojawienia się AGI. „Jednym mistrzowskim posunięciem było stwierdzenie, że zarząd OpenAI zbierze się, aby ustalić, kiedy sztuczna inteligencja ogólna „została osiągnięta”” - pisze Marcus w publicznych uwagach Altmana.

„I niewielu, jeśli w ogóle, pytało Altmana, dlaczego o ważnej naukowej kwestii osiągnięcia AGI „decyduje” rada dyrektorów, a nie społeczność naukowa”.

W swojej książce AI Snake Oil, która zjadliwie potępia szum wokół sztucznej inteligencji, Narayanan i Kapoor wyraźnie przywołują publiczne uwagi Altmana na temat regulacji dotyczących sztucznej inteligencji, oskarżając go o angażowanie się w formę manipulacji znaną jako „ przejęcie regulacyjne”, aby uniknąć rzeczywistych ograniczeń władzy jego firmy:

Zamiast w znaczący sposób ustalać zasady dla branży, firma [OpenAI] chciała przerzucić ciężar na konkurencję, unikając jednocześnie jakichkolwiek zmian we własnej strukturze. Firmy tytoniowe próbowały czegoś podobnego, lobbując w latach pięćdziesiątych i sześćdziesiątych na rzecz stłumienia działań rządu przeciwko papierosom.

Czas pokaże, czy Altman rozszerzy swoje publiczne uwagi za pośrednictwem swojej strony internetowej, czy też będzie to jednorazowy esej, być może mający na celu przeciwstawienie się innym sceptycznym narracjom.