„Misja Sama Altmana w zakresie sztucznej inteligencji jest kontynuowana w Microsoft, przyszłość OpenAI i ChatGPT jest niepewna
Podczas weekendowej przejażdżki kolejką górską dla ukochanej generatywnej sztucznej inteligencji OpenAI współzałożyciele Sam Altman i Greg Brockman pracują teraz w firmie Microsoft, a OpenAI zastanawia się, jak dalej działać.
Po weekendowej przejażdżce kolejką górską dla OpenAI, jej współzałożyciele Sam Altman i Greg Brockman zostali teraz zatrudnieni przez Microsoft, gdzie będą kierować „nowym zaawansowanym zespołem badawczym zajmującym się sztuczną inteligencją”.
Jednak kilka godzin po ogłoszeniu tej informacji około 500 pracowników OpenAI opublikowało list otwarty do zarządu, w którym poinformował, że mogą zrezygnować i dołączyć do duetu w Microsoft, jeśli obaj współzałożyciele nie zostaną przywróceni na stanowiska. OpenAI zatrudnia ponad 700 pracowników.
Trwająca cała saga rozpoczęła się w piątkowy wieczór, kiedy firma OpenAI, potęga generująca sztuczną inteligencję, wydała oświadczenie, w którym ogłosiła usunięcie Altmana w związku z, zdaniem zarządu, brakiem wiary w jego zdolność do dalszego kierowania firmą.
„Odejście Altmana następuje po przeprowadzeniu przez zarząd przemyślanej analizy, która wykazała, że nie zawsze zachowywał on szczerość w kontaktach z zarządem, co utrudniało mu wykonywanie swoich obowiązków” - stwierdził zarząd. „OpenAI zostało celowo zaprojektowane, aby realizować naszą misję: zapewnić korzyści całej ludzkości ze sztucznej inteligencji ogólnej. Zarząd pozostaje w pełni zaangażowany w realizację tej misji”.
Wyraziła wdzięczność za wkład Altmana w założenie i rozwój OpenAI, ale zauważyła, że nowe kierownictwo jest „konieczne”, aby firma mogła się rozwijać.
Zarząd mianował CTO Mirę Murati na tymczasowego dyrektora generalnego, opisując ją jako „wyjątkowo wykwalifikowaną”, ponieważ kierowała w firmie funkcjami badawczymi, produktami i bezpieczeństwem.
W miarę jak wiadomości rozeszły się po całym weekendzie, doniesienia sugerowały, że Murati zamierza ponownie zatrudnić Altmana, a także Brockmana, który zrezygnował ze stanowisk przewodniczącego i prezydenta po obaleniu Altmana. Według doniesień zarząd również ponownie rozważał swoją decyzję w obliczu nacisków ze strony inwestorów i pracowników domagających się powrotu Altmana, jednak w sobotę wydawało się, że ta decyzja nie została podjęta.
Zamiast tego współzałożyciel i były dyrektor generalny Twitcha, Emmett Shear, został tymczasowym dyrektorem generalnym, zastępując Muratiego.
Wśród spekulacji na temat tego, co może wydarzyć się dalej, prezes i dyrektor generalny Microsoft Satya Nadella ogłosił w poniedziałek, że zatrudnił Altmana i Brockmana wraz z „współpracownikami” do „nowego zespołu badawczego zajmującego się zaawansowaną sztuczną inteligencją”.
„Pozostajemy zaangażowani w naszą współpracę z OpenAI i mamy zaufanie do naszego planu działania dotyczącego produktów, naszej zdolności do dalszego wprowadzania innowacji dzięki wszystkim, co ogłosiliśmy na Microsoft Ignite, a także do dalszego wspierania naszych klientów i partnerów” - Nadella powiedział w poście X. „Nie możemy się doczekać poznania Emmetta Sheara i nowego zespołu kierowniczego OpenAI oraz współpracy z nimi”.
Dyrektor generalny dodał, że Microsoft „szybko” podejmie działania, aby zapewnić zasoby swojemu nowemu zespołowi zajmującemu się zaawansowanymi badaniami nad sztuczną inteligencją, których będzie potrzebował do osiągnięcia sukcesu.
W odpowiedzi na nominację Altman powiedział po prostu: „Misja trwa”.
Według Nadelli stanie na czele nowego zespołu Microsoftu, dodając, że dołączy on do innych, którzy zbudowali „niezależną tożsamość i kulturę” w Microsoft, w tym GitHub i LinkedIn.
Wkrótce po tym, jak Nadella ujawnił, że Altman przechodzi do Microsoftu, 505 pracowników OpenAI wysłało list do zarządu, w którym stwierdził, że mogą zmierzać w tym samym kierunku, jeśli Altman i Brockman nie zostaną przywróceni do firmy. Zwrócili się także o rezygnację wszystkich członków zarządu i powołanie dwóch nowych niezależnych dyrektorów.
„Twoje działania pokazały, że nie jesteś w stanie nadzorować OpenAI. Nie jesteśmy w stanie pracować dla lub z ludźmi, którym brakuje kompetencji, osądu i troski o naszą misję i pracowników” - czytamy w liście. „Microsoft zapewnił nas, że w tej nowej spółce zależnej znajdą się stanowiska dla wszystkich pracowników OpenAI, jeśli zdecydujemy się dołączyć”.
Wśród osób, które podpisały list, znalazł się współzałożyciel i główny naukowiec Murati oraz OpenAI Ilya Sutskever, który według raportów odegrał rolę w decyzji o usunięciu Altmana. Sutskever zasiada w zarządzie OpenAI.
Sutskever, który milczał od chwili, gdy pojawiła się ta wiadomość w piątek, zamieścił post na X tuż przed ukazaniem się listu, w którym napisał: „Głęboko żałuję mojego udziału w działaniach zarządu. Nigdy nie miałem zamiaru skrzywdzić OpenAI. Kocham wszystko, co zbudowaliśmy razem i zrobię wszystko, co w mojej mocy, aby ponownie zjednoczyć firmę”.
W poście X dotyczącym jego własnej nominacji Shear przedstawił 30-dniowy plan dla OpenAI, który obejmował rozpoczęcie niezależnego dochodzenia w sprawie „całego procesu prowadzącego do tego momentu” i sporządzenie pełnego raportu. Na jego liście zadań do wykonania znajduje się także „zreformowanie” zarządu i zespołu kierowniczego w związku z niedawnymi odejściami, aby zapewnić klientom lepsze wyniki.
Dodając, że „sprawdził” uzasadnienie obalenia Altmana, Shear powiedział: „Zarząd nie zwolnił Sama z powodu jakichkolwiek konkretnych sporów dotyczących bezpieczeństwa. Ich rozumowanie było zupełnie odmienne od tego. Nie jestem na tyle szalony, aby przyjąć tę pracę bez wyżywienia wsparcie w komercjalizacji naszych niesamowitych modeli.”
Podczas swojej czerwcowej wizyty w Singapurze Altman powiedział, że ważne jest, aby społeczeństwo poznawało sztuczną inteligencję i doświadczało jej, nawet gdy technologia stale ewoluuje”. „poinformował o tym opinię publiczną, zakładając, że zidentyfikowano i wyeliminowano wszystkie możliwe zagrożenia” - zauważył. „W laboratorium nie da się nauczyć wszystkiego” - stwierdził.
W poście z lipca 2023 r. Sutskever napisał wraz z badaczem uczenia maszynowego Janem Leike: „Superinteligencja będzie najbardziej wpływową technologią, jaką kiedykolwiek wynalazła ludzkość i może pomóc nam rozwiązać wiele najważniejszych problemów świata. Jednak ogromna moc superinteligencji może być również bardzo niebezpieczne i może doprowadzić do pozbawienia ludzkości mocy, a nawet wyginięcia.”
„Obecnie nie mamy rozwiązania umożliwiającego sterowanie lub kontrolowanie potencjalnie superinteligentnej sztucznej inteligencji i zapobieganie jej zboczeniu” - powiedział Sutskever, który zasiada także w zarządzie OpenAI. „Nasze obecne techniki dopasowywania sztucznej inteligencji, takie jak uczenie się przez wzmacnianie na podstawie informacji zwrotnych od ludzi, opierają się na zdolności człowieka do nadzorowania sztucznej inteligencji, ale ludzie nie będą w stanie niezawodnie nadzorować systemów sztucznej inteligencji znacznie mądrzejsi od nas. Dlatego nasze obecne techniki dopasowywania nie będą skalowalne do superinteligencji. Potrzebujemy nowych przełomów naukowych i technicznych.”
W swoim poście Sutskever ogłosił, że nowy zespół badaczy i inżynierów zajmujących się uczeniem maszynowym ma pracować nad tym problemem. Ich wysiłki obejmowałyby opracowanie skalowalnej metody szkoleniowej, walidację powstałego modelu i przetestowanie całego rurociągu osiowania firmy.