OpenAI uruchamia bezpłatne szkolenia AI dla nauczycieli - jak uzyskać do nich dostęp

Marcus zabiera nas w podróż po 12 najgorszych obecnych zagrożeniach związanych ze sztuczną inteligencją, aby pokazać, dlaczego dobrze byłoby stworzyć agencję złożoną z dobrze poinformowanych organów regulacyjnych.

Uczony Gary Marcus stał się czymś w rodzaju Laureata Poety w dziedzinie niedociągnięć sztucznej inteligencji (AI), opisując w wielu książkach i artykułach, jak technologia ta często zawodzi i jest mniej imponująca, niż sądzi przeciętny człowiek.

Kiedy pięć lat temu Marcus wraz ze współautorem Ernestem Davisem pisał o technicznych niedociągnięciach sztucznej inteligencji w Rebooting AI, jego krytyka była nadal nieco teoretyczna, wskazując na potencjalne zagrożenia związane z tą technologią.

Od tego czasu ChatGPT szturmem podbiło świat. Ta sytuacja pozostawia Marcusowi płótno z prawdziwego świata, na którym może zastanowić się nad rzeczywistym, obecnym zagrożeniem związanym ze sztuczną inteligencją.

Jego najnowsza praca, Poskromienie Doliny Krzemowej, opublikowana w zeszłym miesiącu przez MIT Press, kataloguje te rzeczywiste efekty. Książka powinna być lekturą obowiązkową dla każdego, kogo życie w choć najmniejszym stopniu zostanie dotknięte przez sztuczną inteligencję, czyli dzisiaj prawie każdego.

Jak zawsze Marcus pisze mocnym głosem, który porusza się przez materiał w przewiewnym, władczym stylu, popartym solidną znajomością nauki i technologii. Zapłata jest często oczywista, a Marcus przewiduje, że z każdego anegdotycznego przykładu, który przytacza, wyniknie coś gorszego.

Siedząc po kolana w Twitterverse (Xverse), Marcus w pełni wykorzystuje inne głosy, cytując uczonych i zaniepokojonych osób, które same obszernie pisali o niebezpieczeństwach.

Pierwsze 50 stron książki to opowieść o wpadkach związanych ze sztuczną inteligencją, zwłaszcza generatywną, oraz o ryzyku i szkodach, jakie może ona - a w niektórych przypadkach już powoduje - powodować. Jest to obszar znany każdemu, kto śledzi substack Marcusa lub jego kanał X, ale przydatne jest posiadanie kontekstu w jednym miejscu.

Zagrożenie nie ma nic wspólnego z superinteligentną sztuczną inteligencją, czyli „sztuczną inteligencją ogólną”. Marcus od dawna był sceptyczny wobec współczesnego uczenia maszynowego i głębokiego uczenia się, które pozwalają osiągnąć nadludzkie możliwości. Naśmiewa się z pomysłów, jakoby taka inteligencja unicestwiła ludzkość za jednym zamachem.

„W tej dziedzinie dużo mówi się o p(zagłada), matematycznym zapisie, nieco żartobliwym, określającym prawdopodobieństwo, że maszyny unicestwią wszystkich ludzi” - pisze Marcus w Poskromienie Doliny Krzemowej. „Osobiście wątpię, czy zobaczymy, jak sztuczna inteligencja spowoduje dosłowne wyginięcie”.

Zamiast tego Marcus martwi się codziennymi zagrożeniami wynikającymi z tego, co niezbyt inteligentne maszyny już wyrządzają społeczeństwu za pośrednictwem ChatGPT i innych podobnych programów.

Marcus zabiera nas w podróż po 12 najgorszych obecnych zagrożeniach związanych ze sztuczną inteligencją. Zagrożenia te obejmują duże modele językowe (LLM), działające jak maszyny do masowej produkcji informacji, jak na przykład dylemat „oszukańczych przeróbek książek generowanych przez sztuczną inteligencję, które zalewają Amazon” - podaje magazyn Wired . artykuł, który cytuje.

Poważniejsze są głęboko fałszywe głosy udające porwane osoby, co miało już miejsce wielokrotnie. „Możemy się spodziewać, że będzie się to zdarzać znacznie częściej” - przewiduje w sprawie oszustw związanych z wymuszeniami.

Marcus spędza wiele stron omawiając kradzież własności intelektualnej w postaci dzieł chronionych prawem autorskim przywłaszczonych przez OpenAI i inne firmy do szkolenia LLM bez uzyskania zgody. Jak to często bywa, Marek może nadać sprawie większą wagę, niż mogłoby się początkowo wydawać.

„Całą sprawę nazwano Wielkim Skokiem Danych - zagrabieniem ziemi w celu uzyskania własności intelektualnej, które (o ile nie zostanie zatrzymane przez interwencję rządu lub działania obywateli) doprowadzi do ogromnego transferu bogactwa - od prawie każdego z nas - do maleńkiej liczby firm” - pisze.

Środkowa część książki wykracza poza omówienie szkód wyrządzonych krytyce drapieżnych praktyk w Dolinie Krzemowej i temu, jak gigantyczne firmy technologiczne oszukują opinię publiczną i prawodawców, wplatając mitologię w swoje wynalazki, aby sprawiały wrażenie jednocześnie ważnych i całkowicie nieszkodliwych.

Złamane obietnice OpenAI spotykają się z zasłużoną krytyką Marcusa. Należą do nich firma, która nie jest już organizacją non-profit i nie jest już „otwarta” w jakimkolwiek znaczącym sensie, zamiast tego ukrywa cały swój kod przed publiczną kontrolą.

Ale problemem jest więcej niż jeden zły aktor: Dolina Krzemowa jest pełna błędnego ukierunkowania i nieszczerości.

Wśród kilku chwytów retorycznych Marcus zwraca uwagę na firmy takie jak Microsoft, OpenAI i Google należące do Alphabet, twierdzące, że są zbyt zajęte rozważaniem scenariuszy Dnia Sądu Ostatecznego, aby przejmować się rodzajami obecnych zagrożeń, które opisuje.

„Big Tech chce odwrócić naszą uwagę od tego wszystkiego, mówiąc - bez żadnej prawdziwej odpowiedzialności - że pracuje nad zapewnieniem bezpieczeństwa przyszłej sztucznej inteligencji (wskazówka: tak naprawdę też nie mają na to rozwiązania), nawet jeśli robią zdecydowanie za mało w kwestii obecnego ryzyka” - pisze.

„Zbyt cyniczny? W maju 2023 r. kilkudziesięciu liderów technologicznych podpisało list, ostrzegając, że sztuczna inteligencja może stwarzać ryzyko wyginięcia, mimo to nie wydaje się, aby żaden z tych liderów ani trochę zwolnił”.

Rezultatem takiego podejścia wielkich technologii było dokooptowanie rządu, znane w typach polityk jako „przechwytywanie regulacyjne”.

„Niewielka liczba osób i firm ma ogromny, w dużej mierze niewidoczny wpływ” - pisze Marcus. „To nie przypadek, że ostatecznie po wszystkich dyskusjach, jakie widzieliśmy na temat zarządzania sztuczną inteligencją w Stanach Zjednoczonych, w większości mamy dobrowolne wytyczne i prawie nic nie ma prawdziwych zębów”.

Biorąc pod uwagę widoczne zagrożenia i egoistyczne manewry Big Tech, co można zrobić?

W ostatniej części Marcus zastanawia się, jak uporać się z obecnymi zagrożeniami i kulturą technologiczną polegającą na wprowadzaniu w błąd i egoizmie. Jest outsiderem świata polityki, mimo że zeznawał przed Kongresem USA jako ekspert.

W związku z tym nie przedstawia planu tego, co powinno się wydarzyć, ale wykonuje inteligentną robotę, oferując sugestie, które w większości mają oczywisty sens.

Na przykład prawo autorskie powinno zostać zaktualizowane ze względu na wiek LLM.

„Teraz chodzi o aktualizację tych przepisów” - pisze - „aby zapobiec oszukiwaniu ludzi w nowy sposób, mianowicie przez chroniczne (prawie) niedomykalność, zwane modelami dużych języków. Musimy zaktualizować nasze przepisy. "

Potrzebne są także nowe przepisy chroniące prywatność w obliczu „kapitalizmu inwigilacyjnego”, który wykorzystuje czujniki do wysysania danych od wszystkich.

„W chwili pisania tego tekstu żadne prawo federalne nie gwarantuje, że urządzenie Amazon Echo nie będzie węszyć w Twojej sypialni ani że producent Twojego samochodu nie sprzeda danych o Twojej lokalizacji nikomu, kto o to poprosi” - zauważa Marcus.

Największą luką w świecie regulacyjnym jest sekcja 230 ustawy o przyzwoitości komunikacyjnej z 1996 r. przyjętej przez Kongres USA. Artykuł 230 zwalnia serwisy internetowe, w tym Facebook i X należące do Meta, z wszelkiej odpowiedzialności za treści, w tym treści brutalne, poniżające i zawierające przemoc. Uwalnia także użytkowników tych usług od zastraszania innych użytkowników, ukrywając się pod wymówką, że jest to opinia tylko jednej osoby.

„Gazety można pozywać za kłamstwa; dlaczego media społecznościowe miałyby być wyłączone?” Marek słusznie zauważa. „Należy uchylić (lub napisać na nowo art. 230), przypisując odpowiedzialność za wszystko, co szeroko krąży”. Amen na to.

Marcus jako pierwszą zasadę uznaje także szerokie środki zapobiegawcze, w tym przejrzystość, taką jak nie tylko żądanie kodu open source, ale w wielu przypadkach zmuszanie firm do ujawniania, w jaki sposób wykorzystywane są LLM i tym podobne.

„Czy stosowano na przykład duże modele językowe przy podejmowaniu decyzji zawodowych i robiono to w sposób stronniczy? Po prostu nie wiemy” z powodu braku przejrzystości, identyfikowalności i odpowiedzialności, zauważa Marcus.

Spośród wszystkich możliwych sposobów liczenia się z ryzykiem, jakie Marcus bada, jego książka stanowi najmocniejszy argument przemawiający za utworzeniem agencji regulacyjnej ds. sztucznej inteligencji - zarówno krajowej, jak i międzynarodowej - która poradziłaby sobie ze złożonością tego zadania.

Tworzenie prawa to w ostatecznym rozrachunku zbyt powolna procedura, aby zaradzić obecnym szkodom, pisze Marcus. „Spory sądowe mogą zająć dekadę lub dłużej”, jak zauważył w zeznaniach przed Senatem USA w 2023 r. Agencja może też być „zwinniejsza” niż prawodawcy - zauważa.

Chociaż apetyt na agencję zajmującą się sztuczną inteligencją, pisze, jest niewielki, „alternatywa jest gorsza: bez nowej agencji ds. sztucznej inteligencji (lub może szerzej - zajmującej się technologią cyfrową w ogóle) Stany Zjednoczone zawsze będą nadrabiać zaległości, próbując sobie poradzić Sztuczna inteligencja i świat cyfrowy z infrastrukturą, która na długo poprzedza współczesny świat.

Opowiadając się za agencją sztucznej inteligencji, Marcus staje przed dwoma wyzwaniami. Jeden z nich wykazuje znaczną szkodę. Pokazanie ryzyka, jak to zrobił Marcus na pierwszych 50 stronach, to jedno; jednakże wszystkie te zagrożenia muszą się sumować w postaci wystarczających szkód, aby zjednoczyć zarówno opinię publiczną, jak i pilną potrzebę podjęcia działań przez prawodawców.

Współczesna historia regulacji pokazuje, że zasady i agencje zostały utworzone dopiero po wykazaniu wielkich szkód. Ustawa o papierach wartościowych z 1933 r., która nałożyła rygorystyczne wymagania dotyczące tego, co spółki publiczne mogą, a czego nie mogą zrobić, aby chronić inwestorów, została uchwalona po krachu na giełdzie w 1929 r., który zniweczył całe fortuny i zrujnował światową gospodarkę. Był to moment tak bezprecedensowej katastrofy, że pobudził wysiłki regulacyjne.

Międzynarodowa Agencja Energii Atomowej została utworzona w celu regulowania rozszczepienia jądrowego dopiero po wybuchu bomby atomowej, w której zginęło 200 000 ludzi w Hiroszimie i Nagasaki w Japonii. Na mniejszą skalę amerykańska Agencja ds. Żywności i Leków powstała na początku XX wieku po tym, jak dziennikarze i postępowi aktywiści rzucili światło na ogromne szkody powodowane przez skażone substancje.

Innymi słowy, rządy rzadko podejmowały działania mające na celu promowanie regulacji przed wykazaniem znacznej szkody.

Czy pierwsze 50 stron Marcusa stanowi przekonujący dowód? Nie jest jasne. Biorąc pod uwagę liczbę osób korzystających z ChatGPT i tym podobnych, wszelkie pojęcie szkody musi konkurować z masową atrakcyjnością tych narzędzi. Każda szkoda zidentyfikowana przez Marcusa może zostać usprawiedliwiona przez entuzjastycznego użytkownika ChatGPT, Perplexity lub Google Gemini jako jedynie cena, jaką należy zapłacić za uzyskanie nowego narzędzia.

Wysłałem e-mail do Marcusa z pytaniem: „Czy na pierwszych 50 stronach książki pokazano wystarczająco dużo szkód, aby uzasadnić środki zaproponowane na ostatnich 60 stronach książki?”

W odpowiedzi Marcus zauważył, że „ktoś faktycznie popełnił samobójstwo w okolicznościach, które wydają się być związane z LLM”, odnosząc się do incydentu z kwietnia 2023 r., kiedy trzydziestoletni mężczyzna popełnił samobójstwo po sześciu tygodniach interakcji z chatbotem.

Marcus zauważył, że poza faktycznym incydentem „mamy już do czynienia z wieloma negatywnymi konsekwencjami generatywnej sztucznej inteligencji, począwszy od dezinformacji, przez ukryty rasizm, po bezsensowne fałszywe porno i szkody dla środowiska; wszystkie te konsekwencje szybko rosną”.

„Już stoimy w obliczu wielu negatywnych konsekwencji generatywnej sztucznej inteligencji” - argumentuje Marcus.

Odpowiedź Marcusa ponownie stawia pytanie, ile szkód jest za dużo, zanim społeczeństwo powie „dość” i ustanowi kontrolę.

W rzeczywistości najlepszym powodem utworzenia agencji AI może być to, że jest mało prawdopodobne, aby istniało porozumienie społeczne w sprawie szkód. Dla niektórych, takich jak Marcus, jakakolwiek krzywda jest zbyt wielka, podczas gdy inni chcą przede wszystkim pielęgnować raczkującą technologię bez narzucania zbyt wielu ograniczeń.

Agencja sztucznej inteligencji mogłaby pogodzić te głębokie podziały poprzez rygorystyczne rejestrowanie i monitorowanie zgłaszanych szkód oraz badanie teoretycznych szkód, aby wyjść poza przypuszczenia i uzyskać kompleksowy obraz zagrożeń stwarzanych dla społeczeństwa.

Drugim dużym wyzwaniem w związku z wezwaniem Marcusa do utworzenia agencji zajmującej się sztuczną inteligencją jest określenie, nad czym powinna ona nadzorować. Mandaty większości agencji opierają się przynajmniej na przybliżonym zarysie zakresu ich kompetencji.

Na przykład amerykańska Komisja Papierów Wartościowych i Giełd reguluje transakcje dotyczące „papierów wartościowych”, które mogą obejmować akcje, takie jak akcje zwykłe spółki notowanej na giełdzie, lub instrumenty dłużne, takie jak obligacje. SEC nie reguluje innych instrumentów zbywalnych, takich jak kontrakty na instrumenty pochodne, które są pozostawione innej agencji, Komisji ds. Handlu Kontraktami Terminowymi na Towary.

Problem z terminem „sztuczna inteligencja” polega na tym, że nigdy nie był to termin rzeczywisty. Marcus i inni uczeni używają tego terminu jako skrótu. Ale w rzeczywistości sztuczna inteligencja nie ma dokładnego znaczenia. Sztuczna inteligencja to torba, w której można znaleźć wszystko, co związane z informatyką, którą można nazwać sztuczną inteligencją.

Nieżyjący już badacz sztucznej inteligencji, Marvin Minsky z MIT, ukuł termin „słowa walizkowe” na oznaczenie wyrażeń, które mogą reprezentować wszystko, co ktoś chce, aby zawierało. AI to słowo z walizki. Może obejmować LLM, ale wraz z rosnącym marketingiem dowolnego oprogramowania jako sztucznej inteligencji, każdy rodzaj kodu może być oznaczony jako „AI”, niezależnie od tego, czy ma coś wspólnego z LLM, czy nie.

Sytuacja ta stanowi problem dla organów regulacyjnych: gdzie wytyczyć granicę dla ich organu regulacyjnego.

Czy organy regulacyjne powinny regulować tylko te rzeczy, które wykorzystują określony komponent technologiczny powiązany z formami sztucznej inteligencji opartymi na uczeniu maszynowym, takie jak schodzenie w gradiencie stochastycznym, które jest wykorzystywane w szkoleniu większości LLM?

A może powinny regulować wszystko, co ma określony, zaobserwowany skutek, na przykład przywłaszczanie sobie materiałów chronionych prawem autorskim lub tworzenie wyników w języku naturalnym? A może powinni rozszerzyć swoje uprawnienia na wszystko, co twierdzi , że jest sztuczną inteligencją?

Zapytałem Marcusa w e-mailu: „Skąd organy regulacyjne będą wiedzieć, co leży w ich gestii?”

Zdaniem Marcusa eksperci rozwiążą kwestie definicyjne: „Oczywiście potrzebujemy ekspertów, tak samo jak np. w przypadku FDA lub regulacji dotyczących samolotów”.

Marcus kontynuował: „W jakiś sposób udaje nam się stosunkowo dobrze poradzić sobie z pytaniami definicyjnymi dotyczącymi„ żywności ”, „narkotyków” itp.”. To prawda, z tą różnicą, że są to rzeczy rzeczywiste, dla których w końcu można znaleźć definicje; Sztuczna inteligencja nie jest.

Marcus nalegał, żebym nie „przemyślał” tej kwestii: „Każde rozporządzenie będzie miało zakres odpowiadający temu rozporządzeniu, np. właśnie podpisana ustawa [gubernatora Kalifornii Gavina] Newsoma o szkoleniach, a przejrzystość dotyczy wyłącznie przeszkolonych modeli” - zauważył Marcus. „Przepisy dotyczące dyskryminacji w zatrudnieniu powinny dotyczyć dowolnego algorytmu, wytrenowanego lub zakodowanego na stałe, który jest używany do podejmowania decyzji o zatrudnieniu itp.”.

To podejście dotyczy środków indywidualnych, ale nie rozwiązuje kwestii mandatu dla agencji ds. sztucznej inteligencji. Każda agencja, która powstanie, będzie musiała mieć mandat taki sam jak FDA. To będzie trudne, choć termin AI jest niejasny i pełen szumu.

Sytuacja ta nie powinna jednak powstrzymywać społeczeństwa od projektu agencji AI. Główny argument Marcusa jest wciąż najmocniejszy: stanowienie prawa po prostu nie nadąża za rozprzestrzenianiem się sztucznej inteligencji, niezależnie od tego, jak definiuje się tę technologię. Organ nadzorczy składający się z ekspertów w tej dziedzinie i dysponujący uprawnieniami regulacyjnymi musi na co dzień wykazywać czujność.

W związku ze zbliżającą się zmianą władzy w Waszyngtonie, kiedy w styczniu Donald J. Trump zostanie prezydentem USA, zapytałem Marcusa, jak ocenia szanse na uformowanie się takiej agencji.

Nie jest optymistą:

America absolutely needs an AI agency - both to encourage and leverage innovation, but also to mitigate the risks of AI, such as misinformation, discrimination, cybercrime, damage to environment, and the widespread theft of intellectual property. I fear that the Trump administration will ignore many of these risks, letting them escalate, and leaving society to bear them. I very much hope that I am wrong.