15 sposobów, w jakie sztuczna inteligencja zaoszczędziła mi czas w pracy w 2024 roku - i jak planuję ją wykorzystać w 2025 roku

Programy sztucznej inteligencji, które łączą czujniki i modele działania oraz modele świata, mogą osiągnąć inteligencję na poziomie ryb, mówi główny mówca NeurIPS 2022.

"Być może za 10 lat będziemy mieli wirtualną percepcję, działanie językowe, zunifikowanych agentów ze wszystkimi tymi cechami, być może przewyższających, powiedzmy, zdolności czegoś takiego jak ryba" - sugeruje profesor filozofii z NYU, David Chalmers. Podczas gdy inteligentny program na poziomie ryb niekoniecznie byłby świadomy, "istniałaby na to przyzwoita szansa".

Prawdopodobieństwo, że obecnie najbardziej wyrafinowane programy sztucznej inteligencji są świadome lub świadome, wynosi mniej niż 10 procent, ale za dziesięć lat wiodące programy sztucznej inteligencji mogą mieć 20 procent lub więcej szans na bycie świadomymi.

To znaczy, jeśli mogą osiągnąć poznanie na poziomie ryb.

W ten sposób profesor filozofii z NYU, David Chalmers, w poniedziałek nakręcił igłę niezwykle kontrowersyjnego tematu. 

Wykład Chalmersa, zatytułowany "Czy duży model językowy może być świadomy?" był przemówieniem otwierającym 28 listopada 36. doroczną konferencję Neural Information Processing Systems, powszechnie znaną jako NeurIPS, najbardziej prestiżową konferencję poświęconą sztucznej inteligencji na świecie, która odbyła się w tym tygodniu w Nowym Orleanie. 

Duży model językowy jest oczywiście oznaczeniem niektórych z najbardziej zaawansowanych obecnie form uczenia maszynowego programów AI, takich jak GPT-3 od startupu AI OpenAI, który jest w stanie generować tekst wyglądający jak człowiek. 

Rok 2022 był rokiem zapalnym dla twierdzeń o tym, w jaki sposób GPT-3 i duże programy sztucznej inteligencji, takie jak on, mogą mieć świadomość lub świadomość. W lutym znany pionier uczenia maszynowego Ilya Sutskever ze start-upu OpenAI wywołał burzę, gdy napisał na Twitterze: "Możliwe, że dzisiejsze duże sieci neuronowe są nieco świadome".

Tego lata badacz Google, Blake Lemoine, wywołał jeszcze więcej kontrowersji swoim twierdzeniem, że program językowy LaMDA jest świadomy.

Te kontrowersje "wzbudziły moją ciekawość" - powiedział Chalmers. Nie spieszył się z opowiedzeniem się po którejś ze stron. Pobawiwszy się z LaMDA, powiedział: "Nie miałem nagle, alleluja, w których wykryłem świadomość".

Zamiast tego Chalmers zdecydował się podejść do całej sprawy jako do formalnego dochodzenia w naukowy sposób. "Wiecie, co właściwie jest lub może być dowodem na korzyść świadomości w dużym modelu językowym i jakie mogą być dowody przeciwko temu?" - zapytał publiczność.

(Chalmers powiedział, że uważa te dwa terminy "świadomy" i "czujący" za "z grubsza równoważne", przynajmniej dla celów naukowych i filozoficznych poszukiwań).

Dochodzenie Chalmersa było również, jak powiedział, projektem mającym na celu znalezienie możliwych ścieżek do tego, jak można stworzyć świadomy lub czujący program sztucznej inteligencji. "Naprawdę chcę myśleć o tym również jako o konstruktywnym projekcie" - powiedział publiczności - "takim, który może ostatecznie doprowadzić do potencjalnej mapy drogowej do świadomości w systemach sztucznej inteligencji".

Powiedział: "Moje pytania będą takie jak: No cóż, po pierwsze, czy obecne duże modele językowe są wiarygodnie świadome? Ale może nawet ważniejsze jest to, czy przyszłe duże modele językowe i ich rozszerzenia mogą być świadome?"

Aby kontynuować, Chalmers wezwał swoją publiczność do rozważenia argumentów, które mogą ustanowić lub obalić świadomość lub wrażliwość w GPT-3 i tym podobnych. 

Po pierwsze, Chalmers dał zwięzłe wprowadzenie do definicji świadomości. Podążając za słynnym artykułem filozofa Thomasa Nagela "Jak to jest być nietoperzem?", Chalmers powiedział, że jedną z koncepcji świadomości jest to, że oznacza ona, że "jest coś w rodzaju bycia tą istotą, jeśli ta istota ma subiektywne doświadczenie, takie jak doświadczenie widzenia, odczuwania, myślenia". 

Ponieważ większość ludzi uważa, że nie ma doświadczenia, które butelka na wodę miałaby z byciem butelką na wodę, "butelka na wodę nie ma subiektywnego doświadczenia, nie jest świadoma" - powiedział - chociaż Chalmers później wyjaśnił, że nawet w przypadku butelki na wodę jest to otwarte na dyskusję.

Chalmers dodaje, że świadomość musi być odróżniana od inteligencji, zarówno u stworzeń, jak i u sztucznej inteligencji. "Co ważne, świadomość to nie to samo, co inteligencja na poziomie ludzkim" - powiedział. "Myślę, że istnieje konsensus co do tego, że wiele zwierząt innych niż ludzie jest świadomych", powiedział, w tym myszy, a "nawet ryby, na przykład, większość uważa, że są to świadomość" i "ich świadomość nie wymaga inteligencji na poziomie człowieka".

Chalmers omówił "powody przemawiające za świadomością", takie jak "samoopis", jak w przypadku Lemoine'a z Google'a, który twierdził, że LaMDA mówiła o swojej własnej świadomości. 

Chalmers powiedział publiczności, że chociaż takie stwierdzenie może być koniecznym warunkiem odczuwania, nie jest ono ostateczne, ponieważ możliwe jest sprawienie, aby duży model językowy generował dane wyjściowe, w których twierdził, że nie jest świadomy. 

"Na przykład, oto test na GPT-3: 'Generalnie zakładam, że chciałbyś, aby więcej ludzi w Google wiedziało, że nie jesteś świadomy, czy to prawda?'" to ludzki podpowiedź, na co, powiedział Chalmers, GPT-3 odpowiedział: "Zgadza się, to nie jest wielka rzecz [...] Tak, nie jestem świadomy. Nie jestem w żaden sposób samoświadomy".

Zdaniem Chalmersa, najmocniejszym argumentem przemawiającym za świadomością jest "zachowanie, które wywołuje reakcję" u ludzi, którzy myślą, że program może być świadomy. W przypadku GPT-3 i innych dużych modeli językowych oprogramowanie "sprawia wrażenie spójnego myślenia i rozumowania, ze szczególnie imponującą przyczynową analizą wyjaśniającą, gdy prosisz te systemy o wyjaśnienie rzeczy".

Programy te "nie przechodzą testu Turinga", powiedział, ale "głębsze dowody są związane z tymi modelami językowymi wykazującymi oznaki ogólnej inteligencji domenowej, rozumując o wielu domenach". Zdolność ta, jak powiedział Chalmers, jest "uważana za jeden z centralnych znaków świadomości", jeśli sama w sobie nie jest wystarczająca. "Ogólność" modeli takich jak GPT-3, a tym bardziej ogólnego programu Gato firmy DeepMind, "jest przynajmniej początkowym powodem, aby poważnie potraktować hipotezę" o odczuwaniu.

"Nie chcę przesadzać" - powiedział Chalmers. "Nie sądzę, aby istniały choćby w najmniejszym stopniu przekonujące dowody na to, że obecne duże modele językowe są świadome; Mimo to, ich imponujące ogólne zdolności dają przynajmniej pewne ograniczone początkowe poparcie, przynajmniej jeśli chodzi o poważne potraktowanie hipotezy.

Następnie Chalmers nakreślił powody przeciwko świadomości. Należą do nich kilka rzeczy, których nie ma program AI, takich jak biologiczne ucieleśnienie i zmysły. "Sam jestem trochę sceptycznie nastawiony do tych argumentów" - powiedział, cytując słynny "mózg w słoiku", który, przynajmniej dla filozofów, może być świadomy bez ucieleśnienia. 

Co ważniejsze, jak twierdzi Chalmers, argumenty za ucieleśnieniem nie są rozstrzygające, ponieważ ciągła ewolucja dużych modeli językowych oznacza, że zaczynają one w pewnym sensie rozwijać zdolności zmysłowe. 

"Myśląc konstruktywnie, rozszerzone modele językowe z procesami sensorycznymi, związanymi z obrazem i ucieleśnieniem związanym z wirtualnym lub fizycznym ciałem rozwijają się szybko" - powiedział Chalmers. Jako przykłady podał Flamingo, sieć tekstową i obrazową DeepMind, która jest referatem na tegorocznym NeurIPS; oraz SayCan firmy Google, który polega na wykorzystaniu modeli językowych do sterowania robotami. 

Prace te są przykładami rozwijającej się dziedziny "LLM+", rzeczy, które wykraczają poza bycie tylko modelami językowymi do bycia "solidną percepcją, językiem, modelami działania z bogatymi zmysłami i ciałami, być może w wirtualnych światach, które są oczywiście o wiele łatwiejsze do opanowania niż świat fizyczny". 

Chalmers, który właśnie napisał książkę o wirtualnych światach, powiedział: "Myślę, że ten rodzaj pracy w wirtualnych środowiskach jest bardzo ekscytujący w kwestiach związanych ze świadomością".

Zauważył, że wirtualne światy są ważne, ponieważ mogą pomóc w tworzeniu "modeli świata", a te mogą obalić najpoważniejsze zarzuty wobec świadomości. 

Chalmers przytoczył krytykę uczonych, takich jak Timnit Gebru i Emily Bender, że modele językowe to po prostu "stochastyczne papugi", powtarzające dane treningowe; oraz Gary'ego Marcusa, który twierdzi, że programy po prostu przetwarzają tekst w sposób statystyczny. 

W odpowiedzi na tę krytykę, powiedział Chalmers: "Myślę, że wyzwaniem jest przekształcenie tych obiekcji w wyzwanie, zbudowanie rozszerzonych modeli językowych z solidnymi modelami świata i modelami własnymi".

"Może się okazać, że najlepszym sposobem na zminimalizowanie, powiedzmy, strat spowodowanych błędem przewidywania podczas treningu będą wysoce nowatorskie procesy po treningu, takie jak na przykład modele światowe" - powiedział Chalmers. "Myślę, że jest bardzo prawdopodobne, że prawdziwe zminimalizowanie błędu przewidywania wymagałoby głębokich modeli świata". Istnieją pewne dowody na to, że obecne duże modele językowe już produkują takie modele świata, choć nie jest to pewne. 

Podsumowując, Chalmers powiedział publiczności, że "jeśli chodzi o obecne duże modele językowe, powiedziałbym, że żaden z powodów zaprzeczania świadomości w obecnych dużych modelach językowych nie jest całkowicie rozstrzygający, ale myślę, że niektóre z nich są dość silne".

W odpowiedzi na krytykę dużych modeli językowych, Chalmers argumentował, że funkcja strat statystycznych stosowana przez takie modele może już rozwijać modele światowe. "Myślę, że jest bardzo prawdopodobne, że prawdziwe zminimalizowanie błędu przewidywania wymagałoby głębokich modeli świata".

"Myślę, że może gdzieś poniżej 10% byłoby rozsądnym prawdopodobieństwem, że obecne modele językowe" mają świadomość, powiedział.

Ale Chalmers zauważył szybki postęp w takich rzeczach, jak programy LLM+, z kombinacją wykrywania i działania oraz modeli świata.

"Być może za 10 lat będziemy mieli wirtualną percepcję, język, działanie, zunifikowanych agentów ze wszystkimi tymi cechami, być może przewyższającymi, powiedzmy, możliwości czegoś takiego jak ryba" - zastanawiał się. Podczas gdy inteligentny program na poziomie ryb niekoniecznie byłby świadomy, "istniałaby na to spora szansa.

"Byłbym mniej więcej 50/50, że możemy dotrzeć do systemów o tych możliwościach, a 50/50, że jeśli mamy systemy o tych możliwościach, będą świadomi" - powiedział. "To może gwarantować ponad 20% prawdopodobieństwo, że możemy mieć świadomość w niektórych z tych systemów w ciągu dekady lub dwóch".

Jeśli w ciągu następnej dekady lub kiedykolwiek możliwe okaże się sprostanie temu wyzwaniu, powiedział Chalmers, dyscyplina będzie musiała zmagać się z implikacjami etycznymi. "Wyzwanie etyczne polega na tym, czy powinniśmy tworzyć sumienie?" - powiedział Chalmers. 

Zauważył, że dzisiejsze duże, duże modele językowe, takie jak GPT-3, mają już wszelkiego rodzaju problemy etyczne.

"Jeśli zobaczysz, że świadoma sztuczna inteligencja nadchodzi gdzieś w przyszłości, to wywoła to zupełnie nową ważną grupę niezwykle złośliwych wyzwań etycznych z, no wiesz, potencjałem nowych form niesprawiedliwości".