Dlaczego wizualizacja AI DeepMind jest całkowicie bezużyteczna

Ładne obrazki kółek i galaretek nie pomagają ludziom zrozumieć, czym jest sztuczna inteligencja. Co, do cholery, mają przedstawiać te obrazy?

Uderzające, ale co to oznacza? Obrazy DeepMind, takie jak ten, opracowane przez Tima Westa, są uderzające, ale nie wyjaśniają, co faktycznie dzieje się w programach sztucznej inteligencji. Obraz najwyraźniej przedstawia „zalety i wady dużych modeli językowych”, takich jak ChatGPT, ale w jaki sposób?

„Doskonałość w grafice statystycznej składa się ze złożonych pomysłów przekazywanych z jasnością, precyzją i wydajnością”. — Edward R. Tufte, Wizualne wyświetlanie informacji ilościowych.

Zwykle wizualizacja jest czymś, co ma pomóc zrozumieć coś, czego nie można zobaczyć. Jednostka Google DeepMind opublikowała niedawno wizualizacje sztucznej inteligencji, stworzone przez różnych artystów wizualnych. Intencje mogą być dobre, ale skutki są katastrofalne.

„Visualising AI zleca artystom z całego świata tworzenie bardziej zróżnicowanych i przystępnych reprezentacji sztucznej inteligencji, inspirowanych rozmowami z naukowcami, inżynierami i etykami w Google DeepMind” - mówi firma. Kontrastuje te „różnorodne i dostępne” obrazy z typowymi obrazami sztucznej inteligencji, które obejmują świecące mózgi, roboty i tym podobne.

Prawdą jest, że typowe obrazy stockowe AI, takie jak świecące litery „A” i „I”, nie pomagają nikomu zrozumieć dość tajemniczej sztuki i nauki o formach uczenia maszynowego AI, dominującej formy sztucznej inteligencji .

Słynny ekspert w dziedzinie wizualizacji Edward R. Tufte, którego książka The Visual Display of Quantitative Information była przełomem w zrozumieniu wizualizacji, napisał, że sukces pokazy wizualne powinny m.in. „skłonić widza do zastanowienia się nad treścią, a nie nad metodologią, projektem graficznym, technologią produkcji graficznej czy czymś innym”.

Obrazy DeepMind dotyczą głównie tylko takich rzeczy, jak projektowanie graficzne. W rzeczywistości są one przeciążeniem projektu graficznego.

Jedno ze zdjęć, autorstwa Novoto Studio, przedstawia coś, co przypomina cukierki w kółko i krzyżyk zbliżające się do jakiegoś interfejsu komputerowego. W głębokim uczeniu się - ani w jakiejkolwiek innej formie sztucznej inteligencji - nie ma nic, co obejmowałoby „kółko i krzyżyk”.

Tik-tak, ktoś? Obrazy DeepMind, takie jak ten, opracowane przez Novoto Studio, są uderzające, ale nie wyjaśniają, co faktycznie dzieje się w programach sztucznej inteligencji.

Tekst towarzyszący kółkom tic-tac jest równie tajemniczy. „Urządzenie elektroniczne, na którym znajduje się wiele małych przedmiotów” - czytamy. „Artystyczna ilustracja sztucznej inteligencji (AI). Ten obraz przedstawia potencjał sztucznej inteligencji dla społeczeństwa poprzez wizualizacje 3D”. Cokolwiek to oznacza, prawdopodobnie nie ma wiele wspólnego z tic-tac.

Film towarzyszący kółkom i kółkom jest równie nieprzenikniony, choć w pewnym stopniu hipnotyzujący. Mógłby nosić tytuł „Marsz kółków i taktów”, ale to może nie pomóc nikomu w zrozumieniu sztucznej inteligencji.

Inny obraz, autorstwa Wesa Cockxa, ma przedstawiać „metalową konstrukcję wykonaną z drewna i metalu” i ma przedstawiać „metodę przewidywania stosowaną w dużych modelach językowych”.

To fascynująca wyimaginowana struktura, ale nie jest jasne, jaką rolę pełni w przewidywaniu. Film towarzyszący, pokazujący konstrukcję drewniano-metalową w akcji, nie jest zbyt pomocny. Pokazuje coś, co wygląda jak aparat, być może jakieś gigantyczne liczydło, ale co to coś robi?

Niektóre obrazy są tak fantazyjne, że wydają się nie mieć żadnego związku z niczym. Jedno zdjęcie, autorstwa XK Studio, przedstawiające coś, co wygląda jak sześcian jakiejś galaretowatej substancji, która wydaje się wydzielać inne rodzaje galaretowatej substancji, przypominającej komórki, jest raczej urzekające, ale nie ma nic wspólnego ze sztuczną inteligencją ani czymkolwiek innym w przeciwnym razie. Zmuszony do zgadywania, można by pomyśleć, że jest to odzwierciedlenie procesu tworzenia się żelatyny.

Film przedstawiający galaretowatą rzecz pokazuje, jak tworzy się mnóstwo rzeczy, które z kolei tworzą inne rzeczy. Powtórzę: kto wie, jaki materiał powstaje i dlaczego?

W towarzyszącym tekście wyjaśniono, że zdjęcie i film „badają, w jaki sposób ludzie mogą w przyszłości twórczo współpracować ze sztuczną inteligencją ogólną (AGI) oraz w jaki sposób może ona oferować nowe punkty widzenia, przyspieszać procesy i prowadzić do nowych terytoriów”. Poza tym, że nie wyjaśniamy, czym jest lub może być AGI, tekst jest tak niejasny, że jest bezużyteczny. Jest to przypadek, w którym obraz, a nawet tysiąc słów może nikomu nie pomóc.

Jedyne zdjęcie, które jest najbliżej znaku, to zdjęcie autorstwa Novoto Studio, które pokazuje coś, co wydaje się być konfiguracją rozgałęzioną. W tekście opisano to jako „inspirowane sieci neuronowe wykorzystywane w głębokim uczeniu się”.

Jest to najbliższe prawdy, ponieważ o sztucznych sieciach neuronowych można w pewnym sensie myśleć jako o sieciach rozgałęzionych, które obejmują wiele elementów zbiorowego działania.

Właściwie to dziwne, że wszystkie ilustracje są tak nie na temat, ponieważ sztuczna inteligencja ma bogatą tradycję ilustrowania. Oryginalna praca badawcza nad sieciami neuronowymi, przeprowadzona przez Franka Rosenblatta z Laboratorium Aeronautycznego Uniwersytetu Cornell, „The Perceptron”, zapoczątkowała 60 lat prób zbudowania sztucznych sieci neuronowych. Rosenblatt przedstawił na swojej ilustracji sieć zbudowaną ze sztucznych neuronów. Jest piękna w swojej prostocie:

Łatwo jest za chwilę ogarnąć, co się dzieje, ponieważ przez nasze życie przebiega sieć połączeń. Mapy stacji metra przedstawiają sieć połączeń. Wykres społecznościowy Facebooka to zbiór połączonych elementów. Wykres połączeń czegokolwiek jest potężny — znacznie potężniejszy niż dziwne renderingi w kółko i krzyżyk w Novoto Studio i całej reszcie.

Można nawet zamienić oryginalny diagram techniczny Rosenblatta w fantazyjne obrazy. Takie obrazy mogą nie być konkretne, ale mogą uchwycić część sensu systemu, który ma wejście i wyjście oraz tworzy połączenia między nimi:

Sieć neuronowa przekształca dane wejściowe (okręgi po lewej stronie) w dane wyjściowe po prawej stronie. Dzieje się tak poprzez transformację wag (w środku), którą często mylimy z wzorcami w samych danych.

Podstawowy problem z obrazami DeepMind polega na tym, że artyści wydają się bardzo mało rozumieć sztuczną inteligencję, dlatego ich misją jest głównie przedstawienie własnego, niedoinformowanego, impresjonistycznego przedstawienia tego, jak wyobrażają sobie sztuczną inteligencję. Nie jest to szczególnie pomocne, jeśli ktoś chce, aby społeczeństwo dowiedziało się czegoś na temat tego, co faktycznie dzieje się ze sztuczną inteligencją.

To niedobrze, ponieważ w dziedzinie uczenia maszynowego pracuje mnóstwo osób, które dobrze znają tę technologię, a także tworzą wizualizacje. Na przykład grupa badawcza People+AI w Google stworzyła kilka ładnych wizualizacji różnych aspektów tej technologii.

Ilustracja autorstwa zespołu People+AI w Google przedstawiająca kompromis w uczeniu maszynowym między dokładnością a prywatnością.

Były członek tej grupy, profesor Uniwersytetu Harvarda Martin Wattenberg, jest prawdziwym badaczem wizualizacji twardych idei. Zasłynął m.in. z Mapy Rynku SmartMoney opracowanej dla serwisu internetowego wydawnictwa Consumer Finance, które w 2013 roku połączyło się z MarketWatch.

Są ludzie, którzy rozumieją sztuczną inteligencję i prawdopodobnie mogą przekazać jej część. Są też ludzie, którzy przodują w wizualnym opowiadaniu historii i wyjaśnianiu. Wygląda na to, że DeepMind pominął je na rzecz studiów projektowych, które niewiele o nich wiedzą.