Generatywna sztuczna inteligencja to wszystko, wszędzie i wszystko na raz
Firmy chcą skorzystać z generatywnej sztucznej inteligencji i są gotowe zrobić wszystko, aby płynąć na fali.
Czy generatywna sztuczna inteligencja pozostanie na stałe? Większość znaków wskazuje na „tak”. Ale w jakim charakterze? Decyzja należy do twórców technologii i całej branży. Mimo to, gdy Dolina Krzemowa płynie na tej fali, duże i małe firmy chwytają za deskę surfingową i łapią fale.
Niektórzy budują własne, duże modele językowe do powszechnego użytku lub włączają generatywną sztuczną inteligencję do etosu swoich produktów. I inni? Cóż, oni tylko mówią różne rzeczy, naprawdę wszystko, żeby zarobić na modnym słowie.
Jednak pojawienie się jakiejkolwiek nowej technologii powoduje pojawienie się złych aktorów, którzy dostrzegają ignorancję nowych, naiwnych inwestorów i potencjał szybkiego osiągnięcia zysku. Tutaj właśnie wchodzi w grę sztuczna inteligencja - firmy fałszywie reklamują konsumentów, że produkt lub firma zawiera sztuczną inteligencję, choć w rzeczywistości tak nie jest. Niepozorni konsumenci zapłacą cenę, gdy mycie AI stanie się głównym nurtem.
Aby wyprzedzić oszustwa związane ze sztuczną inteligencją, urzędnicy i eksperci technologiczni zastanawiają się, na jakie ostrzeżenia i sygnały ostrzegawcze należy zwrócić uwagę. Badamy, w jaki sposób konsumenci mogą się chronić i jak firmy mogą uniknąć wyolbrzymianych twierdzeń dotyczących sztucznej inteligencji.
Niezbyt inteligentny, ale na pewno sztuczny
Weźmy na przykład ten niedawny pozew Federalnej Komisji Handlu. W sierpniu sąd federalny tymczasowo zamknął program biznesowy Automators AI (dawniej Empire Ecommerce LLC) za oszukiwanie konsumentów poprzez sprzedaż możliwości biznesowych rzekomo wykorzystujących sztuczną inteligencję.
Oskarżeni Roman Cresto, John Cresto i Andrew Chapman rzekomo oszukali konsumentów na kwotę 22 milionów dolarów, naruszając zasadę możliwości biznesowych i ustawę o FTC.
W pozwie FTC zarzuca, że Roman, John i Chapman promowali się jako milionerzy, którzy dorobili się samodzielnie, posiadający wiedzę specjalistyczną w zakresie skalowania zewnętrznych sklepów e-commerce poprzez inwestycje klientów. Witryna Empire twierdzi, że integruje uczenie maszynowe AI z procesem automatyzacji, zwiększając przychody i wzmacniając sukces biznesowy. Ale to wszystko było tylko dymem i lustrami.
Zacznijmy od materiałów marketingowych Empire. W pozwie stwierdzono, że reklamy Empire zawierały „wystawne” twierdzenia o zysku, jaki osiągnęliby klienci, gdyby zainwestowali w „zautomatyzowane” pakiety handlu elektronicznego, przy czym początkowa inwestycja kosztowała od 10 000 do 125 000 dolarów, a dodatkowe koszty wynosiły od 15 000 do 80 000 dolarów.
Z pozwu wynika, że firma nie dostarczyła potencjalnym klientom dokumentów ujawniających wymaganych zgodnie z przepisami FTC dotyczącymi możliwości biznesowych. W pozwie stwierdzono, że większość klientów nie odzyskała obiecanego dochodu reklamowanego przez firmę, co zakończyło się utratą inwestycji, a sklepy internetowe utworzone i zarządzane przez firmę Empire zostały zawieszone, a ostatecznie zamknięte z powodu naruszenia zasad. Następnie w listopadzie 2022 r., tuż przed sprzedażą Empire zewnętrznemu nabywcy, pracownicy stracili dostęp do systemów oprogramowania biznesowego, a John i Roman usunęli wszystkie dane i historię poczty e-mail z rejestrów Empire.
Ale wygłupy i oszustwa nie ustały po sprzedaży firmy. W styczniu 2023 r. trio zastosowało tę samą taktykę marketingową, aby reklamować swoje nowe przedsięwzięcie - Automators AI. Firma rzekomo uczy konsumentów, jak wykorzystywać sztuczną inteligencję do odkrywania popularnych produktów w witrynach handlu elektronicznego i zarabiać ponad 10 000 dolarów miesięcznie, a także instruuje konsumentów, jak używać ChatGPT do tworzenia skryptów obsługi klienta. W reklamach Automators w mediach społecznościowych Roman tworzy narrację jako „wiodący ośmiocyfrowy przedsiębiorca Amazona” od szmat do bogactwa i twórca systemów generowania bogactwa, który rzucił studia w wieku 20 lat i teraz może kupić swojej mamie Teslę i podróżować po okolicy świat w swoim sportowym samochodzie McLaren Spider.
„[Te oszustwa] nie są niczym nowym... Tym razem jest inaczej, ponieważ treści tworzone przez sztuczną inteligencję mogą być tak realne” - mówi ZDNET wiceprezes ds. badań Constellation i główny analityk Andy Thurai. „Głębokie podróbki i inne syntetyczne treści są prawie prawdziwe. Nawet ekspertom będzie trudno odróżnić rzeczywistość od podróbek. Niczego niepodejrzewającym, niewykształconym i nieprzeszkolonym zwykłym ludziom będzie to trudne”.
Bzyczący jak pszczoła
Pozostawienie w tyle ostatnią rzeczą, jakiej pragnie firma, gdy pojawia się nowa technologia. Jednak to, co robi firma lub osoba fizyczna, aby wyprzedzić tę technologię, może w najlepszym przypadku nie mieć wizji i integracji tematycznej, a w najgorszym może wprowadzać w błąd i oszukać.
W 2017 roku, kiedy Dolina Krzemowa została oparta na bitcoinie, Long Island Iced Tea Corp. - firma, która, jak się domyślacie, produkuje napoje bezalkoholowe - zmieniła nazwę na Long Blockchain Corp., co spowodowało wzrost jej udziału o 380% cenę (jak później odkryła Komisja Papierów Wartościowych i Giełd, było to spowodowane wykorzystywaniem informacji poufnych). Long Island Iced Tea Corp. podchwyciła ten szum i powiedziała zainteresowanym stronom, że włączy tę technologię do swojej działalności, nie mając żadnych powiązań z kryptowalutą ani wiedzy w niczym innym poza mrożoną herbatą.
Oto kolejny przypadek: w 2015 roku były prodziekan i profesor MIT Sloan School of Business oraz jego syn, absolwent Harvard Business School, wprowadzili inwestorów w błąd na 500 milionów dolarów, fałszywie twierdząc, że ich fundusz hedgingowy inwestował pieniądze klientów w ramach „złożonego Według Departamentu Sprawiedliwości matematyczny model handlu”, czyli zasadniczo sztuczna inteligencja, opracowana przez byłego profesora. Fundusz hedgingowy tego nie zrobił.
Podczas gdy kryptowaluta i technologia Blockchain okazały się mniej więcej modą z tymczasowymi przypadkami użycia, eksperci obstawiają trwałą moc generatywnej sztucznej inteligencji zeitgeisty.
Wiele znanych firm technologicznych tworzy własne, duże modele językowe, niezależnie od tego, czy jest to Bing firmy Microsoft, Bard firmy Google, chatbot AI firmy Snapchat czy nowe chatboty Meta AI. Z raportu Bloomberg Intelligence wynika, że do roku 2032 rynek sztucznej inteligencji generatywnej osiągnie wartość 1,32 miliarda dolarów.
„To po prostu nowa technologia, która wiele obiecuje i ma duży potencjał” - powiedział Olivier Toubia, profesor Columbia Business School zajmujący się badaniami nad innowacjami, „i nikt nie chce pozostać w tyle”. Na pewno nie Google’a. Podczas corocznej konferencji programistów firma technologiczna wymówiła w swoim przemówieniu słowo „AI” ponad 140 razy, sygnalizując zainteresowanym stronom, że poważnie podchodzi do nowej technologii pomimo problemów z chatbotem, które na początku tego roku zaprzepaściły udziały.
Google w żadnym wypadku nie oszukuje swoich klientów ani nie twierdzi, że korzysta ze sztucznej inteligencji, gdy tak nie jest. Ale podobnie jak reszta Doliny Krzemowej, wyszukiwarka jest świadoma, jak kluczowy jest ten moment dla generatywnej sztucznej inteligencji, i jest gotowa zrobić wszystko, nawet powiedzieć jedno słowo ponad sto razy, aby o tym poinformować.
W burgerze z AI, który jesz, nie ma „prawdziwego mięsa”.
Pozew Automators AI to klasyczny przykład obmywania sztucznej inteligencji lub sytuacji, w której firma reklamuje wiadomości, które - jak to nazywa Thurai - „są raczej mydleniem oczu, za którymi nie stoją żadne prawdziwe informacje”.
„Wiele firm twierdzi, że są „wzmocnione, wyposażone w sztuczną inteligencję, napędzane sztuczną inteligencją, wzmocnione sztuczną inteligencją i cokolwiek jeszcze”. Większość z nich, jeśli zajrzysz pod kołdrę, nie ma za sobą prawdziwego mięsa” - wyjaśnił Thurai.
W przeciwieństwie do generatywnej sztucznej inteligencji, która eksplodowała w ciągu ostatniego roku, częściowo dzięki skierowanej do konsumentów aplikacji OpenAI ChatGPT, sztuczna inteligencja nie jest niczym nowym. „I jest to dość dwuznaczne określenie” - wyjaśniła Toubia. „Istnieje wiele rzeczy, które można nazwać sztuczną inteligencją lub uczeniem maszynowym” - powiedział. „Istnieje kilka bardzo prostych metod statystycznych, które istnieją od ponad 100 lat i które technicznie mogą być równie sprytne jak sztuczna inteligencja”.
Biorąc pod uwagę enigmatyczny charakter generatywnej sztucznej inteligencji, jest to również skomplikowany produkt do opatentowania, audytu lub regulacji, co jeszcze bardziej utrudnia mycie sztucznej inteligencji. „Firmy tak naprawdę nie muszą publikować ani wyjaśniać swojej sztucznej inteligencji, ponieważ jest to tajemnica handlowa. Nie ma żadnego wzoru, który można by odczytać i tak naprawdę nie wiemy, co kryje się pod maską, że tak powiem” - powiedziała Toubia.
Instytucje regulacyjne, takie jak FTC, z pewnością próbują kontrolować nieporęczny przemysł za pomocą ostrzeżeń i raportów obejmujących całą branżę. Choć docenia idee stojące za ostrzeżeniami, Thurai ma wątpliwości, czy surowe ostrzeżenia i przeoczenia FTC zostaną wyegzekwowane ze względu na to, jak trudno będzie je udowodnić w sądzie.
Tym, co sprawia, że generatywna sztuczna inteligencja jest tak atrakcyjna dla przedsiębiorstw, jest jej potencjał skali oraz zdolność do automatyzacji rutynowych zadań i przyspieszania operacji. Ironią losu jest to, że firma fałszywie reklamuje generatywną sztuczną inteligencję w swojej działalności biznesowej, ale nigdy nie uwzględnia takiej informacji, polega na tym, że nawet jeśli firma zdobędzie więcej klientów dzięki rzekomej generatywnej sztucznej inteligencji, nie odniesie żadnych korzyści technologia zapewnia — więcej klientów i mniej efektywny sposób ich obsługi.
Jak uważać na mycie AI
W miarę jak firmy włączają generatywną sztuczną inteligencję do coraz większej liczby swoich operacji, ryzyko prania sztucznej inteligencji i fałszywych reklam rośnie. Istnieje wiele pytań, które możesz zadać dostawcom i różne aspekty, które należy dokładnie rozważyć, zanim zainwestujesz tysiące dolarów w produkt wspomagany sztuczną inteligencją.
Thurai zachęca do przeprowadzenia szczegółowej demonstracji i zadawania producentom pytań o to, jakich algorytmów używają, w jaki sposób trenują swoje modele, jak przygotowują dane, jak monitorują dryf i jak operacjonalizują modele. „Po prostu słuchając i oglądając demonstrację głębokiego nurkowania, będziesz wiedział, czy jest to olej wężowy, czy prawdziwy” - dodał.
Dodatkowo Toubia zauważyła kolejną czerwoną flagę, na którą należy zwrócić uwagę: jeśli firma rzeczywiście wykorzystuje generatywną sztuczną inteligencję w swoich operacjach, szybkość i skala jej działania powinny odzwierciedlać tę technologię. Jeśli operacje są powolne, a rzekome narzędzia sztucznej inteligencji nie przyspieszają ich, narzędzia mogą nie mieć tak dużej sztucznej inteligencji, jak pierwotnie twierdzono.
„Załóżmy, że firma twierdzi, że korzysta ze sztucznej inteligencji, ale w rzeczywistości po drugiej stronie stoi człowiek wpisując odpowiedzi” - powiedziała Toubia. „Skalowanie firmy nie będzie zrównoważone. Jeśli firma faktycznie nie posiada cennej sztucznej inteligencji, prawdopodobnie nie będzie w stanie wykazać tego na rynku”.
Podczas demonstracji narzędzia generatywnej sztucznej inteligencji Toubia zachęcała do przeprowadzania eksperymentów, wypróbowywania różnych wersji i poprawiania sformułowań lub zadań, aby zobaczyć, jak i czy zmienią się wyniki narzędzia.
Właścicielom firm, którzy chcą szumu bez dramatów, FTC zapewnia wskazówki, w jaki sposób firmy mogą kontrolować swoje roszczenia dotyczące sztucznej inteligencji. Agencja federalna sugeruje zadawanie kluczowych pytań, np. czy nie wyolbrzymiasz możliwości produktu AI lub czy obiecujesz, że Twój produkt AI działa lepiej niż produkt niezawierający sztucznej inteligencji.
Toubia twierdzi, że w miarę jak ludzie zmądrzeją na temat oszustw związanych z sztuczną inteligencją, a firmy będą zgłaszać kluczowe przypadki wykorzystania generatywnej sztucznej inteligencji, konsumenci mogą stać się bardziej rozsądni i łatwiej unikać takich schematów.
„Teraz zawsze znajdą się ludzie, którzy nie są przeszkoleni, którzy próbują złapać falę i będą chcieli zainwestować w tę przestrzeń lub być w niej obecni, i będą celem prania” - powiedziała Toubia. „Prawdopodobnie to nie zniknie. Miejmy jednak nadzieję, że to zjawisko ulegnie zmniejszeniu, gdy rynek stanie się bardziej wyrafinowany”.