Potrzebujemy odważnych umysłów, aby rzucić wyzwanie sztucznej inteligencji, a nie leniwych autorów, mówi CIO banku

Poszukiwani: krytyczni myśliciele z perspektywą i umiejętnościami interpretowania wyników generowanych przez sztuczną inteligencję. (Osoby nadmiernie polegające na ChatGPT nie muszą składać wniosku.)

Po tym, jak raport wiodącej firmy Boston Consulting Group za rok 2023 wykazał, że jej konsultanci IT byli bardziej produktywni, korzystając z narzędzia GPT-4 Open AI, firma i inni giganci branżowi spotkali się z ostrym sprzeciwem ze strony niektórych komentatorów, którzy twierdzili, że należy po prostu korzystać z ChatGPT za darmo , zamiast zlecać usługi konsultingowe milionom użytkowników. dolarów.

Oto ich rozumowanie: wysoko opłacani konsultanci i tak otrzymają odpowiedzi lub porady od ChatGPT, więc powinni unikać stron trzecich i udać się bezpośrednio do ChatGPT.

Jest to cenna lekcja dla każdego, kto zatrudnia lub stara się zostać zatrudniony na stanowiska intensywnie wykorzystujące sztuczną inteligencję, niezależnie od tego, czy jest to programista, konsultant czy użytkownik biznesowy. Przesłanie tej krytyki jest takie, że każdy, nawet z ograniczonymi lub niewystarczającymi umiejętnościami, może teraz używać sztucznej inteligencji, aby osiągnąć przewagę lub sprawiać wrażenie, że ma wszystko na wierzchu. Dzięki temu szanse zostały wyrównane. Potrzebni są ludzie, którzy potrafią zapewnić perspektywę i krytyczne myślenie w stosunku do informacji i wyników zapewnianych przez sztuczną inteligencję.

Nawet wykwalifikowani naukowcy, technolodzy i eksperci w danej dziedzinie mogą wpaść w pułapkę polegania w nadmiernym stopniu na sztucznej inteligencji w swoich wynikach - w porównaniu z własną wiedzą specjalistyczną.

„Rozwiązania sztucznej inteligencji mogą również wykorzystywać nasze ograniczenia poznawcze, narażając nas na złudzenia zrozumienia, dzięki którym wierzymy, że rozumiemy o świecie więcej, niż w rzeczywistości” - wynika z badań na ten temat opublikowanych w czasopiśmie Nature.

Nawet naukowcy przeszkoleni w krytycznej ocenie informacji dadzą się uwieść wrażeniom generowanym maszynowo, ostrzegają badacze Lisa Messer z Yale University i M. J. Crockett z Princeton University.

„Takie złudzenia przesłaniają zdolność społeczności naukowej dostrzeżenia powstawania monokultur naukowych, w których pewne typy metod, pytań i punktów widzenia dominują nad alternatywnymi podejściami, czyniąc naukę mniej innowacyjną i bardziej podatną na błędy” - wynika z badań.

Messer i Crockett twierdzą, że poza obawami dotyczącymi etyki sztucznej inteligencji, uprzedzeń i przenoszenia stanowisk pracy, ryzyko nadmiernego polegania na sztucznej inteligencji jako źródle wiedzy specjalistycznej dopiero zaczyna być znane.

W głównym nurcie biznesowym nadmierne poleganie użytkowników na sztucznej inteligencji ma konsekwencje w postaci utraty produktywności i niewłaściwego zaufania. Na przykład użytkownicy „mogą zmieniać, zmieniać i przełączać swoje działania, aby dostosować je do zaleceń sztucznej inteligencji” - zauważają Samir Passi i Mihaela Vorvoreanu z Microsoftu w przeglądzie badań na ten temat. Ponadto użytkownikom „będzie trudno ocenić wydajność sztucznej inteligencji i zrozumieć, jak sztuczna inteligencja wpływa na ich decyzje”.

Takie zdanie myśli Kyall Mai, dyrektor ds. innowacji w Esquire Bank, który postrzega sztuczną inteligencję jako kluczowe narzędzie angażowania klientów, przestrzegając jednocześnie przed jej nadużywaniem w celu zastąpienia ludzkiego doświadczenia i krytycznego myślenia. Esquire Bank zapewnia specjalistyczne finansowanie kancelariom prawnym i potrzebuje ludzi, którzy rozumieją biznes i rozumieją, co sztuczna inteligencja może zrobić, aby rozwijać biznes. Niedawno spotkałem się z Mai na konferencji Salesforce w Nowym Jorku, która podzieliła się swoimi doświadczeniami i poglądami na temat sztucznej inteligencji.

Mai, który sam awansował od programisty do wszechstronnego CIO, nie twierdzi, że sztuczna inteligencja jest prawdopodobnie jednym z najcenniejszych dostępnych narzędzi zwiększających produktywność. Obawia się jednak również, że nadmierne poleganie na generatywnej sztucznej inteligencji - czy to w zakresie treści, czy kodu - obniży jakość i bystrość ludzkiego myślenia.

„Zdajemy sobie sprawę, że posiadanie fantastycznych mózgów i fantastycznych wyników niekoniecznie jest tak dobre, jak ktoś, kto jest skłonny do krytycznego myślenia i przedstawiania własnego punktu widzenia na temat tego, co sztuczna inteligencja i generatywna sztuczna inteligencja dają w zamian w postaci rekomendacji” - mówi. „Chcemy, aby ludzie, którzy mają emocjonalną i samoświadomość, pomyśleli: «Hmm, to nie jest do końca w porządku, jestem na tyle odważny, aby z kimś porozmawiać, aby upewnić się, że w pętli jest człowiek»”.

Esquire Bank wykorzystuje narzędzia Salesforce, aby wykorzystać obie strony sztucznej inteligencji - generatywną i predykcyjną. Predykcyjna sztuczna inteligencja zapewnia decydentom banku wgląd w to, „którzy prawnicy odwiedzają ich witrynę, i pomaga personalizować usługi na podstawie tych wizyt” - mówi Mai, której rola CIO obejmuje zarówno zaangażowanie klientów, jak i systemy IT.

Jako bank w pełni wirtualny, Esquire wykorzystuje wiele systemów sztucznej inteligencji w zespołach marketingowych, łącząc generatywne treści dostarczane przez sztuczną inteligencję z predykcyjnymi algorytmami sztucznej inteligencji zaplecza.

„To doświadczenie jest inne dla każdego” - mówi Mai. „Dlatego wykorzystujemy sztuczną inteligencję, aby przewidzieć, jaki powinien być następny zestaw treści im dostarczonych. Opierają się one na wszystkich analizach dostępnych w systemie i dotyczących tego, co możemy zrobić z tą konkretną perspektywą”.

Ściśle współpracując ze sztuczną inteligencją, Mai odkryła interesujący zwrot w ludzkiej naturze: ludzie mają tendencję do lekceważenia własnego osądu i staranności, gdy stają się zależni od tych systemów. „Na przykład odkryliśmy, że niektórzy ludzie stają się leniwi - podpowiadają coś, a następnie decydują: «Och, to brzmi jak naprawdę dobra odpowiedź» i wysyłają to dalej”.

Kiedy Mai wyczuje poziom nadmiernego polegania na sztucznej inteligencji, „zaprowadzę ich do mojego biura i powiem: «Płacę ci za twoją perspektywę, a nie za podpowiedzi i odpowiedzi w sztucznej inteligencji, do których mnie każesz przeczytaj. Samo zebranie wyników i oddanie mi ich nie jest tym, czego szukam. Liczę na Twoją krytyczną opinię.

Mimo to zachęca członków swojego zespołu technologicznego, aby przerzucili przyziemne zadania programistyczne na narzędzia i platformy generatywnej sztucznej inteligencji i uwolnili swój czas na bliższą współpracę z firmą. „Programiści odkrywają, że 60 procent czasu, jaki spędzali na pisaniu, przeznaczali na kod administracyjny, który niekoniecznie jest przełomowy. Sztuczna inteligencja może to za nich zrobić za pomocą komunikatów głosowych”.

W rezultacie widzi, że „granica między klasycznym programistą a analitykiem biznesowym znacznie się zacieśnia, ponieważ programista nie spędza ogromnej ilości czasu na robieniu rzeczy, które tak naprawdę nie przynoszą wartości dodanej. Oznacza to również, że analitycy biznesowi mogą zostać programistami.”

„To będzie interesujące, kiedy będę mógł usiąść przed platformą i powiedzieć: «Chcę systemu, który zrobi to, to, to i to» i robi to”.