Wdrażając sztuczną inteligencję, najpierw przeszkol swoich menedżerów
Firmy spieszą się do GenAI przed ustanowieniem odpowiednich systemów zarządzania, co może w przyszłości skutkować poważnymi problemami z jakością i zgodnością.
Wdrożenie sztucznej inteligencji w organizacji wymaga czegoś więcej niż tylko praktycznej wiedzy na temat sztucznej inteligencji - to dopiero pierwszy krok. Niedawna ankieta pokazuje, że większość organizacji i ich działów IT - zwłaszcza menedżerów i kadry kierowniczej, którzy kontrolują zasoby umożliwiające dalszy rozwój - po prostu nie jest jeszcze gotowa na obsługę sztucznej inteligencji. Ponadto potrzebne umiejętności, narzędzia i rozwiązania nie są jeszcze dostępne.
Jak wynika z ankiety przeprowadzonej wśród 1600 decydentów IT opublikowanej przez SAS, nawet liderzy działów IT nie rozumieją jeszcze implikacji sztucznej inteligencji. Dziewięciu na 10 starszych decydentów technologicznych (93%) przyznaje, że nie do końca rozumie generatywną sztuczną inteligencję (GenAI) i jej potencjalny wpływ na procesy biznesowe.
Należy pilnie przyspieszyć działania kadry kierowniczej. Mniej niż połowa (45%) CIO biorących udział w ankiecie i nieco ponad jedna trzecia (36%) CTO uważa się za „niezwykle zaznajomionych” z wdrażaniem GenAI w swoich organizacjach. Co gorsza, tylko 13% dyrektorów ds. technologii cyfrowych przyznaje, że doskonale zna sztuczną inteligencję.
Jest coraz gorzej: tylko 4% szefów działów IT lub systemów informatycznych twierdzi, że posiada wyjątkową znajomość sztucznej inteligencji, podobnie jak tylko 2% menedżerów lub dyrektorów IT.
Ogółem jedynie 7% zapewnia wysoki poziom szkoleń w zakresie ogólnego zarządzania sztuczną inteligencją i jej monitorowania, a kolejne 15% zapewnia taką pomoc w zakresie generatywnej sztucznej inteligencji. Ma to kluczowe znaczenie, ponieważ 75% respondentów obawia się o prywatność i bezpieczeństwo danych podczas korzystania z GenAI w ich organizacji.
Oznacza to, że przezwyciężenie problemów, które mogłyby wykoleić wdrożenia sztucznej inteligencji, może wymagać czasu, a także dużej ilości edukacji i analiz. Na przykład tylko 5% posiada niezawodny system pomiaru stronniczości i ryzyka prywatności w dużych modelach językowych. Kolejne 42% rozważa opracowanie własnych możliwości wykrywania zagrożeń dla prywatności, a 32% rozważa opracowanie wewnętrznych możliwości wykrywania stronniczości.
Tylko 29% ma ciągły, zautomatyzowany monitoring swoich generatywnych wdrożeń AI. Tylko 25% przeprowadza regularne ręczne audyty wyników swojej sztucznej inteligencji.
„Idealna inwestycja w GenAI oferuje wyraźne możliwości w zakresie wydajności i lepszej obsługi klienta, ale wiele organizacji zgłasza luki w myśleniu strategicznym, które wpływają na pomyślne wdrożenie” - stwierdzają współautorzy raportu. „Nasze badanie pokazuje, że firmy śpieszą się z wprowadzeniem GenAI przed ustanowieniem odpowiednich systemów zarządzania, co może później skutkować poważnymi problemami z jakością i zgodnością”.
Integracja AI z istniejącymi procesami i systemami również jest źródłem problemów. „Wiele firm ma trudności z integracją technologii z istniejącymi zadaniami i narzędziami” - stwierdzają autorzy badania. Co więcej, prawie połowa (47%) decydentów twierdzi, że nie posiada odpowiednich narzędzi do wdrożenia GenAI.
Oto główne problemy, z którymi borykają się organizacje korzystające ze sztucznej inteligencji:
- 48% zgłasza, że doświadcza problemów z efektywnym wykorzystaniem zarówno publicznych, jak i zastrzeżonych zbiorów danych.
- 45% zgłasza brak odpowiednich narzędzi.
- 42% wskazuje, że doświadcza wyzwań związanych z przejściem generatywnej sztucznej inteligencji z fazy koncepcyjnej do praktycznego zastosowania.
- 39% twierdzi, że ma problemy ze zgodnością z obecnymi systemami.
Z badania wynika, że niezwykle pożądane jest także posiadanie wewnętrznej wiedzy specjalistycznej w zakresie sztucznej inteligencji. Połowa organizacji (51%) obawia się, że nie posiada wewnętrznych umiejętności pozwalających skutecznie wykorzystywać technologię. Około czterech na 10 respondentów (39%) twierdzi, że uznało, że niewystarczająca wiedza wewnętrzna stanowi przeszkodę we wdrażaniu GenAI.
Autorzy ankiety wskazują na następujące zadania związane z udanymi projektami AI:
- Integracja sztucznej inteligencji: konieczność „bezproblemowej integracji modeli GenAI z przepływami pracy związanymi z podejmowaniem decyzji, aplikacjami sztucznej inteligencji i uczenia maszynowego oraz istniejącymi procesami biznesowymi za pomocą narzędzi przepływu decyzji, takich jak inteligentne podejmowanie decyzji”.
- Ochrona danych: „Zapewnij prywatność i bezpieczeństwo użytkowników dzięki solidnym środkom zapewniającym jakość danych - obejmującym syntetyczne generowanie danych, minimalizację danych, anonimizację i szyfrowanie - które zapewniają ochronę wrażliwych informacji”.
- Wiarygodne i zrozumiałe wyniki: „Eksperci ds. danych mogą zastosować techniki przetwarzania języka naturalnego do wstępnego przetwarzania danych, wyjaśnić wygenerowane dane wyjściowe w łatwo zrozumiały sposób, zminimalizować halucynacje i zmniejszyć koszty symboli”.
- Ulepszone zarządzanie: „Korzystaj z wbudowanych przepływów pracy, które weryfikują cały cykl życia LLM, od zgodności z przepisami po zarządzanie ryzykiem modeli”.
Przewidywanie lub obliczanie zwrotu z inwestycji to kolejny obowiązek, któremu należy sprostać. Z ankiety wynika, że ponad jedna trzecia (36%) decydentów IT przewiduje trudności z udowodnieniem, że GenAI zapewnia wysoki zwrot z inwestycji lub stwierdziła, że jest to trudne do udowodnienia. Prawie połowa (47%) napotyka wyzwania związane z przejściem od koncepcji do praktycznego wykorzystania GenAI. Cztery na 10 organizacji (39%) nie ma polityki wykorzystania GenAI.