3 największe zagrożenia związane z generatywną sztuczną inteligencją - i jak sobie z nimi radzić
Coraz więcej firm chce zbadać generatywną sztuczną inteligencję, ale będą musiały upewnić się, że będą zarządzać ryzykiem raczej wcześniej niż później.
Czasami można odnieść wrażenie, że wszyscy na całym świecie zajmują się generatywną sztuczną inteligencją (AI). Od programistów tworzących kod po marketerów tworzących treści - ludzie na różnych stanowiskach znajdują sposoby na zwiększenie swojej produktywności dzięki nowym technologiom.
Pośpiech w korzystaniu ze sztucznej inteligencji oznacza, że analityk Gartner wierzy, że do 2026 r. ponad 80% przedsiębiorstw będzie korzystać z interfejsów, modeli i oprogramowania generatywnej aplikacji AI w środowiskach produkcyjnych.
Warto jednak pamiętać, że pomimo szumu wokół generatywnej sztucznej inteligencji wiele przedsiębiorstw nie zajmuje się tą technologią - przynajmniej nie oficjalnie.
Dla większości firm generatywna sztuczna inteligencja jest wciąż na etapie eksploracji, a Gartner podaje, że mniej niż 5% przedsiębiorstw wykorzystuje tę technologię w produkcji
Lily Haake, dyrektor ds. technologii i cyfrowych poszukiwań kadry kierowniczej w firmie rekrutacyjnej Harvey Nash, mówi w czacie wideo z ZDNET, że jej praca z klientami sugeruje, że wielkie projekty AI nie są na razie planowane.
„Widzę naprawdę imponujące małe projekty pilotażowe, takie jak klienci prawni, wykorzystujących sztuczną inteligencję do generowania dokumentów w celu skanowania liczby spraw i zwiększania produktywności ludzi” - mówi. „To wszystko jest bardzo ekscytujące i pozytywne. Ale na małą skalę. A to dlatego, że moi klienci nie wydają się eksplorować generatywnej sztucznej inteligencji na tak dużą skalę, aby miało to transformacyjny wpływ na całą firmę”.
Zamiast wykorzystywać sztuczną inteligencję do zmiany operacji organizacyjnych i poprawy obsługi klientów, większość liderów cyfrowych eksperymentuje na obrzeżach przedsiębiorstwa, zanim zastanowią się, jak wprowadzić nowe usługi generatywne do rdzenia przedsiębiorstwa.
Jednak to, że firma nie nakazała stosowania generatywnej sztucznej inteligencji, nie oznacza, że profesjonaliści nie korzystają już z tej technologii - za zgodą szefa lub bez niej.
Badania przeprowadzone przez specjalistę ds. technologii O'Reilly sugerują, że 44% specjalistów IT korzysta już ze sztucznej inteligencji w swojej pracy programistycznej, a 34% z nią eksperymentuje. Prawie jedna trzecia (32%) specjalistów IT wykorzystuje sztuczną inteligencję do analizy danych, a 38% z nią eksperymentuje.
Mike Loukides, autor raportu, twierdzi, że O'Reilly jest zaskoczona poziomem adopcji.
Chociaż Loukides opisuje rozwój generatywnej sztucznej inteligencji jako „wybuchowy”, Loukides twierdzi, że przedsiębiorstwa mogą wpaść w „zimę związaną ze sztuczną inteligencją”, jeśli zignorują ryzyko i niebezpieczeństwa związane z pośpiesznym przyjęciem tej technologii.
To zdanie podziela Avivah Litan, wybitna wiceprezes firmy Gartner, która sugeruje, że dyrektorzy ds. IT i ich koledzy na stanowiskach kierowniczych nie mogą sobie pozwolić na siedzenie i czekanie.
„Musisz zarządzać ryzykiem, zanim ono zajmie się Tobą” - mówi w indywidualnym wywiadzie wideo dla ZDNET.
Litan twierdzi, że Gartner przeprowadził niedawno ankietę wśród ponad 700 menedżerów na temat zagrożeń związanych z generatywną sztuczną inteligencją i odkrył, że dyrektorzy ds. IT najbardziej martwią się prywatnością danych, a następnie halucynacjami, a następnie bezpieczeństwem.
Rozważmy po kolei każdy z tych obszarów.
1. Zagrożenia związane z prywatnością i ochroną danych
CIO i inni menedżerowie wyższego szczebla, którzy wdrażają korporacyjną wersję generatywnej sztucznej inteligencji, prawdopodobnie będą wysyłać swoje dane do środowisk hostowanych przez swoich dostawców.
Litan przyznaje, że tego rodzaju rozwiązanie nie jest niczym nowym - organizacje wysyłają dane do dostawców usług w chmurze i oprogramowania jako usługi od dekady lub dłużej.
Jej zdaniem dyrektorzy ds. IT uważają jednak, że sztuczna inteligencja wiąże się z innym rodzajem ryzyka, szczególnie w odniesieniu do sposobu, w jaki dostawcy przechowują i wykorzystują informacje, na przykład do szkolenia własnych dużych modeli językowych.
Litan twierdzi, że Gartner przeprowadził szczegółową analizę wielu dostawców IT oferujących usługi wykorzystujące sztuczną inteligencję.
„Konkluzja ochrony danych jest taka, że jeśli korzystasz z modelu opartego na fundamencie strony trzeciej, wszystko opiera się na zaufaniu, którego nie można zweryfikować” - mówi. „Musisz więc ufać, że dostawcy stosują dobre praktyki bezpieczeństwa i Twoje dane nie wyciekną. A wszyscy wiemy, że w systemach chmurowych popełniane są błędy. Jeśli Twoje poufne dane wyciekną, dostawcy nie będą ponosić odpowiedzialności... będziesz."
2. Ryzyko wejściowe i wyjściowe
Oprócz oceny zagrożeń związanych z ochroną danych w procesach zewnętrznych organizacje muszą mieć świadomość, w jaki sposób pracownicy wykorzystują dane w generatywnych aplikacjach i modelach AI.
Litan twierdzi, że tego rodzaju ryzyko obejmuje niedopuszczalne wykorzystanie danych, które może zagrozić procesowi decyzyjnemu, w tym opieszałość w zakresie poufnych danych wejściowych, wytwarzanie niedokładnych halucynacji jako wyników i wykorzystywanie własności intelektualnej innej firmy.
Dodaj do tego kwestie etyczne i obawy, że modele mogą być stronnicze, a liderzy biznesowi staną w obliczu zbiegu ryzyk wejściowych i wyjściowych.
Litan twierdzi, że kadra kierownicza zarządzająca wdrażaniem generatywnej sztucznej inteligencji musi dopilnować, aby ludzie w całej firmie nie brali niczego za pewnik.
„Musisz upewnić się, że wykorzystujesz dane i generatywną sztuczną inteligencję w sposób akceptowalny dla Twojej organizacji; nie oddajesz kluczy do swojego królestwa, a to, co wraca, jest sprawdzane pod kątem nieścisłości i halucynacji, " ona mówi.
3. Nowe zagrożenia cyberbezpieczeństwa
Firmy na co dzień borykają się z szeregiem zagrożeń cyberbezpieczeństwa, takich jak hakerzy uzyskujący dostęp do danych przedsiębiorstwa w wyniku luki w zabezpieczeniach systemu lub błędu pracownika.
Litan twierdzi jednak, że sztuczna inteligencja reprezentuje inny wektor zagrożeń.
„To nowe zagrożenia” - mówi. „Występują ataki polegające na wstrzykiwaniu, ataki na bazy danych wektorowych, a hakerzy mogą uzyskać dostęp do stanów i parametrów modelu”.
Chociaż potencjalne ryzyko obejmuje utratę danych i pieniędzy, osoby atakujące mogą również manipulować modelami i zamieniać dobre dane na złe.
Litan twierdzi, że ten nowy wektor zagrożeń oznacza, że firmy nie będą w stanie uporać się z nowymi zagrożeniami, po prostu stosując stare, wypróbowane i przetestowane środki.
„Napastnicy mogą zatruć model” - mówi. „Będziesz musiał zabezpieczyć model, a jest to inny rodzaj zabezpieczeń. Ochrona punktów końcowych nie pomoże ci w ochronie modelu danych”.
Co Twoja firma musi teraz zrobić
Ta kombinacja zagrożeń związanych z generatywną sztuczną inteligencją może wydawać się niemożliwym do pokonania wyzwaniem dla dyrektorów ds. IT i innych menedżerów wyższego szczebla.
Litan twierdzi jednak, że nowe rozwiązania ewoluują tak szybko, jak pojawiają się zagrożenia i możliwości związane z generatywną sztuczną inteligencją.
„Nie musisz tam siedzieć i panikować” - mówi.
„To nowy rynek, który ewoluuje. Jak można sobie wyobrazić, gdy pojawiają się problemy, są przedsiębiorcy, którzy chcą na nich zarobić”.
Dobra wiadomość jest taka, że dostępne są już wykonalne rozwiązania. Litan twierdzi, że choć sytuacja na rynku technologii się uspokoi, liderzy biznesu powinni się przygotować.
„Podstawowa rada, jaką dajemy CIO, brzmi: «Zorganizuj się, a następnie zdefiniuj zasady dopuszczalnego użytkowania. Upewnij się, że Twoje dane są tajne i masz możliwość zarządzania dostępem” - mówi.
„Skonfiguruj system, w którym użytkownicy mogą wysyłać wnioski o aplikacje, wiesz, jakich danych używają, odpowiednie osoby zatwierdzają te żądania, a Ty sprawdzasz proces dwa razy w roku, aby upewnić się, że jest on egzekwowany prawidłowo. Po prostu skorzystaj z generatywnej sztucznej inteligencji krok po kroku."