Masowe przyjęcie generatywnych narzędzi AI zakłóca jeden bardzo ważny czynnik, twierdzi MIT
Szybkie tempo rozwoju sztucznej inteligencji powoduje powstawanie „sztucznej sztucznej inteligencji” - co utrudnia odpowiedzialne korzystanie ze sztucznej inteligencji - ostrzega badanie przeprowadzone przez MIT Sloan Management Review i BCG.
Codziennie pojawiają się nowe platformy i narzędzia sztucznej inteligencji (AI), które pomagają programistom, badaczom danych i analitykom biznesowym. Jednak ten szybki rozwój nowych technologii zwiększa również złożoność konstelacji sztucznej inteligencji, znacznie przekraczając zdolność do odpowiedzialności i rozliczalności w systemach sztucznej inteligencji.
Taki wniosek płynie z niedawnej ankiety przeprowadzonej wśród 1240 kadry kierowniczej opublikowanej przez MIT Sloan Management Review i Boston Consulting Group (MIT SMR i BCG), w której zbadano postęp w zakresie inicjatyw w zakresie odpowiedzialnej sztucznej inteligencji oraz przyjęcie zarówno narzędzi sztucznej inteligencji opracowanych wewnętrznie, jak i pochodzących z zewnętrznych źródeł: co badacze nazywają „sztuczną sztuczną inteligencją”.
Obietnica wprowadzenia sztucznej inteligencji ma swoje konsekwencje, jak sugerują autorzy badania, Elizabeth Renieris (Oxford's Institute for Ethics in AI), David Kiron (MIT SMR) i Steven Mills (BCG): „Na przykład generatywna sztuczna inteligencja okazała się nieporęczna i sprawiała wrażenie nieprzewidywalnej. ryzyko dla organizacji nieprzygotowanych na szeroki zakres zastosowań.”
Wiele firm „było zaskoczonych rozprzestrzenianiem się sztucznej inteligencji w całym przedsiębiorstwie” - zauważa Renieris i jej współautorzy. Co więcej, szybkie tempo rozwoju sztucznej inteligencji „utrudnia odpowiedzialne korzystanie ze sztucznej inteligencji i wywiera presję na odpowiedzialne programy sztucznej inteligencji, aby dotrzymać kroku”.
Ostrzegają, że ryzyko związane ze stale rozwijającą się sztuczną inteligencją cieni również rośnie. Na przykład rosnąca zależność firm od rosnącej podaży narzędzi sztucznej inteligencji innych firm, wraz z szybkim przyjęciem generatywnej sztucznej inteligencji - algorytmów (takich jak ChatGPT, Dall-E 2 i Midjourney), które wykorzystują dane szkoleniowe do generowania realistycznych lub pozornie oparty na faktach tekst, obrazy lub dźwięk - naraża je na nowe ryzyko handlowe, prawne i związane z reputacją, które są trudne do śledzenia.
Naukowcy odwołują się do znaczenia odpowiedzialnej sztucznej inteligencji, którą definiują jako „ramy zawierające zasady, zasady, narzędzia i procesy zapewniające rozwój i działanie systemów sztucznej inteligencji w służbie dobra jednostek i społeczeństwa, przy jednoczesnym osiąganiu transformacyjnego wpływu na biznes .”
Kolejna trudność wynika z faktu, że wiele firm „wydaje się ograniczać zasoby wewnętrzne przeznaczone na odpowiedzialną sztuczną inteligencję w ramach szerszego trendu zwolnień w branży” - ostrzegają badacze. „Te ograniczenia odpowiedzialnych inwestycji w sztuczną inteligencję mają miejsce prawdopodobnie wtedy, gdy są najbardziej potrzebne”.
Na przykład powszechne korzystanie przez pracowników z chatbota ChatGPT zaskoczyło wiele organizacji i może mieć konsekwencje dla bezpieczeństwa. Naukowcy twierdzą, że ramy odpowiedzialnej sztucznej inteligencji nie zostały napisane, aby „radzić sobie z nagłą, niewyobrażalną liczbą zagrożeń, jakie wprowadzają generatywne narzędzia sztucznej inteligencji”.
Badanie sugeruje, że 78% organizacji zgłasza dostęp, zakup, licencjonowanie lub inne korzystanie z narzędzi AI innych firm, w tym komercyjnych interfejsów API, wstępnie wyszkolonych modeli i danych. Ponad połowa (53%) korzysta wyłącznie z narzędzi sztucznej inteligencji innych firm i nie posiada własnych, zaprojektowanych ani opracowanych wewnętrznie technologii sztucznej inteligencji.
Odpowiedzialne programy sztucznej inteligencji „powinny obejmować zarówno narzędzia sztucznej inteligencji opracowane wewnętrznie, jak i narzędzia opracowane przez strony trzecie” - nalegają Renieris i jej współautorzy. „Bez względu na to, skąd pochodzi system sztucznej inteligencji, muszą obowiązywać te same zasady etyczne. Ostatecznie, jeśli coś pójdzie nie tak, dla osoby, na którą wpłynie to negatywnie, nie będzie miało znaczenia, czy narzędzie zostało zbudowane, czy kupione”.
Współautorzy ostrzegają, że chociaż „nie ma złotego środka, aby złagodzić ryzyko związane ze sztuczną inteligencją stron trzecich ani żadnego rodzaju ryzyka związanego z sztuczną inteligencją w tym przypadku”, zalecają wielotorowe podejście do zapewnienia odpowiedzialnej sztucznej inteligencji w dzisiejszym szeroko otwartym środowisku.
Takie podejścia mogą obejmować:
- Ocena odpowiedzialnych praktyk AI dostawcy
- Język umowny nakazujący przestrzeganie zasad odpowiedzialnej sztucznej inteligencji
- Wstępna certyfikacja dostawcy i audyty (jeśli są dostępne)
- Wewnętrzne recenzje na poziomie produktu (w przypadku gdy narzędzie strony trzeciej jest zintegrowane z produktem lub usługą)
- Przestrzeganie odpowiednich wymogów regulacyjnych lub standardów branżowych
- Włączenie kompleksowego zestawu zasad i procedur, takich jak wytyczne dotyczące etycznego rozwoju sztucznej inteligencji, ramy oceny ryzyka oraz protokoły monitorowania i audytu
Widmo przepisów i mandatów rządowych może sprawić, że takie działania staną się koniecznością w przypadku wprowadzenia systemów sztucznej inteligencji - ostrzegają współautorzy.