Zagrożenia związane ze sztuczną inteligencją są wszędzie - a teraz MIT dodaje je wszystkie do jednej bazy danych
Naukowcy utworzyli repozytorium zagrożeń AI w celu konsolidacji danych. Jedno z ich odkryć? Dezinformacja jest najrzadziej adresowanym zagrożeniem związanym ze sztuczną inteligencją.
Obecnie zagrożenia związane ze sztuczną inteligencją (AI) w aplikacjach są dobrze udokumentowane, ale trudno jest uzyskać do nich łatwy dostęp w jednym miejscu podczas podejmowania decyzji regulacyjnych, politycznych lub biznesowych. Laboratorium MIT chce to naprawić.
W środę Laboratorium Informatyki i Sztucznej Inteligencji (CSAIL) MIT uruchomiło repozytorium zagrożeń AI, czyli bazę danych zawierającą ponad 700 udokumentowanych zagrożeń związanych ze sztuczną inteligencją. Według komunikatu CSAIL baza danych jest pierwszą tego typu bazą danych i będzie stale aktualizowana, aby zapewnić możliwość wykorzystania jej jako aktywnego zasobu.
Projekt powstał z powodu obaw, że globalne przyjęcie sztucznej inteligencji przekracza poziom zrozumienia zagrożeń związanych z wdrożeniem przez ludzi i organizacje. Dane spisowe wskazują, że wykorzystanie sztucznej inteligencji w amerykańskich gałęziach przemysłu wzrosło z 3,7% do 5,45% - co stanowi wzrost o 47% - między wrześniem 2023 r. a lutym 2024 r. Naukowcy z CSAIL i FutureTech Lab na MIT odkryli, że „nawet najbardziej szczegółowe indywidualne ramy przeoczają około 30 % ryzyk zidentyfikowanych we wszystkich zweryfikowanych ramach” - czytamy w komunikacie.
Fragmentaryczna literatura na temat zagrożeń związanych ze sztuczną inteligencją może utrudnić decydentom, osobom oceniającym ryzyko i innym osobom uzyskanie pełnego obrazu stojących przed nimi problemów. „Trudno znaleźć szczegółowe badania ryzyka w niektórych niszowych dziedzinach, w których wykorzystuje się sztuczną inteligencję, takich jak broń i wojskowe systemy wspomagania decyzji” - powiedział Taniel Yusef, pracownik naukowy z Cambridge niezwiązany z projektem. „Bez odniesienia się do tych badań mówienie o technicznych aspektach ryzyka sztucznej inteligencji ekspertom nietechnicznym może być trudne. To repozytorium nam w tym pomaga”.
Bez bazy danych niektóre zagrożenia mogą pozostać niezauważone i nie zostać odpowiednio uwzględnione - wyjaśnił zespół w komunikacie.
„Ponieważ literatura na temat ryzyka związanej ze sztuczną inteligencją jest rozproszona w recenzowanych czasopismach, preprintach i raportach branżowych oraz jest dość zróżnicowana, obawiam się, że decydenci mogą nieświadomie zapoznać się z niekompletnymi przeglądami, przeoczyć ważne obawy i rozwinąć zbiorowe martwe punkty” - dr Peter Slattery, kierownik projektu i przychodzący postdoc w FutureTech Lab, powiedział w komunikacie.
Aby rozwiązać ten problem, naukowcy z MIT współpracowali z kolegami z innych instytucji, w tym z University of Queensland, Future of Life Institute, KU Leuven i Harmony Intelligence, aby stworzyć bazę danych. Jak podaje witryna, repozytorium ma na celu zapewnienie „przystępnego przeglądu krajobrazu zagrożeń związanych ze sztuczną inteligencją” oraz działanie jako uniwersalny punkt odniesienia, z którego może korzystać każdy, od badaczy i programistów po przedsiębiorstwa i decydentów.
Aby go stworzyć, badacze opracowali 43 ramy klasyfikacji ryzyka, przeglądając dokumentację akademicką i bazy danych oraz rozmawiając z kilkoma ekspertami. Po wyodrębnieniu ponad 700 zagrożeń z tych 43 struktur badacze sklasyfikowali każde z nich według przyczyny (kiedy i dlaczego występuje), domeny i subdomeny (np. odpowiednio „Dezinformacja” i „Fałszywe lub wprowadzające w błąd informacje”).
Zagrożenia obejmują dyskryminację i wprowadzenie w błąd, oszustwo, ukierunkowaną manipulację i niebezpieczne użytkowanie. „Do najczęściej poruszanych dziedzin ryzyka” - wyjaśnia komunikat - „należą: „bezpieczeństwo, awarie i ograniczenia systemu sztucznej inteligencji” (76% dokumentów), „szkody społeczno-ekonomiczne i środowiskowe” (73%), „dyskryminacja i toksyczność” (71% dokumentów). %); „Prywatność i bezpieczeństwo” (68%) oraz „Szkodliwe podmioty i niewłaściwe wykorzystanie” (68%)”.
Badacze odkryli, że interakcja człowiek-komputer i dezinformacja to najrzadziej poruszane problemy we wszystkich ramach ryzyka. Pięćdziesiąt jeden procent przeanalizowanych zagrożeń przypisano systemom sztucznej inteligencji, a nie ludziom (34 proc.), a 65 proc. zagrożeń pojawiło się po wdrożeniu sztucznej inteligencji, a nie w trakcie jej opracowywania.
Tematy takie jak dyskryminacja, naruszenia prywatności i brak kompetencji były najczęściej omawianymi kwestiami i pojawiły się w ponad 50% dokumentów sprawdzonych przez badaczy. Obawy, że sztuczna inteligencja powoduje szkody w naszych ekosystemach informacyjnych, pojawiały się znacznie rzadziej, bo tylko w 12% dokumentów.
MIT ma nadzieję, że Repozytorium pomoże decydentom lepiej poruszać się po zagrożeniach stwarzanych przez sztuczną inteligencję i eliminować je, zwłaszcza w obliczu tak wielu inicjatyw w zakresie zarządzania sztuczną inteligencją pojawiających się szybko na całym świecie.
Repozytorium „jest częścią szerszego wysiłku mającego na celu zrozumienie, w jaki sposób reagujemy na zagrożenia związane ze sztuczną inteligencją oraz określenie, czy w naszym obecnym podejściu występują luki” - powiedział dr Neil Thompson, badacz i kierownik FutureTech Lab. „Zaczynamy od kompleksowej listy kontrolnej, która pomoże nam zrozumieć zakres potencjalnych ryzyk. Planujemy wykorzystać ją do zidentyfikowania niedociągnięć w reakcjach organizacji. Na przykład, jeśli wszyscy skupią się na jednym rodzaju ryzyka, pomijając inne o podobnym znaczeniu, będzie to coś, co powinniśmy zauważyć i zająć się”.
Następnie badacze planują wykorzystać Repozytorium do analizy dokumentów publicznych pochodzących od firm i twórców zajmujących się sztuczną inteligencją w celu określenia i porównania podejść do ryzyka według sektorów.
Repozytorium zagrożeń AI można bezpłatnie pobrać i skopiować, a użytkownicy mogą tutaj przesyłać zespołowi opinie i sugestie.