Bezpieczeństwo i stronniczość AI: rozwikłanie złożonego łańcucha szkolenia AI
Sztuczna inteligencja rozwija się w szybkim tempie. Jeśli nie zbudujemy bezpiecznych systemów teraz, nie zrobimy tego nigdy, mówi badacz Intela Lama Nachman.
Bezpieczeństwo i stronniczość sztucznej inteligencji to pilne, ale złożone problemy dla badaczy bezpieczeństwa. Ponieważ sztuczna inteligencja jest zintegrowana z każdym aspektem społeczeństwa, zrozumienie procesu jej rozwoju, funkcjonalności i potencjalnych wad ma ogromne znaczenie.
Lama Nachman, dyrektor laboratorium badawczego inteligentnych systemów w laboratoriach Intel, stwierdziła, że niezbędne jest uwzględnienie wkładu różnorodnych ekspertów dziedzinowych w proces szkolenia i uczenia się sztucznej inteligencji. Stwierdza: „Zakładamy, że system AI uczy się od eksperta dziedzinowego, a nie od twórcy AI… Osoba ucząca systemu AI nie rozumie, jak programować system AI… a system może automatycznie zbuduj modele rozpoznawania działań i dialogu.”
Stanowi to ekscytującą, ale potencjalnie kosztowną perspektywę, z możliwością ciągłego udoskonalania systemu w miarę jego interakcji z użytkownikami. Nachman wyjaśnia: „Są elementy, które można w pełni wykorzystać w ogólnym aspekcie dialogu, ale jest wiele rzeczy, jeśli chodzi o... specyfikę tego, jak ludzie wykonują czynności w świecie fizycznym, które nie są podobne do co byś zrobił w ChatGPT. Oznacza to, że chociaż obecne technologie sztucznej inteligencji oferują świetne systemy dialogu, przejście w kierunku zrozumienia i wykonywania zadań fizycznych stanowi zupełnie inne wyzwanie” - powiedziała.
Jej zdaniem bezpieczeństwo sztucznej inteligencji może być zagrożone przez kilka czynników, takich jak słabo określone cele, brak solidności i nieprzewidywalność reakcji sztucznej inteligencji na określone dane wejściowe. Kiedy system sztucznej inteligencji jest szkolony na dużym zbiorze danych, może uczyć się i odtwarzać szkodliwe zachowania znalezione w danych.
Uprzedzenia w systemach sztucznej inteligencji mogą również prowadzić do nieuczciwych skutków, takich jak dyskryminacja lub niesprawiedliwe podejmowanie decyzji. Błędy mogą przedostawać się do systemów AI na wiele sposobów; na przykład poprzez dane wykorzystywane do szkoleń, które mogą odzwierciedlać uprzedzenia obecne w społeczeństwie. W miarę jak sztuczna inteligencja w dalszym ciągu przenika różne aspekty życia ludzkiego, potencjał szkód spowodowanych stronniczymi decyzjami znacznie rośnie, co wzmacnia potrzebę opracowania skutecznych metodologii wykrywania i łagodzenia tych uprzedzeń.
Kolejną obawą jest rola sztucznej inteligencji w rozpowszechnianiu dezinformacji. W miarę jak zaawansowane narzędzia sztucznej inteligencji stają się coraz bardziej dostępne, wzrasta ryzyko ich wykorzystania do generowania zwodniczych treści, które mogą wprowadzić opinię publiczną w błąd lub promować fałszywe narracje. Konsekwencje mogą być dalekosiężne i obejmować zagrożenia dla demokracji, zdrowia publicznego i spójności społecznej. Podkreśla to potrzebę opracowania solidnych środków zaradczych w celu ograniczenia rozprzestrzeniania się dezinformacji przez sztuczną inteligencję oraz potrzeby prowadzenia bieżących badań, aby wyprzedzić ewoluujące zagrożenia.
Każda innowacja wiąże się z nieuniknionym zestawem wyzwań. Nachman zaproponował, aby systemy sztucznej inteligencji były zaprojektowane tak, aby „były zgodne z wartościami ludzkimi” na wysokim poziomie, i sugeruje podejście do rozwoju sztucznej inteligencji oparte na ryzyku, które uwzględnia zaufanie, odpowiedzialność, przejrzystość i wyjaśnialność. Zajęcie się sztuczną inteligencją już teraz pomoże zapewnić bezpieczeństwo przyszłych systemów.