W jaki sposób plan transformacji branży IBM wykorzystuje sztuczną inteligencję, 5G i współpracę

Unijny akt w sprawie sztucznej inteligencji może okazać się jednym z najbardziej wpływowych ram prawnych na świecie. Oto, jak i dlaczego Mozilla Foundation angażuje się w ten projekt i jak Ty też możesz się zaangażować

Rok po wprowadzeniu pierwszego projektu szczegóły dotyczące unijnego aktu w sprawie sztucznej inteligencji pozostały nieliczne. Pomimo faktu, że te ramy regulacyjne nie są jeszcze sfinalizowane - a raczej właśnie z tego powodu - nadszedł czas, aby dowiedzieć się więcej na ich temat.

Wcześniej omówiliśmy kilka kluczowych faktów na temat unijnego aktu w sprawie sztucznej inteligencji: kogo dotyczy, kiedy zostanie uchwalony i czego dotyczy. Przeprowadziliśmy te badania wraz z dyrektorem wykonawczym Fundacji Mozilla, Markiem Surmanem, i starszym badaczem ds. polityki, Maximilianem Gahntzem.

Jak powiedział Surman, skupienie się Mozilli na sztucznej inteligencji nastąpiło mniej więcej w tym samym czasie, gdy rozpoczął się również cykl życia unijnego aktu o sztucznej inteligencji - około 2019 roku. Mozilla współpracowała z ludźmi z całego świata, aby opracować teorię, jak uczynić sztuczną inteligencję bardziej godną zaufania, koncentrując się na dwóch długoterminowych rezultatach: sprawczości i odpowiedzialności.

Dzisiaj kontynuujemy rozmowę z Surmanem i Gahntzem. Omawiamy zalecenia Mozilli dotyczące ulepszenia unijnego aktu w sprawie sztucznej inteligencji i tego, jak ludzie mogą się zaangażować, a także teorię zmian AI Mozilli.

Prace nad unijnym aktem w sprawie sztucznej inteligencji wciąż trwają

Zbliża się unijny akt w sprawie sztucznej inteligencji, który ma wejść w życie około 2025 r., a jego wpływ na sztuczną inteligencję może być podobny do wpływu, jaki RODO miało na prywatność danych.

Unijny akt w sprawie sztucznej inteligencji ma zastosowanie do użytkowników i dostawców systemów sztucznej inteligencji znajdujących się w UE, dostawców mających siedzibę poza UE, którzy są źródłem wprowadzania do obrotu lub uruchamiania systemu sztucznej inteligencji w UE, oraz dostawców i użytkowników systemów sztucznej inteligencji mających siedzibę poza UE, w przypadku gdy wyniki wygenerowane przez system są wykorzystywane w UE.

Jego podejście opiera się na 4-poziomowej kategoryzacji systemów sztucznej inteligencji w zależności od postrzeganego ryzyka, jakie stwarzają: systemy o niedopuszczalnym ryzyku są całkowicie zakazane (chociaż obowiązują pewne wyjątki), systemy wysokiego ryzyka podlegają zasadom identyfikowalności, przejrzystości i solidności, systemy niskiego ryzyka wymagają przejrzystości ze strony dostawcy i systemy minimalnego ryzyka, dla których nie ustanowiono żadnych wymagań.

Na tym etapie Parlament Europejski opracowuje swoje stanowisko, biorąc pod uwagę informacje otrzymywane od wyznaczonych komisji, a także od stron trzecich. Gdy Parlament Europejski skonsoliduje to, co rozumie pod pojęciem godnej zaufania sztucznej inteligencji, przedstawi swoje pomysły na to, jak zmienić pierwotny projekt. Następnie odbędzie się ostatnia runda negocjacji między Parlamentem, Komisją i państwami członkowskimi, po której zostanie przyjęty unijny akt w sprawie sztucznej inteligencji.

Aby wpłynąć na kierunek unijnego aktu w sprawie sztucznej inteligencji, nadszedł czas na działanie. Jak stwierdzono w dokumencie Mozilli z 2020 r. Tworzenie godnej zaufania sztucznej inteligencji, sztuczna inteligencja ma ogromny potencjał, aby poprawić jakość naszego życia. Jednak integracja sztucznej inteligencji z platformami i produktami, z których korzystamy na co dzień, może w równym stopniu zagrozić naszemu bezpieczeństwu i prywatności. [...] Jeśli nie zostaną podjęte kluczowe kroki, aby systemy te były bardziej godne zaufania, sztuczna inteligencja ryzykuje pogłębienie istniejących nierówności.

Mozilla uważa, że skuteczna i przyszłościowa regulacja jest potrzebna, jeśli chcemy, aby sztuczna inteligencja była bardziej godna zaufania. Dlatego też z zadowoleniem przyjęła ambicje Komisji Europejskiej zawarte w białej księdze w sprawie sztucznej inteligencji sprzed dwóch lat. Mozilla stoi na stanowisku, że unijny akt o sztucznej inteligencji jest krokiem we właściwym kierunku, ale pozostawia również miejsce na ulepszenia.

Ulepszenia sugerowane przez Mozillę zostały przedstawione w poście na blogu. Koncentrują się one na trzech punktach: 

1. Zapewnienie odpowiedzialności
2. Tworzenie przejrzystości systemowej
3. Zapewnienie jednostkom i społecznościom silniejszego głosu.

3 punkty centralne

Jak wyjaśnił Gahntz, odpowiedzialność polega tak naprawdę na ustaleniu, kto powinien być odpowiedzialny za co w całym łańcuchu dostaw sztucznej inteligencji. Zagrożeniom należy się zająć tam, gdzie się pojawią; Niezależnie od tego, czy jest to na etapie projektowania technicznego, czy na etapie wdrażania, dodał.

Unijny akt w sprawie sztucznej inteligencji nałożyłby większość obowiązków na podmioty opracowujące i wprowadzające do obrotu systemy sztucznej inteligencji wysokiego ryzyka w jego obecnej formie. Chociaż istnieją ku temu dobre powody, Gahntz uważa, że ryzyko związane z systemem sztucznej inteligencji zależy również od jego dokładnego celu i kontekstu, w którym jest używany. Kto wdraża system i jakie jest organizacyjne otoczenie wdrożenia, na które może mieć wpływ korzystanie z systemu - to wszystko są istotne pytania.

Aby spojrzeć na to w szerszym kontekście, rozważmy przypadek dużego modelu językowego, takiego jak GPT-3. Może być używany do streszczania opowiadania (niskie ryzyko) lub do oceny esejów uczniów (wysokie ryzyko). Potencjalne konsekwencje są tu bardzo różne, a osoby wdrażające powinny być pociągnięte do odpowiedzialności za sposób, w jaki korzystają z systemów sztucznej inteligencji, ale bez wprowadzania obowiązków, których nie mogą skutecznie spełnić, argumentuje Mozilla.

Przejrzystość systemowa wykracza poza przejrzystość skierowaną do użytkownika. Podczas gdy dobrze jest, aby użytkownicy wiedzieli, kiedy wchodzą w interakcję z systemem sztucznej inteligencji, potrzebujemy również, aby dziennikarze, badacze i organy regulacyjne byli w stanie przeanalizować systemy i to, jak wpływają one na ludzi i społeczności w terenie, powiedział Gahntz.

Projekt unijnego aktu w sprawie sztucznej inteligencji zawiera potencjalnie skuteczny mechanizm zapewniający przejrzystość systemową: publiczną bazę danych systemów sztucznej inteligencji wysokiego ryzyka, utworzoną i utrzymywaną przez Komisję, w której programiści rejestrują te systemy i przekazują informacje o nich, zanim będzie można je wdrożyć.

Rekomendacja Mozilli jest tutaj trojaka. Po pierwsze, mechanizm ten został rozszerzony na wszystkie podmioty wdrażające systemy sztucznej inteligencji wysokiego ryzyka. Po drugie, podaje również dodatkowe informacje, takie jak opisy projektu systemu sztucznej inteligencji, ogólna logika i wydajność. Po trzecie, zawiera informacje o poważnych incydentach i awariach, które programiści musieliby już zgłaszać krajowym organom regulacyjnym zgodnie z aktem w sprawie sztucznej inteligencji.

Zaangażowanie Mozilli w unijny akt o sztucznej inteligencji jest zgodne z teorią zmian w zakresie sztucznej inteligencji, która obejmuje zmianę norm branżowych, tworzenie nowych technologii i produktów, generowanie popytu oraz tworzenie przepisów i zachęt

Zapewnienie jednostkom i społecznościom silniejszego głosu jest czymś, czego brakuje w pierwotnym projekcie unijnego aktu w sprawie sztucznej inteligencji, powiedział Gahntz. W obecnej sytuacji tylko unijne organy regulacyjne będą mogły pociągać przedsiębiorstwa do odpowiedzialności za wpływ produktów i usług opartych na sztucznej inteligencji.

Jednak Mozilla uważa, że ważne jest również, aby osoby fizyczne mogły pociągać firmy do odpowiedzialności. Co więcej, inne organizacje - takie jak organizacje ochrony konsumentów lub związki zawodowe - muszą mieć możliwość wnoszenia skarg w imieniu osób fizycznych lub interesu publicznego.

W związku z tym Mozilla popiera propozycję dodania oddolnego mechanizmu składania skarg dla dotkniętych osób i grup osób w celu składania formalnych skarg do krajowych organów nadzorczych jako pojedynczego punktu kontaktowego w każdym państwie członkowskim UE.

Mozilla zauważa również, że istnieje kilka dodatkowych sposobów, dzięki którym akt AI może zostać wzmocniony przed jego przyjęciem. Na przykład dostosowanie mechanizmu wyznaczania tego, co stanowi sztuczną inteligencję wysokiego ryzyka, oraz zapewnienie uwzględnienia szerokiego zakresu perspektyw przy operacjonalizacji wymogów, jakie będą musiały spełniać systemy sztucznej inteligencji wysokiego ryzyka.

Angażowanie się w teorię zmian AI

Możesz zgodzić się z zaleceniami Mozilli i chcieć udzielić wsparcia. Możesz dodać do nich coś lub zaproponować własny zestaw rekomendacji. Jednak, jak zauważyli pracownicy Mozilli, proces angażowania się jest trochę jak prowadzenie własnej kampanii - nie ma czegoś takiego jak "to jest formularz, który musisz wypełnić".

"Sposobem na zaangażowanie się jest tak naprawdę normalny proces demokratyczny. Mamy wybranych urzędników, którzy przyglądają się tym pytaniom, są też ludzie w służbie publicznej, którzy zadają te pytania, a następnie mamy przemysł w społeczeństwie, który prowadzi debatę na temat tych pytań.

Myślę, że istnieje pewien szczególny mechanizm; Z pewnością ludzie tacy jak my zastanowią się nad konkretnymi zaleceniami. A współpracując z nami, pomagasz je wzmocnić. 

Myślę jednak, że otwarta, demokratyczna rozmowa -- bycie publicznie, zawieranie sojuszników i nawiązywanie kontaktów z ludźmi, z których poglądami się zgadzasz, zmaganie się i poruszanie trudnych tematów. To właśnie zrobi różnicę i z pewnością na tym się skupiamy" - powiedział Surman.

W tym momencie tak naprawdę chodzi o wpływanie na opinię publiczną i opinię ludzi, którzy są w stanie podejmować decyzje, według Gahntza. Dodał, że chodzi o parlamentarzystów, urzędników państw członkowskich UE i urzędników Komisji Europejskiej.

Na bardziej oddolnym poziomie to, co ludzie mogą zrobić, jest takie samo jak zawsze, uważa Gahntz. Możesz napisać do lokalnego posła do Parlamentu Europejskiego; Możesz być aktywny w mediach społecznościowych i starać się wzmacniać głosy, z którymi się zgadzasz; Możesz podpisywać petycje i tak dalej. Mozilla ma długą historię angażowania się w kształtowanie polityki publicznej.

"Skupiamy się na kwestiach sprawczości i odpowiedzialności i uważamy, że unijny akt w sprawie sztucznej inteligencji jest naprawdę dobrym tłem, w którym mogą wywołać globalny efekt domina, aby popchnąć sprawy we właściwym kierunku w tych kwestiach" - powiedział Surman.

Sprawczość i odpowiedzialność są pożądanymi długoterminowymi rezultatami w Mozilli AI Theory Of Change, opracowanej w 2019 roku poprzez spędzenie 12 miesięcy na rozmowach z ekspertami, czytaniu i pilotowaniu kampanii i projektów związanych ze sztuczną inteligencją. Eksploracja ta udoskonaliła myślenie Mozilli o godnej zaufania sztucznej inteligencji, wzmacniając kilka obszarów wyzwań, w tym monopole i centralizację, zarządzanie danymi i prywatność, uprzedzenia i dyskryminację oraz przejrzystość i odpowiedzialność.

Teoria zmian w zakresie sztucznej inteligencji Mozilli identyfikuje szereg krótkoterminowych rezultatów (1-3 lata), pogrupowanych w 4 średnioterminowe wyniki (3-5 lat): zmiana norm branżowych, tworzenie nowych technologii i produktów, generowanie popytu oraz tworzenie przepisów i zachęt. Przewidywany długoterminowy wpływ to "świat sztucznej inteligencji, w którym technologia konsumencka wzbogaca życie ludzi".

"Regulacja jest czynnikiem umożliwiającym, ale bez ludzi tworzących różne technologie w inny sposób i bez ludzi, którzy chcą korzystać z tej technologii, prawo jest kawałkiem papieru", jak to ujął Surman.

Jeśli spojrzymy na precedens RODO, czasami mamy naprawdę interesujące nowe firmy i nowe oprogramowanie, które mają na uwadze prywatność, a czasami po prostu otrzymujemy irytujące wyskakujące przypomnienia o gromadzeniu danych i plikach cookie i tak dalej.

"Upewnienie się, że prawo takie jak to napędza rzeczywiste zmiany i prawdziwą wartość dla ludzi, jest trudną sprawą. Dlatego właśnie teraz należy skupić się na tym, jakie są praktyczne rzeczy, które branża oraz programiści i wdrożeniowcy mogą zrobić, aby sztuczna inteligencja była bardziej godna zaufania. Musimy upewnić się, że przepisy faktycznie odzwierciedlają i zachęcają do tego rodzaju działań, a nie tylko siedzą w chmurze" - podsumował Surman.