Walka z uprzedzeniami w sztucznej inteligencji zaczyna się od danych
Większość dyrektorów IT twierdzi, że dokładność danych ma kluczowe znaczenie dla korzystania ze sztucznej inteligencji. Jednak tylko 6% stwierdziło, że osiągnęło pełną dokładność danych.
Dążenie do dostarczania bezstronnej i odpowiedzialnej sztucznej inteligencji jest godne podziwu, ale istnieje wiele przeszkód do pokonania. Przede wszystkim sztuczna inteligencja jest tak sprawiedliwa, jak dane, które się do niej włączają.
W świetle powolnych postępów w walce z uprzedzeniami i niesprawiedliwością w zakresie sztucznej inteligencji, liderzy biznesowi i technologiczni mogą w końcu dojść do konsensusu, że muszą skoncentrować się na bardziej "odpowiedzialnym" podejściu do sztucznej inteligencji. Niedawna ankieta przeprowadzona przez Appen i przeprowadzona przez The Harris Poll wśród 504 dyrektorów IT wykazała zwiększone zaniepokojenie danymi, które w coraz większym stopniu wpływają na decyzje dotyczące klientów, rynków i możliwości. Wskazuje to również na to, że oba typy liderów uznają, że posiadane przez nich dane są zwykle problematyczne, wyrządzając szkody ludziom, społecznościom i firmom.
Jak wynika z badania przeprowadzonego przez McKinsey w 2021 r., nawet wśród najbardziej proaktywnych firm, większość nie podejmuje jeszcze kroków w celu wyeliminowania uprzedzeń związanych ze sztuczną inteligencją.
Na przykład 47% respondentów, czyli mniej niż połowa, stwierdziło, że skanuje dane szkoleniowe i testowe w celu wykrycia niedostatecznej reprezentacji chronionych cech i atrybutów.
Taki sam odsetek zgłosił, że specjaliści ds. danych w swojej organizacji aktywnie sprawdzają, czy dane są niesymetryczne lub stronnicze podczas pozyskiwania danych. Tylko 36% stwierdziło, że specjaliści ds. danych aktywnie sprawdzają, czy dane nie są zniekształcone lub stronnicze na kilku etapach opracowywania modelu.
Badanie Appen pokazuje, że pozyskiwanie wysokiej jakości danych jest przeszkodą w tworzeniu sztucznej inteligencji. Większość, bo 51%, stwierdziła, że dokładność danych ma kluczowe znaczenie dla ich przypadku użycia sztucznej inteligencji, ale tylko 6% zgłosiło osiągnięcie pełnej dokładności danych (przekraczającej 90%). "Wiele osób stoi przed wyzwaniami związanymi z próbą zbudowania wspaniałej sztucznej inteligencji przy użyciu ubogich zestawów danych" - stwierdzają autorzy badania. "Aby skutecznie budować modele sztucznej inteligencji, organizacje potrzebują dokładnych i wysokiej jakości danych. Niestety, liderzy biznesowi i technolodzy zgłaszają znaczną rozbieżność między ideałem a rzeczywistością w osiąganiu dokładności danych".
Mimo to badanie Appen wykazało, że firmy skupiają się na "odpowiedzialnej" sztucznej inteligencji. "Etyka danych to nie tylko robienie tego, co właściwe" - podkreślają autorzy badania. "Chodzi o utrzymanie zaufania i bezpieczeństwa wszystkich osób w łańcuchu wartości, od współtwórcy po konsumenta". Prawie wszyscy, bo aż 93%, stwierdzili, że uważają, że muszą dostarczać odpowiedzialną sztuczną inteligencję. Informują, że koncentrują się na poprawie jakości danych w ramach projektów sztucznej inteligencji w celu promowania bardziej inkluzywnych zbiorów danych, które pomogą wyeliminować stronniczość i niesprawiedliwość. Ośmiu na dziesięciu respondentów określiło różnorodność danych jako niezwykle ważną lub bardzo ważną, a 95% zgodziło się, że dane syntetyczne będą kluczowym graczem, jeśli chodzi o tworzenie inkluzywnych zbiorów danych.
Oczywiście łatwiej powiedzieć niż zrobić; Co najmniej 42% technologów, którzy wzięli udział w ankiecie, stwierdziło, że etap pozyskiwania danych w cyklu życia sztucznej inteligencji jest bardzo trudny. Ponadto 90% respondentów stwierdziło, że ponownie trenuje swoje modele co najmniej raz na kwartał.
Wymaga to również utrzymania ludzi w pętli sztucznej inteligencji. Istnieje silna zgoda co do znaczenia uczenia maszynowego typu human-in-the-loop, przy czym 81% respondentów twierdzi, że jest to bardzo lub niezwykle ważne, a 97% zgadza się, że ocena human-in-the-loop jest ważna dla dokładnej wydajności modelu.
Co ciekawe, przepaść między analitykami danych a liderami biznesu powoli zmniejsza się z roku na rok, jeśli chodzi o zrozumienie wyzwań związanych ze sztuczną inteligencją. "Nacisk na to, jak ważne są dane, zwłaszcza dane wysokiej jakości, które pasują do scenariuszy aplikacji, dla sukcesu modelu sztucznej inteligencji, połączył zespoły, aby sprostać tym wyzwaniom" - podkreślają autorzy badania.