Wyeliminowanie uprzedzeń związanych ze sztuczną inteligencją jest zadaniem każdego z nas

Apel o większą świadomość i szkolenia w zakresie wdrażania sztucznej inteligencji. Nie tylko dla programistów i analityków danych, ale także dla menedżerów produktów, kadry kierowniczej, menedżerów ds. marketingu i merchandiserów.

Ponieważ z dnia na dzień rośnie zależność od decyzji i operacji opartych na sztucznej inteligencji, ważne jest, aby cofnąć się o krok i zapytać, czy robi się wszystko, co można zrobić, aby zapewnić sprawiedliwość i złagodzić uprzedzenia. Potrzebna jest większa świadomość i szkolenia w zakresie wdrażania sztucznej inteligencji. Nie tylko dla programistów i analityków danych, ale także dla menedżerów produktów, kadry kierowniczej, menedżerów ds. marketingu i merchandiserów. To słowa Johna Boezemana, dyrektora ds. technologii w firmie Acoustic, który podzielił się swoimi spostrzeżeniami na temat pilnej potrzeby właściwego wdrożenia sztucznej inteligencji. 

P: Jak daleko posunięte są wysiłki korporacji na rzecz osiągnięcia sprawiedliwości i wyeliminowania stronniczości w wynikach AI?  

Boezeman:  Próba określenia stronniczości lub zniekształceń w sztucznej inteligencji jest bardzo trudnym problemem i wymaga dużo dodatkowej opieki, usług i inwestycji finansowych, aby móc nie tylko wykryć, ale także naprawić i zrekompensować te problemy. Wiele korporacji nieumyślnie wykorzystało tendencyjne lub niekompletne dane w różnych modelach; Zrozumienie tego i zmiana tego zachowania wymaga zmian kulturowych i starannego planowania w firmie. 

Ci, którzy działają zgodnie ze zdefiniowanymi zasadami etyki danych, będą dobrze przygotowani do unikania uprzedzeń w sztucznej inteligencji lub przynajmniej będą w stanie je wykryć i naprawić, jeśli i kiedy zostaną zidentyfikowane. 

P: Czy firmy robią wystarczająco dużo, aby regularnie przeglądać swoje wyniki w zakresie sztucznej inteligencji? Jaki jest najlepszy sposób, aby to zrobić?  

Boezeman:  Wraz z pojawieniem się nowych narzędzi związanych z audytowalnością sztucznej inteligencji, zobaczymy, że znacznie więcej firm regularnie przegląda swoje wyniki w zakresie sztucznej inteligencji. Obecnie wiele firm albo kupuje produkt, który ma wbudowaną funkcję lub funkcję sztucznej inteligencji, albo jest to część zastrzeżonej funkcji tego produktu, która nie ujawnia możliwości audytu. 

Firmy mogą również wykorzystać podstawowe możliwości sztucznej inteligencji dla konkretnego przypadku użycia, zwykle w tym poziomie wykorzystania sztucznej inteligencji. Jednak w każdym z tych przypadków audyt jest zwykle ograniczony. Tam, gdzie audyt staje się naprawdę ważny, są poziomy "zalecania" i "działania" sztucznej inteligencji. W tych dwóch fazach ważne jest, aby korzystać z narzędzia do audytu, aby nie wprowadzać stronniczości i nie zniekształcać wyników. 

Jednym z najlepszych sposobów pomocy w audytowaniu sztucznej inteligencji jest skorzystanie z usług sztucznej inteligencji i uczenia maszynowego jednego z większych dostawców usług w chmurze. Wielu z tych dostawców ma narzędzia i stosy technologiczne, które pozwalają śledzić te informacje. Kluczowe jest również identyfikowanie uprzedzeń lub zachowań podobnych do uprzedzeń, które mają być częścią szkolenia dla naukowców zajmujących się danymi oraz programistów AI i ML. Im więcej osób zostanie przeszkolonych na temat tego, na co zwracać uwagę, tym bardziej firmy będą przygotowane do identyfikowania i łagodzenia uprzedzeń związanych ze sztuczną inteligencją.  

P: Czy liderzy i pracownicy IT powinni być szkoleni i zwiększać świadomość, aby złagodzić uprzedzenia związane ze sztuczną inteligencją?  

Boezeman:  Zdecydowanie. Zarówno analitycy danych, jak i programiści AI/ML potrzebują szkolenia w zakresie stronniczości i przekrzywienia, ale ważne jest również, aby rozszerzyć to szkolenie na menedżerów produktów, kadrę kierowniczą, menedżerów marketingu i merchandiserów. 

Łatwo jest wpaść w pułapkę robienia tego, co zawsze się robiło, lub podążania tylko za podejściem skoncentrowanym na uprzedzeniach, jak to miało miejsce w wielu branżach w przeszłości. Jednak dzięki szkoleniom dotyczącym łagodzenia uprzedzeń związanych ze sztuczną inteligencją pracownicy w całej organizacji będą w stanie zidentyfikować uprzedzenia, zamiast ufać, że wszystko, co wytwarza sztuczna inteligencja, jest faktem. Na tej podstawie Twoja firma może pomóc złagodzić jego wpływ.  

P: Inicjatywy związane ze sztuczną inteligencją i uczeniem maszynowym trwają już od kilku lat. Jakie wnioski wyciągnęły przedsiębiorstwa w zakresie najbardziej produktywnego wdrażania i wdrażania?  

Boezeman: Sztuczna inteligencja nie jest panaceum, które rozwiąże wszystko. Widziałem wiele prób wrzucenia sztucznej inteligencji do dowolnego przypadku użycia, niezależnie od tego, czy sztuczna inteligencja jest właściwym przypadkiem użycia, a wszystko po to, aby umożliwić historię marketingową bez dostarczania prawdziwej wartości. Sztuczka na drodze do udanego wdrożenia rozwiązania AI polega na połączeniu jakości danych oraz jakości modeli i algorytmów wpływających na podejmowanie decyzji. Mówiąc najprościej, jeśli włożysz śmieci do środka, usuniesz śmieci. Najbardziej udane wdrożenia mają wyraźny przypadek użycia i dobrze zdefiniowane dane, z którymi można pracować.  

P: Które obszary organizacji odnoszą największe sukcesy dzięki sztucznej inteligencji?  

Boezeman:  W sztucznej inteligencji jest wiele różnych etapów, ale większość można je sprowadzić do trzech podstawowych stanów: odkrywanie, polecanie i automatyczne działanie. W tej chwili najczęściej używam jej w przestrzeni odkrywania - wglądów, alertów, powiadomień. To jest miejsce, w którym system informuje, że coś dzieje się nienormalnie lub poza znanymi wzorcami. Albo coś zmierza w kierunku, na którym powinno Ci zależeć. Ludzie ufają tego rodzaju interakcji i modelowi i mogą łatwo współpracować, jeśli chcą dowodu. 

Marketerzy wykorzystują sztuczną inteligencję w przestrzeni odkrywania, aby na przykład określić, jak skuteczne są ich kampanie. Innym przykładem jest merchandiser, który może wdrożyć rozwiązanie oparte na sztucznej inteligencji w celu wykrywania oszustw lub problemów z podróżą klienta. 

To, co nadal widzę w stanach rekomendacji i działania, to stany rekomendacji i działania. Kiedyś posiadałem produkt, który obliczał najlepszą cenę za produkt i zamawiał wyświetlanie go w sklepie internetowym, na podstawie wielu punktów danych, od ilości, przez rentowność, czas do przeceny, po przestrzeń magazynową wykorzystywaną w magazynie. I nawet ten produkt może, jeśli go włączysz, automatycznie podjąć działanie. Odkryliśmy, że wielu merchandiserów lubi widzieć rekomendację, ale osobiście chcieli podjąć działania, a także chcieli zobaczyć wiele opcji, a na koniec chcieli zobaczyć drzewo decyzyjne, dlaczego system zarekomendował opcję. Kiedy po raz pierwszy go uruchomiliśmy, nie mieliśmy funkcji "Dlaczego system zarekomendował XYZ?". Dopóki nie zapewniliśmy merchandiserowi sposobu, aby umożliwić mu zobaczenie, na czym opiera się rekomendacja, nie ufał jej.  

P: Jakie technologie lub podejścia technologiczne robią największą różnicę?  

Boezeman:  Jest wiele firm działających w tej dziedzinie, które każdego dnia wymyślają nowe, wpływowe technologie. Spark i Amazon Sagemaker to dwa przykłady. Technologie, które robią największą różnicę, to te, które umożliwiają identyfikację stronniczości w modelach sztucznej inteligencji. Gdy algorytmy sztucznej inteligencji są stronnicze, mogą prowadzić do nieuczciwych i nieprawidłowych wyników. Będąc w stanie dostrzec stronniczość w systemie, możesz następnie zdiagnozować i złagodzić sytuację. Wraz z dalszym rozwojem branży będzie to kluczowa podstawowa zdolność, którą każdy stos technologiczny będzie musiał obsługiwać.