Klejenie pizzy? Spaghetti na benzynie? Google wyjaśnia, co się stało z niepewnymi wynikami wyszukiwania AI

Google twierdzi, że wiele z tego, co stało się wirusowe, nie było prawdą, ale przyznał, że funkcja sztucznej inteligencji nadal wymaga ulepszenia. Oto, czym zajmuje się firma.

Jeśli w ciągu ostatniego tygodnia korzystałeś z mediów społecznościowych, prawdopodobnie je widziałeś. Zrzuty ekranu z nowymi podsumowaniami wyszukiwania Google opartymi na sztucznej inteligencji stały się wirusowe, głównie dlatego, że Google rzekomo wydawał szalone rekomendacje, takie jak dodanie kleju do pizzy, gotowanie spaghetti na benzynie lub sugerowanie, że dla optymalnego zdrowia należy jeść kamienie.

To był dopiero początek.

Do sieci trafiły także inne szczególnie rażące przykłady, na przykład nieuczciwa funkcja sztucznej inteligencji sugerująca mieszanie wybielacza i octu w celu oczyszczenia pralki, co powoduje wytworzenie potencjalnie śmiercionośnego chloru, lub skakanie z mostu Golden Gate w odpowiedzi na pytanie „Jestem uczucie depresji.”

Co więc się stało i dlaczego przegląd sztucznej inteligencji Google zalecił te rzeczy?

Po pierwsze, według Google, większość tego, co trafiło do Internetu, nie była prawdziwa.

Wiele zrzutów ekranu było po prostu fałszywych: „Niektóre z tych sfałszowanych wyników były oczywiste i głupie. Inne sugerowały, że zwróciliśmy niebezpieczne wyniki w przypadku takich tematów jak zostawianie psów w samochodach, palenie w czasie ciąży i depresja”. Google twierdzi, że te przeglądy sztucznej inteligencji nigdy się nie ukazały.

Po drugie, liczne zrzuty ekranu pochodziły od osób, które chciały uzyskać głupie wyniki wyszukiwania, na przykład te dotyczące jedzenia kamieni. „Zanim te zrzuty ekranu stały się wirusowe” - stwierdził Google - „praktycznie nikt nie zadał Google tego pytania”. Jeśli nikt nie googluje danego tematu, prawdopodobnie oznacza to, że nie ma zbyt wielu dostępnych informacji na ten temat lub brakuje danych. W takich przypadkach sztuczna inteligencja uznała jedynie treści satyryczne za trafne.

Google przyznaje, że pojawiło się kilka dziwnych lub niedokładnych wyników. Nawet te dotyczyły nietypowych zapytań, ale ujawniały pewne obszary wymagające poprawy. Firma była w stanie określić wzorzec rzeczy, które nie szły dobrze, i wprowadziła kilkanaście ulepszeń technicznych, w tym:

• Lepsze wykrywanie bezsensownych zapytań, które nie powinny wyświetlać przeglądu sztucznej inteligencji i ograniczone uwzględnianie treści satyrycznych i humorystycznych

• Ograniczone wykorzystanie treści generowanych przez użytkowników w odpowiedziach, które mogą zawierać wprowadzające w błąd porady

• Wyzwalanie ograniczeń dla zapytań, w przypadku których przeglądy AI nie okazały się pomocne

• Niewyświetlanie przeglądów AI w przypadku trudnych tematów, w których ważna jest świeżość i rzeczowość, oraz w przypadku większości tematów związanych ze zdrowiem

Google twierdzi, że codziennie pojawiają się miliardy zapytań, więc czasami sytuacja staje się dziwna. Firma twierdzi, że uczy się na błędach i obiecuje nadal pracować nad udoskonaleniem przeglądów sztucznej inteligencji.