Narzędzie do transkrypcji AI OpenAI nadmiernie halucynuje - oto lepsza alternatywa

Badacz „stwierdził halucynacje w ośmiu z każdych 10 transkrypcji audio, które sprawdził” w Whisper.

Stwierdzono, że Whisper OpenAI, narzędzie sztucznej inteligencji (AI) do rozpoznawania i transkrypcji mowy wprowadzone na rynek w 2022 roku, wywołuje halucynacje lub zmyśla - do tego stopnia, że eksperci obawiają się, że może spowodować poważne szkody w niewłaściwym kontekście.

W zeszłym tygodniu AP poinformowała, że badacz z Uniwersytetu Michigan „odkrył halucynacje w ośmiu z każdych 10 transkrypcji audio, które sprawdził” wyprodukowanych przez Whisper podczas badania spotkań publicznych.

Dane są jednymi z wielu: oddzielnie inżynier, który przejrzał 100 godzin transkrypcji Whisper, powiedział AP, że znalazł halucynacje w około 50% z nich, podczas gdy inny twórca odkrył halucynacje w prawie każdym transkrypcie, który wygenerował za pomocą Whisper, co daje łącznie 26 000 .

Chociaż użytkownicy zawsze mogą spodziewać się, że osoby dokonujące transkrypcji wykorzystujące sztuczną inteligencję pomylą tu i ówdzie słowo lub pisownię, badacze zauważyli, że „nigdy nie widzieli, żeby inne narzędzie do transkrypcji oparte na sztucznej inteligencji wywoływało takie halucynacje jak Whisper”.

OpenAI twierdzi, że Whisper, sieć neuronowa typu open source, „zbliża się do poziomu niezawodności i dokładności rozpoznawania mowy w języku angielskim na poziomie ludzkim”. Jest szeroko zintegrowany w kilku branżach w celu obsługi popularnych typów rozpoznawania mowy, w tym transkrypcji i tłumaczenia wywiadów oraz tworzenia napisów do filmów.

Taki poziom wszechobecności może szybko rozpowszechnić sfabrykowany tekst, błędnie przypisane i wymyślone cytaty oraz inne dezinformacje w kilku mediach, których znaczenie może różnić się w zależności od charakteru oryginalnego materiału. Według AP Whisper jest wbudowany w niektóre wersje ChatGPT, wbudowany w call center, asystentów głosowych i platformy chmurowe firm Oracle i Microsoft, a w zeszłym miesiącu został pobrany z HuggingFace ponad 4,2 miliona razy.

Eksperci powiedzieli AP, że jeszcze bardziej niepokojące jest to, że lekarze coraz częściej korzystają z „narzędzi opartych na szeptach” do transkrypcji konsultacji między pacjentem a lekarzem. AP przeprowadziła wywiady z ponad 12 inżynierami, badaczami i programistami, którzy potwierdzili, że Whisper sfabrykował frazy i pełne zdania w tekście transkrypcji, z których niektóre „mogą zawierać komentarze rasistowskie, brutalną retorykę, a nawet wyimaginowane metody leczenia”.

„Nikt nie chce błędnej diagnozy” - powiedziała Alondra Nelson, profesor w Institute for Advanced Study.

Być może OpenAI nie był zwolennikiem zastosowań medycznych - firma odradza „niestosowanie go w obszarach wysokiego ryzyka, takich jak konteksty podejmowania decyzji, gdzie błędy w dokładności mogą prowadzić do wyraźnych błędów w wynikach” - ale wprowadzenie narzędzia na rynek i reklamowanie jego dokładność oznacza, że prawdopodobnie zostanie wykorzystany przez kilka branż, które będą próbowały przyspieszyć pracę i zwiększyć wydajność tam, gdzie to możliwe, niezależnie od możliwych zagrożeń.

Problem nie wydaje się być zależny od dłuższego lub źle nagranego dźwięku. Według AP informatycy odkryli niedawno halucynacje w krótkich, wyraźnych próbkach audio. Badacze powiedzieli AP, że tendencja ta „doprowadzi do dziesiątek tysięcy błędnych transkrypcji w milionach nagrań”.

„Trudno określić pełen zakres problemu, ale badacze i inżynierowie twierdzą, że w swojej pracy często spotykali się z halucynacjami Whispera” - podaje AP. Poza tym, jak zauważył Christian Vogler, który kieruje programem dostępu do technologii na Uniwersytecie Gallaudet i jest osobą głuchą, osoby głuche lub niedosłyszące nie są w stanie wychwycić halucynacji „ukrytych wśród całego tego tekstu”.

Ustalenia badaczy wskazują na szerszy problem w branży sztucznej inteligencji: narzędzia są wprowadzane na rynek zbyt szybko w imię zysku, zwłaszcza gdy w USA nadal brakuje odpowiednich przepisów dotyczących sztucznej inteligencji. Jest to również istotne, biorąc pod uwagę toczącą się w OpenAI debatę na temat organizacji non-profit i niedawnych przewidywań kierownictwa, które nie uwzględniają zagrożeń związanych ze sztuczną inteligencją.

„Rzecznik OpenAI powiedział, że firma nieustannie bada sposoby ograniczania halucynacji i docenił ustalenia badaczy, dodając, że OpenAI uwzględnia opinie w aktualizacjach modeli” - napisał AP.

Czekając, aż OpenAI rozwiąże problem, zalecamy wypróbowanie Otter.ai, zaufanego przez dziennikarzy narzędzia do transkrypcji AI, które właśnie dodało sześć nowych języków. W zeszłym miesiącu jeden z długoletnich użytkowników Otter.ai zauważył, że nowa funkcja podsumowania sztucznej inteligencji na platformie sugerowała statystyki, ale błąd ten nie występował w samej transkrypcji. Rozsądnie będzie nie polegać na tej funkcji, zwłaszcza że ryzyko może wzrosnąć, gdy sztuczna inteligencja zostanie poproszona o podsumowanie większych kontekstów.

Własne wytyczne Otter.ai dotyczące transkrypcji nie wspominają o halucynacjach, jedynie stwierdzają, że „dokładność może się różnić w zależności od takich czynników, jak hałas w tle, akcent mówiącego i złożoność rozmowy” oraz zaleca użytkownikom „przeglądanie i edytowanie transkrypcji, aby upewnić się, że pełna dokładność, zwłaszcza w przypadku zadań krytycznych lub ważnych rozmów.”

Jeśli masz iPhone'a, nowy iOS 18.1 z Apple Intelligence umożliwia teraz nagrywanie i transkrypcję rozmów AI, ale redaktor naczelny ZDNET, Jason Hiner, twierdzi, że „nadal nad tym pracujemy”.

Tymczasem OpenAI właśnie ogłosiło plany zapewnienia swoim 250 milionom użytkowników ChatGPT Plus większej liczby narzędzi.