Halucynacje ChatGPT właśnie doprowadziły do pozwu OpenAI. Oto, co się stało
Kto płaci, jeśli generatywne narzędzia AI zaczną mieć halucynacje na Twój temat?
Wiadomo, że modele generatywne AI, takie jak ChatGPT, generują błędy lub „halucynacje”. W rezultacie zazwyczaj zawierają wyraźnie widoczne zastrzeżenia ujawniające ten problem.
Ale co byś zrobił, gdybyś pomimo tych ostrzeżeń zobaczył, że chatbot AI rozpowszechnia o Tobie dezinformację?
Ponadto: OpenAI twierdzi, że znalazło sposób na uczynienie modeli sztucznej inteligencji bardziej logicznymi i uniknięcie halucynacji
Gospodarz radia w Gruzji, Mark Walters, odkrył, że ChatGPT rozpowszechnia o nim fałszywe informacje, oskarżając go o defraudację pieniędzy, i w rezultacie pozwał OpenAI w pierwszym procesie firmy o zniesławienie, o czym po raz pierwszy poinformowała Bloomberg Law.
Jak wynika z pozwu, dezinformacja nastąpiła, gdy Fred Riehl, redaktor naczelny publikacji o broni AnmoLand, poprosił ChatGPT o streszczenie sprawy Second Poprawka Foundation przeciwko Fergusonowi jako tło dla sprawy, którą on raportował.
ChatGPT przedstawił Riehlowi streszczenie sprawy, w którym stwierdzono, że Alan Gottlieb, założyciel Fundacji Drugiej Poprawki (SAF), oskarżył Waltersa o „oszustwo i defraudację funduszy SAF”.
Ponadto: 3 sposoby, według których OpenAI powinniśmy zacząć zajmować się regulacjami dotyczącymi sztucznej inteligencji
Co więcej, chatbot stwierdził, że w przypadku skargi zarzucającej Waltersowi „ sprzeniewierzenie funduszy na wydatki osobiste bez zezwolenia lub zwrotu pieniędzy, manipulowanie dokumentacją finansową i wyciągami bankowymi w celu ukrycia swojej działalności oraz nieprzedkładanie dokładnych i terminowych sprawozdań finansowych i ujawnień pracownikom kierownictwo SAF”, kiedy pełnił funkcję dyrektora finansowego i skarbnika SFA.
Jednakże w pozwie Waltera, Walters przeciwko OpenAI LLC, pozwany twierdzi, że każdy fakt zawarty w podsumowaniu jest fałszywy.
Jak wynika z pozwu, Walters nigdy nie był stroną zaangażowaną w pozew, nigdy nie został oskarżony o defraudację i defraudację funduszy SAF i nigdy nie zajmował stanowiska skarbnika ani dyrektora finansowego.
Ponadto: Były dyrektor ByteDance twierdzi, że Chiny mogą uzyskać dostęp do danych użytkowników TikTok, nawet jeśli są one przechowywane na terenie USA
Walters domaga się od OpenAI odszkodowania w postaci zadośćuczynienia ogólnego i karnego, a także zwrotu wydatków poniesionych w trakcie procesu.
Pytania związane z pozwem dotyczą tego, kto powinien ponieść odpowiedzialność i czy zawarte w witrynie zastrzeżenia dotyczące halucynacji wystarczą, aby usunąć odpowiedzialność, nawet jeśli komuś wyrządzono krzywdę.
Wynik sprawy sądowej będzie miał znaczący wpływ na ustanowienie standardu w powstającej dziedzinie generatywnej sztucznej inteligencji.