Magazyn science fiction wstrzymuje nadsyłanie nowych artykułów po gwałtownym wzroście liczby artykułów napisanych przez sztuczną inteligencję
Fikcja generowana przez sztuczną inteligencję szybko stała się problemem dla magazynów gatunkowych.
Magazyn science-fiction i fantasy Clarkesworld został zmuszony tymczasowo zawiesić przyjmowanie nowych zgłoszeń po otrzymaniu zalewu historii generowanych przez sztuczną inteligencję.
Założyciel Clarkesworld, Neil Clarke, szczegółowo opisuje sytuację witryny związaną z wykrywaniem plagiatów i historii generowanych przez sztuczną inteligencję. Problemy zaczęły się już na początku pandemii. W 2020 r. konsekwentnie wykrywał mniej niż 25 zgłoszeń miesięcznie, głównie wspomaganych komputerowo.
W szczegółach: Ci eksperci ścigają się, by chronić sztuczną inteligencję przed hakerami. Czas ucieka
Niewielki wzrost nastąpił, gdy OpenAI wypuściło ChatGPT pod koniec listopada. Liczba zgłoszeń będących plagiatami lub wygenerowanych przez sztuczną inteligencję wzrosła w grudniu do 50 miesięcznie, a następnie podwoiła się do ponad 100 w styczniu, a następnie ponad trzykrotnie do ponad 350 do połowy lutego. Krótko po ogłoszeniu przez Clarke’a zawieszenia nowych zgłoszeń nastąpił kolejny wzrost, w wyniku którego do 20 lutego liczba wykrytych przestępstw przekroczyła 500.
Ogłaszając swoją decyzję, Clarke podaje, że w lutym odsetek wykrytych spamów osiągnął 38%.
Nie tylko wydawcy czasopism odnotowali wzrost liczby zgłoszeń generowanych przez sztuczną inteligencję. We wtorek agencja Reuters podała, że według stanu na połowę lutego w sklepie Amazon Kindle znajdowało się ponad 200 e-booków generowanych przez sztuczną inteligencję i tylko one faktycznie ujawniły, że ChatGPT OpenAI jest autorem lub współautorem. Materiały wygenerowane przez sztuczną inteligencję obejmowały beletrystykę, poradniki i ilustrowane książki dla dzieci.
Prawdopodobnie istnieje więcej takich, które nie ujawniają roli ChatGPT, ponieważ Amazon nie wymaga od autorów ujawniania, czy prace wygenerowane przez sztuczną inteligencję są publikowane za pośrednictwem jednostki wydawniczej Kindle Direct Publishing firmy Amazon.
Mary Rasenberger, dyrektor wykonawcza grupy pisarzy Authors Guild, powiedziała agencji Reuters, że pisanie ludzkich duchów ma długą tradycję, ale argumentowała, że autorzy i platformy powinny zachować przejrzystość w zakresie sposobu tworzenia tych książek.
Rzeczniczka Amazona powiedziała Reuterowi, że wszystkie książki w sklepie muszą być zgodne z wytycznymi dotyczącymi treści, które obejmują prawa własności intelektualnej i inne obowiązujące przepisy.
Clarkesworld ma politykę dotyczącą historii pisanych przez sztuczną inteligencję: „W tej chwili nie rozważamy historii napisanych, współautorów lub wspomaganych przez sztuczną inteligencję”.
„Nasze wytyczne już stanowią, że nie chcemy dzieł pisanych lub wspomaganych przez sztuczną inteligencję. Nie obchodzi ich to. Pole wyboru w formularzu ich nie powstrzyma. Po prostu kłamią” - napisał na Twitterze.
6. Our guidelines already state that we don't want "AI" written or assisted works. They don't care. A checkbox on a form won't stop them. They just lie.
— clarkesworld (@clarkesworld) February 21, 2023
Clarke przyznał, że dostępne są narzędzia do wykrywania plagiatu i tekstu pisanego maszynowo, zauważył jednak, że są one podatne na fałszywie negatywne i pozytywne wyniki.
OpenAI udostępniło niedawno bezpłatne narzędzie klasyfikujące do wykrywania tekstu generowanego przez sztuczną inteligencję, ale zauważyło również, że jest ono „niedoskonałe” i nadal nie wiadomo, czy jest rzeczywiście przydatne. Klasyfikator poprawnie identyfikuje 26% tekstu napisanego przez sztuczną inteligencję jako „prawdopodobnie napisany przez sztuczną inteligencję” - jest to prawdziwy odsetek dodatni. W 9% przypadków błędnie identyfikuje tekst napisany przez człowieka jako napisany przez sztuczną inteligencję - co jest wynikiem fałszywie pozytywnym.
Clarke przedstawia szereg podejść, które wydawcy mogą zastosować poza wdrażaniem narzędzi do wykrywania innych firm, na które jego zdaniem nie stać obecnie większości rynków krótkich opowiadań. Inne techniki mogą obejmować blokowanie zgłoszeń za pośrednictwem sieci VPN lub blokowanie zgłoszeń z regionów powiązanych z większym odsetkiem fałszywych zgłoszeń.
„To nie zniknie samo z siebie i nie mam rozwiązania. Majstruję przy niektórych, ale to nie jest gra w walnięcie kreta, którą każdy może „wygrać”. Najlepsze, co możemy możemy mieć nadzieję, to zgromadzić wystarczającą ilość wody, aby utrzymać się na powierzchni” - napisał Clarke.
„Jeśli w terenie nie uda się znaleźć sposobu, aby zaradzić tej sytuacji, sytuacja zacznie się psuć. Czasy reakcji będą się skracać, a ja nawet nie chcę myśleć, co stanie się z moimi kolegami, którzy przekazują opinie na temat zgłoszeń. Nie, to nie jest śmierć krótkich opowiadań (proszę, przestańcie wypisywać takie bzdury), ale to skomplikuje sprawę”.