Twórca ChatGPT OpenAI ma bezpłatne narzędzie, które może wykryć tekst napisany przez AI
OpenAI oferuje darmowe, ale "niedoskonałe" narzędzie do wykrywania tekstu generowanego przez sztuczną inteligencję i ma nadzieję, że wywoła debatę na temat umiejętności korzystania ze sztucznej inteligencji.
Twórca ChatGPT, OpenAI, wydał narzędzie "klasyfikatora", które może wykrywać tekst napisany przez sztuczną inteligencję, ale zauważa, że nie należy na nim polegać.
Szeroki zakres podpowiedzi, na które ChatGPT może tworzyć odpowiedzi, zaniepokoił nauczycieli, ponieważ niektórzy uczniowie zaczynają oddawać eseje i prace domowe generowane przez sztuczną inteligencję jako własne prace.
Edukacja to jedna z dziedzin, która może skorzystać z nowego klasyfikatora OpenAI, automatyzując wykrywanie esejów i prac domowych generowanych przez sztuczną inteligencję. Może to pozwolić na inną reakcję niż powiedzmy, ograniczając jego użycie, tak jak zrobiły to ostatnio nowojorskie szkoły. Wydziały szkolne w całej Australii również zakazały ChatGPT.
Klasyfikator może również pomóc firmom takim jak witryna z pytaniami i odpowiedziami dla programistów, Stack Overflow, która zablokowała odpowiedzi ChatGPT po tym, jak jej moderatorzy zostali zalani czasami poprawnymi rozwiązaniami.
Podczas gdy klasyfikator może wyeliminować niektóre prace związane z wykrywaniem, OpenAI twierdzi, że niemożliwe jest niezawodne wykrycie całego tekstu napisanego przez sztuczną inteligencję i istnieje szereg ograniczeń, które wpływają na jego skuteczność.
Klasyfikator poprawnie identyfikuje 26% tekstu napisanego przez sztuczną inteligencję jako "prawdopodobnie napisany przez sztuczną inteligencję" - jego prawdziwy pozytywny wskaźnik. W 9% przypadków błędnie identyfikuje tekst napisany przez człowieka jako napisany przez sztuczną inteligencję - jest to fałszywy alarm. Innymi słowy, istnieje dość duża szansa, że nie wykryje tekstu przesłanego przez człowieka, który nie ujawni, że został napisany przez sztuczną inteligencję, i pewna szansa, że błędnie oznaczy tekst w obie strony. Twierdzi jednak, że klasyfikator jest "znacznie bardziej niezawodny w przypadku tekstu z nowszych systemów sztucznej inteligencji" niż jego poprzedni detektor oparty na GPT-2.
"Udostępniamy ten klasyfikator publicznie, aby uzyskać informacje zwrotne na temat tego, czy niedoskonałe narzędzia, takie jak to, są przydatne" - powiedział OpenAI w komunikacie prasowym, dodając, że ma nadzieję, że narzędzie "wywoła dyskusje na temat umiejętności korzystania ze sztucznej inteligencji".
Bezpłatne narzędzie do klasyfikowania stron internetowych jest dostępne tutaj. Aby z niego skorzystać, użytkownicy muszą skopiować i wkleić fragment tekstu w polu tekstowym, a następnie nacisnąć przycisk Prześlij. Tekst zostanie oceniony jako "bardzo mało prawdopodobny", "mało prawdopodobny", "niejasne, czy jest", "prawdopodobnie" lub "prawdopodobnie" wygenerowany przez sztuczną inteligencję.
Klasyfikator potrzebuje co najmniej 1000 znaków - około 150 do 250 słów - do analizy tekstu. OpenAI ostrzega, że łatwo jest edytować tekst generowany przez sztuczną inteligencję, aby uniknąć programów wykrywających. Ponadto narzędzie jest bardziej podatne na błędne oznaczanie tekstu napisanego przez dzieci i tekstu w języku innym niż angielski, ponieważ zostało przeszkolone głównie na angielskich treściach napisanych przez dorosłych.
Ponadto OpenAI twierdzi, że "nie oceniło dokładnie skuteczności klasyfikatora w wykrywaniu treści napisanych we współpracy z ludzkimi autorami".
Czytamy w nim, że narzędzie to "nie powinno być używane jako podstawowe narzędzie do podejmowania decyzji", ale jako uzupełnienie innych metod określania źródła tekstu.