NIST uruchamia program mający na celu porównywanie technologii generatywnej sztucznej inteligencji i identyfikację treści generowanych przez sztuczną inteligencję

W ramach programu spróbujemy ustalić, czy treści są generowane przez sztuczną inteligencję, czy przez ludzi, i promować technologię sztucznej inteligencji, która stanowi dobro netto dla społeczeństwa.

Narodowy Instytut Standardów i Technologii (NIST) Departamentu Handlu Stanów Zjednoczonych uruchomił nowy program, którego celem jest analiza generatywnej sztucznej inteligencji i określenie, w jaki sposób Stany Zjednoczone mogą bezpiecznie korzystać z tej technologii, nie dając się zwieść treściom generowanym przez sztuczną inteligencję.

Dział Departamentu Handlu zajmujący się analizą i oceną możliwości i zagrożeń technologicznych nazywa swój nowy program NIST GenAI. Agencja planuje stworzyć testy porównawcze GenAI, określić sposoby ustalania, czy treści są generowane przez człowieka, czy sztuczną inteligencję, a docelowo promować rozwój technologii sztucznej inteligencji, które będą dobre dla społeczeństwa jako całości. NIST nie powiedział, które technologie sztucznej inteligencji będzie oceniał, ale stwierdził, że planuje zająć się modelami sztucznej inteligencji opracowanymi „na całym świecie”.

„Badanie pilotażowe ma na celu zmierzenie i zrozumienie zachowania systemu w celu rozróżnienia treści syntetycznych od treści generowanych przez człowieka w trybie zamiany tekstu na tekst (T2T) i tekstu na obraz (T2I)” - stwierdziła agencja w oświadczeniu. „Ten pilotaż dotyczy pytania badawczego, w jaki sposób treści ludzkie różnią się od treści syntetycznych i w jaki sposób wyniki oceny mogą pomóc użytkownikom w rozróżnieniu między nimi”.

Oświadczenie NIST następuje sześć miesięcy po wydaniu przez prezydenta USA Joe Bidena rozporządzenia wykonawczego wymagającego od wszystkich podmiotów rządowych USA opracowania bezpiecznych strategii sztucznej inteligencji. NIST powiedział, że w tym czasie opracował cztery publikacje dotyczące sztucznej inteligencji, w tym dotyczące ograniczania zagrożeń związanych ze sztuczną inteligencją i tworzenia globalnych standardów dotyczących sztucznej inteligencji, z których mogą korzystać rządy i korporacje na całym świecie.

Tymczasem NIST GenAI koncentruje się szczególnie na początkach syntetycznej sztucznej inteligencji, czyli obrazów i treści tworzonych przez modele sztucznej inteligencji, a nie ludzi. NIST umożliwia zespołom badaczy ubieganie się o dołączenie do ocen NIST GenAI w charakterze „generatora” lub „różnicy”. Ta pierwsza grupa będzie miała za zadanie przetestować, jak dobrze ich systemy sztucznej inteligencji mogą „generować treści syntetyczne, których nie można odróżnić od treści wytwarzanych przez człowieka”. Grupy dyskryminatorów zostaną „przetestowane pod kątem zdolności ich systemów do wykrywania treści syntetycznych tworzonych przez duże modele językowe (LLM) i generatywne modele sztucznej inteligencji”.

Wysiłki NIST mające na celu wykrycie syntetycznej sztucznej inteligencji koncentrują się również na tym, jak takie treści mogą wpłynąć na patenty, wynalazki ludzkie i przemysł na całym świecie. Agencja ma wątpliwości, czy treści generowane przez sztuczną inteligencję mogą, a nawet powinny być, opatentowane i chronione amerykańskim prawem własności intelektualnej.

„Ponieważ sztuczna inteligencja odgrywa coraz większą rolę w innowacjach, musimy zachęcać do odpowiedzialnego i bezpiecznego wykorzystywania sztucznej inteligencji do rozwiązywania problemów lokalnych i światowych oraz do rozwijania miejsc pracy i gałęzi przemysłu w przyszłości, dbając jednocześnie o to, aby sztuczna inteligencja nie wykoleiła kluczowej roli, jaką IP odgrywa w zachęcaniu do ludzkiej pomysłowości i inwestycji” - stwierdziła w oświadczeniu podsekretarz handlu ds. własności intelektualnej Kathi Vidal.

NIST planuje etapowe wdrażanie NIST GenAi. Agencja podała, że rozpocznie przyjmowanie zgłoszeń zespołów do programu w maju 2024 r., a pierwszą turę testów zakończy w sierpniu 2024 r. Agencja nie podała, jakimi innymi kwestiami związanymi ze sztuczną inteligencją zajmie się w kolejnych rundach.