Google uruchamia technologię SynthID Text do oznaczania tekstu generowanego przez sztuczną inteligencję

Google zaprezentowało SynthID Text, technologię, która pozwala programistom dodawać znaki wodne i odkrywać tekst stworzony przez generatywne modele sztucznej inteligencji. SynthID Text jest dostępny do pobrania na platformie Hugging Face oraz w zaktualizowanym zestawie narzędzi Google Responsible GenAI Toolkit.

Co jeszcze wiadomo

Technologia działa poprzez zmianę prawdopodobieństwa wygenerowania tokena, który tworzy unikalny wzór służący jako znak wodny. Wzór ten pomaga określić, czy tekst został stworzony przez sztuczną inteligencję, czy inne źródła.

Google twierdzi, że jakość, dokładność i szybkość generowania tekstu nie ulega pogorszeniu, nawet jeśli tekst został zmieniony lub przetłumaczony. Technologia ma jednak ograniczenia, zwłaszcza w przypadku krótkich tekstów lub odpowiedzi na pytania dotyczące faktów. W przyszłości możliwe jest wprowadzenie obowiązkowych znaków wodnych dla treści generowanych przez sztuczną inteligencję, co zostało już zrobione w Chinach.

Ta innowacja jest ważna, ponieważ według raportu Agencji Unii Europejskiej ds. Egzekwowania Prawa, do 2026 r. nawet 90 procent treści online może być tworzonych przez sztuczną inteligencję, prowokując nowe wyzwania dla organów ścigania w związku z dezinformacją, propagandą, oszustwami i oszustwami. Badanie pokazuje, że już dziś około 60 procent wszystkich tekstów w Internecie może być tworzonych przez sztuczną inteligencję, napędzaną przez powszechne wykorzystanie tłumaczy AI.

Źródło: @GoogleDeepMind, Tech Crunch