Anthropic wprowadza wodne znaki do tekstów Claude – jak to działa i co to oznacza?

Anthropic opowiedziała, jak będą działać znaki wodne w tekstach stworzonych przez chatbota Claude. Firma wyjaśniła zasadę oznaczania, możliwość usunięcia podczas edycji oraz specyfiki stosowania technologii do kodu programowego.

Co wiadomo

Znak wodny będzie tworzyć się poprzez wybór słów i sformułowań podczas generowania odpowiedzi. Na przykład, gdy do opisu tego samego zjawiska można użyć kilku wariantów słów, model dokona wyboru według określonego wzorca. Będzie to niewidoczne dla czytelnika, ale można to wykryć za pomocą specjalnego klucza.

Anthropic będzie używać podejścia SynthID-Text, które w 2024 roku opisał zespół Google DeepMind. Firma planuje również wydać API do wykrywania znaków wodnych.

Oznaczenie można usunąć poprzez całkowite przepisanie tekstu, zastępując wszystkie słowa. Według danych Anthropic, podczas drobnej edycji znak wodny może pozostać. Jeśli Claude tylko weryfikuje lub dokonuje drobnych edycji tekstu napisanego przez człowieka, oznaczanie będzie zależeć od długości tekstu i zakresu zmian wprowadzonych przez model.

Dla kodu programowego znak wodny będzie mniej wyraźny, ponieważ model ma ograniczone możliwości wyboru pomiędzy różnymi wariantami, jeśli kod ma spełniać określone zadanie. Jednocześnie technologię można stosować do komentarzy i innych części kodu, gdzie możliwy jest wybór między różnymi słowami.

Anthropic poinformowała, że znaki wodne będą wprowadzane nie tylko dla Claude. Inni duzi twórcy modeli również podpisali odpowiedni kodeks praktyki UE i planują korzystać z własnych systemów oznaczania treści AI.

Źródło: Anthropic