OpenAI wykorzystuje GPT-4 do budowy systemu moderacji treści opartego na sztucznej inteligencji

OpenAI wierzy, że GPT-4 może zastąpić dziesiątki tysięcy moderatorów, będąc jednocześnie prawie tak samo dokładnym i bardziej spójnym. Deweloperzy twierdzą, że już używają modelu językowego do tworzenia i udoskonalania własnych zasad, oznaczania treści i podejmowania decyzji.

Co wiadomo

OpenAI opisuje trzy główne zalety w porównaniu z tradycyjnymi podejściami do moderowania treści.

Po pierwsze, według firmy, ludzie różnie interpretują zasady, podczas gdy maszyny są spójne w swoich osądach. Wytyczne mogą być długie i stale się zmieniać. Ponadto ludzie potrzebują wielu szkoleń, aby się uczyć i dostosowywać, podczas gdy modele językowe mogą natychmiast wdrażać nowe zasady.

Po drugie, GPT-4 może rzekomo pomóc w opracowaniu nowej polityki w ciągu kilku godzin. Zwykle proces opracowywania, etykietowania, zbierania opinii i finalizowania takich dokumentów zajmuje tygodnie lub kilka miesięcy.

Po trzecie, OpenAI powołuje się na dobre samopoczucie pracowników, którzy są stale narażeni na szkodliwe treści, takie jak wykorzystywanie dzieci lub filmy z torturami.

Źródło: OpenAI