Sztuczna inteligencja nauczyła się fałszować głosy, aby oszukać systemy uwierzytelniania.

Naukowcy z University of Waterloo w Kanadzie opracowali metodę fałszowania głosu przy użyciu sztucznej inteligencji, która pozwala ominąć uwierzytelnianie głosowe.

Co wiemy

Uwierzytelnianie głosu opiera się na unikalności głosu każdej osoby. Wpływają na to cechy fizyczne, takie jak rozmiar i kształt strun głosowych i krtani, a także czynniki społeczne.

Systemy uwierzytelniania wychwytują niuanse w odciskach głosu. Sztuczna inteligencja może już dość realistycznie naśladować ludzką mowę, ale algorytmy mają charakterystyczne artefakty, które analitycy mogą wykorzystać do identyfikacji podróbki.

Technika opracowana przez naukowców ma na celu wyeliminowanie tych cech. Pomysł polega na "wygrawerowaniu" odcisku głosu użytkownika w fałszywym nagraniu.

"Nasz przeciwstawny mechanizm próbuje usunąć artefakty maszynowe, które są powszechne w tych próbkach" - czytamy w artykule.

Naukowcy wytrenowali system na próbkach mowy od 107 mówców, aby lepiej zrozumieć, co sprawia, że mowa brzmi jak ludzka. Aby przetestować algorytm, stworzyli kilka próbek w celu oszukania systemów uwierzytelniania. W przypadku niektórych słabych systemów osiągnęli 99% po sześciu próbach.

Jednak silniejsze systemy uwierzytelniające okazały się bardziej niezawodne. W teście przeciwko Amazon Connect naukowcy osiągnęli 10% skuteczności w czterosekundowym ataku i 40% w mniej niż 30 sekund.

Naukowcy zauważyli również, że atakujący potrzebują próbki głosu ofiary i odpowiednich umiejętności technicznych do przeprowadzenia ataku. Jest to dość wysoka bariera, ale wezwali twórców systemów uwierzytelniania do pracy nad poprawą bezpieczeństwa swoich technologii.

Źródło: The Register.