ElevenLabs zablokowało konto, które sfałszowało głos Bidena, aby wprowadzić wyborców w błąd.
Gage Skidmore/Flickr
ElevenLabs, firma AI specjalizująca się w klonowaniu głosu, zablokowała konto, z którego stworzono fałszywe nagrania audio głosu prezydenta USA Joe Bidena.
Co wiadomo
Nagrania zostały wykorzystane w przedwyborczych rozmowach telefonicznych z wyborcami w celu dezinformacji i stłumienia frekwencji. Ekspertyza Pindrop potwierdziła, że to technologia ElevenLabs została wykorzystana do naśladowania głosu Bidena.
Firma oświadczyła, że bada ten incydent i nie będzie tolerować wykorzystywania jej narzędzi sztucznej inteligencji do nielegalnych celów. Eksperci zauważają jednak, że startupy działające w dziedzinie generowania treści muszą być bardziej aktywne w zwalczaniu nadużyć.
Według ekspertów ten incydent to tylko wierzchołek góry lodowej. Fałszerstwa oparte na głębokiej sztucznej inteligencji mogą stać się poważnym zagrożeniem dla procesów demokratycznych, w tym nadchodzących wyborów prezydenckich w USA.
Dla tych, którzy chcą wiedzieć więcej:
Źródło: Engadget