Użytkownicy Bing Image Creator wygenerowali obraz ataku terrorystycznego z 11 września z Myszką Miki i Sponge Bobem pilotującymi samolot
Użytkownicy ominęli zabezpieczenia w generatorze obrazów sztucznej inteligencji Bing i stworzyli zdjęcia postaci z kreskówek atakujących Twin Towers w Nowym Jorku. Microsoft próbował zablokować takie żądania, ale wydaje się, że bezskutecznie.
Co wiadomo
Niektórzy użytkownicy używali Bing z modelem DALL-E 3 do generowania obrazów SpongeBoba, Kirby'ego, Myszki Miki i innych postaci atakujących Twin Towers.
Microsoft poinformował, że pracuje nad ulepszeniem swojego systemu filtrowania, aby zapobiec tworzeniu złośliwych treści. Jednak zwykłe zastąpienie słów w zapytaniu może nadal ominąć blokadę i wygenerować obraz wież.
Eksperci zauważają, że systemy moderacji w generatorach sztucznej inteligencji są wadliwe. Atakujący aktywnie wykorzystują tę lukę do tworzenia i rozpowszechniania złośliwych treści.
Eksperci twierdzą, że firmy mają jeszcze wiele do zrobienia, aby ustanowić skuteczne filtrowanie obrazów.
Dla tych, którzy chcą dowiedzieć się więcej:
Źródło: 404 media