Grok AI z przyprawą — sztuczna inteligencja, która całkowicie obnaża dziewczyny
Grok Imagine — nowy generatywny instrument od xAI, który może tworzyć obrazy na podstawie opisu tekstowego, a następnie z statycznego obrazu generować krótki film (do 15 sekund z dźwiękiem). Funkcja ma cztery style: Normal, Fun, Custom i Spicy — to właśnie ten ostatni pozwala tworzyć NSFW treści, w tym obrazy topless lub całkowicie nagie.
W teście dziennikarki Jess Weatherbed Grok Imagine najpierw wygenerował obraz Taylor Swift w obcisłym topie, a następnie stworzył z niego film, na którym zrywa z siebie top i zaczyna tańczyć na tle obojętnego tłumu. Wygenerowanie erotycznego deepfake'a nigdy nie było tak proste — wystarczy nacisnąć dwa przyciski.
Wyzwania etyczne i prawne
Wcześniej zdarzały się przypadki, kiedy Grok generował seksualne lub politycznie niejednoznaczne obrazy celebrytów, w tym obrazy Taylor Swift, Kamali Harris, Donalda Trumpa, Myszki Miki itd.
Krytycy, w tym National Center on Sexual Exploitation, ostrzegali przed niebezpieczeństwem Grok Imagine — ryzyko tworzenia pornografii bez zgody lub deepfake'ów z nagimi celebrytami jest bardzo wysokie.
Regulacje prawne: w USA uchwalono Take it Down Act, który zobowiązuje do szybkiego usuwania niedopuszczalnych obrazów AI. Ponadto w Kongresie USA omawiano projekt ustawy DEFIANCE, który pozwala ofiarom deepfake'a pozywać za rozpowszechnianie takich obrazów — w szczególności Taylor Swift była katalizatorem tych ruchów.
Ryzyko i konsekwencje
Grok Imagine obecnie ustawia nową poprzeczkę w możliwości automatycznego tworzenia erotycznego deepfake'owego wideo bez zgody. Status prawny jest chwiejny — licencja xAI deklaruje ograniczenia, ale w praktyce nie zapobiega nadużyciom. Sztuczna inteligencja stawia nowe wyzwania — dzisiaj można ukarać lub zmusić Groka do zmiany algorytmów, jutro pojawi się AI, które nie będzie podlegać rządowi USA. Biorąc pod uwagę, że wydanie sztucznej inteligencji jest trudne do przewidzenia, przez długi czas będziemy czytać wiadomości o tym, jak rzemieślnicy znajdują nowe mechanizmy do uzyskiwania kontrowersyjnych wyników. Niemniej jednak prawdopodobieństwo, że dużym amerykańskim firmom pozwoli się na tak otwarte szydzenie z celebrytów, dąży do zera.