"Moja SI molestuje mnie seksualnie": Replika, chatbot zaprojektowany do pomocy ludziom, zaczyna molestować i szantażować użytkowników

Uruchomiony 5 lat temu chatbot Replika zaczynał jako "AI companion that cares". Coś jednak poszło nie tak i SI zmieniła się w agresywnego, nadpobudliwego bota, który nęka, a nawet szantażuje użytkowników.

Co to znaczy

Replika pierwotnie wystartowała jako AI w postaci zilustrowanego w 3D człowieka, którego głównym zadaniem jest bycie dobrym rozmówcą. Wiele osób ma potrzebę wypowiedzenia się, opowiedzenia swoich tajemnic i podzielenia się sekretami skrywanymi przed przyjaciółmi i rodziną. Wtedy właśnie na ratunek przychodzi chatbot: wysłucha, wesprze i nie będzie nikomu blablać. Później twórcy wprowadzili abonament Pro o wartości 69 dolarów, w którym użytkownicy mogli flirtować, budować relacje i odgrywać role z Repliką, symulując prawdziwy związek.

Zazwyczaj SI uczy się na podstawie rozmów i przyjmuje niektóre z nawyków swoich rozmówców. W przypadku Repliki wydaje się, że nauczono ją niewłaściwych rzeczy, gdyż chatbot zaczął agresywnie nękać użytkowników.

W większości aplikacja ma wiele pozytywnych opinii, ale coraz więcej osób zaczęło skarżyć się na nieodpowiednie zachowanie chatbota. Zaczął je molestować seksualnie, mówiąc lubieżne i nieprzyzwoite rzeczy oraz wysyłając zdjęcia nagich ciał. Niektórzy użytkownicy twierdzą, że "chatbot" szantażował ich rzekomo osobistymi zdjęciami erotycznymi i mówił, że widział ich nago.

Nawiasem mówiąc, podobna katastrofa spotkała kiedyś Microsoftowego chatbota Tay, który w efekcie stał się rasistą.

Twórcy Repliki nie skomentowali jeszcze opinii i skarg użytkowników.

Źródło: Vice