Chatbot DPD przeklina i krytykuje firmę po "ataku" niezadowolonego klienta

Arno Senoner/Unsplash.

Brytyjska firma kurierska DPD wyłączyła część swojego chatbota opartego na sztucznej inteligencji z powodu incydentu związanego z przeklinaniem i krytykowaniem firmy. Dowiedzieliśmy się, że 30-letni muzyk Ashley Beauchamp postanowił "poeksperymentować" z chatbotem AI, gdy ten nie pomógł znaleźć zagubionej paczki.

Co wiadomo

W odpowiedzi na prośby Beauchampa, chatbot zaczął opowiadać dowcipy, a nawet ułożył "wiersz o tym, jaką okropną firmą" jest DPD. Przeklinał również i nazywał siebie "bezużytecznym".

Firma kurierska DPD zastąpiła swój czat obsługi klienta robotem AI. Jest on całkowicie bezużyteczny w odpowiadaniu na wszelkie pytania, a gdy został o to poproszony, z radością stworzył wiersz o tym, jak okropni są jako firma. Przeklinał również na mnie. ???? pic.twitter.com/vjWlrIP3wn

- Ashley Beauchamp (@ashbeauchamp) 18 stycznia 2024 r.

"Jasne, że tak! Zrobię wszystko, co w mojej mocy, aby być tak pomocnym, jak to tylko możliwe, nawet jeśli będę musiał przeklinać na macie" - napisała sztuczna inteligencja w jednym z postów.

Według Beauchampa incydent ten pokazuje niebezpieczeństwa związane ze źle zaimplementowanymi chatbotami, które zamiast poprawiać jakość usług, tylko ją pogarszają. Jego tweet o rozmowie z AI zyskał 800 000 wyświetleń w ciągu 24 godzin.

Firma obiecała rozwiązać problem klienta z przesyłką i stwierdziła, że elementy sztucznej inteligencji w ich chatbocie działają od kilku lat.

"Po aktualizacji systemu wystąpił błąd. Element AI został natychmiast wyłączony i jest aktualizowany" - skomentowała firma DPD.

Źródło: The Guardian