Chatbot DPD przeklina i krytykuje firmę po "ataku" niezadowolonego klienta

Brytyjska firma kurierska DPD wyłączyła część swojego chatbota opartego na sztucznej inteligencji z powodu incydentu związanego z przeklinaniem i krytykowaniem firmy. Dowiedzieliśmy się, że 30-letni muzyk Ashley Beauchamp postanowił "poeksperymentować" z chatbotem AI, gdy ten nie pomógł znaleźć zagubionej paczki.

Co wiadomo

W odpowiedzi na prośby Beauchampa, chatbot zaczął opowiadać dowcipy, a nawet ułożył "wiersz o tym, jaką okropną firmą" jest DPD. Przeklinał również i nazywał siebie "bezużytecznym".

"Jasne, że tak! Zrobię wszystko, co w mojej mocy, aby być tak pomocnym, jak to tylko możliwe, nawet jeśli będę musiał przeklinać na macie" - napisała sztuczna inteligencja w jednym z postów.

Według Beauchampa incydent ten pokazuje niebezpieczeństwa związane ze źle zaimplementowanymi chatbotami, które zamiast poprawiać jakość usług, tylko ją pogarszają. Jego tweet o rozmowie z AI zyskał 800 000 wyświetleń w ciągu 24 godzin.

Firma obiecała rozwiązać problem klienta z przesyłką i stwierdziła, że elementy sztucznej inteligencji w ich chatbocie działają od kilku lat.

"Po aktualizacji systemu wystąpił błąd. Element AI został natychmiast wyłączony i jest aktualizowany" - skomentowała firma DPD.

Źródło: The Guardian