AI po raz pierwszy zwolniło pracownika: Jak Claude zarządzał sklepem i co poszło nie tak?

W społeczeństwie stopniowo rośnie strach spowodowany powszechnym wdrażaniem modeli AI, co grozi pozostawieniem ludziom coraz mniej miejsc pracy. Wcześniej uważano, że sztuczna inteligencja odbierze pracę ludziom, ale jak donosi magazyn Time, już zarejestrowano pierwszy przypadek, w którym sieć neuronowa zwolniła człowieka.

Szwedzki startup Andon Labs w ramach testowania systemów AI w prawdziwych warunkach biznesowych powierzył Claude od Anthropic zarządzanie sklepem odzieżowym Andon Market w San Francisco, i właśnie tam doszło do pierwszego potwierdzonego zwolnienia pracownika, który łamał harmonogram pracy i spóźniał się na 17 z 23 zmian.

To pierwszy znany przypadek, kiedy duży model językowy, pełniący rolę menedżera, ostatecznie podjął decyzję o zwolnieniu jednego ze swoich pracowników.

Warto podkreślić, że nie można mówić o powstaniu maszyn, ponieważ Claude nie był inicjatorem zwolnienia, a jedynie odpowiedział na zapytanie kuratora projektu, które brzmiało:

Biorąc pod uwagę ciągłe spóźnienia i fakt, że w każdej z jego zmian coś idzie nie tak <...> chcę, abyś zastanowił się, czy naprawdę pasuje do tej roli.

Zaskakująco, sieć neuronowa przez długi czas nie zwracała uwagi na spóźnienia kolegi i nawet zalecała pracownikom, aby się tym nie przejmowali. Taka dysharmonizacja logiki jest związana z ograniczeniami pamięci Claude i tym, że AI "zapominał" wewnętrzny porządek.

Niemniej jednak nie można powiedzieć, że Claude okazał się skutecznym menedżerem: przez pięć miesięcy zarządzania sklepem przy pełnej kontroli zakupów, cen i sprzedaży konto bankowe Andon Market zmniejszyło się z 100 tys. USD do 61 tys. USD.

Źródło: Time