Władze stanu Illinois jako pierwsze w USA oficjalnie zakazały terapeutów AI

Stan Illinois stał się pierwszym w USA, gdzie oficjalnie zakazano używania sztucznej inteligencji w roli psychoterapeuty. Ustawę podpisał gubernator J.B. Pritzker, a ona wprost zabrania oferowania jakichkolwiek usług zdrowia psychicznego, jeśli z klientem rozmawia nie człowiek, a AI lub bot.

Co wiadomo

Pod ostrzałem znajdują się zarówno startupy promujące "tanie terapie 24/7" oparte na sieciach neuronowych, jak i duże platformy testujące automatycznych asystentów do wsparcia użytkowników. Teraz takie usługi są zobowiązane wyraźnie wskazywać, że użytkownik współpracuje nie z certyfikowanym specjalistą, a z programem. Naruszyciele mogą zostać ukarani grzywną.

Powód — bezpieczeństwo i ochrona wrażliwych użytkowników, zwłaszcza nastolatków. Ustawa ma również na celu zapobieganie fałszywemu poczuciu "pomocy", kiedy człowiek myśli, że rozmawia z profesjonalistą, a w rzeczywistości jest to algorytm bez odpowiedzialności i kompetencji.

Ten krok jest szczególnie wymowny w obliczu niedawno zapowiedzianego planu administracji Trumpa, która proponuje 10-letni federalny moratorium na regulację AI na poziomie poszczególnych stanów. Illinois w zasadzie rzuca wyzwanie tej idei, tworząc własny porządek w ochronie wrażliwych użytkowników.

Ustawa pojawiła się również w obliczu oświadczeń OpenAI, która ogłosiła testowanie możliwości swoich modeli do rozpoznawania oznak zaburzeń psychicznych. Firma obiecała również przerywać nieuzasadnione długie czaty, aby zmniejszyć obciążenie emocjonalne użytkowników. Wszystko to zwiększyło niepokój: czy maszyna może "przypadkowo" leczyć — i kto za to odpowiada?

Decyzja władz Illinois może stać się precedensem dla innych stanów i krajów, gdyż rynek AI-"terapii" gwałtownie rośnie. I nie bez kontrowersyjnych skutków.

Źródło: IDFPR