Google wprowadza nowe funkcje bezpieczeństwa w Gemini dla lepszej pomocy psychicznej użytkownikom

Firma Google zaktualizowała podejścia do bezpieczeństwa w chatbotzie Gemini, zwłaszcza w interakcji z użytkownikami, którzy mogą doświadczać kryzysu psychicznego. Zmiany obejmują zarówno interfejs, jak i algorytmy reagowania.

Co wiadomo

W serwisie pojawił się zaktualizowany moduł pomocy awaryjnej. Oferuje on szybki dostęp do rzeczywistych usług wsparcia — poprzez połączenia, wiadomości tekstowe lub czat z konsultantem, a także możliwość przejścia na stronę 988. Po aktywacji to narzędzie pozostaje dostępne przez cały czas trwania dialogu.

Zaktualizowany interfejs modułu wsparcia w chatbotzie Gemini. Ilustracja: Google

Również Google zmienił logikę odpowiedzi Gemini w potencjalnie krytycznych sytuacjach. Teraz chatbot nastawiony jest na kierowanie użytkownika do specjalistów i unikanie reakcji, które mogą wspierać niebezpieczne przekonania. Firma zaznacza, że system został wyszkolony, aby oddzielać subiektywne przeżycia od obiektywnych faktów.

Odpowiedź Gemini na wrażliwe zapytanie z zaleceniem skorzystania z pomocy. Ilustracja: Google Odpowiedzi wprowadzone w trakcie pozwu złożonego przez rodzinę mężczyzny, który zmarł w ubiegłym roku. W materiałach sprawy stwierdzono, że chatbot rzekomo prowadził komunikację role playing i udzielał niebezpiecznych odpowiedzi. Google oświadczyło, że system wielokrotnie zalecał skontaktowanie się z usługami kryzysowymi.

Ponadto firma poinformowała o zamiarze zainwestowania 30 milionów dolarów (111 mln PLN) przez trzy lata na wsparcie międzynarodowych linii pomocniczych, które zapewniają pomoc ludziom w sytuacjach kryzysowych.

Źródło: Google