CEO Google przyznaje, że funkcja AI Overview ma problem z "halucynacjami".

Niedawno wprowadzona przez Google funkcja AI Overview, zaprojektowana w celu dostarczania podsumowań na górze stron wyników wyszukiwania, została skrytykowana za rozpowszechnianie nieprawidłowych i dziwnych informacji. W niedawnym wywiadzie dyrektor generalny Google Sundar Pichai przyznał, że istnieje poważny problem z nową funkcją AI Overview, która ma na celu dostarczanie krótkich podsumowań na górze wyników wyszukiwania.

Co wiadomo

Użytkownicy napotkali niedokładne, a czasem absurdalne informacje dostarczane przez tę funkcję. Przykłady obejmują porady dotyczące używania kleju do mocowania sera na pizzy i przypisywanie ekspertom fałszywych twierdzeń. Pichai wyjaśnił, że takie "halucynacje" są wynikiem błędów w dużych modelach językowych wykorzystywanych w AI Overview. Pomimo wysiłków inżynierów Google, problem pozostaje nierozwiązany, ale Pichai twierdzi, że funkcja może być nadal przydatna i odnotował poprawę dokładności w porównaniu do ubiegłego roku.

Krytyka ze strony użytkowników i ekspertów, takich jak konsultantka AI Britney Mueller, podkreśliła wysokie oczekiwania co do dokładności AI i ryzyko związane z jej przedwczesnym wdrożeniem. Błędy AI Overview wywołały niezadowolenie w Internecie i mogą podważyć wiarygodność wyszukiwarki Google.

Podsumowując, pomimo optymizmu Pichai, trwające błędy podkreślają potrzebę dalszych ulepszeń AI i znaczenie zrównoważenia innowacji z zaufaniem użytkowników. Poprawa dokładności i niezawodności sztucznej inteligencji pozostaje priorytetem, aby zapobiec rozprzestrzenianiu się dezinformacji.

Źródło: ITHome