Nowy model sztucznej inteligencji Google PaliGemma 2 może identyfikować emocje, ale eksperci są zaniepokojeni jego działaniem.

Google ogłosiło nowy model sztucznej inteligencji, PaliGemma 2, który potrafi rozpoznawać emocje na obrazach.

Co wiadomo

Model ten analizuje zdjęcia i tworzy szczegółowe opisy, w tym działania, emocje i ogólny kontekst sceny. Eksperci są jednak zaniepokojeni możliwymi konsekwencjami korzystania z takiej technologii. Uważają, że rozpoznawanie emocji jest trudne, ponieważ ludzie wyrażają swoje uczucia w różny sposób, w zależności od kontekstu kulturowego i osobistego.

Niektóre badania pokazują, że systemy rozpoznawania emocji mogą być zawodne i stronnicze. Google twierdzi, że przeprowadził szeroko zakrojone testy w celu oceny uprzedzeń demograficznych w PaliGemma 2 i stwierdził niski poziom toksyczności i wulgaryzmów w porównaniu ze standardami branżowymi.

Firma nie ujawniła jednak pełnej listy zastosowanych wzorców ani rodzajów przeprowadzonych testów. Eksperci ostrzegają, że korzystanie z takich technologii może prowadzić do dyskryminacji i innych negatywnych konsekwencji.

Źródło: techcrunch