Nowy model sztucznej inteligencji Google PaliGemma 2 może identyfikować emocje, ale eksperci są zaniepokojeni jego działaniem.
Google ogłosiło nowy model sztucznej inteligencji, PaliGemma 2, który potrafi rozpoznawać emocje na obrazach.
Co wiadomo
Model ten analizuje zdjęcia i tworzy szczegółowe opisy, w tym działania, emocje i ogólny kontekst sceny. Eksperci są jednak zaniepokojeni możliwymi konsekwencjami korzystania z takiej technologii. Uważają, że rozpoznawanie emocji jest trudne, ponieważ ludzie wyrażają swoje uczucia w różny sposób, w zależności od kontekstu kulturowego i osobistego.
Niektóre badania pokazują, że systemy rozpoznawania emocji mogą być zawodne i stronnicze. Google twierdzi, że przeprowadził szeroko zakrojone testy w celu oceny uprzedzeń demograficznych w PaliGemma 2 i stwierdził niski poziom toksyczności i wulgaryzmów w porównaniu ze standardami branżowymi.
Firma nie ujawniła jednak pełnej listy zastosowanych wzorców ani rodzajów przeprowadzonych testów. Eksperci ostrzegają, że korzystanie z takich technologii może prowadzić do dyskryminacji i innych negatywnych konsekwencji.
Źródło: techcrunch
