Dwuosobowy zespół w Hugging Face opracowuje modele AI podobne do ChatGPT

Startup Hugging Face utworzył zespół H4 składający się z dwóch programistów, aby budować chatboty w oparciu o modele AI typu open source.

Co wiadomo

Według inżyniera Lewisa Tunstalla, po wydaniu ChatGPT zaczęli eksperymentować z wykorzystaniem bibliotek i modeli open source do replikacji takiej funkcjonalności. Głównym celem H4 jest szkolenie modeli do interakcji z ludźmi.

Zespół zaprezentował już kilka dopracowanych modeli językowych, w tym Zephyr-7B-α i Falcon-40B. Do ich trenowania wykorzystywany jest klaster ponad 1000 kart graficznych Nvidia A100.

H4 bada również techniki dopasowywania modeli i tworzy narzędzia do ich testowania.

H4 celowo pozostaje mały, aby być elastycznym i dostosowywać się do szybko zmieniającego się krajobrazu sztucznej inteligencji. W tym celu współpracuje z innymi grupami badawczymi Hugging Face.

Zespół dąży do wzmocnienia społeczności open source AI poprzez udostępnianie kodu i danych do trenowania modeli czatu. Deweloperzy zauważyli, że komercjalizacja ich pracy nie jest celem H4.

Źródło: TechCrunch