Meta i Qualcomm łączą siły, aby uruchomić duże modele językowe na telefonach

Qualcomm i Meta ogłosiły, że od 2024 r. model języka Llama 2 na dużą skalę będzie działał na chipach Qualcomm w telefonach i komputerach.

Co wiadomo

Uruchomienie modeli językowych na procesorach mobilnych pozwoli aplikacjom AI, takim jak asystenci głosowi, działać bezpośrednio na urządzeniach zamiast w chmurze. Może to obniżyć koszty i poprawić wydajność takich systemów.

Llama 2 to model open source, który robi to samo, co GPT-4 lub PaLM-2. Jednocześnie można go spakować w mniejszą aplikację do uruchomienia na telefonie. Qualcomm udostępni go na swoich urządzeniach, które mają dedykowany procesor dla sztucznej inteligencji.

Firmy ściśle współpracowały w przeszłości nad chipami wirtualnej rzeczywistości. Qualcomm zademonstrował również niektóre modele sztucznej inteligencji na swoich procesorach, takie jak generator obrazu Stable Diffusion.

Dla tych, którzy chcą dowiedzieć się więcej:

• Meta i Microsoft wydały Llama 2, model języka sztucznej inteligencji do użytku komercyjnego.

Źródło: CNBC.