Meta i Qualcomm łączą siły, aby uruchomić duże modele językowe na telefonach
Qualcomm i Meta ogłosiły, że od 2024 r. model języka Llama 2 na dużą skalę będzie działał na chipach Qualcomm w telefonach i komputerach.
Co wiadomo
Uruchomienie modeli językowych na procesorach mobilnych pozwoli aplikacjom AI, takim jak asystenci głosowi, działać bezpośrednio na urządzeniach zamiast w chmurze. Może to obniżyć koszty i poprawić wydajność takich systemów.
Llama 2 to model open source, który robi to samo, co GPT-4 lub PaLM-2. Jednocześnie można go spakować w mniejszą aplikację do uruchomienia na telefonie. Qualcomm udostępni go na swoich urządzeniach, które mają dedykowany procesor dla sztucznej inteligencji.
Firmy ściśle współpracowały w przeszłości nad chipami wirtualnej rzeczywistości. Qualcomm zademonstrował również niektóre modele sztucznej inteligencji na swoich procesorach, takie jak generator obrazu Stable Diffusion.
Dla tych, którzy chcą dowiedzieć się więcej:
Źródło: CNBC.