AI wielkości powerbanku: „kieszonkowy superkomputer” Tiiny AI obiecuje zastąpić chmurę

Amerykański startup Tiiny AI przedstawił wyjątkowe urządzenie na pograniczu mini-PC i personalnego serwera AI. Nowość o nazwie Pocket Lab jest reklamowana jako najkompaktowy komputer na świecie, zdolny lokalnie uruchamiać duże modele językowe — bez połączenia z chmurą i zewnętrznych kart graficznych. Zapowiedź miała miejsce przed CES, a firma już zdołała ogłosić rekord Guinnessa w kategorii „najmniejszy personalny komputer AI dla modeli poziomu 100B+”.

Co wiadomo

Pod względem rozmiarów Pocket Lab jest porównywalny z dużym powerbankiem: 14,2 × 8 × 2,5 cm, waga około 300 gramów. Jednak wewnętrznie ma specyfikacje bardziej typowe dla rozwiązań serwerowych. Urządzenie wyposażone jest w 12-rdzeniowy procesor ARM o architekturze ARMv9.2, specjalizowany procesor neuronowy (NPU) o wydajności do 160 TOPS oraz dodatkowe bloki obliczeniowe, które łącznie dają około 190 TOPS dla zadań AI.

Kluczową cechą jest 80 GB pamięci operacyjnej LPDDR5X, z których, zgodnie z deklaracją firmy, do 48 GB jest przeznaczone dla NPU. Konfigurację uzupełnia dysk SSD o pojemności 1 TB i jednostka zasilająca do 65 W. Według Tiiny AI wystarczy to do lokalnego uruchamiania modeli językowych o wielkości do 120 miliardów parametrów — z zastrzeżeniami dotyczącymi kwantyzacji i optymalizacji.

Pocket Lab jest zaprojektowany do całkowicie autonomicznej pracy. Wszystkie obliczenia, przechowywanie danych i wnioskowanie odbywają się offline, bez wysyłania informacji do chmury. Firma kładzie nacisk na prywatność: dane użytkownika są przechowywane lokalnie i chronione szyfrowaniem „na poziomie bankowym”. To rozwiązanie jest skierowane do deweloperów, badaczy i entuzjastów, którzy chcą pracować z AI bez zależności od zewnętrznych usług.

Urządzenie wspiera popularne modele open-source i frameworki — Llama, Qwen, DeepSeek, Mistral, Phi i GPT-OSS — z instalacją „jednym kliknięciem”. Zapowiedziano regularne aktualizacje „w powietrzu” i optymalizacje wnioskowania za pomocą technologii takich jak PowerInfer i skąpe obliczenia, rozkładające obciążenie między CPU i NPU.

Cena i dokładna data wydania pozostają na razie nieujawnione, ale Pocket Lab już teraz wydaje się być zapowiedzią nowej klasy urządzeń — personalnych komputerów AI, które można nosić ze sobą.

Źródło: Tiiny AI