Asus Ascent GX10: Potężny superkomputer na biurku, który zmienia zasady gry w sztucznej inteligencji

Podczas gdy próbujesz zmusić ChatGPT do napisania sensownego kodu, firma Asus wypuszcza sprzęt, który pozwala uruchomić poważne modele językowe bezpośrednio na biurku. Poznaj Ascent GX10 — „malucha”, który kosztuje jak niezły crossover, ale oferuje moc, za którą jeszcze kilka lat temu trzeba by wynająć całą szafę serwerową.

Hybrodowy potwór wewnątrz

Asus Ascent GX10 to próba upakowania mocy centrum danych w obudowę o rozmiarze grubej książki. U podstaw systemu znajduje się superchip Nvidia GB10 Grace Blackwell. To hybryda, w której 20-rdzeniowy procesor Grace na architekturze Arm współpracuje z graficznym rdzeniem Blackwell. Nie stoją one po prostu obok siebie, lecz są połączone technologią NVLink-C2C, co pozwala na wymianę danych z minimalnymi opóźnieniami.

Wynik tej współpracy to 1000 TOPS mocy obliczeniowej. To wystarcza, by „zasilić” duże modele językowe o parametrach przekraczających 200 miliardów. Dla zrozumienia kontekstu: to poziom, gdzie kończą się zabawki dla entuzjastów i zaczyna poważna praca z sieciami neuronowymi.

Pamięć i możliwości sieciowe

We wnętrzu zamontowano 128 GB zjednoczonej pamięci LPDDR5X. Jest to krytyczne dla zadań związanych z SI, gdzie objętość i szybkość pamięci często stają się „wąskim gardłem”. Część graficzna zawiera 6144 rdzenie CUDA oraz wsparcie dla obliczeń w formacie FP4. Ostatnie — to swego rodzaju trick dla przyspieszenia sieci neuronowych bez znaczących strat w dokładności, co staje się standardem w nowej architekturze Nvidii.

Jeśli jeden Ascent GX10 to za mało (nagle postanowiłeś stworzyć swojego konkurenta Skynet), system obsługuje wysokoszybkościowe połączenie ConnectX-7. Umożliwia to połączenie dwóch takich urządzeń w jeden klaster, podwajając zasoby. W pakiecie znajduje się również SSD o pojemności 4 TB, co wystarczy do przechowywania wag kilku poważnych modeli.

Chłodzenie i cena

Oczywiście taka gęstość tranzystorów na milimetr kwadratowy tworzy sporo ciepła. Asus zmieścił w obudowie o wymiarach 150 x 150 x 51 mm system chłodzenia z kilkoma rurami cieplnymi i dwoma masywnymi wentylatorami. Czy będzie szumieć jak samolot odrzutowy pod obciążeniem? Najpewniej tak. Ale to jest cena za możliwość trzymania 20 370 PLN (5 500 USD) czystej mocy na biurku.

To urządzenie dla deweloperów i firm, które nie chcą wysyłać swoich poufnych danych do chmur wielkich korporacji, tylko wolą implementować SI lokalnie. Drogo? Tak. Ekscentrycznie? Z pewnością. Ale to rzeczywisty krok ku decentralizacji sztucznej inteligencji, kiedy superkomputer przestaje wymagać osobnego pomieszczenia z przemysłową klimatyzacją.

Podczas gdy sprzęt staje się bardziej dostępny do lokalnego użytku, sektor edukacji również dostosowuje się do nowych realiów. Na przykład chińskie uniwersytety masowo „czyszczą” kierunki, zastępując humanistyczne specjalizacje przygotowywaniem specjalistów w dziedzinie SI. To logiczne: ktoś musi obsługiwać te małe, żelazne potwory.