Amazon zapowiedział chipy Trainium 2 i Graviton 4 do trenowania i uruchamiania modeli sztucznej inteligencji.

AWS, dział chmury obliczeniowej Amazon, zaprezentował zaktualizowane wersje swoich chipów AI zaprojektowanych do trenowania algorytmów uczenia maszynowego, a następnie wdrażania gotowych modeli.

Co wiadomo

Układ Trainium 2 wykazuje czterokrotny wzrost wydajności i dwukrotny wzrost efektywności energetycznej w porównaniu do pierwszej wersji. Umożliwi to szybsze i tańsze szkolenie sieci neuronowych. Anthropic już ogłosił wykorzystanie Trainium 2.

Procesor Graviton 4 koncentruje się na uruchamianiu gotowych modeli sztucznej inteligencji. Obiecuje 30% wzrost wydajności w porównaniu do swoich odpowiedników przy niższym zużyciu energii. Powinno to obniżyć koszty przetwarzania w chmurze dla klientów AWS podczas uruchamiania sztucznej inteligencji.

Nowe chipy będą dostępne w chmurze AWS w nadchodzących miesiącach. Równolegle Amazon będzie kontynuował współpracę z firmą NVIDIA.

Źródło: Amazon