AMD twierdzi, że układy graficzne są znacznie lepsze dla AI niż NPU. RX 7900 XT nawet 8x szybszy

AMD dołącza do grona firm, które uważają, że procesory graficzne są znacznie lepszym wyborem niż dedykowane jednostki przetwarzania neuronowego (NPU) w procesorach, jeśli chodzi o obsługę algorytmów sztucznej inteligencji (AI).

Według AMD, procesory graficzne oferują znacznie wyższą wydajność w tej dziedzinie. Na przykład, Radeon RX 7900 XT ma być aż 8 razy mocniejszy od Ryzena 7 8700G. Niedawno wyciekła prezentacja firmy Nvidia, która również sugeruje znacznie lepszą wydajność procesorów graficznych w obszarze AI w porównaniu z NPU w procesorach. Firma AMD również podkreśla podobne zalety w swoich oficjalnych prezentacjach. Od dawna procesory graficzne są wykorzystywane do nauki i wykonywania algorytmów AI ze względu na ich doskonałą wydajność w tym zakresie. Niemniej jednak, w procesorach coraz częściej pojawiają się NPU, czyli specjalne układy przeznaczone do obsługi tych algorytmów.

AMD udostępniło kilka interesujących danych dotyczących możliwości swojego sprzętu GPU RDNA 3 i XDNA NPU w obciążeniach sztucznej inteligencji.

Główną zaletą NPU jest lepszy stosunek wydajności do zużycia energii, co ma szczególne znaczenie w przypadku urządzeń mobilnych. Dla tych zastosowań, uzyskanie odpowiedniej wydajności przy minimalnym zużyciu energii jest kluczowe. Jednak procesory graficzne nadal dominują w obszarze AI, zapewniając wysoką wydajność bez konieczności dużego zużycia energii. W rezultacie, coraz więcej firm, w tym AMD i Nvidia, kieruje swoje innowacje w kierunku wykorzystania procesorów graficznych do obsługi algorytmów sztucznej inteligencji.

Pierwsze procesory AMD z jednostką NPU to były Ryzent 7040 (Phoenix), a także druga generacja Ryzen 8040 (Hawk Point).  Jednocześnie, architektura RDNA 3 w procesorach graficznych zapewnia dwukrotnie większą wydajność dla sztucznej inteligencji w porównaniu do poprzedniej generacji. Szczególnie wyraźne jest to w profesjonalnych kartach Radeon PRO W7900, które oferują aż 192 akceleratory AI zoptymalizowane również pod format FP16. Wyposażone w 48 GB pamięci GDDR6 i obsługujące frameworki takie jak DirectML 6, Nod.AI Shark i ROCm 6.0, te karty są gotowe do zadań wymagających najwyższej wydajności.

Podczas prezentacji AMD podkreślono także wydajność poszczególnych rozwiązań. Na przykład, LM Studio osiąga 11 tokenów na sekundę na procesorze AMD Ryzen 7 8700G z zintegrowaną NPU. Jednakże, karta graficzna Radeon RX 7600 XT z 16 GB pamięci za 329 dolarów osiąga 40 tokenów/s, co daje wynik aż 3,6 raza wyższy. Jeszcze większą wydajność zapewnia karta Radeon RX 7900 XT z 20 GB pamięci, zdolna obsłużyć nawet 85 tokenów/s, co stanowi ponad 7,7-krotny wzrost. W przypadku AMUSE Diffusion, procesor Ryzen 7 8700G potrzebuje 2,6 sekundy na wykonanie zdjęcia, podczas gdy RX 7600 XT osiąga to już w 0,97 sekundy (2,7 razy szybciej), a RX 7900 XT zaledwie w 0,6 sekundy (4,3 razy szybciej). Oprócz wspomnianych kart, AMD wspomniało także o Radeonie RX 7900 GRE z 16 GB pamięci i 160 akceleratorach AI do zadań związanych ze sztuczną inteligencją. Ważnym elementem było także podkreślenie zasilania tych nowych rozwiązań za pomocą złączy 8-pinowych.