Jim Keller krytykuje NVIDIĘ, która niedawno "pochwaliła się", że zainwestowała 10 mld USD w opracowanie architektury Blackwell. Były inżynier AMD twierdzi, że Zieloni powinni zastosować alternatywną, znacznie tańszą metodę połączeń.
Obecny dyrektor generalny Tenstorrent, Jim Keller, jest znany z naśmiewania się z produktów technologicznych. Ostatnio nazwał technologię CUDA bagnem, więc możecie sobie wyobrazić, że raczej nie jest ulubieńcem NVIDII. Teraz Jim skrytykował budżet zielonego zespołu na prace badawczo-rozwojowe nad GPU Blackwell, twierdząc, że firma zaoszczędziłaby miliardy, zmieniając po prostu metodę połączenia. Zresztą możecie zobaczyć jego post poniżej:
— Jim Keller (@jimkxa) April 11, 2024
Jeśli chodzi o interkonekt Blackwell, NVIDIA wykorzystała technologię „NVLINK” piątej generacji. Chociaż NVLINK ma znaczną przewagę nad konkurencyjnymi metodami pod względem przepustowości, opóźnień i skalowalności, pozostaje w tyle w zakresie kompatybilności ze względu na swój „zastrzeżony” charakter, który nie jest w stanie obsłużyć sprzętu żadnego innego producenta.
Jim Keller krytykuje NVIDIĘ, która niedawno "pochwaliła się", że zainwestowała 10 mld USD w opracowanie architektury Blackwell.
Co więcej, uważa się, że wykorzystanie NVLINK jest kosztownym posunięciem w dynamice branży i dlatego Jim Keller je skrytykował, zwłaszcza że promuje na rynkach ideologię „otwartego oprogramowania”, ale NVLINK jest w tego całkowitym przeciwieństwem.
Alternatywą w tym przypadku jest połączenie Ethernet, które jest bardziej opłacalną opcją, zapewniając znacznie lepszy ekosystem, ale pod względem wydajności NVLINK w połączeniu z InfiniBand ma sporą przewagę, ale z interkonektem UE (Ultra Ethernet) na drodze, sytuacja może się zmienić, co przyczynić może się do powszechniejszego przyjęcia tego standardu, ponieważ UE gwarantuje efektywną wydajność AI i HPC. Rozwiązanie to nadal jest jednak w fazie rozwoju.
Jim Keller uważa, że aż 10 miliardów dolarów kosztów R&D na Blackwell jest zbyt wysokie i firma mogłaby znacznie zredukować te wydatki, po prostu zmieniając interkonekt. Jim był wielokrotnie znany z trollowania firm, zwłaszcza NVIDII, ale jego podejście wydaje się w pewnym stopniu mieć sens, ponieważ koszty Blackwella są po prostu horrendalne i jesteśmy ciekawi, jak przełoży się to na ceny kart graficznych dla graczy w sklepach. Nie ma jednak wątpliwości, że profesjonalne GPU, m.in. do AI, będą schodzić jak ciepłe bułeczki.
Pokaż / Dodaj komentarze do: Jim Keller krytykuje NVIDIĘ za wydanie 10 mld na GPU Blackwell. Jego zdaniem wystarczyłby 1 mld USD