Da, recimo server sa 8 nVidia A100 grafičkih je 140k evra (
https://lambdalabs.com/deep-learning/servers/hyperplane-a100), verzija sa 4x A100 grafičke i nešto slabijim ostalim parametrima (manje rama, diskova, mreže) je 65k evra, i mislim da je to za grafičke sa 40GB vram-a, za one od 80GB pre oko pola godine doplata je bila oko 10k evra, ne znam sada kako je.
Reklo bi se, papreno, bolje koristiti Cloud... međutim, ako se uzme kod Gugla na 1 godinu samo 1GPU od 40GB, cena je 1350$ mesečno, dakle za 8 grafičkih je ta cena x8, odnosno preko 10k evra mesečno, što je preko 120k evra godišnje. Kome treba 100% vremena (instituti i kompanije koje se bave onim za šta su im potrebne takve grafičke), na duže staze jeftinije je da kupiti gore pomenuti server.
Doduše, kod Gugla je za duži period veći popust, pa tako na 3 godine 1GPU sa 40GB košta 750$ mesečno, ali to samo znači da će se server otplatiti za 2 godine umesto za 1.
Kome treba na kratak rok, tipa nekoliko meseci ili kraće, naravno da je najbolje da uzme Cloud, jer ako resurs nije potreban 100% vremena, može da se plaća i po utrošenim resursima.
Ovde je kog Gugla zanimljiva politika cena za TPU jezgra, cene su značajno veće nego za A100 GPU, a performanse su slabije (TPU v4 na testovima je nešto bolji od A100, ali ih još nema u ponudi).
Blessed are those who can laugh at themselves, for they shall never cease to be amused.