Как я установил в свой игровой ПК серверный GPU за £200
Я купил видеокарту для дата-центра Tesla V100 SXM2 16GB у которой даже нет нормального коннектора PCIe, и подключил её к ПК через адаптер. Теперь у меня в системе 32 ГБ VRAM от двух GPU, на которых работает модель с 27 миллиардами параметров, выдавая по 32 токена в секунду. И обошлось мне это всего в £200.
__________________
и тут пришел лесник ;)
|