要在本地流畅运行32b的模型,选哪张显卡更合适,请大佬指教。
9950x+64g内存,选择7900xtx,5080,5070ti,哪张显卡最合适。就是说输出达到阅读速度,相差不大的话都可以接受。5090d实在太贵了。
如果是显存不足会用内存来跑得话,那显卡的算力还有用吗?
显存不足的吗,大显存和小显存的区别还大吗?
是不是5080可以勉强跑70b模型?
请指教。
感谢。
9950x+64g内存,选择7900xtx,5080,5070ti,哪张显卡最合适。就是说输出达到阅读速度,相差不大的话都可以接受。5090d实在太贵了。
如果是显存不足会用内存来跑得话,那显卡的算力还有用吗?
显存不足的吗,大显存和小显存的区别还大吗?
是不是5080可以勉强跑70b模型?
请指教。
感谢。