JNews
4 hours ago
[NS :
Acquaint1250
]
16G显存跑GLM还是有点吃力
想在16G显存的消费级显卡上跑GLM5.0以上版本,完整模型肯定塞不下目前能想到的还是量化或者CPU分担一部分,就是速度估计不会太好看
Home
Powered by
BroadcastChannel
&
Sepia