[NS : kevin77] 128g内存跑qwen27b很费劲

4bit量化版也只有10token/s，太辣了。看来gpu还是必须的~~~~