[NS :
輝達發表Nemotron3.5開放模型家族旗艦SuperVL採用MoE架構,1200億參數中每個token僅啟動120億進行推理。Bolt系列則轉向本機部署,74B-A9B24GB版本以2-bit量化把記憶體需求壓在24GB以內。
Mumu0808] NVIDIA发布 Nemotron 3.5輝達發表Nemotron3.5開放模型家族旗艦SuperVL採用MoE架構,1200億參數中每個token僅啟動120億進行推理。Bolt系列則轉向本機部署,74B-A9B24GB版本以2-bit量化把記憶體需求壓在24GB以內。