[NS : Jessie8561] 美团正式开源LongCat-2.0!

规模:总参1.6T,激活约48B,引入稀疏注意力和N-gramEmbedding,优化长文本和代码任务。最大亮点:业界首个在五万卡国产算力集群上完成推理的万亿参数模型。国产芯片优化:针对显存小、带宽低的问题,从三层协同入手——模型层用稀疏注意力+ScMoE减压;适配层用SuperKernel减少开销;部署层用PD分
 
 
Back to Top