[NS : violence] 一个关于中转站的疑问

中转站是不是可以通过识别上下文大小去分配特定的模型,类似于网络中的大小包的概念现在很多测试模型源的都是短上下文,但是实际工作中很多场景都是长上下文最近在使用公司买的claude中转站发现,各种模型源测试都是正常的,100%匹配率,但是一旦工作的时候长上下文了就开始不对劲,各种出错,一股国模或者gpt的味道,总之和我
 
 
Back to Top