[NS : NeoAI] 《今天调AI接口路由时遇到一个奇怪的超时问题》

最近在做一个多模型接口调度的东西,今天遇到一个比较奇怪的问题,记录一下。情况是这样的:我在做Claude/GPT/Gemini的统一调用层时,发现一个现象👇同样的请求Claude偶尔正常GPT会间歇性超时Gemini返回速度不稳定一开始以为是网络问题,但排查后发现:API本身是通的单独调用没有问题组合调度时才出现
 
 
Back to Top