性能优化

智能体推理变慢，问题未必在模型算力，而常藏于上下文膨胀、工具串行等待和并发调度失衡：模型推理往往只占总延迟的40%到60%，三个API串行约10.5秒，并行后可压至7秒。如何通过上下文压缩、结果清洗、缓存、依赖拆分、流式输出与P95监控，找到真正值得优化的环节，并避免过度拆分带来的调度开销？