模型缓存

缓存 LLM 调用 对于测试、节省成本和提升速度都很有用。

以下是一些集成，允许您使用不同的缓存策略，使用不同的缓存来缓存单个LLM调用的结果。

Azure Cosmos DB NoSQL Semantic Cache

View guide

---

在GitHub上编辑此页面的源代码。

通过MCP将这些文档编程连接到Claude、VSCode等，以获取实时答案。