Skip to main content
重要 混合选项需要企业计划。
混合模型将LangSmith基础设施在LangChain的云和您的云之间分割:
  • 控制平面(LangSmith UI、API 和编排)运行在 LangChain 的云中,由 LangChain 管理。
  • 数据平面(您的 和智能体工作负载)运行在您的云中,由您管理。
这结合了托管界面的便利性和在您自己的环境中运行工作负载的灵活性。
了解控制平面数据平面LangGraph Server架构概念的相关信息。
组件责任运行位置管理者
  • 创建部署和修订的 UI
  • 管理部署的 API
  • 可观察性数据存储
LangChain 的云LangChain
  • 与控制平面同步的监听器
  • LangGraph 服务器(您的智能体)
  • 后端服务(Postgres、Redis 等)
您的云
当以混合模式托管LangSmith时,您需要使用LangSmith API密钥进行身份验证。

工作流程

  1. 使用 langgraph-cliStudio 在本地测试您的图。
  2. 使用 langgraph build 命令构建 Docker 镜像。
  3. 控制平面 UI 部署您的 LangGraph 服务器。
支持的计算平台:Kubernetes
设置时,请参考混合设置指南

架构

混合部署:LangChain托管的控制平面(LangSmith UI/APIs)管理部署。您的云运行监听器、LangGraph服务器实例和后端存储(Postgres/Redis)在Kubernetes上。

计算平台

  • Kubernetes: 混合模式支持在任何 Kubernetes 集群上运行数据平面。
对于在 Kubernetes 中的设置,请参阅混合设置指南

LangSmith的出口和控制平面

在混合部署模型中,您的自托管数据平面将向控制平面发送网络请求,以轮询需要实现在数据平面中的更改。数据平面部署的跟踪信息也会发送到与控制平面集成的LangSmith实例。流向控制平面的流量经过HTTPS加密。数据平面使用LangSmith API密钥对控制平面进行身份验证。 为了启用此出口,您可能需要更新内部防火墙规则或云资源(如安全组)以允许某些IP地址
目前不支持 AWS/Azure PrivateLink 或 GCP Private Service Connect。此流量将通过互联网传输。

监听器

在混合选项中,根据您的LangSmith工作空间和Kubernetes集群的配置,可以运行一个或多个”监听器”应用

Kubernetes集群组织

  • 一个或多个监听器可以在Kubernetes集群中运行。
  • 一个监听器可以部署到该集群中的一个或多个命名空间中。
  • 集群所有者负责规划监听器布局和LangGraph服务器部署。

LangSmith 工作空间组织

  • 一个工作空间可以关联一个或多个监听器。
  • 工作空间只能部署到所有监听器都已部署的 Kubernetes 集群。

应用场景

以下是一些常见的监听器配置(非严格要求):

每个LangSmith工作区 → 独立的Kubernetes集群

  • 集群 alpha 运行工作区 A
  • 集群 beta 运行工作区 B

独立的集群,共享“dev”集群

  • 集群 alpha 运行工作区 A
  • 集群 beta 运行工作区 B
  • 集群 dev 运行工作区 AB
  • 两个工作区都有两个监听器;集群 dev 有两个监听器部署

一个工作区一个集群,一个命名空间

  • 集群 alpha,命名空间 1 运行工作区 A
  • 集群 alpha,命名空间 2 运行工作区 B

一个集群,多个工作空间使用单个命名空间

  • 集群 alpha 运行工作空间 A
  • 集群 alpha 运行工作空间 B