Skip to main content
如果您准备将应用程序部署到云,请遵循云部署快速入门完整设置指南。本页解释了云托管模型以供参考。
选项是一种完全托管的主机模式,其中LangChain负责托管和运营所有LangSmith基础设施和服务:
  • 全托管基础设施:LangChain负责所有基础设施、更新、扩展和维护。
  • 从GitHub部署:连接您的仓库,只需几步即可部署。
  • 自动化CI/CD:构建过程由平台自动处理。
  • LangSmith UI:全面访问可观测性评估部署管理工作室
谁管理它在哪里运行
LangSmith平台(UI、API、数据存储)LangChainLangChain的云平台
您的LangGraph服务器LangChainLangChain的云平台
您应用的CI/CDLangChainLangChain的云平台
云部署:LangChain托管和管理所有组件,包括UI、API和您的LangGraph服务器。

开始使用

要将您的第一个应用程序部署到云,请遵循云部署快速入门指南或参考全面设置指南

云架构与可扩展性

本节仅适用于在https://smith.langchain.comhttps://eu.smith.langchain.com提供的云管理LangSmith服务。关于自托管LangSmith解决方案的信息,请参阅自托管文档
LangSmith部署在Google Cloud Platform(GCP)上,并设计为高度可扩展。许多客户在LangSmith上运行生产工作负载,用于LLM应用的观察性、评估和智能体部署

架构

美国LangSmith服务部署在GCP的us-central1(爱荷华州)区域。
基于欧盟的 LangSmith 服务(https://eu.smith.langchain.com)现已推出(截至 2024 年 7 月中旬)并在 GCP 的 europe-west4(荷兰)区域部署。如果您对该区域的商业计划感兴趣,请联系我们的销售团队

区域存储

该表中的资源和服务存储在注册发生的URL对应的位置(美国或欧盟)。云管理的LangSmith使用Supabase进行身份验证/授权,并使用ClickHouse Cloud作为数据仓库。
USEU
URLhttps://smith.langchain.comhttps://eu.smith.langchain.com
API URLhttps://api.smith.langchain.comhttps://eu.api.smith.langchain.com
GCPus-central1 (爱荷华州)europe-west4 (荷兰)
SupabaseAWS us-east-1 (北弗吉尼亚)AWS eu-central-1 (德国)
ClickHouse Cloudus-central1 (爱荷华州)europe-west4 (荷兰)
LangSmith部署us-central1 (爱荷华州)europe-west4 (荷兰)
查看地区常见问题解答获取更多信息。

区域无关存储

此处列出的数据仅存储在美国:
  • 使用 Stripe 和节拍器进行支付和账单信息

GCP 服务

LangSmith由以下服务组成,所有服务均部署在Google Kubernetes Engine(GKE)上:
  • LangSmith 前端:提供 LangSmith UI 服务。
  • LangSmith 后端:提供 LangSmith API 服务。
  • LangSmith 平台后端:处理身份验证和其他高并发任务。(内部服务)
  • LangSmith 操场:处理转发请求到各种 LLM 提供商以实现操场功能。
  • LangSmith 队列:处理异步任务的处理。(内部服务)
LangSmith 使用以下 GCP 存储服务:
  • Google Cloud Storage (GCS) 用于运行输入和输出。
  • Google Cloud SQL PostgreSQL 用于事务性工作负载。
  • Google Cloud Memorystore for Redis 用于队列和缓存。
  • 在 GCP 上使用 Clickhouse Cloud 进行跟踪摄取和分析。我们的服务通过私有端点连接到同一 GCP 区域的 Clickhouse Cloud。
一些我们使用的额外 GCP 服务包括:
  • Google Cloud Load Balancer 用于将流量路由到 LangSmith 服务。
  • Google Cloud CDN 用于缓存静态资源。
  • Google Cloud Armor 用于安全和速率限制。有关我们实施的速率限制的更多信息,请参阅本指南
浅色模式概述

允许列表 IP 地址

LangChain SaaS 出口

所有离开 LangSmith 服务的流量将通过 NAT 网关进行路由。所有流量将显示为以下 IP 地址来源:
美国欧洲
34.59.65.9734.13.192.67
34.67.51.22134.147.105.64
34.46.212.3734.90.22.166
34.132.150.8834.147.36.213
35.188.222.20134.32.137.113
34.58.194.12734.91.238.184
34.59.97.17335.204.101.241
104.198.162.5535.204.48.32
如果需要连接到您自己的 AzureOpenAI 服务或其他可能由游乐场或在线评估所需的端点,允许列出这些 IP 地址可能会有所帮助。

进入LangChain SaaS

langchain端点映射到以下静态IP地址:
美国欧洲
34.8.121.3934.95.92.214
34.107.251.23434.13.73.122
您可能需要将这些添加到允许列表中,以启用从您的私有网络到LangSmith SaaS端点(api.smith.langchain.comsmith.langchain.combeacon.langchain.comeu.api.smith.langchain.comeu.smith.langchain.comeu.beacon.langchain.com)的流量。