Skip to main content
上下文工程是指构建动态系统的实践,这些系统能够以正确的格式提供适当的信息和工具,从而使人工智能应用能够完成任务。上下文可以沿着两个关键维度进行描述: 通过 可变性
  • 静态上下文:在执行过程中不发生变化的不可变数据(例如,用户元数据、数据库连接、工具)
  • 动态上下文:随着应用程序运行而演变的可变数据(例如,对话历史、中间结果、工具调用观察)
  1. 通过 生命周期
  • 运行时上下文:数据范围限于单个运行或调用
  • 跨对话上下文:跨越多个对话或会话持久存在的数据
运行时上下文指的是局部上下文:您的代码运行所需的 数据和依赖项。它 指的是:
  • LLM上下文,即传递给LLM提示的数据。
  • “上下文窗口”,即可以传递给LLM的最大令牌数。
运行时上下文可用于优化LLM上下文。例如,您可以使用运行时上下文中的用户元数据来获取用户偏好并将其输入到上下文窗口中。
LangGraph提供了三种管理上下文的方法,这些方法结合了可变性和生命周期维度:
上下文类型描述可变性生命周期
配置运行开始时传递的数据静态单次运行
动态运行时上下文(状态)在单次运行中演变的可变数据动态单次运行
动态跨对话上下文(存储)在对话间共享的持久数据动态跨对话

配置

配置用于不可变数据,如用户元数据或API密钥。当您有在运行过程中不改变值的变量时,请使用此功能。 使用名为 “configurable” 的键指定配置,该键专门为此目的保留。
await graph.invoke(
  { messages: [{ role: "user", content: "hi!" }] },
  { configurable: { user_id: "user_123" } } 
);

动态运行时上下文

动态运行时上下文表示在单次运行过程中可以演变的数据,通过LangGraph状态对象进行管理。这包括对话历史、中间结果以及从工具或LLM输出中派生的值。在LangGraph中,状态对象在运行期间充当短期记忆
示例展示了如何将状态融入智能体 提示 中。状态也可以通过智能体的工具进行访问,这些工具可以根据需要读取或更新状态。有关详细信息,请参阅工具调用指南
import { createAgent, createMiddleware } from "langchain";
import type { AgentState } from "langchain";
import * as z from "zod";

const CustomState = z.object({ 
  userName: z.string(),
});

const personalizedPrompt = createMiddleware({ 
  name: "PersonalizedPrompt",
  stateSchema: CustomState,
  wrapModelCall: (request, handler) => {
    const userName = request.state.userName || "User";
    const systemPrompt = `You are a helpful assistant. User's name is ${userName}`;
    return handler({ ...request, systemPrompt });
  },
});

const agent = createAgent({  
  model: "anthropic:claude-sonnet-4-5",
  tools: [/* your tools here */],
  middleware: [personalizedPrompt] as const, 
});

await agent.invoke({
  messages: [{ role: "user", content: "hi!" }],
  userName: "John Smith",
});
开启记忆功能 请参阅记忆指南以获取有关如何启用记忆的更多详细信息。这是一个强大的功能,允许您在多次调用之间持久化智能体的状态。否则,状态仅限于单次运行。

动态跨对话上下文

动态跨对话上下文表示跨越多个对话或会话的持久、可变数据,通过LangGraph存储进行管理。这包括用户资料、偏好和历史交互。LangGraph存储充当长期记忆,跨越多个运行。这可以用来读取或更新持久事实(例如,用户资料、偏好、先前交互)。

参见