コンテキスト管理
コンテキストは多義的な用語です。気にするべきコンテキストには主に 2 つの種類があります。
- コード側でローカルに利用できるコンテキスト: ツール関数の実行時、
on_handoffのようなコールバック、ライフサイクルフックなどで必要になり得るデータや依存関係です。 - LLM が利用できるコンテキスト: LLM が応答を生成する際に目にするデータです。
ローカルコンテキスト
これはRunContextWrapper クラスと、その中のcontext プロパティで表現されます。仕組みは次のとおりです。
- 任意の Python オブジェクトを作成します。一般的なパターンは、dataclass または Pydantic オブジェクトを使うことです。
- そのオブジェクトを各種 run メソッドに渡します(例:
Runner.run(..., context=whatever))。 - すべてのツール呼び出しやライフサイクルフックなどには、ラッパーオブジェクト
RunContextWrapper[T]が渡されます。ここでTはコンテキストオブジェクトの型を表し、wrapper.contextでアクセスできます。
最も重要な注意点は、あるエージェント実行におけるすべてのエージェント、ツール関数、ライフサイクルなどが、同じコンテキストの型 を使わなければならないことです。
コンテキストは次のような用途に使えます。
- 実行に関するコンテキストデータ(例: ユーザー名 / uid や、ユーザーに関するその他の情報など)
- 依存関係(例: logger オブジェクト、データフェッチャーなど)
- ヘルパー関数
Note
コンテキストオブジェクトは LLM に送信されません。これは純粋にローカルなオブジェクトであり、読み取り、書き込み、メソッド呼び出しができます。
importasynciofromdataclassesimportdataclassfromagentsimportAgent,RunContextWrapper,Runner,function_tool@dataclassclassUserInfo:# (1)!name:struid:int@function_toolasyncdeffetch_user_age(wrapper:RunContextWrapper[UserInfo])->str:# (2)!"""Fetch the age of the user. Call this function to get user's age information."""returnf"The user{wrapper.context.name} is 47 years old"asyncdefmain():user_info=UserInfo(name="John",uid=123)agent=Agent[UserInfo](# (3)!name="Assistant",tools=[fetch_user_age],)result=awaitRunner.run(# (4)!starting_agent=agent,input="What is the age of the user?",context=user_info,)print(result.final_output)# (5)!# The user John is 47 years old.if__name__=="__main__":asyncio.run(main())- これはコンテキストオブジェクトです。ここでは dataclass を使っていますが、任意の型を使えます。
- これはツールです。
RunContextWrapper[UserInfo]を受け取っていることが分かります。ツール実装はコンテキストから読み取ります。 - 型チェッカーがエラーを検出できるように、エージェントをジェネリック
UserInfoとしてマークします(例: 異なるコンテキスト型を受け取るツールを渡そうとした場合)。 - コンテキストは
run関数に渡されます。 - エージェントは正しくツールを呼び出し、年齢を取得します。
上級:ToolContext
場合によっては、実行中のツールに関する追加メタデータ(名前、call ID、raw 引数文字列など)にアクセスしたいことがあります。
その場合は、RunContextWrapper を拡張するToolContext クラスを使えます。
fromtypingimportAnnotatedfrompydanticimportBaseModel,FieldfromagentsimportAgent,Runner,function_toolfromagents.tool_contextimportToolContextclassWeatherContext(BaseModel):user_id:strclassWeather(BaseModel):city:str=Field(description="The city name")temperature_range:str=Field(description="The temperature range in Celsius")conditions:str=Field(description="The weather conditions")@function_tooldefget_weather(ctx:ToolContext[WeatherContext],city:Annotated[str,"The city to get the weather for"])->Weather:print(f"[debug] Tool context: (name:{ctx.tool_name}, call_id:{ctx.tool_call_id}, args:{ctx.tool_arguments})")returnWeather(city=city,temperature_range="14-20C",conditions="Sunny with wind.")agent=Agent(name="Weather Agent",instructions="You are a helpful agent that can tell the weather of a given city.",tools=[get_weather],)ToolContext はRunContextWrapper と同じ.context プロパティに加えて、
現在のツール呼び出しに固有の追加フィールドを提供します。
tool_name– 呼び出されるツールの名前tool_call_id– このツール呼び出しの一意識別子tool_arguments– ツールに渡された raw 引数文字列
実行中にツールレベルのメタデータが必要な場合はToolContext を使用してください。
エージェントとツール間での一般的なコンテキスト共有には、RunContextWrapper で十分です。
エージェント / LLM コンテキスト
LLM が呼び出されるとき、LLM が見られるデータは会話履歴のものだけ です。つまり、新しいデータを LLM から利用できるようにしたい場合は、それが履歴内で利用可能になる方法で行う必要があります。方法はいくつかあります。
- Agent の
instructionsに追加します。これは「system prompt」や「developer message」とも呼ばれます。システムプロンプトは静的な文字列にすることも、コンテキストを受け取って文字列を出力する動的な関数にすることもできます。これは、常に有用な情報(例: ユーザーの名前や現在日付など)に対してよく使われる戦術です。 Runner.run関数を呼び出す際にinputに追加します。これはinstructionsの戦術に似ていますが、chain of command の中でより下位のメッセージを持てます。- 関数ツールとして公開します。これはオンデマンド なコンテキストに有用です。つまり、LLM がいつデータが必要かを判断し、そのデータを取得するためにツールを呼び出せます。
- 検索や Web 検索を使います。これらは、ファイルやデータベース(検索)や Web(Web 検索)から関連データを取得できる特殊なツールです。これは、関連するコンテキストデータに基づいて応答を「グラウンディング」するのに有用です。