context-engineering

コンテキストエンジニアリング

コンテキストエンジニアリングでは、LLM のタスクに必要な、シグナルの強いトークンセットを最小限に絞り込みます。目標は、トークン使用量を抑えながら推論品質を最大化することです。

使用するタイミング

• エージェントシステムの設計・デバッグ
• コンテキストの上限がパフォーマンスを制約している場合
• コストやレイテンシーの最適化
• マルチエージェント連携の構築
• メモリーシステムの実装
• エージェントのパフォーマンス評価
• LLM を活用したパイプラインの開発

基本原則

1. コンテキストの質 > 量 - 網羅的な内容より、シグナルの強いトークンが効果的です
2. 注意力には限りがあります - U 字型の曲線により、冒頭と末尾の位置が有利です
3. 段階的な開示 - 必要なタイミングで情報を読み込みます
4. 分離によって劣化を防ぐ - サブエージェント間で作業を分割します
5. 最適化の前に測定する - ベースラインを把握します

主な指標

• トークン使用率：70% で警告し、80% で最適化を開始
• トークンのばらつき：エージェントのパフォーマンスのばらつきの 80% を説明します
• マルチエージェントのコスト：単一エージェントのベースラインの約 15 倍
• 圧縮の目標：50～70% 削減し、品質の低下を 5% 未満に抑える
• キャッシュヒット率の目標：安定したワークロードで 70% 以上

4 つのバケット戦略

1. 書き出す：コンテキストを外部に保存します（スクラッチパッド、ファイル）
2. 選択する：関連するコンテキストだけを取り込みます（検索、フィルタリング）
3. 圧縮する：情報を保持しながらトークンを削減します（要約）
4. 分離する：サブエージェント間で分割します（パーティショニング）

アンチパターン

• 厳選したコンテキストではなく、網羅的なコンテキストを使う
• 重要な情報を中間の位置に置く
• 上限に達する前の圧縮トリガーがない
• 並列化できるタスクに単一のエージェントを使う
• 明確な説明のないツール

ガイドライン

1. 重要な情報はコンテキストの冒頭または末尾に配置します
2. 使用率が 70～80% に達した時点で圧縮を実装します
3. ロールプレイではなく、コンテキストの分離にサブエージェントを使います
4. 明確な説明を備えたツールを設計します（用途、タイミング、入力、戻り値）
5. リクエストあたりのトークン数ではなく、タスクあたりのトークン数を最適化します
6. プローブベースの評価で検証します
7. 本番環境でトークン使用量を監視します
8. 最小限の構成から始め、必要性が実証された場合にのみ複雑さを加えます

スキルの連携

複数のスキルが有効な場合：

• 関連するスキルの内容だけを読み込みます
• スキルのメタデータを使ってスキルを見つけます
• 必要でない限り、スキル定義全体の読み込みを避けます
• 直接名前を指定するのではなく、パターン検出によってスキルを参照します

参考資料

詳しいガイダンスについては、以下を参照してください：

• references/fundamentals.md - コンテキストの構造、注意力の仕組み
• references/degradation.md - 失敗のデバッグ、中間情報の見落とし、汚染
• references/optimization.md - 圧縮、マスキング、キャッシュ、パーティショニング
• references/compression.md - 長時間のセッション、要約の戦略
• references/memory.md - セッションをまたいだ永続化、知識グラフ
• references/multi-agent.md - 連携パターン、コンテキストの分離
• references/evaluation.md - エージェントのテスト、LLM-as-Judge、指標
• references/tool-design.md - ツールの統合、説明の設計