TOMC Memory

累計クローン数 · 2026-10-02から記録 · 2026-10-23 UTCに更新。測定方法と更新情報

TOMCが役に立ったら、右上の⭐ Starをクリックしてプロジェクトを応援してください。

TOMC Memory

Codex / Claude Code / Cursor / TRAE / WorkBuddy向けのコンテキスト圧縮とタスクメモリ

長い履歴を圧縮・整理し、保存したタスクメモをCPU上で呼び出します。

APIで使用 · TOMC Memoryをインストール · アシスタントを切り替える · デモを見る · 論文の解説 · 論文の結果 · 英語 | 简体中文

CPUでの処理 · 学習や追加のモデルサービスは不要 · プレーンテキスト出力 · 研究プレビュー

公式GitHubホーム · プラグインのダウンロード · インストールガイド

こちらはTOMC Memoryの公式リポジトリです。ソースコード、プラグインのダウンロード、インストールガイドを掲載しています。

記録された使用例を見る · API、共有メモリ、評価ガイド

Part 1 · TOMC Memory を使う

TOMC Memory は、Task-Oriented Memory Compilation（TOMC）に基づいて構築されたオープンソースのツールです。AI アシスタント向けにコンテキストを圧縮・コンパイルし、明示的に保存したメモを通じてタスクメモリを提供します。MCP サーバーと Python API から利用できます。履歴、次のタスク、メモリの予算を渡してください。ソーステキストを選び、サポートされている状態、関係、または件数のレコードを計算するため、アプリケーションは履歴全体の代わりに準備されたコンテキストを送信できます。準備処理は CPU 上で実行され、トレーニングや追加のモデルサービスは必要ありません。

動画の制作、素材の整理、ファイルの処理、コードの開発でタスクメモリを活用できます。remember_memory を使って概要、決定事項、制約、完了した手順、残作業を保存し、次のタスクに向けてメモを準備するには recall_memory を使います。これらは保存したメモの活用例です。以下に記載する測定値は、合成されたプロジェクト履歴と論文のベンチマークを対象に、それぞれ独自のタスクとプロトコルで得られたものです。これらのワークフローにおけるすべてのタスクの性能を示すものではありません。

Python API を独自のアプリケーションに追加したり、Codex または Claude Code にプラグインをインストールしたり、ローカル MCP 経由で Cursor、TRAE、Tencent WorkBuddy、Claude Desktop に接続したりできます。削減量は履歴とタスクによって異なります。短い履歴はそのまま保持できます。デフォルトでは、長い履歴の約 80% を保持します。より小さなリクエストが必要な場合は、独自のタスクで 40% または 60% の予算を比較してください。別途掲載しているCodex と Claude の結果をご覧ください。

同じアシスタントまたは別のアシスタントとの新しいチャットで、保存したタスクメモを再利用できます。両方のクライアントが同じコンピューター上の同じ TOMC データベースを使用していれば、保存した決定事項、制約、次の手順を再利用できます。Codex → Claude Code → Codex の引き継ぎをお試しください。

これはプレビュー版、バージョン 0.1.0 です。プラグインはMIT ライセンスのアシスタントプレビューからダウンロードしてください。PyPI パッケージや公開マーケットプレイスへの掲載はありません。

動画の概要

動画全編（1:37、音声あり） · 中国語の動画 · メディアとテストの範囲

API 統合では、次のリクエストの前に TOMC を呼び出して、準備されたコンテキストを送信します。Codex と Claude Code では、ツールを使ってタスクメモを保存または呼び出します。動画内の数値は、独自のプロトコルに基づく特定のテストから得られたものであり、プロバイダーによる推奨を意味するものではありません。

測定結果では、Codex と Claude Code のプロトコルおよび元の記録を確認できます。

初回起動ガイド · Python API · 結果と制限事項の全容。

TOMC は研究プレビューです。フィードバック、課題報告、プルリクエスト、研究協力を歓迎します。デバイスとアシスタントは個別に選択できます。デバイス間でノートブックを転送するには、手動で Git を使用します。

アシスタントにインストールする

クライアントに合わせてセットアップを選択してください。TOMC は CPU 上でローカルにコンテキストを準備し、アシスタントが回答を生成します。プラグイン自体に追加のモデル API キーや GPU は不要です。

アクティブなチャットはホストが管理します。 Codex、Claude Code、または別のホストが会話の圧縮を管理している場合、TOMC はそのチャットを先回りして再圧縮しません。ホストの状態が不明な場合も、デフォルトでホストが管理するものとします。TOMC は、別途提供された外部の履歴や、明示的に保存されたメモに使用してください。これはツール使用のポリシーであり、自動圧縮検出機能ではありません。コンテキストの所有権。プラグインパッケージ 0.1.1 にはこのポリシーが含まれています。コンパイラーのコアは引き続き 0.1.0 です。

初回起動

Claude Code：メモを 1 件保存し、新しいチャットで呼び出します。 まず UV をインストールしてください。Claude Code で次を実行します。

/plugin marketplace add ZipengWu365/TOMC
/plugin install tomc-memory@tomc

新しいセッションを開始するか VS Code を再読み込みし、/mcp で plugin:tomc-memory:tomc を確認します。アシスタントにツールを実行するよう明示的に依頼します。

Use TOMC's remember_memory to save a note named api-refactor:
keep public API routes unchanged; pagination tests have not been written.
Show the tool result.

同じローカルのノートブックデータベースを使用する新しいチャットで、次のように依頼します。

Use TOMC's recall_memory on api-refactor.
Report the saved constraints and unfinished work. Show the tool result.

保存と呼び出しは明示的なツール呼び出しです。プラグインがチャット全体を自動的に記録することはありません。Claude Code の詳細なセットアップ · ノートブック共有時の確認。

Codex CLI：プラグインをインストールして、ツールが利用可能か確認します。 Codex 用 0.1.2 ZIP をダウンロードし、今後も保持するディレクトリに展開して、UV と互換性のある Codex CLI を使ってそのディレクトリで実行します。

uv run --no-project --python 3.12 install.py --check
uv run --no-project --python 3.12 install.py

最初のコマンドは、Codex の設定を変更せずに前提条件を確認します。インストール後に新しい Codex セッションを開始し、名前を指定したメモの保存／呼び出しを明示的に依頼します。Codex の詳しい手順 · プラットフォームの検証。

Python API：モデルを呼び出す前に、オフラインのコンテキスト例を確認します。 Python 3.10 以降の場合：

git clone https://github.com/ZipengWu365/TOMC.git && printf '\n%s\n%s\n' \
  'If TOMC helps with your work, consider a Star on GitHub (optional):' 'https://github.com/ZipengWu365/TOMC'
cd TOMC
python -m pip install -e .
python examples/api_context.py

上記の Bash / Git Bash コマンドは、クローンに成功すると任意の Star 招待を表示します。通常の git clone では表示されません。また、クローンするだけでは TOMC はインストールされません。

この例ではコンテキストをローカルで準備し、件数を数えます。モデルは呼び出しません。TOMC を統合するには、アプリケーションの指示とプロトコルを維持したまま、元の履歴の代わりに prepared.messages を送信します。API の例 · リファレンス。

その他のクライアント連携

uv run --no-project --python 3.12 install.py --check
uv run --no-project --python 3.12 install.py

python -m pip install -e '.[mcp]'
python -m tomc setup --client cursor --link

uv sync --locked --directory "/absolute/path/to/extracted"
claude mcp add tomc-memory --scope user -- uv run --locked --directory "/absolute/path/to/extracted" src/server.py

**Windows、macOS、Linux、および Claude Code でテスト済みです。**3 つのシステムすべてでインストールとツールの確認に合格しました。実際のモデル呼び出しは、Codex ではWindows の preview.4と macOS で、Claude Code では Claude Opus 5.5 を使用して成功しました。Claude Desktop、Cursor、Codex アプリでの GUI インストールは、まだ検証されていません。プラットフォームの確認状況と日付

使用上のヒント（英語） · 使用上のヒント（中国語） · Windows のインストールに関するフィードバック · インストールガイド全文 · 検証記録 · Claude のチェックサム · Codex のチェックサム.

アシスタントを切り替えても、プロジェクトのメモはそのまま

Codex にプロジェクトの概要を保存し、Claude Code で作業を続けて、更新したメモを戻します。両方のクライアントに TOMC をインストールし、両方のサーバーが同じ SQLite ファイルを開くようにします。保存と呼び出しは、いずれも明示的なツール呼び出しです。共有パスの設定。

ノートブックには元のメモと追記した更新が保持され、呼び出しによって次のタスク向けにその履歴が準備されます。共有されるのは保存済みのメモであり、各クライアント固有のチャット履歴の移行や、デバイス間のクラウド同期ではありません。MCP の相互運用性とユーザー主導の確認。

API リクエストの自動ループ

既存の同期型 Chat Completions 呼び出しの前に AutomaticChatSession を使います。デフォルトでは、キャッシュに適した安定したプレフィックス（リクエストに収まらなくなるまで、コンパイル済みメモは同一に保たれます）、キャッシュされたモデルの上限、1 回限りのウィンドウ境界でのバックオフ、ネイティブ圧縮後の短いクールダウンを利用できます。変更されるのは送信する古い履歴の表示だけです。元の履歴、指示、直近のメッセージ、ツールプロトコルは呼び出し元に保持されます。デフォルトの語彙ベースのパッキング処理では、プレフィックスの繰り返しスキャンが発生しないようになりました。34 モデルのコンテキスト容量スナップショット。インストール済みの MCP プラグインがクライアント内蔵のリクエストを横取りするわけではなく、ネイティブクライアントやモデルでの受け入れを主張するものでもありません。

API 呼び出しの前に使う

このチェックアウトから python -m pip install -e . でコアパッケージをインストールします。履歴を準備し、prepared.prompt を確認したうえで、既存のチャット補完クライアントを使って prepared.messages を送信します。

from tomc import prepare_context

prepared = prepare_context(history, task)
response = client.chat.completions.create(
    model=model,
    messages=prepared.messages,
)

ここでの history、task、client、model は、アプリケーションに既存の入力とクライアントです。このリクエストでは元の履歴を置き換えてください。準備済みコンテキストを元の履歴に追加すると、入力が増えます。アプリケーションに必要な指示は保持してください。他のテキスト API では、メッセージをプロバイダーの形式に変換します。TOMC はモデルの重みを変更せずにリクエストテキストを変更します。API ガイドとトークンのカウント。

実測した削減量

Windows Codex · gpt-6.1-sol

各予算で45/45問に正解。 約10K、20K、40Kの履歴トークンを含む9つの合成チームチャット履歴（各3シード）で、Windows Codex 0.160.0は各履歴について、最新のプロジェクト状態に関する5つの質問に回答しました。元のモデル、ultra の推論レベル、インストール済みプラグインはそのまま使用しました。TOMCは、新しい回答用チャットを始める前に、インストール済みのMCPツールを通じてコンテキストを準備しました。

入力はCodexが報告した合計値で、キャッシュ済み入力、ホストの指示、ツール定義が含まれます。削減率は、9件の履歴それぞれについて算出したペア比較の比率の平均であり、表中の平均値の比率ではありません。この数値は、各履歴と条件につき1回の回答ターンを対象としています。チャット内でモデルに準備や想起をさせる場合は、ターン数が増えます。準備したすべてのコンテキストでは、コンパイル済みの操作記録を使わず、tomc_raw によるソース選択を使用しました。これは合成データにおける最新状態の検索をテストするものであり、一般的なコーディング品質を評価するものではありません。英語版レポート · 中国語版レポート · 記録データ · 予算のヒント。全履歴のリクエストでは、TOMCをインストールし、既存のプラグインをすべて有効にした同じプロファイルを使用しました。この表は、テストハーネスにおける各条件1回の回答ターンを対象としています。エージェントのワークフロー全体では、ターン数が増える場合があります。

Claude Code · Claude Opus 5.5

約10K、20K、40Kトークンの合成チームチャット履歴を使って、数十から数百の状態更新や、よく似た紛らわしい情報を含む環境で、Claude Opus 5.5が最新のプロジェクト状態に関する5つの質問に回答しました。TOMCが履歴の40%を保持した場合、5つすべての回答が全履歴の場合と一致しました。回答リクエストのコストは次のとおりです。

Claude Codeのデフォルト予算の確認。 budget を指定しない場合、TOMCは履歴の推定トークン数の約80%を保持します（最低1,024トークン。短い履歴はそのまま保持されます）。各長さで異なる3つの履歴を使ったところ、Claude Opus 5.5は45問すべてに正解し、入力を約20%削減しました。50%、60%、70%を保持する設定でも45問すべてに正解し、削減率はそれぞれ約49%、39%、30%でした。さらに小さい予算では、古い値を回答するようになりました。10～20%を保持する設定では、5問中3問または4問に正解しました。小さい budget を指定する前に、自分のタスクのサンプルで全履歴と比較して確認してください。これらは、Claude CodeとCodexのテストとは別のリクエストワークフローで、単一のモデルを使った合成履歴です。検証記録 · 予算のヒント

アシスタントプラグインは、コンテキスト準備用のツールを提供します。すべてのAPIリクエストを傍受したり、アクティブなチャットにすでにあるメッセージを消去したりするものではありません。小さいリクエストを使うには、アプリケーションから準備済みのコンテキストを送信するか、それを新しいチャットに渡してください。ノートブックへの保存は任意です。

コンテキストを準備する

インストール後、アシスタントに TOMC の prepare_context ツールを呼び出すよう依頼してください。以下のテキストを history として渡し、task を "What are the current framework and backup_framework values?"、budget を 64 に設定してから、返されたメモリーを使って回答するようアシスタントに依頼します。

framework = Flask
backup_framework copies framework
framework = FastAPI
Monday notes: the team reviewed the project backlog, discussed deployment windows and agreed to keep the public API routes and response fields unchanged during the refactor.
Tuesday notes: the migration plan still needs a review from the database owner, and the pagination tests have not yet been written or run.
Wednesday notes: the team checked the release checklist, added a rollback task, and postponed the documentation update until after the test results are available.

この例では、値を明示的に割り当て、スナップショットのコピーを使っています。TOMC は framework = FastAPI と backup_framework = Flask を、ソースへのリンクとともに準備します。ツールの使用はホストが制御し、既存のモデルが回答を生成します。

同じ指示とタスクを使った場合、この例のメッセージテキストは cl100k_base で 147 トークンから 108 トークンになります。これは、プロバイダーのチャット形式やツールを除いたメッセージ本文のカウントです。あくまで単一の例であり、課金対象の使用量でも、一定の削減率でもありません。オフラインで語彙ベースの推定を行うには python examples/api_context.py を実行するか、BPE によるカウントについては API ガイドを参照してください。

prepare_context はこの履歴を保存しません。すでに予算内に収まる履歴はそのまま保持され、長い文章には、型付きレコードの代わりに検索を利用できます。budget は語彙ベースのカウンターにおけるメモリーを対象としており、タスクのテキストとツール形式によるオーバーヘッドは別途加わります。

デモを試す

デモでは、TOMC がタスク用のコンテキストをどのように準備するかを示します。チャット間でノートブックは作成されません。

ローカルで実行する

Gradio インターフェースには Python 3.10～3.13 が必要です。リポジトリをクローンします。

git clone https://github.com/ZipengWu365/TOMC.git && printf '\n%s\n%s\n' \
  'If TOMC helps with your work, consider a Star on GitHub (optional):' 'https://github.com/ZipengWu365/TOMC'
cd TOMC

macOS では、まず python3 --version を確認してください。システムの Python 3.9 では TOMC を実行できません。UV のインストールが済んでいれば、Python 3.12 を用意してデモを直接起動できます。

uv run --python 3.12 --extra demo python -m demo.app

または、以下の環境構築手順で、すでにインストールされている互換性のある Python を使用します。macOS ガイド。

Linux／macOS では、UVを使って Python を管理し、システムに venv／ensurepip モジュールがない問題を避けてください。以下のコマンドは Linux の検証に合格しています。

uv venv --python 3.12 --seed .venv
source .venv/bin/activate

システムの Python を使う場合は、python3 -m venv .venv を実行し、上記の手順で有効化してください。Debian／Ubuntu では、対応する python3-venv パッケージが必要です。コマンドの失敗後に不完全な環境が作成されている場合は、uv venv --python 3.12 --allow-existing --seed .venv で復旧できます。

または、Python 3.12 がインストールされた Windows PowerShell で実行します。

py -3.12 -m venv .venv
.venv\Scripts\Activate.ps1

続いて、デモをインストールして起動します。

python -m pip install -e '.[demo]'
python -m demo.app

1. http://127.0.0.1:7860 を開き、Use now を選択します。
2. Try demo をクリックしてサンプルを準備するか、履歴を貼り付けて次のタスクを入力し、Prepare をクリックします。
3. コピーアイコンで準備したプロンプトをコピーし、普段使用しているモデルに貼り付けます。

テキスト、Markdown、メッセージ JSON、JSONL に対応しています。インストール後は、ローカルでの準備をオフラインで行えます。準備したプロンプトを使うと、モデルが回答を生成します。デフォルトのデモではリーダーへの API 呼び出しは行われません。ホストされたプレビューでは、入力は Space サーバーで処理されます。

ガイド付きの例には 30-second tour、戦略の比較には Workbench、アーカイブされた論文の結果を見るには Research evidence を使用してください。デスクトップ表示 · モバイル表示。

新規ダウンロードは、Python 3.12.13 を使用した Ubuntu 24.04.5 で、Linux のインストールとブラウザーのチェックに合格しました。レポートには、スクリーンショット、プラグインのチェック、インストールに関するフィードバックが含まれています。

実用的なヒント

• まずは Try demo と、その Small request の例から始めてください。一般的な文章では Balanced または More detail を試し、予算を減らす前に保持されたソースを確認してください。
• 次の API リクエストでは、元の履歴ではなく、準備したメッセージを送信してください。手動で使う場合は、プロンプトを新しいチャットに貼り付けてください。既存の長いチャットに追加すると、そのチャットの以前の入力が残ります。
• タスクの質問は具体的にしてください。履歴やメモリのサイズを変更した後は特に、状態の記録とソーステキストを確認してください。トークン表示はメッセージ内容の推定値であり、プロバイダーへの請求額ではありません。
• プラグインを使う場合は、インストールディレクトリと Python 環境をそのまま維持してください。クライアントごとに TOMC の登録を 1 つ使用してください。ローカルパスを含む設定ではなく、元のパッケージを共有してください。Linux レポートでは、検証と復旧について説明しています。

パート 2 · 論文の解説

論文のタイトルは Task-Oriented Memory Compilation: Executable State Representations for Long-Context Language Models です。arXiv へのリンクは近日中に追加予定です。このセクションでは、その手法とアーカイブされた結果を解説します。

論文では、GPT-5.1、Rednote preview、DeepSeek V4.1 Flash が API リーダーモデルです。各 TOMC 比較では、ベースラインと TOMC で同じリーダーを使用しています。プラグイン試験では、Codex と Claude Code がアシスタントのホストであり、それぞれ gpt-6.1-sol と Claude Opus 5.5 を使用しています。これらの試験は論文のベンチマークとは別です。リーダーモデルとエージェントホスト

TOMC が計算する内容

長い会話には、変更された事実、以前のコピー、メッセージ間に散らばった証拠が含まれます。TOMC は LLM を呼び出す前に、現在の質問に向けてメモリを準備します。状態、関係、または件数のレコードを計算し、トークン予算内で選択したソーステキストと組み合わせます。

CPU 上で構築 · トレーニングや補助的なニューラルモデルは不要 · プレーンテキスト出力 · 研究プレビュー

原稿に基づく手法の概要です。デモでは小規模な参照パーサーを使用しています。手法のドキュメントでは、ベンチマーク実装との違いを説明しています。

履歴に次の更新が含まれているとします。

drink = tea
backup_drink copies drink
drink = decaf tea

現在の値は drink = decaf tea であり、backup_drink = tea にはコピー時点の値が保持されています。TOMC はこれらの操作を順番に実行し、生成されたレコードをソースの行に関連付けます。

from tomc import compile_memory

result = compile_memory(
    messages="drink = tea\nbackup_drink copies drink\ndrink = decaf tea",
    query="What are the current drink and backup_drink values?",
    token_budget=128,
    strategy="tomc",
)
print(result.compiled_memory)
print(result.ledger)  # records and their sources

全例を実行するには python examples/snapshot.py を実行してください。この例では seat も追跡します。この例ではコピーのセマンティクスを示します。ソースラベルによってトークン数が増加しますが、回答の品質を測定するものではありません。

関係や件数も同じ考え方に従います。メモリをリーダーに渡す前に、質問に必要な操作を計算します。理由、引用、または状態レコードでは表現できないその他の詳細に関する質問には、ソースの表現をそのまま残します。

同じリーダーでのベースラインメモリと TOMC メモリ

BEAM の研究では、GPT-5.1、Rednote preview、DeepSeek 4.1 Flash を使用して、100K、500K、1M、10M トークンの履歴に関する質問に回答します。各リーダーは、TOMC メモリ、または 6 種類のベースラインメモリ構成のいずれかを使って回答します。

• 品質： 500K、1M、10M では、TOMC はすべての リーダー × ベースライン × 長さの 54 比較で平均スコアが高く、全体の 18 比較すべてでも高いスコアを示しています。
• リーダーへの入力： 100K～10M では、全体の入力は LIGHT より 36.57％少なく、階層型 LLMLingua-2 より 37.38％少なくなっています。リーダーごとの変化を等しく平均しています。他の一部のベースラインでは、TOMC より入力が少なくなります。
• CPU 上での構築： 測定された TOMC の処理ステージは、6 回のリプレイで平均 4.21 秒／呼び出しとなり、CUDA 割り当ては 0 GiB、プロセスのピーク RSS は 3.75 GiBでした。記録されたステージでは、呼び出しごとの構築時間は BRIEF-Pro より 11.4 倍、LongLLMLingua より 17.1 倍短くなっています。これらはステージ時間の比率であり、リーダーの推論時間は含まれていません。

各ペアでは、同じリーダーが、名前が示されたベースラインまたは TOMC で構築したメモリを使って、条件をそろえた質問に回答します。ペア内では、採点条件もそろえています。

D/H は、それぞれ直接型／階層型の LLMLingua-2 を表します。全体の値は、各リーダーについてすべての長さにわたる有効なペアを集計したものです。行によってペアのセットとスコアリングプロトコルが異なるため、比較は各セル内で行ってください。平均スコアが高くても、統計的有意性が示されるわけではありません。入力の変化はベースラインに対する TOMC の値です。負の値はトークン数が少ないことを意味します。直接型 LLMLingua-2 の 1M 実行では空のメモリが 200 件生成されました。スコアには含めていますが、この入力削減は圧縮の成功とは見なしません。

10M は 2026-10-10 に追加されました。10 セッションからの BEAM 質問 200 件のうち、3,600 ペア中 3,596 ペアが有効で、匿名化された位置バランス型のペアワイズ評価基準でスコアリングしました。LLMLingua-2 の 10M の行はどちらも、空でないメモリを使用した修正版バッチの結果です。コンパイルなしの行は 100K～1M を対象としています。10M のアブレーションは現在も実行中です。10M のデータとスコアリング。

上部の比較では、リーダーごとに有効な 500K／1M の質問を集計し、その後、リーダー間の相対的な変化を平均しています。能力パネルでは、共通の有効な質問を使用し、長さごとの平均を均等に扱っています。すべての長さ、ペア数、プロトコル。

コンパイル済みレコードによって何が加わるのでしょうか？ BEAM の別個のアブレーションでは、レコードとそれに付随する指示を除き、ソーステキストと上流のルーティングを保持します。3 つすべてのリーダーで、コンパイルを行うと時間的推論のスコアが高くなります。一方、全体への影響はリーダーによって異なります。これはコンパイルあり／なしの比較であり、上記のベースライン表とは別のものです。

RULER 由来の診断では、状態追跡と、NIAH および QA2 に必要なソーステキストを調べます。修正版の NIAH ソース除去ペアの平均 F1 スコアは 87.28 / 82.26 で、除去後の入力は約 43%～44% 減少します。これは別個のペア再実行を使用しています。スコアは過去の Query の結果と合算していません。タスクの結果と制限事項。

原稿の図 3 です。パネル a、b では入力の参照として Query 選択を使用し、c、d では完全な TOMC／状態ルートを使用しています。修正版 NIAH ペアには † を付けています。VT は状態ルートの診断です。拡大版の 2×2 レビュー用レイアウト · 数値結果。

論文の構築コストに関する表 3には、測定された各段階の所要時間と CPU／GPU／RAM の対象範囲が記載されています。リーダーの推論は除外しています。図のソース。

エビデンスのスナップショットは、2026-09-28 に原稿のコミット 7399657 から同期されました。これらのスコアはベンチマークアダプターによって生成されています。デモでは、より小規模なパーサーと行レベルの BM25 を使用します。デモの rag は BEAM-RAG とは異なり、デモの hybrid ルーターは過去の Hybrid-RAG コントロールとは異なります。

戦略を選択する

文字列照合と入力制限

参照パーサーは、key = value、B copies A、x -[rel]-> y などの形式を認識します。エビデンスの選択とルーティングにも固定の字句ルールが使われます。言い換え、曖昧な名前、暗黙の更新、見慣れない形式では、エビデンスを見落としたり、不適切なルートが選ばれたりすることがあります。

構造化された状態には、ドキュメントに記載された構文を使用し、ソースリンクを確認してください。通常の文章には、検索を使用するか、ソーステキストを保持するルートを使用してください。これらの方法では有用なエビデンスを保持できますが、関連するすべての詳細が予算内に収まることを保証するものではありません。対応している操作 · 既知の制限事項。

トークン数

デモでは、デフォルトで字句的な推定値を表示します。メモリのカウントには、タスク、チャットのフレーミング、リーダーの出力、インスペクターは含まれません。オプションの tiktoken:cl100k_base は、そのエンコーディングでカウントします。プロバイダーの課金額とは異なる場合があります。retention_ratio は出力／入力を、compression_ratio は入力／出力を意味します。表示される価格は、ユーザーが指定した料金に基づきます。デフォルトのデモでは、リーダー API は呼び出されません。

Python から使用する

Python アプリケーションでは、既存のリーダー呼び出しの前に prepare_context(history, task) を呼び出してください。

リーダーのモデルはそのまま使えます。 TOMC は、テキストベースのあらゆる LLM API で使用できるテキストを返すほか、チャットインターフェースにコピーすることもできます。組み込みコネクターはチャット補完互換の API に対応しています。その他のプロバイダーでは、独自のクライアントとメッセージ形式を使用してください。メモリの構築にモデルの重みや API キーは必要ありません。回答の生成には、通常どおり選択したモデルを使用します。

History + current task → TOMC on CPU → prepared context → your existing LLM API

コアパッケージには Python 3.10 以降が必要で、ランタイム依存関係はありません。チェックアウトで有効化した環境から、python -m pip install -e . を実行してインストールしてください。

from tomc import prepare_context

context = prepare_context(
    "The workshop now has 28 attendees. Room B is available but not booked.",
    "What should we do next?",
)
print(context.prompt)  # paste into a chat interface
# Or pass context.messages to your existing chat-completions client.
# For other APIs, use context.prompt or map the messages to their input format.

結果を確認してデモを拡張する

python -m pip install -e '.[demo,dev,mcp]'
python -m pytest -q
python benchmarks/reproduce/current.py
python benchmarks/reproduce/results.py
python -m mkdocs build --strict

現在の結果を確認するスクリプトは、スナップショットのハッシュと集計計算を検証します。過去の結果を確認するスクリプトは、会話の集計値から以前の 4 つのリーダーの統計を再構成します。再現性では、各バッチで利用できる内容について説明しています。

独自のリーダーを実行するには、result.reader_messages(query) をクライアントに渡すか、オプションの API コネクターを使用してください。LLMLingua アダプターは別途インストールします。CONTRIBUTING.mdでは、チェック方法と、コンパイラーが正しく処理できない入力の報告方法を説明しています。

引用とライセンス

TOMCのソースコードとオリジナルの合成例は、MIT Licenseのもとで、商用利用、改変、再配布、他のプロジェクトへの統合を含め、自由に利用できます。ソフトウェアの複製または実質的な部分を配布する場合は、著作権表示とライセンス表示を保持する必要があります。フィードバック、貢献、協力を歓迎します。

TOMCが研究に役立った場合は、この論文を引用してください。引用は推奨されていますが、追加のライセンス条件ではありません。この論文はZipeng Wu、Yanjun Zhao、Fabian Spill、James Andrewsによるプレプリントです。arXivの識別子は、利用可能になり次第追加されます。CITATION.cffには、GitHubのこのリポジトリを引用ボタンと同じ情報が記載されています。フィードバックや協力については、Zipeng Wu（[email protected]）までお問い合わせください。

@misc{wu2026tomc,
  title  = {Task-Oriented Memory Compilation: Executable State Representations for Long-Context Language Models},
  author = {Wu, Zipeng and Zhao, Yanjun and Spill, Fabian and Andrews, James},
  year   = {2026},
  note   = {Preprint},
  url    = {https://github.com/ZipengWu365/TOMC}
}

例は合成データです。このリポジトリでは、質問文、読者の回答、非公開のAPIペイロードを含まない、数値によるベンチマーク集計データを配布しています。データの出所 · データとライセンス。