MemoryLake
エンジニア & 開発者キュー駆動型エージェントパイプラインのための記憶

キュー駆動型AIパイプラインに各パイプラインステージ間で共有記憶を提供

SQS、Kafka、RabbitMQ、またはPub/Subに基づくマルチステージAIパイプラインは、ステージ間でコンテキストを失います。各ステージはメッセージに収まるものだけを受け取ります。MemoryLakeは、キュー駆動型パイプラインに各ステージ間で共有記憶を提供します。これにより、メッセージがコンテキストを運ばなくても、コンテキストが流れます。

Day 1“SQS、Kafka、RabbitMQ、またはPub/Subに基づくマルチステージAIパイプラインは、ステージ間でコンテキストを失います。各ステージはメッセージに収まるものだけを受け取ります。MemoryLakeは、キュー”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loadedステージ間の共有記憶パイプラインスコープの記憶名前空間軽量なキューメッセージSESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

キュー駆動型AIパイプラインに各パイプラインステージ間で共有記憶を提供

無料で始める

永続無料 · クレジットカード不要

問題: キューのメッセージは十分なコンテキストを持たない

ステージ1はデータを強化しました。ステージ2はその強化に加えてユーザーの履歴が必要です。メッセージは膨らみ、キューは詰まります。あるいは、ステージ2はデータベースから再取得します — 遅く、高価で、同期が取れません。キューのパイプラインはメッセージペイロードを超えた共有記憶が必要です。

MemoryLakeがキュー駆動型パイプラインをサポートする方法

ステージ間の共有記憶

ステージ間の共有記憶

各ステージは同じ名前空間に読み書きします。

MEMORYパイプラインスコープの…

パイプラインスコープの記憶名前空間

パイプラインごと、エンティティごとに整理された記憶。

MEMORY軽量なキューメッセージ

軽量なキューメッセージ

メッセージはIDを運び、ステージはMemoryLakeからコンテキストを取得します。

ステージ遷移ごとの監査トレイル

ステージ遷移ごとの監査トレイル

ステージ間のコンテキストフローを追跡します。

無料で始める

永続無料 · クレジットカード不要

キュー駆動型パイプライン記憶の仕組み

  1. 接続 — 各ステージはMemoryLakeで認証します。
  2. 構造 — ステージ1がコンテキストを書き込み、後のステージが取得します。
  3. 再利用 — メッセージは軽量のまま、コンテキストは共有記憶に存在します。

前後比較: キュー駆動型AIパイプラインの記憶

DIY pipeline stateMemoryLake
Cross-stage contextStuffed in messagesShared memory
Message sizeBloats over stagesStays light
Stage-to-stage re-fetchCommonEliminated
Audit pipeline flowCustomMemory provenance

対象者

SQS、Kafka、RabbitMQ、Pub/Sub上でマルチステージAIパイプラインを運用しているエンジニアリングチーム — キューのペイロード制限と再取得のオーバーヘッドがパイプラインの品質とコストを低下させている場合。

実行できるデモ約 3 分

このユースケースを自分のアカウントで試す

ステージ 1 が顧客の依頼内容をメモリに書き込み、キューに軽いメッセージを置きます。ステージ 2 は 1 秒後にそれを受け取り、何をすべきかメモリに尋ねます。しかし MemoryLake は会話メッセージをバックグラウンドで 10〜77 秒かけて読むため、ステージ 2 は書き込み前のメモリを読み、古いリージョン・連絡先・席数のまま、正しいときと同じ自信で処理してしまいます。抽取の完了を待てば直りますが遅く、結果をファクトとして書き、その id をメッセージに入れればキューの速さで直ります。

見られるもの

  • 8 社(6 社が値を 1 つ変更、2 社は対照)を、それぞれ専用メモリを持つ 3 本のパイプラインに通す:A はメモを追記(conv msg append)して即エンキュー、B は conv consumed-messages と cook_finished を待ってからエンキュー、C はさらに fact add で日付入りの結果ファクトを書き、ファクト id をキューメッセージに入れる
  • 7 回の実行で、ステージ 2 が変更済み顧客の新しい値を得たのは A 0 / 126 回(古い値 126 回、+1.8 秒で読み取り)、B 126 / 126(中央値 +37.3 秒)、C 126 / 126(+2.4 秒)
  • 待つことには別のコストもある:抽取がメモを顧客名のないファクト(「New environments must be created in eu-central」)として書き、MemoryRouter がそれを別の顧客の質問に添付したため、B の対照は 36 / 42 回、A と C は 42 / 42 回正解
  • ステージ 2 は MemoryRouter 経由で読む(router chat --boundary、同時に 3 回読み取り、空検索のベースライン付き);メモリ内容の調査、memory と ask サブコマンド、ローカル Web UI

必要なもの: MemoryLake の API キー · memorylake CLI · Python 3.9 以上

実行する

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/stage-handoff-memory
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py

動作を見る · 実際の録画、未編集

関連するユースケース

よくある質問

キュー プラットフォームのサポートは?

SQS、Kafka、RabbitMQ、Pub/Sub、Redis Streams — すべてサポートされています。

スケールでのスループットは?

高スループットでテスト済み; 名前空間ごとの同時実行性。

セルフホストは可能ですか?

はい — エンタープライズティアはあなたのVPCにデプロイします。