コンピュートスタックにマッチする記憶テレメトリーでエージェントオペレーションを実行
オペレーションチームは、コンピュート、ネットワーキング、ストレージのための豊富なテレメトリーを持っています。記憶は遅れています。MemoryLakeは、プロダクショングレードの記憶テレメトリーを発信します — 利用率、ヒット率、成長、エビクション、レイテンシ分布 — これにより、記憶は第一級の運用上の懸念事項となり、謎ではなくなります。
問題: 記憶テレメトリーなしのエージェントオペレーションは盲目
コンピュートグラフは健康的なGPU使用を示しています。ネットワークグラフは通常のトラフィックを示しています。エージェントの品質が低下しており、誰もその理由を知りません。記憶はテレメトリーなしで運用されてきました — ユーザー向けの行動を駆動する層は最も見えないものです。
MemoryLakeが記憶テレメトリーを提供する方法
標準メトリクスがすぐに利用可能
ヒット率、ミス率、p50/p95/p99レイテンシ。
成長とエビクションのテレメトリー
ワークスペースごとの記憶量、アーカイブ率、エビクション率。
取得ごとのコストメトリクス
トークンコスト、ネットワークコスト、ストレージコスト。
アラート統合
PagerDuty、Opsgenie、カスタムWebhook。
永続無料 · クレジットカード不要
エージェントオペレーションテレメトリーの仕組み
- 接続 — メトリクスエクスポーターを設定します。
- 構造 — メトリクスは記憶操作ごとに自動的に発信されます。
- 再利用 — 標準のアラートとダッシュボード。
ビフォー vs アフター: エージェント記憶オペレーションテレメトリー
| DIY memory | MemoryLake | |
|---|---|---|
| Memory metrics | None | Comprehensive |
| Alerting on memory anomalies | DIY | Built in |
| Memory cost visibility | Hard | Per-tenant |
| SRE-grade memory dashboards | Custom | Out of the box |
対象者
プロダクションエージェントの信頼性を担当するSREおよびプラットフォームエンジニアリングチーム — コンピュートとネットワークのために持っているものにマッチする記憶メトリクスが必要です。
このユースケースを自分のアカウントで試す
Bramblecrest Outfitters は 1 つの共有サポートメモリに対して 4 つのジョブを動かします。intake エージェントがランブックを取り込み、scribe が有効期限(TTL)付きのメモを固定し、answer エージェントが顧客の質問に答え、保持ジョブが期限切れのメモを削除します。2 回目のパスで answer エージェントは質問の半分を外します。デモはジョブごとの時間窓ですべてのメモリ操作を計測し、アラートルールを評価し、新しいミスそれぞれを原因まで追跡し、ジョブごとに MemoryLake 自身の利用記録を読み戻します。
見られるもの
- 他のスタックと並べて見るメモリ指標:操作ごとの p50 / p95 レイテンシ、検索ヒット率、保持事実数、ドキュメント数、削除数を Prometheus テキスト(
out/metrics.prom)とout/alerts.jsonに出力 - 保持ジョブは scribe が書いたメタデータで削除(
fact listのあと、noted + ttl_days を過ぎたものにfact delete):事実 6 → 1、レイテンシは変わらずヒット率が 1.00 から 0.50 に低下 - 3 つのアラートルール:
MemoryHitRatioLowとMemoryFactsDroppedが発火、SearchLatencyHighは ok。新しいミス 3 件はすべてkind=ticket, ttl 7dと誤ってラベル付けされ削除された事実に追跡でき、11 回中 11 回同じ結果 - MemoryLake 側から見たコスト:
usage records --start-time --end-timeが各ジョブの時間窓で課金されたプラットフォーム操作とトークンを一覧表示。記録はまとめて、1 時間以上遅れて届きます。未着の窓はデモがそう表示し、python3 demo.py telemetryで後から読み直せます。ローカル Web UI 付き
必要なもの: MemoryLake の API キー · memorylake CLI · Python 3.9 以上
実行する
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/memory-telemetry export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
動作を見る · 実際の録画、未編集
関連するユースケース
よくある質問
Prometheusサポートはありますか?
Prometheusサポートはありますか?
はい — Prometheusエクスポーターが組み込まれています。
カスタムメトリクスはありますか?
カスタムメトリクスはありますか?
はい — カスタムラベルと集計を定義できます。
セルフホストは可能ですか?
セルフホストは可能ですか?
はい — エンタープライズティアはあなたのVPCにデプロイします。