スケール向けに構築された記憶アーキテクチャで高ボリュームエージェントワークロードを実行する

あなたはPostgres + Redisで10,000ユーザーに出荷しました。記憶は機能しました。100,000ユーザーに達すると書き込みが遅れ始めました。1Mユーザーでは、取得がタイムアウトします。プロトタイプで機能したアーキテクチャはスケールで崩れ、書き直しにはエンジニアリング時間の四分の一がかかります。

1. 接続 — アーキテクチャはスケールを透過的に処理します。
2. 構造 — テナントとネームスペースは自動的にシャードされます。
3. 再利用 — 読み取りと書き込みはエンジニアリングの介入なしでスケールで提供されます。

記憶アーキテクチャがボトルネックになりつつあるスケールに近づいているエージェントSaaSまたはAIプラットフォームのエンジニアリングリーダー — そして書き直しが既知の複数四半期のコストである場合。