MemoryLake
엔지니어링 및 개발자생산 에이전트를 위한 기억 관측 가능성

구축할 필요 없는 기억 관측 가능성으로 생산 에이전트를 실행하세요

Datadog에서 모델 호출을 볼 수 있습니다. OpenTelemetry에서 도구 호출을 볼 수 있습니다. 기억은 블랙 박스였습니다. MemoryLake는 즉시 사용할 수 있는 생산 등급의 기억 관측 가능성을 제공합니다 — 메트릭, 추적 및 액세스 로그.

Day 1“OpenTelemetry에서 도구 호출을 볼 수 있습니다.”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loaded검색당 메트릭분산 추적 통합액세스 로그SESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

구축할 필요 없는 기억 관측 가능성으로 생산 에이전트를 실행하세요

무료로 시작하기

영구 무료 · 신용카드 불필요

문제: 생산 에이전트에서 기억은 불투명했습니다

귀하의 APM 도구는 모델을 봅니다. 기억 검색은 보지 않습니다. 기억 버그가 발생하면 어떤 항목이 반환되었는지, 어떻게 순위가 매겨졌는지, 또는 그 이유에 대한 텔레메트리가 없습니다. 기억 계층은 생산 에이전트 인프라의 마지막 관측되지 않은 계층입니다.

MemoryLake가 기억 관측 가능성을 제공하는 방법

검색당 메트릭

검색당 메트릭

지연 시간, 적중률, 토큰 출력, 검색 수.

MEMORY분산 추적 통합

분산 추적 통합

OpenTelemetry 호환 추적.

MEMORY액세스 로그

액세스 로그

모든 읽기 및 쓰기가 출처와 함께 기록됩니다.

기억 건강 대시보드

기억 건강 대시보드

기억 성장, 퇴출 및 적중률에 대한 내장된 보기.

무료로 시작하기

영구 무료 · 신용카드 불필요

기억 관측 가능성을 위한 작동 방식

  1. 연결 — MemoryLake와 함께 관측 가능성 스택을 인증합니다.
  2. 구조화 — 메트릭과 추적이 자동으로 흐릅니다.
  3. 재사용 — 다른 계층과 마찬가지로 기억에 대한 대시보드 및 경고.

이전 vs. 이후: 생산 에이전트 기억 관측 가능성

DIY memoryMemoryLake
Memory latency telemetryNonePer-retrieval
Memory access tracesNoneOTel-compatible
Memory growth alertsNoneBuilt-in dashboards
Per-retrieval debuggingHardMemory provenance

대상

스택의 다른 모든 계층에서 가지고 있는 것과 일치하는 기억 계층 텔레메트리가 필요한 생산 에이전트를 운영하는 엔지니어링 및 SRE 팀.

실행 가능한 데모약 4분

이 사용 사례를 내 계정에서 직접 실행하기

결제 플랫폼 팀은 런북 6개를 공유 메모리에 저장하고, 온콜 어시스턴트는 MemoryRouter를 통해 그 내용으로 답합니다. 일부 호출은 아무것도 첨부되지 않은 채 돌아오지만, 응답은 그 사실을 전혀 알려 주지 않습니다. 일반 프롬프트에서는 모델이 그래도 답합니다("결제 웹훅 로그는 90일간 보관합니다"). 흔한 해결책인 "모르면 'No record.'라고 답하고 추측하지 말 것"은 지어내기를 일부 막지만, 검색 누락까지 "No record"로 바꿔 버리고, 그 답은 어떤 런북에도 없는 질문에 대한 답과 똑같이 읽힙니다. 앱은 둘을 구분할 수 있습니다. 각 호출의 프롬프트 토큰에서 boundary 없는 같은 호출의 토큰을 뺀 값이 MemoryRouter가 첨부한 내용입니다. 검색 결과가 비었을 때 앱은 직접 런북을 검색하고, 그 페이지를 붙여 다시 묻고, 답의 출처를 표시합니다.

보게 될 것

  • 런북 6개를 MemoryLake에 가져오기; search --types document --top-k 1은 런북으로 답할 수 있는 8개 질문 모두에서 올바른 런북을 찾으므로, 답은 메모리에 있습니다
  • 검사기(router messages)가 질문마다 MemoryRouter가 무엇을 첨부했는지 보여 줍니다: 런북 한 페이지, 또는 아무것도 없음
  • 질문 10개를 router chat --boundary(gpt-4o-mini)로 각 3번씩, 총 6회 실행: 일반 프롬프트 180번 중 82번 정답(지어낸 답 98번, 모두 아무것도 첨부되지 않은 호출); "추측하지 말 것" 180번 중 100번(여전히 지어낸 답 49번; "No record" 49번, 그중 31번은 런북으로 답할 수 있는 질문); 앱이 첨부 토큰을 확인하고 비었을 때 자체 검색으로 보완하면 180번 중 177번, 지어낸 답 0
  • 그 밖에 질문 하나의 첨부 토큰과 답의 출처를 보여 주는 ask 하위 명령, 검색별 지표, 로컬 웹 UI

필요한 것: MemoryLake API 키 · memorylake CLI · Python 3.9+

실행

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/empty-retrieval-memory
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py

실행 영상 보기 · 실제 녹화, 편집 없음

관련 사용 사례

자주 묻는 질문

OpenTelemetry 지원?

예 — 네이티브 OTel 내보내기.

Datadog 통합?

예 — Datadog 및 주요 APM 지원.

자체 호스팅?

예 — 엔터프라이즈 계층이 귀하의 VPC에 배포됩니다.