에이전트 기록 요약 중지. 대신 구조화된 기억 검색하기.
요약 버퍼는 제한된 컨텍스트 창을 위한 우회 방법이었습니다. 적절한 기억 아키텍처를 통해 검색은 모든 지표에서 요약을 능가합니다: 충실도, 비용, 대기 시간, 디버깅 가능성. MemoryLake는 구조화된 검색을 기본값으로 설정하며, 요약은 선택 사항입니다.
문제: 요약-기억은 우회 방법이었지만 아키텍처가 되었습니다
긴 기록은 컨텍스트 창에 맞지 않아서 팀은 요약했습니다. 요약은 세부 정보를 잃었고, 그래서 그들은 덜 공격적으로 요약했습니다. 요약 체인은 아키텍처가 되었습니다. 이제 이를 변경하는 것은 비용이 많이 드는 것처럼 느껴집니다. 하지만 요약을 유지하는 비용은 더 높습니다.
MemoryLake가 요약을 검색으로 대체하는 방법
타입화된 기억은 요약의 혼란을 능가합니다
관련성에 따라 검색된 특정 사실, 사건 및 반영.
토큰 효율적인 검색 블록
일반적인 요약보다 작고, 더 유용합니다.
요약이 할 수 없는 충돌 감지
모순이 드러나고; 요약은 이를 부드럽게 만듭니다.
검색된 항목별 출처
어떤 기억이 어떤 출력을 이끌었는지 감사합니다.
영구 무료 · 신용카드 불필요
검색 우선 에이전트 기억을 위한 작동 방식
- 연결 — 요약 체인을 MemoryLake의 턴당 쓰기로 교체합니다.
- 구조화 — 기억 쓰기는 내용에 따라 타입화됩니다.
- 재사용 — 턴당 검색이 관련 기억을 끌어옵니다.
전과 후: 요약 대 구조화된 검색
| Summary buffer | MemoryLake retrieval | |
|---|---|---|
| Fidelity | Lossy | Verbatim |
| Token cost | Grows with summary size | Compact, constant |
| Latency | Summary chain per turn | One retrieval call |
| Debuggability | Limited | Memory provenance |
대상
요약 기반 기억으로 운영 에이전트를 실행하는 엔지니어링 팀으로, 우회 방법이 아키텍처가 되었음을 깨닫고, 유지하는 비용이 전환하는 비용보다 더 높다는 것을 이해하는 팀.
이 사용 사례를 내 계정에서 직접 실행하기
플랫폼 엔지니어와 팀 AI 어시스턴트의 12번의 세션을 두 가지 메모리에 넣습니다. 세션마다 앱이 갱신하는 롤링 요약("keep the summary under 150 words")과, 각 세션을 대화로 넣어 추출이 사실로 바꾸는 MemoryLake입니다. 요약은 예산을 무시하고 길어지다가, 어느 한 번의 압축에서 짧아지면서 여러 세션을 통째로 잃습니다. 내일로 잡힌 큐 전환 일정을 물으면 어시스턴트는 솔직하게 "It is not recorded"라고 답합니다. 검색은 값을 지키고, 요약보다 적은 토큰을 붙입니다.
보게 될 것
- 실행마다 독립된 요약 체인 3개(같은 모델·프롬프트·입력)와 MemoryLake 프로젝트 1개: 각 세션은 DIRECT 대화이며 다음 세션 전에 추출되고
router chat --boundary로 읽힘 - 9회 실행에서 요약 체인 27개 중 23개가 한 번의 압축으로 값 4–12개를 잃었고, 예산을 지킨 체인은 없음(160–608단어)
- 첫 주의 구체적인 값 18개를 물었을 때(gpt-4o-mini, temperature 0) 요약은 247/486 정답("It is not recorded" 238회), MemoryLake는 315/324 — 질문당 프롬프트 토큰 172 대 522
- 세션별 체인 길이·보존 값 추적,
summaries·memory·ask하위 명령, 로컬 웹 UI
필요한 것: MemoryLake API 키 · memorylake CLI · Python 3.9+
실행
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/rolling-summary-memory export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
실행 영상 보기 · 실제 녹화, 편집 없음
관련 사용 사례
자주 묻는 질문
요약이 괜찮은 경우는 언제인가요?
요약이 괜찮은 경우는 언제인가요?
UI 표시를 위해, 에이전트 검색을 위해서는 아닙니다.
마이그레이션 비용은?
마이그레이션 비용은?
일반적으로 타입화된 검색으로 요약 버퍼를 교체하는 데 하루가 걸립니다.
자체 호스팅?
자체 호스팅?
예 — 엔터프라이즈 티어는 귀하의 VPC에 배포됩니다.