MemoryLake
엔지니어링 및 개발자큐 기반 에이전트 파이프라인을 위한 기억

큐 기반 AI 파이프라인에 모든 파이프라인 단계에서 공유 기억 제공

SQS, Kafka, RabbitMQ 또는 Pub/Sub를 기반으로 한 다단계 AI 파이프라인은 단계 간에 맥락을 잃습니다. 각 단계는 메시지에 맞는 것만 받습니다. MemoryLake는 큐 기반 파이프라인에 모든 단계에서 공유 기억을 제공하여 메시지가 이를 전달하지 않더라도 맥락이 흐르도록 합니다.

Day 1“SQS, Kafka, RabbitMQ 또는 Pub/Sub를 기반으로 한 다단계 AI”“파이프라인은 단계 간에 맥락을 잃습니다.”✓ Got it, I will remember.Day 7 — new session“Same task again — can you keep the context?”× Sure — what was the context again?(forgot every detail you taught it)+ MEMORYLAKE LAYERMemory auto-loaded단계 간 공유 기억파이프라인 범위의 기억 네임스페이스가벼운 큐 메시지SESSION OUTPUT✓ Same prompt, on-brand answerNo re-briefing required.

큐 기반 AI 파이프라인에 모든 파이프라인 단계에서 공유 기억 제공

무료로 시작하기

영구 무료 · 신용카드 불필요

문제: 큐 메시지는 충분한 맥락을 전달하지 않음

1단계에서 데이터가 풍부해졌습니다. 2단계는 그 풍부함과 사용자 이력이 필요합니다. 메시지가 커지고, 큐가 막힙니다. 또는 2단계가 데이터베이스에서 다시 가져옵니다 — 느리고, 비용이 많이 들며, 동기화되지 않습니다. 큐 파이프라인은 메시지 페이로드를 넘어서는 공유 기억이 필요합니다.

MemoryLake가 큐 기반 파이프라인을 지원하는 방법

단계 간 공유 기억

단계 간 공유 기억

각 단계는 동일한 네임스페이스에서 읽고 씁니다.

MEMORY파이프라인 범위의 기억 네…

파이프라인 범위의 기억 네임스페이스

파이프라인 및 엔티티별로 조직된 기억.

MEMORY가벼운 큐 메시지

가벼운 큐 메시지

메시지는 ID를 전달하고, 단계는 MemoryLake에서 맥락을 검색합니다.

단계 전환별 감사 추적

단계 전환별 감사 추적

단계 간 맥락 흐름을 추적합니다.

무료로 시작하기

영구 무료 · 신용카드 불필요

큐 기반 파이프라인 기억을 위한 작동 방식

  1. 연결 — 각 단계는 MemoryLake와 인증합니다.
  2. 구조화 — 1단계가 맥락을 기록하고, 이후 단계가 이를 검색합니다.
  3. 재사용 — 메시지는 가벼운 상태를 유지하고, 맥락은 공유 기억에 존재합니다.

전과 후: 큐 기반 AI 파이프라인 기억

DIY pipeline stateMemoryLake
Cross-stage contextStuffed in messagesShared memory
Message sizeBloats over stagesStays light
Stage-to-stage re-fetchCommonEliminated
Audit pipeline flowCustomMemory provenance

대상

SQS, Kafka, RabbitMQ, Pub/Sub에서 다단계 AI 파이프라인을 운영하는 엔지니어링 팀 — 큐 페이로드 제한과 재검색 오버헤드가 파이프라인 품질과 비용을 저하시킬 때.

실행 가능한 데모약 3분

이 사용 사례를 내 계정에서 직접 실행하기

1단계는 고객이 요청한 내용을 메모리에 쓰고 큐에 가벼운 메시지를 올립니다. 2단계는 1초 뒤 메시지를 받아 무엇을 할지 메모리에 묻습니다. 그런데 MemoryLake는 대화 메시지를 백그라운드에서 10~77초에 걸쳐 읽기 때문에, 2단계는 쓰기 이전의 메모리를 읽고 예전 리전·연락처·좌석 수대로, 맞을 때와 똑같이 확신에 차서 처리합니다. 추출이 끝나길 기다리면 고쳐지지만 느리고, 결과를 팩트로 쓰고 그 id를 메시지에 넣으면 큐의 속도로 고쳐집니다.

보게 될 것

  • 고객 8곳(6곳은 값 하나 변경, 2곳은 대조군)을 각자 메모리를 가진 세 파이프라인에 통과: A는 메모를 추가(conv msg append)하고 즉시 큐에 넣음, B는 conv consumed-messages + cook_finished를 기다린 뒤 넣음, C는 fact add로 날짜가 든 결과 팩트를 쓰고 팩트 id를 큐 메시지에 넣음
  • 7회 실행에서 2단계가 변경된 고객의 새 값을 읽은 횟수: A 0 / 126(옛 값 126회, +1.8초에 읽음), B 126 / 126(중앙값 +37.3초), C 126 / 126(+2.4초)
  • 기다림에는 두 번째 비용도 있다: 추출이 메모를 고객 이름 없는 팩트("New environments must be created in eu-central")로 썼고 MemoryRouter가 이를 다른 고객의 질문에 붙여, B의 대조군은 36 / 42회, A와 C는 42 / 42회 정답
  • 2단계는 MemoryRouter로 읽음(router chat --boundary, 동시에 3회, 빈 검색 기준선); 메모리에 무엇이 들어갔는지 조사, memory·ask 하위 명령, 로컬 웹 UI

필요한 것: MemoryLake API 키 · memorylake CLI · Python 3.9+

실행

git clone https://github.com/memorylake-ai/memorylake-usecases.git
cd memorylake-usecases/stage-handoff-memory
export MEMORYLAKE_API_KEY=sk-…
python3 demo.py          # or: python3 web/server.py

실행 영상 보기 · 실제 녹화, 편집 없음

관련 사용 사례

자주 묻는 질문

큐 플랫폼 지원?

SQS, Kafka, RabbitMQ, Pub/Sub, Redis Streams — 모두 지원됩니다.

규모에서의 처리량?

높은 처리량에서 테스트됨; 네임스페이스별 동시성.

자체 호스팅?

예 — 엔터프라이즈 계층이 귀하의 VPC에 배포됩니다.