상태를 실제로 유지하는 기억 패턴으로 도구 호출 에이전트 구축하기
도구 호출 에이전트는 여러 도구 호출 간 상태를 축적합니다. 각 도구의 출력은 이후 호출에 영향을 미쳐야 합니다. 도구 흐름에 적합한 기억 패턴이 없으면 호출 간 상태가 누출되고 에이전트가 모순됩니다. MemoryLake는 도구 호출 아키텍처를 위해 구축된 유형화된 기억 패턴을 제공합니다.
문제: 도구 호출 에이전트는 DIY 기억이 제공하지 않는 상태 패턴이 필요합니다
도구 A는 고객의 등급을 반환했습니다. 도구 B는 그 등급을 존중해야 하지만, 도구 출력이 상태를 공유하지 않기 때문에 다시 쿼리합니다. 도구 호출 에이전트는 동일한 API를 여러 번 호출하여 기억이 방지했어야 할 도구 호출에 대해 비용을 지불합니다.
MemoryLake가 도구 호출 에이전트 기억 패턴을 지원하는 방법
유형화된 기억으로서의 도구 출력
각 도구 결과는 구조화된 기억을 기록하고, 이후 도구는 이를 검색합니다.
반복된 도구 호출에서 중복 제거
동일한 데이터가 다시 필요할 경우, 기억에서 반환합니다.
도구 출력 간의 충돌 감지
모순된 도구 결과가 드러납니다.
도구 호출별 감사
어떤 도구가 어떤 사실을 생성했는지 추적합니다.
영구 무료 · 신용카드 불필요
도구 호출 기억 패턴에 대한 작동 방식
- 연결 — MemoryLake를 도구 배포 계층에 연결합니다.
- 구조화 — 각 도구 결과는 유형화된 기억을 기록하고, 이후 도구는 먼저 기억을 확인합니다.
- 재사용 — 반복 호출은 기억에서 반환되며, 도구 비용을 줄입니다.
전후 비교: 도구 호출 에이전트 상태
| DIY tool state | MemoryLake | |
|---|---|---|
| Repeated tool calls for same data | Common | Memory-cached |
| Cross-tool state sharing | Lossy | Typed memory |
| Conflicting tool outputs | Silent | Detected |
| Tool spend at scale | High | Reduced via memory |
대상
많은 API와 많은 통합이 있는 도구 중심 에이전트를 운영하는 엔지니어링 팀 — 중복된 도구 호출과 손실된 도구 간 상태가 비용과 품질에 악영향을 미치는 경우.
이 사용 사례를 내 계정에서 직접 실행하기
도구를 호출하는 청구 어시스턴트가 이전 도구 결과(계정, 사용량, 계약, 요금표)를 타입이 지정된 필드와 함께 사실로 기억합니다. 요금을 물으면 모든 숫자가 프롬프트에 있는데도 모델이 계산을 틀립니다. 계산기 도구를 주면 계산은 맞지만, 사용량을 한 번도 조회하지 않은 고객에 대해서는 도구가 입력이 없다고 알린 직후 모델이 그 입력을 스스로 채우고, 계산기는 그 추측을 센트 단위의 요금으로 바꿉니다. 도구가 타입 지정 메모리에서 직접 입력을 읽게 하면 둘 다 해결됩니다. 모든 금액에 계산 근거가 된 도구 결과가 붙고, 조회된 적 없는 결과는 해당 도구를 지목하는 오류로 돌아옵니다.
보게 될 것
- 도구 결과 13건을
fact add로 저장하고 타입 필드를fact update --metadata로 부착;fact list로 계정·필드별 최신 결과를 읽어 오고, 모든 정답은 코드가 이로부터 계산 - 14개 질문을 gpt-4o-mini로
router chat --body … --boundary를 통해 각 3회, 총 8회 실행: 모델이 직접 계산하면 요금 192회 중 34회만 정답 - 모델이 메모리에서 입력을 옮겨 적는
compute_charge도구: 요금 192회 중 154회 정답이지만, 조회한 적 없는 사용량은 48회 중 0회(도구가 누락을 알린 뒤api_calls=0을 전달); 옮겨 적은 입력은 모두 타입 지정 메모리와 대조 - 도구가 타입 지정 메모리를 직접 읽는 경우: 요금 192회 중 192회, 초과 요금은 24회 모두 "No record"; 그래도 모델은 합계의 절반을 전체로 답함(24회 중 23회).
bill·ask하위 명령과 로컬 웹 UI 포함
필요한 것: MemoryLake API 키 · memorylake CLI · Python 3.9+
실행
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/tool-input-memory export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
실행 영상 보기 · 실제 녹화, 편집 없음
관련 사용 사례
자주 묻는 질문
도구 프레임워크 지원?
도구 프레임워크 지원?
LangChain Tools, MCP, OpenAI 함수 호출, 커스텀 — 모두 지원됩니다.
도구 결과 기억의 TTL?
도구 결과 기억의 TTL?
도구 및 기억 유형별로 구성 가능합니다.
자체 호스팅?
자체 호스팅?
예 — 엔터프라이즈 등급은 귀하의 VPC에 배포됩니다.