AutoGPT가 이전 목표를 잊는 이유는 무엇인가요?

AutoGPT는 각 에이전트 실행이 짧은 롤링 컨텍스트 창에서 작업 기억을 재구성하기 때문에 이전 목표를 잊습니다. 새로운 도구 관찰이 쌓이면서 원래 목표가 압축되거나 퇴출됩니다. 목표가 활성 프롬프트에서 벗어나면 계획자는 고정할 것이 없습니다. 지속적인 외부 기억 계층이 모든 단계와 모든 재시작에서 목표를 고정합니다.

AutoGPT의 추론 루프는 계획, 도구 선택, 행동, 관찰, 기억 업데이트입니다. 에이전트는 매 사이클마다 작업 컨텍스트를 다시 읽습니다. 그 컨텍스트는 기본 모델의 토큰 창에 의해 제한되며(모델에 따라 일반적으로 8K에서 128K), 대부분은 도구 출력과 중간 스크래치패드에 의해 소모됩니다.

세 가지 설계 선택이 목표를 기억에서 밀어냅니다:

1. 원래 목표는 저장소가 아닌 프롬프트에 존재합니다. AutoGPT는 실행 시작 시 최상위 목표를 주입합니다. 단계가 쌓이면서 프롬프트 예산은 최근 도구 호출, 관찰 및 추론 흔적으로 채워집니다. 목표 토큰 블록은 요약되거나 롤링 창에서 밀려납니다.

2. 기억은 기본적으로 단기입니다. 외부 벡터 저장소가 연결되지 않으면 AutoGPT는 작은 프로세스 내 기억에 의존합니다. 커뮤니티는 이것을 오랜 시간 동안 하드 리미트로 문서화해왔으며, 그래서 Weaviate, Pinecone 또는 로컬 벡터 백엔드와 연결하기 위한 가이드가 존재합니다. 기본적으로 "장기 기억"은 최선의 노력입니다.

3. 목표는 일급 시민이 아닙니다. AutoGPT는 목표를 텍스트로 취급하며, 계획자가 매 단계마다 확인하는 구조화된 약속으로 취급하지 않습니다. 에이전트는 각 도구 호출 전에 "이 하위 작업이 여전히 원래 목표에 기여하는가?"라고 물어볼 내장 메커니즘이 없습니다.

결과적으로: "경쟁사 분석 보고서 작성"으로 시작한 100단계 실행이 결국에는 관련 없는 주제에 대한 단일 페이지로 요약됩니다. 이는 활성 창에서 살아남는 것이기 때문입니다.

이 문제에 대한 AutoGPT의 논의는 프로젝트의 기억 문제 문서에서 확인할 수 있습니다.

목표 잊기는 가장 많은 컴퓨팅 비용과 신뢰를 잃게 만드는 실패 모드입니다:

• 낭비된 토큰 사용. 목표에서 벗어난 실행은 여전히 도구를 호출하고, 여전히 추론 비용을 지불하며, 여전히 파일을 작성합니다. 전체 루프에 대해 비용을 지불한 후 출력을 버립니다.
• 신뢰할 수 없는 긴 실행. 30단계에서 50단계를 넘는 것은 동전 던지기처럼 느껴지기 시작합니다. 팀은 시도하는 것이 아닌 완료하는 가치가 있는 작업에 대해 AutoGPT 사용을 중단합니다.
• 재시작 간 기억 없음. 프로세스를 종료하고 다시 시작하면 에이전트는 어제 무엇을 하고 있었는지 전혀 알지 못합니다. 목표, 부분 작업 및 논리는 모두 사라집니다.

Mem0의 AI 에이전트 기억 상태 2026 보고서는 대부분의 생산 에이전트 스택에서 누락된 계층으로 기억 컨트롤러를 지목합니다. AutoGPT는 전형적인 예입니다.

이 프로젝트는 몇 가지 부분적인 답변을 제공했습니다.

프로세스 내 기억 백엔드. AutoGPT는 로컬 JSON, Redis 및 몇 가지 벡터 데이터베이스를 통해 플러그 가능한 기억을 지원합니다. 이들은 과거 관찰의 임베딩을 저장하지만 목표 지속성을 보장하지는 않습니다. 계획자는 여전히 이를 쿼리해야 합니다.

프롬프트 재주입. 일부 설정은 매 루프의 시작 부분에 원래 목표를 다시 추가합니다. 이는 잠시 도움이 되지만, 목표와 새로운 컨텍스트가 토큰 창을 초과하면 깨집니다. 에이전트는 조용히 이전 절반을 잘라냅니다.

파일 기반 스크래치패드. 에이전트는 디스크에 메모를 작성하고 이를 다시 읽을 수 있습니다. 이를 수행하도록 신중하게 프롬프트를 설정하면 작동합니다. 그러나 재시작 간에는 작동하지 않으며, 부팅 시 이러한 파일에서 프롬프트를 다시 구축해야 합니다.

이 방법들은 목표를 에이전트가 매 단계마다 확인해야 하는 일급 객체로 취급하지 않습니다. 그것을 텍스트로 취급하고 생존하기를 바랍니다.

더 깊은 문제는 AutoGPT가 모델에 구애받지 않도록 설계되었지 기억에 구애받지 않도록 설계되지 않았다는 것입니다. 루프는 모델이 컨텍스트를 보유한다고 가정하고, 모델은 프롬프트가 새롭다고 가정합니다. 실행이 충분히 길어져서 프롬프트가 목표와 작업 상태를 모두 보유할 수 없게 되면 목표는 잃게 됩니다.

기본 모델을 GPT-4에서 Claude 또는 로컬 Llama로 변경하면 동일한 기억 한계를 물려받습니다. 에이전트는 다른 형태로 잊지만 여전히 잊습니다.

MemoryLake는 에이전트 루프 외부에 위치한 전용 기억 제공자입니다. AutoGPT는 매 단계마다 REST API 또는 MCP 서버 엔드포인트를 통해 이를 호출하므로 목표, 하위 목표 및 논리가 프롬프트 창과 독립적으로 지속됩니다.

• 고정된 기억으로서의 목표. 최상위 목표와 하위 목표 트리를 프로젝트의 구조화된 기억으로 저장합니다. AutoGPT는 매 사이클 시작 시 이를 읽고 계획자의 진실의 출처로 사용하며, 롤링 프롬프트가 아닙니다.
• 재시작 간 연속성. 47단계에서 에이전트를 종료하고 내일 다시 시작합니다. MemoryLake는 목표, 완료된 단계, 열린 하위 작업 및 도구 기록을 반환합니다. 에이전트는 처음부터가 아니라 중단한 지점에서 계속 진행합니다.
• 에이전트 기억을 위한 Git 스타일 버전 관리. 모든 목표 업데이트, 모든 계획 수정 및 모든 도구 관찰은 커밋입니다. 어떤 실행이든 재생, 차이 비교 또는 롤백할 수 있어 긴 자율 루프를 처음으로 디버깅할 수 있습니다.

MemoryLake는 2026년 기준으로 발표된 최고 결과인 LoCoMo 긴 컨텍스트 벤치마크에서 94.03%를 기록했으며, 밀리초 단위의 검색과 AES-256 종단 간 암호화를 제공합니다.

1. 프로젝트를 생성하고 컨텍스트를 로드합니다. MemoryLake에 로그인하고 프로젝트 관리 열기, 프로젝트 생성 클릭, 이름을 "AutoGPT — 에이전트 실행"으로 지정합니다. 문서 드라이브에 참조 브리프, 대상 스키마 또는 이전 실행 로그를 드롭합니다. 최상위 목표, 하위 목표 트리 및 중지 조건을 구조화된 항목으로 기억 탭에 추가하여 첫날부터 버전 관리되도록 합니다.
2. MCP 서버 엔드포인트를 생성합니다. 프로젝트 내 MCP 서버 탭을 열고 MCP 서버 추가를 클릭한 후 이름을 "AutoGPT 통합"으로 지정하고 생성 클릭합니다. MemoryLake는 API 키 ID, 비밀 및 엔드포인트 URL을 반환합니다. 비밀은 한 번만 표시되므로 즉시 복사합니다.
3. AutoGPT를 연결합니다. AutoGPT 에이전트 구성에서 MemoryLake를 MCP 호환 기억 제공자로 추가하거나 매 루프 사이클의 시작 시 Bearer 토큰으로 REST API를 호출합니다. Python SDK는 계획자가 각 도구 호출 전에 정렬을 확인할 수 있도록 목표 및 하위 목표 읽기를 노출합니다.