왜 ChatGPT가 이전 대화를 잊어버릴까요?

ChatGPT는 모든 새로운 채팅이 다른 채팅에 대한 자동 읽기 접근 없이 고립된 컨텍스트 창에서 열리기 때문에 이전 대화를 잊어버립니다. 기억 기능은 실제 채팅 내용을 저장하지 않고 짧은 요약된 메모(전체 계정에서 약 8,000 토큰)를 저장합니다. 해결책은 ChatGPT가 필요할 때 쿼리할 수 있는 외부 기억 레이어에 전체 대화를 저장하는 것입니다.

각 ChatGPT 채팅은 기술적으로 고유한 컨텍스트를 가진 별도의 API 세션입니다. 세 가지 설계 결정이 기본적으로 크로스 채팅 기억을 약하게 만듭니다.

1. 컨텍스트 창은 채팅을 연결하지 않습니다. 새로운 대화는 GPT-4o에서 비어 있는 128K 토큰 창으로 시작합니다(구형 계층에서는 32K/64K). 어제의 채팅 텍스트는 OpenAI의 서버에 있지만, 무언가가 명시적으로 로드되지 않는 한 모델은 그것을 제공받지 않습니다.

2. 기억은 메모를 저장하고, 전사는 저장하지 않습니다. ChatGPT가 무언가를 "기억"할 때, 한 문장 길이의 메모(예: "사용자가 6월에 베를린 여행을 계획하고 있습니다")를 작성합니다. 실제 대화 방식으로 "사용자가 X라고 말했고, 내가 Y라고 대답했습니다"를 저장하지 않습니다. 후속 질문을 할 때까지 당신의 뉘앙스는 요약되어 사라집니다.

3. "참조 채팅 기록"은 선택적이며 검색 기반입니다. OpenAI는 2024-2025년에 과거 채팅을 참조할 수 있는 기능을 출시했지만, 이는 최근 대화에서 검색을 통해 검색하는 방식으로 작동하며 보장된 로드는 아닙니다. 긴 꼬리 언급을 놓치고, 최근 창 밖의 채팅을 건너뛰며, 일부 지역에서는 사용할 수 없습니다.

결합된 효과: ChatGPT는 당신의 희미한 윤곽을 기억할 수 있지만, 당신이 계속하고 싶은 실제 채팅은 기억하지 못합니다.

매주 월요일마다 빈 슬레이트는 실제 생산성 세금입니다:

• 이미 다룬 배경을 다시 설명해야 합니다. 지난 주의 결정 트리, 지난 주의 거부된 옵션, 지난 주의 이유 — 모두 사라졌습니다. 당신은 그것들을 다시 입력하거나 더 나쁜 답변을 받아들여야 합니다.
• 긴 프로젝트에서 연속성이 끊어집니다. 책 초안, 고객 연구 스레드 또는 여러 주에 걸친 코드 리뷰는 누적되어야 합니다. 크로스 채팅 기억이 없으면 매 세션마다 초기화되고 결코 더 날카로워지지 않습니다.
• 다중 AI 워크플로우가 더 분산됩니다. ChatGPT에서 초안을 작성하고, Claude에서 검토하고, Gemini에서 다듬는 것은 세 개의 별도 잊어버림 곡선이 병렬로 실행되는 것을 의미합니다.

해결책은 "하나의 거대한 채팅을 만들고 절대 닫지 않는 것"이 아닙니다. 긴 채팅은 길이 제한에 도달하고 느려지며 결국 스스로 잘립니다. 해결책은 기억을 채팅 스레드에서 분리하는 것입니다.

OpenAI는 세 가지 부분적인 답변을 제공했습니다. 각각은 문제의 일부를 해결하는 데 도움이 됩니다.

기억은 모든 채팅에서 짧은 메모를 저장합니다. 안정적인 선호에 좋습니다. "4월 9일 채팅에서 가격에 대해 우리가 결정한 것은 무엇인가"에는 쓸모가 없습니다. 저장소는 요약된 메모로 약 8,000 토큰으로 제한되며, 논의하는 모든 주제에서 공유됩니다.

참조 채팅 기록은 ChatGPT가 최근 채팅을 검색하고 관련 있을 때 스니펫을 가져올 수 있게 합니다. 때때로 작동합니다. 이전 채팅이 검색 창 밖으로 떨어지거나 이름이 정확히 일치하지 않거나 기능이 출시되지 않은 계획이나 지역에 있을 때 조용히 실패합니다.

프로젝트(프로/플러스/팀)는 채팅을 공유 파일 및 지침이 있는 폴더에 그룹화합니다. 프로젝트 내에서 채팅은 서로를 더 잘 참조할 수 있지만, 동일한 기억 제한이 적용되며, 프로젝트는 다른 AI로 따라가지 않습니다.

기억과 채팅 기록이 실제로 무엇을 하는지에 대한 공식 성명은 OpenAI의 Memory FAQ를 참조하십시오.

단일 주말 프로젝트의 경우, 원주율이 충분합니다. 실제로 장기 작업을 위해서는 그렇지 않습니다.

더 깊은 문제는 당신의 대화 기록이 하나의 제품에 잠겨 있다는 것입니다. ChatGPT에서 개발한 생각은 다음 주의 Claude 채팅에 영향을 줄 수 없습니다. Claude가 당신이 내린 결정을 다음 주의 Gemini 비교에 영향을 줄 수 없습니다. 각 도구는 당신의 컨텍스트를 처음부터 다시 만들어야 하며, 그 비용을 감당해야 합니다.

해결책은 모든 AI가 읽을 수 있는 통합된 모델 중립 대화 기억을 소유하는 것입니다.

MemoryLake는 당신의 대화를 프로젝트 내의 대화 기억으로 저장합니다 — 압축 가능하고 검색 가능하며 절대 버려지지 않습니다.

• 요약이 아닌 전체 전사. MemoryLake에 기록한 모든 채팅은 실제 교환으로 검색 가능한 대화 기억으로 저장되며, 짧은 메모가 아닙니다. "4월 9일 가격에 대해 우리가 합의한 것은 무엇인가"라고 물어보면 당신은 원문을 그대로 돌려받습니다.
• 결정의 Git 스타일 버전 관리. 브랜칭 및 감사 로그는 계획의 모든 변화가 타임스탬프가 찍히고 되돌릴 수 있게 하여, 세 번 피벗한 프로젝트도 깔끔하게 추적할 수 있습니다.
• 모든 AI를 위한 하나의 기억. 동일한 대화 저장소가 ChatGPT, Claude, Gemini, Grok, Cursor 및 Perplexity를 지원합니다. 도구를 전환할 때 프로젝트의 스레드가 따라옵니다.

MemoryLake는 94.03%의 최고 발표된 LoCoMo 긴 컨텍스트 점수를 보유하고 있으며, 밀리초 지연으로 검색하고 AES-256으로 데이터를 종단 간 암호화하여 MemoryLake조차도 읽을 수 없습니다.

1. 프로젝트를 생성하고 컨텍스트를 로드합니다. MemoryLake에 로그인하고 프로젝트 관리 열기, 프로젝트 생성 클릭, 이름 지정(예: "ChatGPT — 진행 중인 연구"), 그리고 이미 가지고 있는 과거 전사나 요약으로 씨앗을 뿌립니다. 문서 드라이브를 통해 참조 파일을 업로드하고 기억 탭에 지속적인 컨텍스트 메모를 추가합니다.
2. MCP 서버 엔드포인트를 생성합니다. 프로젝트 내에서 MCP 서버 탭을 열고, MCP 서버 추가 클릭, 이름을 "ChatGPT 통합"으로 지정하고 생성 클릭합니다. MemoryLake는 API 키 ID, 비밀 및 엔드포인트 URL을 반환합니다. 비밀은 한 번만 표시되므로 즉시 복사합니다.
3. ChatGPT에 연결합니다. 브라우저 ChatGPT는 MCP를 기본적으로 지원하지 않으므로, Bearer 토큰을 사용하여 REST API로 관련된 과거 턴을 각 새로운 채팅으로 가져오거나 ChatGPT를 MemoryLake 프로젝트로 안내하는 짧은 시스템 프롬프트를 붙여넣습니다. Python SDK는 또한 각 채팅을 대화 기억에 자동으로 기록할 수 있으므로 오늘의 채팅은 내일 쿼리할 수 있습니다.