Añade Contexto entre Sesiones a Cada Llamada a la API de ChatGPT
La API de ChatGPT es sin estado. Cada llamada comienza en blanco a menos que introduzcas contexto en el aviso del sistema, lo que infla los tokens, aumenta la latencia y aún así pierde fidelidad. MemoryLake añade una capa de memoria entre sesiones a la API de ChatGPT, de modo que cada llamada recupera solo el contexto que importa.
Añade Contexto entre Sesiones a Cada Llamada a la API de ChatGPT
Empezar gratisGratis para siempre · Sin tarjeta de crédito
El problema: la API de ChatGPT olvida entre cada solicitud
Sin una capa de memoria, cada llamada a la API envía ya sea cero contexto o un enorme aviso del sistema que vuelve a explicar al usuario desde cero. Los equipos queman tokens, latencia y dinero tratando de simular persistencia. La verdadera respuesta es un almacén de memoria que la API puede consultar, no un aviso más largo.
Cómo MemoryLake resuelve el contexto entre sesiones para la API de ChatGPT
Memoria persistente por usuario
Cada usuario tiene su propio espacio de nombres de memoria. La API recupera solo sus hechos, eventos y conversaciones relevantes anteriores.
Recuperación compacta supera a los avisos inflados
Recupera un bloque de memoria de 500 tokens en lugar de un historial de chat de 50,000 tokens. Mismo recuerdo, 100 veces más barato.
Seis tipos de memoria en lugar de un solo búfer
Conversación, hechos, eventos, reflexiones, habilidades y memoria de fondo se recuperan cada uno con su propia lógica.
Portabilidad entre modelos
Cuando cambias de GPT-4o a un modelo futuro, o a Claude o Gemini, la memoria del usuario los sigue. Costo de migración cero.
Gratis para siempre · Sin tarjeta de crédito
Cómo funciona para la API de ChatGPT
- Conectar — Envía cada turno del usuario y respuesta del asistente a MemoryLake a través de SDK o REST.
- Estructurar — MemoryLake clasifica, elimina duplicados y almacena cada turno con metadatos del usuario.
- Reutilizar — Antes de cada llamada a la API, recupera un bloque de memoria clasificado y con presupuesto de tokens. Prepéndelo como contexto del sistema.
Antes vs. después: manejo de contexto de la API de ChatGPT
| Without MemoryLake | With MemoryLake | |
|---|---|---|
| Returning user request | Empty system prompt | Personalized memory injected |
| Token usage for context | 30k+ per call | <2k per call |
| Latency from huge prompts | Slow first token | Compact context, fast response |
| Switching to GPT-5 or Claude | Migrate everything | Memory follows the user |
Para quién es esto
Equipos de producto que construyen sobre la API de OpenAI — copilotos, asistentes, SaaS vertical — que quieren que los usuarios se sientan recordados sin pagar el impuesto de tokens por avisos del sistema inflados.
Prueba este caso de uso en tu propia cuenta
La API de chat empieza en blanco en cada llamada, así que una app construida sobre ella no envía contexto o pega el historial del usuario en cada prompt. Aquí una app de tutoría conserva su llamada y añade un solo parámetro: el boundary de cada alumno, un alcance guardado sobre su propio proyecto y su actor. MemoryRouter adjunta los recuerdos que importan para el mensaje, y la demo mide la respuesta, los tokens del prompt y lo que se filtra.
Lo que verás
- Dos alumnos (japonés y alemán), tres sesiones pasadas cada uno guardadas como conversaciones; un proyecto, un actor y un boundary por alumno (
boundary create --projects … --human-actor …) - El mismo mensaje por
memorylake router chatde tres maneras: sin boundary menciona 0 de 30 detalles en 5 ejecuciones; con el boundary de cada alumno aparecen los suyos (keigo, Osaka, dativo, fútbol) y nunca los del otro (0 de 15 filtraciones) - La factura de tokens: pegar las tres sesiones de Mina cuesta 767 tokens de prompt; su boundary, entre 286 y 399. Los mensajes ajenos al tema recibieron algo de memoria en 3 de 5 ejecuciones, y la demo también lo muestra
- El mismo boundary por
router messages --model claude-haiku-4-5, y la sesión de esta noche guardada como cualquier otra: la siguiente llamada pasa de N4 a N3 (5/5), mientras que "quita el romaji" perdió una vez frente a una preferencia fijada antes (4/5). Ademásasky una interfaz web local
Necesitas: una clave de API de MemoryLake · la CLI memorylake · Python 3.9+
Ejecútalo
git clone https://github.com/memorylake-ai/memorylake-usecases.git cd memorylake-usecases/chatgpt-api-memory export MEMORYLAKE_API_KEY=sk-… python3 demo.py # or: python3 web/server.py
Míralo en marcha · grabaciones reales, sin editar
Casos de uso relacionados
Preguntas frecuentes
¿Cómo se diferencia esto de la función de memoria incorporada de OpenAI?
¿Cómo se diferencia esto de la función de memoria incorporada de OpenAI?
La memoria de OpenAI es específica del producto para ChatGPT, opaca y no portable. MemoryLake es controlada por el desarrollador, estructurada, exportable y funciona con cualquier modelo.
¿Soporta respuestas en streaming?
¿Soporta respuestas en streaming?
Sí. La recuperación ocurre antes de la llamada de streaming. El bloque de memoria es solo parte de tu aviso del sistema.
¿Cuál es el impacto en la latencia?
¿Cuál es el impacto en la latencia?
Recuperación en milisegundos de un solo dígito. Negligible en comparación con la latencia del modelo.