Alibaba, Context Is All You Need 선언 — 기업 컨텍스트는 에이전트가 아닌 기업의 소유여야 한다 (2026)

기조연설부터 살펴보겠습니다. Qianwen Office 공식 계정을 통해 중국어로 공개된 공식 녹취록에 따르면, 이번 발표는 기업들이 직면하는 세 가지 장애물을 중심으로 전개되었습니다. 요약하자면 다음과 같습니다. 비즈니스를 모르는 AI는 '우리 회사'가 어느 회사인지 알지 못하기 때문에 '지난 분기 동부 지역 매출총이익률'과 같은 질문에 답할 수 없습니다. 또한, 조직 내에 AI 활용 경험을 모두와 공유할 수 있는 좋은 메커니즘이 부족하여 생산성 향상이 AI를 잘 쓰는 개인에게만 머무르게 됩니다. 마지막으로, 기업들은 데이터 보안 문제로 도입을 주저합니다.

Chen 부사장은 기업용 에이전트의 전제 조건은 데이터이며, 이는 연결(connect), 이해(understand), 재사용(reuse)이라는 세 가지 개념을 중심으로 구성되어야 한다고 답했습니다. 그는 또한 그냥 지나치기 쉬운 중요한 점을 짚었습니다. 에이전트가 모르는 것은 그냥 모르는 것이며, 더 똑똑한 모델이라고 해서 제공되지 않은 사실을 스스로 추측해 낼 수는 없다는 것입니다. 하지만 일단 정보를 알려주고 나면, 가성비 좋은 모델로도 충분한 경우가 많습니다.

그가 발표한 제품은 Enterprise Context였습니다. 36Kr의 영문 보도에 따르면, 이는 "기업 컨텍스트 데이터 관리를 위한 제품"입니다. 문서, 회의, 그룹 채팅 등 기업들이 흔히 암묵지라고 부르던 것들을 연결한 다음, "이를 레이어별로 압축하고 필요에 따라 Agent가 사용할 수 있도록 추출"합니다. Qianwen Office의 에이전트 호스팅과 결합하여, 기업의 비즈니스를 이해하는 디지털 직원을 만드는 것이 목표입니다.

녹취록은 압축이 왜 중요한지 구체적으로 설명합니다. Chen 부사장은 기업의 모든 데이터를 단순히 한곳에 모아두기만 해서는 안 된다고 주장했습니다. 에이전트가 그런 방식으로는 데이터를 활용할 수 없기 때문입니다. 컨텍스트 창(context window)을 과도하게 채우면 에이전트가 정작 작업을 수행하는 데 필요한 공간을 낭비하게 됩니다. 그는 이 접근 방식을 레이어 구조로 설명했습니다. 기술이 점진적으로 세부 정보를 드러내는 방식처럼, 기업 지식을 파일 시스템처럼 구성하여 각 레벨이 그 아래 레벨을 압축하도록 하고, 여기에 사람, 프로젝트, 채팅, 문서 간의 관계 그래프를 더하는 방식입니다.

Alibaba Cloud의 발표는 동일한 아이디어를 인프라 레이어에 적용했습니다. 보도자료에 따르면, 이들의 에이전트 기반 클라우드는 "모델(model), 하네스(harness), 컨텍스트(context)라는 세 가지 핵심 시나리오를 중심으로 구축"되었으며, Context Engine 레이어가 "실시간 데이터와 장기 메모리를 제공"합니다. 그 안에서 "Agent Context는 AI 에이전트에게 실시간 컨텍스트와 장기 메모리를 제공하는 기업급 컨텍스트 데이터 서비스입니다. 기업의 문서, 비즈니스 시스템, 채팅 기록, 멀티모달 데이터를 단일 기반으로 연결함으로써, 에이전트가 과거 작업을 기억하고, 팀 간에 지식을 공유하며, 지속적으로 학습할 수 있도록 지원합니다."

회의 관련 제품도 출시되었습니다. Chen 부사장은 웨어러블 노트 필기 기기인 QwenNote A2를 소개했으며, Shu 부사장은 이후 인터뷰에서 하드웨어를 "점진적인 컨텍스트 수집을 위한 매우 좋은 진입점"이라고 설명했습니다. 대화를 에이전트가 사용할 수 있는 텍스트로 변환하는 방법이라는 것입니다. 개인정보 보호와 관련하여 보고서는 "A2는 원본 오디오를 보관하지 않으며, 전사(transcription) 콘텐츠는 텍스트와 회의록만 유지한다"고 언급했습니다.

보고서는 이 슬로건이 사무실 환경에서 갖는 의미를 네 단어로 요약했습니다. "컨텍스트가 전부다(Context is everything)."

인터뷰를 보면 이 아이디어가 단순한 제품 홍보를 넘어 하나의 원칙으로 자리 잡고 있음을 알 수 있습니다.

Shu Junliang은 왜 Alibaba의 자체 앱들이 여전히 통합된 컨텍스트를 공유하지 않는지 질문을 받았습니다. 그의 답변은 다음과 같았습니다. "Qwen, Feishu, Qianwen Office와 같은 소프트웨어 간에 컨텍스트를 상호 연결하는 관점으로 접근해서는 안 됩니다. 컨텍스트는 실제 주체(개인의 컨텍스트든 기업의 컨텍스트든)를 따르기 때문입니다. 이는 결국 사용자가 최종적으로 사용하는 Agent와 분리(decoupled)되어 있습니다."

이어서 그는 Alibaba가 제공하고자 하는 바를 설명했습니다. "우리가 제공하는 것은 기업 자체에 귀속되는 기업 수준의 컨텍스트 인프라입니다." 그리고 기업이 왜 이를 원해야 하는지 덧붙였습니다. "대기업은 하나의 AI 제품만 사용하지 않고, 자체적으로 일부 AI 제품을 개발하기도 합니다. 그렇다면 이러한 자체 AI 제품들도 내 컨텍스트의 혜택을 받아야 하지 않겠습니까?"

그의 마지막 비유는 이 글에서 가장 솔직한 대목입니다. He는 기업 컨텍스트를 "새로운 시대의 데이터 인프라로, 데이터베이스와 동일하지만 아직 데이터베이스처럼 표준화되지 않았을 뿐"이라고 불렀습니다.

이 문장들로부터 세 가지 결론을 도출할 수 있습니다. 첫째, 컨텍스트는 오늘 사용하는 에이전트의 기능이 아니라 조직의 자산입니다. 둘째, 기업은 구매한 에이전트와 자체 구축한 에이전트를 포함해 여러 에이전트를 운영하게 될 것이며, 이들 모두가 동일한 컨텍스트의 혜택을 받아야 합니다. 셋째, 업계에는 아직 이를 수행할 표준화된 방법이 없습니다.

Shu 부사장은 개인적인 측면에 대해서도 솔직하게 말했습니다. 개인 데이터는 "현재 다양한 앱에 흩어져 있으며", 이를 수집할 수 있을지 여부는 "이들 기업이 개인에게 권한을 개방하느냐에 달려 있습니다. 현재로서는 이러한 개방 추세가 보이지 않습니다."

첫째, '기업 컨텍스트(enterprise context)'를 하나의 명확한 카테고리로 만듭니다. Alibaba Cloud가 에이전트 전략을 모델, 하네스, 컨텍스트를 중심으로 구성하고 컨텍스트에 독자적인 제품 라인을 부여함에 따라, AI 에이전트를 위한 컨텍스트 레이어라는 개념은 더 이상 틈새 영역에 머물지 않게 되었습니다. 앞으로 더 많은 벤더가 자사 제품을 이런 방식으로 설명할 것입니다.

둘째, 많은 팀이 시행착오 끝에 도달한 접근 방식이 옳았음을 증명합니다. 소스를 연결하고, 에이전트가 사용할 수 있는 형태로 압축하며, 개인의 노하우를 그룹 전체에서 재사용할 수 있도록 만드는 것입니다. Chen 부사장이 제시한 세 가지 핵심 키워드인 연결(connect), 이해(understand), 재사용(reuse)은 기업 규모에서 컨텍스트 엔지니어링이 어떤 모습이어야 하는지 명확하게 요약해 줍니다.

반면, 표준을 만들어내지는 못합니다. Shu 부사장 스스로도 그렇게 말했습니다. Enterprise Context는 DingTalk과 긴밀하게 통합된 Qianwen Office 내부의 제품입니다. Chen 부사장은 개방성을 강조하며, Qianwen Office가 Feishu와 WeCom을 사용하는 많은 고객에게 서비스를 제공하고 있으며 "Qianwen Office든 Enterprise Context든 우리는 개방, 그리고 더 많은 개방이라는 원칙을 고수해야 한다"고 청중에게 말했습니다. 이는 단지 한 벤더의 약속일 뿐, 상호 운용 가능한 포맷은 아닙니다.

또한, 개인 컨텍스트 문제를 해결하지 못합니다. Shu 부사장의 설명대로, 개인을 설명하는 데이터는 이를 개방하지 않는 여러 앱에 흩어져 있습니다.

마지막으로, ChatGPT, Claude, Cursor 및 내부 에이전트를 사용하는 팀의 컨텍스트가 오늘날 어디에 위치해야 하는지 알려주지 않습니다. 그 부분은 여러분의 몫으로 남아 있습니다.

"더 좋은 모델이 해결해 줄 것이다." 기조연설은 그 반대를 주장합니다. 아무리 지능이 높은 모델이라도 회사의 가격 책정 규칙이나 지역 정의를 스스로 유추할 수는 없습니다. 동일한 논리로 더 큰 컨텍스트 창이 메모리가 될 수 없는 이유가 설명됩니다. 용량이 곧 지식은 아니기 때문입니다.

"모든 것을 하나의 큰 저장소에 넣고 에이전트가 검색하게 하면 된다." Chen 부사장은 발표의 상당 부분을 할애하여 왜 이 방식이 실패하는지 설명했습니다. 핵심은 압축과 구조화 작업에 있습니다.

"컨텍스트는 내가 선택한 에이전트의 기능이다." Shu 부사장의 요점은 컨텍스트가 에이전트와 분리되어야 한다는 것입니다. 컨텍스트가 하나의 도구 안에만 머물러 있다면, 도구를 바꿀 때마다 처음부터 다시 시작해야 합니다. 이는 AI 메모리가 기능인지 아니면 락인(lock-in) 요인인지에 대한 의문과 일맥상통합니다.

"이것은 대기업에만 해당되는 이야기다." 기조연설에서 언급된 세 가지 장애물(비즈니스를 모르는 에이전트, 개인에게만 머무는 노하우, 데이터에 대한 불안감)은 대기업뿐만 아니라 10명 규모의 팀에도 똑같이 적용됩니다. 규모만 다를 뿐, 본질적인 문제는 동일합니다.

Alibaba의 주장에 따라 행동하기 위해 거창한 기업용 플랫폼이 필요하지는 않습니다. 에이전트가 알아야 할 사항을 결정하고, 이를 간결하게 유지하며, 특정 도구의 수명보다 더 오래 유지될 수 있는 곳에 보관하기만 하면 됩니다.

1단계: 에이전트가 스스로 추측할 수 없는 컨텍스트 작성하기

기조연설의 예시를 그대로 적용해 보세요. 여러분의 회사에서 '동부 지역'은 무엇을 의미하나요? 매출총이익률은 어떻게 계산되나요? 어떤 고객이 전략적 고객이고, 어떤 제품이 단종 예정이며, 어떤 결정이 최종 결정인가요? 이러한 사실들은 어떤 모델도 스스로 유추할 수 없으며, 새로운 채팅을 시작할 때마다 매번 다시 설명해야 하는 번거로운 정보들입니다.

이러한 정보들을 목록으로 만드세요. 그런 다음 Chen 부사장이 설명한 두 번째 카테고리인 'AI를 잘 사용하는 사람들의 노하우'를 추가하세요. 효과적인 프롬프트, 검토 체크리스트, 가장 뛰어난 영업 사원이 제안서를 구성하는 방식 등이 이에 해당합니다. 현재 이러한 지식은 대개 한 개인의 채팅 기록에만 묻혀 있습니다.

이는 직원이 퇴사할 때 함께 사라지는 암묵지이기도 합니다. 직원이 퇴사할 때 AI 컨텍스트를 유지하는 방법이 바로 이 목록을 작성하는 것부터 시작하는 이유입니다.

2단계: 에이전트가 탐색할 수 있는 레이어로 압축하기

모든 데이터를 무작정 업로드하고 싶은 유혹을 뿌리치세요. 기조연설에서 설명한 구조를 팀의 규모에 맞게 적용해 보세요.

가장 상위에는 팀이 하는 일, 주요 프로젝트, 세부 정보를 찾을 수 있는 위치를 담은 짧은 인덱스(색인)를 둡니다. 그 아래에는 프로젝트, 고객 또는 프로세스별로 현재 상태와 의사 결정 과정을 담은 간결한 항목을 하나씩 작성합니다. 그 아래에는 세부 정보가 정말로 필요할 때를 대비해 원본 문서 자체를 배치합니다.

각 요소들을 연결하세요. 프로젝트에 대한 항목에는 관련 인물과 중요한 문서를 명시하여, 에이전트가 추측하는 대신 한 정보에서 다른 정보로 자연스럽게 이동할 수 있도록 해야 합니다. 회의 결과도 전사(transcript) 기록이 아닌 결정 사항 위주로 작성하여 이곳에 포함시켜야 합니다. 전사 기록은 오간 말을 기록할 뿐이지만, 결정 사항 항목은 합의된 내용을 기록하기 때문입니다. 그리고 날짜를 기록하세요. Shu 부사장은 기업 내부에는 "데이터의 성격과 데이터의 시간적 순서 사이에 많은 모순이 존재한다"고 지적했습니다. 즉, 가장 최신의 결정이 이전 결정을 명확하게 대체할 수 있어야 합니다.

3단계: 단일 에이전트로부터 분리하고 검증하기

이는 Shu 부사장의 원칙을 실제 검증 단계로 전환한 것입니다. 둘 이상의 에이전트가 접근할 수 있는 곳에 컨텍스트를 저장한 다음, 서로 다른 두 가지 도구에 동일한 질문을 던져보세요. 만약 한 도구만 답을 알고 있다면, 여러분의 컨텍스트는 해당 도구 내부에 갇혀 있는 것입니다.

동시에 보안 경계도 설정하세요. 기조연설에서는 에이전트가 민감한 데이터에 접근하기 전에 확인을 거치도록 하는 등 보안에 상당한 주의를 기울였습니다. 무엇인가를 연결하기 전에, 어떤 컨텍스트를 모든 에이전트와 공유하고 어떤 컨텍스트를 제한할지 미리 결정하세요.

마지막으로, 컨텍스트를 최신 상태로 유지하세요. Chen 부사장은 비즈니스 데이터가 끊임없이 변화하며, 변화에 따라 다시 이해되어야 한다고 강조했습니다. 컨텍스트 업데이트를 별도의 번거로운 작업이 아니라 의사 결정을 마무리하는 과정의 일부로 만드세요. 팀을 위한 공유 AI 메모리 구축하기에서 이러한 습관을 일상에서 실천하는 방법을 다룹니다.

Alibaba의 프레임워크는 조직에 귀속되며 조직이 사용하는 모든 에이전트에 서비스를 제공하는 레이어를 설명합니다. ChatGPT, Claude, 코딩 에이전트 및 자체 도구를 혼용하여 사용하는 팀의 경우, MemoryLake는 해당 레이어를 유지할 수 있는 최적의 장소입니다. 즉, 특정 제품에 종속되지 않는 AI 에이전트용 장기 메모리 역할을 합니다.

여러분은 자신만의 언어로 직접 항목을 작성합니다. Qianwen Office, DingTalk, Alibaba Cloud 또는 기타 벤더의 저장소에서 데이터를 읽거나 쓰거나 삭제하지 않습니다.

1단계: API 키 생성하기

로그인한 후 대시보드에서 키를 생성합니다. 이 키는 메모리 레이어의 워크스페이스에 귀속되므로, 이번 분기에 팀이 어떤 에이전트를 사용하든 상관없이 독립적으로 작동합니다.

2단계: 첫 번째 메모리 업로드하기

위의 해결책 1단계 목록부터 시작해 보세요. 모델이 스스로 유추할 수 없는 정의, 최종 결정 사항, 공유할 가치가 있는 노하우 등이 이에 해당합니다. 2단계의 레이어 구조에 따라 각 항목을 간결하게 작성하고 날짜를 기록하세요.

3단계: AI 및 에이전트 연결하기

팀이 사용하는 어시스턴트와 에이전트를 연결합니다. 그러면 동일한 항목들을 모든 도구에서 사용할 수 있게 되며, 이는 설계상 3단계의 분리 검증을 통과했음을 의미합니다.

첫 번째 변화는 에이전트를 온보딩하는 과정이 사람을 온보딩하는 것과 비슷해진다는 점입니다. 매 채팅마다 비즈니스를 다시 설명하는 대신, 새로운 도구를 도입할 때마다 동일한 브리핑으로 시작할 수 있습니다. 직장에서 사람들이 흔히 말하는 'AI의 건망증'은 대부분 이러한 공백에서 비롯되며, 이는 매주 월요일마다 기업의 AI 지식이 사라지는 이유에서 자세히 설명하고 있습니다.

두 번째 변화는 개인의 노하우가 팀의 지식으로 전환된다는 점입니다. 공유되지 않는 경험에 대한 기조연설의 지적은 새로운 기능보다는 습관을 통해 해결할 수 있습니다. 누군가 효과적인 접근 방식을 발견하면, 이를 개인의 대화 기록에만 남겨두는 것이 아니라 공유 컨텍스트에 기록하는 것입니다.

세 번째 변화는 에이전트를 교체하거나 추가하는 비용이 더 이상 크게 들지 않는다는 점입니다. 컨텍스트가 분리되어 있다면, 새로운 코딩 에이전트나 새로운 채팅 어시스턴트, 혹은 내년에 구축할 내부 도구도 이미 정보를 파악한 상태에서 시작할 수 있습니다. 이것이 바로 교차 에이전트 메모리(cross-agent memory)가 지향하는 이식성입니다.

네 번째 변화는 보안 관련 의사 결정이 명확해진다는 점입니다. 각 에이전트가 볼 수 있는 정보를 결정할 때, 각기 다른 기본 설정을 가진 여러 도구에 흩어져 있는 것보다 직접 제어하는 단일 레이어에 컨텍스트가 모여 있을 때 훨씬 더 쉽게 관리할 수 있습니다.

스스로 유추할 수 없는 것부터 시작하세요. 방대한 문서보다 정의, 결정 사항, 예외 상황이 더 중요합니다.

연결하기 전에 압축하세요. 에이전트가 헤쳐 나가야 하는 거대한 데이터 더미보다 짧고 레이어화된 항목 세트가 훨씬 효과적입니다.

모든 결정에 날짜를 기록하세요. 가장 최신 버전이 이전 버전을 명확하게 대체해야 합니다.

컨텍스트를 특정 에이전트로부터 독립적으로 유지하세요. 두 가지 도구에 동일한 질문을 던져 테스트해 보세요.

접근 경계를 조기에 설정하세요. 모든 에이전트가 모든 사실을 알 필요는 없습니다.

기능뿐만 아니라 소유권을 기준으로 플랫폼을 평가하세요. 기업용 AI 메모리 플랫폼을 비교할 때, 벤더를 변경하더라도 컨텍스트가 여전히 자사의 소유로 남는지 확인하세요.

"Context is All You Need"는 슬로건에 불과할지 모르지만, 그 이면의 논리는 타당합니다. Chen Yusen의 기조연설은 에이전트가 실무에서 실패하는 주요 원인이 기업의 컨텍스트가 부족하기 때문이며, 우리가 해야 할 일은 이를 연결하고, 압축하고, 재사용 가능하게 만드는 것이라고 주장했습니다. Alibaba는 이를 대규모로 수행하기 위해 Enterprise Context와 Agent Context를 출시했습니다.

이번 출시 소식보다 더 오래 기억될 문장은 Shu Junliang의 발언입니다. 컨텍스트는 "최종적으로 사용하는 Agent와 분리되어 있으며", 기업의 컨텍스트는 "해당 기업 자체에 귀속되어야 한다"는 점입니다. 그는 이러한 인프라가 "아직 데이터베이스처럼 표준화되지 않았다"고 솔직하게 인정했습니다.

표준화가 이루어지기 전까지, 모든 팀이 취할 수 있는 실질적인 해결책은 동일합니다. 에이전트가 스스로 추측할 수 없는 내용을 기록하고, 이를 간결하고 최신 상태로 유지하며, 사용하는 모든 에이전트가 접근할 수 있는 곳에 보관하는 것입니다.