대기업의 AI 스케일업: 바클레이즈가 클로드를 확장하여 운영을 혁신하고 고객 경험을 개선한 비결

사업이 성장하고 규모가 커질수록, "분명 돈은 벌고 있는데, 정작 중요한 회사의 경험과 노하우, 데이터는 담당자 개인에게 묶여 회사에 남아있지 않는" 문제를 겪어본 적 있을 것입니다. 매번 반복되는 고객 문의에 똑같은 답변을 찾아 헤매고, 신입 사원 온보딩 때마다 매뉴얼을 처음부터 설명해야 하며, 핵심 인력이 퇴사할 때마다 중요한 지식이 유실되는 악순환. 이러한 상황은 단순히 실무의 불편함을 넘어, 기업의 지속 가능한 성장을 저해하는 경영 문제로 인식되고 있습니다.

오늘날 많은 기업이 AI를 통해 이러한 비효율을 해결하고자 하지만, 단순히 최신 AI 모델을 도입한다고 해서 모든 문제가 해결되는 것은 아닙니다. 진정으로 AI를 통해 운영을 혁신하고 고객 경험을 개선하기 위해서는, AI가 '검증된 지식'을 기반으로 '책임감 있게' 작동하며, 필요한 순간 '사람의 적시 개입'이 유기적으로 결합되는 '지식 순환 시스템'을 구축하는 것이 중요합니다. 세계적인 은행 바클레이즈(Barclays)의 클로드(Claude) AI 확장 사례와 최신 기술 트렌드를 통해, 기업이 AI 시대에 지식을 자산화하고 생산성을 높이는 플레이북을 모색해봅니다.

바클레이즈가 클로드를 확장하여 운영을 혁신하고 고객 경험을 개선한 배경

글로벌 금융 기관인 바클레이즈는 앤트로픽(Anthropic)의 클로드 AI를 전사적으로 확장 도입하며, 기업 운영과 고객 경험 혁신에 박차를 가하고 있습니다. 그들의 AI 도입 전략은 단순한 자동화를 넘어, '사람이 더 가치 있는 일에 집중할 수 있도록 AI가 지원하는' 데 초점을 맞추고 있습니다.

바클레이즈의 전략은 크게 두 가지 핵심 영역에서 구체화됩니다. 첫째, 내부 지식 접근성 향상 및 업무 효율화입니다. 바클레이즈는 '동료 지식 도우미(Colleague Knowledge Assistant)'를 구축하여 16,000명 이상의 직원이 클로드 AI를 통해 고객 지원에 필요한 정보를 더 빠르고 정확하게 찾을 수 있도록 했습니다. 이미 100만 건 이상의 검색을 처리하며 직원들의 정보 접근성을 혁신했습니다. 둘째, 운영 프로세스 자동화 및 최적화입니다. 글로벌 마켓(Global Markets) 사업부에서는 클로드 AI 모델을 활용해 하루 약 12만 건의 이메일을 분류하고, 내용을 파악하며, 최적의 처리 경로를 결정하는 데 도움을 받고 있습니다. 이를 통해 수동 처리 활동을 줄이고, 직원들이 관련 정보를 더 효율적으로 식별하고 조치할 수 있게 합니다.

바클레이즈는 이러한 AI 스케일업 과정에서 '책임감 있는 AI 배포'를 핵심 가치로 삼았습니다. 엄격한 거버넌스, 강력한 보안 통제, 그리고 사람의 감독을 통해 AI가 안전하고 효과적으로 운영되도록 하는 것입니다. 이는 AI가 단순한 도구가 아니라, 기업의 핵심 운영에 깊이 통합되는 '에이전트(agentic)' 역량으로 진화하는 과정에서 필수적인 요소로 간주됩니다.

지식 순환의 핵심: 신뢰할 수 있는 AI와 사람의 유기적 협업

바클레이즈의 사례는 AI 도입이 성공하기 위해서는 단순한 기술력 이상의 '책임감 있는 지식 순환' 시스템이 필요하다는 점을 명확히 보여줍니다. 여기서 핵심 개념은 바로 '휴먼-인-더-루프(Human-in-the-Loop, HITL)'와 '경험 검증'입니다.

전통적인 AI 시스템은 사용자가 명시적인 프롬프트를 입력하고 응답을 기다리는 '요청-응답' 패턴에 의존합니다. 그러나 AWS에서 제안하는 앰비언트 에이전트(Ambient Agents) 개념은 이와 다른 접근을 제시합니다. 앰비언트 에이전트는 사용자의 직접적인 요청이 아닌, 시스템 내에서 발생하는 다양한 '이벤트'에 반응하여 자율적으로 작업을 수행합니다. 예를 들어, 새로운 파일이 업로드되거나, 특정 알림이 발생했을 때 에이전트가 자동으로 분석하고 처리하는 방식입니다.

여기서 중요한 것은 이 앰비언트 에이전트가 '완전히 자율적이지 않다'는 점입니다. 에이전트는 작업 수행 중 **'인간의 개입(Human-in-the-Loop, HITL)'**이 필요할 때 잠시 멈추고, 명확화, 승인, 검토 등을 요청합니다. 그리고 사람이 응답하면 멈췄던 지점부터 다시 작업을 재개합니다. 이러한 HITL 구성 요소는 AI 시스템을 실제 운영 환경에 배포할 때 발생할 수 있는 위험을 낮추고, 사용자 신뢰를 구축하며, 피드백을 통해 AI가 지속적으로 학습하고 개선될 수 있도록 합니다. AI가 답하지 못하거나, 추가적인 판단이 필요한 경우, 사람이 개입하여 '지식을 채워주는' 과정을 통해 AI는 점차 더 넓은 범위의 질문에 답하고, 더 복잡한 상황을 처리할 수 있게 되는 것입니다. 이는 AI가 단독으로 지식을 쌓는 것이 아니라, 사람의 검증과 피드백을 통해 '검증된 지식'을 구축하는 과정입니다.

지식의 '신뢰성' 측면에서, 최신 연구인 CAVE-Mem (Boundary-Aware Experience Validation for Memory Search)은 AI 시스템이 축적된 경험을 활용할 때 단순한 '관련성'을 넘어 '유효성'을 검증해야 한다고 강조합니다. 기존 시스템은 유사한 과거 경험을 찾아 현재 상황에 적용하는 데 초점을 맞추지만, 기억의 주체, 질문 의도, 답변의 세밀함, 증거의 경계가 변경되면 관련성이 높은 경험이라도 해로울 수 있습니다. CAVE-Mem은 '적용 가능성, 경계, 유용성'과 같은 조건을 충족할 때만 경험을 활용하도록 하여, AI가 근거 없이 사실을 지어내거나(할루시네이션) 부적절한 답변을 하는 것을 방지합니다. 즉, AI가 답변의 '출처'를 명확히 하고, '근거 문서'가 없는 경우 아예 답하지 않거나 사람에게 연결하는 방식과 일맥상통합니다.

결론적으로, 성공적인 AI 기반 지식 순환은 단순히 많은 데이터를 학습시키는 것을 넘어, AI의 이벤트 기반 자율성과 사람의 적시 개입 및 경험 검증이 유기적으로 결합될 때 비로소 진정한 비즈니스 가치를 창출할 수 있습니다.

'지식 관리'에 대한 전통적 접근과 AI 기반 지식 순환의 차이

책임감 있는 AI 지식 순환 플레이북: 기업 지식을 자산화하는 길

바클레이즈의 선도적인 사례와 AI 기술의 진화를 통해, 기업이 내부 지식을 효과적으로 관리하고, AI를 통해 비즈니스 가치를 창출하기 위한 실질적인 플레이북을 다음과 같이 제안합니다.

1. 지식 유실 방지 및 지식 자산화의 필요성 인지 기업의 지식은 개인의 기억 속에 머무는 것이 아니라, 회사 전체의 자산으로 순환되어야 한다는 근본적인 인식 전환이 필요합니다. 바클레이즈의 사례처럼, AI는 '단순 업무 처리'를 넘어 '핵심 인력이 더 중요한 일에 집중하도록 지원하는' 전략적 도구입니다. 반복 문의, 온보딩, 업무 인수인계 등에서 발생하는 지식 유실이 경영상 큰 손실임을 명확히 인지하고, 이를 해결하기 위한 지식 자산화의 중요성을 강조해야 합니다.

2. '검증'과 '개입'을 전제로 한 AI 도입 AI 시스템은 지어낸 이야기를 하지 않고(할루시네이션 방지), 신뢰할 수 있는 답변을 제공하도록 설계되어야 합니다.

• 근거 문서 기반 답변: AI는 근거 문서가 없는 질문에 대해서는 답하지 않고, 사람에게 연결하거나 답할 수 없음을 명확히 알려야 합니다. 모든 답변에는 출처가 명시되어야 신뢰성을 확보할 수 있습니다.
• 휴먼-인-더-루프(HITL) 체계 구축: AI가 답하지 못하거나, 추가적인 판단, 승인, 또는 검증이 필요한 경우 사람이 적시에 개입할 수 있는 시스템을 마련해야 합니다. 이러한 개입은 AI의 학습 데이터로 활용되어 시스템의 정확도와 범위가 점진적으로 확장되는 '지식 순환의 고리'를 만듭니다. '적용 가능성, 경계, 유용성'을 검토하는 CAVE-Mem의 원리처럼, 사람의 검증을 거친 지식만이 시스템에 반영되어야 합니다.

3. 점진적 확장과 책임감 있는 거버넌스 AI 도입은 한 번에 모든 것을 바꾸는 것이 아니라, 작은 성공을 기반으로 점진적으로 확장하는 전략이 효과적입니다.

• 명확한 범위 설정: 초기에는 반복적이고 정형화된 문의 응대 등 명확한 범위 내에서 AI를 도입하여 빠르게 가치를 입증합니다. 이후 AI가 답하지 못한 질문들을 사람의 개입으로 학습시켜 응답 범위를 넓혀나갑니다.
• 보안과 감독 강화: 바클레이즈가 강조했듯, 대규모 엔터프라이즈 환경에서 AI를 확장하려면 강력한 보안 통제와 거버넌스, 그리고 사람의 지속적인 감독이 필수적입니다. 데이터 유출 방지, ISO 인증 등의 보안 기준을 충족하며, AI의 답변이 오남용되지 않도록 모니터링하는 체계를 갖춰야 합니다.
• 사람 중심의 가치: AI는 사람의 일을 대체하는 것이 아니라, 사람이 더 복잡하고 전략적인 업무에 집중할 수 있도록 돕는 도구라는 철학을 유지해야 합니다. 반복적인 지식 검색과 응대를 AI에 맡기고, 사람은 판단, 관계 형성, 창의적 문제 해결 등 더 가치 있는 역할에 집중할 수 있도록 지원합니다.

궁극적으로 AI 기반 지식 순환 시스템은, 회사의 지식과 경험이 개인의 기억 속에 갇히는 것이 아니라, 검증된 자산으로 끊임없이 순환하며 기업의 경쟁력을 높이는 핵심 동력이 될 것입니다.

Key Insight

• AI 스케일업의 핵심은 '책임감 있는 지식 순환': 바클레이즈 사례는 AI 도입이 단순한 기술 확장을 넘어, 지식 유실 방지 및 운영 효율화라는 근본적인 비즈니스 문제 해결에 초점을 맞춰야 함을 보여줍니다.
• '휴먼-인-더-루프(HITL)'는 AI 신뢰성 및 학습의 필수 요소: AWS 앰비언트 에이전트 개념처럼, AI가 자율적으로 작동하되, 중요 순간에는 사람의 개입을 요청하고 그 피드백을 통해 학습하는 체계가 AI 시스템의 신뢰를 구축합니다.
• '경험 검증'을 통한 지식의 유효성 확보: CAVE-Mem 연구가 강조하듯, AI는 단순한 정보 검색을 넘어 '적용 가능성, 경계, 유용성'을 검증한 지식만을 활용하여, 할루시네이션을 방지하고 정확한 답변을 제공해야 합니다.
• 플레이북의 핵심은 '사람과 AI의 유기적 협업': 기업은 AI를 통해 반복 업무를 자동화하고 지식에 대한 접근성을 높여, 사람이 더 가치 있고 전략적인 업무에 집중할 수 있는 환경을 조성해야 합니다.

참고자료

• Barclays scales Claude to upgrade operations and improve client experience: https://www.anthropic.com/news/barclays-scales-claude
• Building ambient agents with Amazon Bedrock AgentCore: From event-driven signals to human-in-the-loop workflows: https://aws.amazon.com/blogs/machine-learning/building-ambient-agents-with-amazon-bedrock-agentcore-from-event-driven-signals-to-human-in-the-loop-workflows/
• Validating accumulated experience for effective knowledge search: https://arxiv.org/abs/2610.00238