어라이즈 AI와 성능평가·오류분석·안전성 기술 협력
에이전트 구축 넘어 배포 후 지속 관리·개선 체계 강화
엔터프라이즈 AI 풀스택 고도화…B2B 사업 확장 모색

LG유플러스는 어라이즈 AI와 전략적 업무협약(MOU)을 체결하고 AI 에이전트의 성능 평가와 오류 분석, 안전성 관리 기술 분야에서 협력하기로 했다. <출처=LG유플러스>

LG유플러스가 기업용 인공지능(AI) 사업의 영역을 AI 에이전트 구축에서 운영·품질관리까지 넓힌다. AI 에이전트가 실제 업무를 수행하면서 성능뿐 아니라 오류 추적과 안전성 관리 역량이 중요해지면서다.

LG유플러스는 어라이즈 AI와 전략적 업무협약(MOU)을 체결하고 AI 에이전트의 성능 평가와 오류 분석, 안전성 관리 기술 분야에서 협력하기로 했다고 1일 밝혔다. 

양사는 한국어·음성 기반 AI 평가 기술을 공동 검토하고, AI가 부정확하거나 부적절한 답변을 생성하는 것을 막는 안전장치 기술과 국내 기업간거래(B2B) 시장 공동 사업 기회도 발굴한다.

이번 협력의 핵심은 AI 에이전트의 ‘개발 이후’를 관리하는 역량을 끌어올리는 데 있다. 기존 생성형 AI 서비스에서는 이용자의 질문과 최종 답변을 평가하는 것으로 일정 수준 품질관리가 가능했다.

하지만 AI 에이전트는 대규모언어모델(LLM)이 자체 판단해 업무를 수행하면서, 오류가 발생해도 최종 답변만으로 원인을 파악하기 어려워졌다. 모델의 판단이 잘못됐는지, 잘못된 정보를 검색했는지, 부적절한 도구를 호출했는지 등 에이전트가 업무를 처리한 전체 과정을 들여다봐야 하기 때문이다. 어라이즈 AI는 이처럼 모델 호출부터 검색, 도구 사용, 오류·지연 등에 이르는 에이전트의 실행 경로를 추적하고 각각의 결과를 평가하는 ‘옵저버빌리티(Observability)’와 평가 기술을 제공하고 있다.

LG유플러스 입장에서는 기존에 구축해 온 B2B AX 플랫폼의 운영관리 영역을 한층 강화하는 의미가 있다. LG유플러스는 기업용 AI 사업을 위해 에이전트 코어와 지식관리시스템(KMS), LLMOps 등 AI 에이전트 구현에 필요한 기능을 자체 개발해 통합 제공하고 있다. 최근에는 IBK시스템과 여신 심사와 소상공인 금융지원 등 실제 금융 업무를 수행할 수 있는 AI 에이전트 개발에도 나섰다.

LG유플러스 용산 사옥. <출처=LG유플러스>

회사의 AX 기술 스택에도 인프라와 데이터, AI 엔진뿐 아니라 MLOps·LLMOps와 EvalOps, KMS 등 운영관리 기능이 포함돼 있다. 이번 어라이즈 AI와의 협력을 통해 자체적으로 확보한 운영 기술에 전문 AI 평가·분석 기술을 결합하고, 에이전트를 구축한 뒤 실제 서비스 환경에서 성능을 지속적으로 측정하고 문제를 개선하는 체계를 고도화할 수 있다는 설명이다.

특히 양사는 한국어와 음성 기반 평가 기술을 협력 대상으로 제시했다. 텍스트 기반 AI와 달리 음성 AI는 이용자의 발화와 억양, 통화 환경 등 다양한 변수가 서비스 품질에 영향을 미친다. 통신사가 보유한 음성 서비스 운영 경험과 어라이즈 AI의 평가 기술을 결합할 경우 콜센터를 비롯해 상담·예약 등 음성을 활용한 기업용 에이전트로 적용 범위를 넓힐 수 있다.

궁극적으로는 LG유플러스가 추진하는 ‘엔터프라이즈 AI 풀스택(Enterprise AI Full-Stack)’ 전략을 확장하는 행보다. LG유플러스는 AI 데이터센터(AIDC) 등 인프라부터 AI 모델·플랫폼과 기업용 서비스까지 아우르는 풀스택을 구축해 B2B AI 사업을 확대한다는 전략을 추진하고 있다. 홍범식 LG유플러스 대표도 올해 MWC26에서 통신과 AX 기술을 솔루션화해 ‘글로벌 AI 소프트웨어 기업’으로 전환하겠다는 방향을 제시한 바 있다.

기업의 AI 도입이 실험 단계에서 실제 업무 시스템으로 넘어갈수록 운영관리 기술의 중요성은 더욱 커질 전망이다. 특히 금융·공공·제조처럼 업무 오류에 따른 비용이나 보안 위험이 큰 분야에서는 AI 에이전트의 성능뿐 아니라 업무 수행 과정을 추적하고 문제가 발생했을 때 원인을 찾아낼 수 있는 체계가 필수적이다. LG유플러스도 단순히 기업 고객에게 AI 에이전트를 ‘구축해 주는’ 사업에서 나아가 성능 평가와 오류 분석, 안전성 점검까지 포괄하는 운영관리 역량을 B2B AX 사업의 경쟁력으로 키운다는 구상이다.

이상엽 LG유플러스 CTO는 “AI가 기업의 핵심 업무 환경으로 자리 잡으면서 성능뿐 아니라 신뢰성과 운영 안정성이 중요한 경쟁력으로 떠오르고 있다”며 “어라이즈 AI와의 협력을 통해 AI 운영관리 역량을 강화하고 고객이 신뢰할 수 있는 AI 서비스를 제공하겠다”고 말했다.

[CEO스코어데일리 / 김동일 기자 / same91@ceoscore.co.kr]