긴 문맥도 빠르게… 이미지•음성 파생 모델로 산업 도입 가능성↑
제조 현장의 암묵지를 시스템화… 국방•보안 업무까지 활용

김태윤 SK텔레콤 파운데이션 담당. <출처=SK텔레콤>

SK텔레콤은 독자 AI 파운데이션 모델 ‘에이닷엑스 케이투(A.X K2)’를 앞세워 산업용 AI 시장 공략에 나선다. 

SK텔레콤 독파모 개발을 총괄한 김태윤 SK텔레콤 파운데이션 담당은 4일 SK텔레콤 뉴스룸을 통해 “A.X K2가 총 6880억개 매개변수 규모의 초거대 언어모델로, 이전 모델인 A.X K1보다 성능과 추론 효율을 함께 강화했다”고 설명했다. 국내외 14개 벤치마크 평균 성능은 A.X K1보다 32.2%p 향상됐으며, 장문 이해와 에이전트 관련 평가에서는 약 83.9%p 개선 폭을 기록했다.

김 담당에 따르면 A.X K2는 긴 문맥에서도 더 빠르고 안정적으로 작동할 수 있도록 독자 구조인 SGA(Sparse Gated Attention)가 개발·적용됐다. SGA는 긴 대화, 다단계 도구 호출, 대규모 문서 참조가 반복되는 AI 에이전트 환경을 겨냥한 기술이다.

또한 김 담당은 고성능 추론은 대형 모델이 담당하고, 현장 접점과 확산은 경량 전문 모델이 맡는 방식으로 산업 현장의 도입 가능성을 높이는 전략도 언급했다. 이를 위해 텍스트 모델인 A.X K2와 함께 이미지와 텍스트를 이해하는 비전 언어 모델 ‘A.X K2 VL Light-Preview’, 상담·회의 등 음성을 인식·분석하는 음성 언어 모델 ‘A.X K2 ALM’, ‘A.X K2 Raon-Speech’도 함께 선보였다고 밝혔다.

김 담당은 “A.X K2를 활용하는 기업이 숙련공이 보유한 암묵지와 곳곳에 흩어진 현장 문서를 디지털 자산으로 정리하고, 품질 판정과 생산 효율을 높일 수 있다”고 설명했다.

SK텔레콤 정예팀은 내부적으로 반도체·자동차·화학 분야의 한국어 제조 AI 벤치마크를 자체 개발하고, 데이터 확보부터 학습·평가까지 연결하는 체계를 구축했다.

업무협약을 맺은 KG스틸, 코넥 등과는 제조 특화 AI 에이전트 현장 실증을 추진하고 있다. 해당 에이전트는 생산 라인의 과거 불량 사례를 학습하고, 불량 발생 시 원인을 분석해 조치 방법을 안내하는 방식으로 개발되고 있다. 또한 SK하이닉스의 사내 AI 도구 ‘LLM Chat’에는 경량 모델을 연동해 반도체 지식 검색, 정보 정리, 바이브 코딩 등을 지원하고 있다.

김 담당은 “외부 피싱 탐지 봇, 오디오 언어모델 기반 보이스피싱 실시간 탐지 등 국민 안전과 연계된 활용 사례도 확대하고 있다“고 설명했다.

SK텔레콤은 국방 등 보안이 중요한 분야에는 모델을 양자화해 메모리와 처리 부담을 줄이고, 제한된 자원 환경에서도 안정적으로 구동할 수 있도록 지원하고 있다. 이를 통해 하반기 중 A.X K2를 양자화해 국방부에 공급할 계획이다.

또한 A.X K2 후속 모델을 조 단위 매개변수 규모로 확장하는 방안도 준비하고 있다. 에이전틱 강화학습, 사이버 보안 역량, 긴 문맥 처리 효율, 고속 서빙 기술을 고도화하고, 서울대·KAIST·크래프톤 등과 차세대 아키텍처 연구도 병행한다. 컨소시엄 참여사인 리벨리온과는 국산 NPU 기반 모델 서빙 최적화와 상용 서비스 실증을 강화할 계획이다.

김 담당은 “독파모 프로젝트로 개발한 모델을 Apache 2.0 라이선스로 배포해 개발자와 스타트업이 상업적 용도까지 활용할 수 있도록 하는 무료 라이선스 정책을 이어가겠다”고 말했다.

[CEO스코어데일리 / 진채연 기자 / cyeon1019@ceoscore.co.kr]