글로벌 최고 수준 오픈소스 기반 금융 특화 임베딩 모델 공개

BC카드 본사 전경. <사진=BC카드>

BC카드는 금융 특화 생성형 AI 서비스의 검색 정확도를 높이는 자체 개발 임베딩(Embedding) 모델을 공개했다고 2일 밝혔다. 금번 개발된 모델은 서비스 목적에 맞춰 경량형, 고품질형 2가지 라인업으로 구성됐다.

BC카드에 따르면 먼저 경량형 모델은 약 6억(0.6 B)개의 피라미터 규모로 일반 CPU로 이용 가능하다. 이 모델은 공개 직후 글로벌 벤치마크 SOTA(State Of The Art) 평가 항목에서 타 모델 대비 최대 15%까지 향상된 성능을 보이며 전세계 1위를 기록했다.

고품질형 모델은 약 40억(4.0B)개의 파라미터로 GPU환경에서만 활용할 수 있다. 경량형 모델 대비 약 10% 가량 성능이 뛰어나며, 정밀한 검색이 필요한 업무에 적합하다.

두 모델은 각각 속도와 정밀도를 강점으로 한다. 빠른 응답이 필요한 서비스에는 경량형 모델을, 높은 검색 정확도 필요할 경우에는 고품질형 모델을 선택적으로 적용할 수 있다.

BC카드는 이번 개발 과정에서 단순히 모델 규모를 키우는 것보다 고품질 금융 데이터 학습이 검색 성능 향상에 더욱 중요한 요소라는 점도 확인했다. 이를 통해 금융 AI 서비스의 핵심 검색 기술을 자체 확보했으며, 외부 AI 서비스에 금융 데이터를 제공하지 않고도 독자적인 AI 서비스를 운영할 수 있는 기반을 마련했다.

해당 모델은 글로벌 오픈소스 플랫폼인 허깅페이스(Hugging Face)를 통해서도 공개할 예정이다. BC카드는 향후 KT 그룹사 AI 서비스 적용을 시작으로 정부와 금융기관 등을 대상으로 금융 AI 검색 플랫폼 사업도 확대해 나갈 계획이다.

오성수 BC카드 상무(AI데이터본부장)은 “이번 개발은 금융 특화 AI 서비스의 핵심 기술을 자체 확보 및 운영할 수 있는 기술 기반을 마련해 정부의 소버린 AI 기조, 금융위원회가 추진 중인 금융권 AX 가속화 정책과도 부합한다는 점에서 의미가 크다”면서 “자체 개발한 금융 특화 모델과 데이터셋을 개방과 공유해 금융권 전반의 AX 저변 확대와 한국형 금융 AI 생태계 구축에 기여할 것”이라고 말했다.

[CEO스코어데일리 / 이지원 기자 / easy910@ceoscore.co.kr]