[NEXT AI] 은행 상담 창구에서 AI를 만나다, AI Banker

안녕하세요, 여러분! 지난 회차들을 거쳐 계속해서 NEXT AI 컨텐츠로 찾아왔습니다.

NEXT AI 컨텐츠에서는 그동안 AI Agent, AI 서비스 빌더를 주제로 생성형 AI가 어떤 형태로 발전해 나가고 있는지 소개해 드렸습니다. 지난 게시글들을 통해서 기술에 대한 원리와 구성 요소들을 파악하셨다면, 오늘은 기술들이 어떻게 실제 프로젝트에서 구현되었는지 알아보실 시간입니다! 같이 떠나볼까요?

---

 

작성 : 마인즈앤컴퍼니 이주연 매니저 (Product&Marketing)

최근 우리은행에서 국내 최초로 생성형 AI 활용하여 대국민 금융 상담 서비스 AI뱅커를 출시했다고 밝혔는데요, 기사를 보셨나요?  우리은행 AI뱅커 구축 사업은 마인즈앤컴퍼니가 NEXT AI를 향해 가고 있는 발걸음 중 하나였습니다. 

 

AI뱅커 출시 이미지 = 우리은행 제공

AI뱅커란 AI Agent의 모습을 띠고 있는 서비스 중 하나입니다. 인공지능 기술을 활용하여 은행 고객에게 금융 서비스를 제공하는 시스템을 의미하며, 고객의 금융 거래 내역, 소비 패턴 등 대량의 데이터를 분석하여 개인에게 맞춤화된 금융 상품을 추천하고, 더 나아가 금융 상담까지 진행할 수 있습니다. 

더 큰 개념에서 AI Agent란 기존에는 사람이 수행해야 하는 업무를 AI가 대신해서 해주는 개념이라고 쉽게 설명할 수 있고 더 이론적인 이야기로 들어가자면, 사용자가 명령을 내리는 일에 대해서 AI Agent가 스스로 문제를 분석하고, 쉽게 해결이 가능하도록 task를 분리해서 외부 툴을 통해 업무를 수행하는 것을 의미합니다.  업무를 수행하는 과정에서 사용자의 페르소나 및 개인화된 데이터를 활용하기도 합니다.
(더 상세한 설명은 지난 게시글에서 AI Agent에 대해 소개해 드린 내용을 통해서 확인해 주세요!)

 

이번에 마인즈앤컴퍼니가 개발한 우리은행 AI뱅커는 예·적금 상품을 설명해 가입을 권유하고, 고객이 예·적금가입 상담 내용을 입력하면 실시간으로 답변을 제공하는 기능을 지원함으로써 금융 상담 창구 역할을 대신합니다. 

보편적인 고객 응대 챗봇과는 다르게 고객 발화를 기반으로 고객의 정보와 요구사항을 고려한 상품 정보를 조회하고 우대 금리, 세금 우대 혜택 등 고객별 상황을 고려한 맞춤형 예적금 상품을 추천하는 등의 직원이 직접 상담하는 것과 유사한 수준의 서비스를 제공할 수 있습니다. 추가적으로, 고객 데이터를 고객 질문 분석을 통해 예상 질문까지도 파악할 수 있어 질문과 관련된 정보를 더욱 풍부하고 구체적으로 제공할 수 있습니다. 

 

마인즈앤컴퍼니가 AI뱅커를 개발할 때 어떤 부분에 집중했었는지 여러분들에게만 살짝 공유해 드리겠습니다.

1. 데이터셋의 확장

최신 오픈 소스 모델로 초기 성능을 확보하였고, 마인즈앤컴퍼니 데이터로 한국어 모델을 구축하여 금융 문서로 금융 업무에 특화된 모델 학습을 진행했습니다.  더불어, 자연스러운 발화와 정해진 TASK에 도달할 수 있도록 유도하는 AI뱅커를 생성하기 위해서 금융 상담 창구에서 발생하는 대화를 학습시키면서, 사용자가 AI뱅커와 대화할 때 어색함을 느끼지 않도록 했습니다.
    
2. 모델 학습 
마인즈앤컴퍼니의 LLM 구축 노하우를 살려, 여러 단계에 걸쳐 학습하는 방식을 통해 높은 금융 언어의 품질을 구현할 수 있도록 했습니다. 기본적으로 높은 성능을 보이는 베이스라인 모델을 채택함은 물론이고, 다양한 도메인의 데이터로 학습된 마인즈앤컴퍼니 LLM 모델을 활용하여 금융 업무에 특화된 데이터로 재학습했습니다. 더불어, 금융 상담 업무와 직접적으로 연결된 대화 데이터 및 업무 용어 등을 학습시키는 등의 단계를 거쳐 지금의 똑똑한 AI뱅커의 모습을 갖출 수 있었습니다.
    
3. 모델 관리 / 배포에 유능한 LLM Dev/Ops 의 활용
 빠르게 최신 기술과 모델이 쏟아져 나오는 AI 업계 특성상, 최신 LLM 모델과 데이터의 적용 및 새로운 도메인의 LLM 기반 대화 모델을 적용하여 기존의 모델을 확장할 수 있도록 설계하는 것이 중요합니다. 마인즈앤컴퍼니의 LLMOps를 통해 지속적으로 새로운 최신 모델을 적용하거나 데이터 생성 기능을 통해 새로운 task에 필요한 학습 데이터를 생성하는 등의 업무를 할 수 있도록 했습니다. 이를 통해서 신규 업무의 데이터셋 제작 및 효율적인 관리는 물론 외부 모델과 개발단에서 학습한 모델의 자동 등록 및 버전 관리를 손쉽게 진행할 수 있도록 세팅했습니다.
  

 

  
대장장이가 칼을 만들듯이 이상적인 AI뱅커의 틀을 잡고,그에 맞춰 필요한 데이터들을 녹여서 붓고 제 역할을 잘할 수 있도록 두드리고 칼날을 잘 갈아주는 과정들을 거쳐 현재의 모습으로 서비스 출시를 맞이하게 되었습니다.

보안 및 규제에 따라, AI뱅커가 가지고 있는 능력을 온전히 발휘하지 못한다는 한계점도 지적되고 있지만 AI가 우리 삶으로 빠르게 녹아든 만큼 AI가 악용되거나 소중한 정보들이 유출되지 않도록 하는 것 또한 중요합니다. 우리은행뿐만 아니라 금융권 전체에서 AI를 적극적으로 도입하고 있고 그에 맞춘 AI 보안 지침과 가이드라인 등을 잡아나가고 있기 때문에 여러분들의 옆에서 비서처럼 자문을 도와줄 AI뱅커가 더욱 개인화된 답변을 제공해 드릴 수 있을 것으로 고대하고 있습니다.

마인즈앤컴퍼니에서도 계속해서 더 좋은 성능의 모델을 개발하거나 활용할 수 있도록 노력하고 있으며, 규제와 지침에 맞춰 정해진 환경 안에서 최대의 효율을 보이는 Agent를 만들 수 있도록 온 힘을 다하고 있습니다. 여러분들의 기대와 필요에 딱 맞는 AI Agent들을 만들 수 있도록 밤낮을 가리지 않고 힘을 모으고 있으니, 여러분들께서는 더 창의적이고 가치 있는 일에 집중할 수 있는 환경이 갖춰질 NEXT AI 시대를 기대해 주세요! 🎁

(많은 응원과 관심도 부탁드려요)