[NEXT AI] AI 서비스를 뚝딱 만드는 AI Service Builder

안녕하세요 여러분! 여러분은 요리를 자주 해서 드시나요?

음식 섭취는 일상에서 꼭 필요한 일이지만, 요리를 해먹는건 재료 손질, 설거지, 조리, 뒷정리 등 여러 과정이 모여있어 시간도 오래 걸리고 음식에 따라 가정에서 조리하기 어려운 메뉴도 있습니다.

하지만 만약 여러분들이 해왔던 요리의 과정을 각각 해주는 로봇들이 있다면 요리가 더 쉬워지고 더 자주 음식을 해먹게 되지 않을까요?

요리의 자동화는 아직 찾아오지 않았지만, AI 서비스는 뚝딱! 만들 수 있다는 사실!

오늘은 손쉽게 AI 서비스를 만들 수 있도록 하는 ‘AI 서비스 빌더’에 대해 소개해 드리겠습니다.

---

Writing : 마인즈앤컴퍼니 임형빈 인턴 (Data Science)

Editing : 마인즈앤컴퍼니 이주연 매니저 (Product&Marketing)

 

AI 서비스 빌더는 사용자가 소프트웨어 개발 지식이 많지 않아도 인공지능 모델을 쉽게 생성, 훈련시키고, 배포할 수 있게 해주는 플랫폼 또는 도구를 말합니다. 이러한 서비스는 사용자가 인공지능 기술을 활용하여 다양한 애플리케이션, 서비스 또는 제품을 개발할 수 있도록 지원합니다.

앞서 말씀드린 예시처럼, 한 서비스 프레임워크를 AI Agent 또는 Assistant에게 맡기는 서비스라고 생각하시면 됩니다. 여기서 AI Agent란 위의 요리 분업을 시행하는 로봇 4대를 합쳐서 칭하는 것이라고 이해하시면 될 것 같습니다.

 

지난 포스팅에서 맞춤형 LLM 모델 구축을 설명드렸었는데요, 특정 도메인에 맞는 모델을 위해선 기존의 Pre-Trained 모델들에 변화를 줘야 합니다. 변화를 줄 때의 선택지는 여러 가지가 있습니다. 지난 포스팅에서 말씀드린 Fine-Tuning과 강화학습, 이외에도 프롬프트 엔지니어링 등 다양한 선택지가 있고, 또 연구되고 있습니다.

 

‘AI 서비스 빌더’는 이런 특정 도메인에 맞는 AI Agent를 만들기 위해 다양한 선택 옵션을 제공해 주고, 이런 선택 옵션들을 연결해 주는 편리한 End-to-End 툴이라고 설명드릴 수 있겠습니다.

그렇다면, AI 서비스 빌더를 구축할 때 주로 고려해야할 사항으로는 어떤 것들이 있을까요?

서비스를 사용하는 고객들에게 시각적인 UI를 통해 옵션들을 구성하고, 조작할 수 있는 사용자 친화적인 인터페이스를 사용하는 것이 중요합니다. 더불어 고객들이 배포한 AI Agent를 통해, 사용자들의 데이터가 축적될 것이라 이를 관리하는 데이터 관리 기능도 필요할 겁니다. 데이터 관리 기능을 활용해서 데이터를 실시간으로 모니터링하고  축적된 데이터를 분석하여 비즈니스 인사이트를 얻을 수 있는 장점도 있습니다.

 

그렇다면! ‘AI 서비스 빌더’로 어떤 서비스를 만들 수 있을까요?

 아직은 바로 상상이 되시지 않으실텐데요, 그럼 이전 포스팅에서 다뤘던 RAG기반 서비스 프레임워크로 예시를 들어보겠습니다.

 

A라는 회사에서 ‘AI 서비스 빌더’를 도입했다고 상상해 보겠습니다.

A라는 회사는 고객들에게 RAG 기반 정보 검색 챗봇을 제공하는 서비스를 런칭하려고 합니다. 그리고 A회사 내에는 금융서비스를 제공하는 부서와, 보험 서비스를 제공하는 부서가 있다고 가정하고 설명을 이어 나가보겠습니다. 그렇다면, 정보 검색 챗봇을 만들 때, ‘정보’에 해당 하는 내용이 각 부서마다 다르겠죠? 이는 LLM에게 사용자의 질문에 맞는 정보를 제공하는 ‘Retriver’를 학습시킬 때 사용되는 데이터가 다름을 뜻합니다.

AI Agent 도식화 예시

 

‘AI 서비스 빌더’가 이때 문서에 맞는 전처리 옵션과, 임베딩 옵션, 사용할 LLM 옵션, 프롬프트 옵션 등을 각 부서마다 맞춤형으로 제공하게 되고, A 회사는 부서 별, 도메인에 맞는 AI Agent를 얻게 되는 것이죠! 이 경우에 옵션이라는 것은, 사용할 LLMs, API, SDK, Embed 방식 등을 포함합니다.

AI 서비스 빌더는 사용되는 옵션의 업데이트나, 변경 시에도 이를 반영해 Agent를 생성하게 됩니다. 또한 인공지능 도메인에 대한 지식이 많지 않은 고객들도 손쉽게 직접 옵션을 선택해 AI Agent를 빌드할 수 있도록 UI 등의 편의사항도 제공됩니다. 기존 AI 서비스를 출시하려고 했을 때 외주 업체를 알아보고, 개발 요건을 정의하고 오랜 시간을 들여 많은 인력과 프로젝트를 관리했어야 하는 상황과는 다르게 AI 서비스 빌더를 통해 쉽고 빠르게 AI 서비스를 개발할 수 있다는 큰 장점이 있습니다.

 

오늘은 AI 서비스 빌더의 개념을 설명해 드렸는데요, 다음 게시물을 통해서는 그동안 설명 드렸던 AI Agent와 AI 서비스 빌더가 실제 현업에서는 어떻게 활용되고 있는지 마인즈앤컴퍼니의 사례를 통해서 설명해 드리겠습니다.

다음에 또 만나요 💌