*위 이미지는 ChatGPT로 생성된 이미지를 활용해 제작되었습니다*

웅진IT PEOPLE은 웅진을 만드는 사람들의 이야기를 다룹니다.
딱딱한 솔루션 소개에서 벗어나, 웅진의 경쟁력을 만드는 사람들을 소개합니다.

|

오늘 인터뷰에서는 웅진의 마이크로소프트 사업을 만들어가는 구성원의 이야기를 담았습니다.

여러분의 머리 속 마이크로소프트는 어떤 회사인가요? 마이크로소프트는 1975년에 설립되어, 올해 49주년을 맞이했는데요. 윈도우 OS를 통해 컴퓨터 사용을 보편화 하는 것을 시작으로, 파워포인트/엑셀/워드 등의 소프트웨어 도구를 제공함으로써 생산성 향상에 앞장서 왔습니다.

2014년 사티아 나델라(Satya Narayana Nadella)가 마이크로소프트의 최고 경영자에 임명되면서, 마이크로소프트는 클라우드 기업으로 거듭났다는 평가를 받고 있습니다. 특히 최근에는, 마이크로소프트의 대표 클라우드 컴퓨팅 플랫폼인 Azure를 기반으로 다양한 AI 서비스를 제공하고 있으며, OpenAI와의 협력을 통해 AI 시장에 지배적인 영향력을 보여주고 있는데요.

웅진은 마이크로소프트의 제품을 이용하려는 기업 고객이 최적의 서비스를 경험할 수 있도록 지원하고 있습니다. 인프라부터 Digital & App Innovation 및 Data & AI (Azure)까지, 웅진은 고객과 가장 가까운 곳에서 고객의 비즈니스 효율성과 생산성을 극대화합니다.

MS 넥서스팀 김숙주 책임과 함께 웅진 마이크로소프트 AI 서비스에 대해 알아보세요.

|

[사진1] MS넥서스팀 김숙주 책임

Q1. 안녕하세요. 간단한 자기소개 부탁드립니다.

안녕하세요. CIT본부 MS넥서스팀의 김숙주 책임매니저입니다.

저희 본부에 대해서도 간단히 소개를 드리자면, CIT본부는 웅진 여러 계열사의 IT를 운영하는 역할을 담당하고 있는데요. 이러한 경험을 바탕으로, 자체 솔루션 개발과 마이크로소프트 파트너십을 중심으로 한 다양한 대외 사업을 함께 운영하고 있습니다.

Q2. 현재 맡고 계신 업무와 주요 역할에 대해 소개해주세요.

MS넥서스팀은 마이크로소프트에서 제공하는 클라우드 인프라, AI 등의 서비스를 대외적으로 제공합니다.
저는 그 중에서도 AI 개발 파트 소속으로, Azure 클라우드 기반의 AI 서비스 개발을 담당하고 있습니다.

 
[사진2] MS넥서스팀 김숙주 책임

Q3. 요즘 뜨거운 관심을 받고 있는 시장에 몸담고 계시니, 그 견해가 궁금합니다. 마이크로소프트의 여러 서비스를 직접 이용해보신 입장에서, 마이크로소프트가 클라우드 및 AI 시장에서 강력한 영향력을 발휘하고 있는 배경은 무엇이라고 생각하시나요?

OpenAI가 ChatGPT로 AI 돌풍을 시작할 시기에, 마이크로소프트가 발 빠른 투자로 밀접한 관계를 맺었던 것이 지금까지 의미 있는 영향력을 미친다고 생각합니다. 

특히, 마이크로소프트는 기존에도 Dynamic 365, MS Office 등의 글로벌한 사용자 집단을 보유하고 있었기 때문에, OpenAI의 ChatGPT가 가진 잠재적인 역량이 마이크로소프트의 친숙한 제품군에서 극대화될 것이라는 기대가 있었습니다. 실제로, 마이크로소프트의 ‘코파일럿’은 OpenAI의 ChatGPT 기술을 사용하고 있습니다. 

Q4. 최근에 “AI 도입에 필요한 데이터 활성화 전략”이라는 주제로 개최된 세미나에서 <AZURE OPEN AI 구축사례를 통한 최적의 클라우드 제안>을 주제로 발표해 주셨는데요. 세미나 내용을 간략히 소개해주실 수 있을까요?

마이크로소프트에서 제공하는 Azure 클라우드 기반 AI 서비스에 대해 소개하고, 해당 서비스들이 사용자에게 제공하는 장점에 대해서 말씀을 드렸습니다.

마이크로소프트에서 제공하는 대표적인 AI 서비스로는 Azure AI Services가 있습니다. Azure AI Services는 사전 구축된 AI 서비스 모음을 의미합니다. AI Search나 OpenAI와 같은 다양한 서비스가 있는데, 쉽게 API 형태로 이용할 수 있도록 제공됩니다.

Azure OpenAI는 Azure AI Services의 한 부분인데요, 최근에 ChatGPT에게 사진을 제공하고, 일본 애니메이션 스튜디오인 ‘지브리’ 그림체로 사진을 변환하는 것이 유행이잖아요. 이렇게 다양한 시각, 음성, 언어 데이터를 기반으로 사용자가 원하는 답변이나 결과물을 제공하는 서비스들을 제공할 때 활용할 수 있는 모델들을 제공합니다.

이 외에도, 마이크로소프트는 Azure AI Infrastructure와 Azure OpenAI 서비스를 통해, 기업이 직접 원하는 AI 서비스를 개발할 수 있는 환경을 제공합니다. AI Infrastructure는 AI 모델이 학습, 배포, 실행될 수 있는 최적화된 클라우드 인프라 환경이며, Azure OpenAI는 OpenAI의 GPT 모델과 같은 대규모 언어 모델을 제공합니다.

마이크로소프트가 제공하는 AI 서비스의 강점은 ‘강력한 확장성과 유연성’을 바탕으로 합니다. 기업은 운영되는 동안 다양한 데이터를 쌓아가는데요. 이러한 데이터는 각기 다른 형태로, 각기 다른 공간에 저장되어 있을 겁니다. 제가 담당했던 세션과 별개로 세미나에서 소개되었던 Microsoft Fabrics는 이런 여러 데이터들을 하나의 공간에서 통합 관리할 수 있도록 합니다. 이러한 시스템의 흐름은 기업들이 AI 서비스 개발 과정이 더 용이하도록 한다는 점에서 큰 장점이라고 볼 수 있습니다.

Q5. 웅진에서 이용하고 있는 WKMS도 Azure AI 서비스를 기반으로 개발된 것으로 알고 있습니다.
WKMS를 모르실 독자분들을 위해, 잠깐 설명해주실 수 있을까요?

WKMS (Woongjin Knowledge Management System)는 웅진이 가지고 있는 다양한 기업 데이터를 하나의 웹 화면에서 쉽게 조회하는 것을 목적으로 개발된 지식관리시스템입니다.

말씀해주신 것처럼, WKMS는 Azure AI 서비스들을 활용해 개발되었는데요. AI Search 서비스를 통해 조회하고자 하는 다양한 데이터를 벡터 DB의 형태로 저장하고, RAG로 사용자의 응답에 대한 답변을 생성합니다.

이를 위해, 활용된 가장 핵심 기술은 RAG (검색증강생성, Retrieval-Augmented Generation)입니다. RAG란, AI의 핵심기술인 대규모언어모델(LLM)이 응답을 생성하기 전, 지정된 외부 소스를 참고하도록 하는 프로세스인데요.

WKMS에는 Agentic RAG가 적용되었습니다. Agent라는 이름은 AI가 자율성을 가지고 사용자의 요청에 따른 행동을 능동적으로 취할 수 있을 때 붙여진다고 볼 수 있습니다. 즉, Agentic RAG는 기존의 RAG라는 검색증강생성 프로세스가 AI의 능동적인 판단에 따라 이루어진다는 것을 의미합니다. 

예를 들어, 사용자가 A자료의 탐색을 요청했을 때, Agentic RAG는 이 목표를 달성하기 위해 DB 속 여러 데이터의 어떤 정보를 고려하여 자료를 탐색해야 할지 질문의 맥락을 이해하고 답변 생성을 위한 데이터를 선정합니다.

이러한 기술을 바탕으로, WKMS를 성공적으로 구현하였으며, 현재는 활발히 사용 중입니다.

Q6. 이러한 AI 솔루션이 가져다 줄 효과를 생각하면, 도입을 하는 것이 기업의 생산성 향상에 큰 도움이 될 것 같은데요. 도입을 앞 둔 기업들이 가장 많이 고민하는 부분은 무엇이며, 그에 대한 개선 방안이 있을까요?

AI 도입 시 우려되는 점으로 가장 많이 언급되는 부분은 보안이라고 생각합니다.

앞서 소개한 마이크로소프트의 AI 서비스의 경우에도 클라우드를 기반으로 제공되기 때문에, 클라우드에 기업 데이터를 올렸을 때 혹시나 외부로 유출되는 경우가 없을지 혹은 AI 서비스의 개발에 사용되는 대규모 언어 모델들의 학습에 활용되는 것은 아닐지 우려하십니다.

하지만, 마이크로소프트 AI 서비스 구축 시, 가상 네트워크에 서비스를 올리고, 외부 서버와의 소통을 위한 출구를 단일화하여 관리함으로써 외부 호출을 차단하고 안전하게 운영이 가능합니다. 

두 번째로는 비용을 생각해볼 수 있을 것 같네요.

특히, On-premise 환경에서 AI 서비스를 구축하려는 경우 초기 비용이 상당한데요. AI는 일반적인 컴퓨팅 자원 이상의 성능을 요구하기 때문에, 이러한 인프라를 갖추는 것 자체만으로도 많은 비용을 필요로 합니다. 사후 유지 단계에서도 상당한 전력을 소비해야 하고, 고객 스스로 장비를 유지하고 업데이트 하는데 예상되는 비용이 진입 장벽으로 작용합니다.

반면, 클라우드 환경에서는 보다 합리적인 비용으로 AI 서비스 이용이 가능합니다. 컴퓨팅 자원에 대한 부담이 적기 때문에, 서비스를 구축하기 전 가상의 데이터로 빠른 PoC가 가능하며, 구축 이후에는 사용량에 따라 비용을 지불하기 때문입니다.

 
[사진3] MS넥서스팀 김숙주 책임

Q7. 클라우드 시장이 빠르게 변화하는 만큼, 웅진 역시 새로운 기술을 지속적으로 학습하고 도입해야 할 텐데요. MS넥서스팀에서는 내부 기술 역량을 강화하기 위해 어떤 노력을 하고 있나요?

최근 AI 시장에는 매일 새로운 기술과 기능이 소개되고 있기에, 그에 따른 고객의 기대 수준에 맞춰 서비스를 제공하기 위해 팀에서도 노력을 기울이고 있습니다.

한 예로, AI 서비스들이 어떤 사업에서 진가를 발휘할 수 있을지 고민하고 그 구현 가능성을 실험합니다. 일종의 랩(Lab)실처럼 자체적인 PoC 내지는 테스트를 통해, 실제 비즈니스에서 기능이 구현될 가능성을 확인함으로써, 시장 변화와 니즈에 빠르게 대응합니다.

Q8. 이러한 노력을 비롯해서, 웅진이 가지고 있는 대내외적 강점이 있다면 소개해 주시겠어요?

제 업무의 효율을 높여주는 부분이자, 실제로 서비스 구성을 탄탄하게 지원하는 부분이 바로 인프라 파트와의 협업이라고 생각합니다.

웅진에서는 마이크로소프트 인프라와 AI 서비스 개발 파트가 하나의 팀으로 움직이고 있습니다. 개발 과정에서 인프라와 소통해야 하는 부분이 많은데, 만약 다른 조직으로 구성되어 있었다면, 아무래도 소통이 지금만큼 원활하지는 못했을 것 같아요. 원활한 소통이 곧 조직력이고, 대외적으로는 탄탄한 서비스를 제공하는 바탕이 된다고 생각합니다.

 
[사진4] MS넥서스팀 김숙주 책임

Q9. 앞으로 클라우드 및 AI 시장의 트렌드는 어떻게 변화할 것으로 예상하시나요? 그 속에서 어떤 서비스를 제공하고 싶으신가요?

어려운 질문이네요. (웃음) 앞에서 이야기했던 것처럼, 요즘 시장이 너무 빠르게 변화하고 있어서 감히 예측하기 어려운 것 같습니다.

다만, 그 방향성에 대해 말씀드리자면, 사회 전체적으로 AI에 대한 경험이 보편화되면서 이제는 AI의 실용성에 대한 고민이 더 심도 있게 이루어지고 있다고 생각합니다. 

얼마전 Microsoft AI Tour Seoul 행사에서 AI Agent가 자주 언급되었는데요. 이는 마이크로소프트 뿐 아니라, 시장 전체적으로 주목하고 있는 키워드이기도 합니다. AI Agent는 초반의 AI가 따라잡을 수 없을 것이라고 예상되었던 RPA의 영역까지도 대신할 수 있을 것으로 보입니다. RPA는 모든 업무 과정을 일일이 사람이 설계하고 자동화하는 것이기 때문에, 사실상 설계만 잘 되면, 정확도가 100%에 달하는 영역임에도 이제는 AI가 맥락을 바탕으로, 사람과 같이 판단하며 업무를 자동화할 수 있다는 것이죠.

저는 이처럼 사용자가 기대하지 못했던 영역까지도 AI를 통해 구현해 보이고 싶습니다. 조금 막연하지만, “어, 이게 되네!” 하고 사용자를 놀라게 할 서비스를요.

|

김숙주 책임의 이야기, 어떠셨나요? 웅진의 구성원들은 웅진과 고객사의 내일을 위해, 오늘도 앞서 고민하고 있습니다.

AI를 비롯한 기술환경의 변화는 기업에 유연한 적응을 요구하고 있습니다. 웅진은 단순한 IT 솔루션 공급자가 아니라, 기업이 클라우드와 AI 기술을 활용하여 비즈니스 가치를 극대화할 수 있도록 지원하는 전략적 파트너입니다. 앞으로도 웅진이 클라우드 혁신을 선도하는 기업으로서, 고객과 함께 어떤 미래를 만들어갈지 기대해주세요.

더 많은 웅진IT 사람들의 이야기가 궁금하시다면, 다음 편도 놓치지 마세요.