GenAI 도입하기 전 해결 과제

업무에 GenAI를 활용하는 데 어려움을 겪고 있다면 근본적인 문제는 기업의 데이터 관리 도구와 프로세스가 충분하지 못하기 때문이다. 

이것은 GenAI 채택 여정에서 흔히 직면하는 주요 장벽으로, GenAI를 강화하기 위한 데이터 관리 전략을 세우고 실행하기 위해 기업과 협력한 경험을 기반으로 한 견해이다.

엔터프라이즈 GenAI를 구현하는 것이 왜 그렇게 어려운지, 그리고 GenAI를 최대한 활용하려면 기업이 무엇을 해야 하는지 아래에 좀 더 자세히 설명한다.

기업의 GenAI 활용 현황

모든 유형의 기업이 생성형 AI 기술을 활용하기를 열망하고 있다. 2023년 말 IDC의 조사에 의하면 기업의 66%가 GenAI 활용을 탐색하고 있다고 보고했다. 

https://blogs.idc.com/2024/04/15/the-rise-of-ai-generated-content-in-the-experience-orchestrated-business-era/

마찬가지로 같은 시기에 Gartner가 조사한 보고서에 따르면 기업의 55%가 GenAI 도입 프로젝트를 파이롯트 운영 중이거나 이미 업무에 활용하고 있는 것으로 나타났다.

https://www.gartner.com/en/newsroom/press-releases/2023-10-03-gartner-poll-finds-55-percent-of-organizations-are-in-piloting-or-production-mode-with-generative-ai

그러나 GenAI 활용을 실험하는 것과 소수의 영역에서 구현하는 것과 업무 전반에 걸쳐 이를 최대한 채택하는 것 사이에는 큰 차이가 있다.

GenAI와 잠재적인 사용사례를 설명하는 것은 쉽지만 실천하는 일이 도전과제이다.

GenAI 도입 활용 여정의 장애물

기업에서 GenAI 도입에 어려운 점은 여러 가지 이유가 있다. 

기업이 성공적인 GenAI 활용을 위해서는 충분한 데이터 기반 구축이 전제되어야 한다. 

현장에서 경험한 주요 문제로 다음과 같은 것이 있다.

어떤 업무를 사용사례 대상으로 해야 할지 모름

GenAI 활용 대상 업무는 이메일이나 보고서 초안 작성을 돕는 일부터 고객과 소통하는 챗봇 지원, 제품 및 사용법 문서화 등 다양한 일에 활용할 수 있다.

그러나 어느 특정 비즈니스에 특정 GenAI를 활용하여 실제로 이익을 얻을 수 있는지, 그리고 처음에 사용사례를 성공적으로 구현할 수 있는지 여부는 판단하기 어렵다. 

예를 들어 특정 사용사례를 지원하는 데 적합한 데이터가 있는지도 알 수 없다. 또한 어떤 사용사례가 가장 큰 ROI를 기업에 제공할지 막연하기만 하다.

따라서 어떤 GenAI 사용 사례에 집중해야 할지 결정하는 데 어려움을 겪게 되어 GenAI 구현 계획에 주저하게 된다.

GenAI 모델 선정에 대한 불확실성

현재 사용할 수 있는 GenAI 모델은 다양하다. 일부는 독점적이고 일부는 오픈 소스도 있다.

일부는 다른 것보다 사용하기 쉽고 일부는 어느 특정 작업에 탁월하다. 

민감한 데이터를 제3자와 공유해야 하는 모델도 있고 모든 데이터를 사내에 보관하도록 허용하는 것도 있다.

이러한 복잡한 선택 사항을 모두 고려할 경우 사용할 모델과 사용 방법을 결정하기 어렵다. 

예를 들어, 사전 학습된 오픈 소스 모델을 가져와서 데이터를 다시 훈련하는 것에 대한 장단점을 저울질하고 있는 모습을 종종 발견한다. 

위와 같은 선택은 모델의 작동을 잘 제어할 수 있고 커스터마이즈할 수 있는 기능이 향상되어 공급업체와 데이터를 공유할 필요가 없어 안심할 수 있다.

그러나 이 선택은 서비스 모델 사용보다 더 많은 수고와 시간이 따른다. 

또한 오픈 소스 모델을 사용하는 경우 모델을 다시 학습시킬 수 있는 충분한 데이터와 품질을 확인해야 한다.

반면에 독점 모델을 사용하면 ROI에 유리하다. 이 유형은 일반적으로 모델을 직접 작동할 필요가 없어 사용하기 쉽다. 

단점은 커스터마이즈하기 어렵고 이를 사용하려면 일반적으로 자사 비지니스 데이터를 타사인 공급업체에 보내야 하므로 보안 및 데이터 개인 정보 보호 문제가 발생할 수 있다.

결론적으로 다양한 모델 옵션을 평가하려면 비즈니스와 기술적 측면에서 GenAI에 대한 깊은 이해가 필요하다. 

고도의 통찰력을 얻으려면 모델 각 유형에 대한 전문지식이 있어야 하는데 이것은 쉬운 일이 아니다.

GenAI 투자에 대한 ROI 예측 어려워

GenAI 기술에 대한 ROI는 추진 전략에 따라 달라질 수 있다. 

예를 들어, 자체적으로 모델을 개발하고 학습시키려면 일반적으로 타사 모델을 사용하는 것보다 더 많은 초기 투자가 필요하다. 

그러나 도입 접근 방식이 무엇이든 GenAI에 대한 투자는 저렴하지 않다.

또한 GenAI 투자가 매출 및 생산성 향상 그리고 비용을 얼마나 절약할 수 있는지 예측은 이 기술이 새로운 기술이어서 ROI 파악이 비교적 어렵다.

예를 들어, 커스터마이즈화한 GenAI 솔루션 구동에 필요한 데이터 수집, 변환 및 관리 비용을 모두 이러한 솔루션 활용으로 인한 절감효과로 정당화할 수 있는지는 아직 모르기 때문이다.

이러한 불확실성 때문에 일부 기업에서는 GenAI 투자가 그만한 가치가 있는지 확신할 수 없어 GenAI 도입 투자를 주저하고 있는 것도 현실이다.

프로세스가 아닌 도구에 집중

GenAI와 GenAI 모델이 의존하는 데이터 관리에 사용할 수 있는 도구의 에코시스템이 점점 더 확대되고 있다. 

그러나 도구만으로는 GenAI 전략을 실제로 구현하기 어렵다. 도구와 함께 제공되는 프로세스가 필요하다.

예를 들어, GenAI 챗봇을 개발하는 데 적합한 유형의 데이터가 있는지 파악하려는 기업이있다고 생각해 보자. 

예를 들면, 모든 데이터의 인벤토리를 생성하는 데이터 검색 도구는 구입할 수 있다. 이는 챗봇을 구축하기 위한 한 단계이지만 모든 단계마다 도구를 구입할 수는 없다. 

또한 챗봇을 구동하는 GenAI 모델에 데이터를 공급하기 전에 데이터 수집, 품질 관리, 변환하는 일련의 업무 프로세스가 필요하다.

결론적으로 GenAI를 도입하는 경우 종종 도구로 한정하기 쉬운데 이러한 경우 충분한 솔루션이 되지 못한다.

GenAI 데이터 과제 해결

지금까지의 설명에서 GenAI 도입 과제를 관통하는 공통 주제가 있다. 그것은 바로 데이터 관리이다. 

적절한 데이터 관리 도구와 프로세스가 있어야 사용 사례를 지원할 수 있는 올바른 데이터와 데이터 거버넌스 및 품질 관리 제어 장치를 보유하고 있는지 알 수 있다. 

효과적인 데이터 플랫폼 구현이 기업이 GenAI 채용을 활성화하기 위해 갖추어야 하는 가장 중요한 첫 단계이다. 

데이터 플랫폼은 기업이 소유한 모든 데이터를 검색, 모니터링, 관리, 보안 및 변환할 수 있는 총체적인 도구 세트를 의미한다. 

물론 극복해야 할 다른 과제도 있다. 

GenAI 서비스 구축 및 교육하고 필요한 솔루션을 설치하기 위해 공급업체 GenAI와의 통합에 필요한 인력을 확보해야 한다. 

그 외에 GenAI 모델 훈련 및 추론을 강화하기 위한 인프라에도 투자해야 한다.

그러나 위의 모든 과제보다 중요한 것은 올바른 데이터 관리에 있다. 

바로 이 점이 GenAI 도입에 있어서 자주 넘어지는 부분이며, 단순히 GenAI에 대한 지식으로 끝나지 않고 실제로 도입 적용하려면 집중적으로 해결해야 하는 과제이다.

참고 | https://www.rtinsights.com/overcoming-the-top-barriers-to-genai-adoption-in-the-enterprise/​