실제적인 도움으로 ‘일상 속의 AI’ 꿈꾸는 ‘데이터이쿠’

단일 플랫폼 기반 단순화된 AI 환경으로 고객의 MLOps 성공 돕는다

조직원 모두가 참여하는 간편하고 쉬운 AI가 핵심

AI는 많은 기업들의 비즈니스에 직접적인 영향을 주면서 영향력을 넓혀 나가고 있다. 하지만 아직도 많은 AI 프로젝트가 비즈니스에 실제적인 도움을 주지 못하고 ‘찻잔 속의 태풍’에 그치는 경우도 쉽게 찾아볼 수 있다.

여기에는 많은 이유가 있을 수 있지만, 그 중에서도 비즈니스 AI를 도입하기 위해서는 현업 담당자와 데이터 과학자, 그리고 IT 팀, 심지어 경영진까지 포함한 조직의 구성원 전부가 AI 프로젝트에 참여해야 함에도 불구하고, 그럴만한 환경이 되지 못하기 때문이기도 하다.

더구나 기업의 데이터 환경은 점점 더 복잡해지고, AI에 대해 요구하는 기대치는 높아지고 있는 상황에서 현업 담당자와 데이터 과학자, IT 팀이 전부 개발적으로 움직일 때, 이들 간의 협업을 통해 이뤄 나가야 하는 데이터 환경은 신기루처럼 보일 수 밖에 없다.

AI가 기업의 비즈니스에 직접적인 영향을 주고 생산성을 향상시키거나 ROI를 개선하는 등의 실제적인 도움을 주기 위해서는 조직의 구성원 모두가 AI를 사용할 수 있는 환경, 모두가 아무렇지 않게 자신이 원하는 AI 모델을 구성하고 사용할 수 있는 단순화된 환경을 조성함으로써 성공적인 MLOps(Machine Learning Operations)를 구현해야 할 필요가 있다.

복잡한 데이터 환경을 단순화해 ‘일상 속의 AI(Everyday AI)’를 위한 플랫폼을 제공하고 있는 데이터이쿠(Dataiku)는 누구나 쉽게 참여할 수 있는 비즈니스 AI 환경을 조성하는 데 도움을 주기 위해 오늘도 불철주야 노력하고 있다.

단일 플랫폼으로 모두를 위한 AI 제공

지난 2013년 설립돼 올해로 11년차에 접어든 데이터이쿠는 프랑스 파리에서 4명의 공동창업자에 의해 설립돼, 그중 플로리안 두에토(Florian Douetteau) CEO와 클레몽 스테낙(Clement Stenac) CTO가 아직까지 데이터이쿠를 지키고 있다.

플로리안 두에토(Florian Douetteau) 데이터이쿠 공동창업자, CEO

데이터이쿠는 나스닥 상장을 위해 파리에서 뉴욕으로 본사를 옯겼지만, 아직도 R&D 등 대부분의 조직은 프랑스 파리에 자리잡고 있다.

데이터이쿠의 가장 특이한 점은 단 하나의 제품만 보유한 기업이라는 점이다. DSS(Data Science Studio)라는 단일화된 플랫폼을 통해 데이터 준비 과정부터 비주얼라이제이션, 머신러닝, DataOps, MLOps, 분석앱에 이르는 모든 기능을 제공하며, 매년 메이저 업데이트를 단행해 현재 버전 12까지 출시된 상태다. 하지만 3~4주마다 단행되는 마이너 업데이트를 통해 사용자들의 피드백을 적극적으로 반영하면서 기능을 강화해 나가고 있어, 커뮤니티나 관련 사용자들의 열광적인 호응을 얻고 있는 것으로도 유명하다.

이런 데이터이쿠의 발빠른 움직임은 경쟁이 점차 심화되고 있는 AI 시장에서 열성적인 개발자 팬 층을 확보하고, 적극적인 사용자 커뮤니티의 호응을 얻으며 빠르게 성장하고 있다.

현재 데이터이쿠는 전세계에 1000여명의 직원과 500개 시앙의 고객, 그리고 포브스 글로벌 2000 기업 중 150개의 고객을 확보하고 있으며, 95% 이상의 엄청난 고객 유지율이라는 엄청난 고객 충성도를 확보하고 있으며, GE 항공사업부를 비롯해, 유니레버, 머크, 스탠다드차타드, NXP, 세포라, 메르세데스 벤츠 등 제조, 금융, 소매 등 다양한 업종의 기업을 고객으로 보유하고 있다.

특히 데이터이쿠는 초기 구글의 투자를 받아 유명세를 얻은 바 있었지만, 캐피탈지 외에도 아이코닉, 퍼스트마크, 배터리 벤처스, 타이거 글로벌, 던 캐피털, 웰링턴 매니지먼트 등 주요 벤처캐피탈과 투자자들로부터 투자를 유치하는 등 사업성을 인정받고 있다.

또한 AWS, 구글 클라우드, 마이크로소프트 애저, 스노우플레이크, 딜로이트, 캡제미니, 슬라롬 등 325개(2022년 11월 기준) 이상의 클라우드, ISV, SI, 컨설팅펌, 리셀러 파트너들로 이뤄진 AI 생태계를 갖추고 있다.

AI 도입 실패를 방지하는 ‘일상을 위한 AI’ 추구

기업들은 경쟁의 압박과 급변하는 거시경제, 지정학적 상황으로 인해 기업 운영 전반에 걸쳐 데이터 사용 방식을 전례 없는 속도로 혁신해야 하는 상황에 직면해 있다. 그리고 이런 상황에 대응해 나가기 위한 가장 현대적인 기술인 AI, 특히 생성AI를 비즈니스에 적용해 생산성을 향상시키고, 변화에 빠르게 대응해 나가기 위한 유연성과 탄력성을 확보하고자 하지만, 낡은 프로세스와 조직이 필요한 혁신을 이루는 속도가 느리다는 점, 특히 생성AI를 비즈니스 현장에 도입하는 것이 생각만큼 빠르게 이뤄지지는 않고 있다.

문제는 데이터의 양과 속도가 기하급수적인 속도로 계속 증가하고 있으며, 이런 데이터에 포함된 유용한 지식과 인사이트를 추출하기 위해서는 고급 분석 기술, 특히 AI가 필요하지만, 이것이 그리 쉬운 일이 아니기 때문이다.

기업의 비즈니스 환경에 AI를 도입하기 위해서는 새로운 기술을 도입하고, 새로운 기술을 개발하고, 경쟁력을 유지하기 위한 새로운 운영 모델을 설계해야 한다. 기업에게 이런 엄청난 변화는 데이터 액세스의 어려움, 수많은 팀의 업무에 대한 가시성 부족, 활용도가 낮거나 좌절감을 느끼는 부족한 전문가, 비용이 많이 들고 복잡한 데이터 인프라 등과 같은 현실의 벽을 마주하게 만든다.

더구나 AI, 특히 생성AI를 조직의 운영이나 프로세스에 적용하는 능력을 개발하는 것은 쉽지 않으며 즉각적인 효과도 없다. 그럼에도 불구하고 이런 노력은 쌓이고 쌓여 조직은 학습하고 능력을 향상시키면서 같은 노력으로 더 많은 가치를 실현할 수 있게 된다.

데이터이쿠는 이런 기업들의 어려움을 보다 빠르고 편하게 해결할 수 있는 방법을 제시하고 있다. 데이터이쿠는 고객이 '전통적인' 머신러닝이나 고급 분석뿐 아니라 생성AI를 비즈니스 전반의 프로세스와 운영에 구축할 수 있도록 지원해, 실제적인 생산성 향상을 이끌어 냄으로써 ROI 개선에 도움을 주는 것을 목적으로 하고 있다.

광범위한 AI 영역에서 MLOps를 중심으로 머신러닝 모델 자체를 배포하고 이를 통해 비즈니스에 공헌을 통해 ROI를 얻을 수 있게끔 하는데 중점을 두고 있다. 현재 많은 기업들이 AI를 도입하고 있지만, 전체 도입 기업의 약 80%는 ROI에 기여하지 못하고 있는 것으로 알려져 있다.

AI를 도입하려는 이유, 그리고 AI 도입을 위해 팀을 구성하고 전략을 수립하고 비즈니스 방향성을 바꾸고 하는 이유는 비즈니스 수익을 창출하기 위한 것, 혹은 효율성을 극대화하기 위한 것이다.

홍용민 데이터이쿠 한국 비즈니스 총괄 부사장은 “데이터이쿠는 고객들에게 MLOps를 통해 데이터를 활용해 ROI를 창출하도록 돕고 있다”며, “일반적으로 많은 사람들이 AI나 ML 프로젝트나 모델을 만드는 작업이 데이터 전문가의 작업이라고 생각하고 있지만, 비즈니스에 실제적인 도움이 되기 위해서는 AI/ML 모델 개발에는 현업 담당자의 적극적인 참여가 필수적이다. AI 모델의 준비에서부터 생성, 배포, 모니터링하는 과정이 지속적으로 선순환하도록 만드는 것이 바로 데이터이쿠의 목표”라고 설명한다.

MLOps에는 현업과 데이터 전문가, IT 부서, 경영진까지 비즈니스에 관련된 모든 부분이 참여할 수 있는 환경을 만들어야 하지만, 이것이 그리 쉬운 일이 아니기 때문에 많은 MLOps가 실패하거나 제대로 된 성과를 내지 못하고 있다며, 데이터이쿠는 이런 문제를 개선하기 위해 모두가 사용할 수 있는 데이터 플랫폼을 제공하고 있다. 그리고 이를 위해 코더 외에 LC/NC(Low Code/No Code) 방식으로 AI나 ML 업무를 클릭만으로 수행할 수 있는 클리커라는 개념을 제시하고 있다.

홍용민 부사장은 “스탠다드차타드와 같은 금융기관이나 메르세데스 벤츠와 같은 대형 기업을 비롯해 글로벌 대형 생명보험 회사 등이 이런 클릭 기반의 AI/ML 개발을 하고 있으며, 이를 통해 ROI를 창출하고 있다”며, “데이터이쿠는 금융권이나 제조업 등에서 이미 이런 클릭만으로 AI/ML 개발을 수행하는 많은 고객을 확보하고 있다”고 말한다.

책임감 있고 설명할 수 있으며, 신뢰할 수 있는 생성AI 추구

데이터이쿠의 플랫폼은 조직 전체에 걸쳐 다양한 유형의 전문성을 가진 개인과 팀이 사용할 수 있도록 설계됐으며, 이를 통해 기업이 필요한 AI 기반 혁신을 달성하는 데 필요한 결과를 제공하려고 할 때 직면하는 어려움을 해결할 수 있도록 돕는데 초점을 맞추고 있다. 이의 일환으로 최근 많은 관심을 모으고 있는 생성AI와 관련해서도, 기존 데이터이쿠의 철학을 그대로 반영하고 있다. 바로 기업 환경에서 누구나 안심하고 사용할 수 있는 AI를 만들기 위한 다양한 노력을 기울이고 있는 것이다.

지난 2023년 6월, 비즈니스 환경에 생성AI를 적용하기 위한 16가지 생성AI 활용 사례를 통해 생성AI가 비즈니스 환경에서 할 수 있는 일을 정의하고 이를 체계적으로 분류해 제공하고 있다. 이 새로운 접근 방식을 통해 기업은 생성AI 프로젝트를 개별적으로 개발, 도입하는 기존의 접근 방식에서 벗어나, 다양한 사례 연구를 통해 체계화된 방식으로 도입함으로써 생성AI를 연구실에서 산업 현장, 기업의 사무실로 옮겨가고 있다.

기업들이 안심하고 사용할 수 있는 AI 환경을 제공하기 위해 데이터이쿠는 책임감 있는 설계, 배포와 거버넌스를 위한 다양한 기본 제공 기능을 제공한다. 생성AI의 등장으로 조직은 그 어느 때보다 책임감 있고 관리 가능한 방식으로 AI 시스템을 구축하는 것에 대해 고민해야 한다.

데이터이쿠는 설명 가능하고 책임질 수 있는 거버넌스 중심의 생성AI를 통해 각종 규제, 그리고 위험 요소를 파악하고 이에 대처할 수 있는 방법을 제시하고자 하고 있으며, 이를 체계화해 프레임워크화 한 것이 바로 RAFT(Reliable and Secure, Accountable and Governed, Fair and Human-Centered, Transparent and Explainable) 프레임워크다.

홍용민 데이터이쿠 한국 비즈니스 총괄 부사장

홍용민 부사장은 “RAFT 프레임워크는 지난 6월에 발표돼 아직 국내에 별도로 소개한 적도 없지만, 이미 한국의 많은 고객들이 이를 인지하고 있을 정도로, 데이터이쿠의 생성AI에 대한 관심이 많다”며, “이를 통해 기업의 담당자들과 워크샵을 진행해 고객의 AI 적용 목적과 안정성, 규제 등에 논의하고 적합성에 대해 RAFT 프레임워크를 기준으로 판단하고, 체계적인 도입 방안을 수립해 나갈 것”이라고 설명했다.

금융권에서부터 소매, 유통 중심의 시장 공략 시도

홍용민 부사장은 “데이터이쿠의 비전과 미션은 한국에서 ‘일상 속의 AI’를 실현하고, 한국의 조직이 구조화되고 투명하며 설명 가능하고 관리되는 엔터프라이즈 AI 전략을 통해 가치를 확장하고 달성할 수 있도록 지원하는 것”이라며 데이터이쿠의 한국 시장 전략에 대해 소개했다.

데이터이쿠가 한국 지사를 아직 설립하지 않았지만, 이미 2018년 아시아 지역 첫번째 고객이 한국에서 탄생했으며, 한국 시장의 선진성과 가능성에 대해 높이 평가하고 있어 한국 지사 설립에 대해 긍정적으로 검토하고 있다고 전한다.

한국 시장에 대해 데이터이쿠는 AI 성숙도 단계를 탐구 단계부터, 시험 단계, 정착 단계, 확장 단계, 내재화 단계 등 5단계로 구분했을 때, 2번째인 시험 단계에 접어들었다고 판단하고 있다. 홍용민 부사장은 “실제로 많은 한국의 고객들이 PoC나 파일럿 단계의 AI 도입을 시도하고 있으며, 이를 통해 성공 사례를 하나씩 만들어 나가고 있는 상황”이라고 평가했다.

데이터이쿠는 국내 AI 시장의 성숙도 단계에 맞춰 시험 단계에 맞는 기술과 전략을 추진해 나갈 계획이며, 우선 데이터에 대한 준비가 잘 갖춰져 있고, 실제 활용 측면에서도 많은 시도가 이어지고 있는 금융 시장을 먼저 타깃으로 시장 공략에 나설 계획이다.

홍용민 부사장은 “금융 분야가 데이터이쿠의 글로벌 사례도 많고 적용 사례도 많으며 솔루션도 잘 갖춰져 있으며, 더군다나 대부분의 금융권은 이미 데이터 관련 인력을 잘 갖추고 있기에 데이터이쿠가 시장 공략에 나서기에 유리한 조건을 고루 갖추고 있다”고 금융권에 대한 시장 공략이 유리한 이유에 대해 설명했다.

그는 금융 이외에도 소매나 유통 또한 데이터이쿠의 한국 시장 공략을 위한 중요한 산업 분야라고 부연하면서, 특히 국내 기업들이 많은 관심을 보이고 있는 생성AI와 관련해 RAFT와 같은 거버넌스와 컴플라이언스 관련 프레임워크를 제시하면서 보다 안전하고 신뢰할 수 있으면서도 ROI 개선에 실질적인 도움을 주는 AI 기술을 공급해 나갈 계획이라고 밝혔다.

특히 설명할 수 있는 AI에 특화된 데이터이쿠의 AI 기술을 통해 금융기관이나 기업의 재무, 감사 팀에서 유용하게 사용할 수 있는 기반을 제시하고 있으며, 이와 관련된 다양한 글로벌 적용 사례를 보유하고 있다.

홍용민 부사장은 “생성AI로 인해 고객들의 AI에 대한 태도가 바뀌고 있어 국내 AI 시장 활성화에 생성AI가 매우 큰 역할을 할 것으로 예상된다”며, “과거 국내에서는 경쟁에서 뒤쳐지지 않기 위해 AI 도입을 시도해 본다는 수준이었다면, 이제는 실제 비즈니스 과제에 접목시켜 어떻게 AI를 통해 해결 방안을 마련할 것인지 등과 같은 보다 실질적인 고민이 이뤄지고 있으며, 이런 고민을 해결하기 위한 방안 마련에 모색하고 있다”고 설명했다.