Snowflake 스타트업 집중 조명: ROE AI

‘Snowflake 스타트업 집중 조명'은 Snowflake 플랫폼에서 비즈니스를 운영하는 혁신적인 스타트업들에 대해 알아봅니다. 이번 회차에서는 익숙한 SQL 쿼리를 사용하여 비정형 멀티 모달 데이터에서 인사이트를 추출할 수 있도록 데이터 팀을 지원하는 스타트업인 ROE AI의 공동 창립자 겸 CEO인 Richard Meng을 만나 진행한 일문일답을 소개합니다. ROE AI의 플랫폼은 AI 에이전트를 통합하여 데이터 처리를 단순화함으로써 여러 산업 전반에서 다양한 조직이 수동 워크플로우를 자동화하고 데이터에서 실행 가능한 인텔리전스를 도출할 수 있도록 지원합니다.

창업자로서 어디서 영감을 얻으시나요?

저는 현실에 도전하고, 이전에 미처 해결되지 못한 문제들 특히 데이터와 AI의 교차점에 있는 문제들을 해결하기 위해 노력해왔습니다. 또한, ROE AI를 설립하기 전에 일했던 Snowflake에서도 많은 영감을 얻었습니다. 특히, AI 데이터의 놀라운 혁신 속도를 몸소 체험할 수 있었죠. 

대규모 언어 모델(LLM)이 등장하자마자 저는 데이터 세계의 오랜 숙원인 비정형 데이터 활용 문제의 진짜 해결책을 찾을 수 있을 것이라는 확신이 들었습니다. 지난 수십 년 동안 이 문제를 해결하려고 노력했지만, 만족스러운 해결책은 없없습니다. 하지만 이번이야말로 저의 개인적인 배경과 Snowflake에서의 경험을 바탕으로 무언가를 시도할 수 있는 완벽한 기회라고 생각했습니다.

ROE AI가 해결하고자 하는 문제는 무엇인가요? 

많은 금융 서비스 조직은 인사이트를 도출하기 위해 문서에 의존합니다. 오늘날 이러한 워크플로우는 완전히 수작업으로 이루어집니다. 제 목표는, 엄격하게 평가되는 에이전틱 문서 워크플로우를 구축할 수 있도록 클라이언트들을 지원하는 것입니다. 많은 기업들이 RAG로 이 문제를 해결하려 하지만, 정확도가 필수 요건이기 때문에 역부족인 경우가 많습니다. 

바로 이러한 이유 때문에 ROE AI를 구축하고 있는 것입니다. 즉, 정확도를 중시하는 고객들이 단 몇 줄의 SQL만으로 에이전틱 문서 워크플로우를 구축, 평가 및 프로덕션화할 수 있도록 지원하려는 것입니다. 

그리고 Snowflake와의 파트너십을 통해 이 기능을 Snowflake Marketplace에서 네이티브 방식으로 Snowflake 클라이언트들에게 제공할 수 있게 되어 기쁘게 생각합니다.

ROE AI가 내세우는 가장 획기적인 기능은 무엇인가요? 

ROE AI는 임베딩 벡터 없이 비정형 데이터를 해결합니다. 클라이언트들의 비정형 데이터 문제에 대해서는, 본질적으로 부정확하다는 특성 때문에 벡터에 의존하지 않습니다. 그 대신에 LLM 호출을 많이 사용하여 이 프로세스의 비용을 낮출 수 있습니다. 

또 다른 흥미로운 사실은 저희가 내부적으로도 ROE AI를 사용한다는 것인데요. 인력 채용 시 후보자들의 이력서를 검토하는 데 이 제품을 사용하고 있습니다. 이 제품을 적용하면 1분 이내에 수천 개의 이력서를 빠르게 분석하면서 다음과 같은 타깃팅된 질문에 답할 수 있습니다. 응시자는 엔터프라이즈 및 스타트업 경험 모두를 보유하고 있는가? 응시자가 상당한 데이터 전문 지식을 회사에 기여할 수 있는가?

Snowflake 기반 구축으로 얻은 주요 이점은 무엇인가요?

우선, Snowflake를 통해 저희 앱에 대한 사용자의 신뢰를 강화할 수 있었습니다. Snowflake Native App과 Snowflake Cortex AI 덕분에 모든 ROE AI 기능이 Snowflake의 보안 경계 내에 존재합니다. 그렇기 때문에 엔터프라이즈는 Snowflake 외부로 데이터를 이동하지 않고도 AI 에이전트를 기반으로 비정형 데이터 워크플로우를 실행할 수 있어 신뢰를 높이고 규정 준수를 지원하는 데 도움이 됩니다.  

둘째, 확장성을 최적화할 수 있습니다. 대규모 LLM 운영에는 많은 경우 전문적인 리소스가 필요합니다. 그런데 Cortex AI를 사용하면 GPU와 기타 컴퓨팅 리소스를 원활하게 확장하여 대량의 비정형 데이터 분석을 처리할 수 있습니다. 또한 Cortex LLM을 활용하면 최첨단 상용 모델을 안전하게 사용할 수 있습니다. 

셋째, 효율성을 높일 수 있습니다. 최종 사용자는 SQL 함수, Snowflake 스테이징 및 기타 Snowflake 네이티브 기능을 활용하여 ROE AI를 통해 셀프서비스 방식으로 비정형 데이터를 쿼리하거나 변환할 수 있습니다. 정형 데이터를 쿼리하는 방식과 똑같이 말이죠.

Snowflake Native App Framework는 귀사의 성장 및 개발 전략 수립에 어떤 영향을 미쳤습니까?

첫째, Snowflake 네트워크를 통해 시장 진출 전략을 가속화할 수 있었습니다. 저희가 추구하는 이상적인 고객은 대규모 엔터프라이즈들이지만, 저희 같은 스타트업이 접근하는 데는 어려움이 있습니다. 하지만 Snowflake Native App 생태계에 참여함으로써 Snowflake의 기존 엔터프라이즈급 잠재 고객 및 영업 채널을 활용할 수 있습니다.  

또한 완전히 통합된 Snowflake의 쿼리 경험에서도 이점을 누리고 있습니다. 저희는 분산되어 있고 독립적인 접근 방식을 취하는 대신 Snowflake의 데이터 변환 및 워크플로우에 저희의 비정형 데이터 솔루션을 내장했습니다. 이처럼 긴밀한 통합을 통해 영업 주기를 단축하고 고객을 위해 복잡성을 줄일 수 있습니다.

마지막으로 저희 ROE AI의 솔루션은 이미 Snowflake의 보안 및 조달 프레임워크에 부합하기 때문에 고객들은 기존의 Snowflake 계약을 통해 저희 솔루션을 손쉽게 구매할 수 있습니다. 이렇게 하면 6개월이 걸리는 조달 프로세스를 단 몇 주로 단축할 수 있습니다.

Snowflake에서 애플리케이션 구축을 고려하는 분들께 드리고 싶은 조언이 있다면요?

먼저, Snowflake의 네이티브 기능들을 완전히 수용하세요. Cortex AI, 사용자 정의 함수, Snowpark, Secure Data Sharing 등의 기능들은 여러분의 개발 일정을 크게 단축시켜 줄 것입니다. 두 번째로, Snowflake의 데이터 보안 태세에 맞게 솔루션을 조정하여 엔터프라이즈 채택을 간소화하세요. 마지막으로 Snowflake의 파트너 및 영업 팀과 초기 단계부터 적극적으로 소통하세요. 고객들이 겪는 불편 사항에 대해 심층적인 인사이트를 갖고 있기 때문에 제품 시장 적합성을 개선하고 시장 진출 전략을 가속화하는 데 큰 도움이 될 것입니다.

마지막 질문: 꼭 당부하고 싶은 얘기가 있다면요?  

가장 어려운 문제부터 해결하시라고 말씀드리고 싶습니다. 쉽게 달성할 수 있는 성과를 추구하는 것이 처음에는 좋아보일 수 있지만, 가장 해결하기 힘든 과제를 용기와 끈기를 갖고 해결할 때 진짜 시장에 딱 맞는 제품이 나오는 경우가 많으니, 꼭 어려운 문제부터 해결하도록 노력하시기 바랍니다. 

ROE AI에 대한 더 자세한 내용과 어렵고 데이터 집약적인 문제를 풀기 위한 ROE AI의 고정밀 전략을 알아보시려면 getroe.ai를 참고하시거나, Snowflake Marketplace에서 ROE AI 앱을 체험해 보세요.