Snowflake 스타트업 집중 조명: Contextual AI

‘Snowflake 스타트업 집중 조명'은 Snowflake 플랫폼에서 비즈니스를 운영하는 혁신적인 스타트업들에 대해 알아봅니다. 이번 회차에서는 기업들이 프로덕션 등급의 고도로 전문화된 AI 에이전트를 구축할 수 있도록 지원하는 Contextual AI의 CEO이자 공동 창립자인 Douwe Kiela와의 일문일답을 소개합니다. Contextual AI의 에이전트들은 검색 증강 생성(RAG)을 사용하여 엔터프라이즈 데이터에 대해 추론하여 비즈니스의 컨텍스트를 매우 정확하게 파악할 수 있는 독보적인 능력을 갖추고 있습니다. 

창업자로서 영감의 원천은 무엇인가요?

AI의 잠재력으로부터 많은 영감을 얻습니다. 저는 AI가 세상을 혁신하고 중대한 글로벌 문제를 해결해줄 수 있다고 믿습니다.

Contextual AI가 해결하고자 하는 문제는 무엇인가요?

매력적인 AI 데모를 제작하는 것은 전혀 어렵지 않지만, AI 시스템을 프로덕션 단계로 진입시키는 것은 매우 힘듭니다. 특히 높은 수준의 정확도, 감사 가능성 및 보안을 요구하는 엔터프라이즈의 경우에는 더욱 그렇습니다. 

저는 지난 2020년, RAG에 대한 논문을 내놓은 FAIR 연구 팀을 이끌면서, RAG가 엔터프라이즈를 위한 AI를 구축하는 데 중요한 구성 요소가 될 것임을 알게 되었습니다. 그 후 RAG가 실제로 널리 사용되기 시작했으나, 그 개념을 구현하는 방식은 최적이 아니었죠. 그래서 이러한 엔터프라이즈가 AI를 활용하여 필요한 결과를 더 빠르게 달성할 수 있도록 더 나은 방법을 제공하기 위해 컨텍스트 AI를 시작했습니다.

Conextual AI가 가장 자신있는 기능은 무엇인가요? 

현재 구현되고 있는 RAG 파이프라인은 마치 프랑켄슈타인이 만들어 놓은 괴물 같습니다. 추출, 임베딩, 검색 및 언어 모델을 함께 연결해야 하는데, 이 요소들은 처음부터 상호 공조가 잘 되도록 설계된 게 아닙니다. 바로 이런 이유 때문에 대부분의 기업들이 RAG 솔루션으로는 프로덕션에 적합한 품질을 달성하지 못하고 있죠.

하지만 Contextual AI의 플랫폼은 다릅니다. RAG 워크플로우에 필요한 모든 구성 요소를 긴밀하게 통합하고 공동으로 최적화합니다. 이러한 접근 방식을 통해 고객은 훨씬 더 높은 정확도를 확보하여 경쟁사보다 더 빠르게 솔루션을 프로덕션에 진입시킬 수 있습니다. 

보안에 대한 우려 사항은 플랫폼 배포에 어떤 영향을 미치나요?

기업은 데이터나 AI 프로젝트에 관해서라면 보안에 매우 민감합니다. Contextual AI의 플랫폼은 고객의 가상 프라이빗 클라우드에 배포할 수 있지만, 이를 위해서는 엔지니어링 팀이 해당 플랫폼을 실행하는 인프라를 설정하고 관리해야 합니다.

Contextual AI를 Snowflake Native App으로 배포하면 고객은 자체 Snowflake 환경 내에서 안심하고 플랫폼을 실행하고 데이터를 처리할 수 있으며, Snowflake는 서버 관리, 규모 조정, 유지 관리 등 인프라와 관련된 작업들을 관리합니다.

Snowflake의 Native App Framework는 Contextual AI의 성장에 어떤 영향을 미쳤습니까?

대기업들은 공급업체가 자신들의 데이터를 올바르게 처리하고 보호하고 있는지 검증하고 신뢰할 수 있어야 합니다. 자체 자격 인증이 있더라도, 거래 주기 동안에 이뤄지는 보안 검토 프로세스는 자칫 지난한 작업이 될 수 있고 모멘텀을 늦출 수 있습니다. 

하지만, Snowflake Native App으로 솔루션을 제공하면 이미 기업들의 광범위한 보안 검토를 거친 기존의 Snowflake 환경에 완전히 구성된 앱을 배포할 수 있기 때문에 그만큼 영업 주기가 빨라집니다.

Snowflake Marketplace에 등록되어 있다는 것이 고객 획득에 어떤 영향을 미치나요?

우선 Marketplace Capacity Drawdown(MCD) 프로그램에 참여하게 되어 매우 기쁩니다. 기존 Snowflake 크레딧으로 저희와 같은 온디맨드 플랫폼의 비용을 지불할 수 있도록 한다면 영업 주기가 크게 단축될 것입니다. 

AI의 방향성에 대해 어떤 비전을 갖고 계시나요?

AI 에이전트는 올해 큰 관심을 받았지만, 출시된 제품 대부분은 웹 검색과 같은 범용 사용 사례에 적합합니다. 하지만 엔터프라이즈에 실제로 필요한 것은 산업 워크플로우에 최적화되어 있고 훨씬 더 정확한 내부 데이터 비즈니스 프로세스의 컨텍스트를 이해하는 에이전트라고 생각합니다.  

Contextual AI는 이러한 요구 사항을 해결하기 위해, 범용 에이전트로는 구현이 힘든 투자 분석, 엔지니어링 설계 지원 및 기술 연구와 같은 사용 사례를 지원하는 전문 RAG 에이전트 구축을 위한 플랫폼을 제공합니다.

Snowflake에서 애플리케이션 구축을 고려하는 분들께 드리고 싶은 조언이 있다면요?

주저하지 말고 당장 하시라고 말씀드리고 싶어요. Snowflake를 기반으로 구축하면 제품의 시장 출시에 상당한 이점을 누릴 수 있습니다. 보안 검토 간소화, 영업 주기 단축, MCD 프로그램 등 앞서 언급한 이점뿐만 아니라, Snowflake 글로벌 영업 팀이 항상 곁에서 든든한 지원군이 되어줄 것입니다.  

Contexual AI가 어떤 회사인지, 특히 고도로 감사 가능하고 전문화된 프로덕션급 RAG 에이전트를 구축 및 배포하는 데 어떻게 도움이 되는지 contextual.ai 에서 자세히 알아보세요. 또한,  Snowflake Marketplace에서 Contextual AI 플랫폼을 직접 체험해 보세요.