Snowflake Cortex AI continue de faire progresser l’IA d’entreprise

L’IA générative peut s’avérer révolutionnaire pour les entreprises. Les entreprises peuvent utiliser l'IA générative pour extraire davantage de valeur de leurs données et créer des interfaces conversationnelles pour les applications clients et collaborateurs. L’adoption de solutions d’IA peut améliorer l’efficacité globale. L'IA générative permet aux collaborateurs d'effectuer des tâches professionnelles avec plus de rapidité et de précision, ce qui favorise la productivité et l'engagement. En outre, en mettant en œuvre de solides contrôles de sécurité des données et en répondant aux exigences réglementaires, les entreprises peuvent intégrer l’IA en toute confiance tout en respectant les normes de conformité. Combler le manque d’expertise interne en IA et simplifier les processus d’IA peuvent faciliter l’adoption. En profitant de ces opportunités, les entreprises peuvent utiliser l’IA générative pour atteindre un plus grand succès. 

C’est là qu’entre en jeu Snowflake. Snowflake Cortex AI est un service entièrement géré conçu pour libérer le potentiel de la technologie pour tous au sein d’une entreprise, quelle que soit l’expertise technique de chacun. Il donne accès à des grands modèles de langage (LLM) à la pointe du secteur, ce qui permet aux utilisateurs de créer et de déployer facilement des applications basées sur l’IA. Avec Cortex, les entreprises peuvent rapprocher l’IA des données gouvernées afin d’étendre rapidement les politiques d’accès et de gouvernance aux modèles.  

Nous avons récemment annoncé des mises à jour de Cortex AI, notamment la disponibilité générale des fonctions LLM qui fournissent un accès serverless aux modèles de fondation et d’intégration. 

Pour permettre aux entreprises d’exploiter pleinement l’IA générative de manière efficace, simple et fiable, nous introduisons une nouvelle vague de composants dans Cortex AI, notamment : 

• Cortex Analyst (bientôt en public preview) : donnez aux utilisateurs professionnels la possibilité d’interagir avec les données structurées grâce au langage naturel, en les aidant à trouver des réponses plus rapidement, en leur permettant d’obtenir des informations en libre‑service et en leur faisant gagner un temps précieux. 
• Cortex Search (bientôt en public preview) : trouvez rapidement et en toute sécurité des informations en posant des questions dans un ensemble donné de documents d'entreprise à l'aide du modèle d'intégration Arctic de pointe. 
• Cortex Fine-Tuning (public preview) : personnalisez les LLM en toute sécurité et simplicité pour augmenter leur précision et leurs performances pour les tâches spécifiques aux cas d'usage à l'aide du fine-tuning serverless. Les modèles affinés peuvent être gérés à l’aide de Snowflake Model Registry.
• Snowflake AI & ML Studio pour les LLM (private preview) : permettre aux utilisateurs de tous les niveaux techniques d’utiliser l’IA avec un développement no-code. Pour le développement de modèles de ML, Studio est en public preview.
• Snowflake Cortex Guard (bientôt disponible pour tous nos clients) : utilisez une protection basée sur des LLM pour filtrer et signaler les contenus nuisibles, garantissant ainsi la sécurité et la convivialité des modèles.

D’autres améliorations incluent l’ajout d’API REST pour intégrer la fonctionnalité Cortex AI dans n’importe quelle application de votre choix et la prise en charge des modèles AI21 Labs (prochainement).

Voici les détails de chacune de ces mises à jour.

Cortex Analyst, conçu avec les modèles Llama 3 et Mistral Large de Meta, vous permet d’obtenir les informations dont vous avez besoin à partir de vos données structurées en posant simplement des questions en langage naturel. Cortex Analyst permet aux développeurs d’applications de créer des applications pour les utilisateurs professionnels à partir de données analytiques stockées dans Snowflake. Les développeurs peuvent créer des applications de données conversationnelles alimentées par l’IA qui éliminent les silos de données et donnent à tous les membres d’une entreprise l’accès à des réponses rapides et à des informations tirées de ses données.

Cortex Analyst est conçu pour aider tout utilisateur à trouver des réponses dans Snowflake. Il aide vos équipes à travailler plus rapidement et plus efficacement en facilitant la prise de décision et l’analyse des données en libre-service. Pour obtenir des résultats très précis auxquels les équipes commerciales peuvent faire confiance, Cortex Analyst utilise des modèles sémantiques adaptés à votre entreprise pour comprendre les termes et la structure de données spécifiques utilisés dans le contexte d’une organisation, ce qui donne des résultats plus précis et pertinents. 

Snowflake Cortex Analyst est conçu pour vous permettre de poser des questions à partir de n’importe quelle application avec laquelle vous interagissez afin d’obtenir les réponses dont vous avez besoin. Il sert l’autre pôle de l’entreprise, par rapport à l’assistant Snowflake Copilot, qui aide les développeurs SQL à accélérer le développement depuis l’interface utilisateur Snowflake en transformant du texte en SQL. 

Cortex Search est une solution de recherche entièrement gérée qui offre un riche ensemble de fonctionnalités pour indexer et interroger des données et documents non structurés. Cortex Search gère le flux de travail de bout en bout pour l’ingestion, l’intégration, la récupération, le reclassement et la génération des données. Le processus d’intégration est entièrement automatisé pour faciliter la configuration. Notre recherche hybride de pointe permet d’obtenir de meilleurs résultats.

Cortex Search simplifie la mise en œuvre et l’intégration de la recherche dans vos applications. Plus précisément, il offre :

1. Le prétraitement intégré des documents : pour rationaliser le processus d’extraction de texte de fichiers (pdf-to-text) et de division de texte en blocs avant indexation, Snowflake Cortex ajoutera bientôt en private preview deux fonctions gérées. Grâce à ce prétraitement, les développeurs n'auront pas à mettre en œuvre ou déployer les fonctions personnalisées requises pour que le texte soit prêt avant l'intégration. 

2. Intégration et gestion vectorielles entièrement gérées : grâce à Cortex Search, il n’y a pas d’API ou de service distinct nécessaire pour générer des intégrations vectorielles. Cela supprime les frais généraux nécessaires pour transformer le texte en format vectoriel. Grâce à l’infrastructure de traitement de données Snowflake, le service est maintenu à jour avec les dernières informations grâce à l’automatisation des actualisations continues à mesure que de nouveaux documents sont générés.

3. Recherche et classement de pointe : pour fournir des résultats plus précis, Cortex Search utilise des techniques de pointe en matière de récupération et de classement. Grâce à une combinaison de recherche sémantique et de recherche par mots clés, basée sur la technologie de pointe de Neeva et les modèles Arctic embed conçus par l’équipe de recherche en IA de Snowflake, Cortex Search est en mesure de fournir aux utilisateurs des résultats de haute qualité sans complexité opérationnelle. En arrière-plan, Snowflake Cortex effectue des recherches en parallèle, fusionnant et classant les résultats pour fournir des résultats précis basés sur les informations pertinentes des documents. 

4. Sécurité et gouvernance : comme Cortex Search est intégré à la plateforme de Snowflake, des politiques de gouvernance cohérentes peuvent s’appliquer à la fois aux documents bruts et aux intégrations vectorielles. Cela réduit les risques liés aux données et le temps consacré à gérer des environnements de sécurité des données distincts. 

Grâce à des vecteurs et à la récupération entièrement gérés, Cortex Search aide les entreprises à rationaliser les architectures de génération augmentée de récupération (RAG) utilisées pour apporter des informations privées et à jour aux LLM afin d’obtenir des résultats plus précis. Dans ce modèle, Cortex Search récupère d’abord les documents ou passages pertinents d’une source de connaissances, en fonction de la question saisie. Ensuite, l’ensemble de résultats pertinents peut être transmis à un LLM dans Snowflake Cortex pour générer des réponses précises et adaptées au contexte.

En plus de simplifier le développement des chatbots basés sur la RAG, Cortex Search peut augmenter la productivité des équipes qui recherchent régulièrement des informations réparties dans de grands corpus documentaires. Plus précisément, vous pouvez effectuer : 

1. Des recherches très précises : trouvez la réponse dont vous avez besoin cachée dans de grandes quantités de documents.

2. Une synthèse et un raisonnement multidoc : trouvez dans plusieurs documents la réponse aux questions posées. Par exemple, vous pourriez vous demander comment les revenus de votre entreprise ont augmenté entre 2022 et 2023.

3. La synthèse de données tabulaires et de chiffres : obtenez des réponses de structures autres que texte libre dans vos données, telles que des données spécifiquement formatées et souvent trouvées dans les systèmes de stockage de données courants, comme les bases de données et les feuilles de calcul.

Avec Cortex Fine-Tuning, vous pouvez affiner les modèles de pointe de Meta et Mistral AI. Pour faire simple, le fine-tuning d’un modèle d’IA consiste à apporter de petits ajustements au modèle pour améliorer ses performances sur une tâche ou un jeu de données spécifique. Cela aide les développeurs à améliorer la précision pour des tâches spécifiques, comme le résumé, ou à générer de meilleurs résultats pour la tâche sur laquelle ils travaillent. Avec Cortex Fine-Tuning, vous pouvez régler un modèle de base relativement petit pour obtenir la même précision qu’avec un modèle plus grand. En procédant ainsi pour des tâches spécialisées et souvent répétées, vous pouvez obtenir une latence d’inférence plus faible et réduire vos coûts.

Grâce à Cortex Fine-Tuning, vous pouvez effectuer des réglages en appelant une API ou une fonction SQL, le tout sans avoir à gérer la moindre infrastructure. Sélectionnez simplement le modèle de base et fournissez votre jeu de données d’entraînement, et Cortex crée le modèle affiné pour vous. Une fois le modèle affiné disponible, vous pouvez l’intégrer à votre application. Les modèles affinés sont sécurisés, car vous pouvez gérer l’accès aux modèles à l’aide du contrôle d’accès basé sur les rôles (RBAC) de Snowflake. 

Une fois la tâche de fine-tuning terminée, le modèle est accessible via Cortex COMPLETE, comme n’importe quel autre LLM.

Snowflake rend l’IA accessible aux utilisateurs de tous niveaux. Avec Studio, les développeurs peuvent facilement essayer des LLM, affiner des modèles avec leurs données et interagir avec des documents, le tout via la console. Studio permet également une livraison accélérée des applications en améliorant la productivité des développeurs.

Depuis Snowflake AI Studio, les utilisateurs pourront :

• Comparer les réalisations de plusieurs LLM (private preview) : grâce au chat, les utilisateurs professionnels peuvent facilement tester et évaluer les modèles de LLM afin de trouver le modèle le plus rentable et le plus adapté à leurs besoins spécifiques. Cela permet aux utilisateurs d’améliorer leur productivité en identifiant rapidement les bons réglages et le bon LLM à utiliser pour leur application. 
• Ajuster les LLM avec une interface utilisateur (private preview) : les utilisateurs pourront affiner leurs modèles avec une interface utilisateur simple à utiliser. Les utilisateurs peuvent développer des modèles personnalisés soit via l’expérience de clic sans code de Studio, soit, pour ceux qui préfèrent le code, via la fonction de fine-tuning désignée.

En outre, les utilisateurs peuvent utiliser une interface de chat prédéfinie pour poser des questions sur des ensembles de documents indexés existants créés avec Cortex Search.

Snowflake lance Cortex Guard, une nouvelle fonctionnalité qui donne aux entreprises la possibilité de filtrer et de signaler les contenus nuisibles pour assurer la sécurité et la convivialité du modèle grâce à Llama Guard de Meta. Nous avons créé Cortex Guard parce que nos clients nous ont dit que la sécurité de l’IA est essentielle pour déployer des applications d’IA en production. Par exemple, les entreprises veulent protéger leurs applications destinées aux utilisateurs contre des réponses potentiellement dangereuses de l’IA qui auraient un impact sur leurs services et, en fin de compte, leur activité. La nouvelle fonctionnalité Cortex Guard est conçue pour ces cas d’usage. Cortex Guard fonctionne en évaluant les réponses d’un modèle de langage avant que ce résultat ne soit renvoyé à l’application. En un seul clic, nos clients peuvent désormais activer le nouveau paramètre Cortex Guard disponible dans la fonction COMPLETE.

Avec les API REST (bientôt disponibles), vous pouvez accéder aux LLM sur Cortex via un programme depuis vos applications. Vous pouvez configurer une invite et exécuter l’inférence en utilisant l’un des LLM. Vous pouvez également choisir parmi les fonctions prédéfinies pour résumer du texte, identifier des opinions ou traduire des entrées.

L’IA générative permet aux entreprises d’exploiter pleinement leurs données et d’améliorer l’efficacité globale plus rapidement. Snowflake Cortex AI permet aux entreprises d’exploiter facilement les capacités de l’IA générative en discutant avec leurs données et bien plus encore. 

Nous avons ajouté les outils et l’infrastructure dont vous avez besoin pour permettre à tous vos collaborateurs de créer et de déployer facilement des applications basées sur l’IA dans un environnement sécurisé. Ils peuvent désormais prendre des décisions mieux informées, optimiser les opérations et offrir des expériences personnalisées à vos clients et parties prenantes en créant ces applications basées sur l’IA avec Snowflake Cortex AI. Nous avons non seulement facilité l’exploitation du plein potentiel de l’IA générative, mais nous l’avons également rendue efficace et sécurisée.

Pour vous aider à vous lancer avec Snowflake Cortex AI, essayez l’un de ces quickstarts :

• Traitement de texte en batch :
  • Résumés de texte au format JSON avec Snowflake Arctic
  • Analyses d’avis clients avec Snowflake Cortex AI
• Chatbots basés sur la RAG :
  • Créer des logs de maintenance avec Snowflake Cortex AI
  • Créer un assistant de recherche documentaire avec Streamlit et Snowflake Cortex AI

Pour accélérer le développement des cas d’usage commerciaux et sectoriels, les clients Snowflake peuvent accéder à Cortex AI via nos partenaires de confiance. Cliquez ici pour en savoir plus sur leurs solutions sur la page web de Snowflake Cortex.