Comment les NIM NVIDIA® intègrent-ils vitesse, échelle et simplicité à votre projet de l’IA?

NIM signifie « NVIDIA Inference Microservice », soit microservice d’inférence de NVIDIA. Ces microservices sont offerts en plusieurs configurations, de très simples à complexes, mais tous sont consommables de plusieurs façons différentes : à la demande, dans le nuage public, sur place et même sur votre ordinateur portable dans les cas des déploiements de services plus petits (et selon les caractéristiques de votre ordinateur portable). 

Le diagramme ci-dessus montre où se situent les NIM de NVIDIA dans la pile logicielle du déploiement des applications et des services de l’IA. Les NIM de NVIDIA peuvent être déployés comme une partie intégrante d’un plus grand modèle pour créer un service unique composé de microservices NIM qui fonctionnent en collaboration comme une application plus complexe. 

Un exemple de cela serait de tirer parti du modèle « PDF vers balado » qui consiste en plusieurs NIM afin de créer un service qui peut prendre des données textuelles et présenter ce contenu comme un balado pour que les données puissent être consommées de façon audio.

Les NIM comportent trois aspects principaux qui peuvent aider les organisations à éliminer les complexités liées aux étapes du prototypage, du déploiement et de la production d’un projet de l’IA.

Au besoin, les NIM peuvent passer de cas d’utilisation à plus petite échelle à des solutions destinées à très grandes entreprises, ce qui m’amène à la première raison pour laquelle je crois que les NIM sont précieuses pour les organisations : la portabilité.

Comme un NIM peut être déployé à la demande, dans le nuage public, sur place et sur un appareil local, il est facile de déployer rapidement des services en tant que validation de principe. Il peut ensuite être refactorisé et migré vers le nuage public ou le centre de données où une puissance supplémentaire est requise. 

Parce qu’il est extrêmement facile à déplacer, notamment durant les processus de prototypage, d’assurance de la qualité et de déploiement, mais aussi parce qu’il simplifie le processus de mise à l’échelle, les NIM nous permettent de commencer petit, d’innover et d’investir lorsque l’outil est prometteur.

Un NIM se compare aisément à une machine virtuelle où un serveur classique a été virtualisé.  Le NIM rend abstraite une grande partie de la complexité associée au déploiement d’un conteneur Docker tout en tirant parti du matériel UTG sous-jacent.

Les NIM offrent une facilité d’administration dans le cadre de modèles plus grands à l’aide des ordinateurs portables Jupyter, offrant des méthodes de déploiement cohérentes et rationalisées.

La simplicité qu’ils offrent constitue la deuxième raison pour laquelle je pense que nous devrions investir du temps à explorer la puissance des NIM. NVIDIA a mis à la disposition des clients plusieurs modèles de services dès leur sortie. La création d’un service à l’aide d’un modèle de base ne vise pas seulement à mettre le modèle en service, mais aussi la façon dont vous voulez que vos utilisateurs utilisent ce modèle et interagissent avec celui-ci. 

Il peut être simple d’utiliser un robot conversationnel, mais une fois que vous voulez qu’il interagisse avec un ensemble de données privées ou que la sortie soit validée par un deuxième modèle, les choses peuvent se compliquer très rapidement. NVIDIA a résolu un certain nombre de ces problèmes en créant un catalogue de services à utiliser tels quels ou comme référence afin de créer des versions similaires, mais plus personnalisées pour vos utilisateurs.

Il existe plusieurs autres qualités qui facilitent la construction et la consommation de l’IA en tirant parti des NIM, mais la dernière que je vais présenter ici est d’aider à accélérer le développement de l’IA en commercialisant l’infrastructure nécessaire pour construire localement, dans le centre de données, en périphérie ou dans un nuage public. 

NVIDIA est en mesure de recommander les modèles et les options de taille de modèle qui fonctionneront le mieux avec votre matériel attribué. Les NIM créent une plateforme de consommation plutôt que de devoir gérer l’installation de dépendances complexes et des conditions préalables. 

Je m’engage de plus en plus avec les organisations pour souligner l’importance d’adopter des plateformes qui rationalisent le déploiement et la consommation des services. Les NIM sont spécialement conçus pour soutenir et accélérer efficacement vos initiatives de l’IA.

Ainsi, en adoptant un moyen agile, portable et simplifié de création, de test et de déploiement d'actifs d’IA, NVIDIA a fourni aux organisations une plateforme capable de faire progresser leurs projets d’IA en se concentrant sur les résultats commerciaux identifiés plutôt que de se soucier de la « plomberie » des systèmes informatiques. 

Je vous recommande de consulter le site Web build.nvidia.com pour consulter le catalogue et les services NIM de NVIDIA par vous-même. Si vous avez besoin d’aide pour créer des cadres de gouvernance des données, pour concevoir une infrastructure de l’IA plus grande dans le nuage ou sur place, ou pour organiser des ateliers d’IA, veuillez communiquer avec CDW et notre équipe d’architectes de solutions pour vous aider.

La pratique d’IA de CDW offre des solutions innovantes utilisant l’architecture d’IA, la visualisation professionnelle et les offres de virtualisation de NVIDIA. De la conception de la solution adaptée à votre entreprise à l’utilisation de la technologie de pointe de NVIDIA, nous soutenons les organisations dans leur parcours complet visant à tirer parti de l’IA.