Au-delà du GPU : Ce que NTT DATA et Blackfuel développent pour l'essor de l'IA

L'IA a un problème de consommation. À mesure que davantage d’organisations mettent l’IA en production, la demande en inférence — le travail informatique requis chaque fois qu’un modèle d’IA génère une réponse ou effectue une action — monte en flèche. Et pour offrir cette capacité de manière fiable, il faut bien plus que remplir un centre de traitement de données de GPU.

L'infrastructure doit combiner le calcul, le stockage et le réseautage haute performance. Elle doit également assurer la sécurité des données sensibles et demeurer constamment disponible, tout en gérant d'énormes besoins en alimentation et en refroidissement.

Il faut ensuite intégrer tous ces éléments et assurer leur bon fonctionnement. C’est là que NTT DATA intervient.

Nous travaillons avec , un fournisseur de « néonuage » natif de l’IA, sur une nouvelle approche ambitieuse de l’infrastructure IA, avec des plans d’expansion se chiffrant en milliards de dollars et un premier déploiement majeur cette année. Notre rôle couvre l’intégration et la préparation opérationnelle, ainsi que l’exploitation et la maintenance continues de l’infrastructure de calcul.

Nous avons également une occasion beaucoup plus importante : aider une nouvelle génération de fournisseurs d’infrastructure d’IA à transformer des technologies extraordinairement complexes en plateformes fiables, prêtes pour la production.

• À LIRE AUSSI - Votre stratégie d'IA est aussi solide que l'infrastructure sur laquelle elle repose

L’essor du néonuage

Blackfuel fait partie d’une catégorie émergente de fournisseurs souvent appelés néo-nuages : des entreprises qui bâtissent une infrastructure de nuage spécifiquement pour des charges de travail exigeantes en IA. Pour ces fournisseurs, l’acquisition d’accélérateurs d’IA n’est qu’un début.

Bâtir une usine d’IA est très différent d’acheter un serveur. Le calcul, le stockage, le réseautage, la cybersécurité, le refroidissement et les logiciels doivent tous fonctionner ensemble. La plateforme doit être sécurisée et résiliente dès le premier jour et, en cas de défaillance, la responsabilité doit être clairement définie afin de trouver et de corriger le problème le plus rapidement possible.

En tant qu'intégrateur d'infrastructure IA complète, NTT DATA rassemble ces éléments dans les domaines du calcul, du stockage, du réseautage, de la sécurité, des opérations et de la gestion du cycle de vie. Nous travaillons également avec des partenaires technologiques, dont Dell Technologies et AMD, pour aider les fournisseurs à passer d'une infrastructure sur papier à une infrastructure qui offre une performance fiable à l'échelle industrielle.

Blackfuel illustre ce que cela rend possible.

Et si vous pouviez acheter des résultats d'IA plutôt que de l'infrastructure?

Le premier déploiement de Blackfuel, axé uniquement sur l’inférence, réunit une puissance de calcul considérable : des systèmes Dell Technologies PowerEdge à refroidissement liquide alimentés par des accélérateurs AMD InstinctÔ MI355X, intégrés par NTT DATA.

Mais l’infrastructure elle-même ne raconte que la moitié de l’histoire. C’est ce que Blackfuel en fait qui devient intéressant. Plutôt que d'exiger de chaque client qu'il bâtisse et exploite son propre environnement GPU, ils permettent aux organisations de réserver la production d'IA dont elles ont réellement besoin. Les clients peuvent adapter un modèle et une capacité à leurs exigences spécifiques en matière de débit, de latence et de localisation des données. Ils peuvent même réserver une fraction de la capacité de service d'un modèle moyennant des frais mensuels fixes, plutôt que de louer un déploiement multi-GPU complet.

Renforcer les capacités en IA à proximité

Il existe une autre raison pour laquelle ce modèle attire l'attention : souveraineté. Les organisations se préoccupent de plus en plus non seulement de la capacité en IA à laquelle elles peuvent accéder, mais aussi de l'endroit où leurs charges de travail sont exécutées, de l'endroit où résident leurs données et de qui exploite l'infrastructure sous-jacente.

Le modèle de Blackfuel associe une infrastructure exploitée en Europe au contrôle des clients sur le choix des modèles, l'emplacement de déploiement et les engagements de capacité. Cela représente une précieuse occasion pour NTT DATA de transformer ces exigences en une infrastructure et des opérations gérées qui génèrent des résultats d'affaires propulsés par l'IA de manière fiable dans le monde réel.

Nous transformons les investissements en IA en résultats d'affaires

À mesure que les investissements en IA s'accélèrent, les organisations doivent transformer ces dépenses en résultats d'affaires. Cela commence par une infrastructure sécurisée et évolutive capable de faire passer l'IA au-delà de l'expérimentation et de la soutenir de manière fiable en production.

Blackfuel a une idée ambitieuse pour transformer les mécanismes industriels derrière l'IA en un service que les clients peuvent consommer de manière plus prévisible. Le rôle de NTT DATA consiste à assembler les éléments et à s’assurer que les mécanismes fonctionnent lorsque les clients en dépendent.

• À LIRE AUSSI - L’infrastructure est à nouveau critique : Voici ce que cela signifie pour chaque DSI

Prochaines étapes

En savoir plus sur le partenariat entre NTT DATA et Blackfuel et sur la façon dont il aidera les organisations à déployer l’IA plus efficacement.