Si en 2023 on a beaucoup glosé sur les avantages et inconvénients de l’IA, en 2024 on devrait y voir un peu plus plus clair sur les coûts et les avantages de ces technologies dans le traitement des données. Du coté des coûts nous partageons ici l’opinion de Sébastien Verger, CTO de Dell, interrogé sur les coûts de l’IA par nos confrères du MagIT.fr
Interrogé par nos confrères du MagIT.fr dans le cadre de la publication d’une étude sur les projets IA des entreprises américaines et européennes, Sébastien Verger, CTO de Dell est catégorique : le système de prix de l’IA est encore flou pour les non spécialistes et c’est encore cher d’un point de vue uniquement technologique pour entraîner des données enrichies.
Pour Sébastien Verger cité par le MagIT.fr « Le problème des services d’IA générative en cloud est l’énorme flou qui entoure les coûts. On paie ces services au token. Le problème est que personne ne sait vraiment à quoi correspond un token, combien il faut de tokens en entrée, ni combien de tokens l’IA va produire en sortie. C’est pourquoi, il sera préférable en phase de production de plutôt faire du fine-tuning sur des serveurs sur site, ou éventuellement en mode hybride, avec juste une partie en cloud ».
D’après les estimations de Sébastien Verger, reprises par le MagIT.fr , une entreprise devrait en moyenne investir 2 millions d’euros en déploiement de solutions sur site (serveurs, stockage, etc.) pour faire du fine-tuning localement, sur ses propres données, à partir d’un modèle d’IA Open source pré-entraîné. L’équipement nécessaire pour exécuter ce même modèle, une fois qu’il est enrichi des connaissances des données locales, coûterait en moyenne 1 million d’euros. La facture pourrait être multipliée par trois pour les grandes entreprises.
La promesse d’une IA générative intelligente pas chère est encore loin
Toujours cité par LeMagIT.fr, Sébastien Verger estime sur ce point : « Si l’on veut utiliser une IA générative au sein d’une entreprise, il faut soit partir d’une IA généraliste à laquelle on apporte un entraînement supplémentaire, du fine-tuning (c’est, de l’avis de tout le monde, probablement le moyen le plus efficace et le moins coûteux). Soit il faut entraîner son propre modèle d’IA générative, mais il faut compter un investissement de 10 à 30 millions d’euros que seules les entreprises du CAC40 estiment savoir fournir ».
