Pendant deux ans, l’intelligence artificielle générative a rimé avec API distante et facturation au jeton. Mais une vague de modèles à poids ouverts (open-weight), dont les paramètres sont librement téléchargeables, change la donne. Il devient possible d’héberger un modèle performant sur sa propre infrastructure, pour des raisons de coût, de confidentialité ou de souveraineté. Tour d’horizon de ce qu’il faut savoir avant de se lancer.
Poids ouverts n’est pas logiciel libre
Une précision s’impose, car la confusion est fréquente. Un modèle à poids ouverts publie ses paramètres entraînés, ce qui permet de l’exécuter et de l’affiner localement. Mais il ne fournit pas toujours le jeu de données d’entraînement ni le code complet, et surtout, certaines licences restreignent l’usage commercial ou imposent des conditions. « Poids ouverts » ne veut donc pas dire « libre de droits » : la lecture attentive de la licence est un préalable absolu, pas un détail juridique.
Pourquoi héberger soi-même
- Confidentialité. Les données ne quittent jamais votre infrastructure, un argument souvent décisif pour la santé, la finance, le juridique ou le secteur public.
- Coût prévisible. Au-delà d’un certain volume de requêtes, l’achat ou la location de processeurs graphiques amortis devient nettement moins cher que la facturation au jeton, qui peut exploser sans prévenir.
- Maîtrise. Pas de changement de modèle imposé du jour au lendemain, pas de modification de comportement surprise, pas de coupure d’API qui paralyse votre service.
- Spécialisation. On peut affiner le modèle sur son propre domaine métier et son propre vocabulaire.
Le vrai sujet : le matériel
La question n’est pas seulement « quel modèle », mais « quel modèle tient sur mon matériel ». La mémoire vidéo du processeur graphique est le facteur limitant numéro un. Un gros modèle en pleine précision exige plusieurs cartes haut de gamme, ce qui représente un investissement conséquent. C’est là qu’intervient la quantification, une technique qui réduit la précision des poids pour diviser par deux, trois ou quatre l’empreinte mémoire, au prix d’une légère perte de qualité souvent imperceptible en usage réel. Grâce à elle, des modèles sérieux tournent désormais sur une seule carte.
Choisir la bonne taille
La course aux centaines de milliards de paramètres n’a pas toujours de sens en entreprise. Un modèle de taille moyenne, affiné sur vos données et bien servi, surpasse souvent un géant généraliste sur une tâche précise, tout en coûtant dix fois moins cher à faire tourner. Le bon réflexe est de partir du besoin : pour de la classification, de l’extraction d’information ou de la reformulation, un petit modèle suffit largement ; pour du raisonnement complexe, il faut monter en gamme.
Les coûts cachés
Héberger soi-même ne se résume pas à l’achat d’une carte graphique. Il faut compter l’électricité (un serveur d’inférence consomme en continu), le refroidissement, la maintenance, la mise à jour des modèles, et surtout les compétences internes pour exploiter tout cela. Ces postes, souvent sous-estimés, doivent entrer dans le calcul du coût total de possession, sous peine de mauvaises surprises.
Notre recommandation
Avant tout déploiement, définissez clairement la tâche, mesurez la qualité sur vos propres exemples (jamais sur des classements génériques qui ne reflètent pas votre usage), et estimez le coût total réel. L’auto-hébergement d’un grand modèle de langage est une excellente option, parfois la seule envisageable pour des données sensibles, à condition de la traiter comme un projet d’infrastructure à part entière, et non comme un simple téléchargement de fichier.