Pourquoi les petits modèles de langage sont l’avenir de l’IA

Ce qu’est un petit modèle de langage

Un modèle de langage est la partie d’une IA qui lit votre question et écrit la réponse. Les grands, comme les modèles derrière ChatGPT et Gemini, tournent dans des centres de données. Un petit modèle de langage, ou SLM (small language model), a quelques milliards de paramètres au lieu de centaines de milliards. C’est assez petit pour un ordinateur portable ou un téléphone.

Il n’y a pas de limite officielle. Des chercheurs de NVIDIA appellent un modèle petit quand il tient sur un appareil courant et répond assez vite pour une personne (NVIDIA Research). En pratique, c’est en général moins de 10 milliards de paramètres. Le modèle qu’Apple met sur votre iPhone en a environ 3 milliards (Apple).

Les petits modèles sont vite devenus bons

En 2022, le plus petit modèle à dépasser 60 % au MMLU, un grand test de culture générale, était PaLM de Google. Il avait 540 milliards de paramètres. En 2024, Phi-3-mini de Microsoft a franchi la même barre avec 3,8 milliards. C’est 142 fois plus petit en deux ans (Stanford AI Index 2025).

Le prix a baissé encore plus vite. Une réponse au niveau de GPT-3.5 coûtait environ 20 $ par million de tokens en novembre 2022, et 0,07 $ en octobre 2024. C’est plus de 280 fois moins cher (Stanford AI Index 2025).

Et l’écart continue de se réduire. Epoch AI a constaté que les modèles ouverts qui tournent sur une seule carte graphique de jeu égalent la meilleure IA d’il y a 6 à 12 mois (Epoch AI).

Pourquoi le petit l’emporte

La plupart des tâches sont de petites tâches

Mettre le dentiste dans votre agenda, résumer un e-mail, vérifier si un SMS est une arnaque. Pas besoin du plus grand modèle du monde pour ça. Les chercheurs de NVIDIA le défendent pour les agents IA : la plupart des étapes d’un agent sont répétitives et bien délimitées, et un petit modèle les fait bien. Ils estiment qu’un modèle de 7 milliards de paramètres coûte 10 à 30 fois moins cher à faire tourner qu’un modèle de 70 à 175 milliards, en vitesse, en énergie et en calcul (NVIDIA Research).

Les entreprises le voient aussi. Gartner prévoit qu’en 2027, les organisations utiliseront de petits modèles conçus pour une tâche au moins trois fois plus que les grands modèles généralistes (Gartner).

Il tourne sur ce que vous avez déjà

L’AIE prévoit que les centres de données consommeront plus de deux fois plus d’électricité d’ici 2030, environ 945 TWh. C’est un peu plus que toute la consommation actuelle du Japon (AIE). Un petit modèle sur votre téléphone tourne sur une puce qui est déjà dans votre poche. Il marche aussi sans connexion.

Rien à payer par question

Chaque question posée à un grand modèle dans le cloud coûte de l’argent à l’entreprise, et quelqu’un paie : par un abonnement, par la publicité ou avec vos données. Le modèle d’Apple sur l’appareil ne coûte rien par question aux apps qui l’utilisent (Cult of Mac). Une app peut donc offrir son IA gratuitement.

Votre question reste chez vous

Quand le modèle tourne sur votre appareil, votre question n’a besoin d’aller nulle part. Aucune entreprise ne la stocke, ne la lit ni ne s’entraîne dessus. Pour des questions sur votre santé, votre argent ou vos proches, c’est ce qui compte le plus.

Melo répond sur votre propre iPhone et Mac. Vos questions ne vont ni à Kamelo ni à une autre entreprise d’IA. Obtenir Melo

Ce que les petits modèles ne savent pas encore faire

• Ils en savent moins. Quelques milliards de paramètres ne peuvent pas contenir tous les faits d’un énorme modèle, alors ils se trompent plus souvent sur les questions de connaissance difficiles. Faire une recherche aide.
• Une réflexion longue et difficile, comme une démonstration ardue ou un gros morceau de code, se fait encore mieux avec les grands modèles.
• Ils demandent un appareil récent. Apple Intelligence demande un iPhone 15 Pro ou plus récent.

L’avenir est donc mixte. Un petit modèle sur votre appareil fait l’essentiel du travail, et seule la question difficile part vers un plus grand modèle. Les chercheurs de NVIDIA proposent la même chose : des systèmes avec des modèles de tailles différentes, le petit par défaut (NVIDIA Research).

Comment Melo utilise les petits modèles

Melo est construit sur cette idée. Sur iPhone, Melo répond avec le modèle qu’Apple Intelligence met sur votre téléphone. Sur Mac, vous pouvez aussi choisir Gemma 4, un modèle qui tourne sur votre Mac. Vos questions ne vont ni à Kamelo ni à une autre entreprise d’IA.

Avec ça, Melo planifie votre journée, trouve des recettes, lit vos e-mails et vous prévient des SMS frauduleux. Quand Melo cherche quelque chose, seuls les mots de recherche quittent votre appareil, jamais votre conversation.