Quand utiliser les petits modèles de langage plutôt que les grands modèles de langage

Les grands modèles de langage (LLMs) continuent de marcher sur la corde raide entre efficacité et confiance. Les utilisateurs les considèrent efficaces, mais doutent de leur précision.

Ils peuvent également être excessifs pour certains cas d'utilisation. Par exemple, l'utilisation des LLMs peut ne pas être le meilleur choix pour toutes les tâches RH internes, compte tenu de leurs coûts de calcul élevés.

Dans tous ces conflits, un nouveau type de modèle gagne du terrain : les petits modèles de langage (SLMs). Ce sont des modèles plus simples entraînés sur un ensemble de données plus petit pour effectuer une fonction très spécifique. Ils cochent toutes les cases en termes de haute efficacité, plus de confiance et faible coût.

Des études récentes affirment également que les petits modèles de langage sont l'avenir de l'IA Agentique. Dans cet article, j'ai répertorié les cas d'utilisation où un SLM serait plus efficace qu'un LLM.

Principaux cas d'utilisation des SLM dans différentes fonctions commerciales

Si vous vous demandez par où commencer votre parcours SLM, j'ai compilé ci-dessous les meilleurs cas d'utilisation des SLM dans les fonctions commerciales courantes. 

Service clientèle

Les modèles LLM peuvent être utiles pour le service clientèle, mais avec des mises en garde importantes. Ces modèles sont pré-entraînés sur un vaste ensemble de données, souvent extraites d'Internet. Une partie de ces connaissances peut être applicable ou non à votre service clientèle, surtout lorsque les politiques de l'entreprise sont spécifiques. Vous risquez d'avoir des chatbots face aux clients qui hallucinent. Par exemple, un chatbot de service clientèle sur le site web d'Air Canada a promis un remboursement pour deuil à un client contre une politique qui n'a jamais existé.

Les SLMs sont plus logiques pour les chatbots clients et les portails de réclamation. Ces portails traitent souvent des problèmes/requêtes très répétitifs et disposent d'un référentiel limité de politiques d'entreprise à consulter. Le modèle peut être facilement entraîné sur les données de tickets clients passés et les politiques de l'entreprise. C'est suffisant pour que le modèle réponde aux clients.

Bien sûr, le SLM ne peut pas tout gérer, et lorsque le bot ne peut pas répondre à la requête, vous pouvez toujours faire intervenir un humain. S'il s'agit d'un chatbot, vous pouvez fournir un numéro d'assistance que le client peut appeler. S'il s'agit d'une plateforme de gestion de tickets, le ticket peut être résolu automatiquement s'il s'agit d'un problème connu du SLM, ou être attribué à un responsable du support client. Au moins, vous pouvez être assuré que l'automatisation ne promet pas quelque chose à un client qui n'est pas possible.

​Ventes/Marketing 

Les LLMs excellent certainement pour certains cas d'utilisation dans les ventes et le marketing, en particulier la création de contenu. Les données d'entraînement plus importantes aident à traiter différents sujets. Mais l'utilisation des LLMs pour des tâches plus spécifiques comme la qualification/nurture des leads et la personnalisation des messages n'est peut-être pas le meilleur choix. Ses réponses généralisées ne donneront pas une bonne impression à vos clients potentiels.

Le SLM vous aide à créer des messages de sensibilisation plus personnalisés. Il peut être entraîné sur votre ensemble de données propriétaire pour qualifier les leads. Vous pouvez rédiger des messages de sensibilisation qui ont fonctionné pour vous dans le passé et utiliser des modèles SLM pour générer d'autres messages de sensibilisation basés sur ceux-ci. Les SLMs vous aident à vous éloigner des messages de sensibilisation IA génériques.

Finance 

Les LLMs peuvent être utilisés pour l'analyse générale du marché. Mais ils sont en retard pour les tâches à haut risque comme la détection de fraude et la surveillance de la conformité. Les taux de fraude augmentent tant dans les comptes des consommateurs que des entreprises. Malgré les systèmes de détection de fraude construits par les entreprises, les fraudeurs continuent de trouver de nouvelles façons de les contourner. Le modèle nécessite un réentraînement continu. C'est là que le SLM brille et que le LLM prend du recul.

Il faut plus de temps et de ressources pour réentraîner un LLM par rapport à un SLM. Le SLM peut être continuellement mis à jour avec les dernières données de fraude pour rendre le système plus robuste.

De même pour les données de conformité. Les LLMs peuvent même avoir des informations de conformité obsolètes, entraînant des oublis. Un SLM entraîné sur un petit ensemble de données est facile à examiner et à affiner pour s'assurer que seules les dernières réglementations sont disponibles dans la base de connaissances.

Ressources humaines 

Les LLMs sont excellents pour rédiger des descriptions de poste générales, des communications aux employés ou du contenu de formation. Les tâches présentant des risques élevés de conformité (exemple : création de documents de politique, d'accords d'emploi et de documents d'immigration) sont là où les choses se compliquent.

Les pays ou même les États continuent de mettre à jour leurs lois du travail. Par exemple, le gouvernement australien a augmenté le congé parental à 24 semaines en 2025, et il sera prolongé de deux semaines supplémentaires à partir de 2026. New York augmente le salaire horaire minimum pour les travailleurs à la demande récemment. Le Japon a commencé à promouvoir l'équilibre travail-vie personnelle et des arrangements de travail flexibles pour les nouveaux parents.

L'utilisation des LLMs signifie vérifier continuellement que la base de connaissances en backend est précise et à jour. Laisser par erreur un ancien fichier de politique dans la base de données entraînerait des hallucinations.  

Les petits modèles de langage signifient beaucoup plus de contrôle sur la base de connaissances et plus d'assurance pour la conformité. Par exemple, Deel AI est un petit modèle de langage organisé par ses experts en conformité. Ces experts mettent continuellement à jour la base de connaissances pour que vous obteniez les réponses les plus à jour et précises.

Opérations commerciales

Une nouvelle enquête sur l'adoption de l'IA de G2 montre que près de 75% des entreprises utilisent plusieurs fonctionnalités d'IA dans les opérations commerciales quotidiennes. L'IA stimule l'efficacité opérationnelle et améliore la productivité. Les SLM et LLM ont tous deux un rôle à jouer.

Les LLMs brillent dans les tâches stratégiques comme la gestion des risques, la prévision de la demande, l'examen des fournisseurs, et plus encore. Sa vaste base de connaissances l'aide à considérer tous les angles avant de faire une suggestion. D'autre part, le SLM fonctionne mieux pour les tâches répétitives. Pensez à la gestion des factures, au suivi des expéditions, à l'optimisation des itinéraires, aux vérifications des antécédents ou à la maintenance prédictive. Les tâches peuvent fonctionner sur un ensemble limité de règles et les données passées de l'entreprise.

Les entreprises bénéficient de l'utilisation du SLM dans les tâches routinières et répétitives. Par exemple, Checkr, une plateforme de vérification des antécédents des employés, est passée du LLM au SLM pour automatiser les vérifications des antécédents et a constaté une meilleure précision, des temps de réponse plus rapides et une réduction des coûts de 5X.

SLM vs LLM : Qui gagne la bataille ?

Dans la comparaison entre SLM et LLM, la réponse n'est pas de choisir entre SLM et LLM. La meilleure approche est de les utiliser ensemble comme un modèle hybride. Les SLM et LLM ont leurs propres forces et faiblesses. Le SLM fait un bon travail dans les tâches avec des portées bien définies et des ensembles de données limités. Mais pour les tâches exigeant du raisonnement, le LLM est un bien meilleur choix.

Prenons la gestion de la chaîne d'approvisionnement par exemple. Une approche hybride est meilleure pour la gestion de la chaîne d'approvisionnement où :

• Le LLM prend en charge des tâches stratégiques comme l'analyse des risques, la prévision de la demande, et plus
• Le SLM automatise les tâches opérationnelles à haut volume et répétitives, comme la gestion des itinéraires, le traitement des factures, etc.

L'utilisation conjointe du SLM et du LLM crée un modèle complet pour gérer tous les rouages de la chaîne d'approvisionnement. ​

Principaux modèles SLM prêts pour l'entraînement personnalisé

Un bon point pour commencer avec votre implémentation SLM est qu'il existe des modèles disponibles pour le fine-tuning. Vous pouvez en choisir un selon votre cas d'utilisation :

1. Meta Llama 3.1 (8B paramètres) : Un modèle à haute efficacité qui se démarque pour les cas d'utilisation nécessitant un support multilingue
2. Microsoft Phi-3 (3.8B paramètres) : Un petit modèle parfait lorsque vous avez une tâche super spécifique nécessitant un raisonnement solide.
3. Google Gemma 2 (2B paramètres) : Un modèle léger avec des capacités multimodales, vous aidant à gérer à la fois le texte et les images.

L'utilisation des SLMs n'a jamais été aussi facile

Avec le lancement de plus de modèles SLM, vous n'avez même pas besoin de créer un modèle à partir de zéro. Choisissez simplement un modèle existant qui correspond à votre cas d'utilisation, construisez une base de connaissances d'informations pour celui-ci, et vous êtes prêt à partir.  

\n