Grote taalmodellen (LLM's) blijven balanceren tussen efficiëntie en vertrouwen. Gebruikers vinden het effectief, maar twijfelen aan de nauwkeurigheid.
Het kan ook overdreven zijn voor sommige toepassingen. Bijvoorbeeld, het gebruik van LLM's is misschien niet de beste keuze voor alle interne HR-taken, gezien hun hoge rekenkosten.
Te midden van deze conflicten wint een nieuwer type model terrein: kleine taalmodellen (SLM's). Dit zijn eenvoudigere modellen die getraind zijn op een kleinere dataset om een zeer specifieke functie uit te voeren. Het voldoet aan alle eisen voor hoge efficiëntie, meer vertrouwen en lage kosten.
Sommige recente studies zeggen ook dat kleine taalmodellen de toekomst zijn van Agentic AI. In dit artikel heb ik gebruikssituaties opgesomd waar een SLM efficiënter zou zijn dan een LLM.
Als je je afvraagt waar je moet beginnen met je SLM-reis, heb ik hieronder de beste SLM-toepassingen voor algemene bedrijfsfuncties verzameld.
LLM-modellen kunnen nuttig zijn voor klantenservice, maar met grote kanttekeningen. Deze modellen zijn vooraf getraind op een enorme dataset, vaak van het internet geschraapt. Een deel van deze kennis is mogelijk niet van toepassing op jouw klantenservice, vooral wanneer bedrijfsbeleid specifiek is. Je loopt het risico op klantgerichte chatbots die hallucineren. Een klantenservice-chatbot op de website van Air Canada beloofde bijvoorbeeld een vergoeding bij overlijden aan een klant tegen een beleid dat nooit heeft bestaan.
SLM's zijn logischer voor klantchatbots en klachtenportalen. Deze portalen behandelen vaak zeer repetitieve problemen/vragen en hebben een beperkte verzameling bedrijfsbeleid om naar te verwijzen. Het model kan gemakkelijk worden getraind op eerdere klantticketgegevens en bedrijfsbeleid. Dat is voldoende voor het model om klanten te antwoorden.
Natuurlijk kan SLM niet alles aan, en waar de bot de vraag niet kan beantwoorden, kun je altijd een mens inschakelen. Als het een chatbot is, kun je een ondersteuningsnummer geven dat de klant kan bellen. Als het een ticketbeheerplatform is, kan het ticket automatisch worden opgelost als het een bekend probleem is voor SLM, of anders worden toegewezen aan een klantenservicemedewerker. Je kunt er in ieder geval zeker van zijn dat automatisering niet iets aan een klant belooft dat niet mogelijk is.
LLM's blinken zeker uit in sommige toepassingen in verkoop en marketing, vooral bij het maken van content. De grotere trainingsgegevens helpen bij het behandelen van verschillende onderwerpen. Maar het gebruik van LLM's voor meer niche-taken zoals leadkwalificatie/-nurturing en gepersonaliseerde benadering is misschien niet de beste keuze. De gegeneraliseerde antwoorden zullen geen goede indruk maken op je potentiële klanten.
SLM helpt je meer gepersonaliseerde outreach-berichten te maken. Het kan worden getraind op je eigen dataset om leads te kwalificeren. Je kunt enkele outreach-berichten opstellen die in het verleden voor je hebben gewerkt en SLM-modellen gebruiken om op basis daarvan verdere outreach-berichten te genereren. SLM's helpen je weg te komen van generieke AI-outreach-berichten.
LLM's kunnen worden gebruikt voor algemene marktanalyse. Maar het blijft achter bij taken met hoog risico zoals fraudedetectie en compliance-monitoring. Fraudepercentages stijgen zowel bij consumenten- als bedrijfsaccounts. Ondanks dat bedrijven fraudedetectiesystemen bouwen, blijven fraudeurs nieuwe manieren vinden om ze te omzeilen. Het model heeft voortdurende hertraining nodig. Dit is waar SLM uitblinkt en LLM een stapje terug doet.
Het kost meer tijd en middelen om een LLM te hertrainen in vergelijking met een SLM. SLM kan voortdurend worden bijgewerkt met de nieuwste fraudegegevens om het systeem robuuster te maken.
Hetzelfde geldt voor compliance-gegevens. LLM's kunnen zelfs verouderde compliance-informatie hebben, wat resulteert in gemiste zaken. SLM getraind op een kleine dataset is gemakkelijk te beoordelen en te verfijnen om ervoor te zorgen dat alleen de nieuwste regelgeving beschikbaar is in de kennisbank.
LLM's zijn geweldig voor het opstellen van algemene functieomschrijvingen, werknemerscommunicatie of trainingsinhoud. Taken met hoge compliance-risico's (bijvoorbeeld: het maken van beleidsdocumenten, arbeidsovereenkomsten en immigratiedocumenten) zijn waar het ingewikkeld wordt.
Landen of zelfs staten blijven hun arbeidswetten bijwerken. De Australische regering heeft bijvoorbeeld het ouderschapsverlof verhoogd naar 24 weken in 2025, en het zal met nog eens twee weken worden verlengd vanaf 2026. New York verhoogt het minimumloon per uur voor gig-workers onlangs. Japan is begonnen met het bevorderen van werk-privébalans en flexibele werkregelingen voor nieuwe ouders.
Het gebruik van LLM's betekent voortdurend controleren of de kennisbank in de backend nauwkeurig en up-to-date is. Het per ongeluk weglaten van een oud beleidsdocument in de database zou resulteren in hallucinaties.
Kleine taalmodellen betekenen veel meer controle over de kennisbank en meer zekerheid voor compliance. Deel AI is bijvoorbeeld een klein taalmodel samengesteld door compliance-experts. Deze experts werken de kennisbank voortdurend bij, zodat je de meest actuele en nauwkeurige antwoorden krijgt.
Een nieuw AI-adoptieonderzoek van G2 toont aan dat bijna 75% van de bedrijven meerdere AI-functies gebruikt in dagelijkse bedrijfsactiviteiten. AI stimuleert operationele efficiëntie en verbetert productiviteit. Zowel SLM als LLM spelen hierin een rol.
LLM's blinken uit in strategische taken zoals risicobeheer, vraagvoorspelling, leveranciersbeoordeling en meer. De uitgebreide kennisbank helpt om alle aspecten te overwegen voordat er een suggestie wordt gedaan. Aan de andere kant werkt SLM het beste voor repetitief routinewerk. Denk aan factuurbeheer, zendingtracking, route-optimalisatie, achtergrondcontroles of voorspellend onderhoud. De taken kunnen draaien op een beperkte set regels en eerdere gegevens van het bedrijf.
Bedrijven profiteren van het gebruik van SLM in routinematige, repetitieve taken. Checkr, een platform voor achtergrondscreening van werknemers, schakelde bijvoorbeeld over van LLM naar SLM om achtergrondcontroles te automatiseren en zag betere nauwkeurigheid, snellere responstijden en een 5X kostenverlaging.
In de vergelijking van SLM en LLM is het antwoord niet om te kiezen tussen SLM en LLM. De betere aanpak is om ze samen te gebruiken als een hybride model. Zowel SLM als LLM hebben hun eigen sterke en zwakke punten. SLM doet het goed in taken met goed gedefinieerde reikwijdtes en beperkte datasets. Maar voor taken die redenering vereisen, is LLM een veel betere keuze.
Laten we supply chain management als voorbeeld nemen. Een hybride aanpak is beter voor supply chain management waarbij:
Het gebruik van zowel SLM als LLM samen creëert een compleet model om alle aspecten van de supply chain te beheren.
Een goed punt van het beginnen met je SLM-implementatie is dat er modellen beschikbaar zijn voor fine-tuning. Je kunt een van deze kiezen, afhankelijk van je use case:
Met meer SLM-modellen die worden gelanceerd, hoef je niet eens een model vanaf nul te maken. Kies gewoon een bestaand model dat bij je use case past, bouw een kennisbank met informatie ervoor, en je bent klaar om te beginnen.
\n


