Wann kleine Sprachmodelle gegenüber großen Sprachmodellen zu verwenden sind

Large Language Models (LLMs) bewegen sich weiterhin auf dem schmalen Grat zwischen Effizienz und Vertrauen. Benutzer halten sie für effektiv, aber zweifeln an ihrer Genauigkeit.

Für manche Anwendungsfälle können sie auch überdimensioniert sein. Zum Beispiel sind LLMs aufgrund ihrer hohen Rechenkosten möglicherweise nicht die beste Wahl für alle internen HR-Aufgaben.

Inmitten dieser Konflikte gewinnt ein neuerer Modelltyp an Bedeutung: Small Language Models (SLMs). Dies sind einfachere Modelle, die auf einem kleineren Datensatz trainiert wurden, um eine sehr spezifische Funktion zu erfüllen. Sie erfüllen alle Anforderungen an hohe Effizienz, mehr Vertrauen und niedrige Kosten.

Einige neuere Studien besagen auch, dass Small Language Models die Zukunft der Agentic KI sind. In diesem Artikel habe ich Anwendungsfälle aufgelistet, bei denen ein SLM effizienter wäre als ein LLM.

Top SLM-Anwendungsfälle für verschiedene Geschäftsbereiche

Wenn Sie sich fragen, wo Sie mit Ihrer SLM-Reise beginnen sollen, habe ich unten die besten SLM-Anwendungsfälle für gängige Geschäftsfunktionen zusammengestellt. 

Kundendienst

LLM-Modelle können für den Kundendienst hilfreich sein, jedoch mit erheblichen Einschränkungen. Diese Modelle werden auf einem umfangreichen Datensatz vortrainiert, der oft aus dem Internet stammt. Einiges dieses Wissens ist möglicherweise für Ihren Kundendienst nicht anwendbar, besonders wenn Unternehmensrichtlinien spezifisch sind. Sie riskieren, kundenbezogene Chatbots einzusetzen, die halluzinieren. Beispielsweise versprach ein Kundendienst-Chatbot auf der Website von Air Canada einem Kunden eine Trauerfall-Rückerstattung gemäß einer Richtlinie, die nie existierte.

SLMs sind für Kunden-Chatbots und Beschwerdeportale sinnvoller. Diese Portale befassen sich oft mit stark repetitiven Problemen/Anfragen und verfügen über ein begrenztes Repository von Unternehmensrichtlinien. Das Modell kann leicht anhand vergangener Kundenticket-Daten und Unternehmensrichtlinien trainiert werden. Das reicht aus, damit das Modell Kunden antworten kann.

Natürlich kann SLM nicht alles bewältigen, und wenn der Bot die Anfrage nicht beantworten kann, können Sie immer einen Menschen einbeziehen. Bei einem Chatbot können Sie dem Kunden eine Support-Nummer zum Anrufen geben. Bei einer Ticket-Management-Plattform kann das Ticket automatisch gelöst werden, wenn es ein für SLM bekanntes Problem ist, oder einem Kundensupport-Mitarbeiter zugewiesen werden. Zumindest können Sie sicher sein, dass die Automatisierung einem Kunden nichts verspricht, was nicht möglich ist.

​Vertrieb/Marketing 

LLMs überzeugen definitiv bei einigen Anwendungsfällen im Vertrieb und Marketing, insbesondere bei der Content-Erstellung. Die größeren Trainingsdaten helfen bei der Bewältigung verschiedener Themen. Aber die Verwendung von LLMs für spezifischere Aufgaben wie Lead-Qualifizierung/-Pflege und personalisierte Kontaktaufnahme ist möglicherweise nicht die beste Wahl. Seine verallgemeinerten Antworten werden bei Ihren potenziellen Kunden keinen guten Eindruck hinterlassen.

SLM hilft Ihnen, personalisierte Kontaktaufnahme-Nachrichten zu erstellen. Es kann auf Ihrem proprietären Datensatz trainiert werden, um Leads zu qualifizieren. Sie können einige Kontaktaufnahme-Nachrichten entwerfen, die für Sie in der Vergangenheit funktioniert haben, und SLM-Modelle verwenden, um darauf basierend weitere Kontaktaufnahme-Nachrichten zu generieren. SLMs helfen Ihnen, sich von generischen KI-Kontaktaufnahme-Nachrichten zu lösen.

Finanzen 

LLMs können für allgemeine Marktanalysen verwendet werden. Aber sie hinken bei Hochrisiko-Aufgaben wie Betrugserkennung und Compliance-Überwachung hinterher. Betrugsraten steigen sowohl bei Verbraucher- als auch bei Geschäftskonten. Trotz der Entwicklung von Betrugserkennungssystemen durch Unternehmen finden Betrüger immer neue Wege, diese zu umgehen. Das Modell benötigt kontinuierliches Nachtraining. Hier glänzt SLM und LLM tritt in den Hintergrund.

Es dauert mehr Zeit und Ressourcen, ein LLM im Vergleich zu einem SLM nachzutrainieren. SLM kann kontinuierlich mit den neuesten Betrugsdaten aktualisiert werden, um das System robuster zu machen.

Gleiches gilt für Compliance-Daten. LLMs können sogar veraltete Compliance-Informationen enthalten, was zu Versäumnissen führt. Ein auf einem kleinen Datensatz trainiertes SLM ist leicht zu überprüfen und zu verfeinern, um sicherzustellen, dass nur die neuesten Vorschriften in der Wissensdatenbank verfügbar sind.

Personalwesen 

LLMs eignen sich hervorragend zum Erstellen allgemeiner Stellenbeschreibungen, Mitarbeiterkommunikation oder Schulungsinhalte. Aufgaben mit hohen Compliance-Risiken (Beispiel: Erstellen von Richtliniendokumenten, Arbeitsverträgen und Einwanderungsdokumenten) sind der Bereich, in dem es kompliziert wird.

Länder oder sogar Bundesstaaten aktualisieren ständig ihre Arbeitsgesetze. Beispielsweise hat die australische Regierung den Elternurlaub bis 2025 auf 24 Wochen erhöht, und ab 2026 wird er um weitere zwei Wochen verlängert. New York erhöht kürzlich den Mindestlohn pro Stunde für Gig-Worker. Japan begann, Work-Life-Balance und flexible Arbeitsregelungen für neue Eltern zu fördern.

Die Verwendung von LLMs bedeutet, kontinuierlich zu überprüfen, ob die Wissensdatenbank im Backend korrekt und aktuell ist. Das versehentliche Weglassen einer alten Richtliniendatei in der Datenbank würde zu Halluzinationen führen.  

Small Language Models bedeuten viel mehr Kontrolle über die Wissensdatenbank und mehr Sicherheit für die Compliance. Zum Beispiel ist Deel AI ein Small Language Model, das von seinen Compliance-Experten kuratiert wird. Diese Experten aktualisieren kontinuierlich die Wissensdatenbank, damit Sie die aktuellsten und genauesten Antworten erhalten.

Geschäftsbetrieb

Eine neue KI-Adoptionsumfrage von G2 zeigt, dass fast 75% der Unternehmen mehrere KI-Funktionen im täglichen Geschäftsbetrieb nutzen. KI treibt die betriebliche Effizienz voran und verbessert die Produktivität. Sowohl SLM als auch LLM spielen dabei eine Rolle.

LLMs glänzen bei strategischen Aufgaben wie Risikomanagement, Nachfrageprognose, Lieferantenprüfung und mehr. Seine umfangreiche Wissensdatenbank hilft ihm, alle Aspekte zu berücksichtigen, bevor es einen Vorschlag macht. Andererseits funktioniert SLM am besten für repetitive Routinearbeiten. Denken Sie an Rechnungsmanagement, Sendungsverfolgung, Routenoptimierung, Hintergrundprüfungen oder vorausschauende Wartung. Die Aufgaben können mit einem begrenzten Regelsatz und den vergangenen Daten des Unternehmens ausgeführt werden.

Unternehmen profitieren von der Verwendung von SLM bei routinemäßigen, sich wiederholenden Aufgaben. Zum Beispiel wechselte Checkr, eine Plattform für Mitarbeiter-Hintergrundüberprüfungen, von LLM zu SLM, um Hintergrundüberprüfungen zu automatisieren, und verzeichnete eine bessere Genauigkeit, schnellere Reaktionszeiten und eine 5-fache Kostenreduzierung.

SLM vs LLM: Wer gewinnt den Kampf?

Im Vergleich von SLM und LLM besteht die Antwort nicht darin, zwischen SLM und LLM zu wählen. Der bessere Ansatz ist, sie zusammen als hybrides Modell zu verwenden. Sowohl SLM als auch LLM haben ihre eigenen Stärken und Schwächen. SLM leistet gute Arbeit bei Aufgaben mit klar definierten Bereichen und begrenzten Datensätzen. Aber für Aufgaben, die Argumentation erfordern, ist LLM eine viel bessere Wahl.

Nehmen wir das Supply Chain Management als Beispiel. Ein hybrider Ansatz ist besser für das Supply Chain Management, bei dem:

• LLM strategische Aufgaben wie Risikoanalyse, Nachfrageprognose und mehr übernimmt
• SLM hochvolumige und repetitive operative Aufgaben automatisiert, wie Routenmanagement, Rechnungsverarbeitung usw.

Die gemeinsame Nutzung von SLM und LLM schafft ein vollständiges Modell, um alle Aspekte der Lieferkette zu bewältigen. ​

Top SLM-Modelle bereit für benutzerdefiniertes Training

Ein guter Aspekt beim Einstieg in Ihre SLM-Implementierung ist, dass Modelle für die Feinabstimmung verfügbar sind. Je nach Anwendungsfall können Sie eines dieser Modelle wählen:

1. Meta Llama 3.1 (8B Parameter): Ein hocheffizientes Modell, das sich für Anwendungsfälle mit mehrsprachiger Unterstützung auszeichnet
2. Microsoft Phi-3 (3,8B Parameter): Ein kleines Modell, perfekt für sehr spezifische Aufgaben, die starke Argumentation erfordern.
3. Google Gemma 2 (2B Parameter): Ein leichtgewichtiges Modell mit multimodalen Fähigkeiten, das Ihnen hilft, sowohl Text als auch Bilder zu verarbeiten.

Die Verwendung von SLMs war noch nie so einfach

Mit mehr SLM-Modellen, die auf den Markt kommen, müssen Sie nicht einmal ein Modell von Grund auf neu erstellen. Wählen Sie einfach ein bestehendes Modell, das zu Ihrem Anwendungsfall passt, erstellen Sie eine Wissensdatenbank mit Informationen dafür, und schon kann es losgehen.  

\n