Offenes SLM: Mistral Small 4 als Agent im AI Playground testen

✅ Freie Nutzung von Text & Abbildungen für Premium-User

Small Language Models (SLMs) wie Mistral Small 4 werden immer effizienter und sind vor allem mit Blick auf lokale Lösungen im Rahmen des Edge Computing von besonderem Interesse, da sich datenschutzrechtlich so einiges ändern würde, falls ein Top-SLM problemlos auf dem Smartphone laufen würde. Nein, noch sind die kleinen Sprachmodelle wohl noch etwas zu groß bzw. benötigen zu viel Rechenleistung, aber dies könnte sich „demnächst“ ändern. 

Der obere Screenshot zeigt die Startseite des AI Studio von Mistral, dem französischen KI-Startup aus Paris. Um das SLM Mistral Small 4 kostenfrei testen zu können, klickt man links in der Navigation auf „Playground“. und im Anschluss lassen sich direkt eine Reihe an Sprachmodellen „Made in France“ auswählen. Im Playground kann man einen ganz eigenen KI-Assistenten erstellen, der bei Mistral als Agent bezeichnet wird. Die Anfragen laufen über die API und diese kann in einem bestimmten Umfang ohne Kosten und ohne die Angabe einer Bankverbindung verwendet werden.

Um das kleine & offene Sprachmodell auszuwählen, reicht ein Klick auf den Button neben dem Feld „Modell“ und man scrollt anschließend bis zu Mistral Small herunter. Dort lässt sich immer das aktuellste SLM verwenden. Auch die Nutzungskosten werden angezeigt, falls man dann doch mehr Umfang bei den Tokens benötigen sollte. Dies ließe sich jederzeit anpassen.

Oben in der Abbildung ist die komplette leere Eingabemaske dargestellt und unten habe ich den Agent „KI & Bildung“ schon gespeichert und die Anweisung ***Gib den Output in Stichpunkten aus*** hinzugefügt. Generell funktioniert dies wie bei anderen KI-Assistenten wie CustomGPTs,, Gems, Projects etc. Bei Fertigstellung rechts oben auf den schwarzen Button „Agent erstellen“ klicken und schon ist der KI-Helfer im Playground des AI Studios einsatzbereit und erwartet eure Prompts.

Neben der Festlegung eines Sprachmodells, lässt sich über die Funktionen und den Button „Hinzufügen“ unter anderem die Internetsuche standardmäßig aktivieren, um zum Beispiel sehr aktuelle Inhalte abrufen zu können. Auch eine Erstellung von Bildern wäre so möglich.

Der Playground mit der Entwicklung eines KI-Assistenten bzw. Agent und dem Small-Language-Modell Mistral Small 4 als Basis ist recht einfach zu bedienen und kann jederzeit angepasst werden. Auch der Switch zu einem anderen Modell wie u.a. Mistral Large ist problemlos möglich. Dies ist alles sehr flexibel gehalten.

mistralAbschließend noch der Hinweis auf die freie Zugänglichkeit der meisten Modelle von Mistral. Über den Mistral-Account auf Hugging Face stellt das KI-Startup aus Paris allen Interessierten Top-Modelle zur Verfügung. Gerne mal testen! SLMs werden immer interessanter für die „Massennutzung“.


Autor

matthias kindt

Matthias Kindt auf Linkedin