Mistral

Mit Leanstral 1.5 hat Mistral AI ein neues Sprachmodell veröffentlicht, das auf mathematische Beweise spezialisiert ist und bei ausgewählten Benchmarks auf „Top-Uni-Niveau“ performen soll. Das LLM ist Open Source und kann im AI Studio kostenlos getestet werden. Das französische Startup aus Paris entwickelt mittlerweile auch in der Breite hochwertige Modelle.

Gute Prompts sind wichtig, um einem Chatbot geeignete Anweisungen zu geben, damit dieser ausgewählte Aufgaben möglichst effizient ausführen kann. Aber wo speichere ich eigentlich meine Top-Prompts und wie sieht es mit einer regelmäßigen Aktualisierung aus? Im AI Studio von Mistral können User über eine nützliche Funktion ganze Versionsverläufe einsehen und ältere Prompts jederzeit wieder aufrufen.

Das französische Startup Mistral AI hat sein Chatangebot um einen Work-Modus erweitert, in dem sich unter anderem Aufgaben planen lassen. Diese können täglich, wöchentlich, monatlich oder jährlich zu ausgewählten Zeiten ausgeführt werden. Möchte ich zum Beispiel täglich über die wichtigsten KI-News informiert werden, erstelle ich eine Aufgabe mit einer geeigneten Anweisung.

Skills sind Arbeitsanweisungen, die ich direkt in den Chat laden kann, um eine bestimmte Aufgabe auszuführen. Im Gegensatz zu Custom Bots sind solche Skills sehr schlank zu erstellen und benötigen ausschließlich Textinput in einer Markdown-Datei. Ein Bot-Setup ist wesentlich komplexer. Im Beispiel wird in Mistrals Chatangebot „Vibe“ ein spezialisierter Skill entwickelt, der aus einem Beitrag einen kompakten Linkedin-Post generiert, mit „Zero Prompt“.

Um einzelne Anweisungen gezielt in einen Chat zu laden, können dauerhaft gespeicherte „Skills“ verwendet werden. Es braucht somit kein wiederkehrendes Hineinkopieren abgelegter Prompts, sondern nur wenige Klicks innerhalb einer Chatumgebung. Dies ermöglicht ein übersichtliches Arbeiten und spart langfristig Zeit. Im Beispiel wird Mistrals „Vibe“ im „Work-Modus“ genutzt. Mistral hat sein bisheriges Angebot „Le Chat“ mittlerweile in „Vibe“ umbenannt und fokussiert sich immer mehr auf tiefergehende Arbeitsprozesse. 

Annotationen ermöglichen es, ganze Bilder oder einzelne Bildelemente strukturiert zu beschreiben. Diese Beschreibungen werden häufig im JSON-Format gespeichert, damit sie maschinenlesbar weiterverarbeitet und unter anderem für das Training von Bild-KI-Systeme genutzt werden können. Hierfür kommen Tools wie OCR 4 von Mistral zum Einsatz.

Mistral hat mit OCR 4 ein neues Zeichenerkennungstool veröffentlicht, das man im AI Studio kostenlos testen kann. Über die Technologie „Optical Character Recognition“ wird aus einem Bild unter anderem der angezeigte Text extrahiert und lässt sich so gezielt anpassen. Im Beispiel habe ich den Blogbeitrag des Hochschulforums Digitalisierung (HFD) „Warum KI-Agenten das Ende klassischer Onlinetests einleiten“ mit der Lizenz CC BY-SA 4.0 über die Drucken-Funktion in ein PDF umgewandelt und anschließend in das AI Studio hochgeladen.

KI-Assistenten wie ein Mistral Agent lassen sich vielfältig einbinden, wie zum Beispiel als Sparringspartner, der darauf spezialisiert ist, stets meine Ideen & Planungen kritisch zu hinterfragen. Insbesondere in Zeiten von künstlicher Intelligenz und schnell generiertem KI‑Code, den ich fix auf einer Webseite einbinden kann, lohnt es sich, einen strengen & kompetenten IT-Experten als Sparringspartner an der Seite zu haben, den ich erstmal von meinem Vorhaben überzeugen muss.

Mistral AI hat mit „Mistral Medium“ ein neues (offenes) Sprachmodell veröffentlicht, das sich von der Größe her zwischen „Mistral Small“ und „Mistral Large“ positioniert. Das Modell soll vor allem im Rahmen von Coding Agents und einem Work Mode zum Einsatz kommen, aber auch für Textarbeiten gut geeignet sein. Im AI Studio lässt sich „Mistral Medium“ kostenlos testen. 

Aus verschiedenen Gründen kann es sinnvoll sein, dass Chats nicht für das Training eines Sprachmodells verwendet werden und auch nicht in der eigenen Chat-Historie auftauchen. Am Beispiel von Mistrals Le Chat wird der Inkognito-Modus getestet. Um dies designtechnisch zu unterstreichen, nutze ich den Dunkel-Modus, der sich über die „Einstellungen“ und „Präferenzen“ festlegen lässt.

Eine der beliebtesten Use-Cases im Rahmen der Nutzung von KI-Anwendungen wie Chatbots ist das Zusammenfassen von Texten und PDFs, um sich zeiteffizient in ein Thema einzuarbeiten. Man muss nicht mehr jede einzelne Seite durchgehen und den Inhalt aus dem Englischen ins Deutsche übersetzen, denn dies können KI-Systeme mittlerweile sehr zuverlässig.

Le Chat ist ein beliebtes Chatangebot der französischen Firma Mistral AI und bietet neben einem klassischen Chat auch die Möglichkeit, individuelle KI-Assistenten zu entwickeln. Diese werden in „Le Chat“ als Agents bezeichnet und lassen sich kostenlos erstellen und mit dem Top-Sprachmodell Mistral betreiben.

Mistral AI hat mit Voxtral TTS ein offenes Text-to-Speech-Tool veröffentlicht, das sich kostenlos über das AI Studio testen lässt und auf Hugging Face für alle Beteiligten zum Download bereitsteht. Das Startup aus Paris stellt somit eine weitere nützliche Anwendung vor und erweitert gezielt das eigene KI-Angebot. Next?

Small Language Models (SLMs) wie Mistral Small 4 werden immer effizienter und sind vor allem mit Blick auf lokale Lösungen im Rahmen des Edge Computing von besonderem Interesse, da sich datenschutzrechtlich so einiges ändern würde, falls ein Top-SLM problemlos auf dem Smartphone laufen würde. Nein, noch sind die kleinen Sprachmodelle wohl noch etwas zu groß bzw. benötigen zu viel Rechenleistung, aber dies könnte sich „demnächst“ ändern.