Mistral Leitfaden: Agenten in „Le Chat“ mit einer Bibliothek verbinden

✅ Freie Nutzung von Text & Abbildungen & Video für Premium-User

Le Chat ist ein beliebtes Chatangebot der französischen Firma Mistral AI und bietet neben einem klassischen Chat auch die Möglichkeit, individuelle KI-Assistenten zu entwickeln. Diese werden in Le Chat als Agents bezeichnet, lassen sich kostenlos erstellen und mit dem Top-Sprachmodell Mistral betreiben.

Use Case: Über einen Agent mit dem offiziellen KI-Regelwerk EU AI Act chatten

Uns so funktioniert es:

1) Links in der Navigation über „Intelligenz“ und Bibliotheken eine neue Bibliothek erstellen und via Uploads mit einem oder auch mehreren Dokumenten füllen. 
2) Links in der Navigation über Agent und im Anschluss in „Meine Agenten“ rechts oben auf „Agent erstellen“ klicken. Im „Agent-Backend“ lassen sich die Anweisungen formulieren, die Tonalität festlegen und am Ende über „Wissen“ die erstellten Bibliotheken auswählen.
3) Rechts oben auf Button „Neuen Chat öffnen“ klicken und mit dem Agent und der ausgewählten Bibliothek chatten, um wie im Beispiel gezielt Informationen rund um den EU AI Act zu erhalten. Das Top-Sprachmodell Mistral kommt hier zum Einsatz. 
4) Viel Erfolg bei der Entwicklung!

Der obere Screenshot zeigt die Startseite in Le Chat  und das Interface sieht eigentlich genauso aus, wie man dies zum Beispiel von Gemini, ChatGPT & Claude kennt. Funktional läuft dies bei Mistral ein wenig anders, denn die Entwickler setzen auf sogenannte Bibliotheken, auf denen User Dokumente wie PDFs hochladen und/oder mit einer Webseite verbinden können. Diese dienen nun als Wissensgrundlage. Sehr praktisch!

Um eine Bibliothek zu erstellen, klickt man links im Menü auf das Feld „Intelligenz“ und im Anschluss auf Bibliotheken. Nun werden alle erstellten Bibliotheken angezeigt, die uch jederzeit bearbeiten und aktualisieren kann, falls zum Beispiel eine neue Fassung des EU AI Act beschlossen und das PDF dazu veröffentlicht wird.

Danach rechts oben auf den Button „Neue Bibliothek“ klicken und eine neue Ablage von Dokumenten und Webseiten-Indexierungen starten. In diesem Blogbeitrag halte ich es einfach und möchte ausschließlich das offizielle Dokument der Europäischen Union in der deutschen Version hochladen. Das KI-Regelwerk gibt es in zahlreichen EU-Sprachen.

Die untere Abbildung zeigt die fertige Bibliothek, die sich automatisch erstellt, ohne dass diese extra gespeichert bzw. erstmalig veröffentlicht werden muss. Das PDF kann ich rechts über die drei Punkte löschen und umbenennen. Mit einem Klick auf das Dokument, öffnet sich dieses in der rechten Seitenleiste und lässt sich einsehen.

Nachdem die Wissensgrundlage für den Agenten in Le Chat eingestellt ist, kann der KI-Assistent konfiguriert werden. Hierzu links in der Navigation auf „Agenten“ klicken und danach rechts oben auf das Feld „Agent erstellen“. Nun wird das Backend des Agents angezeigt, das aktuell komplett leer ist. Noch einmal kurz der Hinweis, dass ich den kostenlosen Plan von Mistral nutze und die Entwicklung somit keinerlei Kosten verursacht.

Auf der linken Seite lässt sich der Systemprompt mit Textinput festlegen und darunter können die Leitplanken und die Tonalität ausgewählt werden. Über das unterste Feld „Wissen“ lege ich die Wissensgrundlage des Agents fest. Gebe ich einen Prompt ein, wie zum Beispiel „KI-Systeme“, dann wird der Agent in dem PDF EU AI Act „nachschauen“ und auf dieser Grundlage über das Sprachmodell Mistral eine geeignete Antwort generieren.

Ganz zentral für einen konstant hochwertigen Output, sind die Anweisungen, die ich wie in der unteren Abbildung dargestellt in das zugehörige Feld eingefügt habe. Mir persönlich gefällt stets der Output in einfacher Sprache und in Stichpunkten. Aber dies ist selbstverständlich Geschmackssache.

Es kann durchaus sinnvoll sein, am Schluss der KI-Antwort ein oder zwei passende Verlinkungen wie zum Beispiel zum PDF des EU AI Act oder zu einem empfehlenswerten Online-Fortbildungskurs rund um das Regelwerk ausgeben zu lassen. Um diese optisch vom restlichen Text abzuheben, habe ich zwei Hyperlink-Emojis in das Feld „Anweisungen“ mit hineinkopiert. Dies klappt designtechnisch sehr gut.

Mittlerweile muss nicht mehr jedes Detail solch eines KI-Helfers per Textinput im Systemprompt definiert sein, denn bestimmte Anweisungen wie die Tonalität lassen sich simpel per Buttonklick festlegen. Der Beispiel-Agent soll seine Antworten stets „reflektierend“ und „direkt“ formulieren. Auch „humorvoll“ und „poetisch“ wären möglich, aber der Stil würde wohl nicht ganz so gut zum Thematik EU AI Act passen 😉

 

Nachdem unser Agent geeignete Anweisungen und Tonalität sowie oben mit „Chatten mit dem EU AI Act“ zusätzlich einen passenden Titel erhalten hat, wird zum Schluss die Wissensgrundlage festgelegt. Klar, wären noch weitere Settings in Le Chat bezüglich Leitplanken und der Anbindung externer Tools möglich, aber ich möchte es gerne bei den „Basics“ belassen. Das ist für diesen Use-Case völlig ausreichend.

Nach einem Klick auf das untere Feld „Wissen“, lassen sich nun unterschiedliche Einstellungen vornehmen, wie die Anbindung von Tools & Konnektoren und ganz am Schluss die Auswahl der angelegten Bibliotheken. Über einen Mausklick habe ich die oben erstellte Bibliothek „EU AI Act (German)“ mit dem Agent „Chatten mit dem EU AI Act“ verbunden. Diese Verbindung kann ich jederzeit wieder lösen.

Auch das Hinzufügen einer weiteren Bibliothek, wie zum Beispiel dem Archiv „KI & Recht (HOOU)“ wäre möglich. Hier wurde ein PDF mit Fokus auf KI & Urheberrecht hochgeladen. Der Agent kann sich abwechselnd auf die jeweilige Bibliothek beziehen, um eine bestmögliche Antwort auszugeben. Bibliotheken in Le Chat bieten also vielfältige Möglichkeiten. Gerne erstmal maximal kreativ durchtesten, bevor man sich direkt festlegt.

Da bei jeder Änderung des Agents automatisch eine Speicherung erfolgt, ist unser KI-Assistent nicht nur einsatzbereit, sondern auch schon veröffentlicht. Entweder man klickt man rechts oben auf den Button „Neuen Chat öffnen“ oder geht, wie im oberen Screenshot dargestellt, links über die Hauptnavigation und den Reiter „Agenten“ zur Hauptübersicht mit der Bezeichnung Meine Agenten. Hier einfach den KI-Assistenten anklicken und anschließend über den Button „Chatten“ einen neuen Chat starten. Mit Klick auf den Button „Anpassen“ kommt man wieder zurück ins Backend zu den Settings. 

Der obere Screenshot zeigt den Agenten in einem normalen Chat und links neben dem Plus-Icon wird ein Buch-Icon mit einer „1“ angezeigt. Genau dies ist die eine Bibliothek, die im Agent-Backend aktiviert wurde. Hätte ich als Wissensbasis zwei weitere Bibliotheken hinzugefügt, dann würde dort eine „3“ stehen, da sich der KI-Assistent nun auf genau 3 Archive beziehen würde. Um den Überblick zu behalten, lohnt es sich, regelmäßig zu checken, ob die Anzahl passt.

Rechts unten lässt sich über das Drop-Down-Menü zusätzlich eine Sprachmodellauswahl vornehmen. Aktuell handelt es sich um das Modell „Ausgewogen“. Auch zum „Denkmodus“ mit erweiterter Logik könnte man problemlos switchen. Die verfügbaren Mistral-Modelle ließen sich auch als „Fast“ & „Thinking“ bezeichnen.

Um schnellstmöglich in Agent-Backend zu gelangen, um dort zum Beispiel den Systemprompt anzupassen, reicht es aus, die Maus auf „@Chatten mit dem EU AI Act“ zu „parken“ und im Anschluss wird das Textfeld „Anpassen“ sichtbar. Genau dort draufklicken und schon kann man fix die Settings aktualisieren. Das gefällt mir in Le Chat sehr gut.

Mit einem Klick links auf das Plus-Icon öffnet sich ein umfangreiches Menü, das direkt die aktiven Bibliotheken anzeigt und simpel über weitere Klicks das Hinzufügen & Entfernen der verfügbaren Archive mit Wissensgrundlagen ermöglicht. Oben rechts lässt sich direkt über den Button „Neue Bibliothek“ eine neue Ablage einrichten. Das Interface ist insgesamt sehr effizient entwickelt worden. 

Im oberen Screenshot habe ich beispielhaft zwei weitere Bibliotheken aktiviert, auf die sich der Agent nun beziehen kann. Neben dem EU AI Act stehen dem KI-Assistenten ein spezialisiertes PDF rund um das Urheberrecht und ausgewählte Leitfäden aus den Hochschulen zur Verfügung. Hier stellt sich die Frage, ob man diese nicht in einer Bibliothek zusammenfügt oder wie im Beispiel einzeln anordnet. 

Nun folgt der erste Test des individuell konfigurierbaren KI-Helfers mit dem einfachen Prompt „KI-Systeme“, die in dem EU-Regelwerk eine ganz zentrale Rolle spielen und mit denen ich mich womöglich bislang kaum beschäftigt habe und hier in Le Chat den ersten Einstieg suche. Wie in den Anweisungen im Backend definiert, wird der Output stets in Stichpunkten generiert. Das funktioniert!

In regelmäßigen Abständen werden über den Text hinweg die jeweiligen Seitenanzahlen im PDF präsentiert und die dazugehörige Quelle, also das PDF, mit interner Verlinkung in die Bibliothek „EU AI Act (German)“. Nun kann ich nachvollziehen, ob die Antwort korrekt ist oder eventuell ein fehlerhafter Output ausgegeben wurde. Chatte ich mit einem PDF, so sollte stets auf Korrektheit überprüft werden, da Chatbots gelegentlich halluzinieren.

Der obere Screenshot zeigt die mit dem Agent verbundene Bibliothek, nachdem ich auf die interne Verlinkung im Chat geklickt habe. Auf der rechten Seite kann man die Aussage auf Fehler checken. Ich muss also nicht immer auf den Seiten der EU-Kommission das Original-PDF öffnen, sondern verbleibe in der KI-Umgebung Le Chat. Dies spart Zeit.

Bei jedem Output-Ende werden, wie im Systemprompt definiert, zwei passende externe Verlinkungen angezeigt und zwar eine zur offiziellen Seite der EU-Kommission mit der deutschsprachigen Version des KI-Regelwerks und eine zweite Verlinkung darunter zu dem empfehlenswerten, offenen Online-Kurs des KI-Campus EU AI Act Essentials, der die wichtigsten Bestandteile des KI-Gesetzes aufbereitet.

In diesem Beispiel hat der Agent auf der Grundlage des Sprachmodells Mistral und in Verbindung mit einer Bibliothek zuverlässig funktioniert. Insgesamt ist Le Chat ein starkes Chatangebot der französischen Firma Mistral AI und es lohnt sich nicht nur aus datenschutzrechtlichen Gründen, hier den einen oder anderen nützlichen Agenten zu starten. Viel Erfolg!


Für Premium-User: PDF, Video und alle Abbildungen in der Cloud verfügbar

Mistral


Autor

matthias kindt

Matthias Kindt auf Linkedin