Apertus im HAWKI: Offenes Schweizer Top-LLM im datenschutzkonformen Interface verwenden

✅ Freie Nutzung von Text & Abbildungen & Video für Premium-User

Apertus ist ein offenes Sprachmodell, das auf dem Schweizer Supercomputer Alps trainiert wurde und auch auf Plattformen wie Hugging Face frei zugänglich ist. Die ETH Zürich und die EPFL Lausanne haben das LLM maßgeblich entwickelt. Apertus kann unter anderem über die GWDG Göttingen innerhalb der HAWKI-Umgebung verwendet werden.

Der obere Screenshot zeigt die Anmeldemaske des HAWKI. Wo befinde ich mich hier? Ja, genau im HAWKI der HAWK Hildesheim, also an der Hochschule, wo das sehr beliebte datenschutzkonforme Interface entwickelt wird. Der hauptverantwortliche Entwickler Vincent Timm hat mir freundlicherweise vor einiger Zeit einen Login eingerichtet. Vielen Dank, lieber Vincent! Wie viel Traffic darf ich eigentlich zu euch nach Hildesheim „verlagern“? 😉

Nach erfolgreicher Anmeldung klickt man in das Textfeld an der Promptleiste und schon werden die Funktionen wie Systemprompt oder Modellauswahl angezeigt. Rechts oben ist das Modell „GWDG Apertus 70B“ ausgewählt und kann hier im HAWKI für Zusammenfassungen, Erklärungen etc. genutzt werden. Das Hosting der größeren Version von Apertus läuft über die Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG), die auch weitere Open-Source-Modelle wie Mistral Large kostenfrei bereitstellt.

Die obere Abbildung zeigt das Drop-Down-Menü mit den unterschiedlichen Auswahlmöglichkeiten. Hier lassen sich auch einfach die Modelle wechseln, falls ein KI-System für eine bestimmte Aufgabe bzw. einen Use Case besser geeignet erscheint. Im Beispiel bleiben wir bei dem Schweizer Top-LLM Apertus und testen dieses in zwei Use Cases.

Über den auf der linken Seite nach oben gerichteten Pfeil öffnet sich ein weiteres Menü, über das man unter anderem den Systemprompt festlegen kann. Da ich mich in dem Bereich „KI & Ethik“ weniger gut auskenne, aber das Themenfeld für wichtig halte, möchte ich, dass Apertus mir zu jedem Output stets eine ethische Perspektive präsentiert.

Über dem Prompt ***Erkläre die Unterschiede von GenAI und AGI*** teste ich den „KI-Ethik-Buddy“. Zu Beginn wird erstmal auf die technologischen Unterschiede von Generativer KI und der allgemeinen künstlichen Intelligenz (AGI) eingegangen. Die Thematik wird also technisch-objektiv erläutert.

Beim abschließenden Fazit „greifen“ dann die konkreten Anweisungen im Systemprompt und das offene LLM Apertus nimmt eine ethische Perspektive ein und weist auf potenzielle Risiken und auf eine gezielte KI-Regulierung hin. Die Anweisungen kann man in einem Chat so konfigurieren, dass auch die eigene persönliche Sicht auf solche Technologien widergespiegelt wird. Also eher neutral, skeptisch oder doch überschwänglich? Dies ließe sich simpel über wenige einfache Sätze definieren und jederzeit im HAWKI anpassen.

Links oben in der HAWKI-Seitenleiste wird über den Button „Neuen Chat starten“ ein neuer Chat geöffnet. Es empfiehlt sich, neue Themen auch in einem neuen Chatverlauf zu führen, sonst kann die KI durcheinanderkommen. Die Chats werden historisch im HAWKI gespeichert und können über rechts die die Punkte gelöscht werden. Im oberen Screenshot sind ein PDF-Upload und der angepasste Systemprompt dargestellt, um das Dokument in einfacher Sprache und in Stichpunkten ausgeben zu lassen. Auch hierfür kommt Apertus zum Einsatz.

Da ich die Anweisungen sehr klar formuliert habe, reicht nun der Prompt ***Los*** und schon beginnt das Sprachmodell, das PDF zu analysieren und einen geeigneten Output zu präsentieren. Hier zeigt sich, wie einfach das Handling eines Chatangebots mit effizienten Systemprompts sein kann. Aus meinen Erfahrungen ist häufig die Einfachheit sehr wirksam, aber es gibt natürlich viele weitere sehr gute Einstellungsmöglichkeiten.

Das PDF ist ein umgewandelter Blogbeitrag auf Unidigital, der die Agenten und Bibliotheken in Mistrals Le Chat näher beleuchtet. Genau dies wird zu Beginn auch mit unterschiedlichen H‑Überschriften erläutert. Benötige ich für solche Aufgaben die allerbesten Sprachmodelle wie Claude Opus 4.7 oder genügt nicht auch ein kleineres (offenes) Modell wie „Apertus 70B“? Für einfachen Aufgaben finde ich persönlich das Schweizer Top-Modell völlig ausreichend und insgesamt effizienter.

Auch im zweiten Use Case wird der Systemprompt optimal umgesetzt. Die Antworten werden stets in einfacher Sprache und in Stichpunkten dargestellt. So kann ich mich schnell und übersichtlich in die Erstellung von Bibliotheken und die Verbindung mit den KI-Assistenten in Le Chat einlesen. Es benötigt nicht immer KI-Outputs im Stile ganzer Blogbeiträge.

Eine weitere Möglichkeit, das Open-Source-LLM „Made in Suisse“ zu testen, wäre ein Login über die Webseite Public AI. Nach erfolgreicher Anmeldung links oben im Menü das Modell „Switzerland“ auswählen und einen Prompt setzen. Viel Erfolg!


Autor

matthias kindt

Matthias Kindt auf Linkedin