Integration von KI-Chatbots via API in Campus-Management-Systeme

Ein Gastbeitrag von Prof. Dr. Stefan Bieletzke 

Seit langem testen Hochschulen den Einsatz von Chatbots, insbesondere von Skript-Chatbots, die in den engen Grenzen des vorbereiteten Dialog-Skripts eine Antwort auf eine Frage geben können. Durch die Erfolge im maschinellen Lernen sind Chatbots mit künstlicher Intelligenz (KI) eine neue Hoffnung für den serviceorientierten und trotzdem rechtssicheren und datenschutzkonformen Einsatz an Hochschulen. Derzeit testen viele Anwender an Hochschulen das KI-Sprachmodell ChatGPT aus.

Das Spektrum der Erfahrungen mit ChatGPT ist breit geworden und jeder hat eine Anekdote zu „Dann habe ich ChatGPT gefragt und er/sie/es hat geantwortet…“ zum Besten zu geben. Einige haben es als Suchmaschine genutzt mit resultierend schlechten Ergebnissen, da ChatGPT keine Suchmaschine ist, sondern ein dialogorientiertes Sprachmodell. Andere haben unzureichend kurze Dialoge eröffnet, die Prompt-Eingabe falsch formuliert, und dann nur vage Allgemeinaussagen erhalten. Wieder andere versuchen unvoreingenommen die Vor- und Nachteile zu erkennen und es als Tool dort einzusetzen, wo es gut möglich ist, z.B. in der Anregung der Textkreativität, der Zusammenfassung von Texten, Übersetzung oder dem Code-Review. Am Ende des Meinungs-Spektrums stehen diejenigen, die ggf. übertrieben eine Singularität erkennen, also die Manifestation einer allgemeinen künstlichen Intelligenz, die die Welt in Utopie oder Dystopie führen wird.

Letztlich ist und bleibt ChatGPT zunächst nur ein leistungsfähiges Sprachmodell. Fraglich ist, wie es als Sprachmodell sinnvoll eingesetzt werden kann in Lehre, Verwaltung und Forschung einer Hochschule. Dieser Beitrag fokussiert dabei nur auf die Möglichkeit der Integration in ein Campus-Management-System, genauer gesagt, von ChatGPT in TraiNex. Sämtliche Beispiele sind real und funktionsfähig sowie testweise in einer Hochschule erprobt.

Systematisierung nach Datenbestand zu Anfrageart

Derzeitige Erfahrungen der Nutzer beziehen sich fast durchweg auf die Nutzung des ChatGPT-Dialogs, also einer frei formulierten Anfrage, auf deren Antwort auch Rückfragen gestellt werden können und deren Antworten aus einem offenen Datenbestand kommen, auf den die KI trainiert wurde. In der Abbildung entspricht dies der Position 1.

Für hochschulische Belange kann diese Art der Nutzung aber unvorteilhaft sein, z.B. weil die Hochschule die Kommunikationsanfrage nicht gezielt steuern kann, falsche Informationen aus dem genutzten Standard-Datenbestand ausgegeben werden oder Nachteile für Studierende entstehen, die sich datenschutzkonform nicht zur Registrierung bei ChatGPT drängen lassen wollen. Die Schnittstelle zu KI-Sprachmodellen ermöglicht Hochschulen hingegen einen standardisierten und unmerklichen Zugriff auf die Möglichkeiten der Text-KI, auch ohne Registrierung eines Studierenden.

Das Kriterium „genutzter Datenbestand für die Abfrage“ beschreibt, ob der originale Datenbestand von ChatGPT genutzt wird oder ob dieser erweitert wird um hochschulspezifische Belange oder sogar komplett auf diese hochschulspezifischen Dokumente begrenzt wird (Pos 3,6,9), z.B. um Fragen zu einem Lernskript oder zu einer Prüfungsordnung per KI im Dialog zu ermöglichen.

Das Kriterium „Anfrage-Prompt“ beschreibt, ob kein Bestandteil der Anfrage durch den Studierenden beeinflussbar ist (Pos. 7,8,9) oder zumindest Teile der Anfrage durch den Nutzer manuell änderbar sind (Pos 4,5,6). Hier wird fokussiert auf reale Anwendungs-Szenarien aus diesen (Pos 4,5 und 6).

Erst durch Nutzung der API kann der freie Anfrage-Prompt zur gemischten Anfrage werden aus

• bekannten Daten (z.B. der Studienrichtung oder das Fachsemester),
• erfragten Daten (z.B. der Forschungsinteressen) sowie
• festgelegten Daten, wie Rahmenbedingungen der Hochschule (z.B. vorgeschriebener Art der Gliederung)

Diese Daten können im alltäglichen Nutzungsprozess an geeigneter Stelle im Campus-Management-System erzeugt und als Prompt miteinander kombiniert werden. Der Prompt wird unmerklich über die API an die KI übergeben wird, die die Anfrage im Hintergrund bearbeitet und die Antwort zurückgibt. Die Antwort wird vom Campus-Management-System analysiert, ggf. nachbearbeitet und dem Nutzer dann präsentiert. Der Nutzer selbst erfährt weder den Prompt, noch dass im Hintergrund eine KI zur Generierung verwendet wurde. Er bekommt nur das Ergebnis zur weiteren Verwendung präsentiert.

Beispiel I: Kreative Überschriften für Meldungen

Ein einfaches Beispiel wäre der folgende Anwendungsfall aus dem Bereich der Verwaltung, der gem. Pos. 4 der Abb. 1 eine gemischt-offene API-Nutzung darstellt: Mitarbeitende der Hochschule stellen über eine Web-Maske aktuelle Meldungen ein, die den hochschulischen Nutzern auf der Startseite vom Campus-Management-System präsentiert werden. Zu jeder Meldung musste der Einsteller sich bisher eine Überschrift ausdenken.

Angenommen, der Einsteller möchte eine kreative Textinspiration bekommen, so könnte er zu ChatGPT verzweigen, sich einloggen und dann am Prompt schreiben „Bitte erstelle mir eine schöne Überschrift für die folgende Meldung: „Karrieremesse am Campus Berlin…‘“ und das Ergebnis dann kopieren und ins Campus-Management-System übertragen.

Besser ist es, den Vorschlag für die Überschrift dem Einsteller genau in dem Moment zu präsentieren, in dem die Überschrift benötigt wird. Der Ablauf mit API sieht in TraiNex wie folgt aus:

• Der Einsteller erstellt, wie bisher, die aktuelle Meldung im Campus-Management-System.
• Sofort auf einer Zwischenseite werden ihm alternative Überschriften vorgeschlagen.
• Der Einsteller nimmt die Überschriften als Anregung und legt die Überschrift fest

In diesem Fall gehen erfragte Daten in den Prompt ein, nämlich u.a. der komplette Text der aktuellen Meldung „Karrieremesse am Campus Berlin…“. In Abb. 2 ist gelb umrandet der von der KI generierte Text zu sehen, der sich aus der darunter liegenden Meldung ergeben hat..

Technisch hat der wichtige Code-Teil, in dem die KI um kreative Überschriften gebeten wird, nur 7 Zeilen. In Zeile 4 wird der Prompt definiert. Die Meldung, für die die Überschrift gesucht wird, steht dabei in der gelb markierten Variablen „#aktuelle_meldung#“. Die response/Antwort wird aufbereitet und dann als #KIoutput# ausgegeben.

Modelle und Kosten

Es stehen verschiedene Sprachmodelle für verschiedene Anwendungsszenarien und Kosten zur Verfügung. In Abb. 3 wird in Zeile 1 festgelegt wird, dass als Sprachmodell nicht ChatGPT sondern Davinci verwendet wird. Je nach Verwendungszweck sollte man das passende Sprachmodell aus Ada, Babbage, Curie, Davinci oder dem dialogischen ChatGPT wählen. Davinci ist für nicht-chatbasierte Anfragen gut geeignet und sehr leistungsfähig.

Diese Leistung erzeugt allerdings höhere Kosten. Der Kostenaspekt mag manchen Nutzern neu sein, da die dialogorientierte Variante kostenfrei ist. Bei der Nutzung der API fallen hingegen Kosten an, die, vereinfacht gesagt, pro verarbeitetem Wort berechnet werden. Bei dem obigen Beispiel der „Überschrift für die aktuelle Meldung“ sind in dem Anfrage-Prompt, in dem auch die komplette Meldung enthalten ist, ca. 150 Worte enthalten. In der Antwort, also den Überschriften, sind ca. 50 Wörter enthalten. Diese in Summe 200 Worte haben ca. 325 Silben und die Verarbeitung durch die KI kostet ½ Cent.

Die Kosten berechnen sich überschlägig wie folgt: Pro Silbe wird ein Token abgerechnet, der einen Preis hat. Bei Davinci kosten 1000 Token derzeit 0,02 USD=EUR. Würde man mit Davinci einen 20 Seiten langen Text analysieren lassen und dazu einen Bericht von 10 Seiten schreiben lassen, dann kann man für die 30 Seiten mit knapp 1 USD an Kosten rechnen.

Davinci kann also aufgrund der sehr guten Sprachkreativität eher nur für kurze Textanalysen noch wirtschaftlich einsetzbar sein. Im nächsten Beispiel wird hingegen ChatGPT (Version 3.5 Turbo) verwendet, da es mit 0,002 USD/1000 Token um Faktor 10 günstiger ist.

Beispiel II: Titelgenerator für Abschlussarbeiten

In diesem Beispiel wird ein Studierender unterstützt bei der Suche nach einem geeigneten Titel für eine Abschlussarbeit.

Natürlich könnte ein Studierender die dialogische, freie ChatGPT-Variante nutzen, um sich dort Titelideen zu „er-prompten“. Nach der einmalig erforderlichen Registrierung inkl. Telefonnummer müsste er dann einen Prompt ersinnen, der für ein qualitativ gutes Ergebnis auch u.a. die Neben-bedingungen der Hochschule enthalten müsste. Bei schwachen Prompts („Poor Problem Prompts“) wird auch der Output nur unzureichend sein.

Noch unterschätzt wird vermutlich, dass das Prompten eine neue Medienkompetenz darstellt und es ähnlich wie Profi-Googler auch Profi-Prompter geben wird, die sehr lange „Pro“-Prompts erstellen, um die KI zu einem optimalen Output zu bringen. Im folgenden Beispiel werden bekannte sowie erfragte und auch festgelegte Daten in einem Pro-Prompt durch das Campus-Management-System kombiniert. Der Ablauf ist gem. Abb. 5 wie folgt:

1) dem Campus-Management-System ist bekannt, welcher Studierende eine Abschlussarbeit zu erstellen hat.
2) Innerhalb des Campus-Management-Systems wird solchen Studierenden die Möglichkeit gegeben, auf den Service „Titel für Arbeit finden“ zu klicken.
3) Der Studierende wird dort befragt nach „3 Stichworten zur geplanten Arbeit“ sowie dem „Umfang in Seiten“ und einem vorhandenen Arbeitstitel, wie in Abb. 6 dargestellt.
4) Bekannt ist dem Campus-Management-System bereits die Studienrichtung (z.B. Psychologie“) sowie der Abschluss (z.B. Bachelor).
5) Festgelegt durch die Hochschule ist z.B. „kein Fragezeichen im Titel“ oder das Gliederungssystem.
6) Wenn der Studierende die Fragen beantwortet hat, wird mit Klick im Hintergrund der Profi-Prompt erstellt als Kombination aus erfragten, bekannten und hochschulspezifischen Details sowie den für Titelfindung aufgabenspezifischen Anweisungen.
7) Mit dem Prompt wird via die API die KI befragt und das Ergebnis an TraiNex geliefert.
8) Das Campus-Management-System kann die Textantwort grob prüfen auf z.B. nicht erlaubte Worte oder Zusätze hinzufügen wie „unverbindlich“.
9) Dem Studierenden wird der angeforderte Titelvorschlag innerhalb des Campus-Management-Systems angezeigt.
10) Der Studierende kann die Titel prüfen und ggf. anpassen und für einen von ihm definierten Titel eine Arbeitsgliederung erstellen lassen, die automatisch grob den Anforderungen der Hochschule z.B. gem. der Gliederungssystematik entspricht. 

In keinem der Schritte verlässt der Studierende das Campus-Management-System TraiNex und die KI ist nur im Schritt 7 bzw. dem gestrichelten lila Bereich involviert. Die 2 relevanten Masken des Titelfinders für die Erfragung sowie die Ausgabe innerhalb TraiNex sehen wie folgt aus. Eine öffentliche Testversion des Titelfinders ist in abgewandelter Form verfügbar unter http://titelfinder.campus-management-system.de

Nebenbei bemerkt sei, dass in der Ausgabe die Titel animiert buchstabenweise angezeigt werden, wie man es von der freien ChatGPT-Variante gewohnt ist. Tatsächlich ist die Performance der API besser ist als die Performance des kostenfreien Zugangs. Die Ausgabe der Titel wird von TraiNex deshalb künstlich auf eine buchstabenweise Ausgabe verlangsamt, um den Eindruck der Verarbeitung sowie eine gewisse Spannung zu erzeugen.

Technisch sieht man in Abb. 7, dass ggü. dem Sprachmodell ChatGPT (Zeile 86) so getan wird, als ob ein Nutzer einen Chatdialog eröffnen will (Zeile 81), der den Chat startet mit dem Prompt aus Zeile 82. In den Variablen wie #abschlusstyp# steht das bekannte „Bachelor“ oder in #form.studienrichtung# die bekannte Studienrichtung wie „Betriebswirtschaft“. In #form.language# steht z.B. deutsch oder englisch. In #pages# z.B. 50. Die KI bekommt einen demnach recht langen wohldefinierten Prompt, der auch von einem erfahrenen Profi-Prompter kommen könnte. In Zeile 103 werden die Titelvorschläge ausgegeben.

Auf der Folgeseite, wo die Gliederung erstellt werden soll, werden nochmals die wichtigsten Variablen übergeben inkl. des nun bekannten Wunschtitels. Der Prompt, der übergeben wird, kann z.B. wie folgt zusammengesetzt sein. Grün markiert sind bekannte Prompt-Teile, die ggf. studierendenspezifisch sind. Gelb sind erfragte Prompt-Teile und grau die hochschulspezifischen Prompt-Teile.

Beispiel III: Suche in Prüfungsordnung

Um die Rechtssicherheit und Verbindlichkeit von ChatGPT-Antworten zu erhöhen, ist es notwendig (und aber nicht hinreichend), dass der von der KI genutzte Datenbestand erweitert oder begrenzt wird. Erweitert wird der Datenbestand, wenn man ChatGPT zusätzliche Dokumente übergibt, die es ansonsten nicht im Datenbestand hätte, wie z.B. eine aktuelle Prüfungsordnung. Begrenzt würde bedeuten, dass man ChatGPT anweist, jede Antwort nur auf genau diese Prüfungsordnung zu geben. Dies würde z.B. der Position 6 in der Abb. 1: Systematisierung nach Datenbestand zu Anfrageart“ entsprechen.

Die Möglichkeiten dafür sind seitens ChatGPT derzeit begrenzt bzw. aufwändig. Denkbar ist zunächst, dass man dem berechtigten Nutzer, z.B. dem Studierenden oder Bewerber, ein Formular bietet „Frage zur Bachelor-Prüfungsordnung 2023“ und im Prompt die komplette Prüfungsordnung 2023 sowie studierendenspezifische Zusatzdaten übergibt. Solch ein Prompt ist in der Definition kurz und beinhaltet aber die komplette vielseitige Prüfungsordnung.

In der Eingabemaske aus Abb. 10 wird deutlich, dass der Nutzende zunächst eine Voraus¬wahl trifft, auf welche Prüfungsordnung sich die Frage bezieht. Die Frage und der Text, aus dem die Antwort gezogen werden soll, werden dann im Hintergrund an ChatGPT übergeben. Bei der Antwort kann beobachtet werden, dass zur Interpretation der Frage auf den kompletten Datenbestand zugegriffen wird, denn die Begrifflichkeit „offiziell zugewiesen“ kommt z.B. nicht in der Prüfungsordnung vor. Die Antwort an sich beschränkt sich dann komplett auf die eigentliche Prüfungsordnung und ist aber als generativ-erzeugte Antwort nur als unverbindliche Auskunft nutzbar. Angemerkt sei am Rande, dass Studierende sich mit der Option „Jugend-Sprache“, deutlich länger mit der Thematik der Prüfungsordnung befassen.

Möglich wäre hier natürlich auch der Einsatz in der Lehre. So könnte der Studierende einen Lerntext/Studienbrief/Vorlesungstext aussuchen und „Zusammenfassung“ oder auch „Quiz starten“ klicken. Dies funktioniert derzeit nur bei Texten und nicht, wenn Bilder integriert sind. Das Campus-Management-System würde der KI in der Quiz-Option den Lerntext mit folgenden Prompt übergeben:

Dies Vorgehen ist bei ChatGPT in Version 3.5 möglich bis zu einer Tokenlänge von 4096, also ca. 1000 Worten=2 Seiten. Alles, was darüber hinausgeht, muss als simuliertes Vorgespräch übergeben werden. Das Campus-Management-System würde bei einer Anfrage des Studierenden an einen 10 seitigen Text also eine vorausgehende Unterhaltung mit 5*2 Seiten simulieren, in der es nach und nach der KI die Prüfungsordnung/den Lerntext mitteilt. Erst danach würde es die Frage des Studierenden stellen und um Antwort bitten bzw. das Quiz starten. Wenn die Antwort eine Seite beinhaltet, sollten dafür insgesamt Kosten von 5 Cent pro Anfrage anfallen.

Ebenfalls möglich ist es, das Sprachmodell mit eigene Daten zu trainieren. Dann entfällt die immer wieder notwendige Übergabe von Texten wie der Prüfungsordnung. Im laufenden Betrieb sind die Kosten also niedriger. Wie kann dies Training erfolgen? Keineswegs ist es so einfach, dass man ein Word-Dokument bei ChatGPT „hochlädt“ und sich wünscht, dass doch bitte dies nun immer verwendet werden soll. Vielmehr ist die Prüfungsordnung satzweise in kleine Einheiten von beispielhaften Frage-Antwort-Paaren zu zerlegen und diese Trainingsdaten werden ChatGPT strukturiert mitgeteilt. Dies Verfahren wird in TraiNex in den nächsten Wochen getestet. Fraglich ist aber bereits jetzt, wie eine veraltete Prüfungsordnung wieder aus dem Datenbestand entfernt werden kann.

Fazit

Algorithmische Intelligenz im Campus-Management-System unterstützt seit vielen Jahren die Studierenden, Lehrkräfte und Verwaltungskräfte bei solchen Problemen, die letztlich auf mathematische oder gut-strukturierte Operationen zurückzuführen sind, wie z.B. Raumbelegungen, Deputatsverteilung, Prüfungsanmeldung oder Evaluation.

Für textorientierte und schlecht-strukturierte oder kreative Probleme hingegen, können generative Sprachmodelle sehr hilfreich sein. Problematisch bei der direkten Nutzung von ChatGPT sind aber neben der Datenschutzproblematik die fehlende Prompt-Medienkompetenz der Nutzer sowie der nicht hochschul-spezifische Datenbestand der KI.Erst die Nutzung der API zur Einbindung der KI-Sprachmodelle in hochschulische Software-Systeme kann zu neuen Lösungen und Services in der Hochschule führen.

Wie gezeigt, ermöglicht die Nutzung der API zum einen die gezielte Ansteuerung der KI mit einem Profi-Prompt, also einem aus erfragten, bekannten und hochschulspezifischen Teilen zusammengesetzten Prompt. Und andererseits kann auch der genutzte Datenbestand durch die API um hochschulspezifische Daten erweitert werden bzw. die Anfrage darauf begrenzt werden. Durch die Einbindung in ein Campus-Management-System wie TraiNex, zu dem alle Akteure einer Hochschule einen webbasierten Zugang haben, entfällt zudem die datenschutzproblematische Registrierung der Nutzer bei ChatGPT.

Trotz aller Vorteile muss immer auch kritisch reflektiert werden, welche rechts¬problematischen Anfragen an ChatGPT es geben kann, wie die Rechtsicherheit der Antworten von ChatGPT zu bewerten ist und ob bzw. wie der Datenschutz (DSGVO) in der API-Kommunikation gewährleistet sein kann. Der Einsatz in Services, wo die Gefahr der Übermittlung personenbezogener Daten gegeben ist, dürfte z.B. nicht rechtskonform sein, da ChatGPT von dem US-amerikanischen OpenAI betrieben wird und zudem der Serverstandort nicht europäisch ist. Selbst die Aufforderung an Studierende, sich bei ChatGPT zu registrieren, dürfte nicht datenschutzkonform sein.

Abschließend ist anzumerken, dass die konkrete Analyse der vorhandenen Funktionen des Campus-Management-Systems TraiNex gezeigt hat, dass nur ca. 20% aller Funktionen für die beschriebene API sinnvoll nutzbar sind, da in 80% der Problembereiche die bereits vorhandene algorithmische Intelligenz dem KI-Sprachmodell überlegen und vor allem rechtssicherer ist. Die Überlegenheit der algorithmischen Intelligenz besteht vor allem darin, dass eine konkrete Frage zu genau einer konkreten Antwort führt und gerade nicht kreativ herangegangen wird an z.B. die Berechnung eines Notenschnittes.

Die KI zerstört also keineswegs disruptiv die im Einsatz befindlichen Campus-Management-Systeme sondern ergänzt deren Funktionen. Diese 20% der verbesserbaren Funktionen können als Begeisterungs-Merkmal im Wettbewerb der Hochschulen aber ausschlaggebend sein. Die KI sollte deshalb vorsichtig und gezielt, nicht übereilt, aber schnell, in die dafür geeigneten Services eingebunden werden, um die Verwaltung zu entlasten, Studium und Lehre zu verbessern und die Hochschule insgesamt auf ein neues Niveau zu heben.

<FINISH/>

Quellen:

Stefan Bieletzke, Kronsbein (2022): Empirische Studie zu hochschulischen
Chatbot- Einsatzmöglichkeiten.  https://www.researchgate.net/publication/368328066_Empirische_Studie_zu_hochschulischen_Chatbot-Einsatzmoglichkeiten

Stefan Bieletzke (2020): Singularität: Point-of-no-Return zur Utopie oder Dystopie? Online hier: https://www.researchgate.net/publication/340102754_Singularitat_Point-of-no-Return_zur_Utopie_oder_Dystopie

Matthias Kindt (2023): Ist “Prompten” nun ein Future Skill? Online hier: https://www.unidigital.news/ist-prompten-nun-ein-future-skill

o.V. (2023): API-Dokumentation von ChatGPT, Abruf am 1.3.2023. https://platform.openai.com/docs/api-reference/introduction

Autor des Beitrages:

Prof. Dr. Stefan Bieletzke
Der Autor ist Professor für neue Medien an der privaten Fachhochschule Mittelstand sowie Geschäftsführer der Trainings-Online GmbH, dem Anbieter des Campus-Management-Systems TraiNex. Das TraiNex ist das 1. Campus-Management-System in Deutschland, welches neben algorithmischer Intelligenz auch KI-Sprachmodelle aktiv in den Studienalltag integriert hat. Der Beitrag wurde im Rahmen des Projektes Erasmus+ „HYBOT – Enhancing hybrid teaching in higher education through chatbots“ der europäischen Union realisiert.