UroBot: DKFZ und Uni Mannheim entwickeln Chatbot, der normale LLMs und Fachärzte übertrifft

Zuverlässigere Ergebnisse durch RAG-Methode mit Dateiupload 

Um die Outputs des Chatbots zu optimieren, wurde die mittlerweile bei sehr vielen KI-Prozessen eingesetzte Methode Retrieval Augmented Generation (RAG) verwendet, um einem geschlossenen und fertig trainierten Sprachmodell wie GPT-4o von außen Dateien wie PDFs zugänglich zu machen, damit diese dann analysiert werden können. In diesem Fall die Leitfäden der European Association of Urology (EAU). Die Dateiuploads dienen dem UroBot als vorrangige Wissensgrundlage und eben nicht die allgemeinen Trainingsdaten des Chatbots. Der UroBot bezieht sich also mithilfe eines LLMs wie GPT-4o gezielt auf diese Dateien und gibt dann nach einem Prompt auf dieser Basis die Antworten aus. Die obere Abbildung zeigt die Umsetzung RAG-Methode und die Vorgehensweise bezüglich der Benchmarks, denn die auf den Fachbereich der Urologie spezialisierte KI-Anwendung des DKFZ & der Uni Mannheim liefert bessere Resultate als GPT-3.5, GPT-4 und GPT-4o, siehe dazu “UroBot versus GPT“.

Unangenehme Unterhaltung? Nicht mit dem UroBot!

Nicht wenigen Betroffenen ist es eher unangenehm, mit einer anderen Person über Krankheiten rund um den Themenbereich der Urologie zu sprechen, denn diese beschäftigt sich mit den harnbildenden und harnableitenden Organen. Mit einem Chatbot darüber zu kommunizieren und so schon im Vorfeld vorbeugend potenzielle Krankheiten erkenntlich zu machen und vom UroBot die klare Anweisung zu bekommen, einen Urologen aufzusuchen, wäre eine wirklich elegante Lösung, wie ich finde. Die obere Abbildung zeigt das Interface solch einer künstlichen Intelligenz. Es ist recht einfach aufgebaut, mit einer Promptleiste und vorgeschlagenen Fragen, also sehr simpel zu bedienen, ob nun für jüngere oder ältere Personen.

Der nächste Screenshot zeigt die Oberfläche von GitHub, denn dort steht die Anwendung jedem User kostenfrei zum Download zur Verfügung. Der Bot muss nur noch über eine OpenAI API angeschlossen werden und dann kann der “Uro-Chat” beginnen. Natürlich sollte erwähnt werden, dass alle Prompts (anonymisiert) nach San Francisco hin zu den Servern der KI-Firma OpenAI übertragen und als Antwort dann wieder nach Deutschland zurückgesendet werden. Unter “Ressources” lässt sich auch die Wissensbasis einsehen und zwar, wie schon beschrieben, u.a. die offiziellen Leitfäden der European Association of Urology.

UroBot im erklärenden PDF

Autor des Beitrags auf Linkedin

Matthias Kindt auf Linkedin