Warum halluzinieren LLMs? | Uni Heidelberg veröffentlicht KI-Richtlinie | Trendmonitor KI in der Bildung 2025 | Emotionale AI Voices im Copilot

Die 111. Edition von KI & Bildung rückt die Halluzinationen von Sprachmodellen in den Fokus, also das Ausgeben von fehlerhaften Antworten, die dann nicht selten sehr selbstsicher präsentiert werden. OpenAI hat dazu ein interessantes Paper veröffentlicht. Nicht nur der (lückenhafte) Trainingsdatensatz kann Halluzinationen fördern, sondern auch der Mensch. Bei menschlichem Feedback an die LLMs und dem Finetuning der Modelle sprechen wir dann gerne vom Reinforcement Learning from Human Feedback (RLHF).

Zum Blogbeitrag von OpenAI

Bewertungssysteme: Die Autoren behaupten, dass die meisten traditionellen Bewertungsmethoden, die zur Feinabstimmung von Sprachmodellen verwendet werden, binäre Bewertungssysteme sind. Diese Systeme belohnen die Modelle dafür, zuversichtlich zu antworten, auch wenn die Antwort falsch ist, anstatt Unsicherheit zuzugeben.

Auch vor diesem Hintergrund kann man durchaus verstehen, warum so einige KI-Forscher generell an solchen LLMs zweifeln und vermehrt Weltmodelle thematisiert werden, die über eine ganz andere „Wahrnehmung“ verfügen sollen als herkömmliche Sprachmodelle wie ChatGPT, Claude & Co. Schlussendlich geht es darum, dass die KI weniger Unsinn generiert.

News aus den Hochschulen & Wissenschaften

KI-Leitlinie der Universität Heidelberg

Die rasante Entwicklung generativer KI-Werkzeuge, wie zum Beispiel großer Sprachmodelle (LLMs), eröffnet neue Möglichkeiten für die Forschung und Lehre weltweit. Gleichzeitig bringt die Integration solcher Technologien erhebliche Risiken mit sich, insbesondere im Hinblick auf die Genauigkeit und Verlässlichkeit von Inhalten.

Uni Jena: Innovative Ideen für die Hochschullehre

Vier Projekte an der Friedrich-Schiller-Universität werden in diesem Jahr mit einem Fellowship für Innovationen in der digitalen Hochschullehre ausgezeichnet. Die von einer Fachjury ausgewählten Projekte ermöglichen es Hochschullehrenden, innovative neue Lehrformate auszuprobieren. Für jedes der Projekte reichen der Stifterverband und das Thüringer Ministerium für Bildung, Wissenschaft und Kultur bis zu 50.000 Euro aus. Die Projekte sind im September gestartet und laufen bis Ende nächsten Jahres.

Alumni der Universität Leipzig entwickeln KI-basierte Plattform TalentNet.AI

TalentNet.AI ist eine KI-basierte Plattform, die Unternehmen dabei unterstützt, Talente effizient zu finden, zu entwickeln und zu binden. Entwickelt wurde sie von Absolvent:innen der Universität Leipzig aus verschiedenen Fachrichtungen und mit unterschiedlichen kulturellen Hintergründen. Sie bündeln ihre Kompetenzen, um gemeinsam in Leipzig zu gründen.

Der KI die Brille der Evolution aufsetzen

Viele Muster kann Künstliche Intelligenz mittlerweile besser erkennen als der Mensch – mit der Erkennung evolutionärer Verwandtschaften tat sie sich aber bisher schwer. Ein Team der Bioinformatik der Ruhr-Universität Bochum um Prof. Dr. Axel Mosig hat ein neuronales Netz genau darauf trainiert. Die KI kann beliebige Daten verschiedener Spezies in evolutionäre Beziehung zueinander setzen und erkennen, welche Merkmale sich wie im Laufe der Evolution entwickelt haben.

Deep Research: Kann KI wissenschaftliche Arbeit automatisieren?

Stellen Sie sich vor, KI könnte nicht nur Antworten auf einfache Fragen liefern, sondern ganze Forschungsarbeiten durchführen – von der Hypothesenbildung bis zum fertigen Bericht, komplett mit Quellenangaben. Diese Vision wird durch Deep Research Realität. Deep Research ist eine Klasse von KI-Systemen, die mehrstufige Forschungsabläufe koordiniert. Diese Systeme können Untersuchungen planen und heterogene Beweise aus zahlreichen Quellen wie Webseiten, PDFs, APIs und Datenbanken sammeln.

AI Buddy: Ein studierendenzentriertes Projekt

Das AI Buddy-Projekt hat zum Ziel, allen Studierenden der UZH einen für die Universität optimierten KI-Assistenten bereitzustellen. Um dies zu erreichen, arbeiten wir von der Gestaltung bis hin zum Nutzertest eng mit Studierenden zusammen.

Roboter Nao als aufmerksamer Erklärer

Wie kann uns ein Roboter sprachlich am besten dabei unterstützen, Aufgaben zu lösen? Dieser Frage sind Forschende des TRR 318 Constructing Explainability der Universitäten Bielefeld und Paderborn nachgegangen. Im Teilprojekt A05 haben sie ein Modell entwickelt, mit dem der Roboter Nao passende verbale Erklärstrategien auswählt, je nachdem, wie sich der Mensch zuvor verhalten hat und in welchem kognitiven Zustand er wahrscheinlich ist.

KI im Hochschulalltag – Routine oder Neuland?

Mehr als 25 Mitarbeitende aus ganz verschiedenen Bereichen der TU Braunschweig kamen im August zum Treffen des Netzwerks Wissenschaftsmanagement ins Media Lab. Das Netzwerk richtet sich an Kolleg*innen, die im sogenannten Wissenschaftsmanagement tätig sind – einer Schnittstelle zwischen Verwaltung und Forschung. Sie nutzen, entwickeln und begleiten Prozesse, koordinieren Projekte und schaffen Strukturen, die Forschung und Lehre unterstützen.

Wenn KI den Tutor ersetzt

Eine bislang vor allem in der Spektroskopie von Nanomaterialien forschende Arbeitsgruppe der Physikalischen Chemie hat dafür jetzt ein Tool entwickelt, das das Thermodynamik-Verständnis moderner LLMs prüft – insbesondere, ob deren Können über bloßes Faktenwissen hinausgeht. Das Werkzeug mit dem Namen UTQA (Undergraduate Thermodynamics Question Answering) ist frei zugänglich und soll Lehrende und Forschende dabei unterstützen, LLMs fair und fachspezifisch zu evaluieren – und Fortschritte messbar zu machen.

Studierende messen der Hochschule weiterhin Bedeutung zu – trotz KI

Für fast 60 Prozent amerikanischer Studentinnen und Studenten haben die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz (KI) keine Auswirkungen auf den Wert ihres Hochschulstudiums, für fast ein Viertel ist die Bedeutung des Studiums dadurch sogar gewachsen. Zu diesem Ergebnis kommt die regelmäßige Umfrage „Student Voice“ der Nachrichten-Plattform Inside Higher Ed.

Deutschlands größte Fachtagung zu KI in der Hochschullehre – „Verantwortungsvoller Einsatz birgt riesige Chancen“

Bei der Learning AID werden unterschiedliche Perspektiven auf Lehren und Lernen mit, durch und über KI ausgetauscht. In nahezu allen Bereichen des Hochschullebens kann KI genutzt werden – beispielsweise zur Auswertung riesiger Text- und Datenmengen, bei der Analyse des Lernerfolges, bei Service-Angeboten der Hochschulen wie der Studienberatung oder bei Vorbereitungen für Prüfungen.

Google Gemini: Kostenloses Pro-Abo für Studierende und Auszubildende

Hol dir das Beste von Gemini 1 Jahr lang kostenlos: Unbegrenzt Chats, Bild-Uploads und individuelle Quizfragen, erweiterter Zugriff auf unser Modell 2.5 Pro, Deep Research und Audio-Zusammenfassungen sowie 2 TB Speicherplatz. Nur für Studierende und Auszubildende. Das Angebot gilt bis zum 3. November 2025.*

Hat KI ein Kommunikationsproblem in Deutschland?

Das Technikradar untersucht, was die Deutschen über Technik denken. Die Gastautoren Martin Bimmer und Thomas Sprenger ordnen die Erkenntnisse ein und erläutern, warum die Wissenschaftskommunikation über KI ein Vertrauensproblem hat.

The new thing on campus: Why universities are appointing their first chief AI officers

Amarda Shehu was happily leading George Mason University’s Institute for Digital Innovation, which promotes research in AI and cybersecurity along with other technologies, when she was approached by the Virginia school’s president to serve as its first-ever chief AI officer (CAIO).

Neues aus dem Schulunterricht

Trendmonitor KI in der Bildung 2025

Mit unserem neuen Trendmonitor KI in der Bildung versuchen wir nun einen Zukunftsblick auf das dynamisch wachsende Feld, in dem sich alle Akteur:innen – Schüler:innen, Lehrkräfte, Schulleitungen, Schulträger, politische Entscheidungsträger – zurechtfinden müssen. Dieser erste Trend monitor bietet ihnen dazu die notwendige Orientierungs-, Bewertungs- und Entscheidungsbasis. Weitere Trendmonitore sollen in den nächsten Jahren folgen.

Deskilling: Wenn die KI den Lernprozess abnimmt

Künstliche Intelligenz nimmt uns Arbeit ab, im Alltag wie im Klassenzimmer. Doch der Preis dafür ist hoch: Schülerinnen und Schüler laufen Gefahr, den eigentlichen Lernprozess zu überspringen und Kompetenzen nicht mehr zu entwickeln. Statt mühsam zu üben, liefert die Maschine sofort ein Ergebnis. Lehrer und Bildungsforscher Florian Nuxoll zeigt in seinem Gastbeitrag für das Schulportal, wie Schule verhindern kann, dass KI zum „Skill-Skipper“ wird, und wie sie stattdessen als Lernpartner genutzt werden kann.

Neues Pflichtfach „Informatik und Medienbildung“: Schule in BW endlich fit für die digitale Welt?

Klar ist: Die Herausforderung, denen das neue Fach begegnen soll, sind zahlreich. Die Fragen nach dem altersgerechten Umgang mit Smartphones, mit KI-Assistenten wie Chat-GPT oder eine mögliche Altersbeschränkung für Soziale Netzwerke werden nicht nur, aber auch an den Schulen im Land verhandelt.

Glaubenskrieg um Künstliche Intelligenz im Unterricht: Verbannen – oder Pflicht?

Die Bildungsdebatte bekommt ein neues Streitthema: der Einsatz von Künstlicher Intelligenz in der Schule. Während der Augsburger Schulpädagoge Prof. Klaus Zierer vor einem „Digitalisierungswahn“ warnt und ChatGPT am liebsten ganz aus den Klassenzimmern verbannen würde, fordern Digital-Experten wie Sascha Lobo das Gegenteil – eine schnelle KI-Pflicht sogar schon in der Grundschule.

Bundesschülerkonferenz beklagt veraltete Lehrpläne

Der Generalsekretär der Bundesschülerkonferenz, Quentin Gärtner, hat mit Blick auf das neue Schuljahr veraltete Lehrpläne kritisiert. Schülerinnen und Schüler bräuchten Lehrpläne, »die sich an den Bedürfnissen der Schüler orientieren und nicht einfach Bulimie-Lernen verordnen«, sagte er dem Redaktionsnetzwerk Deutschland.

Schul-Pilotprojekt: Lehrer unterrichten mit KI

Die erste Schulwoche ist vorbei, bevor steht ein Schuljahr mit dem Schwerpunkt Künstliche Intelligenz. 22 Schulen nehmen in Niederösterreich am KI-Pilotprojekt teil. In einer Schule in Waidhofen an der Thaya nutzt man die KI etwa im Englisch- und Informatik-Unterricht.

KI im Unterricht: Hagener Hauptschule testet „Kürzungs-Kevin“

Die Hagener Geschwister-Scholl-Schule ist eine von 25 weiterführenden Schulen, die am NRW-weiten Pilotprojekt KIMADU (Künstliche Intelligenz im Mathematik- und Deutschunterricht) teilnehmen. Das Schulministerium fördert diese Arbeit der Universität Siegen mit einer Million Euro.

Kompetenzmodelle für den KI-gestützten Lernprozess Eine Analyse für die Schulpraxis

Die rasante Entwicklung und breite Verfügbarkeit von Künstlicher Intelligenz (KI), insbesondere generativer Modelle, stellen eine disruptive Kraft im Bildungswesen dar. Diese Technologien fordern traditionelle Methoden der Wissensvermittlung, des Lernens und der Leistungsbewertung fundamental heraus. Vor diesem Hintergrund wird die Entwicklung von KI-Kompetenz bei Schülerinnen und Schülern zu einer zentralen Bildungsaufgabe.

Schulpädagoge will KI aus den Klassenzimmern verbannen

Der deutsche Bildungsforscher Klaus Zierer warnt vor dem Einsatz von KI in den Schulen und verweist dabei auf eine neue Studie des Massachusetts Institute of Technology in den USA, wonach das Gehirn bei zu viel KI-Nutzung verkümmere. „ChatGPT & Co. haben in der Schule keinen Platz“, sagt der Ordinarius für Schulpädagogik der Universität Augsburg. Das Ziel von Schule sei, dass der Mensch das Denken lerne und sich bilde.

Tool & more

Guide: Bilder mit Gemini generieren (auch als Nano Banana bezeichnet)

Gemini kann Bilder im Rahmen von Unterhaltungen generieren und verarbeiten. Sie können Gemini mit Text, Bildern oder einer Kombination aus beidem auffordern, um Bilder mit beispielloser Kontrolle zu erstellen, zu bearbeiten und zu optimieren:

Neues OpenAI-Tool macht schlechte Prompts zu guten – und erklärt dir auch noch, warum

OpenAI hat einen Prompt Optimizer im Kontext des neuen Supermodels GPT-5 bereitgestellt. Dieser verbessert deine Prompts nicht nur, sondern zeigt in Erklärungen im Kommentar, warum die neue Version besser ist – so kannst du es später selbst besser machen und Prompt-Profi werden.

Word, Powerpoint, Excel und PDF: Anthropic erweitert Claude um Datei-Bearbeitung

Nutzer:innen können ab sofort direkt in der Web- und Desktop-App Dateien wie Excel-Tabellen, Word-Dokumente, PowerPoint-Präsentationen und PDFs erstellen sowie hochladne und bearbeiten lassen. Die Funktion steht vorerst im Rahmen einer Vorschau für Max-, Team- und Enterprise-Kund:innen zur Verfügung.

Ernüchterung statt Euphorie: KI-Nutzung in den USA geht zurück

Trotz Investitionen in Milliardenhöhe scheint die Einführung von KI in den USA erstmals zu stagnieren. Neue Zahlen zeigen: Der große Hype bringt bisher kaum Einnahmen – und die Risiken nehmen zu.

ASML wird größter Anteilseigner von Mistral AI

Der niederländische Chiphersteller ASML investiert 1,3 Milliarden Euro in das französische KI-Start-up Mistral AI. Die Finanzierung soll Europas technologische Souveränität stärken – und bringt Mistral eine Bewertung von fast zwölf Milliarden Dollar.

Deutsches Startup kombiniert KI-Modelle: Lassen sich so Halluzinationen reduzieren?

KI-Modelle machen Fehler: Halluzinationen sind ein bekanntes Problem bei Chatbots wie ChatGPT oder Claude. Das Karlsruher Unternehmen Embraceable AI will sie mit seiner Technologie deutlich reduzieren. Was steckt dahinter?

AGI, Token, Weltmodell: Was hinter den KI‑Begriffen steckt

Mittlerweile hat die Diskussion um generative KI nahezu alle Bereiche unserer Gesellschaft erreicht. Und damit wird es auch immer wichtiger, die dazugehörigen Begriffe zu verstehen, um diese Diskussion zu verstehen und auch mitreden zu können. In unserem Glossar tragen wir relevante Fachbegriffe und Konzepte zusammen und erklären sie kurz und knapp.

NotebookLM & Linkedin: Posts mit der Videoübersicht analysieren

NotebookLM ist ein nützliches Tool von Google, das sinnvolle Features wie z.B. die KI-Podcats im Rahmen der Audio Overview und auch eine Videoübersicht mit der Bezeichnung „Video Overview“ allen Usern kostenfrei zur Verfügung stellt. Wieso nicht LinkedIn-Beiträge mit Gemini in NotebookLM analysieren lassen? Unten ist ein beispielhafter Post dargestellt.

Anthropic zahlt Buchautoren 1,5 Milliarden US-Dollar Abfindung

Die KI-Firma Anthropic einigt sich in einem historischen Vergleich mit US-Autoren und Verlagen auf eine Entschädigung für die Nutzung raubkopierter Bücher. Der Fall könnte die Regeln für KI-Training mit urheberrechtlich geschützten Inhalten verändern.

Berliner KI-Firma N8n ist 2,4 Milliarden US-Dollar wert

Das Berliner KI-Start-up N8n ist achtmal mehr wert als noch im März 2025. Die von Investoren stark umworbene Firma sammelt laut Insidern in einer neuen Finanzierungsrunde einen niedrigen dreistelligen Millionenbetrag ein, berichtete das Handelsblatt. N8n werde jetzt mit knapp 2,4 Milliarden US-Dollar bewertet, sagten mehrere mit den Verhandlungen vertraute Personen.

The AI Use Case Platform is Europe’s largest openly accessible source of curated high-quality AI use cases

The AI Use Case Platform is openly accessible for everyone and completely free of charge. Beyond browsing the AI use cases, users can apply filters and mark their favorites to personalize their experience on the platform. Following a free registration, users can create and manage their AI use cases under the „My AI Use Cases“ tab.

KI und Klimawandel: Treibhausgasemissionen besser erfassen

Große Unternehmen in der EU sind gesetzlich verpflichtet, ihre Treibhausgasemissionen zu erfassen. Diese Informationen per Hand aus langen PDF-Nachhaltigkeitsberichten zu extrahieren, ist jedoch zeitaufwendig und fehleranfällig. Viele Teams versuchen, diesen Prozess durch Automatisierung zu beschleunigen – beispielsweise durch den Einsatz von Large Language Models (LLMs), KI-Systemen, die Texte lesen und Antworten generieren.

Hier sehen wir den Split-Screen bei Claude, nachdem ich folgenden Prompt eingegeben habe

Prompt: ***nun wandle dies in ein PDF um***

Aus einem einfachen Chat wird dann ein geteilter Bildschirm, wie wir dies von den Claude Artefakten kennen und oben rechts könnt ihr dann auf den Pfeil bei „Kopieren“ klicken und im Anschluss den gesamten Text als PDF herunterladen. Sehr praktisch.

Zu Claude

Inspiriert vom KI-Policy-Generator der Uni Bamberg hat Andreas Sexauer vom KIT nun eine Lösung entwickelt, die sich komplett lokal im Browser bearbeiten und erweitern lässt, auch mit dem Hinzufügen von Spalten etc und einer Live-Vorschau. Gefällt mir! Gerne kurz testen und ein passendes Formular erstellen.

Zum Download-Link (startet automatisch)

Nano Banana: Googles neues Bildmodell überzeugt bei der Bildbearbeitung

Da Googles neues Bildmodell „Nano Banana“ dermaßen gut ankommt und mich ebenfalls in Qualität, Schnelligkeit und dem einfachen Handling überzeugt, gibt es hier einen Beitrag zur Image-KI. Insbesondere die nachträgliche Bildbearbeitung simpel per Prompt ist unglaublich stark und alles sehr gut kostenfrei nutzbar.

Viele Grüße aus Braunschweig 🤖

Matthias