Halluzination
Eine Halluzination ist eine KI-Antwort, die überzeugend formuliert sein kann, obwohl die enthaltene Aussage nicht ausreichend durch die verfügbaren Informationen gedeckt ist.
Einfach erklärt
Bei generativen Modellen ist sprachliche Plausibilität nicht dasselbe wie faktische Richtigkeit. Eine Unternehmens-KI kann deshalb auch dann eine falsche Aussage erzeugen, wenn die Formulierung selbst sicher wirkt. Das Problem wird kleiner, wenn Quellen, Datenzugriff und Bewertungsregeln sinnvoll gestaltet sind, aber es verschwindet nicht automatisch.
Bedeutung für Unternehmen
Für Unternehmen sollte deshalb festgelegt werden, wann eine Antwort als ausreichend gilt und wann eine Quelle, ein Unsicherheitshinweis oder eine menschliche Prüfung notwendig ist. Besonders bei sensiblen Entscheidungen darf die KI nicht einfach als alleinige Autorität behandelt werden.
Verwandte Begriffe: RAG · Retrieval · System Prompt
Noch Fragen? Sprechen Sie mit jemandem, der das System baut.
Kein Vertriebsskript. Innerhalb von zwei Werktagen meldet sich Ihr Ansprechpartner aus dem Engineering-Team, per E-Mail oder telefonisch.