KI Lexikon.

ABAC

ABAC steht für Attribute Based Access Control. Zugriffsentscheidungen werden dabei anhand von Eigenschaften beziehungsweise Attributen von Benutzer, Ressource, Kontext oder Anfrage getroffen.

Air-Gapped System

Ein Air-Gapped System ist eine IT-Umgebung, die bewusst von nicht benötigten externen Netzwerken getrennt wird. Für KI kann das bedeuten, dass Modell, Daten und Anwendung vollständig innerhalb einer abgeschotteten Umgebung betrieben werden.

API

Eine API ist eine technische Schnittstelle, über die Software kontrolliert mit einem anderen System kommunizieren kann. Bei Unternehmens-KI werden APIs häufig verwendet, um Modelle, Datenquellen oder Geschäftsanwendungen miteinander zu verbinden.

Audit Log

Ein Audit Log ist ein Protokoll, das relevante sicherheits- oder betriebsbezogene Vorgänge eines Systems nachvollziehbar festhält.

Auditierbarkeit

Auditierbarkeit bezeichnet die Möglichkeit, relevante Vorgänge eines Systems nachvollziehbar zu prüfen. Bei KI kann das unter anderem Zugriffe, Konfigurationen, Quellen und Aktionen betreffen.

Batch Inference

Batch Inference bezeichnet die Verarbeitung vieler Eingaben gesammelt statt einzeln in Echtzeit. Das kann bei wiederkehrenden Aufgaben effizienter sein.

Chunking

Chunking bezeichnet das Aufteilen längerer Dokumente oder Texte in kleinere Abschnitte, die von einer Such- oder KI-Anwendung verarbeitet werden können.

Context Caching

Context Caching bezeichnet die Wiederverwendung bereits verarbeiteter Kontextinformationen, um wiederkehrende Anfragen effizienter zu bearbeiten.

Data Leakage

Data Leakage bezeichnet das unbeabsichtigte Offenlegen vertraulicher Daten. Bei KI kann dies unter anderem durch falsche Berechtigungen, Prompts, Protokolle, Integrationen oder fehlerhafte Datenaufbereitung entstehen.

Data Loss Prevention

Data Loss Prevention (DLP) umfasst technische Maßnahmen, mit denen das unbeabsichtigte Abfließen sensibler Informationen verhindert oder erkannt werden soll.

Dokumentenpipeline

Eine Dokumentenpipeline beschreibt die Verarbeitungskette, mit der Unternehmensdokumente für eine KI aufbereitet werden. Dazu können Erfassung, Texterkennung, Bereinigung, Aufteilung, Metadaten, Indexierung und Aktualisierung gehören.

Embeddings

Embeddings sind numerische Repräsentationen von Inhalten. Texte werden so abgebildet, dass semantisch ähnliche Inhalte mathematisch vergleichbar werden.

Fine-Tuning

Fine-Tuning bezeichnet das gezielte Weitertrainieren eines bereits bestehenden Modells mit zusätzlichen Daten, um dessen Verhalten an eine bestimmte Aufgabe oder Domäne anzupassen.

GPU

Eine GPU ist ein Prozessor, der viele Rechenoperationen parallel ausführen kann. Bei der lokalen KI-Ausführung wird sie häufig genutzt, um die Berechnung von Modellanfragen zu beschleunigen.

Guardrails

Guardrails sind technische oder organisatorische Regeln, die festlegen, was eine KI antworten oder ausführen darf. Sie bilden eine zusätzliche Kontrollschicht zwischen Modell und Anwendung.

Halluzination

Eine Halluzination ist eine KI-Antwort, die überzeugend formuliert sein kann, obwohl die enthaltene Aussage nicht ausreichend durch die verfügbaren Informationen gedeckt ist.

Inference

Inference bezeichnet die Ausführung eines trainierten KI-Modells, um aus einer Eingabe eine Ausgabe zu erzeugen.

KI-Agent

Ein KI-Agent ist eine Anwendung, die ein Modell mit Werkzeugen, Regeln und einem Ablauf kombiniert, sodass die KI nicht nur antwortet, sondern Aufgaben in mehreren Schritten bearbeiten kann.

KI-Infrastruktur

KI-Infrastruktur umfasst die technischen Komponenten, die für den Betrieb einer KI-Lösung nötig sind. Dazu gehören Hardware, Modelle, Speicher, Netzwerk, Datenquellen, Zugriffsrechte, Monitoring, Updates und Backup.

KI-Modell

Ein KI-Modell ist ein trainiertes Rechenmodell, das aus Eingaben bestimmte Ausgaben erzeugen kann. Bei generativer KI kann es beispielsweise Texte, strukturierte Antworten oder andere Inhalte erzeugen.

KI-Server

Ein KI-Server ist ein Computersystem, das für KI-Anwendungen ausgelegt ist. Je nach Modell und Anwendung sind leistungsfähige Prozessoren, Grafikkarten, Arbeitsspeicher und geeignete Speicherlösungen relevant.

KI-Wissensdatenbank

Eine KI-Wissensdatenbank ist eine strukturierte Wissensbasis, die einer KI-Anwendung Informationen aus definierten Quellen zugänglich macht. Das können Handbücher, Richtlinien, technische Dokumentationen oder andere Unternehmensinhalte sein.

Knowledge Graph

Ein Knowledge Graph ist eine strukturierte Darstellung von Informationen als miteinander verbundene Entitäten und Beziehungen.

Kontextfenster

Das Kontextfenster beschreibt, wie viel Eingabe- und Kontextinformation ein Modell bei einer Anfrage berücksichtigen kann.

Latenz

Latenz bezeichnet die Zeit zwischen einer Anfrage und der Antwort beziehungsweise dem ersten sichtbaren Ergebnis. Bei einer Unternehmens-KI ist sie ein wichtiger Bestandteil der Nutzererfahrung.

LLM

LLM steht für Large Language Model. Dabei handelt es sich um ein KI-Modell, das auf die Verarbeitung und Erzeugung von Sprache spezialisiert ist.

LLM-Inferenz

LLM-Inferenz bezeichnet die Ausführung eines Large Language Models, um aus einem Eingabetext eine Antwort zu berechnen.

MCP

MCP steht für Model Context Protocol. Es beschreibt eine standardisierte Art, wie KI-Anwendungen Kontext und Werkzeuge von externen Systemen anbinden können.

Metadaten

Metadaten sind Informationen über Daten. Bei einer KI-Wissensdatenbank können sie beispielsweise Dokumenttyp, Version, Abteilung, Gültigkeit oder Zugriffsbereich beschreiben.

Model Router

Ein Model Router entscheidet, welches KI-Modell eine konkrete Anfrage bearbeiten soll. Damit können Unternehmen unterschiedliche Modelle nach Aufgabe, Kosten, Geschwindigkeit oder Datenschutzanforderung einsetzen.

Model Serving

Model Serving bezeichnet die technische Bereitstellung eines KI-Modells, sodass Anwendungen oder Nutzer Anfragen an das Modell senden können.

Modellrouting

Modellrouting bezeichnet die Auswahl eines passenden KI-Modells für eine konkrete Anfrage oder Aufgabe.

Observability

Observability beschreibt die Fähigkeit, den Zustand und das Verhalten eines Systems anhand von Messdaten nachvollziehen zu können. Dazu gehören beispielsweise Logs, Metriken und Traces.

OCR

OCR steht für Optical Character Recognition und bezeichnet die automatische Erkennung von Text in Bildern oder gescannten Dokumenten.

On-Premise-KI

On-Premise-KI bezeichnet den KI-Betrieb in der eigenen technischen Umgebung eines Unternehmens. Hardware, Modelle und weitere Komponenten laufen dabei innerhalb der vorgesehenen Unternehmensinfrastruktur.

Open-Source-KI

Open-Source-KI bezeichnet KI-Software oder Projekte, deren Quellcode unter einer offenen Lizenz zugänglich ist. Bei Modellen muss zusätzlich unterschieden werden, ob tatsächlich alle relevanten Bestandteile offen sind.

Open-Weight-Modell

Ein Open-Weight-Modell stellt seine trainierten Modellgewichte so bereit, dass es grundsätzlich auch außerhalb einer zentralen Anbieterplattform ausgeführt werden kann. Die konkrete Nutzung hängt von den Lizenzbedingungen und der technischen Umgebung ab.

Private AI

Private AI beschreibt KI-Anwendungen, bei denen ein Unternehmen besonderen Wert auf Kontrolle über Daten, Infrastruktur und Zugriff legt.

Prompt

Ein Prompt ist die Eingabe, mit der eine KI-Anwendung eine Aufgabe oder Frage beschreibt. Er kann aus einer einfachen Frage oder aus strukturierten Anweisungen, Kontext und Daten bestehen.

Prompt Injection

Prompt Injection bezeichnet den Versuch, eine KI durch speziell formulierte Eingaben oder Inhalte dazu zu bringen, bestehende Anweisungen zu ignorieren oder unerwünschte Handlungen auszuführen.

Quantisierung

Quantisierung reduziert die numerische Präzision von Modellparametern, um Speicherbedarf und Rechenaufwand zu senken. Für lokale KI kann das ermöglichen, ein Modell mit begrenztem VRAM effizienter zu betreiben.

RAG

RAG steht für Retrieval Augmented Generation. Ein System ruft zu einer Anfrage relevante Informationen aus definierten Wissensquellen ab und stellt sie dem KI-Modell für die Antwort zur Verfügung.

Reranking

Reranking ist ein zusätzlicher Suchschritt, bei dem bereits gefundene Dokumentabschnitte erneut bewertet und in eine passendere Reihenfolge gebracht werden.

Retrieval

Retrieval bezeichnet das gezielte Abrufen relevanter Informationen aus einer Datenquelle. In RAG-Systemen ist Retrieval der Schritt, der passenden Kontext für die anschließende Modellantwort bereitstellt.

Role Based Access Control

Role Based Access Control (RBAC) ist ein Berechtigungsmodell, bei dem Zugriffe über Rollen gesteuert werden.

Secrets Management

Secrets Management bezeichnet den sicheren Umgang mit vertraulichen technischen Zugangsdaten wie API-Schlüsseln, Passwörtern oder Service-Credentials.

Self Hosting

Self Hosting bedeutet, Software oder einen Dienst auf eigener oder selbst kontrollierter Infrastruktur zu betreiben, statt ihn vollständig als externen Dienst zu nutzen.

Self-hosted AI

Self-hosted AI bedeutet, dass ein Unternehmen die KI-Software selbst oder in einer von ihm kontrollierten Umgebung betreibt.

System Prompt

Ein System Prompt enthält grundlegende Anweisungen, nach denen ein KI-Modell in einer Anwendung arbeiten soll. Er kann Verhalten, Format, Grenzen oder Aufgaben definieren.

Throughput

Throughput beschreibt, wie viel Arbeit ein System in einer bestimmten Zeit verarbeiten kann. Bei KI kann damit beispielsweise die Zahl verarbeiteter Anfragen oder Tokens pro Zeitspanne gemeint sein.

Token

Tokens sind Verarbeitungseinheiten, in die Text für ein Sprachmodell aufgeteilt wird. Die Anzahl der Tokens beeinflusst unter anderem Kontextumfang, Rechenaufwand und Kosten bei tokenbasierten Diensten.

Tool Calling

Tool Calling bezeichnet die Fähigkeit einer KI-Anwendung, strukturierte Aufrufe an externe Funktionen oder Systeme auszulösen.

Vektordatenbank

Eine Vektordatenbank speichert Datenrepräsentationen, die für semantische Ähnlichkeitssuchen verwendet werden können.

VRAM

VRAM ist der Grafikspeicher einer GPU. Bei der lokalen Ausführung von KI-Modellen ist er wichtig, weil Modellgewichte und weitere Daten in den verfügbaren Speicher passen müssen.

Zero Trust

Zero Trust ist ein Sicherheitsprinzip, bei dem Zugriffe nicht allein deshalb als vertrauenswürdig gelten, weil ein Nutzer oder System bereits im internen Netzwerk befindet.