Künstliche Intelligenz verstehen: Grundlagen, Grenzen und sichere Praxis

Künstliche Intelligenz ist im Alltag angekommen: in Suchmaschinen, Schreibhilfen, Übersetzern und am Arbeitsplatz. Wer KI sinnvoll nutzen will, muss nicht programmieren können – aber verstehen, was ein KI-System tatsächlich tut, wo seine Grenzen liegen und wie man Ergebnisse prüft. Dieser Ratgeber fasst die wichtigsten Grundlagen aus dem kuratierten Alexandria-Lernpfad zusammen.

Was ist eigentlich ein KI-System?

„KI“ ist ein Sammelbegriff. Der EU AI Act beschreibt ein KI-System als maschinenbasiertes System, das mit unterschiedlicher Autonomie arbeitet, nach dem Einsatz anpassungsfähig sein kann und aus Eingaben Ausgaben ableitet, die Umgebungen beeinflussen. Diese rechtliche Definition gilt im Kontext des AI Act; andere Fachgebiete definieren enger oder weiter.

Für den Alltag hilfreicher ist eine nüchterne Beschreibung des konkreten Einsatzes. Das KI-Risikomanagement-Rahmenwerk des US-Standardinstituts NIST empfiehlt, Zweck, Eingaben, Ausgaben, betroffene Personen und Einsatzkontext zu benennen – statt einem System pauschal menschliches Denken zuzuschreiben. Frag also bei jedem Werkzeug:

• Was gebe ich hinein – und was kommt heraus?
• Wer entscheidet am Ende, und wer ist von der Wirkung betroffen?
• In welchem Kontext soll das System eingesetzt werden?

Wie KI aus Daten lernt – und warum Tests zählen

Maschinelles Lernen optimiert die Parameter eines Modells anhand von Daten und einem festgelegten Ziel. Welche Muster das Modell dabei nutzt, hängt von Daten, Ziel und Modellannahmen ab. Deshalb wird ein Modell auf Daten bewertet, die vom Training getrennt sind. Eine solche Bewertung zeigt, ob ein Modell verallgemeinert – sie ersetzt aber keine Prüfung unter realen Einsatzbedingungen.

Wichtig ist auch die Unterscheidung zwischen Training und Inferenz: Beim Training werden die Modellparameter über viele Beispiele optimiert; bei der Inferenz erzeugt das fertige Modell aus deiner konkreten Eingabe eine Ausgabe. Zusätzlicher Kontext in einer einzelnen Anfrage kann die aktuelle Antwort verändern, ohne das Grundmodell dauerhaft zu aktualisieren. Ob ein Dienst deine Eingaben speichert oder später für Produktverbesserungen nutzt, hängt von seinen jeweiligen Einstellungen ab.

Auch die Frage „Kann KI das?“ lässt sich nur aufgabenbezogen beantworten. Eine KI-Fähigkeit sollte im vorgesehenen Kontext mit klaren Aufgaben, Messgrößen und betroffenen Gruppen bewertet werden. Benchmark-Ergebnisse lassen sich nur begrenzt übertragen, wenn Daten, Sprache, Werkzeuge oder Arbeitsablauf vom realen Einsatz abweichen.

Wie Sprachmodelle Text erzeugen

Moderne Sprachmodelle beruhen auf der Transformer-Architektur. Deren Aufmerksamkeitsmechanismus berechnet Beziehungen zwischen Bestandteilen einer Sequenz. Diese Rechengewichte sind Teil einer Berechnung – aus ihnen folgt weder, dass eine Aussage wahr ist, noch dass das System Bedeutung wie ein Mensch versteht.

Generative Sprachmodelle erzeugen Text schrittweise, indem sie Wahrscheinlichkeiten für die nächsten Textbausteine (Tokens) aus dem bisherigen Kontext berechnen. Daraus folgt die wichtigste Regel im Umgang mit KI: Eine flüssige und selbstsichere Formulierung ist kein verlässlicher Hinweis auf Richtigkeit.

Viele Systeme kombinieren das Sprachmodell mit weiteren Bausteinen:

• Multimodale Systeme verarbeiten Text, Bild, Audio oder Video. Jede Modalität und jede Übersetzung zwischen ihnen kann eigene Fehler einbringen.
• Retrieval-Augmented Generation (RAG) ruft externe Dokumente ab und stützt die Antwort auf diesen zusätzlichen Quellenkontext.
• Agenten verbinden Modellschlussfolgerungen mit Aktionen und Werkzeugaufrufen. Dadurch müssen Abrufqualität, Berechtigungen, Aktionsfolgen und Freigaben getrennt kontrolliert werden.

Erfundene Fakten und Quellen erkennen

Generative KI kann selbstsicher falsche oder widersprüchliche Inhalte erzeugen; NIST nennt dieses Risiko Konfabulation. Sie kann sogar Zitate oder Quellenangaben erzeugen, die es nicht gibt. Prüfe deshalb getrennt:

1. Existiert der Link beziehungsweise das Dokument wirklich?
2. Stützt die Quelle genau die behauptete Aussage – mit demselben Geltungsbereich?
3. Ist die Quelle aktuell, und gibt es eine unabhängige Bestätigung oder einen Gegenbeleg?

Vorsicht auch bei vermeintlichen Sicherheitsangaben: Sprachliche Sicherheit einer Antwort ist kein standardisierter Konfidenzwert. Selbst echte Wahrscheinlichkeitswerte von Modellen sind nur aussagekräftig, wenn sie kalibriert sind – moderne neuronale Netze können fehlkalibriert sein. Wer KI-Qualität ernsthaft prüfen will, braucht einen kleinen Evaluationsplan mit Baseline, Testfällen, Metriken, relevanten Fehlerarten und betroffenen Gruppen.

Gute Aufträge, Prompts und Tests

Vor jedem KI-Einsatz lohnt es sich, Zweck, Kontext und Anforderungen zu klären und prüfbare Erfolgskriterien festzulegen: Welche Ausgaben sind akzeptabel, welche Fehler oder Folgen nicht?

Ein guter Prompt trennt Arbeitsauftrag, bereitgestellten Kontext, Einschränkungen und gewünschtes Ausgabeformat. So bleiben Annahmen und Ergebnisse prüfbar. Verbessere Prompts nicht anhand einzelner Glückstreffer, sondern mit festen, repräsentativen und schwierigen Testfällen. Nach Änderungen an Modell, Prompt, Daten oder Werkzeugen zeigen Regressionstests, ob bisherige Anforderungen weiterhin erfüllt sind.

Eine besondere Gefahr ist Prompt Injection: Übernommene Inhalte – etwa eine Webseite oder eine E-Mail – können Anweisungen enthalten, die mit deinem Auftrag konkurrieren. Das BSI warnt vor indirekter Prompt Injection, bei der manipulative Anweisungen über verarbeitete externe Inhalte das Verhalten oder die Werkzeugnutzung eines Systems beeinflussen. Behandle fremde Inhalte deshalb als Daten, nicht als Befehle. Trennung von Anweisungen und Daten, minimale Berechtigungen, Protokollierung und Freigaben vor folgenreichen Aktionen begrenzen das Risiko; keine einzelne Maßnahme verhindert alle Angriffe.

Daten schützen

Die DSGVO verlangt unter anderem Zweckbindung und Datenminimierung: Personenbezogene Daten dürfen nur für festgelegte Zwecke und im notwendigen Umfang verarbeitet werden. Das Eingeben solcher Daten in einen KI-Dienst ist eine Verarbeitung – Zweck, Rechtsgrundlage, Transparenz und Sicherheit sind im konkreten Kontext zu prüfen.

Zwei häufige Missverständnisse:

• Pseudonymisiert ist nicht anonym. Pseudonymisierte Daten bleiben personenbezogen, wenn sie mit Zusatzinformationen wieder einer Person zugeordnet werden können.
• Ein Modell ist nicht automatisch anonym. Der Europäische Datenschutzausschuss bewertet die Anonymität eines KI-Modells fallbezogen; es muss begründet werden, dass Trainingsdaten nicht mit vertretbaren Mitteln extrahiert werden können.

Für vertrauliche Daten gilt: Zugriffsrechte, Protokollierung, Aufbewahrung und Löschung sollten für KI-Systeme und angebundene Datenquellen ausdrücklich festgelegt und regelmäßig überprüft werden.

Bias, Herkunft von Medien und Empfehlungen

KI-Bias entsteht nicht nur durch unausgewogene Trainingsdaten. NIST unterscheidet systemische, rechnerisch-statistische und menschlich-kognitive Quellen. Prüfungen sollten deshalb Nutzungskontext, betroffene Gruppen, Messentscheidungen, Fehlertypen und institutionelle Prozesse einbeziehen.

Bei Bildern und Videos helfen Herkunftsnachweise: C2PA-Content-Credentials können signierte Informationen zu Herkunft und Bearbeitung transportieren – ein gültiger Nachweis belegt aber die dokumentierte Metadatenkette, nicht die Wahrheit des Inhalts. Artikel 50 des AI Act enthält Transparenzpflichten für bestimmte KI-generierte oder manipulierte Inhalte wie Deepfakes.

Auch dein Feed ist kein neutraler Ausschnitt der Welt: Empfehlungssysteme ordnen Inhalte nach festgelegten Zielen und Signalen. Der Digital Services Act verpflichtet Online-Plattformen, die Hauptparameter ihrer Empfehlungssysteme verständlich zu erläutern. Und beim Energiebedarf gilt: Eine universelle Energiezahl pro KI-Anfrage ist ohne Angaben zu Modell, Aufgabe, Hardware und Systemgrenze nicht belastbar.

KI im Beruf: Arbeit, Rechte und Aufsicht

Ein Index der Internationalen Arbeitsorganisation von 2025 schätzt, dass weltweit etwa jede vierte beschäftigte Person in einem Beruf mit gewisser Exposition gegenüber generativer KI arbeitet – wahrscheinlicher ist die Veränderung von Tätigkeiten als der vollständige Ersatz ganzer Berufe. Aussagekräftiger als ein Berufsetikett ist deshalb eine Analyse der einzelnen Aufgaben.

Rechtlich ist vieles kontextabhängig. § 44b des Urheberrechtsgesetzes erlaubt Text und Data Mining unter Voraussetzungen bei rechtmäßig zugänglichen Werken; Rechteinhaber können Nutzungen außerhalb der Forschung vorbehalten. Eine Rechteprüfung betrachtet Eingabematerial, Verarbeitung, Dienstbedingungen und die beabsichtigte Nutzung der Ausgabe getrennt.

Der AI Act ordnet Pflichten nach verbotenen Praktiken, Hochrisiko-Systemen, Transparenzfällen und Regeln für Allzweck-KI sowie nach den Rollen der Akteure. Für Hochrisiko-KI verlangt Artikel 14 wirksame menschliche Aufsicht – mit Kompetenz, Befugnissen und der Möglichkeit, Ausgaben zu überstimmen oder das System zu stoppen. Menschliche Beteiligung allein garantiert keine Kontrolle: Zeitdruck, Informationsmangel oder Automationsbias können Aufsicht zum bloßen Abnicken machen. Teile des Zeitplans wurden laut EU-Kommission (Stand 30.08.2026) angepasst; zeitabhängige Pflichten müssen gegen den aktuellen offiziellen Stand geprüft werden. Dieser Ratgeber ist keine Rechtsberatung.

Checkliste für den Alltag

• Beschreibe Zweck, Eingaben, Ausgaben und Betroffene, bevor du ein KI-Werkzeug einsetzt.
• Halte Erfolgskriterien und Testfälle fest, statt dich auf einzelne gelungene Antworten zu verlassen.
• Prüfe jede relevante Aussage und jede Quellenangabe an der Primärquelle.
• Gib nur die Daten ein, die für den Zweck wirklich nötig sind.
• Behandle fremde Inhalte als Daten, nie als Anweisungen, und gib folgenreiche Aktionen erst nach Prüfung frei.
• Plane menschliche Aufsicht mit echten Befugnissen und ausreichend Zeit ein.