NYXA

NYXA Research Note · AI Governance

KI im Unternehmen: Was niemand fragt — aber jeder wissen sollte

Viele Unternehmen nutzen KI bereits produktiv. Doch Verantwortung, Protokolle, Anbieterabhängigkeit und Governance werden oft erst dann sichtbar, wenn Audit, Rechtsstreit oder Preiserhöhung sie erzwingen.

Von Johannes Süss / Future24 — Mai 2026

Viele Unternehmen nutzen KI bereits produktiv. Copilot schreibt E-Mails, ChatGPT fasst Meetings zusammen, Codex generiert Code. Die Werkzeuge funktionieren. Die Kosten scheinen überschaubar. Die Effizienzgewinne sind real.

Was dabei kaum jemand stellt: die richtigen Fragen.

Dieser Artikel ist kein Plädoyer gegen KI-Nutzung. Er ist eine Einladung, die eigene KI-Strategie ehrlich zu prüfen — bevor externe Ereignisse das erzwingen.

Was in den USA gerade passiert — und was das für Europa bedeutet

Während Europa mit dem EU AI Act einen regulatorischen Rahmen schafft, läuft in den USA seit 2025 eine Klagewelle gegen KI-Anbieter — getrieben nicht von Regulierung, sondern von Gerichten.

Über 70 Urheberrechtsklagen gegen KI-Unternehmen sind bereits anhängig. Anthropic schloss einen Fall über gestohlene Trainingsdaten für 1,5 Milliarden Dollar, Google einigte sich mit Texas auf 1,4 Milliarden Dollar wegen Datenschutzverletzungen. Die FTC hat über ein Dutzend Verfahren wegen irreführender KI-Versprechen eingeleitet.

Der vielleicht aufschlussreichste Fall: In Nippon Life v. OpenAI wird ChatGPT vorgeworfen, einem Nutzer dabei geholfen zu haben, einen bereits abgeschlossenen Rechtsstreit wieder zu eröffnen — durch automatisch generierte Klageschriften und erfundene Rechtsprechung. Die Klage lautet auf unerlaubte Rechtsausübung (unauthorized practice of law) nach Illinois-Recht. OpenAI hat daraufhin im Oktober 2025 seine Nutzungsbedingungen angepasst: Nutzer sollen ChatGPT nicht für Rechtsberatung verwenden.

Das ist bemerkenswert. Nicht weil die Klage zwingend erfolgreich sein wird — sondern weil sie zeigt, wohin die Reise geht: Gerichte beginnen zu fragen, wer haftet wenn KI-Systeme die Grenze zwischen Information und Beratung überschreiten.

Der EU AI Act ist in diesem Vergleich fast moderat. Er verlangt Nachvollziehbarkeit, Verantwortlichkeit und Risikoklassifizierung — aber er schafft zumindest klare Regeln. In den USA entstehen die Regeln gerade durch Klagen. Für europäische Unternehmen bedeutet das: Wer jetzt die richtigen Strukturen aufbaut, ist nicht nur compliant — er ist dem US-Markt einen Schritt voraus.

Das unsichtbare Fundament

Wenn ein Mitarbeiter eine KI-gestützte Entscheidung trifft — einen Vertrag bewertet, eine Diagnose vorbereitet, einen Kundenvorschlag formuliert — stellt sich eine Frage, die im Alltag untergeht:

Wer ist verantwortlich, wenn etwas schiefgeht?

Die Antwort ist nach EU AI Act eindeutig: ein Mensch. Das Unternehmen. Nicht OpenAI, nicht Microsoft, nicht Google.

Aber um diese Verantwortung wahrnehmen zu können, braucht man Beweise. Und genau hier beginnt das Problem.

Blindspot 1: Die Protokolle gehören nicht Ihnen

Wenn Ihr Unternehmen ChatGPT, Copilot oder ähnliche Tools einsetzt, entstehen Logs. Anfragen, Antworten, Zeitstempel. Das klingt gut.

Die Realität:

Das ist kein theoretisches Problem. Es ist ein reales Compliance-Risiko das mit dem EU AI Act ab 2026 rechtlich relevant wird.

Ein Log auf einem fremden Server, den Sie nicht kontrollieren, ist vor Gericht kein Nachweis. Es ist eine Hoffnung.

Was ein Unternehmen braucht:
Vollständige, unveränderliche, intern gehostete Protokolle — mit klarer Zuordnung von Anfrage, Modell, Zeitpunkt und verantwortlicher Person.

Blindspot 2: Die Preise sind nicht real

Die aktuellen Token-Kosten für GPT-4, Claude oder Gemini sind das Ergebnis massiver Quersubventionierung. Microsoft, Google und OpenAI kaufen gerade Marktanteile — nicht Gewinne.

Analysten schätzen, dass die tatsächlichen Bereitstellungskosten das Drei- bis Fünffache der aktuellen Marktpreise betragen. Solange Risikokapital und Konzernbilanzen die Differenz übernehmen, fällt das nicht auf.

Wenn die Subvention endet — und sie wird enden — stehen Unternehmen vor einer ungemütlichen Situation: KI ist tief in Prozesse integriert, Mitarbeiter haben sich darauf eingestellt, Alternativen wurden nicht aufgebaut. Und die Preise steigen um das Fünffache.

Was ein Unternehmen braucht:
Eine Infrastruktur die modellunabhängig ist. Die heute mit GPT-4 arbeitet, morgen mit einem europäischen Open-Source-Modell — ohne Prozessumbruch, ohne Vendor-Lock-in.

Blindspot 3: KI ersetzt keine Verantwortung — sie verlagert sie

Das Narrativ "KI vernichtet Jobs" greift zu kurz. Die präzisere Aussage lautet:

KI verändert, wofür Menschen verantwortlich sind.

Ein Mitarbeiter der früher selbst recherchiert, formuliert und entschieden hat — tut das jetzt mit KI-Unterstützung. Schneller. Umfangreicher. Aber: mit mehr Ausgaben die er verantworten muss, ohne jeden Schritt selbst durchdacht zu haben.

Das ist keine Bedrohung. Es ist eine neue Rolle.

Der Agenten-Manager — jemand der ein Netzwerk aus KI-Werkzeugen koordiniert, deren Output bewertet, Grenzen setzt und am Ende die Verantwortung trägt — ist kein Zukunftsszenario. Er entsteht gerade in jedem Unternehmen das KI ernsthaft einsetzt.

Diese Rolle braucht:

Die Checkliste: 12 Fragen die jeder Unternehmer sich stellen sollte

Wer KI bereits einsetzt oder plant es zu tun, sollte diese Fragen ehrlich beantworten können.

Zur Kontrolle

  1. Wo liegen die Logs unserer KI-Nutzung? Haben wir direkten Zugriff — oder nur über den Anbieter?
  2. Sind unsere KI-Protokolle vollständig? Dokumentieren sie Anfrage, Modell, Zeitpunkt und den anfragenden Mitarbeiter?
  3. Können wir im Streitfall nachweisen, welche KI-Entscheidung wann und auf welcher Basis getroffen wurde?
  4. Wer in unserem Unternehmen trägt formal die Verantwortung für KI-Outputs? Gibt es eine klare Regelung?

Zur Abhängigkeit

  1. Wie viele verschiedene KI-Anbieter nutzen wir? Haben wir eine Strategie für den Fall dass ein Anbieter Preise erhöht oder den Dienst einstellt?
  2. Sind unsere Prozesse so tief auf einen Anbieter ausgerichtet, dass ein Wechsel einen Prozessumbruch bedeuten würde?
  3. Haben wir die Kostenentwicklung modelliert — auch für ein Szenario in dem Token-Preise sich verdreifachen?

Zur Compliance

  1. Fallen unsere KI-Anwendungen unter den EU AI Act? Haben wir eine Klassifizierung unserer KI-Systeme nach Risikoklassen vorgenommen?
  2. Werden Kundendaten in KI-Anfragen verwendet? Haben wir dafür eine Rechtsgrundlage nach DSGVO — und entsprechende Auftragsverarbeitungsverträge?
  3. Wissen unsere Kunden, dass KI in den sie betreffenden Prozessen eingesetzt wird? Wo es relevant ist: haben sie zugestimmt?

Zur Organisation

  1. Haben wir intern definiert, wer KI nutzen darf, für welche Aufgaben — und welche Entscheidungen ausschließlich Menschen treffen?
  2. Gibt es in unserem Unternehmen jemanden der die KI-Nutzung überblickt, bewertet und weiterentwickelt? Oder passiert das unkontrolliert in jeder Abteilung?

Was das bedeutet

Diese Fragen haben keine einfachen Antworten. Aber sie zeigen, wo Handlungsbedarf besteht — bevor ein Audit, ein Rechtsstreit oder eine Preiserhöhung das erzwingt.

KI ist keine Technologie die man einfach einschaltet und laufen lässt. Sie ist ein System das Governance braucht: klare Verantwortlichkeiten, nachvollziehbare Prozesse, kontrollierbare Infrastruktur.

Unternehmen die das heute aufbauen, haben morgen einen strukturellen Vorteil gegenüber solchen die es reaktiv tun müssen.

Über Future24

Future24 entwickelt souveräne KI-Infrastruktur für europäische Unternehmen — mit Fokus auf nachvollziehbare Agenten-Orchestrierung, vollständige Audit-Trails und modellunabhängige Architektur.

Kontakt und weitere Informationen: future24.eu

Dieser Artikel erscheint auf nyxa.future24.eu — dem wissenschaftlich-technischen Arm von Future24.