Bewältigung von Datenrisiken in KI-gesteuerten Arbeitsabläufen

Ein Kundendienstmitarbeiter gibt eine Beschwerde in einen KI-Assistenten ein und bittet diesen, eine Antwort zu entwerfen. Die Beschwerde enthält den Namen des Kunden, seine Kundennummer und seine Krankengeschichte. Die Antwort wird innerhalb von Sekunden erstellt, überarbeitet und versendet. Es ist zunächst kein Sicherheitsverstoß erkennbar, es ertönt kein Sicherheitsalarm, und der Mitarbeiter betrachtet die Aufgabe als erledigt.

Dennoch bleiben einige wichtige Fragen offen. Durften die Informationen die kontrollierte Umgebung des Unternehmens verlassen? Wurden sie vom KI-Anbieter gespeichert? Könnten sie zur Verbesserung der Dienstleistungen oder zum Training von Modellen verwendet werden? Welche Subunternehmer haben sie verarbeitet? Wäre das Unternehmen in der Lage, die Eingabe wiederherzustellen, falls der Kunde die Entscheidung später anfechten sollte?

So verändern KI-gesteuerte Arbeitsabläufe das Datenrisiko. Die Gefahr beschränkt sich nicht mehr nur darauf, dass eine Datenbank gestohlen wird oder ein Mitarbeiter die falsche Tabelle anhängt. Vertrauliche Informationen durchlaufen mittlerweile Eingabeaufforderungen, Abrufsysteme, Modellschnittstellen, Plug-ins, automatisierte Agenten und Infrastruktur von Drittanbietern. Der Arbeitsablauf mag zwar schneller sein, doch die Datenspur ist länger und oft weniger gut nachvollziehbar.

Die zentrale Frage für das Management lautet daher nicht, ob KI menschliche Fehler reduziert. Es geht vielmehr darum, ob das Unternehmen noch weiß, welche Informationen verarbeitet werden, wohin sie weitergeleitet werden, wer darauf zugreifen kann und welche automatisierten Aktionen dadurch ausgelöst werden dürfen.

Automatisierung kann Fehler reduzieren und deren Folgen vervielfachen

Herkömmliche Datenkontrollen wurden größtenteils für Systeme mit vorhersehbaren Ein- und Ausgabedaten konzipiert. Eine Lohnabrechnungsanwendung führt eine festgelegte Berechnung durch. Eine Kundendatenbank speichert Datensätze in bekannten Feldern. Der Zugriff kann je nach Funktion gewährt werden, während wesentliche Änderungen protokolliert und überprüft werden können.

Ein KI-Workflow verhält sich anders. Er kann eingehende Informationen klassifizieren, zusammenfassen, mit internen Dokumenten verknüpfen, eine Empfehlung generieren und diese Empfehlung an ein anderes System weiterleiten. Sind Mitarbeiter beteiligt, kann das Modell zudem eine E-Mail versenden, einen Datensatz aktualisieren, einen Routineantrag genehmigen oder einen weiteren automatisierten Prozess einleiten.

Dadurch lassen sich sich wiederholende manuelle Arbeitsschritte vermeiden. KI kann dabei helfen, ungewöhnliche Zugriffsmuster zu erkennen, sensible Informationen zu identifizieren, Dokumente zu klassifizieren und Transaktionen zur Überprüfung zu kennzeichnen. Sie kann aber auch denselben Fehler in Tausenden von Fällen wiederholen, bevor es jemand bemerkt.

Ein menschlicher Mitarbeiter, der eine Richtlinie falsch versteht, kann mehrere Datensätze falsch bearbeiten. Ein automatisierter Workflow, der dieselbe falsche Interpretation zugrunde legt, kann jeden betroffenen Datensatz im System falsch bearbeiten. Der Effizienzvorteil und das Kontrollrisiko ergeben sich aus demselben Merkmal: der Skalierbarkeit.

Unternehmen sollten daher aufhören, “Human-in-the-Loop” als ausreichende Lösung zu betrachten. Es ist unwahrscheinlich, dass eine Person, die an einem Nachmittag mehrere hundert von KI generierte Entscheidungen genehmigt, jede einzelne davon sinnvoll bewerten kann. Menschliche Aufsicht ist nur dann sinnvoll, wenn der Prüfer über genügend Informationen, Befugnisse und Zeit verfügt, um einzugreifen.

Die Eingabeaufforderung ist zu einem neuen Kanal für die Datenübertragung geworden

Viele Unternehmen haben jahrelang die Möglichkeiten ihrer Mitarbeiter eingeschränkt, Kundenlisten, Finanzunterlagen und geschäftlich sensible Dokumente zu exportieren. Generative KI hat nun einen weniger offensichtlichen Weg geschaffen: das Eingabefeld.

Ein Mitarbeiter kann einen Teil eines Vertrags in einen Assistenten einfügen, um eine Zusammenfassung zu erhalten, Verkaufsdaten zur Analyse hochladen oder die E-Mail-Adresse eines Kunden angeben, damit das System eine Antwort verfassen kann. Diese Vorgehensweise mag eher an die Nutzung einer Suchmaschine erinnern als an die Übertragung von Daten an einen externen Verarbeiter, auch wenn es aus Sicht der Datenverwaltung genau das sein mag.

Dies verändert die praktische Bedeutung des Datenschutzes. Es reicht nicht mehr aus, E-Mail-Anhänge, USB-Geräte und Plattformen zur Dateifreigabe zu überwachen. Unternehmen müssen wissen, auf welche KI-Schnittstellen Mitarbeiter zugreifen können, welche Kategorien von Informationen eingegeben werden dürfen und welche technischen Kontrollmaßnahmen verhindern, dass vertrauliche Daten die zugelassenen Umgebungen verlassen.

Ein pauschales Verbot ist selten eine wirksame langfristige Lösung. Mitarbeiter könnten auf private Konten oder nicht genehmigte Tools zurückgreifen, wenn sie der Meinung sind, dass KI ihre Arbeit wesentlich verbessert. Ein wirksamerer Ansatz besteht darin, eine genehmigte Unternehmensumgebung bereitzustellen, zu erläutern, welche Informationen verboten sind, und Kontrollmechanismen anzuwenden, die personenbezogene, vertrauliche und regulierte Daten erkennen oder unkenntlich machen, bevor sie in ein Modell gelangen.

Die Richtlinie muss präziser sein als die Aufforderung “Geben Sie keine sensiblen Informationen ein”. Ein Vertriebsmitarbeiter muss wissen, ob darunter Kundennamen, Details zur Pipeline, Preisangaben, Vertragsbedingungen, Besprechungsprotokolle und interne Prognosen fallen. Ein Ingenieur benötigt vergleichbare Leitlinien für Quellcode, Produktentwürfe, Zugangsdaten und Informationen zu Sicherheitslücken.

Ohne konkrete Anwendungsbeispiele ist eine KI-Richtlinie lediglich ein Dokument, das die Mitarbeiter zur Kenntnis nehmen und dann selbst auslegen.

Das Abrufen führt zu einem Problem mit den Berechtigungen

Viele KI-Systeme in Unternehmen nutzen die „Retrieval-Augmented Generation“, allgemein bekannt als RAG. Anstatt sich ausschließlich auf das allgemeine Training eines Modells zu stützen, durchsucht die Anwendung genehmigte interne Quellen und stellt dem Modell bei der Beantwortung einer Frage relevantes Material zur Verfügung.

Dadurch kann ein Assistent wesentlich nützlicher werden. Ein Mitarbeiter könnte eine Frage zu einer Reiserichtlinie, einem technischen Verfahren oder einem Kundenkonto stellen und eine Antwort erhalten, die auf den Unternehmensdaten basiert.

Außerdem entsteht dadurch ein erhebliches Problem bei der Zugriffskontrolle. Der Assistent darf keine Dokumente abrufen, zu deren Einsicht der Benutzer nie berechtigt war.

Ein schlecht konzipiertes System kann zwar eine Verbindung zu einem umfangreichen Dokumentenarchiv herstellen, ohne jedoch die zugrunde liegenden Zugriffsrechte korrekt zu übernehmen. Ein Mitarbeiter, der eine Datei zur Vergütung von Führungskräften über die normale Benutzeroberfläche nicht finden konnte, könnte dennoch an deren Inhalt gelangen, indem er dem Assistenten eine ausreichend konkrete Frage stellt.

Das Risiko steigt, wenn die Zugriffsrechte auf gemeinsam genutzten Laufwerken, Kollaborationsplattformen und Altsystemen uneinheitlich sind. KI verursacht diese Schwachstellen zwar nicht, kann es jedoch erheblich erleichtern, sie auszunutzen. Informationen, für deren Abruf bisher Ausdauer und Kenntnisse der Dateistruktur des Unternehmens erforderlich waren, können nun durch Fragen in natürlicher Sprache zugänglich gemacht werden.

Bevor ein KI-Assistent mit dem internen Wissensbestand verknüpft wird, sollte das Unternehmen prüfen, ob die Berechtigungen des Quellsystems zum Zeitpunkt der Abfrage übernommen und durchgesetzt werden. Außerdem sollte untersucht werden, ob die generierten Antworten durch Zusammenfassungen, Vergleiche oder Schlussfolgerungen Informationen preisgeben, auch wenn das Originaldokument nicht angezeigt wird.

Bei Zugriffstests müssen realistische böswillige Anfragen berücksichtigt werden. Es reicht nicht aus, zu überprüfen, ob ein autorisierter Mitarbeiter die richtige Richtlinie abrufen kann. Das Team muss außerdem testen, ob ein nicht autorisierter Mitarbeiter das System dazu bringen kann, vertrauliche Informationen indirekt preiszugeben.

Mehr Daten führen nicht automatisch zu einem besseren Arbeitsablauf

KI-Projekte gehen oft von der Annahme aus, dass sich die Leistung verbessert, wenn das Modell auf mehr Informationen zugreifen kann. Das veranlasst Teams dazu, Kundendaten, Kommunikationsdaten, Transaktionsverläufe und Verhaltensdaten zusammenzuführen, bevor sie entscheiden, welche Felder tatsächlich erforderlich sind.

Dies ist das Gegenteil von Datenminimierung. Es vergrößert die potenziellen Auswirkungen einer Datenschutzverletzung, erhöht die Wahrscheinlichkeit, dass Informationen außerhalb ihres ursprünglichen Zwecks verwendet werden, und erschwert die Löschung oder Berichtigung.

Ein Personalreferent benötigt beispielsweise möglicherweise Informationen zu den Fähigkeiten und Erfahrungen eines Bewerbers sowie dessen Antworten auf berufsbezogene Fragen. Er benötigt nicht unbedingt Fotos, das Geburtsdatum, Angaben zur Familie oder historische Metadaten aus jeder früheren Bewerbung. Ein Modell zur Kundenbindung erfordert möglicherweise Informationen zu den jüngsten Kontoaktivitäten, ohne dass ein uneingeschränkter Zugriff auf die gesamte bisher vom Kunden versendete Korrespondenz erforderlich ist.

Die Datenminimierung sollte in die Architektur des Arbeitsablaufs integriert werden. Das System sollte nur die für die jeweilige Aufgabe erforderlichen Informationen für den kürzestmöglichen, gerechtfertigten Zeitraum erhalten. Irrelevante Identifikatoren können entfernt, besonders sensible Felder abgetrennt und die Daten transformiert werden, bevor sie an das Modell übermittelt werden.

Dies verbessert auch die Nachvollziehbarkeit. Wenn ein Arbeitsablauf zu einem unerwarteten Ergebnis führt, ist es einfacher, eine definierte Reihe von Eingaben zu untersuchen als eine wahllos zusammengestellte Sammlung von Daten aus verschiedenen Unternehmenssystemen.

Datenqualität wird zu einer operativen Kontrollmaßnahme

Im herkömmlichen Berichtswesen können Daten von schlechter Qualität zu ungenauen Diagrammen oder Managementberichten führen. In einem automatisierten KI-Workflow können sie hingegen zu falschen Entscheidungen oder Maßnahmen führen.

Nehmen wir als Beispiel einen Versicherer, der KI zur Weiterleitung von Schadensfällen einsetzt. Ein veralteter Policencode könnte dazu führen, dass ein berechtigter Schadensfall in die Betrugswarteschlange geleitet wird. Ein doppelter Kundendatensatz könnte dazu führen, dass ein Kundendienstmitarbeiter widersprüchliche Informationen bereitstellt. Ein fehlendes Einwilligungskennzeichen könnte dazu führen, dass personenbezogene Daten in einem Arbeitsablauf verwendet werden, aus dem sie eigentlich hätten ausgeschlossen werden müssen.

Das Problem lässt sich nicht durch die Wahl eines leistungsfähigeren Modells lösen. Die Modellleistung kann unzuverlässige Quelldaten, undefinierte Felder oder widersprüchliche Datensätze nicht durchgängig ausgleichen.

Unternehmen müssen Schwellenwerte für die Datenqualität als Voraussetzungen für die Bereitstellung betrachten. Bevor ein Workflow automatisiert wird, sollte der Verantwortliche wissen, welche Quellen dabei verwendet werden, wie aktuell diese sind, wie hoch der Anteil unvollständiger Datensätze ist und welche Fehler das Ergebnis wesentlich beeinflussen könnten.

Die relevante Kennzahl ist nicht einfach nur die Modellgenauigkeit. Es kann sich dabei um die Anzahl der falsch zugeordneten Fälle, den Anteil der Fälle, die einer manuellen Korrektur bedürfen, die Rate der falschen Betrugswarnungen oder die Anzahl der Kunden handeln, die auf der Grundlage veralteter Informationen beraten werden.

Diese Maßnahmen stellen einen Zusammenhang zwischen der technischen Leistung und den betrieblichen Auswirkungen her.

Die KI-Lieferkette ist Teil der Datengrenze

Eine KI-Anwendung für Unternehmen besteht selten aus einem einzigen System, das von einem einzigen Unternehmen bereitgestellt wird. Sie kann auf einem Grundmodell, einer Cloud-Infrastruktur, einer Orchestrierungsebene, einer Vektordatenbank, Überwachungssoftware, Plug-ins und externen Datenquellen basieren.

Jede Komponente kann Einfluss darauf haben, wie Informationen verarbeitet und geschützt werden. Ein Unternehmen hat möglicherweise einen Vertrag mit dem Anwendungsanbieter, ohne zu wissen, welcher Modellanbieter die Eingabeaufforderungen erhält, wo die Embeddings gespeichert werden oder ob Diagnoseprotokolle Kundeninformationen enthalten.

Herkömmliche Lieferantenfragebögen sind für diese Architektur oft zu allgemein gehalten. Die Frage, ob ein Lieferant einen Sicherheitsstandard einhält, gibt keinen Aufschluss darüber, ob Eingaben gespeichert werden, ob Kundendaten zur Verbesserung von Modellen verwendet werden oder was passiert, wenn ein Subunternehmer wechselt.

Beschaffungsteams sollten für jeden wesentlichen KI-Workflow ein Datenflussdiagramm anfordern. Darin sollten die Kategorien der erfassten Informationen, die Systeme, durch die sie geleitet werden, die Speicherorte, die Aufbewahrungsfristen sowie die Parteien, die Zugriff darauf haben, aufgeführt sein.

Der Vertrag sollte auch Änderungen an Modellen und Komponenten abdecken. Ein KI-Dienst kann sich wesentlich verändern, wenn der Anbieter das zugrunde liegende Modell ersetzt, Sicherheitsfilter modifiziert oder einen neuen Unterauftragsverarbeiter einbindet. Ein Workflow, der für eine bestimmte Konfiguration genehmigt wurde, sollte nicht auf unbestimmte Zeit genehmigt bleiben, nachdem sich seine technische Grundlage geändert hat.

Das Lieferantenrisiko tritt somit kontinuierlich auf und konzentriert sich nicht mehr auf den Zeitpunkt des Kaufs.

KI birgt Sicherheitsrisiken, die herkömmliche Filter möglicherweise übersehen

KI-Systeme bergen die bekannten Cybersicherheitsrisiken wie unsichere Zugriffe, offengelegte Anmeldedaten und anfällige Softwarekomponenten. Zudem bringen sie neue Angriffsmethoden mit sich, die mit der Art und Weise zusammenhängen, wie Modelle Anweisungen und Daten interpretieren.

Ein Beispiel hierfür ist die Prompt-Injektion. In einem Dokument, einer Webseite, einer Nachricht oder anderen Inhalten, die vom Modell verarbeitet werden, können böswillige Anweisungen eingebettet werden. Das System könnte diese Anweisungen als maßgeblich betrachten und die vom Unternehmen vorgesehenen Regeln ignorieren.

Stellen Sie sich einen KI-Agenten vor, der per E-Mail eingegangene Lieferantenrechnungen prüft. Ein manipuliertes Dokument könnte versteckten Text enthalten, der den Agenten anweist, bisherige Vorgaben zu ignorieren, interne Informationen zu extrahieren oder den Arbeitsablauf umzuleiten. Das Risiko ist umso größer, wenn das System ohne gesonderte Autorisierung auf andere Daten zugreifen oder Maßnahmen ergreifen kann.

Ein weiteres Problem stellt die Datenvergiftung dar. Werden Trainings-, Test- oder Abrufdaten manipuliert, kann das System unerwünschtes Verhalten erlernen oder wiederholen. Zur Offenlegung sensibler Informationen kann es kommen, wenn ein Modell vertrauliche Inhalte in seiner Ausgabe preisgibt – sei es, weil die Informationen in einer Eingabeaufforderung, einer verknüpften Wissensdatenbank oder einem nicht ordnungsgemäß verwalteten Datensatz enthalten waren.

Diese Risiken erfordern mehr als nur das Bewusstsein der Mitarbeiter. Das System benötigt eingeschränkte Berechtigungen, getrennte Vertrauenszonen, eine Überwachung der Ein- und Ausgänge, Ratenbegrenzungen sowie eine ausdrückliche Genehmigung vor folgenreichen Aktionen. Inhalte, die aus einer externen Quelle abgerufen werden, sollten nicht automatisch als vertrauenswürdige Anweisungen behandelt werden.

Das sicherste Gestaltungsprinzip besteht darin, der KI nur die unbedingt erforderlichen Befugnisse zu übertragen. Ein System, das einen Zahlungsauftrag entwirft, birgt ein geringeres Risiko als eines, das die Zahlung ohne eigenständige Überprüfung ausführen kann.

Die Protokollierung ist unverzichtbar, führt jedoch zu einem weiteren sensiblen Datensatz

Wenn ein KI-Workflow zu einer umstrittenen Entscheidung führt, muss das Unternehmen rekonstruieren, was genau passiert ist. Dazu sind möglicherweise die Eingabeaufforderung, die abgerufenen Dokumente, die Modellversion, die generierte Antwort, die Identität des Benutzers, die Systemanweisungen sowie die nachfolgenden Maßnahmen erforderlich.

Ohne diese Aufzeichnungen wird die Untersuchung zu reiner Spekulation. Die Organisation weiß zwar möglicherweise, dass ein KI-Tool zum Einsatz kam, kann aber nicht erklären, welche Informationen das Ergebnis beeinflusst haben.

Doch auch Protokolle können an sich hochsensibel sein. Ein Befehlsverlauf kann Kundenbeschwerden, Gesundheitsdaten, Vertragsformulierungen, Quellcode oder Mitarbeitergespräche enthalten. Die unbefristete Speicherung all dieser Daten schafft eine neue Risikokonzentration.

Die Lösung liegt in einer selektiven, zweckgebundenen Protokollierung. Unternehmen sollten festlegen, welche Aufzeichnungen für die Sicherheit, die Revision, die Einhaltung gesetzlicher Vorschriften und die Leistungsüberwachung erforderlich sind, und anschließend entsprechende Zugriffs- und Aufbewahrungsregeln festlegen.

Ein Schreibassistent mit geringem Risiko erfordert möglicherweise nur begrenzte Betriebsprotokolle. Ein Arbeitsablauf, der Auswirkungen auf die Bonität, die Beschäftigung, Versicherungen oder den Zugang zu grundlegenden Dienstleistungen hat, erfordert möglicherweise einen wesentlich umfassenderen Prüfpfad.

In den Protokollen sollten auch Konfigurationsänderungen erfasst werden. Wenn ein Modell aktualisiert, eine Eingabeaufforderungsvorlage geändert oder eine neue Datenquelle angebunden wird, muss das Unternehmen wissen, welche Entscheidungen unter welcher Version getroffen wurden.

Die Unternehmensführung muss sich am Arbeitsablauf orientieren, nicht am Technologiebudget

Viele Unternehmen übertragen die KI-Governance einem Innovationsausschuss, während der Datenschutz weiterhin in den Zuständigkeitsbereich der Rechtsabteilung, die Cybersicherheit in den der IT-Abteilung und das operative Risiko in den der einzelnen Geschäftsbereiche fällt. Die Folge ist eine fragmentierte Überwachung von Arbeitsabläufen, die alle vier Bereiche betreffen.

Eine bessere Governance-Einheit ist der Anwendungsfall. Für jeden wichtigen Arbeitsablauf sollte es einen namentlich benannten fachlichen Verantwortlichen geben, der für das Ergebnis zuständig ist, einen technischen Verantwortlichen, der für die Umsetzung zuständig ist, sowie klar benannte Spezialisten für die Bereiche Sicherheit, Datenschutz, Recht und Aktenverwaltung.

Vor der Einführung sollte das Team in der Lage sein, einige praktische Fragen zu beantworten:

Welche geschäftliche Entscheidung oder welcher Prozess wird geändert?

Welche Daten fließen in den Workflow ein, und auf welcher rechtlichen und betrieblichen Grundlage geschieht dies?

Welche Systeme und Drittanbieter erhalten diese Daten?

Welche Fehler würden zu einem erheblichen Schaden führen?

Welche Maßnahmen kann die KI ohne Genehmigung ergreifen?

Wie können Nutzer das Ergebnis anfechten oder korrigieren?

Bei welchem Ereignis müsste der Workflow unterbrochen werden?

Diese Fragen sind aussagekräftiger als die Frage, ob das Unternehmen über eine KI-Strategie verfügt. Sie zeigen, ob jemand das System gut genug versteht, um verantwortungsvoll damit umzugehen.

Beginnen Sie mit einem KI-Workflow-Register

Der erste praktische Schritt ist eine Bestandsaufnahme. Viele Organisationen können KI nicht effektiv steuern, weil sie nicht wissen, wo sie eingesetzt wird.

Das Verzeichnis sollte gekaufte Tools, intern entwickelte Systeme, in bestehende Software integrierte KI-Funktionen sowie die Nutzung von Allzweck-Assistenten durch Mitarbeiter umfassen. Jeder Eintrag sollte den Geschäftszweck, die Datenkategorien, den Eigentümer, den Anbieter, das Modell, die Integrationen, die Bedeutung für die Entscheidungsfindung und den Umfang der menschlichen Aufsicht angeben.

Bei dieser Maßnahme werden häufig „Schatten-KI“, doppelte Tools und Systeme aufgedeckt, die mehr Daten verbrauchen, als der Business Case rechtfertigt. Diese Erkenntnisse sollten nicht nur als Verstöße gegen die Compliance betrachtet werden. Sie sind vielmehr ein Beleg dafür, dass Mitarbeiter versuchen, echte Probleme im Arbeitsablauf auf nicht genehmigtem Wege zu lösen.

Das Unternehmen kann Anwendungsfälle dann nach ihren Auswirkungen klassifizieren. Ein Assistent, der interne Texte neu formatiert, erfordert nicht dieselben Kontrollmechanismen wie ein System, das darüber entscheidet, ob einem Kunden ein Kredit gewährt wird. Die Governance sollte verhältnismäßig sein, darf aber nicht fehlen.

Arbeitsabläufe mit höherem Risiko müssen vor ihrer Einführung einer formalen Prüfung unterzogen werden, einschließlich einer Datenschutzbewertung, einer Sicherheitsüberprüfung, adversarischer Tests, Datenqualitätsprüfungen und festgelegter Leistungsschwellenwerte. Außerdem ist eine zuverlässige Methode erforderlich, um den Prozess zu stoppen oder rückgängig zu machen, falls das System diese Grenzen überschreitet.

Das Risiko besteht nicht mehr nur darin, Daten zu verlieren

KI verändert das Datenrisiko, da Informationen nicht mehr nur gespeichert und abgerufen werden. Sie werden interpretiert, kombiniert, daraus werden Schlussfolgerungen gezogen und sie werden zur Entscheidungsfindung herangezogen.

Ein Unternehmen kann zwar den ursprünglichen Kundendatensatz schützen, daraus aber dennoch ein ungenaues Profil erstellen. Es kann unbefugten Zugriff auf die Datenbank verhindern, gleichzeitig aber zulassen, dass ein Mitarbeiter in einer generierten Antwort vertrauliche Details preisgibt. Es kann vollständige Prüfprotokolle führen, muss jedoch feststellen, dass niemand für deren Überprüfung zuständig ist.

Die besten KI-Governance-Programme sind nicht diejenigen, die die meisten Tools genehmigen oder die umfangreichsten Richtlinien verfassen. Es sind vielmehr diejenigen, die eine klare Verantwortungskette von der Dateneingabe bis zum Betriebsergebnis gewährleisten.

Bevor ein KI-Workflow in Betrieb genommen wird, sollte die Unternehmensleitung in der Lage sein, die benötigten Daten, die dem System übertragenen Befugnisse, die möglichen Fehler sowie die Person zu identifizieren, die befugt ist, den Workflow zu stoppen. Sind diese Antworten unklar, hat die Automatisierung das Datenrisiko des Unternehmens nicht verringert. Sie hat das Risiko lediglich beschleunigt.