KI in der Finanz-Compliance: Was funktioniert, was scheitert und was die Aufsicht bereits fragt

Die Finanzindustrie automatisiert seit Jahrzehnten Prozesse. Doch es besteht ein grundlegender Unterschied zwischen der Automatisierung eines Prozesses, der jedes Mal dasselbe Ergebnis liefert, und der Nutzung eines Systems, das schlussfolgert, ableitet und sich auf überzeugende Weise irren kann. Dieser Unterschied ist die generative KI. Und ihre Einführung in Compliance, Vertragsprüfung und Sanktions-Screening beschleunigt sich weit schneller als der regulatorische Rahmen, der sie steuern soll.

Wo die KI in der Compliance heute steht

Die aktuellen Anwendungsfälle sind klar, und in vielen Fällen funktionieren sie gut.

Im Sanktions- und AML-Screening haben die großen Anbieter Klassifikationsmodelle integriert, um Fehlalarme beim Namensabgleich zu reduzieren. Die Ergebnisse sind real: Die Quote bearbeitbarer Alerts ist gestiegen und das Rauschen in den meisten Deployments gesunken. In der Vertragsprüfung sind Sprachmodelle bei Standardinstrumenten wie ISDA Master Agreements oder EFET-Energieverträgen in der Lage, nicht standardisierte Klauseln zu identifizieren, Asymmetrien bei Ereignissen vorzeitiger Beendigung zu erkennen und jurisdiktionelle Lücken in Minuten zu markieren. Was einen Junior-Analysten früher zwei Stunden kostete, dauert heute zwei Minuten. In der Kontrahentenrisiko-Analyse ermöglicht RAG über regulatorische Meldungen, Bonitätsberichte und sektorale Exposure-Datenbanken, Signale zu synthetisieren, die ein menschlicher Analyst Tage zum Aggregieren bräuchte.

So weit, so gut. Das Problem ist nicht, dass die KI keinen Mehrwert liefert. Es ist, dass sie, indem sie Mehrwert liefert, ein Vertrauen sät, das manchmal nicht gerechtfertigt ist.

Wo die echten Risiken liegen

Das unmittelbarste Risiko ist nicht die flagrante Halluzination. Es ist die plausible Halluzination.

Ein Modell kann Ihnen sagen, dass ein Kontrahent nicht auf den aktuellen OFAC-Listen erscheint, und sich irren — nicht weil es aus dem Nichts erfindet, sondern weil seine Wissensbasis ein Stichdatum hat oder weil der von Ihnen verwendete Identifikator nicht exakt mit dem auf der Liste übereinstimmt. Der Analyst, der diese Antwort in einem Arbeitsablauf unter hohem Druck erhält, hinterfragt sie selten. Das Vertrauen in das System ist das Risiko.

Das zweite Risiko ist die Undurchsichtigkeit der Entscheidung. Die meisten KI-Deployments, die in der Compliance zu sehen sind, erzeugen ein Ergebnis: hohes / mittleres / niedriges Risiko, mit einem Absatz Begründung. Doch wenn die Aufsicht in drei Jahren fragt, warum eine Transaktion mit diesem Kontrahenten genehmigt wurde, was zeigen Sie ihr? Das PDF des Berichts? Die E-Mail, in der der Analyst sagte „das System hat ja gesagt“? Die MAS in Singapur, die ESMA in Europa und die künftige Behörde AMLA beginnen, genau diese Frage zu stellen. Und „wir haben ein KI-Werkzeug benutzt“ ist keine Antwort, die einen Aufseher zufriedenstellt.

Das dritte Risiko ist struktureller Natur: die Funktionstrennung. In vielen aktuellen Deployments erzeugt dasselbe System, das das Risiko analysiert, auch die Empfehlung, die der Analyst unterzeichnet. Dies verletzt das grundlegende maker/checker-Prinzip, das in der Compliance schon lange vor der KI existierte. Der Analyst wird zum Validierer dessen, was die Maschine sagt, nicht zum unabhängigen Beurteiler. Die Verantwortung schwebt zwischen Mensch und Algorithmus, und wenn es zu einem regulatorischen Vorfall kommt, übernimmt keiner von beiden sie vollständig.

Das vierte Risiko ist die Drift. Modelle, die nachtrainiert werden, die die Version wechseln oder deren Anbieter Sicherheitsparameter anpassen, können für dieselbe Eingabe radikal unterschiedliche Ergebnisse erzeugen, ohne dass es jemand in der Institution bemerkt, bis es ein echtes Problem gibt.

Das fünfte, über das am wenigsten gesprochen wird: die Anbieterabhängigkeit. Wenn Ihr Compliance-Prozess von einem Modell abhängt, dessen interne Logik Sie nicht kontrollieren, haben Sie ein Risiko der betrieblichen Kontinuität, das kein traditioneller BCP berücksichtigt.

Was aufgebaut werden muss

Die gute Nachricht ist, dass diese Risiken steuerbar sind. Die schlechte ist, dass sie Architekturarbeit erfordern, nicht nur Prompting.

Das Erste ist der Inferenz-Audit-Trail. Nicht das Log, dass „KI verwendet wurde“, sondern die manipulationssichere, nur anfügbare Aufzeichnung, welcher genaue Prompt ausgeführt wurde, mit welchem Modell, in welcher Version, mit welchen Parametern und was das wörtliche Ergebnis war. Versiegelt mit einem kryptografischen Hash und einem RFC-3161-Zeitstempel. Das ist es, was Sie einem Aufseher drei Jahre später zeigen können. Singapurs IMDA Model AI Governance Framework for Agentic AI verlangt es bereits ausdrücklich. Der EU AI Act impliziert es für Hochrisikosysteme im Finanzdienstleistungsbereich. Es ist nur eine Frage der Zeit, bis es zum globalen regulatorischen Standard wird.

Das Zweite ist die adversariale Verifikation. Ein einzelnes Modell sollte nicht der Schiedsrichter einer Compliance-Entscheidung sein. Die Praxis, die sich in den reifsten Deployments konsolidiert, ist der Multi-Modell-Konsens: Sie führen dieselbe Analyse über drei verschiedene Modelle unterschiedlicher Anbieter aus und vertrauen dem Ergebnis nur, wenn sie konvergieren. Wenn sie divergieren, geht der Fall in die menschliche Prüfung. Dies beseitigt den Fehler nicht, macht ihn aber erkennbar, bevor er zu einem Vorfall wird.

Das Dritte ist die Trennung von Analyse und Validierung. Der Maker ist das System oder der vom System unterstützte Analyst. Der Checker ist ein anderer Mensch, der mit Zugang zum vollständigen Trail prüft, nicht nur zum Ergebnis. Das ist es, was die KI von einem Ersatz für menschliches Urteilsvermögen in einen Verstärker menschlichen Urteilsvermögens verwandelt. Der Unterschied ist nicht semantisch. Er hat direkte Auswirkungen darauf, wie die Aufsicht Verantwortung zuschreibt, wenn etwas scheitert.

Das Vierte ist die Granularität der jurisdiktionellen Steuerung. Die Anforderungen der MAS Notice 626, von EMIR, REMIT und AMLA sind nicht identisch. Die Fähigkeit, je Jurisdiktion festzulegen, welche Modelle zulässig sind, welche Quellen verwendet werden und welches Mindestvertrauensniveau die menschliche Validierung erfordert, ist das, was ein Deployment skalierbar macht, ohne jeden Markt in einen unabhängigen Code-Fork zu verwandeln.

Das Prinzip, das nicht verhandelbar sein sollte

Es gibt eine Formulierung, die die richtige Haltung gegenüber KI in der Compliance zusammenfasst: Das Ziel ist nicht, den Fehler zu beseitigen. Es ist, den Fehler erkennbar und auditierbar zu machen.

Die KI wird nicht unfehlbar sein. Kein menschliches System ist es ebenfalls. Die relevante Frage ist nicht, ob die KI sich irren kann. Offensichtlich kann sie das. Die Frage ist: Wenn sie sich irrt, kann jemand es erkennen, verstehen, warum es geschah, und es korrigieren, ohne dass die Aufsicht es in der schlimmstmöglichen Lage erfährt?

Wenn die Antwort ja lautet, haben Sie ein KI-gestütztes Compliance-System, das wirklich robuster ist als der manuelle Prozess, den es ersetzt. Wenn die Antwort nein lautet, haben Sie ein neues Risiko, als operative Effizienz verkleidet.

Die Arbeit, die in der Branche noch zu leisten ist, ist größtenteils genau diese: vom „wir haben KI in der Compliance“ zum „wir haben KI in der Compliance, von der wir der Aufsicht und uns selbst gegenüber nachweisen können, dass sie so funktioniert, wie wir gesagt haben, dass sie funktioniert“ zu gelangen. Der Unterschied zwischen diesen beiden Aussagen ist der Unterschied zwischen verantwortungsvoller Einführung und latenter regulatorischer Exposition.

Das ist es, was die Aufsicht zu fragen beginnt. Und die Branche tut gut daran, die Antworten bereitzuhalten, bevor die Frage in Form eines Bußgelds eintrifft.