Key Facts:

• KI-Definition konkretisiert: Die EU hat klargestellt, welche Systeme als KI gelten und reguliert werden.
• Klassische Statistik bleibt ausgenommen: Logistische Regression und ähnliche Verfahren fallen nicht unter den EU AI Act.
• KI-Systeme mit hohem Risiko erfordern besondere Aufmerksamkeit im Finanzsektor.

Die EU hat mit dem AI Act erstmals einheitliche Regeln zur Regulierung von künstlicher Intelligenz geschaffen. Doch welche Systeme gelten nach dieser Verordnung überhaupt als KI – und welche nicht?

Was ist ein KI-System im Sinne des AI Act?

In Artikel 3 (1) des EU AI Act wird ein KI-System definiert als „ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist. Es kann nach seiner Betriebsaufnahme anpassungsfähig sein und aus den erhaltenen Eingaben für explizite oder implizite Ziele ableiten, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“

Diese Definition ließ lange Raum für Interpretation. Erst mit den Leitlinien der EU-Kommission vom 6. Februar 2025 wurde klarer, welche Anwendungen tatsächlich unter die KI-Verordnung fallen – und welche nicht. Für Banken und Versicherungen ist das ein entscheidender Schritt: Sie können nun verlässlich zwischen regulierten KI-Systemen und klassischen datenbasierten Anwendungen unterscheiden.

Wann gilt ein System als KI?

Die neuen Leitlinien legen fest, dass ein System als KI-System im Sinne des EU AI Acts gilt, wenn es die folgenden sieben Merkmale erfüllt:

1. Maschinenbasiertes System

Ein KI-System muss vollständig auf Maschinen basieren, was bedeutet, dass es sowohl auf Hardware als auch auf Software angewiesen ist. Diese Maschinenbasis unterscheidet KI-Systeme von traditionellen, rein menschlichen Entscheidungsprozessen. Dabei umfasst die maschinelle Basis nicht nur klassische Computerprozesse, sondern auch spezialisierte Hardware, die für maschinelles Lernen oder neuronale Netzwerke optimiert ist.

2. Autonome Entscheidungsfindung

Ein zentrales Kriterium: Das System kann eigenständig Entscheidungen treffen und Lösungswege entwickeln. Ein Sprachmodell wie ein Large Language Model (LLM) zählt dazu – es erzeugt Ausgaben auf Basis von Eingaben, ohne dass diese vorher exakt definiert wurden. Anders sieht dies bei einem regelbasierten Chatbot aus, welcher Anfragen erkennt und von Menschen vordefinierte Antworten 1:1 ausgibt. Dieses System wäre explizit kein KI-System im Sinne des EU AI Acts.

3. Adaptivität (fakultativ, aber starkes Indiz für KI)

Ein System, das sich im Laufe seiner Nutzung verändert und durch Lernen oder Anpassung an neue Daten eigenständig verbessert, spricht stark für eine Klassifizierung als KI. Allerdings ist Adaptivität kein zwingendes Kriterium für die Einstufung eines Systems als KI.

Dabei ist zu beachten, dass regelmäßige Updates oder manuelle Modellanpassungen – beispielsweise das periodische Neuberechnen einer logistischen Regression – nicht unter Adaptivität fallen. Adaptivität liegt nur dann vor, wenn das System aus neuen Daten eigenständig lernt und seine Funktionsweise ohne menschliches Eingreifen optimiert.

4. Zielgerichtete Entscheidungsfindung

KI-Systeme arbeiten nicht willkürlich, sondern verfolgen explizite oder implizite Ziele. Diese Ziele können in Form mathematischer Optimierungsfunktionen, Wahrscheinlichkeitsberechnungen oder maschinellem Lernen definiert sein. Anders als herkömmliche regelbasierte Systeme passt sich ein KI-System aktiv an seine Zielsetzung an und verändert seine Herangehensweise basierend auf den erhaltenen Eingaben.

5. Fähigkeit zur Inferenz (Ausgaben aus Eingaben generieren)

Ein KI-System kann aus Eingaben eigenständig ableiten, wie die gewünschte Ausgabe zu erzeugen ist. Es geht also nicht um bloßes Abarbeiten, sondern um echtes „Verstehen“ und Umsetzen – in Echtzeit oder in der Modellbildung.

Damit umfasst es sowohl die Fähigkeit, in der Nutzungsphase Vorhersagen, Empfehlungen oder Entscheidungen zu treffen, als auch in der Bauphase Modelle oder Algorithmen aus Daten zu entwickeln. Auf diese Weise grenzt es sich von rein regelbasierten Systemen ab, die nur festgelegten Anweisungen folgen.

Ferner definieren die Guidelines sogenannte „AI techniques“ (KI-Techniken), welche genaue technische Kriterien für den Schaffungsprozess von KI-Systemen definieren. Hierzu zählen explizit:
Supervised Learning,

• Unsupervised Learning,
• Self-supervised Learning,
• Reinforcement Learning,
• Deep Learning und
• Logic- & Knowledge-Based Approaches.

Letztere sind darauf ausgelegt, während der Entwicklungsphase statisch eingebettetes Wissen aufzunehmen und in der Betriebsphase mithilfe dieses symbolisch enkodierten Wissens induktive oder deduktive Schlussfolgerungen abzuleiten.

6. Erzeugung von Ausgaben, die physische oder virtuelle Umgebungen beeinflussen

KI-Systeme haben nicht nur interne Funktionen, sondern wirken aktiv auf ihre Umgebung ein. Dies kann in Form physischer Steuerung geschehen, etwa in der Robotik oder automatisierten Fahrzeugen, oder in Form digitaler Einflussnahme, wie personalisierte Produktempfehlungen in Finanz- oder Versicherungssystemen.

Konkret werden von der Kommission die Ausgabemodalitäten Text, Video und Musik als indikativ für KI-Systeme benannt. Ferner sind Inhalte wie Vorhersagen, Empfehlungen und Entscheidung als Merkmale für ein KI-System von der Kommission definiert

7. Dynamische Interaktion mit der Umwelt

Ein KI-System reagiert dynamisch auf externe Umgebungen. Das bedeutet, dass es seine Aktionen auf Basis von Rückmeldungen aus der Umgebung anpassen kann. In der Praxis kann das ein Chatbot sein, der in Echtzeit mit Nutzenden interagiert, oder ein Handelsalgorithmus, der Marktbewegungen analysiert und seine Strategien entsprechend anpasst.