Guidelines zur KI-Definition (AI Act) veröffentlicht

Die EU-Kommission hat am 06.02.2025 Leitlinien veröffentlicht, die das Ziel haben, die sehr vage Definition von KI-Systemen im AI Act zu schärfen. Die KI-Definition ist ein Schlüsselelement des AI Acts, ist sie doch maßgeblich dafür, welche Produkte unter die Verordnung fallen und welche nicht. DATEV hatte sich in den Prozess der Erarbeitung der Leitlinien mit einer Stellungnahme eingebracht.

Insbesondere drei Merkmale der KI-Definition blieben im AI Act erklärungsbedürftig: Nach der KI-Definition sei ein KI-System auf einen zu unterschiedlichem Grade autonomen Betrieb ausgelegt (Autonomy), könne nach seiner Betriebsaufnahme anpassungsfähig (Adaptiveness) sein und sei in der Lage, Ableitungen (Inferencing) zu treffen.

Autonomy: Die Leitlinien stellen klar, dass ein KI-System zumindest zu einem gewissen Grad autonom sein muss. Dies schließe Systeme von der KI-Definition aus, die ausschließlich mit vollständiger manueller menschlicher Beteiligung und Intervention arbeiten. Menschliche Beteiligung und menschliche Intervention können entweder direkt, z. B. durch manuelle Steuerung, oder indirekt, z. B. durch automatisierte systembasierte Steuerung, die es Menschen ermöglicht, Systemoperationen zu delegieren oder zu überwachen, erfolgen.

Adaptiveness: Die Leitlinien stellen klar, dass die Fähigkeit eines Systems, automatisch zu lernen, neue Muster zu entdecken oder Beziehungen in den Daten zu erkennen, die über das hinausgehen, wofür es ursprünglich trainiert wurde, eine fakultative und somit keine entscheidende Bedingung für die Feststellung ist, ob ein System als KI-System eingestuft werden kann.

Inferencing: Gemäß den Richtlinien ist die Fähigkeit, Schlussfolgerungen zu ziehen, eine wesentliche, unverzichtbare Voraussetzung, die KI-Systeme von einfacheren traditionellen Softwaresystemen oder Programmieransätzen unterscheidet. „Inferencing“ soll dabei breit gedacht werden und beziehe sich auf die Erstellungsphase, in der ein System mithilfe von KI-Techniken (z. B. Machine Learning oder Logic- und Knowledge-based Approaches), die Schlussfolgerungen ermöglichen, Ergebnisse ableitet.

Nicht unter die KI-Definition fallen nach den Leitlinien die folgenden Bereiche:

• Systeme zur Verbesserung der mathematischen Optimierung oder zur Beschleunigung und Annäherung an traditionelle, bewährte Optimierungsmethoden, wie z. B. lineare oder logistische Regressionsmethoden (hiervon können auch Machine Learning-Ansätze erfasst sein). Das liege daran, dass diese Modelle zwar die Fähigkeit hätten, Schlussfolgerungen zu ziehen, aber nicht über die „grundlegende Datenverarbeitung“ hinausgingen.
• Grundlegende Datenverarbeitungssysteme fallen nicht in den Anwendungsbereich der KI-Definition. Damit sind Systeme gemeint, die vordefinierten, expliziten Anweisungen oder Vorgängen folgen. Diese Systeme werden entwickelt und eingesetzt, um Aufgaben auf der Grundlage manueller Eingaben oder Regeln auszuführen, ohne dass in irgendeiner Phase des Systemlebenszyklus „gelernt, argumentiert oder modelliert“ wird. Sie arbeiten auf der Grundlage fester, von Menschen programmierter Regeln, ohne KI-Techniken zu verwenden.
• Klassische Heuristik ist ebenso nicht vom Anwendungsbereich erfasst. Klassische heuristische Verfahren beinhalten in der Regel eher regelbasierte Ansätze, Mustererkennung oder Trial-and-Error-Strategien als datenbasiertes Lernen.
• Einfache Vorhersagesysteme: Alle maschinellen Systeme, deren Leistung über eine grundlegende statistische Lernregel erreicht werden kann, fallen aufgrund ihrer Leistung nicht in den Anwendungsbereich der Definition von KI-Systemen, obwohl sie technisch gesehen als auf maschinellem Lernen basierend eingestuft werden können.

Quelle: DATEV eG Informationsbüro Brüssel