A. Grundlegendes zum Leitlinienentwurf
Die Leitlinien beruhen auf Art. 6 Abs. 5 der KI-VO und wurden von der Europäischen Kommission am 19.05.2026 als Entwurf veröffentlicht. Im Anschluss führte die Kommission eine öffentliche Konsultation durch, in deren Rahmen Interessenträger Stellung nehmen konnten. Die ursprünglich bis zum 23.06.2026 vorgesehene Frist wurde verlängert; die Konsultation endete schließlich am 23.07.2026 (abrufbar unter: https://digital-strategy.ec.europa.eu/en/consultations/targeted-consultation-draft-guidelines-classification-high-risk-artificial-intelligence-systems, abgerufen am 27.07.2026).
Der Entwurf ist in drei Teile gegliedert. Teil 1 enthält auf sechs Seiten allgemeine Ausführungen und grundlegende Erläuterungen zur Einordnung von Hochrisiko-KI-Systemen („Allgemeiner Teil“, vgl. im Nachfolgenden unter B.). Teil 2 behandelt auf 13 Seiten Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 i.V.m. Anhang I der KI-VO. Den Schwerpunkt bildet Teil 3, der auf 148 Seiten die Hochrisiko-KI-Systeme nach Art. 6 Abs. 2 bzw. die Anwendungsfälle des Anhangs III der KI-VO (samt möglicher Ausnahmen nach Art. 6 Abs. 3 KI-VO) anhand zahlreicher Praxisbeispiele erläutert („Besonderer Teil“, vgl. im Nachfolgenden mit Blick auf die Rechtspflege unter C.). Im vorliegenden Beitrag ausgeklammert bleiben KI-Systeme im Bereich der alternativen Streitbeilegung, welche Nr. 8 Buchst. a Anhang III KI-VO a.E. thematisiert.
B. Wissenswertes aus dem Allgemeinen Teil
Bereits in Rn. 3 des Entwurfs der Leitlinien stellt die Europäische Kommission klar, dass die enthaltenen Beispiele zwar darauf abzielen, sämtliche von der KI-VO erfassten Bereiche und Anwendungsfälle abzudecken, jedoch ausdrücklich nicht als abschließend oder erschöpfend zu verstehen sind. Die aufgeführten Fallbeispiele sollen daher Orientierung bieten, können die notwendige Einzelfallprüfung aber nicht ersetzen.
Darüber hinaus weist die Kommission in Rn. 4 des Leitlinienentwurfs darauf hin, dass der Entwurf künftig durch weitere Leitlinien der Kommission ergänzt bzw. ersetzt werden soll. Diese sollen insbesondere die Einhaltung der Anforderungen an Hochrisiko-KI-Systeme sowie die Pflichten von Anbietern und Betreibern erleichtern. In Rn. 14 des Entwurfs der Leitlinien kündigt die Kommission zudem weitere Leitlinien zur praktischen Anwendung von Art. 25 KI-VO an.
Hervorzuheben ist ferner der in Rn. 6 des Leitlinienentwurfs enthaltene Hinweis auf dessen rechtliche Bedeutung. Danach handelt es sich bei den Inhalten der Leitlinien nicht um rechtsverbindliche Vorgaben, sondern um die Auslegung der Europäischen Kommission. Eine verbindliche Auslegung des Unionsrechts bleibt allein dem EuGH vorbehalten. Gleichwohl kommt den Leitlinien in der Praxis eine hohe Bedeutung zu.
Besondere praktische Relevanz besitzen die Ausführungen des Entwurfs der Leitlinien zur Zweckbestimmung eines KI-Systems in Rn. 12. Maßgeblich ist die Gesamtdarstellung des Systems. So kann die Einstufung eines KI-Systems als Hochrisiko-KI-System nicht allein durch entsprechende Formulierungen in den Nutzungsbedingungen vermieden werden. Schließen die Nutzungsbedingungen Hochrisiko-Anwendungen nicht ausdrücklich aus, geht die Kommission grundsätzlich davon aus, dass solche Verwendungen von der Zweckbestimmung umfasst sind und bei der Risikoeinstufung zu berücksichtigen sind. Umgekehrt genügt nach Auffassung der Kommission auch der bloße Hinweis in den Nutzungsbedingungen, Hochrisiko-Verwendungen seien ausgeschlossen, nicht ohne Weiteres. Werden Hochrisiko-Anwendungen durch die Produktbeschreibung, die bereitgestellten Beispiele oder die Marktpositionierung des Anbieters tatsächlich vorgesehen, nahegelegt oder sogar gefördert, kann nach dem Leitlinienentwurf gleichwohl von einer entsprechenden Zweckbestimmung und damit von einer Hochrisiko-Einstufung auszugehen sein.
C. Wissenswertes aus dem Besonderen Teil zu Anhang III KI-VO mit Fokus auf die Rechtspflege
I. Einordnung der Staatsanwaltschaften als Justizbehörden
Nach Rn. 413 des Leitlinienentwurfs können Staatsanwaltschaften neben ihrer Eigenschaft als „Strafverfolgungsbehörden“ i.S.v. Art. 3 Nr. 45 Buchst. a KI-VO möglicherweise zusätzlich als „Justizbehörden“ einzuordnen sein. Dies gilt jedoch nicht, wenn es ihnen an der erforderlichen institutionellen Unabhängigkeit fehlt. Unter Heranziehung der in Rn. 413 ausdrücklich in Bezug genommenen Rechtsprechung des EuGH zum Europäischen Haftbefehl ist eine solche institutionelle Unabhängigkeit bei deutschen Staatsanwaltschaften zu verneinen, so dass diese nicht als Justizbehörden in diesem Sinne anzusehen sind. Deutsche Staatsanwaltschaften sind nach der Rechtsprechung des EuGH jedenfalls nicht in dem für die eigenständige Ausstellung eines Europäischen Haftbefehls erforderlichen Sinne unabhängig. Aufgrund des in den §§ 146, 147 GVG verankerten externen Weisungsrechts besteht die Möglichkeit, dass sie bei der Entscheidung über die Ausstellung eines Europäischen Haftbefehls unmittelbar oder mittelbar Einzelweisungen der Exekutive unterworfen werden; bereits diese abstrakte rechtliche Möglichkeit genügt, ohne dass es auf eine tatsächliche Weisung im Einzelfall ankommt. Sie gelten daher insoweit nicht als „ausstellende Justizbehörde“ i.S.v. Art. 6 Abs. 1 des Rahmenbeschlusses 2002/584/JI. Die Feststellung ist allerdings auf diesen unionsrechtlichen Funktionszusammenhang beschränkt und bedeutet nicht, dass deutschen Staatsanwaltschaften generell die Eigenschaft als Justizbehörde oder jede Form institutioneller Unabhängigkeit abzusprechen wäre (EuGH, Urt. v. 27.05.2019 - C-508/18, C-82/19 PPU - NJW 2019, 2145 „OG (Parquet de Lübeck)“).
II. Tatbestand von Art. 6 Abs. 2 i.V.m. Anhang III Nr. 8 Buchst. a KI-VO
Nach den Rn. 417 f. erfasst der Tatbestand von Art. 6 Abs. 2 i.V.m. Anhang III Nr. 8 Buchst. a KI-VO sowohl KI-Systeme, die eine Justizbehörde bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften unterstützen, als auch KI-Systeme, die bei der Anwendung des Rechts auf konkrete Sachverhalte (Subsumtion) unterstützen sollen. Trotz der Verwendung des Wortes „und“ im Wortlaut der Vorschrift müssen die beiden Unterstützungsleistungen nach der ausdrücklichen Klarstellung im Leitlinienentwurf damit nicht kumulativ vorliegen. Es genügt vielmehr, dass das KI-System entweder bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften oder bei der Subsumtion unterstützt. Bemerkenswert ist jedoch, dass der Leitlinienentwurf bei der ersten Alternative nicht weiter aufspaltet: Nach der Verlautbarung der Kommission müsste das KI-System also in dieser Alternative bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften unterstützen.
III. Positivbeispiele für Hochrisiko-KI-Systeme in der Rechtspflege
Als Hochrisiko-KI-Systeme in der Rechtspflege werden zunächst KI-Systeme eingeordnet, die zur Erstellung gerichtlicher Entscheidungen eingesetzt werden sollen. Bei diesen KI-Systemen soll auch keine der in Art. 6 Abs. 3 KI-VO vorgesehenen Ausnahmen greifen. Insoweit findet sich ein wichtiges allgemeines Argumentationsmuster, das auch an zahlreichen weiteren Stellen herangezogen wird: Aufgrund seines Einflusses auf die Entscheidungsfindung könne das betreffende KI-System von keiner der in Art. 6 Abs. 3 KI-VO aufgeführten Ausnahmen profitieren.
Als Hochrisiko-KI-Systeme sind nach dem Leitlinienentwurf darüber hinaus KI-Systeme anzusehen, die für repetitive Fälle bzw. Massenverfahren eingesetzt werden sollen. Gleiches gilt für KI-Systeme, die für einen konkreten Sachverhalt die einschlägigen Präzedenzfälle bzw. möglichen Leitentscheidungen und relevanten Rechtsnormen auswählen. Auch solche KI-Systeme könnten nach dem Entwurf die rechtliche Entscheidungsfindung maßgeblich beeinflussen und unterfielen daher grundsätzlich dem Hochrisiko-KI-Bereich der Rechtspflege.
IV. Negativbeispiele für Hochrisiko-KI-Systeme in der Rechtspflege
Keine Hochrisiko-KI-Systeme im Bereich der Rechtspflege seien demgegenüber Speech-to-Text-Systeme sowie KI-gestützte Chatbots auf den Internetseiten von Gerichten. Ebenfalls nicht als Hochrisiko-KI-Systeme einzuordnen seien KI-Systeme, die beim Entwurf von Pressemitteilungen unterstützen, und KI-Systeme, die der Zusammenfassung öffentlichkeitswirksamer Entscheidungen in allgemeinverständlicher Sprache dienen.
Auch KI-Systeme zur Unterstützung bei der Fallzuweisung stellten danach keine Hochrisiko-KI-Systeme dar. Gleiches würde für solche KI-Systeme gelten, die der Strukturierung bzw. Durchdringung gerichtlicher Beweismittel dienen, etwa indem sie eine Chronologie erstellen oder eine Suchfunktion innerhalb der Beweismittel bereitstellen. Schließlich fielen auch KI-Systeme, die lediglich sonstige untergeordnete Verwaltungstätigkeiten unterstützen, nicht in den Hochrisiko-KI-Bereich der Rechtspflege.
V. Anwendungsbeispiele für die Ausnahmen nach Art. 6 Abs. 3 KI-VO
Zu den KI-Systemen, auf die eine Ausnahme nach Art. 6 Abs. 3 KI-VO Anwendung finden kann, würden nach dem Leitlinienentwurf zunächst solche KI-Systeme gehören, die bei der Vorklassifizierung eingehender Anträge oder Klagen unterstützen. Als eng begrenzte Verfahrensaufgabe i.S.v. Art. 6 Abs. 3 Unterabs. 2 Buchst. a KI-VO wird zudem ausdrücklich die Extraktion von Metadaten eingeordnet.
Von den Ausnahmen des Art. 6 Abs. 3 KI-VO könnten ferner fortgeschrittene Suchmaschinen sowie KI-Systeme zur sprachlichen Überarbeitung von Texten profitieren. Gleiches gelte für KI-Systeme, die auf Aspekte hinweisen, die in einem Urteilsentwurf bislang noch nicht behandelt worden sind. Voraussetzung sei jeweils, dass die KI-Systeme die menschliche Entscheidungsfindung lediglich unterstützend begleiten und das Ergebnis der Entscheidung nicht wesentlich beeinflussen.
D. Fazit
Der Leitlinienentwurf bietet für die Einordnung von KI-Systemen in der Rechtspflege eine hilfreiche, wenn auch rechtlich unverbindliche Orientierung. Maßgeblich ist vor allem der konkrete Einfluss des jeweiligen KI-Systems auf die richterliche Entscheidungsfindung: Unterstützt es die rechtliche Bewertung oder die Erstellung einer gerichtlichen Entscheidung – wenn auch nur in gewissen Punkten – inhaltlich, liegt regelmäßig ein Hochrisiko-KI-System vor; beschränkt es sich dagegen auf vorbereitende, sprachliche oder administrative Tätigkeiten ohne wesentlichen Einfluss auf das Entscheidungsergebnis, kommt eine Ausnahme nach Art. 6 Abs. 3 KI-VO in Betracht oder der Hochrisiko-KI-Bereich ist bereits nicht eröffnet. Die zahlreichen Beispiele erleichtern damit eine differenzierte Einzelfallprüfung, können diese jedoch nicht ersetzen.
