Die KI-Verordnung der Union und was sie für Kanzleien konkret bedeutet

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz ist am 1. August 2024 in Kraft getreten und gilt stufenweise seit dem 2. Februar 2025. Sie ist das erste umfassende Gesetz über künstliche Intelligenz, sie heißt im Sprachgebrauch AI Act, und die Anwaltschaft begegnet ihr mit einer Mischung aus Sorge und Gleichgültigkeit, die beide unangebracht sind. Die Verordnung ist Produktsicherheitsrecht. Sie regelt, welche KI-Systeme in Verkehr gebracht und verwendet werden dürfen, unter welchen Auflagen und mit welchen Pflichten für Anbieter und Betreiber, und sie tut das nach Risikoklassen. Für die Kanzlei, die Sprachmodelle in der Mandatsbearbeitung einsetzt, hat sie weniger Folgen, als viele befürchten. Für die Kanzlei, die KI in der Personalabteilung einsetzt, mehr, als viele wissen.

Das System der Risikoklassen

Die Verordnung unterscheidet vier Stufen. Verbotene Praktiken nach Art. 5, die niemand einsetzen darf. Hochrisiko-KI-Systeme nach Art. 6 mit den Anhängen I und III, die strengen Anforderungen an Anbieter und Betreiber unterliegen. Systeme mit besonderen Transparenzpflichten nach Art. 50, die mit Menschen interagieren oder Inhalte erzeugen. Und alle übrigen Systeme, für die die Verordnung außer der Pflicht zur KI-Kompetenz nichts verlangt. Daneben stehen die KI-Modelle mit allgemeinem Verwendungszweck nach den Art. 51 ff., also die Sprachmodelle der großen Anbieter, deren Hersteller eigene Pflichten treffen. Nach Art. 3 unterscheidet die Verordnung zwischen dem Anbieter, der ein System entwickelt und in Verkehr bringt, und dem Betreiber, der es in eigener Verantwortung verwendet. Die meisten Pflichten treffen den Anbieter. Die Kanzlei ist Betreiberin, wenn sie ein System für ihre berufliche Tätigkeit verwendet. Anbieterin wird sie erst, wenn sie ein System unter eigenem Namen entwickelt oder ein bestehendes so verändert, dass es zum Hochrisikosystem wird. Wer fertige Werkzeuge nutzt, tut das nicht.

Die Kanzlei als Betreiberin

Betreiber ist nach Art. 3 Nr. 4 jede natürliche oder juristische Person, die ein KI-System in eigener Verantwortung verwendet, es sei denn, die Verwendung erfolgt im Rahmen einer persönlichen und nicht beruflichen Tätigkeit. Die Kanzlei, die ein Sprachmodell über eine Plattform, eine Programmierschnittstelle oder ein Unternehmenskonto nutzt, ist Betreiberin. Der einzelne Anwalt, der mit einem privaten Konto arbeitet, ist es auch, denn seine Nutzung ist beruflich. Welche Pflichten die Betreiberin treffen, hängt von der Risikoklasse des Systems ab. Für Systeme, die weder verboten noch hochriskant noch transparenzpflichtig sind, bleibt allein die Pflicht zur KI-Kompetenz nach Art. 4, und das ist der Regelfall der Kanzlei. Keine Zulassung, keine Registrierung, keine Dokumentation, keine Meldung. Die Kanzlei, die ein Sprachmodell zur Recherche, zur Formulierung oder zur Aktenauswertung nutzt, verletzt die Verordnung nicht, solange sie ihr Personal schult. Alles andere folgt aus dem Berufsrecht, dem Strafrecht und dem Datenschutzrecht, nicht aus der KI-Verordnung.

Die Pflicht zur KI-Kompetenz seit Februar 2025

Nach Art. 4 müssen Anbieter und Betreiber nach besten Kräften sicherstellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Ausbildung und des Kontextes der Nutzung. Die Pflicht gilt seit dem 2. Februar 2025 für jede Kanzlei, die KI-Systeme nutzt. Sie ist die Kodifizierung der Sorgfaltspflicht für das KI-Zeitalter. Konkret verlangt sie, dass die Anwälte und Mitarbeiter, die mit Sprachmodellen arbeiten, wissen, was diese Systeme können und was nicht, dass sie Halluzinationen erkennen, die Grenzen der Vertraulichkeit kennen und die Ausgaben prüfen. Die Verordnung schreibt keine Form vor, keine Stundenzahl und keine Zertifizierung. Eine Schulung, die auf die tatsächliche Nutzung zugeschnitten ist, genügt. Die Kanzlei erfüllt die Pflicht durch eine Richtlinie zum KI-Einsatz, durch eine dokumentierte Schulung und durch die Einweisung neuer Mitarbeiter, und sie sollte das tun, weil die Marktüberwachung die Einhaltung prüfen kann und weil die Kammern nach dem Einsatz fragen. Eine eigene Geldbuße für den Verstoß gegen Art. 4 sieht Art. 99 nicht vor. Berufsrechtlich ist der Verstoß eine Verletzung der Organisationspflicht, und das reicht als Sanktion aus.

Verbotene Praktiken

Art. 5 verbietet seit dem 2. Februar 2025 eine Reihe von Praktiken, von denen die meisten mit der Kanzlei nichts zu tun haben, manipulative Techniken, die Ausnutzung von Schwächen, das Social Scoring, die ungezielte Erfassung von Gesichtsbildern und die biometrische Fernidentifizierung in Echtzeit. Zwei Verbote sind für Kanzleien beachtlich. Nach Art. 5 Abs. 1 lit. f ist der Einsatz von Systemen zur Emotionserkennung am Arbeitsplatz verboten. Gemeint ist die Ableitung von Emotionen aus biometrischen Daten, aus Gesicht, Stimme oder Körpersprache, etwa in Videokonferenzen. Eine Kanzlei darf solche Software nicht einsetzen. Die Auswertung der Stimmung eines Textes fällt nicht ohne Weiteres unter dieses Verbot, sie ist eine Frage des Datenschutz- und Arbeitsrechts. Nach Art. 5 Abs. 1 lit. d ist die Risikobewertung natürlicher Personen verboten, die allein auf Profiling beruht, um die Wahrscheinlichkeit einer Straftat vorherzusagen. Das Verbot richtet sich an Strafverfolgungsbehörden, und der Verteidiger sollte es kennen, weil es die Grenze markiert, die predictive policing nicht überschreiten darf. Ein Verstoß gegen Art. 5 ist mit den höchsten Bußgeldern der Verordnung bedroht.

Hochrisiko und warum die Mandatsbearbeitung nicht darunter fällt

Hochrisiko-KI-Systeme sind nach Art. 6 solche, die als Sicherheitsbauteil in Produkten nach den Rechtsakten des Anhangs I eingesetzt werden, und solche, die in einen der Bereiche des Anhangs III fallen, Biometrie, kritische Infrastruktur, Bildung, Beschäftigung, Zugang zu wesentlichen Diensten, Strafverfolgung, Migration und Rechtspflege. Anhang III Nr. 8 erfasst KI-Systeme, die bestimmungsgemäß von einer Justizbehörde oder in deren Auftrag verwendet werden sollen, um sie bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften und bei der Anwendung des Rechts auf konkrete Sachverhalte zu unterstützen, und ebenso Systeme, die in derselben Weise für die alternative Streitbeilegung eingesetzt werden. Der Erwägungsgrund 61 nimmt rein administrative Hilfstätigkeiten aus, die die Rechtspflege im Einzelfall nicht berühren. Die Mandatsbearbeitung durch einen Rechtsanwalt ist keine Tätigkeit einer Justizbehörde und geschieht nicht in deren Auftrag. Ein Sprachmodell, das der Anwalt zur Aktenauswertung, zur Recherche oder zum Entwurf einsetzt, ist deshalb kein Hochrisikosystem, auch wenn es Rechtsvorschriften auslegt. Die Verordnung knüpft die Hochrisikoklasse nicht an den juristischen Gegenstand einer Tätigkeit, sondern an die Stelle, die das System einsetzt, und an die Wirkung auf den Betroffenen. Die Wirkung geht vom Gericht aus, nicht vom Berater. Die Kanzlei, die Legal-Tech-Werkzeuge für Mandanten einsetzt, wird auch dadurch nicht zur Hochrisikobetreiberin, solange die Werkzeuge nicht für eine Justizbehörde oder ein Streitbeilegungsverfahren bestimmt sind.

Die Ausnahme ist die Personalabteilung. Anhang III Nr. 4 erfasst KI-Systeme, die für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere für gezielte Stellenanzeigen, für die Sichtung oder Filterung von Bewerbungen und für die Bewertung von Bewerbern, sowie Systeme, die Entscheidungen über Arbeitsbedingungen, Beförderung oder Kündigung treffen oder beeinflussen, Aufgaben zuweisen oder die Leistung überwachen und bewerten. Die Kanzlei, die Bewerbungen mit einem KI-System vorsortiert oder die Leistung ihrer Mitarbeiter mit einem System bewertet, betreibt ein Hochrisikosystem und unterliegt den Betreiberpflichten des Art. 26. Sie muss das System nach der Gebrauchsanweisung des Anbieters verwenden, die menschliche Aufsicht durch geschulte Personen sicherstellen, die Eingabedaten kontrollieren, die Protokolle mindestens sechs Monate aufbewahren, die Arbeitnehmervertretung und die betroffenen Arbeitnehmer vor der Inbetriebnahme informieren und die Betroffenen darüber unterrichten, dass ein Hochrisikosystem verwendet wird. Diese Pflichten gelten nach dem geänderten Zeitplan ab dem 2. Dezember 2027, und sie treffen jede Kanzlei, die Personalsoftware mit KI-Funktionen einsetzt. Viele tun das, ohne es zu wissen.

Transparenzpflichten seit August 2026

Art. 50 enthält Transparenzpflichten, die seit dem 2. August 2026 gelten. Anbieter von Systemen, die für die Interaktion mit natürlichen Personen bestimmt sind, müssen sie so gestalten, dass die Personen erfahren, dass sie mit einer KI interagieren, es sei denn, das ist offensichtlich. Ein Chatbot auf der Kanzleiwebsite muss dem Nutzer also mitteilen, dass er eine Maschine ist, und die Kanzlei als Betreiberin muss sich vergewissern, dass der Anbieter das vorgesehen hat. Anbieter von Systemen, die synthetische Inhalte erzeugen, müssen die Ausgaben maschinenlesbar kennzeichnen, das betrifft die Hersteller der Sprachmodelle, nicht die Kanzlei. Betreiber, die Deepfakes erzeugen, müssen sie offenlegen. Und Betreiber, die mit KI Texte erzeugen oder manipulieren, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt wurde. Davon macht Art. 50 Abs. 4 eine Ausnahme, die zwei Voraussetzungen kumulativ verlangt. Der Text muss einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen worden sein, und eine natürliche oder juristische Person muss die redaktionelle Verantwortung für die Veröffentlichung tragen. Wer nur einen Verantwortlichen nennt, ohne dass jemand den Text geprüft hat, erfüllt die Ausnahme nicht. Auf diese Ausnahme beruft sich auch diese Website, wie das Editorial erklärt. Für Schriftsätze, Gutachten und Mandantenschreiben gilt die Kennzeichnungspflicht nicht, weil sie nicht veröffentlicht werden. Für Fachbeiträge und Websites gilt sie nicht, wenn der Anwalt die Texte prüft und die redaktionelle Verantwortung übernimmt. Die Verordnung verlangt vom Anwalt keine Kennzeichnung seiner Arbeitsprodukte. Wer das behauptet, hat Art. 50 nicht gelesen.

Die Justiz als Hochrisikobetreiberin und die Folgen für die Verteidigung

Für den Strafverteidiger ist die Verordnung an einer anderen Stelle bedeutsam. Justiz und Strafverfolgungsbehörden sind Hochrisikobetreiber, wenn sie KI-Systeme nach Anhang III Nr. 6 und Nr. 8 einsetzen, etwa zur Bewertung der Verlässlichkeit von Beweismitteln, zur Risikobewertung von Beschuldigten, zum Profiling oder zur Unterstützung von Entscheidungen. Öffentliche Stellen müssen vor der Inbetriebnahme eines solchen Systems nach Art. 27 eine Grundrechte-Folgenabschätzung durchführen, es nach Art. 49 in der EU-Datenbank registrieren und die Betreiberpflichten des Art. 26 erfüllen. Nach Art. 86 hat jede Person, die von einer Entscheidung betroffen ist, die der Betreiber auf der Grundlage der Ausgabe eines Hochrisikosystems getroffen hat und die Rechtswirkung entfaltet oder sie erheblich beeinträchtigt, das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zur Rolle des Systems im Entscheidungsprozess und zu den wichtigsten Elementen der Entscheidung zu erhalten. Für die Verteidigung folgt daraus ein Auskunftsanspruch, der neben das Akteneinsichtsrecht tritt, sobald diese Pflichten gelten. Der Beschuldigte, dessen Haftentscheidung, Anklage oder Strafzumessung auf einem KI-System beruht, kann verlangen, dass die Justiz die Rolle des Systems erläutert, und der Verteidiger, der eine Entscheidung angreift, sollte fragen, ob ein solches System beteiligt war. Das Verbot des Art. 5 Abs. 1 lit. d und die Hochrisikopflichten sind daneben Maßstäbe, an denen sich die Verwertbarkeit maschinell gewonnener Erkenntnisse messen lässt. Eine Auswertung, die mit einem nicht registrierten oder nicht konformen System erstellt wurde, ist ein Ansatzpunkt für ein Verwertungsverbot. Die Rechtsprechung hat ihn noch nicht entwickelt. Sie wird ihn entwickeln müssen.

Die Modelle mit allgemeinem Verwendungszweck

Die Sprachmodelle der großen Anbieter sind KI-Modelle mit allgemeinem Verwendungszweck nach Art. 3 Nr. 63. Ihre Anbieter unterliegen seit dem 2. August 2025 den Pflichten der Art. 53 ff., der technischen Dokumentation, der Information nachgelagerter Anbieter, einer Strategie zur Einhaltung des Urheberrechts und einer Zusammenfassung der Trainingsdaten, bei Modellen mit systemischem Risiko zusätzlich der Bewertung, der Risikominderung und der Meldung schwerwiegender Vorfälle. Die Kommission hat im Juli 2025 einen Verhaltenskodex veröffentlicht, dem die meisten Anbieter beigetreten sind. Für die Kanzlei bedeuten diese Pflichten, dass sie von ihrem Anbieter Dokumentation verlangen kann, die dieser ohnehin erstellen muss, und dass die Frage, mit welchen Daten das Modell trainiert wurde, eine Antwort hat, die der Anbieter veröffentlichen muss. Die Pflichten sind Anbieterpflichten. Sie machen die Kanzlei nicht zur Anbieterin, und sie ändern nichts an der berufsrechtlichen Bewertung der Nutzung.

Sanktionen und Aufsicht

Art. 99 sieht Geldbußen bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes für verbotene Praktiken vor, bis zu 15 Millionen Euro oder drei Prozent für Verstöße gegen die übrigen Pflichten von Anbietern und Betreibern und bis zu 7,5 Millionen Euro oder ein Prozent für falsche Angaben gegenüber Behörden, jeweils der höhere Betrag, bei kleinen und mittleren Unternehmen der niedrigere. Die Bußgelder verhängen die nationalen Marktüberwachungsbehörden. Deutschland hat mit dem Durchführungsgesetz, dem KI-MIG, die Bundesnetzagentur als zentrale Marktüberwachungsbehörde bestimmt. Für einzelne Bereiche gelten Zuständigkeitsausnahmen, für KI-Systeme in Strafverfolgung und Justiz sind nach der Verordnung selbst die Datenschutzaufsichtsbehörden zuständig. Für die Kanzlei als Betreiberin eines Systems ohne Hochrisiko besteht ein Bußgeldrisiko nur bei verbotenen Praktiken und bei Verstößen gegen Art. 50. Für die Kanzlei als Betreiberin eines Hochrisikosystems in der Personalabteilung besteht das Bußgeldrisiko nach Art. 99 Abs. 4 in voller Höhe, sobald die Pflichten gelten. Die Behörden können daneben Anordnungen erlassen und die Nutzung untersagen.

Haftung

Die Kommission hatte neben der Verordnung eine KI-Haftungsrichtlinie vorgeschlagen, die Beweiserleichterungen für Geschädigte vorsah. Im Februar 2025 kündigte sie die Rücknahme an, am 6. Oktober 2025 hat sie den Vorschlag förmlich zurückgezogen. Es bleibt beim allgemeinen Haftungsrecht, für den Anwalt bei § 280 BGB und § 43 BRAO, und die Verantwortung für die Ausgabe eines Modells liegt bei dem, der sie verwendet. Die neue Produkthaftungsrichtlinie (EU) 2024/2853, die bis zum 9. Dezember 2026 umzusetzen ist, erfasst Software und damit KI-Systeme als Produkte und begründet eine verschuldensunabhängige Haftung des Herstellers für Schäden an Leben, Körper, Gesundheit und Privatvermögen, mit Beweiserleichterungen bei komplexen Produkten. Der Kanzlei, die durch ein fehlerhaftes System einen Vermögensschaden erleidet, hilft die Richtlinie wenig, weil reine Vermögensschäden nicht erfasst sind, und der Regress gegen den Anbieter richtet sich nach dem Vertrag, der die Haftung regelmäßig ausschließt. Der Anwalt haftet dem Mandanten nach den allgemeinen Regeln, also bei Pflichtverletzung, Verschulden, Schaden und Kausalität. Der Anbieter haftet dem Anwalt in aller Regel nicht. Das ist die Lage, in der die Prüfpflicht das einzige Mittel bleibt.

Der Zeitplan nach der Verschiebung

Die Verordnung gilt stufenweise. Seit dem 2. Februar 2025 gelten die allgemeinen Bestimmungen, die verbotenen Praktiken und die KI-Kompetenz, seit dem 2. August 2025 die Pflichten für Modelle mit allgemeinem Verwendungszweck, die Governance und die Sanktionen, seit dem 2. August 2026 die Transparenzpflichten des Art. 50. Die Hochrisikopflichten hat die Union verschoben. Die Kommission hatte im November 2025 im Rahmen des sogenannten Digitalen Omnibus vorgeschlagen, ihre Anwendung hinauszuschieben, bis harmonisierte Normen und Leitlinien vorliegen. Dieser Vorschlag ist mit der Änderungsverordnung (EU) 2026/1744 umgesetzt worden, die seit dem 27. Juli 2026 in Kraft ist. Nach der amtlichen Übersicht der Bundesnetzagentur gelten die Hochrisikopflichten für Systeme des Anhangs III ab dem 2. Dezember 2027 und für Systeme des Anhangs I ab dem 2. August 2028. Die Kanzlei, die ein Hochrisikosystem in der Personalabteilung einsetzt, hat damit Zeit gewonnen, nicht Freiheit. Die Pflicht zur KI-Kompetenz, die Verbote und die Transparenzpflichten sind von der Verschiebung nicht betroffen.

Was die Verordnung für die Kanzlei nicht regelt

Die KI-Verordnung regelt nicht, ob der Anwalt Mandatsdaten in ein Modell geben darf. Sie regelt nicht die Verschwiegenheit, nicht die Sorgfalt, nicht die Haftung gegenüber dem Mandanten und nicht die Frage, ob die Ausgabe eines Modells eine anwaltliche Leistung ist. Diese Fragen bleiben beim Berufsrecht, beim Strafrecht und beim Datenschutzrecht, die neben der Verordnung gelten und die sie nach Art. 2 Abs. 7 und den Erwägungsgründen unberührt lässt. Die Verordnung ist für die Kanzlei ein Rahmen mit wenigen konkreten Pflichten, der KI-Kompetenz, der Transparenz bei Chatbots und den Betreiberpflichten im Personalwesen, und sie nimmt im Übrigen die Anbieter in die Pflicht, was die Kanzlei bei der Auswahl nutzen kann. Wer die Verordnung als Verbot liest, hat sie nicht verstanden. Wer sie als Freibrief liest, ebenso. Sie ist ein Produktgesetz, das den Markt ordnet, auf dem die Kanzlei einkauft. Die Verantwortung für das, was sie mit dem Eingekauften tut, bleibt bei ihr.