Der EU AI Act ist seit August 2024 in Kraft, aber erst jetzt wird er für die meisten Unternehmen konkret: Am 2. August 2026 – in drei Wochen – werden die Pflichten für Hochrisiko-KI-Systeme wirksam, die umfangreichste Stufe der gestaffelten Anwendung. Wer Software mit KI-Funktionen beauftragt, betreibt oder gerade entwickeln lässt, sollte jetzt drei Fragen beantworten können: Welche Risikoklasse? Welche Rolle spielen wir – Anbieter oder Betreiber? Und was ist dokumentiert?
Vorweg zur Einordnung: Dieser Artikel ist keine Rechtsberatung. Er ist die Praxissicht einer Entwicklungsagentur, die KI-Funktionen für B2B-Kunden baut und die Einstufungsfragen deshalb in jedem Projekt beantworten muss.
Die Risikoklassen – und wo Ihre Software wahrscheinlich steht
Der AI Act reguliert nicht „KI" als Technologie, sondern Einsatzzwecke. Vier Klassen entscheiden über Ihre Pflichten:
| Risikoklasse | Typische Beispiele | Pflichten | Relevanz für B2B-Software |
|---|---|---|---|
| Verboten | Social Scoring, manipulative Techniken | Verbot seit Februar 2025 | praktisch keine |
| Hochrisiko | Bewerber-Screening, Kreditwürdigkeitsprüfung, kritische Infrastruktur, Medizinprodukte | Risikomanagement, Datenqualität, Doku, menschliche Aufsicht, CE-Konformität – ab 2.8.2026 | nur bei Anhang-III-Einsatzzwecken |
| Begrenztes Risiko | Chatbots, KI-Assistenten, generierte Inhalte | Transparenz- und Kennzeichnungspflichten | trifft die meisten KI-Features im Web |
| Minimales Risiko | Spam-Filter, interne Automatisierung, Code-Assistenten | keine neuen Pflichten (freiwillige Kodizes) | der Großteil interner KI-Nutzung |
Die gute Nachricht für die meisten unserer Kunden: Eine RAG-Suche über eigene Produktdaten, ein interner Dokumenten-Assistent oder KI-beschleunigte Entwicklung selbst sind kein Hochrisiko-Einsatz. Die Pflicht, die fast alle trifft, ist unspektakulärer – Transparenz: Nutzer müssen erkennen können, dass sie mit KI interagieren, und KI-generierte Inhalte müssen als solche erkennbar sein.
Der Deployer-Blindspot: betroffen, auch wenn Sie nur einkaufen
Der verbreitetste Irrtum in Entscheider-Gesprächen: „Wir entwickeln ja keine KI, uns betrifft das nicht." Der AI Act unterscheidet zwischen Anbietern (Provider) und Betreibern (Deployer) – und Betreiber haben eigene Pflichten. Wer ein KI-System unter eigener Verantwortung nutzt, muss je nach Klasse für menschliche Aufsicht sorgen, Eingabedaten kontrollieren, Vorfälle melden und seit Februar 2025 nachweisen können, dass die eigenen Mitarbeitenden ausreichende KI-Kompetenz haben (Artikel 4, „AI Literacy").
Konkret heißt das: Auch die Copilot-Lizenzen im Entwicklungsteam, das Chatbot-Widget vom SaaS-Anbieter und das intern gebastelte GPT-Tool gehören in ein Systeminventar – inklusive Zweck, Risikoeinordnung und Freigabestatus. Ungenehmigte Tool-Nutzung („Shadow AI") ist damit nicht mehr nur ein Sicherheitsthema, sondern ein Compliance-Thema.
Die Checkliste für Auftraggeber
- Systeminventar erstellen: Welche KI-Systeme und -Funktionen laufen bei uns – eingekauft, eingebettet, selbst beauftragt?
- Risikoeinordnung dokumentieren: pro System Einsatzzweck gegen Anhang III prüfen; Ergebnis schriftlich festhalten, auch wenn es „minimal" lautet.
- Rollen klären: Wo sind wir Betreiber, wo (etwa bei stark angepassten Systemen) womöglich Anbieter?
- Transparenz umsetzen: Kennzeichnung von KI-Interaktion und generierten Inhalten in allen Nutzer-Touchpoints.
- KI-Kompetenz nachweisen: Schulungen dokumentieren – die Pflicht gilt seit Februar 2025.
- Verträge prüfen: Bei beauftragter Entwicklung gehören Risikoeinordnung, Trainingsausnahmen und Doku-Pflichten ins Statement of Work.
Was das für laufende Projekte bedeutet
Für Neuprojekte ist die Einordnung billig – sie kostet einen Workshop-Baustein. Teuer wird Nachrüsten: Ein System, das nachträglich als hochriskant eingestuft wird, braucht Risikomanagement, Datenqualitäts-Nachweise und technische Dokumentation rückwirkend. Deshalb gehört die AI-Act-Einordnung an den Projektanfang, in dieselbe Phase wie Datenschutz-Folgenabschätzung und Hosting-Entscheidung. Bei Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes für die schwersten Verstöße ist das keine Formalie.
Wie wir damit umgehen
In unseren Projekten ist die Einstufung Teil der Discovery: Einsatzzweck gegen Anhang III, Transparenzpflichten in die UX-Anforderungen, Tool-Freigaben in die Projektdokumentation. Für Bestandssysteme bieten wir die Einordnung als Teil unseres KI-Audits an – Details auf unserer Seite zur KI-gestützten Softwareentwicklung.
