15.02 EU Artificial Intelligence Act (AI Act)

15 Digitales Querschnittsrecht

Der Artificial Intelligence Act der Europäischen Union, kurz EU AI Act (Verordnung (EU) 2024/1689, geändert durch die Digital-Omnibus-Verordnung (EU) 2026/1744), stellt einen bedeutenden Schritt in Richtung einer sicheren und verantwortungsvollen Nutzung von Künstlicher Intelligenz (KI; engl. Artificial Intelligence, AI) dar. Durch die Einführung strenger Anforderungen und Mechanismen zur Überwachung und Durchsetzung will die EU sicherstellen, dass KI-Systeme im Einklang mit europäischen Werten und Grundrechten entwickelt und eingesetzt werden.

Begriff des KI-Systems gemäss AI Act

Der AI Act definiert in Art. 3 Nr. 1 – angelehnt an die Definition der OECD – ein KI-System als «ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können». Entscheidend sind damit die Autonomie des Systems und seine Fähigkeit, aus Eingaben abzuleiten (Inferenz) – klassische Software, die ausschliesslich von Menschen festgelegte Regeln ausführt, ist kein KI-System im Sinne des AI Act.

Timeline

Der AI Act ist am 1. August 2024 in Kraft getreten; seine Bestimmungen werden gestaffelt anwendbar (Art. 113 AI Act). Mit der Digital-Omnibus-Verordnung (EU) 2026/1744 (in Kraft seit 27. Juli 2026) hat die EU die Fristen für Hochrisiko-KI-Systeme nach hinten verschoben. Es gilt folgende Staffelung:

• 2. Februar 2025: Verbotene Praktiken (Art. 5 AI Act) und Pflicht zur KI-Kompetenz (Art. 4 AI Act)
• 2. August 2025: Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (Art. 51 ff. AI Act) sowie Governance-Strukturen
• 2. August 2026: Allgemeiner Geltungsbeginn, insbesondere Transparenzpflichten (Art. 50 AI Act)
• 2. Dezember 2027: Anforderungen an Hochrisiko-KI-Systeme nach Anhang III AI Act (z.B. KI im Personalwesen oder bei der Kreditwürdigkeitsprüfung)
• 2. August 2028: Anforderungen an Hochrisiko-KI-Systeme als Sicherheitsbauteile regulierter Produkte nach Anhang I AI Act (z.B. Medizinprodukte, Maschinen)

Klassifizierung von KI-Systemen

Der EU AI Act führt eine risikobasierte Klassifizierung von KI-Systemen ein (Kapitel II ff. AI Act). Diese Klassifizierung soll sicherstellen, dass KI-Systeme im Einklang mit den europäischen Werten und Grundrechten eingesetzt werden. Die Klassifizierung umfasst folgende vier Kategorien:

Unakzeptables Risiko (Verbotene Praktiken, Kapitel II AI Act): Diese KI-Systeme sind verboten, da sie eine ernsthafte Bedrohung für die Sicherheit, die Grundrechte und die Werte der EU darstellen. Beispiele hierfür sind Systeme, die Menschen manipulieren oder diskriminieren (z.B. Chatbot, der jemanden zu einer riskanten Geldanlage drängt, sprechendes Spielzeug, das Kinder zu gefährlichem Verhalten, wie Mutproben oder Challenges, verleitet, Software, die anhand eines Fotos «erkennen» will, ob jemand homosexuell ist).

Hohes Risiko (Hochrisiko-Systeme, Kapitel III AI Act): KI-Systeme, die in Bereichen wie Strafverfolgung, kritischen Infrastrukturen oder im Bildungswesen eingesetzt werden, fallen in diese Kategorie (z.B. KI zur Bewertung der Glaubwürdigkeit von Zeugenaussagen oder zur Risikoeinschätzung von Personen, KI zur Steuerung von Strom-, Wasser- oder Verkehrsnetzen als Sicherheitskomponente [potenziell hoher Schaden bei Fehlfunktionen], KI für Zulassungsentscheidungen oder die automatisierte Bewertung von Prüfungen). Sie unterliegen strengen Anforderungen und müssen vor dem Inverkehrbringen eine Konformitätsbewertung bestehen.

Begrenztes Risiko (mit Transparenzpflichten, Kapitel IV AI Act): Für diese Systeme gelten spezifische Transparenzanforderungen. Nutzer müssen z.B. darüber informiert werden, dass sie mit einem KI-System interagieren, wie bei Chatbots, Texte, Bilder oder Videos müssen als KI-Output gekennzeichnet werden.

Minimales Risiko: Diese Kategorie umfasst die meisten KI-Anwendungen, für die keine zusätzlichen Anforderungen gelten. Beispiele sind KI-gestützte Spiele oder Spamfilter.

Transparenzpflichten

Unabhängig von der Risikoklasse gelten besondere Transparenzpflichten (Art. 50 AI Act):

• Interaktion mit KI: Wer mit einer KI interagiert (z.B. mit einem Chatbot im Kundendienst), muss das erkennen können – ausser es ist offensichtlich.
• KI-generierte Inhalte: Von KI erzeugte Audio-, Bild-, Video- und Textinhalte müssen in einem maschinenlesbaren Format als künstlich erzeugt gekennzeichnet werden.
• Deepfakes: Wer täuschend echte KI-Bilder, -Videos oder -Tonaufnahmen von realen Personen, Gegenständen oder Ereignissen verbreitet, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.

KI-Modelle mit allgemeinem Verwendungszweck (GPAI)

Neben den KI-Systemen (Anwendungen) reguliert der AI Act separat die KI-Modelle mit allgemeinem Verwendungszweck (engl. General Purpose AI, GPAI; Art. 51 ff. AI Act) – die Basismodelle, auf denen viele KI-Anwendungen aufbauen, wie GPT (OpenAI), Claude (Anthropic) oder Gemini (Google). Massgeblich ist hier nicht der Verwendungszweck, sondern die Leistungsfähigkeit des Modells – in zwei Stufen:

• Alle GPAI-Modelle: Die Anbieter müssen insbesondere eine technische Dokumentation erstellen, nachgelagerten Anbietern Informationen bereitstellen, das EU-Urheberrecht beachten und eine Zusammenfassung der Trainingsinhalte veröffentlichen (Art. 53 AI Act).
• GPAI-Modelle mit systemischem Risiko: Für besonders leistungsfähige Modelle (Trainingsrechenleistung ab 10²⁵ FLOPs) gelten zusätzliche Pflichten wie Modellevaluationen, Risikominderung und Cybersicherheit (Art. 55 AI Act).

Anbieter mit Sitz ausserhalb der EU – auch aus der Schweiz – müssen zudem einen in der EU niedergelassenen Bevollmächtigten benennen, der als Anlaufstelle für die Behörden dient (Art. 54 AI Act).

Konformitätsbewertung und CE-Kennzeichnung

KI-Systeme mit hohem Risiko müssen eine Konformitätsbewertung bestehen, bevor sie auf den Markt gebracht werden dürfen. Diese Bewertung stellt sicher, dass die Systeme den festgelegten Sicherheits- und Transparenzanforderungen entsprechen. Nach erfolgreicher Bewertung erhalten die Systeme eine CE-Kennzeichnung (CE = Conformité Européenne), die ihre Konformität bescheinigt.

Transparenz und menschliche Aufsicht

Für KI-Systeme mit hohem Risiko müssen angemessene Transparenz- und Aufsichtsmechanismen implementiert werden. Dies umfasst die Dokumentation des Designs und der Funktionsweise des KI-Systems sowie die Sicherstellung, dass Menschen die Entscheidungen der KI-Systeme überprüfen und gegebenenfalls eingreifen können.

Überwachung und Durchsetzung

Die Einhaltung des AI Act überwachen die nationalen Aufsichtsbehörden der Mitgliedstaaten; sie verhängen bei Verstössen auch die Sanktionen (Art. 70 AI Act). Auf EU-Ebene beaufsichtigt das Büro für Künstliche Intelligenz (AI Office) bei der Europäischen Kommission insbesondere die KI-Modelle mit allgemeinem Verwendungszweck (Art. 64 AI Act); das Europäische Gremium für Künstliche Intelligenz (AI Board) koordiniert die einheitliche Anwendung in den Mitgliedstaaten (Art. 65 AI Act).

Sanktionen bei Verstössen

Verstösse gegen den AI Act können erhebliche Geldbussen nach sich ziehen (Art. 99 AI Act): bei verbotenen Praktiken bis zu EUR 35 Mio. oder 7 % des weltweiten Jahresumsatzes, bei den übrigen Verstössen bis zu EUR 15 Mio. oder 3 % – massgebend ist jeweils der höhere Betrag. Für KMU und Start-ups gilt der jeweils niedrigere Betrag.

Keine Ausnahmen bei Anwendung von AI Act

Immer wieder wird kolportiert, dass der AI Act nur auf grosse Unternehmen und Organisationen zur Anwendung komme. Dies ist nicht zutreffend. Der AI Act kommt generell zur Anwendung. Hingegen gibt es für kleine und mittlere Unternehmen und Organisationen (weniger als 250 Mitarbeitende, Jahresumsatz von höchstens 50 Millionen Euro oder Jahresbilanzsumme von höchstens 43 Millionen Euro; Empfehlung 2003/361/EG der EU-Kommission) verschiedene Erleichterungen:

Proportionalitätsprinzip: Die Anforderungen und Verpflichtungen werden im Verhältnis zur Grösse und den Ressourcen des Unternehmens angewendet. Dies soll sicherstellen, dass kleinere Unternehmen nicht unverhältnismässig belastet werden.

Technische Unterstützung und Leitlinien: Die Europäische Kommission und andere zuständige Behörden bieten KMU technische Unterstützung, Leitlinien und Best Practices an, um die Einhaltung der Vorschriften zu erleichtern.

Regulatory Sandboxes: KMU haben Zugang zu «regulatory sandboxes», in denen sie ihre KI-Systeme in einem kontrollierten Umfeld testen können. Dies ermöglicht Innovation und Experimentation unter Aufsicht, ohne sofortigen vollständigen Regulierungsdruck.

Erleichterter Zugang zu Finanzmitteln: Es gibt spezielle Förderprogramme und finanzielle Unterstützung, um KMU bei der Entwicklung und Implementierung von KI-Systemen zu unterstützen.

Anwendung des AI Act auf Schweizer Unternehmen und Organisationen

Gemäss Art. 2 gilt der AI Act grundsätzlich für Unternehmen und Organisationen, die KI-Systeme in der EU vermarkten oder in Betrieb nehmen, unabhängig davon, ob sie ihren Sitz in der EU haben oder nicht (s. Kapitel 07.05 Auswirkungsprinzip/Marktortprinzip). Für Schweizer Unternehmen und Organisationen bedeutet dies:

Marktzugang: Wenn ein Schweizer Unternehmen KI-Systeme in der EU anbietet, unabhängig davon, ob dies entgeltlich oder unentgeltlich geschieht, fällt es unter den AI Act.

Nutzer in der EU: Wenn ein Schweizer Unternehmen KI-Systeme anbietet, die Nutzer in der EU betreffen, sei es direkt oder indirekt, unterliegt es den Regelungen des AI Act.

Verwendung der Ausgabe in der EU: Der AI Act gilt auch, wenn nur das von einem KI-System erzeugte Ergebnis in der EU verwendet wird (Art. 2 Abs. 1 Bst. c AI Act). Beispiel: Ein Schweizer Unternehmen bewertet für eine deutsche Bank mit KI die Kreditwürdigkeit von Kundinnen und Kunden. Auch wenn das KI-System vollständig in der Schweiz betrieben wird, untersteht das Unternehmen dem AI Act – bei der Kreditwürdigkeitsprüfung zudem als Hochrisiko-Anwendung (Anhang III Ziff. 5 Bst. b AI Act).

Überwachung und Reporting: Schweizer Unternehmen, die in der EU tätig sind, müssen die gleichen Überwachungs- und Berichtspflichten erfüllen wie EU-Unternehmen, einschliesslich der Anforderungen an Transparenz, Risikomanagement und Sicherheitsbewertungen.

15 Digitales Querschnittsrecht