Der AI Act der EU ist eine Verordnung zur Regulierung Künstlicher Intelligenz. Er soll sicherstellen, dass KI-Systeme sicher, transparent und ethisch vertretbar eingesetzt werden. Unternehmen müssen bestimmte Auflagen erfüllen, je nachdem, wie ihre KI-Systeme klassifiziert sind. Was vielen Schweizer Unternehmen nicht bewusst ist, sie fallen noch schneller unter den Act, als angenommen. Dabei soll dieser Artikel helfen.
Symbolbild Ideogram
Dieser ist seit August 2024 in Kraft und entfaltet ab Februar 2025 seine erste Wirkung. Die Verordnung betrifft nicht nur Unternehmen in der EU, sondern auch Schweizer Unternehmen, die z. B. KI-Systeme in die EU vertreiben oder ein KI-System nutzen, dessen Ausgabe in der EU verwendet wird. Ein KI-System ist zum Beispiel ChatGPT von OpenAI. Sitz davon ist in den USA und wird ebenso in der EU verwendet, um Inhalte zu generieren und zu verteilen. Wer ein Produkt mit KI anbietet oder KI-generierte Inhalte verwendet, sollte deshalb jetzt prüfen, welche Relevanz der AI-Act hat, um empfindliche Strafen zu vermeiden.
Wann müssen Schweizer Unternehmen den AI Act beachten?
Ein Schweizer Unternehmen muss den AI Act einhalten, wenn es:
- Ein KI-System oder KI-Modell in der EU in Verkehr bringt oder betreibt
- Ein KI-Modell mit allgemeinem Verwendungszweck in der EU in Verkehr bringt.
- Inhalte aus einem KI-System in der EU genutzt werden.
- Als Bevollmächtigter eines Anbieters fungiert.
Das betrifft sowohl Grossunternehmen als auch KMU und Startups. Auch, wenn wir in der Schweiz sind, kann es sein, dass wir unter anderem EU-Personen mit Inhalten erreichen. Eine Kennzeichnung ist somit empfehlenswert.
Was gilt als KI-System oder KI-Modell mit allgemeinem Verwendungszweck?
- KI-System: Ein maschinelles System, das autonom agiert, sich anpasst und Inhalte wie Vorhersagen oder Empfehlungen erzeugt.
- KI-Modell mit allgemeinem Verwendungszweck: Eine umfassend trainierte KI, die vielseitige Aufgaben erledigt (z. B. ChatGPT, Claude).
Anbieter vs. Betreiber: Wer ist betroffen?
- Anbieter: Unternehmen, die KI-Systeme entwickeln oder vertreiben (z. B. OpenAI, Microsoft).
- Betreiber: Unternehmen, die KI-Systeme für ihre Zwecke nutzen, z. B. zur Content-Erstellung (z. B. Firmen, speziell Agenturen & Software-Anbieter mit Schnittstellen zu KI-Systemen)
Betreiber sind somit Unternehmen aus der Schweiz, die ein KI-Modell (mit allgemeinem Verwendungszweck) eines Anbieters, wie OpenAI mit ChatGPT, nutzen.
Welche Risikoklassen gibt es?
Der AI Act leitet grundsätzlich aus einer Risikoeinstufung eines KI-Systems die Anforderungen an die verschiedenen Akteure ab. Deshalb ist es wichtig, die wichtigsten Risikoeinstufungen zu unterscheiden:
1. Verbotene KI-Praktiken (unannehmbares Risiko)
KI-Systeme mit manipulativem Einfluss oder diskriminierendem Social Scoring sind u.a. verboten. Beispiele:
- Automatische Gesichtserkennung in der Öffentlichkeit
- Emotionserkennung am Arbeitsplatz
- Manipulative politische Werbung
2. Hochrisiko-KI-Systeme
Systeme, die kritische Bereiche betreffen, unterliegen strengen Regeln:
- Biometrie: Gesichtserkennung, emotionale Analyse
- Infrastruktur: Sicherheits- und Verkehrssteuerung
- Personalmanagement: Automatische Bewerbungsbewertung
- Strafverfolgung: Profiling und Lügendetektoren
Anbieter solcher Systeme müssen umfangreiche Anforderungen erfüllen, u.a. eine Risikoanalyse, Daten-Governance und menschliche Aufsicht sicherstellen.
Welche Anforderungen gelten für alle KI-Systeme?
Unabhängig von der Risikoklasse gelten verschiedene Transparenzpflichten, z. B. :
- Kennzeichnung von KI-generierten Inhalten (z. B. Deepfakes, synthetische Medien). Wir empfehlen: AI Label
- Hinweis auf Interaktion mit KI (z. B. Chatbots)
- Informationspflicht (bei biometrischer Analyse)
Beispiele:
- Ein Hotel verwendet für den Werbeprospekt mit KI erzeugte Umgebungsbilder.
- Für die direkte Kommunikation mit Kunden wird KI für die Beantwortung von allgemeinen Produkteanfragen eingesetzt.
Welche Strafen drohen bei Nichteinhaltung?
Je nach Verstoss gibt es folgende Sanktionsstufen:
- Bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes
- Bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes
- Bis zu 7,5 Mio. Euro oder 1 % des weltweiten Jahresumsatzes
Ab wann gelten die Verpflichtungen?
- 2. Februar 2025: Verbot von KI-Systemen mit unannehmbarem Risiko, Nachweis von KI-Kompetenz
- 2. August 2025: Regelungen für KI-Modelle mit allgemeinem Verwendungszweck
- 2. August 2026: Alle Regelungen mit wenigen Ausnahmen
- 2. August 2027: Regeln für bestimmte Hochrisiko-KI-Systeme
Checkliste für Unternehmen
Falls Sie eine oder mehrere der folgenden Fragen mit "Ja" beantworten, sollten Sie sich detailliert mit den Bestimmungen des EU-AI-Acts auseinandersetzen:
- Bringt Ihr Unternehmen ein KI-System oder KI-Modell in der EU in Verkehr oder betreibt es dort?
- Werden Inhalte aus Ihrem KI-System in der EU genutzt?
- Agieren Sie als Bevollmächtigter eines KI-Anbieters?
- Setzt Ihr Unternehmen KI-Modelle mit allgemeinem Verwendungszweck (z.B. ChatGPT, Claude) ein?
- Nutzt Ihr Unternehmen ein KI-System in Bereichen wie Biometrie, Infrastruktur, Personalmanagement oder Strafverfolgung?
- Ist Ihr KI-System möglicherweise als Hochrisiko-KI eingestuft?
Nächste Schritte
Wenn Ihr Unternehmen betroffen ist:
- Klassifizieren Sie Ihr KI-System nach den Risikostufen.
- Implementieren Sie Transparenz- und Sicherheitsmassnahmen.
- Stellen Sie sicher, dass alle Vorschriften eingehalten werden.
- Schulen Sie Ihre Mitarbeitenden zur KI-Regulierung.
- Dokumentieren Sie alle relevanten Prozesse und Prüfungen.
Fazit: Jetzt handeln!
Schweizer Unternehmen sollten sich sofort mit dem AI-Act befassen, wenn sie KI-Systeme entwickeln oder nutzen. Besonders Unternehmen mit Kunden in der EU sind betroffen und müssen ihre Prozesse anpassen. Wer sich frühzeitig informiert und Massnahmen umsetzt, vermeidet hohe Strafen und sichert sich Wettbewerbsvorteile.
Dieser Artikel wurde mit Unterstützung von Künstlicher Intelligenz entworfen und von Menschen überarbeitet. Zur Verfügung gestellt von KImpact - Verband für künstliche Intelligenz in Zusammenarbeit mit ONLAW.