Regulierung als Innovationskiller?

Die EU will datenbasierte Innovationen fördern und gleichzeitig sicherstellen, dass keine Menschen zu Schaden kommen. Deshalb gehört zur Digitalstrategie der EU, dass risikoreiche Anwendungen von Künstlicher Intelligenz (KI) reguliert werden. 

Der Vorschlag der EU-Kommission liegt auf dem Tisch: Ein Verbot ist für vier besonders gefährliche KI-Systeme geplant, zum Beispiel für ein staatliches Social Scoring wie in China. Strenge Vorgaben gelten bei Anwendungen in sensiblen Bereichen, etwa beim Zugang zur Schul- oder Berufsbildung, im Personalmanagement oder bei der Bewertung der Kreditwürdigkeit einer Person. Aufgrund des hohen Risikos reichen die Anforderungen an solche KI-Anwendungen von Risikobewertungen über die Rückverfolgbarkeit der Ergebnisse und die Registrierung in einer EU-Datenbank bis zur Information der Nutzerinnen und Nutzer. Für KI-Systeme mit geringem Risiko, etwa ein Chatbot, gelten Transparenzvorschriften. 

Niemand bestreitet, dass KI neben den Potenzialen auch Risiken und Nebenwirkungen mit sich bringt. So zeigt ein weltweiter Vergleich, dass Schadenvermeidung besonders häufig in freiwilligen Ethik-Richtlinien vorkommt. Und je mehr das Potenzial von KI für Innovationen genutzt wird, desto wichtiger wird es, vermeidbare Risiken zu reduzieren. Nicht nur in Europa. 

Mehrere Bundesstaaten in den USA haben den Einsatz von Gesichtserkennung im öffentlichen Raum verboten, weil das Potenzial für Diskriminierungen gross ist. In Kalifornien sind manipulative Praktiken auf der Website verboten und müssen Chatbots als solche gekennzeichnet werden, um Menschen nicht zu täuschen. Und mehrere Länder verfolgen eine KI-Strategie, um Chancen bewusst zu nutzen und Risiken zu minimieren.

Und die Schweiz? Weder eine nationale KI-Strategie noch eine KI-Regulierung sind geplant. Doch aufgrund der starken Abhängigkeit vom europäischen Markt werden Schweizer Unternehmen vom neuen Rechtsrahmen betroffen sein. Dies ist durchaus eine Chance, denn die KI-Regulierung der EU kann zum Treiber für vertrauenswürdige Innovationen weltweit werden.