Kann künstliche Intelligenz im Finanzsektor ethische Entscheide treffen?

Künstliche Intelligenz wird zukünftig einen massiven Einfluss auf unser Leben haben. Daran gibt es keine Zweifel. Die Medien haben das Thema für sich entdeckt, die breite Öffentlichkeit hat es im Auge und die Wirtschaft befasst sich intensiv mit möglichen Anwendungen.

Konkrete Prognosen fokussieren sich dabei zunehmend auf den Einsatz im Finanzsektor. Durch die Automatisierung von intelligentem Verhalten sollen Prozesse einfacher, schneller und kosteneffizienter gestaltet werden – sowohl auf Unternehmens- wie auch auf Kundenseite. Fachexpertinnen und -experten erwarten denn auch, dass der Einsatz von künstlicher Intelligenz zukünftig als Wettbewerbsfaktor entscheidende Bedeutung gewinnt. Viele Banken und Finanzinstitute sind sich dessen bewusst, stehen bei der Umsetzung von KI-Lösungen in ihrem täglichen Geschäft jedoch noch am Anfang. 

In Schweizer Finanzunternehmen kommt die Technologie bereits in mehreren Bereichen zum Einsatz. Oft unterstützt oder bewältigt KI gar vollständig automatisiertes Investieren, wobei sich die Technologie besonders eignet, um Daten vergangener Investitionen zu analysieren und die Vorgehensweise für weitere Investitionen zu optimieren. Zunehmenden Einsatz erfährt KI bei der Betrugsaufdeckung, wo nach einem ähnlichen Prinzip eine breite Palette von Standardverhalten erfasst wird und die KI dann Vorgänge identifiziert, die im Vergleich dazu ein abnormales Muster aufweisen. Neben Vorhersagefähigkeiten stehen schliesslich auch Optimierungen des Kundenservices im Zentrum. Ein Beispiel dafür sind virtuelle Assistenten, die mittels Natural Language Processing (NLP) Kundenwünsche erkennen und damit den Anlageberatern Hinweise auf mögliche Interessen und Anlagethemen liefern. 

Besonders oft kommt KI bei Fintech-Unternehmen zum Einsatz. Dabei sind die momentanen Spitzenreiter der KI-Technologien China und die USA – die Schweiz befindet sich aber auf Aufholkurs. Eine Vielzahl der erfolgreichsten Start-Ups hierzulande finden sich momentan im Fintech-Bereich; viele davon nutzen KI-Lösungen für ihre Produkte bereits erfolgreich und aktiv. Vorteile ergeben sich besonders in der vereinfachten Analyse des Kundenverhaltens, des verbesserten Risikomanagements und nicht zuletzt der Wettbewerbsfähigkeit. 

Gerade in der Öffentlichkeit wirft die Einbindung künstlicher Intelligenzen ins Finanzgeschäft jedoch immer häufiger Fragen auf. Im Vordergrund stehen dabei Aspekte wie Datensicherheit und Überwachung der Technologie. Daneben werden Themen wie «Transparenz», «Gerechtigkeit» und «Fairness» wichtig. Kann eine KI wirklich ethisches Verhalten an den Tag legen, und Entscheide «unbiased», neutral und nicht-diskriminierend fällen? Umgekehrt gefragt: sind die Entscheide einer KI nicht a priori «unbiased», da sie im Prinzip keiner kulturellen Prägung unterliegen?

Avaloq argumentiert, man müsse Algorithmen unterschiedlich einstufen und je nach Funktion anders handhaben. Dies beginnt bereits bei der Codierung des Algorithmus. Programmierer bei Avaloq entscheiden deshalb im Voraus, ob es sich um sogenannte Low-Risk oder um High-Risk Algorithmen handelt. Die Einstufung basiert auf dem finalen Zweck des Algorithmus. So kann man sich unter einem Low-Risk Algorithmus beispielsweise die Automatisierung eines Client-Journey-Modells vorstellen. Ein Algorithmus, der vorhersagt, ob ein Kunde demnächst abspringt, wird wenig diskriminierende Auswirkungen haben.

Bei besonders kritischen Prozessen bestimmen jedoch häufig High-Risk Algorithmen die Entscheidungswege. Lässt man eine künstliche Intelligenz beispielsweise im Rahmen eines Kreditratings oder Einstellungsprozesses entscheiden, kann das – je nach berücksichtigten Variablen – ungewollt diskriminierende Auswirkungen haben. In solchen Situationen besteht der Bedarf nach kontinuierlicher Überwachung. Gleichzeitig rückt hier oft auch die Forderung nach menschlicher Letztentscheidung ins Zentrum. Die Involvierung realer Personen in Entscheidungsprozessen soll helfen, die Gefahren unkontrollierter Algorithmen einzudämmen. 

Die Auseinandersetzung mit ethischen Aspekten wird durch die vermehrte Nutzung und Verbreitung dringlicher und entsprechend häufen sich die Forderungen nach regulatorischen Rahmenbedingungen. Die grösste Herausforderung stellt jedoch die Frage nach einer Definition. Was genau versteht man unter «ethisch»? Wie kann man den Begriff «künstliche Intelligenz» einordnen? Im internationalen Umfeld wurden bereits mehrere Versuche unternommen, sich über das Ausstellen universeller Prinzipien und Leitfäden einer Definition von «ethischer KI» anzunähern. Allerdings gibt es bisher noch keine verbindlichen Standards.   

International haben sich viele Regierungen als Unterstützer von KI-Lösungen im Finanzsektor ausgesprochen und sind bemüht, die Chancen der Technologie hervorzuheben. Singapur hat sich beispielsweise an der Herausgabe einer Leitlinie für Unternehmen ausprobiert und die sogenannten FEAT-Prinzipien zusammengestellt. FEAT steht für «Fairness, Ethics, Accountability and Transparency» und soll Firmen bei der Operationalisierung von KI-Technologien helfen. Die Richtlinien sind rechtlich nicht verbindlich und dienen somit einzig der Orientierung.

Im Gegensatz dazu steht der AI-Act der EU, welcher schon recht konkret ist und KI-Systeme nach ihrem Risikopotential kategorisiert. Die EU-Kommission plant, Algorithmen mit einem inakzeptablen Risikolevel vollkommen zu verbieten, da sie potentiell menschliche Grundrechte verletzen können. Das Vereinigte Königreich hat nochmals einen anderen Ansatz gewählt und im Juli 2022 in einem Policy Paper angekündigt, einem innovationsfördernden Ansatz zu folgen und die Regulierungsaufgaben an die branchenspezifischen Regulierungsbehörden zu übertragen. 

Im Schweizer Kontext bleibt vorerst unklar, ob jemals verbindliche Regulierungen beschlossen werden. Innerhalb der Legislativen beschäftigt man sich zwar schon länger mit dem Thema, hat sich bislang aber auf das vorhandene Rechtssystem gestützt. Die Einführung einheitlicher Leitprinzipien für den Schweizer Finanzplatz wäre jedoch ein Handlungsansatz, um Unternehmen im künftigen Umgang mit KI-Technologien zu helfen. 

Der Umgang mit künstlicher Intelligenz im Finanzsektor wird auch zukünftig ein Thema bleiben. In einer kürzlich durchgeführten Befragung von Avaloq zeigten sich rund 54 % der Schweizer Anleger offen dafür, sich von einer künstlichen Intelligenz Investmentvorschläge für ihr Portfolio geben zu lassen. Im europäischen Vergleich liegen wir damit im Durchschnitt. In Asien hingegen ist die Bereitschaft dazu bereits wesentlich höher – so wären 72 % der untersuchten chinesischen Anleger offen für konkreten Investmentadvice durch eine KI.

Dieses positive Grundsentiment unterstreicht die Möglichkeiten für KI-Anwendungen innerhalb des Finanzmarktes. Die zunehmende Einbettung der Technologie in alltäglichen Prozessen verlangt jedoch von Unternehmen, die ethischen Implikationen beim Einsatz der Technologie in ihre Überlegungen miteinzubeziehen. Nur so können sowohl Kunden wie auch Unternehmen enorm vom Einsatz künstlicher Intelligenz profitieren und zu einem insgesamt faireren und transparenteren Endergebnis gelangen.

Gery Zollinger ist Head of Data Science & Analytics bei Avaloq, Anbieter für Vermögensverwaltungstechnik und -dienstleistungen für Finanzinstitute. Zuvor verantwortete er die Kreditmodellierung bei Credit Suisse und hat ein globales Data Scientist Team im Bereich Compliance Analytics aufgebaut und geleitet.