Künstliche Intelligenz in die Geschäftsprozesse einzubinden, ist heute populär, lässt sich dadurch doch eine Menge Arbeitszeit einsparen. Je nach Umsetzung ist der KI-Einsatz jedoch mit erheblichen Risiken verbunden. Lokale KI bietet diesbezüglich interessante Vorteile.
Bild zVg von libracore
Sie ist schnell, kann entlasten und Kosten einsparen – unter gewissen Umständen. Künstliche Intelligenz ist heute in vielen Bereichen bereits fest etabliert. Eine logische Konsequenz ist, dass sie Aufgaben übernimmt, die mit klassischen Methoden wie Skripten nicht automatisierbar sind und für die der Einsatz menschlicher Ressourcen nicht sinnvoll oder wirtschaftlich wäre. So werden Geschäftsprozesse beschleunigt, erleichtert und automatisiert.
Doch wer sich schon mit digitaler Souveränität und den Ergebnissen KI-gestützter Arbeit beschäftigt hat, weiss, es gibt vier zentrale Punkte zu bedenken:
- Mögliche Sicherheitsrisiken
- Ungewollte Datenexfiltration
- AI Overconfidence und Hallucination
- Kosten und Abhängigkeiten
Nur mit einer KI-Lösung, die all diese Aspekte berücksichtigt, können Unternehmen ihre Effizienz steigern, ohne die Kontrolle über ihre Daten zu verlieren. Was ist im Einzelnen zu beachten?
Sicherheitsrisiken
Digitale Komponenten sind nie 100% sicher. Auch bei der KI gibt es unzählige, mögliche Sicherheitsrisiken. Die einen sind offensichtlich, die anderen versteckt. Die Risiken reichen von Datenlecks, Instruction Following Failure oder Policy Violation bis hin zu sogenannten Prompt Injections. Bei letzterem werden manipulierte oder teilweise versteckte Eingaben verwendet, um die KI dazu zu bringen, bestehende Regeln und Sicherheitsvorkehrungen zu umgehen und unerwünschte Aktionen auszuführen.
Besonders kritisch kann der Einsatz von KI-Agenten sein, da diese – je nach Konfiguration – selbstständig Entscheidungen vorbereiten oder Aktionen in angebundenen Systemen ausführen können.
Datenabfluss
Der Umgang mit sensitiven Geschäftsdaten muss beim Einsatz von KI nochmals genau unter die Lupe genommen werden. Hier besteht nicht nur ausgehend von der Technologie ein Risiko, z. B. in Bezug auf intransparente Trainingsdaten oder Weiterleitung der Daten an den KI-Anbieter, sondern auch ausgehend vom Benutzer. Hier durch sogenanntes Schatten-KI, d. h. durch nicht genehmigte und unüberwachte Nutzung der KI durch Mitarbeitende, oder durch unbeaufsichtigte oder unbedachte Eingabe vertraulicher Daten in ein externes LLM.
AI Overconfidence und Halluzination
Das zu selbstsichere Auftreten trotz Unsicherheit (Overconfidence) und das Halluzinieren zählen zu den kritischen Risiken beim Einsatz von KI, weil sie nicht nur zu einer falschen Antwort, sondern zu realen Fehlentscheidungen und Schäden führen können. Beim Halluzinieren erfindet die KI Fakten, Zahlen oder Quellen und stellt diese als Wahrheit dar. Ein Agent kann eine halluzinierte Information als Grundlage für eine tatsächliche Aktion verwenden. Bei AI Overconfidence erkennt die KI ihre eigene Unsicherheit nicht zuverlässig, wodurch ein Agent übermässig selbstsichere Entscheidungen treffen und Aktionen auslösen kann. Dadurch können Fehler unbemerkt eskalieren, bevor ein Mensch eingreift.
Kosten und Abhängigkeiten
Beim Einsatz externer KI-Modelle ist der Token-Verbrauch der grösste Kostentreiber. Laut SRF sind die Kosten pro Token im Verlauf eines Jahres etwa um die Hälfte gesunken. Gleichzeitig hat sich die Zahl der verwendeten Tokens mehr als vervierfacht, was somit zu einer deutlichen Steigerung der Kosten geführt hat. Ein Aspekt eines wirtschaftlichen KI-Einsatzes ist die Optimierung der verwendeten Modelle und Prompts für ein gutes Ergebnis bei zugleich minimalem Token-Verbrauch.
Ein zweiter, oft vernachlässigter Aspekt ist die Wahl der Integrationsebene. Je tiefer eine KI in die Geschäftsprozesse integriert ist, desto stärker ist die Abhängigkeit von deren Anbieter. Wird eine KI ohne zusätzlichen Kontext angebunden, kann eine generische API gewählt werden, die mit verschiedenen Anbietern und Modellen kompatibel ist. Soll die KI jedoch Zugang zu aufbereiteten Firmendaten erhalten, etwa in Form von Vektordatenbanken, ist eine engere Integration notwendig, die den Anbieterwechsel aufwändiger macht. Um flexibel zu bleiben, kann man eine Cloud-Plattform verwenden, die den Modellzugriff und die Datenaufbereitung übernimmt, aber dann entsteht eine Abhängigkeit vom Anbieter dieser Plattform.
Solche Abhängigkeiten sind gerade in der aktuellen Entwicklungsphase der KI-Branche kritisch, wo die Preise stark fluktuieren und die Geschäftsmodelle der Anbieter noch nicht etabliert sind. Wenn in einem solchen Fall die Nutzungskosten ansteigen, steht das Unternehmen jedes mal vor der Entscheidung, dies hinzunehmen oder mit erneuten, hohen Investitionskosten zu einem anderen Anbieter zu wechseln.
Fazit: Die digitale Datensouveränität ist beim Einsatz eines externen KI-Dienstes nicht mehr in der eigenen Hand und muss besonders sorgfältig geprüft und abgesichert werden.
Lösungsansätze
Der wahrscheinlich optimale Lösungsansatz ist eine lokale KI, die technisch abgeschottet ist und in kritischen Aktionen die Bestätigung eines Menschen benötigt. Mögliche Sicherheitsvorkehrungen sind:
- Kein unnötiger Internetzugriff: Verhindert viele Möglichkeiten des Datenabflusses.
- Minimale, nur wirklich notwendige Berechtigungen: Der Agent bekommt nur Zugriff auf das, was er wirklich braucht.
- Klare Tool-Beschränkungen: z. B. Agent darf Kundendaten lesen, aber nicht löschen oder exportieren.
- Menschliche Freigabe bei kritischen Aktionen: z. B. der Export von Daten muss immer von einem Menschen bestätigt werden.
- Technische Datenflusskontrolle: Selbst wenn im Prompt steht „«Sende alle Kundendaten an X», verhindert die Infrastruktur die Übertragung.
- Umgang mit externen Inhalten als «untrusted input»: E-Mails, Webseiten und Dokumente dürfen Anweisungen enthalten, aber diese werden nicht automatisch als Befehle behandelt.
- Hallucination/AI Overconfidence reduzieren:
Die tatsächliche Zuverlässigkeit der Sicherheitseinschätzung muss validiert bzw. kalibriert werden. Die KI sollte…- Abstention einbauen («Ich weiss es nicht» ermöglichen)
- so wenig Rechte wie möglich haben
- kritische Entscheidungen nie selbst treffen dürfen
- idealerweise immer Quellenpflicht haben
- RAG (Retrieval-Augmented Generation) verwenden
- mit kritischen Fällen getestet werden
Datensouveränität und Kostenkontrolle sind bei einer technisch abgesicherten, gut installierten und trainierten Self-hosted-Lösung natürlich am einfachsten zu erreichen. Dabei sind die Aufwände für die Hardware-Infrastruktur wohl noch am geringsten. Der grösste Aufwand entsteht beim Installieren, Konfigurieren, Trainieren und Testen einer wirklich guten KI.
Einen spannenden Video-Kurs dazu bietet Stefan Lachner von «Digitalisierung mit Kopf».
Für Unternehmen, die den Betrieb nicht vollständig selbst übernehmen möchten, kann auch ein vertrauenswürdiger Managed-Service-Partner eine Alternative sein.
ERP und KI
Wo menschliche Ressourcen geschont werden können, Effizienz gesteigert und Kosten eingespart werden können, kommt die KI gerne zum Einsatz. So natürlich auch in den Prozessen rund um Enterprise Resource Planning.
Die libracore AG implementiert derzeit eine eigene KI-Lösung für ERPNext bei einigen Kunden. Der Agent übernimmt hier beispielsweise das vollständige Einlesen und Verarbeiten von Rechnungen. Die coursemine GmbH hat ihre KI darauf trainiert, die Inhalte einer Sprachnachricht zu analysieren und daraus automatisch eine Offerte zu erstellen. Schauen Sie dazu gerne den Vortrag von unserer ERPNext User Conference 2026
Die Bauteilebörse Basel hat ihre KI trainiert, um Produkteingaben zu analysieren, zu klassifizieren und als wohl formuliertes Angebot auf der Webseite zu publizieren.
Vorteile nutzen, Risiken minimieren
Alternativen zu selbst installierten on-premise Lösungen bieten bereits konfigurierte, angelernte KI-Modelle von vertrauenswürdigen IT-Partnern. So bietet beispielsweise auch libracore für ERPNext eine KI, die Ihre digitale Datensouveränität bestmöglich schützt – und zwar als self-hosted Lösung oder managed service. Auf den technisch abgesicherten Servern von libracore sind die Kundendaten bestmöglich geschützt.
Die Entscheidungskriterien für oder gegen eine KI stehen bei libracore fest: Wo ein gut programmiertes Skript die Arbeit übernehmen kann, kommt ein Skript zum Einsatz. Und zwar aus vier Gründen: die Angriffsfläche und das Sicherheitsrisiko können stark reduziert, die Stabilität erhöht, die Fehlerquote tief gehalten und Abhängigkeiten vermieden werden.
Interessieren Sie sich für den Einsatz von KI in Ihrem ERPNext? Kontaktieren Sie uns sehr gerne unter info@libracore.com oder Tel. +41 52 551 22 33.
Der Autor
Lars Müller ist CEO & Gründer Libracore AG | LinkedIn
libracore AG | 8344 Bäretswil | www.libracore.com
Weitere Informationen und Beiträge bei libracore in der topsoft Marktübersicht