AI Risk Management für KMU | SPS
Künstliche Intelligenz ist in vielen Schweizer KMU längst kein Zukunftsthema mehr. Textassistenz, automatische Auswertungen, Prognosen, Chatbots oder unterstützte Entscheidungen sind bereits im Einsatz oder stehen kurz davor. Was oft fehlt, ist jedoch kein weiteres Tool, sondern ein klarer Umgang mit Risiken.
Genau hier setzt AI Risk Management an. Gemeint ist kein schwerfälliges Konzernmodell, sondern ein pragmatischer, wiederholbarer Prozess: KI-Anwendungen erfassen, Risiken einordnen, Verantwortlichkeiten klären, Massnahmen festlegen und die Nutzung laufend überprüfen. Für KMU ist das besonders wichtig, weil KI zwar schnell eingeführt werden kann, die Folgen von Fehlern, Fehlentscheiden oder unklaren Zuständigkeiten aber oft erst später sichtbar werden.
Der entscheidende Punkt: KI ersetzt keine sauberen Prozesse. Sie funktioniert dort am besten, wo Rollen, Freigaben und Kontrollen bereits nachvollziehbar geregelt sind.
Was AI Risk Management für Schweizer KMU konkret bedeutet
AI Risk Management beschreibt den laufenden Prozess zur Identifikation, Bewertung, Steuerung und Überwachung von KI-bezogenen Risiken. Es geht also nicht nur darum, vor der Einführung einer Lösung kurz Risiken zu besprechen. Vielmehr braucht es eine einfache Struktur, mit der ein Unternehmen auch nach dem Start nachvollziehen kann, ob eine KI-Anwendung weiterhin im gewünschten Rahmen arbeitet.
Wichtig ist die Abgrenzung zu angrenzenden Themen. IT-Sicherheit, Datenschutz oder Qualitätsmanagement decken einzelne Teile ab, ersetzen aber kein KI-Risikomanagement. Eine KI-Anwendung kann technisch sicher betrieben werden und trotzdem problematische Ergebnisse liefern. Sie kann datenschutzkonform eingeführt worden sein und dennoch zu falschen Empfehlungen, unfairen Bewertungen oder schwer nachvollziehbaren Entscheidungen führen.
Für ein KMU wird AI Risk Management vor allem in typischen Alltagssituationen relevant:
Ein Vertriebsteam nutzt generative KI für Angebote und Kundenkommunikation.
Im Einkauf werden Prognosen für Bedarf oder Preise erstellt.
Im HR werden Bewerbungen vorsortiert oder Texte automatisch generiert.
Im Kundendienst beantwortet ein Assistenzsystem Anfragen.
In der Produktion oder Disposition unterstützt KI bei Planung oder Priorisierung.
In all diesen Fällen stellt sich dieselbe Grundfrage: Welche Auswirkungen hätte ein Fehler dieser Anwendung im konkreten Geschäftskontext? Je grösser der Einfluss auf Kunden, Mitarbeitende, Finanzen, Compliance oder operative Abläufe, desto klarer muss die Steuerung sein.
AI Risk Management ist damit kein Theoriebegriff, sondern ein praktischer Führungs- und Steuerungsansatz. Er hilft, KI nicht nur schnell, sondern verantwortungsvoll einzusetzen.
Welche KI-Risiken im Alltag eines KMU typischerweise auftreten
KI-Risiken sind selten rein technisch. Im KMU-Alltag entstehen sie meist an der Schnittstelle zwischen Daten, Prozessen, Entscheidungen und Verantwortung. Deshalb lohnt sich eine einfache Einordnung nach Risikofeldern.
Ein häufiges Thema sind Qualitätsrisiken. Generative KI kann Texte überzeugend formulieren, obwohl inhaltliche Fehler enthalten sind. Prognosemodelle können plausible Zahlen liefern, die auf unvollständigen oder veralteten Daten beruhen. Das Problem liegt nicht nur im Ergebnis, sondern darin, dass Fehler leicht übersehen werden.
Daran schliessen Fehlentscheidungen an. Wenn eine KI Prioritäten setzt, Empfehlungen gibt oder Fälle vorsortiert, kann sich der Entscheidungsprozess verschieben. Mitarbeitende verlassen sich unter Zeitdruck oft stärker auf Vorschläge, als intern vorgesehen war. Damit steigt das Risiko, dass falsche oder unfaire Entscheidungen faktisch automatisiert werden.
Ein weiteres Kernfeld sind Daten- und Vertraulichkeitsrisiken. Werden interne Informationen, Personendaten, Vertragsinhalte oder sensible Kundendaten unkontrolliert in ein KI-System eingegeben, kann das rechtliche, vertragliche und operative Folgen haben. Gerade bei frei zugänglichen oder schlecht konfigurierten Diensten ist dieses Risiko im KMU besonders relevant.
Hinzu kommen Reputationsrisiken. Fehlerhafte Kundenantworten, ungeprüfte Aussagen in öffentlichen Texten oder diskriminierende Formulierungen können das Vertrauen in kurzer Zeit beschädigen. Das gilt selbst dann, wenn die Ursache intern als Einzelfall erscheint.
Ein oft unterschätztes Thema ist Bias, also systematische Verzerrung. Wenn Trainingsdaten oder Entscheidungslogiken bestimmte Gruppen benachteiligen, kann dies etwa bei Bewerbungen, Preislogiken, Priorisierungen oder Kundenkommunikation problematisch werden. Nicht jede Verzerrung ist sofort sichtbar. Umso wichtiger ist die bewusste Prüfung des Use Cases.
Dazu kommt die fehlende Nachvollziehbarkeit. Viele KI-Systeme liefern Ergebnisse, ohne dass für Fachverantwortliche klar ist, warum genau eine Empfehlung oder Einstufung entstanden ist. Das ist besonders heikel, wenn Entscheidungen erklärt, korrigiert oder gegenüber Kunden und Vorgesetzten begründet werden müssen.
Schliesslich gibt es Abhängigkeiten von Prozessen oder Lieferanten. Wenn ein zentraler Ablauf auf einem externen KI-Service basiert, können Modelländerungen, Ausfälle oder geänderte Nutzungsbedingungen direkte Auswirkungen auf den Betrieb haben. Das Risiko liegt dann nicht im einzelnen Ergebnis, sondern in der Abhängigkeit selbst.
Entscheidend ist: Das Risiko entsteht nicht einfach, weil KI eingesetzt wird. Es hängt vom Use Case, vom Entscheidungsspielraum und vom Geschäftskontext ab. Ein internes Hilfsmittel für erste Textentwürfe ist anders zu beurteilen als eine KI, die Kunden kategorisiert oder operative Entscheidungen vorbereitet.
Risk Tiering: KI-Anwendungen nach Risiko und Kritikalität einordnen
Nicht jede KI-Anwendung braucht dieselbe Tiefe an Kontrolle. Genau dafür ist Risk Tiering sinnvoll. Gemeint ist eine einfache Einordnung von KI-Use-Cases in Risikostufen, zum Beispiel niedrig, mittel und hoch. Das Ziel ist nicht mehr Komplexität, sondern Priorisierung.
Eine pragmatische Logik für KMU kann so aussehen:
Niedriges Risiko
Die KI unterstützt bei internen Tätigkeiten mit begrenzter Wirkung, etwa beim Formulieren von Entwürfen, Zusammenfassen von Informationen oder bei nicht kritischen Recherchen. Fehler sind korrigierbar und haben keine direkten Folgen für Kunden, Verträge oder sensible Entscheide.
Hier genügen meist klare Nutzungsregeln, Grundschulung und eine einfache fachliche Kontrolle.
Mittleres Risiko
Die Anwendung beeinflusst Abläufe, Entscheidungen oder externe Kommunikation, bleibt aber unter menschlicher Aufsicht. Beispiele sind Prognosen für Planung, Assistenten im Kundendienst oder automatische Klassifizierungen, die durch Mitarbeitende geprüft werden.
Hier braucht es bereits definierte Verantwortlichkeiten, dokumentierte Prüfungen, Datenregeln und periodische Reviews.
Hohes Risiko
Die KI beeinflusst wesentliche Entscheidungen oder kann erhebliche Auswirkungen auf Kunden, Mitarbeitende, Compliance, Finanzen oder Reputation haben. Dazu gehören etwa automatisierte Priorisierungen mit direkter Wirkung, sensible HR-Anwendungen oder Systeme, die in kritischen Prozessen kaum noch hinterfragt werden.
In solchen Fällen sind engere Freigaben, strengere Kontrollen, Eskalationswege und eine bewusste Entscheidung der Führungsebene nötig.
Für das Tiering reichen meist wenige Kriterien:
Wie stark ist der Einfluss auf Kunden oder Mitarbeitende?
Welche finanziellen Folgen hätte ein Fehler?
Gibt es Compliance- oder Vertraulichkeitsbezug?
Wie direkt wirkt die KI auf Entscheidungen oder Prozesse?
Wie einfach lassen sich Fehler erkennen und korrigieren?
Wie gross ist die Abhängigkeit vom Anbieter oder vom Modell?
Wichtig ist, dass das Tiering nicht zum Selbstzweck wird. Es soll steuern, wie tief kontrolliert, dokumentiert und überprüft werden muss. Ein niedriger Use Case braucht keine schwere Governance. Ein kritischer Use Case darf aber auch nicht mit denselben Minimalregeln betrieben werden wie ein interner Textassistent.
Risk Tolerance und Residual Risk verständlich festlegen
Zwei Begriffe sind für ein funktionierendes KI-Risikomanagement besonders nützlich: Risk Tolerance und Residual Risk. Beide klingen technisch, sind aber im Kern einfache Führungsfragen.
Risk Tolerance beschreibt den akzeptablen Risikorahmen für einen konkreten Anwendungsfall. Es geht also darum, welche Unsicherheiten oder Fehler ein Unternehmen in diesem Kontext tolerieren kann und welche nicht. Diese Toleranz ist nicht überall gleich.
Ein Beispiel: Bei einer KI, die interne Besprechungsnotizen zusammenfasst, kann eine gewisse Ungenauigkeit akzeptabel sein, solange Mitarbeitende die Inhalte prüfen. Bei einer Anwendung, die Bewerbungen vorsortiert oder Kundenanfragen priorisiert, ist die Toleranz deutlich kleiner, weil Auswirkungen auf Fairness, Servicequalität oder Nachvollziehbarkeit direkter sind.
Residual Risk ist das verbleibende Risiko nach den definierten Massnahmen. Kein System wird risikofrei. Auch mit menschlicher Kontrolle, besseren Daten, Logging oder Zugriffsregeln bleibt ein Restrisiko bestehen. Genau dieses Restrisiko muss bewusst beurteilt werden.
Im KMU heisst das in der Praxis:
Die Fachverantwortlichen definieren mit, wie viel Unsicherheit im Alltag tragbar ist.
Risk, Compliance oder die zuständige Leitungsfunktion prüfen, ob diese Einschätzung plausibel ist.
Die Geschäftsführung entscheidet bei kritischen Fällen, ob das verbleibende Risiko akzeptiert wird, weiter reduziert werden muss oder der Use Case nicht freigegeben wird.
Typische Entscheide sehen so aus:
Akzeptieren, wenn der Nutzen klar ist, die Auswirkungen begrenzt bleiben und die Kontrollen funktionieren.
Reduzieren, wenn zusätzliche Massnahmen das Risiko wirksam senken können.
Stoppen oder nicht freigeben, wenn das Restrisiko trotz Massnahmen zu hoch bleibt oder nicht tragbar erklärt werden kann.
Wichtig ist die Verbindung zur Geschäftsentscheidung. Risk Tolerance ist keine abstrakte Zahl, sondern eine betriebliche Aussage darüber, was ein Unternehmen in einem konkreten Prozess verantworten kann. Residual Risk macht sichtbar, was nach allen Vorkehrungen trotzdem noch offen bleibt.
Three Lines of Defense für KI im KMU pragmatisch übersetzen
Das Modell der Three Lines of Defense stammt aus dem Risikomanagement, lässt sich aber auch für KI im KMU sinnvoll vereinfachen. Entscheidend ist nicht die Begrifflichkeit, sondern die klare Trennung von Verantwortung, Kontrolle und Aufsicht.
Erste Linie: die operativen Teams
Die erste Linie liegt dort, wo KI tatsächlich eingesetzt wird. Das sind Fachbereiche, Projektverantwortliche oder Prozessverantwortliche. Sie kennen den Use Case, den Nutzen und die Risiken im Alltag am besten. Deshalb tragen sie die operative Verantwortung.
Zu ihren Aufgaben gehören typischerweise:
Zweck und Einsatzbereich der KI definieren
Risiken früh benennen
Nutzungsregeln im Team einhalten
Ergebnisse fachlich prüfen
Vorfälle oder Fehlerbilder eskalieren
Zweite Linie: unabhängige Kontrolle
Im KMU muss das keine grosse Compliance-Funktion sein. Je nach Grösse übernimmt diese Rolle eine Person oder Stelle aus Risk, Compliance, Datenschutz, IT, Operations oder direkt aus dem Management. Wichtig ist die gewisse Unabhängigkeit von der operativen Nutzung.
Diese zweite Linie prüft zum Beispiel:
Ist die Risikoeinstufung nachvollziehbar?
Sind Massnahmen ausreichend definiert?
Gibt es Lücken bei Vertraulichkeit, Freigabe oder Kontrolle?
Werden Reviews und Eskalationen eingehalten?
Dritte Linie: Geschäftsführung und Aufsicht
Die dritte Linie liegt auf Ebene der Geschäftsführung oder der obersten verantwortlichen Führung. Dort werden Grundsätze, Toleranzen und Freigaben für kritische Fälle entschieden. Diese Ebene muss nicht jeden Use Case im Detail bearbeiten, aber sie sollte wissen, wo hohe Risiken bestehen und welche Restrisiken bewusst getragen werden.
Für KMU ist wichtig: Die drei Linien bedeuten nicht drei Abteilungen. Oft übernehmen wenige Personen mehrere Rollen. Entscheidend ist, dass operative Nutzung und unabhängige Beurteilung nicht vollständig vermischt werden. Wer einen KI-Use-Case einführt, sollte ihn nicht allein freigeben und ohne Gegenprüfung betreiben.
Der einfache Prozess: Risiken erkennen, bewerten und Massnahmen festlegen
Ein praktikables AI Risk Management braucht keinen langen Formalismus. Für KMU reicht oft ein schlanker Ablauf mit wenigen, klaren Schritten.
1. Use Case erfassen
Am Anfang steht nicht das Tool, sondern der Anwendungsfall. Beschrieben werden sollte:
Wofür wird die KI eingesetzt?
Wer nutzt sie?
Welche Daten fliessen ein?
Welche Outputs entstehen?
Welche Entscheidungen oder Handlungen werden damit beeinflusst?
Diese Klärung verhindert, dass eine Lösung technisch eingeführt wird, ohne den tatsächlichen Prozessbezug zu verstehen.
2. Kontext und Kritikalität klären
Danach folgt die Einordnung des Geschäftskontexts. Dabei helfen Fragen wie:
Betrifft der Use Case Kunden, Mitarbeitende oder sensible Informationen?
Entstehen externe Wirkungen oder bleibt die Nutzung intern?
Wie kritisch ist der Prozess, den die KI unterstützt?
Gibt es rechtliche, vertragliche oder qualitative Anforderungen?
Hier wird sichtbar, ob es sich um ein Hilfsmittel mit begrenzter Wirkung oder um einen entscheidungsnahen Einsatz handelt.
3. Risiken bewerten und einstufen
Nun werden die wesentlichen Risiken benannt und in eine einfache Risikostufe eingeordnet. Dabei geht es nicht um mathematische Perfektion, sondern um nachvollziehbare Bewertung. Für jeden Use Case sollte klar sein:
Welche Fehler können auftreten?
Wie wahrscheinlich oder wie relevant sind sie?
Wer wäre betroffen?
Wie schnell würden Probleme erkannt?
Auf dieser Basis kann das oben beschriebene Risk Tiering angewendet werden.
4. Massnahmen festlegen
Erst jetzt folgt die Steuerung. Geeignete Massnahmen hängen vom Use Case ab. Typische Beispiele sind:
menschliche Kontrolle vor Veröffentlichung oder vor einer Entscheidung
Regeln zur Datenqualität und zur zulässigen Datennutzung
klare Zugriffsrechte für Systeme und Inhalte
Logging wichtiger Nutzungsschritte oder Entscheidungen
definierte Eskalationswege bei Fehlern oder Auffälligkeiten
kurze, gezielte Schulungen für die betroffenen Teams
Einschränkung des Einsatzbereichs auf klar definierte Fälle
Wichtig ist, dass Massnahmen wirksam und alltagstauglich sind. Eine gute Regel, die niemand versteht oder einhält, reduziert kein Risiko.
5. Freigabe und Dokumentation
Bevor ein Use Case produktiv läuft, sollte feststehen, wer ihn freigibt. Die Dokumentation muss dabei nicht umfangreich sein, aber sie sollte nachvollziehbar bleiben. Sinnvoll ist eine knappe Übersicht mit:
Beschreibung des Use Cases
Risikostufe
wichtigsten Risiken
definierten Massnahmen
verantwortlichen Rollen
Review-Termin oder Auslöser für erneute Prüfung
Diese schlanke Form reicht oft aus, um Verantwortlichkeiten sauber zu verankern und später nicht bei null beginnen zu müssen.
Laufendes Monitoring, Review-Routinen und Verantwortlichkeiten im Alltag
AI Risk Management endet nicht mit der Einführung. Gerade bei KI können sich Risiken verändern, obwohl der ursprüngliche Use Case gleich aussieht. Modelle werden angepasst, Datenquellen verändern sich, Teams nutzen Anwendungen anders als geplant oder Prozesse verschieben sich schrittweise.
Deshalb braucht es laufendes Monitoring. Im KMU muss das nicht hochkomplex sein. Entscheidend ist eine einfache, regelmässige Review-Routine.
Sinnvolle Anlässe für eine erneute Prüfung sind zum Beispiel:
Änderungen am Modell oder Anbieter
neue Datenquellen
Ausweitung des Use Cases
neue Kundengruppen oder interne Nutzergruppen
Vorfälle, Reklamationen oder auffällige Fehler
veränderte rechtliche oder betriebliche Anforderungen
Für die Reviews genügen oft einige klare Leitfragen:
Funktionieren die definierten Massnahmen noch?
Sind neue Fehlerbilder oder problematische Muster aufgetreten?
Wurde der Use Case anders genutzt als ursprünglich vorgesehen?
Haben sich Auswirkungen auf Kunden, Mitarbeitende oder Prozesse verändert?
Muss die Risikostufe angepasst werden?
Ist eine Eskalation oder neue Freigabe nötig?
Monitoring ist dabei nicht nur technisch zu verstehen. Es geht nicht allein um Systemmetriken, sondern auch um Beobachtungen aus dem Betrieb, Rückmeldungen von Teams, Reklamationen, Prozessabweichungen und geänderte Nutzungsmuster.
Damit diese Reviews funktionieren, müssen Zuständigkeiten klar sein:
Das operative Team verantwortet den täglichen Einsatz und meldet Auffälligkeiten.
Die kontrollierende Stelle prüft regelmässig, ob Regeln und Massnahmen eingehalten werden.
Die Geschäftsführung oder zuständige Leitung entscheidet bei wesentlichen Änderungen oder erhöhtem Restrisiko.
Besonders wichtig ist die Befähigung der Mitarbeitenden. Wer mit KI arbeitet, muss nicht nur wissen, wie ein System genutzt wird, sondern auch, wo seine Grenzen liegen und wann eskaliert werden muss. Entsprechende Schulung und Enablement sind deshalb kein Nebenthema, sondern ein Kernbestandteil eines belastbaren KI-Risikomanagements.
So gelingt der Einstieg in AI Risk Management im KMU
Der Einstieg muss nicht mit einem grossen Programm beginnen. Für die meisten KMU ist es sinnvoller, bei einem konkreten Use Case zu starten und daran einen wiederholbaren Standard aufzubauen.
Ein praxistauglicher Anfang sieht so aus:
Einen bestehenden oder geplanten KI-Use-Case auswählen
Zweck, Daten, Wirkung und Entscheidungsspielraum kurz beschreiben
Risiken und Kritikalität in einer einfachen Stufe einordnen
Verantwortliche für Betrieb, Kontrolle und Freigabe festlegen
Zwei bis fünf zentrale Massnahmen definieren
Einen ersten Review-Termin oder klare Review-Auslöser bestimmen
Dieser kleine Rahmen genügt oft, um aus einer unkoordinierten Einzellösung einen steuerbaren Anwendungsfall zu machen. Gleichzeitig wird sichtbar, wo interne Regeln fehlen, welche Prozesse unklar sind und bei welchen Themen vertiefte Klärung sinnvoll ist.
Wenn bereits mehrere KI-Anwendungen im Einsatz sind, lohnt sich eine strukturierte Priorisierung. Eine erste Standortbestimmung zeigt, welche Use Cases unkritisch sind, wo engere Kontrollen nötig werden und welche Verantwortlichkeiten geschärft werden sollten. Genau dafür kann eine fundierte Beratung und Analyse helfen: nicht als grosses Transformationsprogramm, sondern als pragmatische Einordnung mit umsetzbaren nächsten Schritten.
Häufig gestellte Fragen
Wie stark muss ein KMU seine KI-Risiken dokumentieren?
Die Dokumentation sollte schlank, aber nachvollziehbar sein. In der Regel reicht eine kurze Übersicht pro Use Case mit Zweck, Risikostufe, wichtigsten Risiken, Massnahmen, Verantwortlichkeiten und Review-Routine. Entscheidend ist nicht die Länge, sondern dass spätere Entscheide, Freigaben und Anpassungen verständlich bleiben.
Wer trägt im KMU die Verantwortung für KI-Risiken im Alltag?
Im Alltag liegt die operative Verantwortung bei den Teams oder Fachverantwortlichen, die die KI einsetzen. Sie müssen Nutzung, Grenzen und Auffälligkeiten im Blick behalten. Ergänzend braucht es eine unabhängige Kontrollfunktion, etwa durch Compliance, Risk, IT oder Management, sowie eine übergeordnete Aufsicht durch die Geschäftsführung bei kritischen Anwendungsfällen.
Wie lässt sich entscheiden, ob ein KI-Use-Case akzeptabel ist oder gestoppt werden sollte?
Massgeblich sind Geschäftskontext, Kritikalität, definierte Massnahmen und das verbleibende Restrisiko. Wenn ein Use Case trotz angemessener Kontrollen weiterhin zu hohe Auswirkungen auf Kunden, Mitarbeitende, Compliance oder den Betrieb haben kann, sollte er nicht freigegeben oder gestoppt werden. Wenn das Restrisiko hingegen begrenzt, transparent und bewusst akzeptiert ist, kann der Einsatz vertretbar sein.
Was ist der Unterschied zwischen Risk Tolerance und Residual Risk bei KI?
Risk Tolerance beschreibt den Risikorahmen, den ein Unternehmen für einen bestimmten Anwendungsfall akzeptieren will. Residual Risk ist das Risiko, das nach allen definierten Massnahmen noch übrig bleibt. Vereinfacht gesagt: Die Toleranz legt fest, was tragbar ist, das Restrisiko zeigt, was tatsächlich bleibt.
Wie oft sollten KI-Anwendungen im KMU überprüft werden?
Das hängt vom Risiko und vom Use Case ab. Sinnvoll sind Reviews immer dann, wenn sich Modell, Daten, Anbieter, Nutzerkreis oder Prozesskontext ändern. Zusätzlich empfiehlt sich eine regelmässige Überprüfung in festen Abständen, etwa quartalsweise oder halbjährlich bei relevanten Anwendungen. Kritische Use Cases benötigen engere Routinen als einfache interne Assistenzsysteme.
Braucht ein KMU für AI Risk Management ein eigenes Tool?
Nicht zwingend. Für den Einstieg sind klare Rollen, nachvollziehbare Entscheidungen und einfache Review-Routinen wichtiger als spezialisierte Software. Viele KMU können die ersten Schritte mit bestehenden Mitteln sauber abbilden. Ein Tool kann später sinnvoll sein, wenn mehrere Use Cases koordiniert verwaltet werden müssen, ersetzt aber keine klare Verantwortungsstruktur.
