KI Governance Ethik im KMU verankern

Viele Unternehmen haben heute erste KI-Leitlinien formuliert. Darin steht zum Beispiel, dass KI fair, transparent und verantwortungsvoll eingesetzt werden soll. Das ist ein sinnvoller Anfang. Im Alltag reicht es aber nicht.

Denn Werte entfalten erst dann Wirkung, wenn sie in Zuständigkeiten, Entscheidungen und Routinen übersetzt werden. Genau hier liegt in vielen KMU die Lücke: Es gibt gute Absichten, aber keine klaren Regeln dafür, wer eine KI-Anwendung prüft, welche Kriterien gelten, wie Risiken erkannt werden und was bei Unsicherheiten passiert.

Für Schweizer KMU muss KI Governance Ethik deshalb vor allem eines leisten: Sie muss praktisch umsetzbar sein. Nicht als grosses Framework, sondern als schlanke Steuerung, die den Betrieb unterstützt. KI ersetzt keine klaren Prozesse. Im Gegenteil: Sie funktioniert dort am besten, wo Abläufe, Verantwortlichkeiten und Qualitätsstandards bereits verständlich geregelt sind.

Warum KI-Ethik allein im Alltag nicht reicht

Ethische Grundsätze beschreiben, was ein Unternehmen wichtig findet. Dazu gehören zum Beispiel Fairness, Nachvollziehbarkeit, Kontrolle durch Menschen oder Rechenschaftspflicht bei Fehlern. Solche Leitlinien geben Orientierung und helfen, eine gemeinsame Haltung zu entwickeln.

Das Problem beginnt dort, wo diese Haltung nicht in den Betrieb übersetzt wird.

Ein Beispiel aus einem KMU: Ein Unternehmen nutzt KI, um eingehende Anfragen automatisch zu priorisieren. Im Leitbild steht, dass alle Kundinnen und Kunden gleich behandelt werden sollen. In der Praxis merkt aber niemand, dass Anfragen bestimmter Kundengruppen systematisch tiefer eingestuft werden, weil historische Daten frühere Bearbeitungsmuster übernommen haben. Das Prinzip Fairness ist zwar formuliert, aber niemand prüft, wie die Priorisierung wirkt. Es gibt keine definierte Verantwortung, keine Stichprobe, keine Eskalation.

In solchen Situationen bleiben ethische KI-Prinzipien folgenlos. Nicht weil sie falsch wären, sondern weil sie ohne operative Verankerung keine Steuerungswirkung haben.

Für KMU ist das besonders relevant. Die Wege sind oft kurz, Entscheidungen werden pragmatisch getroffen und neue digitale Lösungen schnell eingeführt. Das ist ein Vorteil. Gleichzeitig steigt das Risiko, dass eine KI-Anwendung produktiv genutzt wird, bevor geklärt ist:

• Welches Problem sie genau lösen soll

• Welche Daten sie verwendet

• Wer Resultate überprüft

• Wo menschliche Freigaben nötig sind

• Wer bei Fehlern oder Beschwerden entscheidet

KI Ethik im Unternehmen wird deshalb erst dann wirksam, wenn aus Absichten überprüfbare Abläufe werden.

Von Leitbild zu Governance: der praktische Unterschied

Wer über verantwortungsvollen KI-Einsatz spricht, verwendet oft ähnliche Begriffe für unterschiedliche Dinge. Für die Praxis lohnt sich eine klare Trennung.

KI-Leitlinien beschreiben die Grundsätze. Sie beantworten Fragen wie: Nach welchen Werten soll KI eingesetzt werden? Was ist dem Unternehmen wichtig? Welche Grenzen gelten?

KI-Verantwortung beschreibt, wer die Folgen einer KI-Anwendung trägt. Also wer Entscheidungen absichert, Risiken beurteilt und gegenüber internen oder externen Anspruchsgruppen Rechenschaft ablegt.

Governance wiederum ist die Übersetzung in den Betrieb. Sie legt fest, wie gesteuert wird. Dazu gehören:

• Rollen und Zuständigkeiten

• Entscheidungsregeln

• Freigaben und Kontrollen

• Dokumentation von Annahmen

• Eskalationswege bei Abweichungen oder Unsicherheiten

Governance ist damit nicht einfach ein Dokument. Sie ist auch keine rein formale Pflichtübung. Sie ist die praktische Steuerung, damit Werte im Tagesgeschäft wirksam bleiben.

Ein einfaches Bild hilft: Leitlinien sagen, wohin das Unternehmen will. Governance regelt, wie es dorthin kommt und wer unterwegs welche Verantwortung trägt.

Gerade bei KI ist dieser Unterschied wichtig. Denn viele Risiken entstehen nicht auf der Ebene der Absicht, sondern auf der Ebene der Anwendung. Eine an sich sinnvolle Automatisierung kann problematisch werden, wenn Eingabedaten unklar sind, Ausgaben ungeprüft übernommen werden oder niemand erklären kann, weshalb eine Entscheidung so ausgefallen ist.

Responsible AI Governance bedeutet für KMU deshalb nicht, zuerst ein komplexes Enterprise-Modell aufzubauen. Es geht darum, wenige, aber klare Regeln für echte Anwendungsfälle zu definieren. Das kann klein beginnen und schrittweise ausgebaut werden.

Welche Rollen und Verantwortlichkeiten ein KMU festlegen sollte

Eine praxistaugliche KI-Governance braucht keine grosse Spezialorganisation. Sie braucht vor allem klare Zuständigkeiten. Sonst entsteht schnell das bekannte Muster: Alle sind irgendwie beteiligt, aber niemand entscheidet verbindlich.

Welche Rollen sinnvoll sind, hängt von Grösse und Struktur des Unternehmens ab. In vielen KMU genügen folgende Funktionen:

Geschäftsführung

Die Geschäftsführung setzt den Rahmen. Sie genehmigt die Grundsätze, definiert die Risikobereitschaft und entscheidet, bei welchen Anwendungsfällen besondere Vorsicht gilt. Dazu gehören etwa Anwendungen mit direkter Wirkung auf Mitarbeitende, Kundschaft, Qualität oder Datenschutz.

Ihre Aufgabe ist nicht die Detailprüfung jeder Lösung. Sie sorgt aber dafür, dass KI-Verantwortung organisatorisch verankert wird und nicht nebenbei läuft.

Fachbereich oder Prozessverantwortliche

Der Fachbereich kennt den konkreten Anwendungsfall. Dort wird am besten beurteilt, ob eine KI-Anwendung inhaltlich sinnvoll ist, welche Fehlerfolgen relevant sind und an welchen Stellen menschliche Kontrolle nötig bleibt.

Wenn etwa ein Team im Kundendienst Antworten mit KI vorbereitet, muss der Fachbereich definieren, welche Antworttypen automatisch verwendet werden dürfen und wo eine Freigabe durch Mitarbeitende zwingend ist.

IT oder Digitalisierung

Diese Funktion verantwortet typischerweise die technische Einbettung. Sie prüft, wie Daten fliessen, welche Systeme betroffen sind, wie Zugriffe geregelt werden und wie sich Änderungen nachvollziehen lassen.

Wichtig ist dabei: Die technische Umsetzung allein genügt nicht. IT oder Digitalisierung sollte Teil der Governance sein, aber nicht allein über fachliche Risiken entscheiden.

Qualität, Prozesse oder Operations

Diese Rolle ist in vielen KMU besonders wertvoll. Wer Prozesse und Qualität verantwortet, kann KI dort einordnen, wo sie tatsächlich wirkt: im Ablauf. Hier werden Prozessschritte, Kontrollen, Ausnahmen und Schnittstellen sichtbar.

Gerade wenn Swiss Process Solutions KMU bei Prozessoptimierung begleitet, zeigt sich oft: KI funktioniert auf klaren Prozessen besser. Unscharfe Abläufe lassen sich nicht sinnvoll automatisieren oder überwachen.

Datenschutz oder Compliance, je nach Unternehmensgrösse

Nicht jedes KMU hat dafür eine eigene Stelle. Die Funktion kann auch von einer verantwortlichen Person mitgetragen werden. Relevant ist sie dort, wo Personendaten, sensible Informationen oder regulatorische Anforderungen betroffen sind.

Wer macht was konkret?

Damit aus Rollen echte Steuerung wird, sollten mindestens vier Verantwortungen explizit geregelt sein:

• Wer gibt die Grundsätze und Einsatzgrenzen frei?

• Wer prüft neue KI-Anwendungen vor dem Einsatz?

• Wer dokumentiert Annahmen, Risiken und Entscheidungen?

• Wer entscheidet bei Unsicherheiten oder eskalierten Fällen?

Dazu gehört auch, Teams in die Lage zu versetzen, diese Rollen wahrzunehmen. Regeln bleiben wirkungslos, wenn Mitarbeitende sie nicht verstehen oder im Alltag nicht anwenden können. Deshalb ist [Schulung und Enablement](https://www.sp-solutions.ch/leistungen/schulung-betreuung) oft ein wichtiger Teil der Verankerung.

Entscheidungskriterien für faire und transparente KI-Anwendungen

Prinzipien werden erst dann praxistauglich, wenn sie als Prüffragen formuliert sind. Ein KMU braucht keine theoretische Ethikdebatte, sondern Entscheidungskriterien, die im Alltag anwendbar sind.

Fairness

Fairness bedeutet im Unternehmenskontext nicht automatisch perfekte Gleichverteilung. Relevant ist vielmehr, ob eine KI-Anwendung bestimmte Gruppen oder Fälle systematisch benachteiligt, ohne dass dies fachlich gerechtfertigt ist.

Praktische Fragen dazu:

• Welche Daten fliessen in die Anwendung ein?

• Enthalten diese Daten historische Verzerrungen?

• Gibt es Kundengruppen, Mitarbeitende oder Lieferanten, die überdurchschnittlich von Fehlentscheiden betroffen sein könnten?

• Werden Resultate stichprobenweise nach Fallgruppen geprüft?

Ein Beispiel: Eine KI unterstützt die Einsatzplanung im Service. Wenn historische Daten immer dieselben Mitarbeitenden für kurzfristige Einsätze vorsehen, kann die KI dieses Muster übernehmen. Fairness heisst hier, die Auswirkungen auf unterschiedliche Teams oder Standorte bewusst zu prüfen.

Transparenz

Transparenz bedeutet nicht, dass jedes Modell technisch bis ins Detail erklärt werden muss. Für KMU ist wichtiger, dass der Einsatz nachvollziehbar bleibt.

Hilfreiche Fragen:

• Ist klar dokumentiert, wofür die Anwendung eingesetzt wird?

• Wissen die Nutzenden, welche Daten berücksichtigt werden?

• Können Resultate in verständlicher Form begründet werden?

• Ist ersichtlich, ob ein Vorschlag von einer KI stammt oder von einer Person?

In operativen Prozessen genügt oft eine einfache Transparenzregel: Wer mit KI arbeitet, muss wissen, was das System leisten soll, wo seine Grenzen liegen und wann eine manuelle Prüfung nötig ist.

Kontrolle

Menschliche Kontrolle ist besonders dann wichtig, wenn Fehler grosse Auswirkungen haben. Nicht jeder KI-Einsatz braucht denselben Kontrollgrad. Eine Textzusammenfassung für interne Notizen ist anders zu bewerten als eine KI-gestützte Entscheidung über Reklamationen oder Bonitätsprüfungen.

Prüffragen:

• An welcher Stelle braucht es eine menschliche Freigabe?

• Welche Resultate dürfen automatisch weiterverarbeitet werden?

• Welche Fälle gelten als Ausnahmen und müssen überprüft werden?

• Was passiert, wenn die Ausgabe unplausibel ist?

Gerade in der Prozessoptimierung ist diese Unterscheidung zentral. KI kann Vorschläge machen, priorisieren oder vorbereiten. Die Verantwortung für kritische Entscheidungen sollte aber an definierten Stellen beim Menschen bleiben.

Rechenschaftspflicht

Rechenschaftspflicht heisst: Es ist geklärt, wer für den Einsatz verantwortlich ist, wer Fehler bewertet und wer Korrekturen auslöst.

Wichtige Fragen:

• Wer trägt die Verantwortung für das Verfahren?

• Wer entscheidet über Anpassungen oder den Stopp einer Anwendung?

• Wie werden Fehlentscheide festgehalten?

• Wer informiert betroffene interne oder externe Stellen bei Problemen?

Ohne Rechenschaftspflicht gibt es keine belastbare KI Governance Ethik. Denn sobald Resultate strittig werden, zeigt sich, ob Verantwortung tatsächlich zugewiesen ist oder nur auf dem Papier existiert.

Stakeholder-Analyse: Wer einbezogen werden sollte und warum

KI-Governance funktioniert nicht nur innerhalb eines kleinen Projektteams. Gute Entscheidungen entstehen, wenn die relevanten Perspektiven früh einbezogen werden.

Für KMU genügt dafür meist eine einfache Stakeholder-Logik. Die Frage lautet: Wer arbeitet mit der Anwendung, wer ist von ihr betroffen und wer trägt die Folgen von Fehlern?

Typische Gruppen sind:

• interne Nutzerinnen und Nutzer

• Teamleitungen und Geschäftsführung

• Mitarbeitende, deren Arbeit durch KI verändert wird

• Kundinnen und Kunden

• Lieferanten oder Partner, wenn Prozesse nach aussen wirken

Der Nutzen dieser Analyse ist sehr konkret. Unterschiedliche Stakeholder sehen unterschiedliche Risiken.

Ein Fachbereich erkennt, ob eine Empfehlung fachlich plausibel ist. Mitarbeitende sehen oft früh, wo Ausgaben im Alltag missverständlich oder unpraktisch sind. Die Führung beurteilt Auswirkungen auf Haftung, Reputationsrisiken und Steuerung. Kundennähe zeigt, ob Transparenz und Fairness auch aus Sicht der Betroffenen nachvollziehbar sind.

Ein Beispiel: Ein KMU möchte KI einsetzen, um eingehende Offertanfragen vorzusortieren und Bearbeitungszeiten zu reduzieren. Der Vertrieb sieht den Effizienzgewinn. Das Team im Innendienst erkennt aber, dass spezielle Anfragen mit unvollständigen Angaben fälschlich zu tief priorisiert würden. Ohne diese Perspektive würde ein wichtiges Risiko unentdeckt bleiben.

Stakeholder einzubeziehen muss nicht schwerfällig sein. Oft reichen kurze Workshops, ein Review mit den betroffenen Teams oder ein strukturierter Abgleich vor der Freigabe. Entscheidend ist nicht die Form, sondern dass relevante Sichtweisen vor dem produktiven Einsatz sichtbar werden.

Prüfmechanismen, die ohne grossen Aufwand funktionieren

Governance wird erst glaubwürdig, wenn sie geprüft werden kann. Dafür braucht es in einem KMU keine umfangreichen Audit-Programme. Viel wirksamer sind einfache Kontrollpunkte, die in bestehende Routinen eingebettet werden.

Freigabe vor dem Einsatz

Bevor eine KI-Anwendung produktiv genutzt wird, sollte eine kurze Freigabe erfolgen. Diese muss nicht kompliziert sein. Ein kompaktes Prüfblatt mit wenigen Punkten genügt oft:

• Ziel und Nutzen der Anwendung

• betroffene Prozesse

• verwendete Daten

• Risiken und Grenzen

• benötigte menschliche Kontrollen

• verantwortliche Personen

Damit wird aus einer spontanen Einführung eine bewusst getroffene Entscheidung.

Periodische Wirkungskontrolle

Nach dem Start ist entscheidend, ob die Anwendung im Alltag tatsächlich so wirkt wie vorgesehen. Eine kurze Review-Routine, etwa monatlich oder quartalsweise, hilft dabei.

Zu prüfen sind zum Beispiel:

• Stimmen die Resultate mit den Erwartungen überein?

• Gibt es wiederkehrende Fehlmuster?

• Haben sich Auswirkungen auf Qualität, Durchlaufzeit oder Kundenzufriedenheit verändert?

• Sind zusätzliche Kontrollen nötig?

Stichproben auf Fehlentscheidungen

Besonders bei KI, die Vorschläge erzeugt, Prioritäten setzt oder Inhalte vorbereitet, sind Stichproben oft sehr wirksam. Sie zeigen mit geringem Aufwand, ob sich Fehler systematisch häufen.

Wichtig ist, dass diese Stichproben nicht nur technische Korrektheit prüfen, sondern auch Auswirkungen auf Fairness, Transparenz und Prozessqualität.

Dokumentation von Annahmen

Nicht jede Governance braucht dicke Handbücher. Aber zentrale Annahmen sollten festgehalten werden. Zum Beispiel:

• Für welchen Zweck wurde die Anwendung eingeführt?

• Welche Datengrundlage wird verwendet?

• Welche Risiken wurden akzeptiert?

• Welche Kontrollen wurden festgelegt?

Diese Dokumentation hilft, Entscheidungen später nachzuvollziehen und Anpassungen sauber zu begründen.

Eskalation bei Abweichungen

Es muss klar sein, was passiert, wenn Resultate auffällig sind. Wer meldet einen problematischen Fall? Wer entscheidet, ob eine Anwendung pausiert, angepasst oder enger überwacht wird?

Ein definierter Eskalationsweg ist oft wichtiger als zusätzliche Formulare. Denn Governance zeigt ihren Wert gerade dann, wenn etwas nicht wie geplant funktioniert.

KMU-taugliche Startpunkte für Responsible AI Governance

Der Einstieg muss nicht gross sein. Für die meisten KMU ist es sinnvoller, mit einem einzelnen priorisierten Anwendungsfall zu beginnen, statt sofort ein umfassendes Regelwerk zu schreiben.

Ein pragmatisches Modell sieht so aus:

1. Einen Anwendungsfall priorisieren

Nicht mit dem theoretisch spannendsten Fall starten, sondern mit einem Anwendungsfall, der real ist und genügend Nutzen verspricht. Gleichzeitig sollte er überschaubar genug sein, um Governance konkret zu erproben.

Geeignet sind oft Anwendungen in Support, Dokumentation, interner Wissensnutzung, Vorqualifizierung oder Prozessunterstützung.

2. Einen kleinen Governance-Kreis festlegen

Meist reichen drei bis fünf Beteiligte:

• eine verantwortliche Person aus der Geschäftsführung oder Bereichsleitung

• der zuständige Fachbereich

• IT oder Digitalisierung

• je nach Fall Prozesse, Qualität oder Datenschutz

Dieser Kreis entscheidet über Freigaben, Ausnahmen und Reviews.

3. Verantwortlichkeiten schriftlich klären

Kurz und einfach festhalten:

• Wer ist fachlich verantwortlich?

• Wer prüft die Anwendung vor dem Einsatz?

• Wer überwacht die Wirkung?

• Wer eskaliert bei Problemen?

Diese Klarheit ist oft wirksamer als ein umfangreiches Regelwerk.

4. Einen kurzen Prüfstandard definieren

Ein einseitiger Standard mit den wichtigsten Fragen zu Fairness, Transparenz, Kontrolle und Verantwortung genügt für den Anfang meist völlig.

5. Eine einfache Review-Routine einführen

Zum Beispiel nach vier bis sechs Wochen und danach quartalsweise. So wird Governance zur gelebten Routine statt zur einmaligen Einführung.

Wer den Einstieg strukturiert angehen will, profitiert oft von einer sauberen Standortbestimmung. Gerade bei mehreren möglichen Einsatzfeldern hilft [Beratung und Analyse](https://www.sp-solutions.ch/leistungen/beratung-strategie), Anwendungsfälle zu priorisieren, Verantwortlichkeiten sinnvoll zu verteilen und die Governance auf das tatsächliche Risiko auszurichten.

Responsible AI Governance darf dabei iterativ wachsen. Was bei einem ersten Anwendungsfall funktioniert, kann später auf weitere Prozesse übertragen werden. Entscheidend ist nicht Perfektion von Anfang an, sondern ein belastbarer Start.

Externe Unterstützung für klare und umsetzbare KI-Regeln

Viele KMU wissen grundsätzlich, was sie mit KI erreichen wollen. Schwieriger ist oft die Übersetzung in den Alltag: Wer entscheidet, welche Anwendung tragbar ist? Welche Prüfkriterien genügen? Wo braucht es menschliche Freigaben? Welche Kontrollmechanismen sind schlank genug, um wirklich genutzt zu werden?

Genau an dieser Stelle kann externe Unterstützung sinnvoll sein. Nicht, um ein schweres Governance-System aufzubauen, sondern um den Einstieg zu beschleunigen und typische Lücken früh zu schliessen.

Hilfreich ist dies besonders bei:

• der Klärung von Rollen und Verantwortlichkeiten

• der Priorisierung geeigneter KI-Anwendungsfälle

• der Formulierung von Entscheidungslogiken

• dem Aufbau einfacher Prüfmechanismen

• der Verankerung in Teams durch [Schulung und Enablement](https://www.sp-solutions.ch/leistungen/schulung-betreuung)

Für Schweizer KMU ist ein strukturierter Start oft der beste Weg: erst verstehen, wo KI im Betrieb wirklich Mehrwert schafft, dann Governance gezielt dort verankern, wo Wirkung und Risiko zusammenkommen.

Häufig gestellte Fragen

Was ist der Unterschied zwischen KI-Leitlinien und KI-Governance?

KI-Leitlinien beschreiben die Werte und Grundsätze eines Unternehmens, etwa Fairness, Transparenz oder menschliche Kontrolle. KI-Governance regelt die praktische Umsetzung im Betrieb. Dazu gehören Rollen, Entscheidungsregeln, Kontrollen, Dokumentation und Eskalationswege. Leitlinien geben die Richtung vor, Governance macht sie im Alltag wirksam.

Welche Rollen braucht ein KMU für eine praxistaugliche KI-Governance?

In vielen KMU genügen wenige klar definierte Funktionen: Geschäftsführung oder Bereichsleitung für den Rahmen, der Fachbereich für den konkreten Anwendungsfall, IT oder Digitalisierung für die technische Einbettung und je nach Fall Prozesse, Qualität oder Datenschutz. Entscheidend ist weniger die Anzahl Rollen als die klare Zuweisung von Verantwortung.

Wie lassen sich Fairness und Transparenz bei KI-Anwendungen überhaupt prüfen?

Fairness und Transparenz lassen sich über konkrete Prüffragen operationalisieren. Bei Fairness geht es etwa um Datengrundlagen, mögliche Verzerrungen und Auswirkungen auf unterschiedliche Gruppen. Bei Transparenz ist wichtig, ob Zweck, Datenbasis, Grenzen und Resultate nachvollziehbar sind. Praktisch bewährt haben sich Stichproben, Reviews und klar dokumentierte Annahmen.

Braucht jedes KMU ein grosses Governance-Framework für KI?

Nein. Für die meisten KMU ist ein schlanker Einstieg sinnvoller als ein grosses Framework. Oft reicht es, mit einem priorisierten Anwendungsfall, einem kleinen Governance-Kreis, klaren Verantwortlichkeiten, einem kurzen Prüfstandard und einer einfachen Review-Routine zu starten. Governance soll steuern, nicht belasten.

Wie kann man KI-Verantwortung im Alltag klar zuweisen?

KI-Verantwortung wird klar, wenn für jede Anwendung festgelegt ist, wer fachlich verantwortlich ist, wer vor dem Einsatz prüft, wer Resultate überwacht und wer bei Problemen entscheidet. Diese Zuständigkeiten sollten schriftlich festgehalten und in bestehende Prozesse eingebettet werden. So wird Verantwortung nicht allgemein formuliert, sondern konkret gelebt.

Welche ersten Schritte sind für Schweizer KMU sinnvoll, um KI-Governance aufzubauen?

Sinnvoll ist meist ein pragmatischer Start: einen konkreten Anwendungsfall auswählen, die beteiligten Rollen bestimmen, einfache Prüfkriterien definieren und eine erste Review-Routine festlegen. Wichtig ist zudem, Teams früh einzubeziehen und Governance nicht nur als Dokumentation zu verstehen, sondern als Teil des operativen Alltags.