Verantwortungsvolle KI: mehr als Compliance

Künstliche Intelligenz hält in Schweizer KMU oft schrittweise Einzug: zuerst bei Textentwürfen, dann im Kundendienst, später vielleicht in der Priorisierung von Anfragen oder in internen Entscheidungen. Dabei taucht fast immer dieselbe erste Frage auf: Ist das erlaubt?

Diese Frage ist wichtig. Sie reicht aber nicht aus.

Denn ein KI-Einsatz kann rechtlich zulässig sein und trotzdem problematisch wirken: für Mitarbeitende, für Kundinnen und Kunden oder für die eigene Reputation. Gerade im KMU-Umfeld, wo Vertrauen, kurze Wege und persönliche Beziehungen eine grosse Rolle spielen, entscheidet nicht nur die Rechtslage über die Qualität einer Lösung. Es geht auch darum, ob ein Einsatz nachvollziehbar, fair und im Alltag tragbar ist.

Verantwortungsvolle KI beginnt deshalb dort, wo Unternehmen nicht nur nach Compliance fragen, sondern auch nach den Folgen ihrer Entscheidungen.

Warum gesetzeskonform nicht automatisch verantwortungsvoll ist

Compliance bedeutet im Kern, dass gesetzliche und regulatorische Anforderungen eingehalten werden. Im KI-Kontext ist das die rechtliche Untergrenze. Ohne diese Grundlage sollte kein Unternehmen starten.

Doch zwischen «erlaubt» und «sinnvoll» liegt oft ein grosser Unterschied.

Ein Beispiel: Ein Unternehmen nutzt eine KI, um eingehende Bewerbungen vorzusortieren. Die Datenverarbeitung ist sauber geregelt, die Zuständigkeiten sind definiert, und es bestehen keine offensichtlichen Verstösse. Trotzdem kann das Verfahren problematisch sein, wenn nicht klar ist, nach welchen Kriterien die Vorauswahl erfolgt oder wenn bestimmte Profile systematisch benachteiligt werden. Rechtlich mag der Einsatz vertretbar sein. Verantwortlich ist er erst dann, wenn auch Fairness, Nachvollziehbarkeit und Korrekturmöglichkeiten mitgedacht werden.

Dasselbe gilt in der Kundenkommunikation. KI-generierte Antwortvorschläge können Zeit sparen und die Bearbeitung beschleunigen. Wenn diese Antworten aber unpassend, unhöflich oder bei heiklen Anliegen zu pauschal ausfallen, leidet die Beziehung zur Kundschaft. Die Lösung war dann vielleicht zulässig, aber nicht gut genug gesteuert.

Verantwortung ist breiter als Compliance. Sie fragt nicht nur, ob ein Einsatz formell zulässig ist, sondern auch, ob er im konkreten Unternehmenskontext vertretbar ist. Dazu gehören unter anderem:

• faire Auswirkungen auf Betroffene

• nachvollziehbare Entscheidungen

• klare Zuständigkeiten

• angemessene menschliche Kontrolle

• ein bewusster Umgang mit Vertrauens- und Reputationsrisiken

Das ist keine Absage an KI Compliance. Im Gegenteil: Compliance bleibt die Basis. Aber wer dort aufhört, prüft nur die Mindestanforderung.

Recht, Ethik und Unternehmensverantwortung: Wo die Unterschiede liegen

Im Alltag werden Recht, KI Ethik und Unternehmensverantwortung oft vermischt. Für gute Entscheidungen hilft es, diese drei Ebenen auseinanderzuhalten.

Recht: Was mindestens eingehalten werden muss

Das Recht setzt Grenzen und schafft Verbindlichkeit. Es definiert, was zulässig ist und welche Anforderungen Unternehmen beachten müssen. Für KMU ist das wichtig, weil KI-Anwendungen häufig mit Daten, Kommunikation oder Entscheidungen über Menschen verbunden sind.

Recht beantwortet jedoch nicht jede praktische Frage. Es sagt meist nicht im Detail, ob eine bestimmte Automatisierung klug, fair oder für die eigene Kultur passend ist. Es schafft einen Rahmen, aber noch keine gute Entscheidung im Einzelfall.

Ethik: Was als richtig und fair gilt

Ethik fragt nach dem richtigen Handeln, gerade dort, wo mehrere Optionen möglich sind. Bei KI geht es dabei zum Beispiel um Fragen wie:

• Werden Personen gleich behandelt?

• Sind Entscheidungen verständlich genug?

• Können Betroffene sich gegen Fehlentscheide wehren?

• Ist der Einsatz mit den eigenen Werten vereinbar?

Im KMU-Kontext ist das keine akademische Debatte, sondern oft sehr konkret. Wenn ein Vertriebsteam KI-gestützte Empfehlungen zur Priorisierung von Leads erhält, kann das effizient sein. Es stellt sich aber auch die Frage, ob bestehende Muster unkritisch verstärkt werden. Werden bestimmte Kundengruppen systematisch bevorzugt? Werden Mitarbeitende unter Druck gesetzt, weil sie einem Score folgen sollen, den niemand erklären kann?

Unternehmensverantwortung: Wie Prinzipien im Alltag umgesetzt werden

Unternehmensverantwortung verbindet Recht und Ethik mit der betrieblichen Praxis. Sie zeigt sich nicht in grossen Leitbildern, sondern in täglichen Entscheidungen:

• Wer prüft einen KI-Anwendungsfall vor dem Start?

• Welche Fälle brauchen menschliche Freigabe?

• Wie wird dokumentiert, wofür eine KI eingesetzt wird?

• Was passiert bei Reklamationen oder Fehlentscheiden?

Gerade für Schweizer KMU ist diese Ebene entscheidend. Viele Organisationen brauchen kein umfangreiches Governance-Handbuch. Sie brauchen klare, einfache und anwendbare Regeln, die zum Betrieb passen.

Bei Personalfragen heisst das zum Beispiel: keine rein automatisierte Vorauswahl ohne nachvollziehbare Kriterien und menschliche Sichtung. In der Kundenkommunikation heisst es: KI darf unterstützen, aber heikle Anliegen müssen als solche erkannt und menschlich übernommen werden. In der Administration bedeutet es: automatisierte Prüfungen sind hilfreich, ersetzen aber keine klaren Prozesse und Verantwortlichkeiten.

Typische Graubereiche im KI-Alltag von Schweizer KMU

Viele Fragen rund um verantwortungsvolle KI entstehen nicht bei spektakulären Zukunftsszenarien, sondern im normalen Betriebsalltag. Genau dort lohnt sich der zweite Blick.

Automatisierte Bewerbungsfilter

Die Versuchung ist verständlich: Viele Bewerbungen, wenig Zeit, Wunsch nach effizienter Vorauswahl. Eine KI kann Unterlagen nach Begriffen, Erfahrungsprofilen oder Ähnlichkeit zu bestehenden Rollen sortieren.

Das Problem: Solche Systeme können ungeeignete Signale verstärken. Wer nur bestimmte Lebensläufe oder Sprachmuster bevorzugt, schliesst qualifizierte Personen unter Umständen aus. Selbst wenn der Einsatz erlaubt ist, bleibt die Frage, ob er fair und sachgerecht funktioniert.

Entscheidend ist hier nicht nur, ob Daten verarbeitet werden dürfen, sondern ob die Kriterien überprüfbar sind und ob ein Mensch die Entscheidung plausibilisiert.

KI-gestützte Antwortvorschläge im Kundendienst

Im Kundendienst kann KI produktiv sein: Standardanfragen lassen sich schneller beantworten, Mitarbeitende werden entlastet, Reaktionszeiten sinken.

Heikel wird es dort, wo Anliegen emotional, komplex oder finanziell relevant sind. Ein sachlich korrekt klingender Text kann am Kundenbedürfnis vorbeigehen. Wenn dann nicht ersichtlich ist, wann ein Mensch eingreifen muss, leidet die Qualität.

Die Compliance-Frage lautet vielleicht: Dürfen diese Daten zur Bearbeitung genutzt werden? Die Verantwortungsfrage lautet zusätzlich: Ist die Antwort für die betroffene Person verständlich, angemessen und vertrauensbildend?

Priorisierung von Supportfällen

Ein KMU setzt KI ein, um Supporttickets nach Dringlichkeit zu ordnen. Auf den ersten Blick ist das sinnvoll. Schwieriger wird es, wenn das Modell auf indirekten Signalen basiert, die nicht mit tatsächlicher Dringlichkeit übereinstimmen. Dann werden laut formulierte oder sprachlich bestimmte Anfragen womöglich bevorzugt, während sachlich formulierte, aber kritische Fälle nach hinten rutschen.

Hier geht es nicht nur um Effizienz, sondern um Auswirkungen auf Servicequalität und Gleichbehandlung.

Textprüfung und Qualitätskontrolle in der Administration

In der Administration wird KI oft genutzt, um Dokumente zu prüfen, Formulierungen zu vereinheitlichen oder Inhalte vorzustrukturieren. Das spart Zeit und reduziert Routineaufwand.

Die Grauzone beginnt dort, wo aus Unterstützung stillschweigend Entscheidung wird. Wenn Mitarbeitende Vorschläge ungeprüft übernehmen, weil sie effizient wirken, verlagert sich Verantwortung unbemerkt auf das System. Fehler, Auslassungen oder missverständliche Formulierungen können dann in Prozesse einfliessen, ohne dass sie jemand bewusst freigegeben hat.

Gerade hier zeigt sich: KI ersetzt keine klaren Prozesse. Sie funktioniert besser, wenn Zuständigkeiten, Prüfungen und Qualitätsmassstäbe bereits sauber definiert sind.

Entscheidungsunterstützung im Vertrieb

Lead-Scoring, Angebotspriorisierung oder Prognosen für Abschlusschancen sind typische Anwendungsfälle. Solche Hilfen können die Arbeit strukturieren, bergen aber auch Risiken. Wenn ein Score wie eine objektive Wahrheit behandelt wird, schränkt das die Beurteilung der Mitarbeitenden ein. Gleichzeitig bleibt oft unklar, warum ein Kontakt als «hoch» oder «niedrig» eingestuft wurde.

Dann stellt sich nicht nur die Frage nach der Zulässigkeit, sondern auch nach Transparenz und Verantwortung im Vertrieb.

Wer solche Situationen vertiefen möchte, findet im Bereich Praxiswissen zu KI im KMU weitere praxisnahe Einordnungen.

Die vier Prüfsteine: erlaubt, richtig, fair, verantwortbar

Für viele KMU hilft kein komplexes Framework, sondern eine einfache Entscheidungslogik. Vier Fragen reichen oft, um einen KI-Anwendungsfall sauber einzuordnen.

1. Ist es erlaubt?

Diese Frage betrifft die rechtliche und regulatorische Basis. Sie bleibt zentral. Ohne saubere Klärung von Daten, Zuständigkeiten und Rahmenbedingungen sollte kein Projekt produktiv gehen.

Wichtig ist aber: Ein positiver Rechtstest beantwortet nur die erste Ebene.

2. Ist es richtig?

Hier geht es um Zweck und Angemessenheit. Löst die KI tatsächlich ein sinnvolles Problem? Passt der Einsatz zum Prozess? Oder wird eine Schwäche im Ablauf einfach technisch überdeckt?

Ein schlechter Prozess wird durch KI selten gut. Oft wird er nur schneller und schwerer korrigierbar.

3. Ist es fair?

Diese Frage richtet den Blick auf Betroffene. Werden ähnliche Fälle ähnlich behandelt? Können bestimmte Gruppen benachteiligt werden? Entsteht Druck auf Mitarbeitende, weil sie einem unklaren Ergebnis folgen sollen?

Fairness ist im KMU nicht abstrakt. Sie zeigt sich in der täglichen Wahrnehmung: bei Bewerbenden, bei Kundschaft, im Team.

4. Ist es verantwortbar?

Hier wird die Gesamtsicht relevant. Kann das Unternehmen den Einsatz intern und extern erklären? Gibt es einen tragfähigen Umgang mit Fehlern, Einsprachen oder Sonderfällen? Würde man den Entscheid auch dann vertreten, wenn ein Kunde, ein Mitarbeitender oder ein Partner konkret nachfragt?

Verantwortbar bedeutet nicht risikofrei. Es bedeutet, dass Chancen und Risiken bewusst abgewogen wurden und dass das Unternehmen die Folgen tragen und erklären kann.

Diese vier Prüfsteine ergänzen sich. Wer nur fragt, ob etwas erlaubt ist, blendet die betriebliche Realität aus. Wer nur auf Fairness schaut, ohne die rechtliche Basis zu sichern, handelt ebenso unvollständig. Gute Entscheidungen entstehen aus dem Zusammenspiel.

Was auf dem Spiel steht: Vertrauen, Akzeptanz und Reputation

Der geschäftliche Wert von KI entsteht nicht allein durch Effizienz. Er hängt auch davon ab, ob die Lösung akzeptiert und verstanden wird.

Mitarbeitende

Wenn Mitarbeitende nicht nachvollziehen können, wie eine KI zu Empfehlungen oder Bewertungen kommt, entsteht Unsicherheit. Das kann zu Widerstand führen oder dazu, dass Ergebnisse entweder blind übernommen oder vollständig ignoriert werden. Beides ist problematisch.

Akzeptanz entsteht eher dann, wenn klar ist:

• wofür die KI eingesetzt wird

• wo ihre Grenzen liegen

• wer am Ende entscheidet

• wie Fehler korrigiert werden

Kundschaft

Kundinnen und Kunden merken oft schnell, wenn Automatisierung schlecht eingebettet ist. Nicht jede Person stört sich an KI-Unterstützung. Aber viele reagieren sensibel, wenn Antworten unpersönlich, ausweichend oder offensichtlich unpassend sind.

Besonders heikel wird es bei Reklamationen, sensiblen Daten oder Fällen mit finanziellen Folgen. Ein formal korrekter Prozess kann trotzdem Beziehungsschäden verursachen, wenn die betroffene Person den Eindruck hat, von einer Blackbox behandelt zu werden.

Geschäftspartner und Öffentlichkeit

Auch Geschäftspartner achten zunehmend darauf, wie Unternehmen mit KI umgehen. Nicht im Sinn einer perfekten Theorie, sondern im Sinn nachvollziehbarer Sorgfalt. Wer KI einsetzt, ohne Zweck, Grenzen und Zuständigkeiten erklären zu können, riskiert Rückfragen und Vertrauensverlust.

Reputation leidet selten wegen «der KI an sich». Sie leidet eher dann, wenn ein Unternehmen nicht erklären kann, warum ein fragwürdiger Entscheid zustande kam oder warum niemand rechtzeitig eingegriffen hat.

Das bedeutet nicht, dass jeder KI-Einsatz hochriskant ist. Aber es bedeutet: Vertrauen ist ein betrieblicher Faktor. Und Vertrauen hängt stark davon ab, ob Systeme verantwortungsvoll eingeführt und geführt werden.

Wie KMU verantwortungsvolle KI in Projekte übersetzen

Verantwortung muss in den Projektalltag passen. Für KMU braucht es dafür meist keine grosse Governance-Struktur, sondern einige verbindliche Fragen und einfache Rollen.

Die wichtigsten Fragen vor dem Einsatz

Vor einem KI-Projekt sollten Führung und Projektteam mindestens folgende Punkte klären:

• Wer ist vom Einsatz direkt oder indirekt betroffen?

• Welche Entscheidung unterstützt die KI genau?

• Was bleibt beim Menschen?

• Wie wird nachvollziehbar, warum ein Ergebnis zustande kommt?

• Wie werden Fehler erkannt und korrigiert?

• Gibt es die Möglichkeit für Rückfragen, Widerspruch oder manuelle Prüfung?

• Welche Auswirkungen entstehen für Mitarbeitende, Kundschaft oder Partner?

• Welche Risiken wären fachlich, organisatorisch oder reputationsbezogen tragbar und welche nicht?

Solche Fragen helfen, den Anwendungsfall sauber zu begrenzen. Gleichzeitig zeigen sie, ob ein Projekt reif genug ist oder ob zuerst der zugrunde liegende Prozess geklärt werden sollte.

Einfache Rollen statt komplexe Gremien

Viele KMU brauchen kein grosses Responsible-AI-Board. Sinnvoller sind klar benannte Verantwortlichkeiten:

• eine fachliche Verantwortung für den Prozess

• eine operative Verantwortung für Anwendung und Qualität

• eine Freigabeinstanz für heikle oder neue Einsätze

• ein klarer Eskalationsweg bei Problemen

Wichtig ist, dass Verantwortung nicht diffus bleibt. Wenn am Ende niemand zuständig ist, wird auch niemand Fehlentwicklungen rechtzeitig erkennen.

Kurze Review-Schritte einbauen

Verantwortungsvolle KI entsteht selten durch ein einmaliges Konzeptpapier. Sie braucht kurze, praktische Überprüfungsschritte:

• vor dem Pilot

• vor der produktiven Einführung

• nach den ersten Wochen im Betrieb

• bei Änderungen am Einsatzbereich

Diese Reviews müssen nicht kompliziert sein. Oft reicht eine strukturierte Besprechung mit den vier Prüfsteinen: erlaubt, richtig, fair, verantwortbar.

Entscheidungen knapp dokumentieren

Nicht jede Organisation braucht umfangreiche Dossiers. Aber ein Minimum an Dokumentation ist sinnvoll:

• Zweck des KI-Einsatzes

• betroffene Prozesse und Personengruppen

• Risiken und Grenzen

• menschliche Prüfpunkte

• Vorgehen bei Ausnahmen und Beschwerden

So bleibt nachvollziehbar, warum ein Einsatz gewählt wurde und worauf bei Anpassungen zu achten ist.

Mehr dazu, wie Swiss Process Solutions solche Themen pragmatisch angeht, zeigt unser Ansatz.

Ein pragmatischer Selbstcheck vor dem Einsatz

Nicht jedes Unternehmen braucht sofort ein grosses KI-Programm. Oft ist der nächste sinnvolle Schritt eine strukturierte Standortbestimmung.

Ein kurzer Selbstcheck kann zum Beispiel diese vier Fragen bündeln:

• Ist der geplante Einsatz rechtlich sauber eingeordnet?

• Ist er fachlich nachvollziehbar und prozessual sinnvoll?

• Ist er für Betroffene erklärbar?

• Ist er für das Unternehmen insgesamt tragbar?

Der Nutzen eines solchen Checks liegt nicht in theoretischer Perfektion, sondern in Klarheit. KMU erkennen damit früh, wo tatsächliche Risiken liegen, welche Punkte vor einem Pilot geklärt werden sollten und welche Anwendungsfälle eher unkritisch sind.

Gerade bei ersten Projekten verhindert das zwei typische Fehler: zu viel Vorsicht an der falschen Stelle und zu wenig Sorgfalt bei vermeintlich kleinen Entscheidungen.

Ein strukturierter Selbstcheck hilft, diese Fragen kompakt und praxisnah zu ordnen.

Häufig gestellte Fragen

Reicht es bei KI im KMU, wenn der Einsatz gesetzeskonform ist?

Nein. Gesetzeskonformität ist die Grundlage, aber nicht die ganze Beurteilung. Ein KI-Einsatz kann erlaubt sein und trotzdem unfair, schwer erklärbar oder für Mitarbeitende und Kundschaft schlecht akzeptierbar. Verantwortungsvolle KI berücksichtigt deshalb zusätzlich Nachvollziehbarkeit, Auswirkungen auf Betroffene und mögliche Reputationsfolgen.

Worin liegt der Unterschied zwischen Compliance und Verantwortung bei KI?

KI Compliance fragt vor allem, ob rechtliche und regulatorische Anforderungen eingehalten werden. Verantwortung geht weiter. Sie umfasst auch die Frage, ob ein Einsatz fachlich sinnvoll, fair, erklärbar und im Unternehmenskontext tragbar ist. Compliance ist damit eine notwendige Basis, aber keine vollständige Entscheidungsgrundlage.

Welche KI-Anwendungen im KMU sind besonders heikel, obwohl sie erlaubt sein können?

Besonders sensibel sind Anwendungen mit Bezug zu Menschen und Entscheidungen, etwa automatisierte Bewerbungsfilter, Priorisierung von Supportfällen, KI-gestützte Antwortvorschläge im Kundendienst oder Scoring im Vertrieb. Solche Einsätze können zulässig sein, aber dennoch zu Benachteiligung, Intransparenz oder Vertrauensverlust führen, wenn sie nicht sauber gesteuert werden.

Wie lässt sich beurteilen, ob ein KI-Einsatz fair gegenüber Mitarbeitenden oder Kundschaft ist?

Hilfreich sind konkrete Fragen: Werden ähnliche Fälle ähnlich behandelt? Können bestimmte Gruppen systematisch benachteiligt werden? Ist erkennbar, wie Ergebnisse zustande kommen? Gibt es eine Möglichkeit, Fehlentscheide zu korrigieren oder menschlich zu überprüfen? Fairness zeigt sich meist nicht in Absichtserklärungen, sondern in der praktischen Auswirkung auf Betroffene.

Welche Rolle spielen Vertrauen und Reputation bei KI-Entscheiden?

Eine grosse Rolle. Selbst ein formal korrekter KI-Prozess kann Schaden anrichten, wenn Kundschaft oder Mitarbeitende ihn als intransparent oder unangemessen erleben. Vertrauen beeinflusst Akzeptanz, Zusammenarbeit und Kundenbeziehungen. Reputation leidet vor allem dann, wenn ein Unternehmen problematische Entscheidungen nicht erklären oder korrigieren kann.

Welche Fragen sollte die Geschäftsführung vor einem KI-Projekt stellen?

Wesentlich sind Fragen nach Zweck, Betroffenen, Zuständigkeiten und Grenzen. Dazu gehören unter anderem: Welches Problem wird konkret gelöst? Wer ist betroffen? Was entscheidet die KI und was der Mensch? Wie bleibt der Prozess nachvollziehbar? Wie werden Fehler oder Einsprachen behandelt? Und wäre der Einsatz auch dann noch vertretbar, wenn er gegenüber Kundschaft, Mitarbeitenden oder Partnern offen erklärt werden müsste?