KI Risiken für Unternehmen: Schäden früh erkennen
Künstliche Intelligenz ist für viele Schweizer KMU längst kein Zukunftsthema mehr. Sie unterstützt bei Auswertungen, formuliert Texte, priorisiert Anfragen, erstellt Prognosen oder automatisiert einzelne Prozessschritte. Gerade deshalb reicht es nicht, KI-Risiken nur als Frage der IT-Sicherheit oder des Datenschutzes zu betrachten.
KI-Risiken für Unternehmen entstehen dort, wo Systeme Entscheidungen beeinflussen, Kommunikation prägen oder Abläufe steuern. Wenn eine KI unzuverlässig, intransparent oder schlecht eingebettet ist, betrifft das nicht nur Daten und Technik. Es betrifft Menschen, operative Prozesse, finanzielle Ergebnisse, die Reputation und im vernetzten Umfeld auch Partner, Kunden und Märkte.
Für Schweizer KMU ist deshalb eine nüchterne Einordnung wichtig: Nicht jede KI-Anwendung ist kritisch, aber jede sollte im Zusammenhang mit dem jeweiligen Geschäftsprozess beurteilt werden. Entscheidend ist weniger, ob ein Tool modern wirkt, sondern wie gut Verantwortung, Kontrolle und Nutzen zusammenpassen.
Welche Schäden unvertrauenswürdige KI für Menschen verursachen kann
Viele Risiken beginnen auf der individuellen Ebene. Das wird im Unternehmensalltag oft unterschätzt, weil Schäden an einzelnen Personen zunächst klein oder unsichtbar wirken. Gerade diese leisen Fehlwirkungen sind jedoch relevant, weil sie Vertrauen, Fairness und Nachvollziehbarkeit direkt betreffen.
Ein typisches Beispiel ist der Einsatz von KI im Recruiting. Wenn Bewerbungen vorsortiert oder bewertet werden, kann es zu Benachteiligungen kommen, etwa weil historische Muster übernommen werden oder bestimmte Formulierungen falsch gewichtet werden. Das Problem liegt nicht nur in einer technisch falschen Bewertung. Es liegt auch darin, dass Betroffene kaum nachvollziehen können, weshalb sie aussortiert wurden.
Ähnlich sieht es im Kundenservice aus. Wenn eine KI Kundenanliegen priorisiert, Antworten vorschlägt oder Beschwerden einordnet, kann sie bestimmte Anfragen falsch einschätzen. Dringende Fälle werden dann zu spät bearbeitet, während weniger relevante Anfragen bevorzugt behandelt werden. Für die betroffene Person ist das nicht einfach ein Prozessfehler, sondern eine konkrete Benachteiligung.
Auch interne Genehmigungen können betroffen sein. Wird etwa eine KI genutzt, um Spesen, Anträge oder interne Freigaben zu bewerten, können Mitarbeitende durch fehlerhafte Muster benachteiligt werden. Solche Schäden entstehen nicht zwingend spektakulär. Häufig zeigen sie sich als wiederholte kleine Ungleichbehandlungen, die mit der Zeit das Vertrauen in Prozesse und Führung schwächen.
Für KMU ist das besonders relevant, weil Prozesse oft enger an Personen gebunden sind. Ein fehlerhafter KI-Einsatz in HR, Service oder Administration trifft nicht anonyme Massen, sondern konkrete Mitarbeitende, Bewerbende oder langjährige Kunden. Unvertrauenswürdige KI kann damit direkt an der Stelle schaden, an der Beziehung und Glaubwürdigkeit für kleinere Unternehmen besonders wichtig sind.
Wie KI Organisationen finanziell, operativ und reputativ schädigen kann
Auf Unternehmensebene werden KI-Risiken meist dann sichtbar, wenn sie messbare Folgen haben. Dazu gehören finanzielle Verluste, operative Störungen, zusätzliche Kontrollkosten, Haftungsfragen und Reputationsschäden. Der Punkt ist jedoch: Diese Schäden entstehen selten isoliert. Häufig greifen sie ineinander.
Ein Beispiel aus dem Vertrieb: Eine KI generiert Preisvorschläge auf Basis unvollständiger oder verzerrter Daten. Werden diese Vorschläge ohne ausreichende Prüfung übernommen, kann das zu Margenverlusten, falscher Positionierung oder Konflikten mit Bestandskunden führen. Der finanzielle Schaden ist dabei nur eine Seite. Wenn Preislogiken nicht mehr nachvollziehbar sind, leidet auch das Vertrauen in die Steuerung.
Im Marketing und in der Kundenkommunikation liegt das Risiko oft in plausibel klingenden, aber falschen Aussagen. Eine KI formuliert etwa E-Mails, Angebote oder Produktbeschreibungen, die sachlich ungenau sind oder Zusagen enthalten, die intern nicht gedeckt sind. Daraus können Reklamationen, Mehraufwand in der Nachbearbeitung oder im ungünstigen Fall auch rechtliche Probleme entstehen.
Besonders heikel ist der Einsatz in Auswertungen und Entscheidungsgrundlagen. Wenn Forecasts, Priorisierungen oder Zusammenfassungen aus KI-gestützten Analysen unkritisch übernommen werden, können Fehlentscheide auf Managementebene folgen. Das betrifft Budgetierung, Ressourcenallokation, Lagerplanung oder Kundensteuerung. Wer etwa im Bereich Finanzen und Controlling auf fehlerhafte KI-Auswertungen baut, riskiert nicht nur falsche Zahlen, sondern auch falsche Entscheidungen.
Hinzu kommen zusätzliche Kontrollkosten. Ein häufiger Trugschluss lautet, KI spare automatisch Aufwand. In der Praxis verschiebt sich Aufwand oft. Wenn Ergebnisse manuell überprüft, korrigiert oder dokumentiert werden müssen, entstehen neue Schleifen. Eine vermeintliche Effizienzsteigerung kann dann zu einem teureren Prozess führen als zuvor.
Reputationsschäden sind für KMU besonders sensibel. Ein einzelner Vorfall kann intern wie extern lange nachwirken, etwa wenn diskriminierende Antworten, unpassende Kundenkommunikation oder falsche Aussagen publik werden. Vertrauen ist in kleineren Märkten oft schneller beschädigt als wiederhergestellt. Genau deshalb sollte KI Risikomanagement nicht erst dann beginnen, wenn ein Vorfall bereits sichtbar geworden ist.
Warum KI-Risiken im vernetzten Umfeld schnell zu Sicherheitsproblemen werden
KI arbeitet selten für sich allein. Sie ist meist Teil eines grösseren Gefüges aus Datenquellen, Fachanwendungen, Freigaben, Schnittstellen und menschlichen Entscheidungen. In diesem vernetzten Umfeld werden Risiken schnell zu Sicherheitsproblemen, auch wenn sie nicht als klassische Cybervorfälle beginnen.
Ein einfaches Beispiel: Eine KI verarbeitet eingehende Anfragen und schlägt automatisch nächste Schritte vor. Wenn manipulierte oder missverständliche Eingaben nicht erkannt werden, kann das zu falschen Weiterleitungen, fehlerhaften Freigaben oder unzulässigen Aktionen führen. Das Problem liegt dann nicht nur in der Antwort der KI, sondern im Zusammenspiel von Daten, Prozesslogik und menschlicher Übernahme.
Auch automatisierte Freigaben sind kritisch. Wenn KI-Empfehlungen in Einkaufs-, Zahlungs- oder Berechtigungsprozesse einfliessen, entsteht eine neue Angriffsfläche. Nicht weil die KI von sich aus unsicher wäre, sondern weil unkritisch übernommene Ausgaben operativ wirksam werden. Je direkter eine KI Aktion statt nur Information auslöst, desto grösser wird das Risiko.
Vernetzte Systeme sind dabei nichts Abstraktes. Gemeint sind alle Abläufe, in denen Anwendungen, Personen und Entscheidungen miteinander verbunden sind. Das kann ein CRM sein, das mit E-Mail, Ticketing und Reporting zusammenspielt. Es kann aber auch ein interner Freigabeprozess sein, in dem Formulare, Rollen und Genehmigungen digital verknüpft sind. Wer KI in solche Strukturen einbindet, muss die Auswirkungen auf den gesamten Ablauf betrachten. Im Umfeld von IT und Digitalisierung zeigt sich besonders deutlich, dass technische und organisatorische Risiken nicht sauber voneinander getrennt werden können.
Sicherheitsprobleme entstehen deshalb oft durch falsche Einbettung, nicht nur durch falsche Modelle. Wenn unklare Verantwortlichkeiten, schwache Prüfmechanismen oder fehlende Eskalationswege hinzukommen, wird aus einem einzelnen KI-Fehler schnell ein grösseres Betriebsrisiko.
Desinformation und systemische Effekte: wenn KI mehr als einzelne Fehler erzeugt
Nicht jeder KI-Schaden bleibt lokal. Manche Fehler breiten sich aus, weil sie in mehrere Prozesse, Teams oder externe Beziehungen hineinwirken. Besonders relevant ist das bei Desinformation: also bei falschen, verzerrten oder scheinbar plausiblen Inhalten, die übernommen und weiterverwendet werden.
Das beginnt oft harmlos. Eine KI erstellt eine Marktzusammenfassung, eine interne Entscheidungsnotiz oder eine Kundenantwort. Der Text wirkt schlüssig, enthält aber fehlerhafte Annahmen oder frei erfundene Details. Wird diese Information nicht geprüft, gelangt sie in Besprechungen, Offerten, Reports oder operative Weisungen. So wird aus einer einzelnen ungenauen Ausgabe eine verzerrte Entscheidungsgrundlage.
In Lieferketten und Branchenbeziehungen kann sich dieser Effekt verstärken. Wenn mehrere Akteure mit ähnlichen KI-Systemen arbeiten und dieselben ungenauen Informationen verwenden, entstehen Rückkopplungen. Preise, Nachfrageeinschätzungen oder Prioritäten können sich auf unsichere Grundlagen stützen. Für einzelne KMU wirkt das zunächst wie ein gewöhnlicher Marktfehler, tatsächlich ist es aber ein systemischer Effekt, weil sich derselbe Fehler über mehrere Stellen hinweg ausbreitet.
Auch intern können solche Muster gefährlich werden. Wenn Teams sich zu stark auf KI-generierte Zusammenfassungen, Prioritäten oder Risikoindikationen verlassen, verengt sich der Blick. Wichtige Abweichungen, qualitative Hinweise oder ungewöhnliche Einzelfälle gehen eher verloren. Das Problem ist dann nicht nur eine falsche Antwort, sondern eine schleichende Verzerrung im Entscheidungsverhalten.
Für die Einordnung ist der Unterschied wichtig: Ein lokaler Schaden betrifft einen einzelnen Vorgang oder eine einzelne Person. Eine systemische Wirkung entsteht dann, wenn Fehler skaliert, weitergegeben oder in mehreren Entscheidungen gleichzeitig wirksam werden. Schweizer KMU müssen dafür keine globalen Szenarien durchspielen. Schon in Vertrieb, Einkauf, Service oder Planung kann sich zeigen, wie schnell sich ein plausibler Fehler in vielen kleinen Schritten verstärkt.
KI-Risiken mit Geschäftsprozessen verbinden statt nur Tools zu bewerten
Ein häufiger Denkfehler besteht darin, KI-Anwendungen isoliert zu bewerten. Dann wird gefragt, ob ein bestimmtes Tool sicher, datenschutzkonform oder funktional stark genug ist. Diese Fragen sind wichtig, reichen aber nicht aus. Ausschlaggebend ist, wo und wie die KI im Prozess eingesetzt wird.
Eine gute Risikobewertung beginnt deshalb nicht beim Tool, sondern beim Geschäftsablauf. Vier Fragen helfen besonders:
Wer nutzt die KI und mit welcher Aufgabe?
Welche Entscheidung oder Handlung folgt aus dem Ergebnis?
Welche Daten fliessen ein?
Wo ist menschliche Kontrolle zwingend nötig?
Ein Beispiel aus der Administration: Eine KI formuliert Antworten auf wiederkehrende Anfragen. Das Risiko ist begrenzt, wenn die Antwort nur ein Entwurf ist und vor dem Versand geprüft wird. Es steigt deutlich, wenn dieselbe KI direkt mit Kunden kommuniziert und verbindliche Auskünfte erteilt.
Im Finanzbereich ist der Unterschied ähnlich klar. Eine KI, die Buchungsvorschläge macht, ist anders zu bewerten als eine KI, die Zahlungsfreigaben vorbereitet oder Anomalien in Kostenstellen interpretiert. Je näher der Einsatz an Geldflüssen, Vertragswirkungen oder regulatorischen Anforderungen liegt, desto höher sind Prozesskritikalität und Kontrollbedarf.
In HR kann eine KI Stellenprofile strukturieren oder Interviews zusammenfassen. Kritischer wird es, wenn sie Kandidaten rankt, Eignungen bewertet oder Empfehlungen vorgibt, die faktisch selektionswirksam werden. Im Service und Vertrieb ist zu prüfen, ob KI nur unterstützt oder ob sie Kundenerwartungen, Prioritäten und Zusagen direkt beeinflusst.
Deshalb gilt: Klare Prozesse werden durch KI nicht ersetzt, sondern erst recht wichtig. KI funktioniert in der Praxis besser, wenn Rollen, Freigaben, Qualitätskriterien und Eskalationen bereits sauber definiert sind. Wo Prozesse unklar sind, verstärkt KI häufig bestehende Schwächen statt sie zu lösen.
Was Responsible AI und KI-Governance in der Praxis bedeuten
Begriffe wie Responsible AI Risiken oder KI-Governance wirken auf den ersten Blick nach Konzernsprache. Für KMU müssen sie jedoch nicht kompliziert sein. Gemeint ist im Kern, dass der Einsatz von KI nicht dem Zufall überlassen wird.
KI-Governance beschreibt die Regeln und Verantwortlichkeiten rund um den Einsatz von KI. Dazu gehören Rollen, Freigaben, Dokumentation, Tests, Monitoring und Eskalation. Die Frage lautet nicht, wie viele Dokumente vorhanden sind, sondern ob nachvollziehbar ist, wer wofür zuständig ist und wie mit Risiken umgegangen wird.
In der Praxis beginnt das mit einfachen Leitplanken:
Welche KI-Anwendungen dürfen wofür genutzt werden?
Welche Daten dürfen einfliessen und welche nicht?
Wer entscheidet über produktive Einsätze?
Welche Ergebnisse müssen überprüft werden?
Wie werden Fehler, Auffälligkeiten oder Beschwerden gemeldet?
Tests sind dabei kein einmaliger Formalakt. Vor dem Einsatz sollte geprüft werden, wie zuverlässig eine KI in typischen und kritischen Fällen arbeitet. Nach dem Rollout braucht es Beobachtung: Stimmen die Ergebnisse weiterhin, treten neue Fehlmuster auf, verändert sich das Nutzerverhalten?
Ebenso wichtig ist die Dokumentation in angemessenem Umfang. KMU brauchen keine umfangreichen Dossiers für jede kleine Anwendung. Aber bei kritischen Einsätzen sollte klar festgehalten sein, wofür die KI gedacht ist, welche Grenzen sie hat, wer verantwortlich ist und welche Kontrollschritte vorgesehen sind.
Responsible AI bedeutet daher nicht Verzicht auf KI. Es bedeutet, Nutzen und Risiko in ein handhabbares Verhältnis zu bringen. Für Führungskräfte ist das vor allem ein Entscheidungsgewinn: weniger Blindflug, mehr Nachvollziehbarkeit und klarere Verantwortung zwischen Geschäftsführung, IT, Compliance und Fachbereichen.
Wie Schweizer KMU KI-Risiken systematisch einordnen können
Für eine erste Einordnung braucht es kein kompliziertes Framework. Entscheidend ist ein Raster, das zur Praxis passt und bestehende Entscheidungswege ergänzt. Hilfreich sind fünf Kriterien.
Schadenhöhe
Wie gross wäre der Schaden, wenn die KI falsch liegt? Dabei geht es nicht nur um Geld, sondern auch um Auswirkungen auf Personen, Kundenbeziehungen, Compliance oder Betriebsfähigkeit.
Eintrittswahrscheinlichkeit
Wie wahrscheinlich ist ein Fehler im konkreten Einsatz? Das hängt von Datenqualität, Komplexität, Prozessumfeld und Kontrollmechanismen ab.
Betroffenheit von Menschen
Hat die KI direkten Einfluss auf Bewerbende, Mitarbeitende, Kunden oder Partner? Je stärker individuelle Rechte, Fairness oder Vertrauen betroffen sind, desto sorgfältiger sollte geprüft werden.
Prozesskritikalität
Wie wichtig ist der Prozess für das Geschäft? Eine ungenaue Textzusammenfassung ist anders zu gewichten als eine KI-gestützte Freigabe in Finanzen, Service oder Vertragswesen.
Kontrollierbarkeit
Lassen sich Ergebnisse einfach prüfen und korrigieren oder werden sie schnell operativ wirksam? Je schwieriger Korrektur und Rückabwicklung sind, desto höher ist das Risiko.
Mit diesem Raster lassen sich KI-Anwendungen sinnvoll priorisieren. Nicht jede Anwendung braucht denselben Aufwand. Ein internes Hilfstool ohne Personenbezug und ohne direkte Wirkung auf Entscheide ist anders zu behandeln als eine produktive KI in einem kritischen Kunden- oder Freigabeprozess.
Wichtig ist die Verbindung zum bestehenden Risikomanagement. KI sollte nicht als Sonderwelt neben den normalen Führungs- und Kontrollmechanismen laufen. Besser ist es, vorhandene Wege zu nutzen: Freigaben, Prozessverantwortung, IKS, Datenschutzprüfung, Qualitätskontrollen oder Risikoreviews. So wird KI Risikomanagement Teil der normalen Unternehmenssteuerung statt eines isolierten Spezialthemas.
KI-Risiken im eigenen Unternehmen sinnvoll prüfen
Wer KI-Risiken nüchtern beurteilen will, braucht mehr als ein Bauchgefühl. Entscheidend ist eine strukturierte Standortbestimmung: Welche Anwendungen sind bereits im Einsatz, in welchen Prozessen wirken sie, welche Schäden wären denkbar und wo fehlen noch klare Verantwortlichkeiten oder Kontrollen?
Gerade für Gespräche zwischen Geschäftsführung, IT, Compliance, Operations und Fachbereichen ist ein gemeinsames Bild hilfreich. Ein einfacher, strukturierter Einstieg schafft oft mehr Klarheit als lange Grundsatzdiskussionen.
Für diesen Zweck eignet sich ein Selbstcheck, der die eigene Situation entlang von Nutzen, Risiken, Verantwortlichkeiten und Handlungsbedarf einordnet. Das ist kein Ersatz für Detailanalysen, aber ein sinnvoller erster Schritt, um kritische Punkte sichtbar zu machen und Prioritäten im Unternehmen sauber zu setzen.
Häufig gestellte Fragen
Woran erkennen Schweizer KMU, ob eine KI-Anwendung vertrauenswürdig genug für den Einsatz ist?
Eine KI-Anwendung ist dann vertrauenswürdig genug, wenn ihr Einsatzkontext klar definiert ist, Ergebnisse nachvollziehbar geprüft werden können und Verantwortlichkeiten festgelegt sind. Entscheidend sind nicht nur technische Merkmale, sondern vor allem der Geschäftsprozess, die Qualität der Daten, die mögliche Schadenhöhe und die vorhandene menschliche Kontrolle.
Welche KI-Risiken treffen KMU in der Praxis am häufigsten?
Häufig sind ungenaue oder erfundene Inhalte, fehlerhafte Auswertungen, unpassende Kundenkommunikation, Benachteiligungen in HR-nahen Anwendungen, übernommene Fehlentscheide sowie zusätzliche Kontrollaufwände. In KMU entstehen Risiken oft dort, wo KI schnell in bestehende Abläufe eingebaut wird, ohne Rollen und Prüfungen sauber zu klären.
Wie lässt sich beurteilen, ob eine KI-Entscheidung menschliche Kontrolle braucht?
Menschliche Kontrolle ist besonders wichtig, wenn Personen direkt betroffen sind, finanzielle oder rechtliche Folgen entstehen können, Ergebnisse schwer überprüfbar sind oder ein Fehler operative Wirkung entfaltet. Je kritischer der Prozess und je grösser die potenzielle Auswirkung, desto weniger sollte eine KI ohne wirksame Prüfung entscheiden oder steuern.
Welche Rolle spielen Governance und Freigabeprozesse bei KI-Risiken?
Governance und Freigaben schaffen klare Zuständigkeiten. Sie legen fest, wer eine KI freigibt, in welchem Rahmen sie genutzt werden darf, welche Tests nötig sind und wie Auffälligkeiten behandelt werden. Ohne solche Regeln steigt das Risiko, dass KI-Anwendungen in der Praxis mehr Wirkung entfalten, als ursprünglich beabsichtigt war.
Wie können KI-Risiken in bestehende Risikomanagement-Prozesse integriert werden?
Am besten werden KI-Risiken in bestehende Entscheidungs- und Kontrollstrukturen eingebettet, etwa in Prozessverantwortung, IKS, Datenschutzprüfungen, Compliance-Freigaben oder operative Risiko-Reviews. So wird KI nicht als isoliertes Technologiethema behandelt, sondern als Teil der normalen Unternehmenssteuerung mit klaren Kriterien und Eskalationswegen.
Wann wird ein KI-Fehler zu einem Reputations- oder Haftungsproblem?
Das ist meist dann der Fall, wenn falsche oder unangemessene KI-Ausgaben nach aussen wirksam werden, Personen benachteiligen, vertragliche Zusagen beeinflussen oder nachweisbare Sorgfaltspflichten verletzt werden. Schon ein einzelner Vorfall kann bei Kunden, Mitarbeitenden oder Partnern Vertrauen beschädigen, insbesondere wenn das Unternehmen den Einsatz der KI nicht ausreichend kontrolliert hat.
KI kann in KMU echten Nutzen stiften, aber nur dann nachhaltig, wenn Risiken im Kontext von Menschen, Prozessen und Verantwortung beurteilt werden. Wer nicht nur Tools bewertet, sondern den tatsächlichen Einsatz im Unternehmen prüft, trifft bessere Entscheidungen und schafft mehr Sicherheit im Alltag.
Für eine erste strukturierte Einordnung bietet sich der Selbstcheck von Swiss Process Solutions an. Er hilft dabei, KI-Anwendungen im eigenen Unternehmen gezielt zu prüfen und den Handlungsbedarf zwischen Geschäftsführung, IT, Compliance und Fachbereichen klarer zu erkennen.
