KI ist nicht neutral: Algorithmen richtig einordnen

KI wirkt auf den ersten Blick oft nüchtern und objektiv. Ein System wertet Daten aus, erkennt Muster und liefert ein Resultat. Gerade im KMU-Alltag kann das sehr überzeugend wirken: eine priorisierte Liste von Kundenanfragen, eine Prognose für den Materialbedarf oder eine automatische Vorselektion von Bewerbungen.

Genau hier liegt aber ein verbreiteter Denkfehler. KI ist nicht neutral, auch wenn sie konsistent rechnet und plausible Ergebnisse liefert. Denn jedes KI-System basiert auf Daten, Zielsetzungen, Konfigurationen und organisatorischen Rahmenbedingungen. Was als Ergebnis erscheint, ist deshalb nie einfach nur «die Wahrheit», sondern immer auch Ausdruck von Annahmen.

Für Schweizer KMU ist diese Einordnung wichtig. Nicht, weil KI grundsätzlich problematisch wäre, sondern weil sich Nutzen und Risiken nur dann realistisch bewerten lassen, wenn klar ist, wie solche Systeme zu ihren Resultaten kommen. Wer KI-Entscheidungen prüfen will, muss nicht in Modellmathematik einsteigen. Entscheidend ist ein sauberer Blick auf Datenbasis, Zielkonflikte und Prozesse.

Warum KI-Ergebnisse oft objektiv wirken, aber es nicht sind

Algorithmen rechnen nach festen Regeln. Das vermittelt den Eindruck von Neutralität. Wenn zwei Personen dieselben Daten in dasselbe System eingeben, kommt in der Regel dasselbe Resultat heraus. Konsistenz ist jedoch nicht automatisch Objektivität.

KI lernt aus vorhandenen Daten Muster und Zusammenhänge. Diese Muster entstehen nicht im luftleeren Raum. Sie spiegeln vergangene Entscheidungen, unvollständige Informationen und geschäftliche Prioritäten wider. Wenn ein System beispielsweise lernt, welche Supportfälle bisher als dringend eingestuft wurden, übernimmt es damit auch die Logik früherer Einstufungen. Diese kann sinnvoll sein, aber sie ist nicht neutral.

Im KI-Kontext bedeutet Objektivität oft nur, dass ein Verfahren systematisch und nachvollziehbar auf definierte Eingaben reagiert. Das sagt noch nichts darüber aus, ob die Datengrundlage ausgewogen ist, ob das Ziel richtig gesetzt wurde oder ob wichtige Aspekte fehlen. Ein KI-System kann also zuverlässig gleich entscheiden und trotzdem einseitig sein.

Für KMU ist dieser Unterschied zentral. Wer ein Resultat nur deshalb für belastbar hält, weil es aus einem System stammt, übersieht die eigentlichen Einflussfaktoren. Die bessere Frage lautet nicht: «Ist die KI objektiv?» Sondern: Auf welcher Grundlage kommt sie zu diesem Ergebnis, und passt diese Grundlage zum eigenen Geschäft?

Trainingsdaten prägen die Antwort stärker, als viele KMU erwarten

Der stärkste Einflussfaktor sind fast immer die Daten. KI verarbeitet nicht einfach die Realität, sondern das, was als Daten erfasst, ausgewählt und für das System nutzbar gemacht wurde. Die Qualität des Ergebnisses hängt direkt von der Qualität und Struktur der Datengrundlage ab.

In der Praxis von KMU treten dabei oft ähnliche Probleme auf:

• Daten sind unvollständig, weil Prozesse nicht sauber dokumentiert wurden.

• Daten sind veraltet und bilden aktuelle Marktverhältnisse nicht mehr ab.

• Daten sind einseitig, weil nur ein Teil der relevanten Fälle systematisch erfasst wurde.

• Daten enthalten historische Sonderfälle, die heute nicht mehr gelten.

• Daten stammen aus unterschiedlichen Quellen und folgen keinen einheitlichen Standards.

Ein einfaches Beispiel aus der Administration: Ein System soll eingehende Dokumente klassifizieren, etwa Rechnungen, Verträge oder Reklamationen. Wenn die Trainingsdaten fast nur sauber benannte PDF-Dateien enthalten, im Alltag aber viele Scans, E-Mails und uneinheitliche Dateiformate vorkommen, sinkt die Trefferqualität rasch. Das Problem liegt dann nicht primär im Modell, sondern in der Differenz zwischen Trainingslage und Realität.

Ähnlich im Vertrieb oder Kundenservice: Wenn ein System Anfragen nach Abschlusswahrscheinlichkeit oder Dringlichkeit priorisieren soll, kann es nur aus bisherigen Daten lernen. Wurden in der Vergangenheit bestimmte Kundengruppen schneller bearbeitet als andere, kann die KI dieses Muster übernehmen. Nicht weil sie voreingenommen im menschlichen Sinn wäre, sondern weil sie statistische Regelmässigkeiten aus den vorhandenen Daten ableitet.

Auch historische Unternehmensmuster wirken weiter. Ein HR-System, das aus früheren Anstellungen lernt, orientiert sich an den Profilen, die bisher bevorzugt wurden. Wenn bestimmte Lebensläufe oder Ausbildungswege über Jahre überrepräsentiert waren, prägt das die spätere Vorselektion. Das ist ein typischer Fall von Bias in KI, der im KMU-Kontext nicht theoretisch, sondern sehr praktisch relevant ist.

Deshalb reicht es nicht, Daten einfach verfügbar zu haben. Vor einem KI-Einsatz sollte geprüft werden:

• Welche Zeiträume bilden die Daten ab?

• Welche Fälle fehlen systematisch?

• Wurden Daten unter ähnlichen Bedingungen erhoben wie jene, in denen die KI später eingesetzt wird?

• Enthalten die Daten alte Prozesslogiken, die heute nicht mehr gelten?

Wer tiefer in solche Digitalisierungsfragen einsteigen will, findet im Bereich Praxiswissen weitere Beiträge zu Prozessen, Datenqualität und Umsetzung im KMU.

Zieldefinitionen bestimmen, was die KI überhaupt optimiert

KI entscheidet nicht einfach «richtig». Sie optimiert auf ein definiertes Ziel. Genau dieses Ziel bestimmt, welche Ergebnisse bevorzugt werden. Was als gutes Resultat gilt, ist immer eine geschäftliche Festlegung.

Das klingt abstrakt, zeigt sich im Alltag aber schnell. Ein System im Kundenservice kann darauf optimiert werden, möglichst viele Anfragen rasch zu beantworten. Dann wird Geschwindigkeit belohnt. Soll stattdessen die Kundenzufriedenheit maximiert werden, kann dasselbe System längere, sorgfältigere Bearbeitungen bevorzugen. Beide Varianten sind nicht neutral, sondern folgen unterschiedlichen Prioritäten.

Typische Zielgrössen in KMU sind zum Beispiel:

• Schnelligkeit

• Kostenreduktion

• Trefferquote

• Auslastung

• Servicequalität

• Fehlerminimierung

Diese Ziele stehen oft in Spannung zueinander. In der Operations-Planung etwa kann ein Prognosemodell auf eine möglichst hohe Auslastung ausgerichtet sein. Das kann wirtschaftlich sinnvoll sein, führt aber möglicherweise zu weniger Puffer für kurzfristige Kundenwünsche oder Störungen. Wird stattdessen Flexibilität höher gewichtet, sinkt eventuell die Effizienz.

Auch in der Administration ist das relevant. Ein System zur Prüfung von Dokumenten kann so eingestellt werden, dass es lieber zu viele Fälle zur manuellen Kontrolle weiterleitet als zu wenige. Das erhöht die Sicherheit, reduziert aber den Automatisierungsgrad. Wird die Schwelle anders gesetzt, steigt die Effizienz, aber auch das Risiko von Fehlklassifikationen.

Für Entscheider bedeutet das: KI ist nicht deshalb problematisch, weil sie Ziele verfolgt. Problematisch wird es, wenn diese Ziele implizit bleiben oder nicht mit den tatsächlichen Geschäftsanforderungen übereinstimmen. Viele unerwünschte Resultate entstehen nicht wegen schlechter Technik, sondern weil die Optimierungslogik nicht offen geklärt wurde.

Eine verantwortungsvolle KI-Nutzung beginnt daher mit einer einfachen Frage: Was genau soll verbessert werden, und was darf dabei nicht verloren gehen?

Designentscheidungen und Konfigurationen beeinflussen das Resultat

Selbst bei derselben Datenbasis können unterschiedliche Systeme oder Einstellungen zu anderen Ergebnissen führen. Der Grund liegt in den vielen Konfigurationsentscheidungen, die bei der Gestaltung eines KI-gestützten Prozesses getroffen werden. Auch hier fliessen menschliche Annahmen ein.

Typische Beispiele sind:

• Schwellenwerte für Freigabe oder Eskalation

• Gewichtungen einzelner Merkmale

• Filter für Datenquellen

• Auswahlkriterien für Priorisierung

• Regeln für den Umgang mit Unsicherheit

Ein HR-Beispiel macht das greifbar: Ein System bewertet Bewerbungen und schlägt jene Dossiers vor, die am besten zur Stelle passen. Schon die Frage, welche Kriterien wie stark gewichtet werden, verändert das Resultat. Wird Branchenerfahrung höher bewertet als Weiterbildungsbereitschaft? Zählen lückenlose Laufbahnen mehr als Quereinstiege? Solche Entscheidungen sind keine reine Technik, sondern inhaltliche Setzungen.

Dasselbe gilt im Kundenservice. Ein System zur Priorisierung von Tickets kann Umsatzpotenzial, Reaktionszeit, Vertragsstatus oder Beschwerdehistorie unterschiedlich gewichten. Je nach Konfiguration erhält ein bestehender Grosskunde schneller Aufmerksamkeit als ein neuer Kunde mit akutem Problem. Beides kann sachlich begründbar sein, aber nicht neutral.

Hier zeigt sich, was mit Algorithmen Annahmen gemeint ist: Ein Algorithmus enthält nicht nur Rechenlogik, sondern auch Festlegungen darüber, was relevant ist, wie Unsicherheit behandelt wird und ab wann ein Resultat als ausreichend gut gilt. Diese Annahmen sind oft weniger sichtbar als Datenprobleme, prägen das Verhalten des Systems aber stark.

Für KMU lohnt sich deshalb ein nüchterner Blick auf die Konfiguration. Nicht jede Einstellung muss intern entwickelt werden. Aber jede relevante Wirkung sollte verstanden werden. Wer nicht weiss, welche Schwellenwerte oder Auswahlkriterien aktiv sind, kann Resultate nur schwer einordnen.

So entstehen Verzerrungen aus Organisation und Prozess

KI-Systeme arbeiten nie losgelöst vom Unternehmen. Sie sind in Prozesse, Rollen und Verantwortlichkeiten eingebettet. Deshalb entstehen Verzerrungen nicht nur in Daten oder Modellen, sondern auch in den organisatorischen Rahmenbedingungen.

Ein Beispiel: In einem Unternehmen erfassen verschiedene Teams ähnliche Fälle unterschiedlich. Der Vertrieb dokumentiert Kundenkontakte sauber, der Kundendienst arbeitet mit Freitexten, die Administration verwendet wieder andere Kategorien. Wenn daraus ein KI-System lernen soll, entstehen Unschärfen und Widersprüche. Nicht weil das System schlecht ist, sondern weil der Prozess keine einheitliche Datengrundlage liefert.

Auch unklare Zuständigkeiten wirken sich aus. Wer prüft KI-Ergebnisse? Wer korrigiert Fehlentscheide? Wer entscheidet, wann ein automatisierter Vorschlag verbindlich ist und wann nicht? Fehlen diese Regeln, wird aus einem nützlichen Hilfsmittel schnell eine Quelle neuer Fehler.

Typische organisatorische Ursachen für verzerrte oder schwache Resultate sind:

• uneinheitliche Erfassungsstandards

• unklare Prozessschritte

• widersprüchliche Zielvorgaben zwischen Abteilungen

• fehlende Rückmeldeschlaufen für Korrekturen

• kein definierter Umgang mit Ausnahmen

Gerade hier zeigt sich, dass KI klare Prozesse nicht ersetzt. Sie funktioniert auf klaren Prozessen besser. Wenn ein Ablauf bereits heute intransparent oder inkonsistent ist, wird ein KI-System diese Unklarheit nicht beheben, sondern oft verstärken oder schwerer sichtbar machen.

Verantwortungsvolle KI bedeutet deshalb nicht nur, das System selbst zu betrachten. Ebenso wichtig ist die Frage, ob Prozess, Datenerfassung und Rollenmodell überhaupt reif genug sind. Wer sich dafür interessiert, wie Swiss Process Solutions solche Themen methodisch angeht, findet hier mehr zu unserem Ansatz.

Typische Beispiele aus HR, Kundenservice, Administration und Operations

Die Grundlogik wird besonders klar, wenn sie an konkreten Situationen aus dem KMU-Alltag sichtbar wird.

HR: Vorselektion von Bewerbungen

Ein System soll Bewerbungen vorsortieren und passende Dossiers markieren. Klingt effizient, ist aber stark von den bisherigen Daten und den gesetzten Kriterien abhängig. Wenn in der Vergangenheit vor allem Kandidatinnen und Kandidaten mit ähnlichem Werdegang eingestellt wurden, kann die KI dieses Muster weitertragen. Wird ausserdem ein lückenloser Lebenslauf stark gewichtet, benachteiligt das potenziell Quereinstiege oder Unterbrüche, obwohl diese für die Stelle gar nicht kritisch wären.

Kundenservice: Priorisierung von Anfragen

Ein KI-System soll eingehende Anfragen nach Dringlichkeit sortieren. Wenn das Ziel primär kurze Antwortzeiten sind, werden leicht standardisierbare Fälle bevorzugt. Komplexe Anliegen mit höherem Klärungsbedarf rutschen dann eher nach hinten. Wird stattdessen Umsatzpotenzial stark berücksichtigt, erhalten wirtschaftlich attraktive Kunden schneller Reaktion als andere. Das ist keine Fehlfunktion, sondern Folge der Zieldefinition.

Administration: Dokumentenprüfung und Klassifikation

Eine KI soll Dokumente erkennen, auslesen und bestimmten Prozessen zuordnen. In der Praxis hängt die Qualität stark davon ab, wie ähnlich neue Dokumente den Trainingsbeispielen sind. Wenn im Alltag viele Lieferanten eigene Formate verwenden oder Unterlagen unvollständig eintreffen, sinkt die Verlässlichkeit. Zusätzlich beeinflussen Schwellenwerte das Verhalten: Soll das System bei Unsicherheit lieber automatisch entscheiden oder eher an Menschen übergeben?

Operations: Planung und Prognosen

Ein System unterstützt bei Bedarfsprognosen, Personaleinsatz oder Produktionsplanung. Historische Daten enthalten jedoch oft Ausnahmesituationen: saisonale Effekte, Lieferengpässe, Sonderaktionen oder einmalige Grossaufträge. Wenn diese nicht sauber eingeordnet werden, erkennt die KI Muster, die für die Zukunft nur bedingt taugen. Kommt dazu, dass operative Teams Daten unterschiedlich pflegen, wird die Prognose noch anfälliger.

Diese Beispiele zeigen einen gemeinsamen Punkt: Nicht die Existenz von KI ist das Risiko, sondern die falsche Einordnung ihrer Grundlagen. Genau deshalb lohnt sich vor jeder Einführung eine strukturierte Prüfung der Annahmen.

Welche Fragen Entscheider vor dem Einsatz von KI stellen sollten

Für Geschäftsführung, Operations, Administration und Digitalisierungsverantwortliche ist nicht entscheidend, jedes technische Detail zu kennen. Wichtiger ist ein Satz von Prüffragen, der hilft, ein Vorhaben realistisch zu beurteilen.

1. Auf welchen Daten basiert das System?

Sind die Daten aktuell, vollständig und für den geplanten Einsatz repräsentativ? Oder bilden sie nur einen Teil der Realität ab? Wenn ein KI-System aus historischen Daten lernt, sollten alte Sonderfälle, Lücken und Erfassungsunterschiede bekannt sein.

2. Welches Ziel wird konkret optimiert?

Geht es um Tempo, Kosten, Trefferquote, Auslastung oder Qualität? Diese Frage sollte so klar beantwortet sein, dass auch Zielkonflikte sichtbar werden. Eine KI kann nicht gleichzeitig jede Anforderung maximieren.

3. Welche Fehler sind akzeptabel und welche nicht?

Jedes System macht Fehler. Die entscheidende Frage lautet, wo sie tolerierbar sind und wo nicht. Eine falsche Sortierung interner Dokumente ist anders zu bewerten als eine fehlerhafte Vorselektion im Recruiting oder eine unpassende Priorisierung von Kundenreklamationen.

4. Wo braucht es menschliche Prüfung?

Nicht jeder Output sollte direkt wirksam werden. In sensiblen oder uneindeutigen Fällen braucht es definierte Übergabepunkte. Wichtig ist, dass diese nicht erst nach Problemen entstehen, sondern von Anfang an vorgesehen sind.

5. Wer trägt die fachliche Verantwortung?

Es sollte klar sein, wer Ergebnisse freigibt, wer Auffälligkeiten beurteilt und wer Korrekturen anstösst. Verantwortung darf nicht diffus zwischen IT, Fachbereich und externer Lösung liegen.

6. Was passiert bei falschen oder auffälligen Ergebnissen?

Gibt es einen Eskalationsweg? Werden Fehler dokumentiert? Können falsche Resultate korrigiert und für spätere Verbesserungen genutzt werden? Ohne Rückkopplung bleibt selbst eine gute Lösung blind für ihre Schwächen.

7. Wie wird die Leistung regelmässig überprüft?

Ein anfangs gutes System kann mit der Zeit an Qualität verlieren, wenn sich Prozesse, Kundenverhalten oder Marktbedingungen ändern. Deshalb braucht es wiederkehrende Kontrollen statt nur eine einmalige Einführung.

Diese Fragen helfen, KI-Entscheidungen prüfen zu können, ohne das Thema unnötig zu verkomplizieren. Sie schaffen vor allem Transparenz: Was darf das System, worauf stützt es sich, und wo liegen Grenzen?

Häufig gestellte Fragen

Woran erkennt man, ob ein KI-Ergebnis im KMU wirklich belastbar ist?

Ein belastbares Ergebnis passt zur konkreten Geschäftssituation, basiert auf nachvollziehbaren Daten und wird regelmässig gegen die Realität geprüft. Wichtig ist nicht nur, ob das Resultat plausibel klingt, sondern ob bekannt ist, aus welchen Daten es stammt, welches Ziel dahinterliegt und wie mit Unsicherheit umgegangen wird. Besonders belastbar sind KI-Ergebnisse dort, wo klare Prozesse, gute Datenqualität und definierte Kontrollpunkte vorhanden sind.

Welche Datenprobleme führen am häufigsten zu falschen KI-Ergebnissen?

In KMU sind es oft unvollständige, veraltete oder uneinheitlich erfasste Daten. Häufig fehlen wichtige Fälle, weil sie nie systematisch dokumentiert wurden. Ebenfalls problematisch sind Daten aus alten Prozessen, die heute nicht mehr gelten, oder Datenquellen mit unterschiedlichen Kategorien und Standards. Solche Lücken führen dazu, dass die KI Muster erkennt, die für den aktuellen Einsatz nur bedingt relevant sind.

Warum kann eine KI trotz guter Technik unfaire oder einseitige Resultate liefern?

Weil gute Technik nicht automatisch ausgewogene Grundlagen bedeutet. Wenn historische Daten frühere Präferenzen, Ausschlüsse oder operative Schieflagen enthalten, kann ein technisch sauberes System genau diese Muster reproduzieren. Dazu kommen Zieldefinitionen und Gewichtungen, die bestimmte Faktoren stärker berücksichtigen als andere. Unfaire Resultate entstehen deshalb oft nicht aus einem technischen Defekt, sondern aus Daten, Annahmen und organisatorischen Prioritäten.

Wie lassen sich KI-Entscheidungen im Alltag sinnvoll prüfen, ohne alles zu verkomplizieren?

Am sinnvollsten ist eine einfache, wiederholbare Prüfung an zentralen Punkten: Welche Daten fliessen ein? Was wird optimiert? Wo treten typische Fehler auf? Welche Fälle müssen manuell geprüft werden? Statt jedes Detail zu analysieren, reicht oft eine Kombination aus Stichproben, klaren Eskalationsregeln und periodischem Abgleich mit realen Ergebnissen. Entscheidend ist, dass die Prüfung Teil des Prozesses wird und nicht nur einmal zu Projektbeginn erfolgt.

Welche Bereiche im KMU eignen sich besonders für einen vorsichtigen KI-Einsatz?

Gut geeignet sind Bereiche mit hohem Volumen, klaren Abläufen und überschaubarem Fehlerrisiko, etwa Dokumentenklassifikation, Unterstützung bei Standardanfragen, interne Wissenssuche oder einfache Prognosen mit sauberer Datenbasis. Vorsicht ist besonders dort wichtig, wo Entscheidungen direkte Folgen für Personen, Kundenbeziehungen oder kritische Abläufe haben. Auch dort kann KI sinnvoll sein, aber eher unterstützend als vollständig automatisiert.

Wer sollte im Unternehmen die Verantwortung für KI-Prüfung und Freigabe tragen?

Die Verantwortung sollte fachlich dort liegen, wo die Auswirkungen der Entscheidung verstanden werden. Die IT oder externe Partner können die technische Umsetzung begleiten, aber die inhaltliche Freigabe gehört in den jeweiligen Geschäftsbereich und bei relevanten Anwendungen zusätzlich auf Führungsebene abgestützt. Wichtig ist eine klare Aufteilung: Wer beurteilt den Nutzen, wer kontrolliert die Resultate und wer entscheidet bei Abweichungen?