KI Wahrscheinlichkeiten statt Wahrheit

Generative KI ist in vielen Schweizer KMU bereits im Alltag angekommen. Sie formuliert E-Mails, fasst Sitzungen zusammen, schlägt Prozessschritte vor oder hilft bei Auswertungen. Das spart Zeit. Gleichzeitig entsteht leicht ein gefährlicher Eindruck: Wenn eine Antwort sauber formuliert ist, logisch aufgebaut wirkt und selbstbewusst auftritt, wird sie schnell als richtig eingestuft.

Genau hier liegt das Kernproblem. KI berechnet Wahrscheinlichkeiten, keine Wahrheit. Sie erzeugt die sprachlich plausibelste Fortsetzung auf Basis von Mustern. Das kann oft nützlich sein, ist aber nicht dasselbe wie verlässliche Information. Wer das versteht, kann KI sinnvoll einsetzen, ohne sich von gut klingenden Antworten in falscher Sicherheit wiegen zu lassen.

Warum KI oft richtig klingt, aber trotzdem falsch sein kann

Generative KI arbeitet nicht wie eine Fachperson, die Inhalte prüft, Quellen abgleicht und zwischen sicherem Wissen und Unsicherheit unterscheidet. Sie erzeugt Texte aufgrund statistischer Muster: Welche Wörter passen mit hoher Wahrscheinlichkeit als Nächstes zu einer Eingabe und zum bisherigen Text?

Das erklärt, weshalb KI-Antworten häufig so flüssig wirken. Die Sätze sind vollständig, der Ton ist stimmig, und die Antwort scheint auf den Punkt zu sein. Sprachliche Qualität ist aber kein Beweis für sachliche Korrektheit.

Ein einfaches Beispiel: Eine KI kann eine überzeugende Antwort auf die Frage nach einem internen Freigabeprozess formulieren, obwohl sie die tatsächlichen Abläufe im Unternehmen gar nicht kennt. Sie ergänzt dann typische Elemente, die in ähnlichen Kontexten oft vorkommen: Prüfung durch Teamleitung, Dokumentation, Freigabe, Archivierung. Das klingt vernünftig, kann aber im konkreten Betrieb falsch, unvollständig oder sogar riskant sein.

Der Unterschied zwischen plausibler Antwort und verlässlicher Information ist im Alltag entscheidend:

• Plausibel bedeutet: Die Aussage klingt möglich und passt sprachlich gut zum Kontext.

• Verlässlich bedeutet: Die Aussage ist geprüft, nachvollziehbar und stimmt mit Quellen, Daten oder internen Vorgaben überein.

Gerade im Zusammenhang mit KI Wahrscheinlichkeiten Wahrheit ist dieser Unterschied zentral. KI kann sehr oft plausibel formulieren, ohne zu erkennen, ob eine Aussage tatsächlich wahr ist. Sie hat kein eigenes Wahrheitsverständnis. Sie prüft keine Fakten im menschlichen Sinn, sondern setzt Muster fort.

Das heisst nicht, dass KI unbrauchbar ist. Im Gegenteil: Für erste Entwürfe, Strukturvorschläge, Formulierungen oder Zusammenfassungen kann sie sehr nützlich sein. Aber die Nutzung muss zur Aufgabe passen. Je wichtiger eine Aussage für Kunden, Mitarbeitende, Entscheidungen oder Zahlen ist, desto wichtiger ist die Verifikation.

Weshalb überzeugende Sprache Vertrauen erzeugt

Menschen beurteilen Informationen nicht nur nach Inhalt, sondern auch nach Form. Eine Antwort wirkt automatisch glaubwürdiger, wenn sie klar gegliedert ist, in ruhigem Ton formuliert wird und keine sichtbaren Unsicherheiten zeigt.

Genau darin liegt eine Stärke generativer KI. Sie produziert häufig Texte, die sehr geordnet erscheinen:

• klare Einleitung

• saubere Aufzählungen

• vollständige Sätze

• konsistenter Ton

• scheinbar eindeutige Empfehlungen

Diese Form erzeugt schnell ein Kompetenzgefühl. Die Antwort fühlt sich richtig an, bevor sie tatsächlich geprüft wurde. Das ist im Arbeitsalltag besonders relevant, weil Entscheidungen oft unter Zeitdruck getroffen werden.

Hinzu kommt: KI formuliert Unsicherheit oft schwächer, als es eine Fachperson tun würde. Wenn Informationen fehlen, folgt nicht zwingend ein klares "das ist unbekannt", sondern häufig eine plausible Ergänzung. So entstehen Antworten, die vollständig wirken, obwohl einzelne Bausteine geraten oder verallgemeinert sind.

Ein weiteres Problem ist die scheinbare Vollständigkeit. Eine gut formulierte Antwort deckt oft viele Punkte ab. Das vermittelt den Eindruck, das Thema sei umfassend behandelt worden. In der Praxis fehlen aber gerade die entscheidenden Besonderheiten: Ausnahmen, interne Regeln, branchenspezifische Details oder Bedingungen, unter denen eine Aussage nicht gilt.

Für KMU bedeutet das: Vertrauen darf nicht aus Stil entstehen, sondern aus Prüfung. Eine überzeugende Formulierung ist hilfreich für die Lesbarkeit, aber kein Ersatz für Quellen, Fachwissen und Freigaben.

Typische Fehlerbilder im KMU-Alltag

Die Risiken von KI zeigen sich nicht nur in grossen strategischen Themen. Häufig entstehen Probleme in alltäglichen Aufgaben, gerade weil die Antworten so brauchbar aussehen. Besonders betroffen sind Texte, Zahlen, Zusammenfassungen und Empfehlungen.

Texte: korrekt formuliert, inhaltlich trotzdem falsch

In der Administration wird KI oft für E-Mail-Entwürfe, Schreiben an Kunden oder interne Mitteilungen genutzt. Die Sprache ist meist höflich, klar und professionell. Das ist hilfreich. Problematisch wird es, wenn inhaltliche Details stillschweigend ergänzt oder falsch dargestellt werden.

Beispiel: Eine KI formuliert ein Schreiben an einen Kunden zu Lieferfristen. Der Text klingt sauber, erwähnt aber eine Frist oder einen Ablauf, der intern so nie bestätigt wurde. Oder es werden Formulierungen verwendet, die stärker verbindlich klingen, als es die Situation erlaubt.

Auch bei internen Anleitungen kann das passieren. Ein KI-generierter Text für einen Ferienprozess, eine Offertenfreigabe oder eine Reklamationsbearbeitung kann sprachlich überzeugend sein, aber veraltete oder nicht existente Prozessschritte enthalten.

Operations: Prozesslogik stimmt teilweise, wichtige Schritte fehlen

In Operations-Bereichen wird KI gern eingesetzt, um Abläufe zu strukturieren oder Arbeitsanweisungen zusammenzufassen. Hier entstehen oft Fehler durch Verallgemeinerung.

Beispiel: Die KI beschreibt einen Prozess zur Wareneingangskontrolle mit typischen Schritten wie Prüfung, Erfassung und Freigabe. Das klingt sinnvoll. Im Betrieb gibt es aber zusätzlich eine zwingende Qualitätskontrolle für bestimmte Produktgruppen oder eine dokumentierte Ausnahme bei Serienfehlern. Fehlt dieser Punkt, wird aus einer plausiblen Antwort eine operative Schwachstelle.

Solche Fehler sind besonders tückisch, weil sie nicht sofort absurd wirken. Die Antwort ist nicht offensichtlich falsch, sondern nur zu glatt und zu allgemein.

Zusammenfassungen: Widersprüche werden übersehen

Sitzungsnotizen und Protokolle lassen sich mit KI schnell zusammenfassen. Das spart Zeit, birgt aber ein klares Risiko: Die KI gewichtet Inhalte nicht immer so, wie es für das Team relevant wäre.

Ein typisches Fehlerbild: Zwei Aussagen in einer Sitzung widersprechen sich leicht. Die KI glättet den Widerspruch und erstellt eine saubere Zusammenfassung, als gäbe es einen einheitlichen Entscheid. Oder sie lässt Vorbehalte und offene Punkte weg, weil eine knappe, klare Zusammenfassung statistisch plausibler wirkt als eine mit Unsicherheit.

Gerade für Geschäftsleitung und Teamleitungen ist das problematisch. Entscheidungen basieren oft nicht nur auf dem, was gesagt wurde, sondern auch auf offenen Fragen, Einwänden und Bedingungen. Wenn diese wegfallen, entsteht ein falsches Bild von Klarheit.

Zahlen: plausibel aufbereitet, aber nicht belastbar

Bei Kennzahlen, Auswertungen und einfachen Berechnungen kann KI ebenfalls nützlich sein, etwa für Erläuterungen oder erste Interpretationen. Gefährlich wird es, wenn aus einer sprachlich sauberen Darstellung auf korrekte Zahlen geschlossen wird.

Beispiel: Eine KI fasst Monatszahlen zusammen und beschreibt eine Umsatzentwicklung. Die Interpretation klingt schlüssig, doch die Bezugsbasis ist falsch, einzelne Werte wurden verwechselt oder Rundungen verändern die Aussage. Noch problematischer wird es, wenn aus unvollständigen Daten eindeutige Schlüsse gezogen werden.

Im Bereich KI Antworten prüfen ist dies besonders wichtig: Zahlen müssen immer gegen Originaldaten geprüft werden. Eine elegante Formulierung ersetzt keine Kontrolle in ERP, Excel, BI-System oder Buchhaltung.

Empfehlungen: zu sicher, obwohl die Grundlage unscharf ist

Ein weiteres typisches Muster sind Handlungsempfehlungen. KI formuliert oft sehr klar: "Empfohlen wird ...", "Der beste nächste Schritt ist ..." oder "Unter diesen Umständen sollte das Unternehmen ..."

Das ist verführerisch, weil klare Empfehlungen im Alltag entlasten. Aber die KI kennt oft weder alle Randbedingungen noch die internen Prioritäten. Sie kann Empfehlungen aus allgemeinen Mustern ableiten, ohne die konkrete Lage des Unternehmens zu verstehen.

Beispiel: Für eine Teamorganisation, eine Kundenkommunikation oder eine interne Priorisierung kann die Empfehlung logisch wirken, aber wichtige Faktoren wie Ressourcen, Zuständigkeiten, Vertragslage oder historische Erfahrungen ignorieren.

Weitere Beispiele und Einordnungen zu solchen Alltagssituationen finden sich im Praxiswissen von Swiss Process Solutions.

So prüfen KMU KI-Antworten mit einfachen Regeln

Nicht jede KI-Ausgabe braucht den gleichen Prüfaufwand. Ein erster Formulierungsvorschlag für eine interne Notiz ist anders zu behandeln als eine Zahl für das Reporting oder eine Empfehlung für eine operative Änderung. Entscheidend ist eine einfache, alltagstaugliche Prüflogik.

1. Nach Quellen oder Grundlage fragen

Lassen Sie die KI benennen, worauf sich eine Aussage stützt: internes Dokument, zugelieferte Daten, bekannte Annahmen oder allgemeine Muster. Eine Antwort ohne erkennbare Grundlage ist nur ein Entwurf, keine belastbare Aussage.

Wichtig dabei: Quellenangaben sind nur ein Startpunkt. Auch diese müssen geprüft werden, denn KI kann Quellen missverständlich wiedergeben oder falsch zuordnen.

2. Zahlen immer mit Originaldaten abgleichen

Sobald Beträge, Kennzahlen, Prozentwerte, Fristen oder Mengen im Spiel sind, braucht es einen Abgleich mit den Originaldaten. Das gilt auch dann, wenn die Zahlen in der Antwort sehr sauber erläutert werden.

Praktisch heisst das:

• Zahlen aus dem Originalsystem prüfen

• Rechenweg bei Bedarf nachvollziehen

• Bezugsperiode kontrollieren

• Definition der Kennzahl bestätigen

3. Fakten mit internen Dokumenten vergleichen

Bei Prozessen, Vorlagen, Weisungen, Rollen oder Zuständigkeiten sollte jede KI-Aussage mit den gültigen internen Unterlagen abgeglichen werden.

Zum Beispiel:

• Prozessdokumentation

• Vorlagen und Standards

• Reglemente

• Freigabematrizen

• Protokolle oder Beschlüsse

Gerade bei KI im KMU ist das entscheidend, weil viele Fehler nicht aus falscher Sprache, sondern aus fehlendem Kontext entstehen.

4. Fachkritische Aussagen von einer Fachperson prüfen lassen

Je grösser die fachliche Tragweite, desto wichtiger ist menschliche Prüfung. Das gilt etwa für Aussagen mit Einfluss auf Kundenkommunikation, operative Abläufe, Finanzen oder Personalthemen.

Eine einfache Regel hilft: Wenn ein Fehler Folgen hätte, braucht es eine Fachperson. KI-Verifikation ist kein Sonderfall, sondern Teil normaler Qualitätssicherung.

5. Unsicherheiten sichtbar machen lassen

KI kann gebeten werden, Annahmen, Lücken und Unsicherheiten explizit zu markieren. Das verbessert die Beurteilung deutlich.

Zum Beispiel:

• Welche Aussage ist sicher, welche nur Annahme?

• Welche Informationen fehlen?

• Wo bestehen mehrere mögliche Interpretationen?

• Welche Punkte müssten intern verifiziert werden?

So wird aus einer scheinbar fertigen Antwort ein transparenter Arbeitsstand.

6. Bei wichtigen Inhalten das Vier-Augen-Prinzip anwenden

Nicht jede Ausgabe braucht mehrere Freigaben. Aber bei sensiblen Inhalten ist das Vier-Augen-Prinzip sinnvoll: externe Kommunikation, wichtige Auswertungen, Prozessänderungen, Management-Zusammenfassungen oder Empfehlungen mit Wirkung auf Entscheidungen.

Diese Prüfroutinen müssen nicht kompliziert sein. Sie sollen den Alltag entlasten, nicht blockieren. Ziel ist keine Perfektion, sondern verlässliche Mindeststandards für KI Verifikation.

Welche Rolle Quellen, Fachwissen und Freigaben spielen

KI wird oft als direkte Antwortmaschine erlebt. Im Unternehmen ist sie aber nur ein Teil eines grösseren Workflows. Verlässlichkeit entsteht nicht aus der Ausgabe allein, sondern aus dem Zusammenspiel von Grundlage, Prüfung und Freigabe.

Quellen sind hilfreich, aber nicht automatisch korrekt

Quellenangaben erhöhen die Nachvollziehbarkeit, ersetzen aber keine Prüfung. Eine KI kann eine Quelle richtig benennen, aber falsch interpretieren. Sie kann auch eine Passage verallgemeinern oder einen Zusammenhang herstellen, der so im Original nicht steht.

Deshalb gilt: Quellen dienen als Startpunkt, nicht als Abschluss der Prüfung. Entscheidend ist, ob die Quelle wirklich zur Aussage passt und ob sie aktuell, vollständig und für den konkreten Fall relevant ist.

Fachwissen bleibt unverzichtbar

Generative KI Wahrheit ist ein missverständlicher Begriff, weil das System nicht beurteilt, was im Betrieb sachlich stimmt. Dafür braucht es Fachwissen. Mitarbeitende erkennen eher, wo eine Antwort zu allgemein ist, wo Ausnahmen fehlen oder wo interne Logik verletzt wird.

Fachwissen ist besonders wichtig bei:

• branchenspezifischen Abläufen

• internen Sonderfällen

• Interpretation von Kennzahlen

• Priorisierung von Empfehlungen

• Einordnung von Risiken und Abhängigkeiten

Das bedeutet nicht, dass jede Person alles selbst wissen muss. Aber im Prozess muss klar sein, wer bei fachkritischen Aussagen die Verantwortung für die Prüfung trägt.

Freigaben sind Qualitätssicherung, nicht Bürokratie

In vielen KMU wird Freigabe mit Zusatzaufwand verbunden. Beim Einsatz von KI ist eine klare Freigabelogik jedoch ein Schutz vor unnötigen Fehlern.

Sinnvoll ist eine einfache Unterscheidung:

• Was darf ohne zusätzliche Prüfung intern genutzt werden, etwa als Rohentwurf?

• Was muss vor Weitergabe intern abgeglichen werden?

• Was braucht eine formelle Freigabe durch verantwortliche Stellen?

Das betrifft nicht nur externe Kommunikation, sondern auch interne Entscheidungsgrundlagen. Eine gute Zusammenfassung für die Geschäftsleitung oder ein KI-gestützter Handlungsvorschlag für Operations kann stark entlasten, sollte aber vor Verwendung klar geprüft sein.

Wie Schulung und Enablement KI im KMU sicherer machen

Einzelne Prüfschritte helfen sofort. Langfristig reicht es aber nicht, wenn jede Person nach eigenem Ermessen mit KI arbeitet. Teams brauchen gemeinsame Standards. Sonst wird dieselbe Aufgabe je nach Person sehr unterschiedlich geprüft, dokumentiert und freigegeben.

Genau hier werden Schulung und Enablement wichtig. Es geht nicht um theoretische Weiterbildung, sondern um klare Arbeitsfähigkeit im Alltag.

Ein KMU profitiert besonders dann, wenn im Team gemeinsam geklärt wird:

• Für welche Aufgaben darf KI genutzt werden?

• Welche Inhalte gelten nur als Entwurf?

• Welche Aussagen müssen immer geprüft werden?

• Wer ist bei Zahlen, Prozessen oder Empfehlungen freigabeberechtigt?

• Wie werden Unsicherheiten dokumentiert?

• Welche Minimalstandards gelten für Quellen und Nachvollziehbarkeit?

Wenn diese Punkte fehlen, entstehen unnötige Risiken. Nicht, weil KI grundsätzlich schlecht wäre, sondern weil der Umgang uneinheitlich bleibt. Die einen prüfen sorgfältig, die anderen verlassen sich auf gute Formulierungen. Das führt zu Qualitätsunterschieden, Rückfragen und im ungünstigen Fall zu Fehlentscheiden.

Mit passenden Standards wird KI dagegen berechenbarer im besten Sinn: als Werkzeug innerhalb eines klaren Prozesses. Dann ist auch leichter erkennbar, wo KI wirklich Mehrwert bringt und wo menschliche Prüfung zwingend bleibt.

Vertiefende Unterstützung zu Standards, Freigaben und sicherer Teamnutzung bietet Swiss Process Solutions im Bereich Schulung und Enablement.

Häufig gestellte Fragen

Woran erkennt man, dass eine KI-Antwort zwar gut klingt, aber nicht stimmt?

Ein Warnsignal ist, wenn eine Antwort sehr sicher formuliert ist, aber keine klare Grundlage nennt. Auch fehlende Quellen, unklare Zahlenbasis, verallgemeinerte Aussagen oder das Auslassen von Ausnahmen sind Hinweise. Besonders kritisch sind Antworten, die vollständig wirken, obwohl der konkrete Unternehmenskontext gar nicht bekannt sein kann.

Welche KI-Aussagen sollten im KMU immer geprüft werden?

Immer geprüft werden sollten Zahlen, Fristen, interne Prozesse, Zusammenfassungen mit Entscheidungsrelevanz, Aussagen über Zuständigkeiten sowie Empfehlungen mit Einfluss auf Kunden, Mitarbeitende oder operative Abläufe. Je grösser die möglichen Folgen eines Fehlers, desto klarer muss die Prüfung sein.

Reichen Quellenangaben von KI aus, um einer Antwort zu vertrauen?

Nein. Quellenangaben helfen bei der Nachvollziehbarkeit, sind aber keine Garantie für Korrektheit. Eine KI kann eine Quelle falsch deuten, ungenau wiedergeben oder einen Zusammenhang herstellen, den das Original so nicht stützt. Die Quelle selbst muss deshalb kontrolliert werden.

Wie können Teams im Alltag KI-Ergebnisse schnell und zuverlässig prüfen?

Hilfreich sind einfache Standards: Grundlage nennen lassen, Zahlen mit Originaldaten abgleichen, Fakten gegen interne Dokumente prüfen, kritische Aussagen von Fachpersonen verifizieren und bei wichtigen Inhalten das Vier-Augen-Prinzip anwenden. Entscheidend ist, dass diese Regeln im Team einheitlich gelten.

Welche Fehler passieren bei KI besonders oft in Administration und Operations?

In der Administration sind es oft sauber formulierte Texte mit falschen Details, unpassenden Formulierungen oder nicht bestätigten Aussagen. In Operations treten häufig verallgemeinerte Prozessbeschreibungen auf, bei denen Ausnahmen, Kontrollschritte oder betriebliche Besonderheiten fehlen. Auch Zusammenfassungen glätten Widersprüche häufiger, als es auf den ersten Blick auffällt.

Braucht es für den sicheren Umgang mit KI immer Fachwissen im Team?

Für einfache Entwürfe nicht in jedem Schritt. Für belastbare Aussagen aber sehr wohl. Fachwissen ist nötig, um zu beurteilen, ob eine Antwort nur plausibel klingt oder fachlich tatsächlich trägt. Wo dieses Wissen nicht direkt bei der nutzenden Person liegt, braucht es klare Zuständigkeiten für Prüfung und Freigabe.