KI Leitfaden für KMU in der Schweiz

20. März 2026 · Cybershark Team

Wichtigste Erkenntnisse

• Geschäftsführung und IT-Leitung müssen bis 2026 eine klare KI-Strategie und Governance definieren, die den Umgang mit LLMs wie ChatGPT verbindlich regelt

• Datenschutz nach DSG und DSGVO, Informationssicherheit sowie der Schutz von Geschäftsgeheimnissen haben bei jeder KI-Nutzung oberste Priorität

• Mitarbeitende benötigen Schulungen und klare Nutzungsrichtlinien; das Einspeisen von Kundendaten in öffentliche KI-Tools muss konsequent verhindert werden

• Schweizer KMU sollten mit 1-3 klar definierten Pilotprojekten starten (z.B. Offertenerstellung, Kundensupport, Marketingtexte), statt sofort unternehmensweit zu automatisieren

• Der Einsatz von KI bringt messbare Effizienzsteigerungen: 57% der nutzenden Unternehmen berichten von konkreten Verbesserungen

KI verstehen – Grundlagen für Schweizer KMU

Seit 2022 hat sich die Technologie rund um generative KI rasant entwickelt. Was damals als Experiment galt, ist heute in vielen Bereichen produktiv einsetzbar. Für Schweizer KMU bedeutet das: Der Einstieg ist jetzt möglich – und notwendig. Laut aktuellen Erhebungen nutzen bereits 34% der Schweizer Unternehmen KI zur Automatisierung, gegenüber 23% im Jahr 2024. Wer jetzt handelt, sichert sich Wettbewerbsvorteile.

Was KI heute leisten kann:

• Automatisierung von Routinetätigkeiten (E-Mails, Zusammenfassungen, Übersetzungen)

• Text-, Bild- und Code-Generierung

• Analyse grosser Datenmengen und Mustererkennung

Wo klare Grenzen bestehen:

• Kein echtes Fachwissen oder Verständnis

• Halluzinationen (erfundene Fakten oder Quellen)

• Verantwortung bleibt immer beim Menschen

Einführung in die neue Basistechnologie

Seit dem Durchbruch grosser Sprachmodelle 2022 drängt künstliche Intelligenz KI in den Arbeitsalltag von KMU. Diese Entwicklung ist vergleichbar mit der Einführung von Internet oder Cloud – eine Basistechnologie, die alle Branchen betrifft.

• KI-Systeme werden auf grossen Datenmengen trainiert; die Datenqualität bestimmt massgeblich die Qualität der Ergebnisse

• Trainingsdaten sind die Eingabekorpora, aus denen das Modell lernt

• Ein Modell ist ein statistischer Mustererkenner ohne echtes Bewusstsein

• Inferenz bezeichnet die Ausgabegenerierung, Prompts sind Benutzeranweisungen zur Steuerung

• Viele Schweizer KMU nutzen bereits indirekt KI – etwa in Buchhaltungssoftware, CRM-Systemen oder E-Mail-Security

Fokus Generative KI und LLMs

Grosse Sprachmodelle (LLMs) stehen seit 2023 im Zentrum der Diskussion. Tools wie ChatGPT haben gezeigt, wie leistungsfähig diese Technologie geworden ist – und welches Potenzial sie für KMU bietet.

Konkrete Einsatzmöglichkeiten:

• Entwürfe für E-Mails, Offerten und Berichte

• Personalreglemente und Arbeitsanweisungen

• Schulungsunterlagen und Dokumentation

• Übersetzungen und Zusammenfassungen

LLMs können halluzinieren – sie erfinden Quellen oder Fakten. Daher müssen alle Ergebnisse von Fachpersonen geprüft werden. IT-Leitende sollten evaluieren, ob On-Premise- oder datenschutzfreundliche Cloud-Varianten genutzt werden, um vertrauliche Daten in der Schweiz bzw. im EWR zu halten.

Überblick über typische KI-Tools im KMU-Alltag

Seit 2023 ist die Anzahl verfügbarer KI-Tools explodiert. Ohne klare Auswahlstrategie droht Wildwuchs im Unternehmen.

Wichtige Kategorien:

• Text- und Office-Assistenten (E-Mails, Dokumente)

• Code-Assistenz für Entwickler

• Bild- und Video-Generatoren

• Übersetzungsdienste

• Chatbots für Kundeninteraktion

• Analyse-Tools für Daten

Die IT-Leitung sollte pro Kategorie eine Positivliste (zugelassene Tools) und Negativliste (verbotene Tools) definieren. Bevorzugen Sie Anbieter mit transparenter Datenhaltung in der Schweiz/EU, Audit-Logs und vertraglichem Datenschutz. Führen Sie Testphasen mit klaren Zielen durch, bevor Tools breit ausgerollt werden.

KI strategisch einsetzen – Fahrplan für Geschäftsführung und IT-Leitung

Eine KI-Strategie auf Stufe Geschäftsleitung ist ab 2024 keine Option mehr, sondern Pflicht. Ohne klare Vorgaben riskieren Unternehmen unkontrollierte Nutzung, Sicherheitslücken und Compliance-Verstösse. Die strategische Verantwortung liegt bei der Geschäftsführung, während IT-Leitung und Fachbereiche die Umsetzung verantworten.

Die KI-Strategie muss mit Unternehmensstrategie, Digitalisierungsroadmap und IT-Sicherheitskonzept abgestimmt sein. Schweizer Besonderheiten wie das Datenschutzgesetz, die Rolle der Sozialpartner und der Fachkräftemangel sind dabei zu berücksichtigen.

KI-Readiness des Unternehmens prüfen

Bevor Sie investieren, brauchen Sie eine Standortbestimmung. Das gilt besonders für typische Schweizer KMU mit 10–250 Mitarbeitenden.

Checkliste für die Readiness-Analyse:

• Vorhandene IT-Infrastruktur und Cloud-Reife

• Datenqualität in ERP, CRM und DMS

• Aktuelles Sicherheitsniveau

• Bereits vorhandenes Automatisierungspotenzial

Setzen Sie eine interne Projektgruppe ein (Geschäftsleitung, IT-Leitung, HR, 1–2 Fachbereiche), um in 4–6 Wochen eine Analyse zu erarbeiten. Reifegrade können eingeteilt werden in “erste Experimente”, “Pilotprojekte” und “breite Nutzung”. Das Ergebnis sollte als kurze Entscheidungsgrundlage (max. 10 Seiten) dokumentiert werden.

KI-Projekte strukturiert planen und implementieren

Starten Sie mit 1–3 klar definierten Pilotprojekten pro Jahr. Zu viele parallele Baustellen überfordern Organisation und Ressourcen.

Einfacher Projektablauf:

1. Problemdefinition und Use Case

2. Business Case mit grobem ROI

3. Tool-Auswahl

4. Pilotphase (z.B. 3 Monate)

5. Auswertung

6. Skalierung oder Abbruch

Die Geschäftsführung legt Budget- und Zeitlimiten fest und fixiert Verantwortlichkeiten schriftlich. Bei Personendaten oder sensiblen Geschäftsgeheimnissen sollten Datenschutzbeauftragte ab Beginn einbezogen werden. Lessons Learned aus jedem Pilot werden dokumentiert und für kommende Projekte wiederverwendet.

KI-Governance, Ethik und Verantwortung

Seit 2024 sind ethische Leitlinien und Governance-Strukturen auch für KMU relevant – nicht nur für Konzerne. Ein interner “KI-Code of Conduct” sollte definieren, in welchen Bereichen KI erlaubt, eingeschränkt oder verboten ist.

Zentrale Grundsätze:

• Die Verantwortung für KI-Entscheide bleibt immer beim Unternehmen bzw. bei Führungskräften

• Geschäftskritische Entscheide (Kredite, HR, Sicherheit) dürfen nie allein von KI getroffen werden

• KI dient als Entscheidungshilfe, nicht als Entscheider

Führen Sie einen einfachen Freigabeprozess für neue KI-Anwendungen ein, bei dem IT-Sicherheit, Datenschutz und Fachbereich gemeinsam entscheiden.

Regulatorische Aspekte: DSG, DSGVO, EU-AI-Act im Blick behalten

Das revidierte Schweizer Datenschutzgesetz ist seit 1. September 2023 in Kraft. Gleichzeitig gewinnt der EU AI Act bis Ende 2026 an Bedeutung für Schweizer KMU.

Klären Sie frühzeitig, ob eigene KI-Systeme entwickelt oder hauptsächlich Drittservices genutzt werden – die regulatorischen Pflichten unterscheiden sich. Führen Sie eine interne Übersicht, welche KI-Anwendungen im Unternehmen verwendet werden und welche Anforderungen gelten.

KI im Alltag nutzen – konkrete Einsatzfelder für Schweizer KMU

Praktische Anwendungen finden sich in allen Schweizer Branchen: Industrie, Bau, Handel, Dienstleistungen, Gesundheitswesen und Tourismus. Produktive Use Cases können klein anfangen – Textentwürfe, Terminvorbereitung, Auswertung von Protokollen. Priorisieren Sie nach Nutzen, Risiko, Datenart und Komplexität. Pro Jahr sollten 2–3 Bereiche ausgewählt werden, die den grössten Hebel für Effizienz oder Kundenservice bieten.

Office- und Administrationsaufgaben automatisieren

Das Backoffice bietet hohes Automatisierungspotenzial für KMU. Hier können schnell messbare Einsparungen erzielt werden – Studien zeigen monatliche Einsparungen von CHF 5’000–15’000.

Anwendungsbeispiele:

• Entwurf von E-Mails und Standardbriefen

• Protokollzusammenfassungen von Sitzungen

• Offertenentwürfe und einfache Vertragsanpassungen

Verwalten Sie Mustertexte und Vorlagen zentral und kombinieren Sie diese mit KI-Tools. Die IT-Leitung gestaltet Berechtigungen so, dass nur autorisierte Personen KI-gestützte Dokumente final freigeben. Rechtlich relevante Dokumente müssen immer von Fachpersonen gelesen und freigegeben werden.

Kundenservice und Support verbessern

KI kann den Kundenservice rund um die Uhr unterstützen, ohne die persönliche Betreuung zu ersetzen.

Einsatzmöglichkeiten:

• FAQ-Chatbots auf Websites

• E-Mail-Triage und Antwortvorschläge

• Automatisierte Zusammenfassungen von Support-Tickets

Kritische oder komplexe Anfragen werden immer an Mitarbeitende eskaliert. Definieren Sie klare Regeln für die Übergabe vom Bot an Menschen. Schulen Sie Mitarbeitende, damit sie KI-generierte Antworten prüfen und aus Fehlern lernen. Die Einhaltung von DSG und DSGVO bei Kundendaten ist zwingend.

Marketing, Content und Übersetzungen

Marketing und Kommunikation profitieren stark von Text- und Bild-KI. Die Zusammenarbeit mit Inhalten wird effizienter, wenn KI Entwürfe liefert.

Anwendungen:

• Social-Media-Posts und Newsletter-Entwürfe

• Landingpages und Produktbeschreibungen

• Visualisierungen für Kampagnenideen

Bei Übersetzungen (DE/FR/IT/EN) hilft KI, aber lokale Sprachnuancen und Schweizer Rechtschreibung (“ss” statt “ß”) müssen von Menschen kontrolliert werden. Definieren Sie einen konsistenten Tone of Voice und beschreiben Sie diesen explizit in Prompts. Warnung: Keine urheberrechtlich geschützten Bilder ohne Lizenz verwenden, keine Deepfakes erstellen.

Produktentwicklung, Innovation und Analytik

KMU, die neue Produkte oder Services entwickeln, können KI als Werkzeug für Innovation nutzen.

Möglichkeiten:

• Auswertung von Kundenfeedback und Support-Tickets

• Ideenfindung für neue Angebote

• Simulation verschiedener Szenarien mit KI-gestützten Analysen

Setzen Sie KI in Innovationsworkshops systematisch als Ideenlieferanten ein. Datengetriebene Entscheidungen bringen bessere Resultate, wenn die Datenqualität stimmt. Vermeiden Sie “KI-Washing” – Projekte sollen messbaren Mehrwert liefern, nicht nur modern klingen.

Sicherer Umgang mit KI, LLMs und sensiblen Daten

Sicherheit und Datenschutz sind zentrale Pflichten der Geschäftsführung und IT-Leitung. Beim Einsatz von LLMs muss klar geregelt werden, welche Daten nie eingegeben werden dürfen. Typische Risiken umfassen Datenabfluss, Fehlentscheidungen, Compliance-Verstösse und Reputationsschäden. Ein “KI-Sicherheitskonzept” sollte im Rahmen der bestehenden IT-Sicherheitspolitik definiert werden.

Datenschutz und Vertraulichkeit gewährleisten

Das revidierte DSG und die DSGVO setzen klare Rahmen für die Nutzung von KI mit Personendaten.

Nie in externe KI-Tools eingeben:

• Personendaten und Gesundheitsdaten

• Finanzdaten und Lohnlisten

• Vertrauliche Verträge

• Betriebsgeheimnisse

Klären Sie bei Anbietern vertraglich, ob Eingaben zum Training verwendet werden, wo Daten gespeichert und wie lange sie aufbewahrt werden. Benennen Sie eine verantwortliche Person, die KI-Vorhaben prüft. Definieren Sie Prozesse zur Einhaltung von Betroffenenrechten (Auskunft, Löschung).

Cybersecurity und technische Schutzmassnahmen

KI-Risiken müssen ins bestehende Cyber-Sicherheitsdispositiv integriert werden.

Typische Angriffsvektoren:

• KI-generierte Phishing-Mails

• Missbrauch von Zugangsdaten zu KI-Plattformen

• Injection-Angriffe auf Chatbots

Führen Sie starke Authentifizierung (MFA), Rollen- und Rechtemanagement sowie Protokollierung für KI-Tools ein. Die IT-Leitung führt regelmässige Security-Reviews durch und überwacht Änderungen der Anbieter. Schulen Sie Mitarbeitende konkret, wie sie KI-gestützte Angriffe erkennen.

Richtlinien zur Nutzung von LLMs und anderen KI-Tools

Ein internes KI-Reglement sollte bis spätestens Ende 2026 für alle Mitarbeitende etabliert sein. Diese Anleitung wird schriftlich formuliert und über Intranet, Onboarding und Schulungen kommuniziert.

Inhalte der Richtlinie:

• Erlaubte, eingeschränkte und verbotene Anwendungsfälle mit Beispielen

• Regeln zur Kennzeichnung von KI-erstellten Inhalten

• Sanktionen bei groben Verstössen

Der Schulungsleitfaden sollte konkrete Szenarien aus der eigenen Branche enthalten, damit Mitarbeitende den Umgang mit KI-Technologien im Alltag verstehen.

Mitarbeitende einbeziehen, befähigen und führen

Akzeptanz, Schulung und klare Kommunikation entscheiden über den Erfolg von KI-Projekten. KI sollte nicht als Jobkiller verstanden werden, sondern als Assistenz, die Mitarbeitende von Routinetätigkeiten entlastet. Geschäftsführung und HR spielen eine aktive Rolle im Change Management.

Kompetenzen und Schulungen rund um KI

Weiterbildung im Bereich KI ist eine Investition in die Zukunftsfähigkeit des KMU.

Schulungskonzept:

• Basis-Schulungen für alle: Funktionsweise, Chancen, Risiken, Datenschutz

• Vertiefte Schulungen für Schlüsselrollen (Prompting für Marketing/Vertrieb, Technik für IT)

• Praxisorientiert mit Beispielen aus dem eigenen Betrieb

Definieren Sie interne “KI-Champions”, die Kolleginnen und Kollegen im Alltag unterstützen und Fragen beantworten. So bauen Sie internes Know-how nachhaltig auf.

Kritisches Denken und Verantwortungskultur fördern

KI-Resultate dürfen nie blind übernommen werden. Befähigen Sie Mitarbeitende systematisch zur Prüfung: Faktencheck, Plausibilitätsprüfung, Quellenkontrolle.

Eine gesunde Fehlerkultur ist wichtig: KI darf Fehler machen, aber sie müssen erkannt, dokumentiert und für Verbesserungen genutzt werden. Führungskräfte gehen mit gutem Beispiel voran und zeigen transparent, wie sie KI verantwortungsvoll nutzen. Diskutieren Sie in Teams regelmässig, welche Aufgaben mit oder ohne KI besser erledigt werden.

Zusammenarbeit Mensch–KI gestalten

Die Zusammenarbeit von Mensch und KI ist das langfristige Arbeitsmodell der Zukunft.

Interaktionsschritte:

1. Aufgabenbeschreibung

2. Prompt-Formulierung

3. Ergebnisbewertung

4. Nachbesserung

5. Finale Freigabe

Denken Sie Rollen neu: Vom Ausführenden hin zum Prüfer, Gestalter und Entscheider. Berücksichtigen Sie ergonomische und psychologische Aspekte (Informationsflut, ständige Verfügbarkeit). Schaffen Sie klare Zeitfenster für fokussierte Arbeit ohne KI-Ablenkung.

Blick nach vorn – wie Schweizer KMU KI bis 2028 verankern können

In den nächsten 3–5 Jahren wird KI Schritt für Schritt in Kernprozesse integriert: Produktion, Logistik, Kundenservice, Finanzwesen. Voraussetzung sind aufgebaute Governance-Strukturen und geschulte Mitarbeitende.

Empfehlungen für die Förderung einer nachhaltigen Integration:

• KI-Strategie alle 12–18 Monate überprüfen und anpassen

• Kooperationen mit Hochschulen, Verbänden und Initiativen wie Innovate Switzerland nutzen

• KI als kontinuierlichen Verbesserungsprozess verstehen, nicht als einmaliges Projekt

Das Handbuch zur KI-Anwendung von digitalswitzerland (März 2026) bietet zusätzliche Erkenntnisse und Schweizer Fallbeispiele für den Download und die Umsetzung.

Häufige Fragen (FAQ) zum KI-Leitfaden für KMU

Wie starten wir als KMU konkret mit KI, ohne uns zu überfordern?

Machen Sie zuerst eine kurze Bestandsaufnahme Ihrer IT-Infrastruktur und Datenqualität. Wählen Sie dann 1–2 unkritische Pilotbereiche aus – beispielsweise Marketingtexte oder interne Dokumente. Definieren Sie klare Ziele und eine Laufzeit von maximal 3 Monaten. Ein kleines, interdisziplinäres Team (Geschäftsleitung, IT, ein Fachbereich) genügt für erste Erfahrungen. Nach jedem Pilot erstellen Sie eine strukturierte Auswertung zu Nutzen, Risiken und Lerneffekten, bevor ein breiterer Rollout erfolgt.

Müssen wir als Schweizer KMU den EU-AI-Act schon heute berücksichtigen?

Schweizer KMU mit Kunden oder Dienstleistungserbringung in der EU werden voraussichtlich vom EU AI Act betroffen sein. Frühzeitige Orientierung ist sinnvoll, insbesondere wenn Sie eigene KI-Systeme entwickeln oder als Produkt anbieten. KMU, die primär Standardtools nutzen, sollten vor allem auf Transparenz, sorgfältige Anbieterwahl und lückenlose Dokumentation achten.

Wie schützen wir unsere Geschäftsgeheimnisse bei der Nutzung von LLMs?

Definieren Sie klare No-Go-Regeln für Eingaben in öffentliche KI-Dienste: keine vertraulichen, personenspezifischen oder geschäftskritischen Daten. Wählen Sie wo möglich Unternehmenslösungen mit klarer Datenhaltung (bevorzugt Schweiz/EU), Verschlüsselung und vertraglich geregelter Nicht-Nutzung der Daten für Training. Schulungen und regelmässige Kontrollen stellen sicher, dass Mitarbeitende diese Regeln tatsächlich umsetzen.

Welche zusätzlichen Aufgaben kommen auf unsere IT-Leitung zu?

Die IT-Leitung übernimmt neue Rollen: Bewertung und Auswahl von KI-Tools, Sicherstellung von Datenschutz und Sicherheit sowie Aufbau von Governance-Prozessen. Sie agiert verstärkt als Schnittstelle zwischen Geschäftsleitung, Fachbereichen und externen Dienstleistern. Planen Sie Zeit und Budget für Weiterbildung des IT-Teams im Zusammenhang mit KI-Technologien und -Sicherheit ein.

Wie können wir den Nutzen von KI-Projekten messbar machen?

Legen Sie pro Projekt 2–3 klare Kennzahlen fest: Zeitersparnis, Fehlerreduktion, Kundenzufriedenheit oder Reaktionszeiten. Führen Sie vor und nach Einführung der KI-Lösung Messungen durch und berichten Sie die Ergebnisse transparent an die Geschäftsleitung. Berücksichtigen Sie nicht nur Effizienz, sondern auch qualitative Verbesserungen wie bessere Entscheidungsgrundlage oder höhere Mitarbeitendenzufriedenheit.

Autorin: Karin M.

Zuletzt geändert: 20.03.2026

Haftungsausschluss: Die Inhalte dieses Beitrags wurden sorgfältig recherchiert und dienen ausschliesslich der allgemeinen Information. Angaben zu Anbietern, Funktionen, Preisen sowie zu rechtlichen und regulatorischen Anforderungen können sich jederzeit ändern. Für die Richtigkeit, Vollständigkeit und Aktualität wird keine Gewähr übernommen. Der Beitrag ersetzt keine individuelle Rechts-, Datenschutz- oder Fachberatung.