KI Center of Excellence: So koordinieren Schweizer KMU ihre KI-Transformation

Auf den Punkt
Die grösste Hürde bei der KI-Skalierung ist nicht technologisch, sondern organisatorisch. McKinsey zeigt: 83% der Unternehmen erkennen die Notwendigkeit eines neuen Betriebsmodells, doch 65% fehlt eine Koordinationsstruktur. Ein KI Center of Excellence schliesst diese Lücke – und kann in Schweizer KMU mit einer einzigen, tief verankerten Person beginnen, bevor es zum crossfunktionalen Team wächst.
Die organisatorische Lücke: Warum isolierte KI-Tools nicht skalieren
Schweizer Unternehmen investieren stärker in KI als der europäische Durchschnitt, doch die Ergebnisse bleiben hinter den Erwartungen zurück. Der Grund ist selten technischer Natur. McKinsey dokumentiert im State of Organizations 2026: 83% der befragten Unternehmen erkennen die Notwendigkeit eines neuen Betriebsmodells, um KI zu skalieren – doch 65% verfügen über keine Koordinationsstruktur. Deloitte bringt es auf den Punkt: Der Sprung führt von isolierten KI-Tools zu einem unternehmensweiten AI operating model. Ohne organisatorische Antwort bleibt KI in der Pilot-Falle stecken.
Diese Lücke ist in Schweizer KMU besonders ausgeprägt. Mit typischerweise 10 bis 250 Mitarbeitenden fehlt die kritische Masse für eine dedizierte KI-Abteilung. Gleichzeitig steigen die regulatorischen Anforderungen durch revDSG und die extraterritoriale Wirkung des EU AI Act. Was fehlt, ist eine schlanke, pragmatische Koordinationseinheit: das KI Center of Excellence.
Was ein KI Center of Excellence ist – und was es nicht ist
Ein AI CoE ist keine Technologieabteilung. Es ist eine Koordinationsfunktion, die Strategie, Governance, Befähigung und Monitoring bündelt. Ziel ist nicht, alle KI-Projekte zentral zu steuern, sondern Standards zu setzen, Wissen zu teilen und die dezentrale Umsetzung zu ermöglichen. Das CoE beantwortet Fragen wie: Welche Use Cases priorisieren wir? Welche Daten dürfen wir wie nutzen? Wie messen wir Erfolg? Wie befähigen wir die Fachabteilungen?
McKinsey belegt: Unternehmen mit einem funktionierenden CoE erreichen eine 2,3-mal höhere Erfolgsquote bei der Skalierung von KI-Initiativen. Der Unterschied liegt in der Fähigkeit, Learnings zu konsolidieren, redundante Investitionen zu vermeiden und Governance-Risiken frühzeitig zu adressieren.
Klein anfangen: Das Ein-Personen-CoE
Ralf Blaschke von Accenture formuliert im Schweizer KI-Podcast eine entscheidende Einsicht: 'Ein Center of Excellence kann eine einzige Person sein, die tief in der KI-Materie verankert ist.' Für viele Schweizer KMU ist das der realistischste Startpunkt. Diese Person übernimmt vier Kernaufgaben: Sie kartiert bestehende KI-Initiativen, definiert Bewertungskriterien für neue Use Cases, etabliert erste Governance-Leitplanken und baut ein internes Wissensnetzwerk auf.
Die typische Besetzung: Eine Person mit technischem Verständnis, Geschäftssinn und Zugang zur Geschäftsleitung. Häufig kommt sie aus dem Innovations- oder Digitalisierungsbereich. Entscheidend ist nicht der Titel, sondern das Mandat: Diese Person muss crossfunktional koordinieren dürfen und direkten Zugang zu strategischen Entscheidungen haben.
Praktischer Startpunkt
Die erste CoE-Verantwortliche startet mit drei Artefakten: einem Use-Case-Register (alle laufenden und geplanten KI-Initiativen), einer einseitigen Governance-Checkliste (Datenschutz, Bias, Transparenz) und einem monatlichen KI-Steuerkreis mit Geschäftsleitung und Fachbereichsleitern.
Skalierung zum crossfunktionalen Team
Ab einer gewissen Anzahl paralleler KI-Initiativen oder bei wachsender Mitarbeitendenzahl stösst das Ein-Personen-Modell an Grenzen. Das CoE wächst dann zu einem kleinen, crossfunktionalen Team. BCG empfiehlt in ihrem Vier-Phasen-Modell, Governance und Koordination in den Monaten 10 bis 15 der KI-Skalierung zu institutionalisieren. Für Schweizer KMU bedeutet das typischerweise ein kleines, crossfunktionales Kernteam mit klaren Rollen.
- KI-Strategin: Priorisierung, Roadmap, Business-Case-Validierung
- Data Steward: Datenqualität, -zugang, -architektur
- Compliance Officer: revDSG, EU AI Act, interne Richtlinien
- Change Manager: Training, Kommunikation, Adoption-Messung
Diese Rollen müssen nicht zwingend Vollzeitstellen sein. In vielen KMU übernehmen bestehende Führungskräfte diese Funktionen anteilig – entscheidend ist die formale Mandatierung und die regelmässige Koordination. Das World Economic Forum identifiziert 2026 eine neue Rolle: den 'AI workforce manager', der Mensch-Maschine-Hybridteams koordiniert. In der Praxis übernimmt diese Funktion oft der Change Manager im CoE.
Die vier Kernfunktionen eines AI CoE
1. Strategische Steuerung
Das CoE kuratiert die KI-Roadmap. Es bewertet Use Cases nach Geschäftswert, Machbarkeit und strategischer Passung. Es orchestriert die Ressourcenallokation und stellt sicher, dass KI-Initiativen auf Unternehmensziele einzahlen. Typisches Artefakt: eine quartalsweise aktualisierte Prioritätenliste mit klaren Go/No-Go-Kriterien.
2. Governance und Compliance
Das CoE definiert, dokumentiert und überwacht Leitplanken. Dazu gehören Datenschutzstandards, Bias-Checks, Transparenzanforderungen und Eskalationswege. In der Schweiz ist dieser Bereich nicht optional: 82% der Schweizer Unternehmen haben laut Swiss AI Observatory 2026 schwache bis mittlere Daten-Ökosysteme – Governance schliesst diese strukturelle Lücke.
3. Befähigung und Enablement
Das CoE baut interne Kompetenz auf. Es organisiert Schulungen, kuratiert Best Practices und stellt wiederverwendbare Bausteine bereit (Prompts, Workflows, Datensets). Es adressiert das 76%-Paradox: Die meisten Mitarbeitenden bleiben KI-Novizen, weil strukturiertes Enablement fehlt.
4. Monitoring und ROI-Messung
Das CoE etabliert ein konsistentes Messframework. Es trackt nicht nur technische KPIs (Modellgenauigkeit, Latenz), sondern Geschäftskennzahlen: Zeitersparnis, Fehlerreduktion, Umsatzeffekte. Ohne einheitliche Metriken bleibt der Business Case diffus und die Skalierung stockt.
2,3×
höhere Skalierungserfolgsquote bei Unternehmen mit etabliertem AI CoE (McKinsey 2026)
Praxisfall: Ein Schweizer Industriezulieferer baut sein CoE auf
Ein Zürcher Zulieferbetrieb mit 120 Mitarbeitenden startet 2025 mit drei isolierten KI-Piloten: Predictive Maintenance in der Produktion, automatisierte Angebotserstellung im Vertrieb, Qualitätskontrolle per Computer Vision. Jeder Pilot läuft in seiner Abteilung, ohne Austausch. Die Geschäftsleitung ernennt im dritten Quartal die Leiterin Digitalisierung zur KI-Koordinatorin – das Ein-Personen-CoE entsteht.
Erste Massnahme: Use-Case-Register. Die Koordinatorin kartiert alle Initiativen, identifiziert Datenüberschneidungen und stellt fest, dass zwei Abteilungen dieselbe externe API lizenzieren. Zweite Massnahme: Governance-Checkliste. Sie entwickelt gemeinsam mit der Rechtsberatung eine einseitige Checkliste für neue Use Cases – Datenschutz, Bias, Erklärbarkeit. Dritte Massnahme: monatlicher Steuerkreis mit GL und Bereichsleitern. Nach sechs Monaten sind redundante Kosten merklich reduziert, ein einheitliches ROI-Framework etabliert und mehrere neue Use Cases in der Pipeline priorisiert.
Im zweiten Jahr wächst das CoE: Die Koordinatorin wird zur Vollzeit-KI-Strategin, der Leiter IT übernimmt anteilig die Data-Steward-Rolle, die HR-Leiterin koordiniert Change und Training. Das crossfunktionale Trio trifft sich wöchentlich, der Steuerkreis bleibt monatlich. Resultat: mehrere produktive KI-Anwendungen, messbare Effizienzgewinne und eine Belegschaft, die KI als Werkzeug versteht, nicht als Bedrohung.
Drei häufige Fallstricke – und wie du sie vermeidest
Fallstrick 1: Das CoE wird zur Engpass-Instanz
Wenn jede KI-Initiative zur Genehmigung durch das CoE muss, entsteht ein Flaschenhals. Lösung: Das CoE definiert Leitplanken und Standards, entscheidet aber nicht über jeden Use Case. Fachabteilungen bleiben verantwortlich – das CoE befähigt und überprüft ex post.
Fallstrick 2: Zu theoretisch, zu wenig operativ
Ein CoE, das Strategiepapiere produziert, aber nie in echte Projekte involviert ist, verliert Glaubwürdigkeit. Lösung: Mindestens eine Person im CoE arbeitet aktiv in Pilotprojekten mit. So bleibt das CoE geerdet und lernt aus der Praxis.
Fallstrick 3: Fehlende Anbindung an die Geschäftsleitung
Ohne direkten Zugang zur GL bleibt das CoE zahnlos. Lösung: Die CoE-Leitung berichtet direkt an CEO oder COO, der monatliche Steuerkreis ist GL-besetzt und Use-Case-Priorisierung ist GL-Entscheidung.
Realitätscheck
Ein CoE ohne Budget, Mandat oder GL-Backing ist Theaterdonner. Die erste Frage vor dem Aufbau lautet: Hat diese Funktion echte Entscheidungsmacht oder ist sie Beiwerk?
Wann skalieren, wann outsourcen?
Nicht jedes KMU muss ein vollwertiges internes CoE aufbauen. Die Entscheidung hängt von drei Faktoren ab: Anzahl paralleler KI-Initiativen, strategische Bedeutung von KI und interne Kapazität. Als Faustregel: Bei wenigen aktiven Use Cases und begrenzter interner KI-Expertise ist ein hybrides Modell oft effizienter – eine interne Koordinatorin plus externer Sparringpartner für Strategie, Governance und Enablement.
KI-Outsourcing.ch operiert genau in diesem Hybrid-Raum: Wir agieren als externe KI-Division für Schweizer KMU, die KI skalieren wollen, ohne eine vollständige interne Struktur aufzubauen. Die interne Koordinatorin bleibt strategische Ansprechperson, wir liefern Governance-Frameworks, ROI-Messung, Pilotbegleitung und Change-Enablement. Sobald die Organisation reif genug ist, internalisiert sie schrittweise – oder bleibt im Hybrid-Modus, wenn das wirtschaftlich sinnvoller ist.
Checkliste: Die ersten 90 Tage deines AI CoE
- Mandat klären: Wer entscheidet? Wer berichtet wohin? Welches Budget steht zur Verfügung?
- Use-Case-Inventar erstellen: Alle laufenden und geplanten KI-Initiativen kartieren, Verantwortliche benennen, Status dokumentieren.
- Governance-Grundlagen definieren: Einseitige Checkliste für Datenschutz, Bias, Transparenz – pragmatisch, nicht akademisch.
- Steuerkreis etablieren: Monatliches Format mit GL und Bereichsleitern, feste Agenda (Prioritäten, Risiken, Learnings).
- Quick Wins identifizieren: Ein bis zwei Use Cases, die in 60 Tagen Mehrwert liefern – Sichtbarkeit schafft Momentum.
- Enablement-Plan skizzieren: Wer braucht welches Training wann? Wie teilen wir Learnings? Welche Best Practices dokumentieren wir?
Diese sechs Schritte schaffen die Basis. Das CoE ist kein Big-Bang-Projekt, sondern ein iterativer Aufbau. Starte schlank, lerne schnell, skaliere nach Bedarf.
Fazit: Organisatorische Reife bestimmt KI-ROI
Die technologischen Bausteine für KI-Skalierung sind verfügbar. Die entscheidende Variable ist organisatorisch. McKinsey zeigt: 83% erkennen die Notwendigkeit eines neuen Betriebsmodells, doch nur die wenigsten setzen es strukturiert um. Ein KI Center of Excellence ist die praktische Antwort – keine monströse Struktur, sondern eine schlanke Koordinationsfunktion, die in Schweizer KMU mit einer einzigen Person beginnen kann.
Die Investition ist überschaubar, der Hebel enorm. Unternehmen mit funktionierendem CoE skalieren KI 2,3-mal erfolgreicher. Sie vermeiden redundante Kosten, reduzieren Governance-Risiken und befähigen ihre Belegschaft systematisch. Der erste Schritt ist eine Mandatsentscheidung: Wer koordiniert? Ab wann? Mit welchen Befugnissen? Die technologische Transformation folgt der organisatorischen – nicht umgekehrt.
Häufige Fragen
- Was genau ist ein KI Center of Excellence?
- Ein KI Center of Excellence (AI CoE) ist eine Koordinationsfunktion, die Strategie, Governance, Befähigung und Monitoring für alle KI-Initiativen eines Unternehmens bündelt. Es ist keine Technologieabteilung, sondern setzt Standards, teilt Wissen und ermöglicht dezentrale Umsetzung. Für Schweizer KMU kann ein CoE mit einer einzigen, mandatierten Person starten.
- Wie viele Personen braucht ein AI CoE in einem KMU?
- Ein Schweizer KMU kann mit einer einzigen, tief verankerten Person starten – typischerweise jemand mit technischem Verständnis, Geschäftssinn und Zugang zur Geschäftsleitung. Ab etwa drei parallelen KI-Initiativen oder 100 Mitarbeitenden wächst das CoE zu einem crossfunktionalen Team von drei bis fünf Personen (Strategie, Data, Compliance, Change).
- Welche Aufgaben übernimmt ein AI CoE konkret?
- Das CoE erfüllt vier Kernfunktionen: Strategische Steuerung (Use-Case-Priorisierung, Roadmap), Governance und Compliance (Datenschutz, Bias, revDSG/EU AI Act), Befähigung und Enablement (Schulungen, Best Practices) sowie Monitoring und ROI-Messung (einheitliche Metriken, Business-Case-Validierung).
- Wann sollte ein KMU ein AI CoE aufbauen?
- Sobald mehr als ein KI-Pilot läuft oder geplant ist. Das CoE verhindert isolierte Insellösungen, redundante Investitionen und Governance-Lücken. Der Startpunkt ist eine mandatierte Koordinatorin, kein grosses Team. Bei weniger als drei Use Cases und begrenzter interner Expertise kann ein hybrides Modell mit externem Sparringpartner effizienter sein.
- Was sind die häufigsten Fehler beim Aufbau eines AI CoE?
- Drei Fallstricke dominieren: Das CoE wird zur Engpass-Instanz statt zur Enabler-Funktion, es bleibt zu theoretisch ohne operative Einbindung in echte Projekte, und es fehlt die direkte Anbindung an die Geschäftsleitung – ohne Budget, Mandat und GL-Backing bleibt das CoE wirkungslos.
Quellen
Möchten Sie dieses Thema für Ihr Unternehmen vertiefen?
Kapazität prüfen