Alle Beiträge
KI-Ratgeber

Mira Murati veröffentlicht Inkling: Das erste Open-Weight-Modell von Thinking Machines Lab

Chris Jon Graf · KI-Stratege & CEOVeröffentlicht am 16. Juli 2026
Mira Murati veröffentlicht Inkling: Das erste Open-Weight-Modell von Thinking Machines Lab

Auf den Punkt

Mira Murati, ehemalige CTO von OpenAI, hat mit ihrem Startup Thinking Machines Lab das Open-Weight-Modell Inkling veröffentlicht. Das multimodale Mixture-of-Experts-System mit 975 Milliarden Parametern (41 Milliarden aktiv) steht unter Apache-2.0-Lizenz und erlaubt Schweizer Unternehmen erstmals, ein hochleistungsfähiges KI-Modell vollständig selbst zu hosten, anzupassen und für spezialisierte Domänen zu optimieren – ohne Vendor-Abhängigkeit und mit kontrollierbarem Denkaufwand zwischen Kosteneffizienz und maximaler Leistung.

Wer ist Mira Murati und warum ist Inkling relevant?

Mira Murati prägte als Chief Technology Officer bei OpenAI die Entwicklung von ChatGPT und DALL·E. Im September 2024 übernahm sie während der Altman-Krise interimistisch die CEO-Rolle. Im Februar 2025 gründete sie gemeinsam mit John Schulman (OpenAI-Mitgründer, ChatGPT-Lead) und Lilian Weng (ehemalige VP Safety and Robotics bei OpenAI) das Startup Thinking Machines Lab. Ihre Vision: KI-Systeme schaffen, die menschliche Absichten und Urteilskraft erweitern – kollaborativ, menschenzentriert und anpassbar.

Am 15. Juli 2026 veröffentlichte Thinking Machines Lab Inkling, das erste vollwertige Open-Weight-Modell des Unternehmens. Mit 975 Milliarden Parametern (41 Milliarden aktiv), Mixture-of-Experts-Architektur und Apache-2.0-Lizenz setzt Inkling neue Massstäbe für anpassbare KI-Systeme. Anders als bei geschlossenen Modellen kannst du Inkling vollständig selbst hosten, modifizieren und auf deine spezifische Domäne zuschneiden – ein entscheidender Vorteil für Schweizer Unternehmen mit strengen Compliance-Anforderungen.

Die technische Architektur: Mixture-of-Experts mit kontrollierbarem Denkaufwand

Inkling basiert auf einer Mixture-of-Experts-Architektur (MoE), die das DeepSeek-V3-Design weiterentwickelt. Von den 975 Milliarden Parametern sind pro Token nur 41 Milliarden aktiv: Das Modell routet jedes Token durch 6 von 256 spezialisierten Experten plus 2 gemeinsame Experten. Diese Architektur ermöglicht es, Inferenzkosten drastisch zu senken, während die Gesamtkapazität eines viel grösseren Modells erhalten bleibt.

Das Training umfasste 45 Billionen Tokens aus Text, Bild, Audio und Video, durchgeführt auf Nvidia GB300 NVL72-Systemen mit dem Muon-Optimierer für Matrix-Gewichte und Adam für andere Parameter. Das Post-Training wurde mit Supervised Fine-Tuning auf Kimi K2.5-Synthetikdaten gebootstrapped, gefolgt von grossflächigem Reinforcement Learning mit über 30 Millionen Rollouts.

Controllable Thinking Effort

Inkling führt einen Parameter zwischen 0.2 und 0.99 ein, der den Denkaufwand steuert. Bei 0.2 liefert das Modell schnelle, kostengünstige Antworten für Routing und Triage. Bei 0.99 durchläuft es längere Überlegungsketten für komplexe Aufgaben. Du wählst bewusst einen Punkt auf der Cost-Performance-Kurve – ideal für Kostenoptimierung bei gleichzeitig hoher Qualität.

Multimodalität: Text, Bild und Audio in einem Modell

Inkling verarbeitet gleichzeitig Text, Bild und Audio als Eingabe und gibt Text, Code oder strukturierte Daten aus. Audio wird als dMel-Spektrogramme eingespeist, Bilder als 40×40-Pixel-Patches via hierarchical MLP. Die Encoder-freie Early-Fusion-Architektur verzichtet auf separate Encoder und integriert alle Modalitäten direkt in die Transformer-Schichten.

Statt der üblichen Rotary Position Embeddings (RoPE) nutzt Inkling relative Attention, was bessere Extrapolation auf lange Kontexte ermöglicht. Der Context-Window liegt bei 1 Million Tokens – ausreichend für umfangreiche Dokumente, mehrere Codebasen oder lange Gesprächsverläufe.

  • Text-Eingabe: Bis zu 1 Million Tokens, ideal für lange Dokumente oder Multi-Turn-Dialoge
  • Bild-Eingabe: 40×40-Pixel-Patches, verarbeitet via hierarchical MLP ohne separaten Vision-Encoder
  • Audio-Eingabe: dMel-Spektrogramme für Spracherkennung, Transkription oder multimodale Analyse
  • Text-Ausgabe: Code, strukturierte Daten, stilisierte Artefakte – keine Bild- oder Audio-Generierung

Benchmarks: Wo steht Inkling im Vergleich?

Thinking Machines Lab kommuniziert transparent: 'Inkling ist heute nicht das stärkste Modell insgesamt, weder open noch closed. Stattdessen macht eine Kombination von Eigenschaften es zu einer guten Open-Weight-Basis für Anpassung.' Die Benchmarks bei maximalem Effort (0.99) zeigen die Positionierung klar.

77,6%

SWE-Bench Verified – übertrifft Nemotron 3 Ultra (70,7%), liegt hinter DeepSeek V4 Pro (80,6%)

91,4%

VoiceBench – knapp hinter Qwen3.5 Omni-Plus (92,4%) und Gemini 3.1 Pro (94,3%)

Im Terminal Bench 2.1 erreicht Inkling 63,8 Punkte, während GLM 5.2 mit 82,7 und Claude Fable 5 mit 84,6 führen. Bei MMMU Pro liegt das Modell bei 73,5% (Kimi K2.6: 79%, Gemini 3.1 Pro: 82%). In der Design Arena für Agentic Web Development erreicht Inkling 1257 Punkte, Claude Fable 5 liegt bei 1329.

Bridgewater-Case: 84,7% bei 1/14 der Kosten

In einer eigenen Evaluation für einen Finanzdienstleister erreichte Inkling nach Fine-Tuning 84,7% Financial Reasoning – und übertraf damit proprietäre Modelle bei einem Vierzehntel der Kosten. Das zeigt das Potenzial spezialisierter Anpassung für deine Domäne.

Use Cases für Schweizer Unternehmen

Spezialisierte Domänen: Finance, Legal, Medicine

Der Bridgewater-Case illustriert die Stärke von Inkling: Nach Fine-Tuning auf organisationsspezifische Finanzdaten übertraf das Modell proprietäre Systeme bei drastisch reduzierten Kosten. Für Schweizer Banken, Versicherungen oder Anwaltskanzleien bedeutet das: Du kannst ein Modell auf deine exakten Prozesse, Terminologien und Regulatorien zuschneiden – ohne Abhängigkeit von einem Vendor, dessen API morgen teurer wird.

Compliance und Datensouveränität

Die Apache-2.0-Lizenz erlaubt Self-Hosting ohne Revenue Caps oder Use Restrictions. Für Unternehmen, die dem revidierten Datenschutzgesetz (revDSG) oder FINMA-Anforderungen unterliegen, ist das entscheidend: Kein Daten-Egress zu US-Rechenzentren, keine unklaren Verarbeitungsverträge. Du betreibst Inkling auf deiner eigenen Infrastruktur oder in einem Schweizer Rechenzentrum – volle Kontrolle, volle Nachvollziehbarkeit.

VentureBeat hebt hervor: 'Die Apache-2.0-Bezeichnung macht Inkling zu einer echten Open-Source-Grundlage.' Anders als bei vielen chinesischen KI-Modellen, die mittlerweile 46% des Enterprise-Markts erobern, bietet Inkling dir die Gewissheit westlicher Governance ohne proprietäre Lock-ins.

Multimodale Analyse: Kundenservice und Dokumentenverarbeitung

Die gleichzeitige Verarbeitung von Text, Bild und Audio eröffnet neue Workflows: Ein Kundenservice-Agent lädt einen WAV-Call, einen Screenshot der Benutzeroberfläche und ein Chat-Log hoch – Inkling analysiert alle drei Modalitäten und generiert ein strukturiertes Ticket. In der Dokumentenverarbeitung kannst du gescannte PDFs (Bild), OCR-Text und Sprachnotizen kombinieren.

Kostenoptimierung durch aktivierte Parameter und kontrollierbaren Effort

Mit nur 41 Milliarden aktiven Parametern ist Inkling deutlich günstiger im Betrieb als vollständig aktivierte 1-Billionen-Parameter-Modelle. Der kontrollierbare Effort-Parameter erlaubt dir, für Routing, Triage oder einfache Klassifikation einen niedrigen Wert (0.2–0.5) zu wählen und damit nochmals Kosten zu sparen. Für komplexe Aufgaben wie mehrstufige Code-Refactorings oder tiefe Datenanalysen setzt du den Effort auf 0.99 – und zahlst nur, wenn du die Leistung tatsächlich brauchst.

Diese Granularität unterscheidet Inkling von vielen Preismodellen, die als versteckte Vermögenssteuer wirken: Du zahlst nicht pauschal für ein Modell, das immer maximal denkt, sondern wählst bewusst den Trade-off.

Agentic Coding und Long Refinement Loops

Inkling wurde explizit für agentenbasierte Workflows trainiert: Das Modell beherrscht Tool Use mit randomisierten Tool-Sets, kann in einem Shot eine vollständige Web-App generieren (Design Arena) und iteriert über 40 Feedback-Runden hinweg. Für Software-Entwicklungsteams bedeutet das: Du kannst Inkling in CI/CD-Pipelines integrieren, Code-Reviews automatisieren oder lange Refactoring-Zyklen durchlaufen lassen – alles on-premises, ohne dass dein Code jemals ein externes API-Endpoint erreicht.

Thinking Machines Lab: Mission, Team und Produkte

Thinking Machines Lab verfolgt die Mission, KI-Systeme zu schaffen, die breiter verstanden, anpassbar und allgemein leistungsfähig sind. Das Unternehmen wurde im Februar 2025 gegründet und sicherte sich in einer Seed-Runde 2 Milliarden Dollar bei einer Bewertung von 12 Milliarden Dollar, angeführt von Andreessen Horowitz (a16z). Im November 2025 kursierten Gerüchte über eine Bewertung von 50 Milliarden Dollar, die jedoch im Januar 2026 gestoppt wurden, als zwei Mitgründer (Barret Zoph, Luke Metz) zu OpenAI zurückkehrten. Das Team stabilisierte sich danach auf rund 200 Mitarbeitende.

  • Tinker (Oktober 2025): Fine-Tuning-Plattform, die Inkling-Anpassung für Unternehmen vereinfacht
  • Interaction Models (Mai 2026): Echtzeit-Sprach- und Vision-Preview, ähnlich wie OpenAI GPT-Live
  • Inkling (Juli 2026): Das erste vollwertige Open-Weight-Modell mit 975B Parametern
  • Inkling-Small (angekündigt): 276B Parameter, 12B aktiv, gleiche Recipe, Weights folgen nach Testing

TechCrunch hebt die Unternehmenskultur hervor: 'Bemerkenswert für ein Unternehmen, darauf zu bestehen, angesichts dessen, wie viel seiner eigenen Geschichte noch mit dem Namen seiner mittlerweile berühmten Mitgründerin verbunden ist.' Thinking Machines Lab setzt bewusst auf Kontinuität statt Personenkult – ein Kontrast zur oft individualisierten Erzählung vieler KI-Startups.

Deployment und Verfügbarkeit

Inkling ist ab 15. Juli 2026 verfügbar. Die Weights liegen auf Hugging Face in BF16 (2TB VRAM) und NVFP4 W4A4 (600GB VRAM). Für Inference unterstützt das Modell SGLang, vLLM, llama.cpp, Unsloth und Hugging Face Transformers. Die empfohlene Hardware: 8× Nvidia B200 oder 4× B300 im NVFP4-Format.

Über Tinker kannst du Fine-Tuning direkt auf der Plattform von Thinking Machines Lab durchführen. Alternativ bieten TogetherAI, Fireworks, Modal, Databricks und Baseten API-Zugang. Die Apache-2.0-Lizenz erlaubt dir, Inkling kommerziell zu nutzen, anzupassen und weiterzuverbreiten – ohne Revenue Caps oder Use Restrictions.

Produktionsreife und Safety-Hinweise

TechCrunch merkt an, dass Thinking Machines Lab noch kein klares Revenue-Modell kommuniziert hat und die Produktionsreife unklar bleibt. Das Unternehmen selbst weist darauf hin, dass Inkling 'gelegentlich dazu neigt, Rollenspiel- und indirekt formulierten Prompts zu schädlichen Themen nachzukommen'. Für den Produktionseinsatz empfiehlt sich zusätzliche Moderation, etwa via Llama Guard.

Einordnung im Wettbewerb: Open-Weight vs. Closed

Inkling konkurriert im Open-Weight-Segment mit Meta Llama, Mistral und chinesischen Modellen wie DeepSeek V4, GLM 5.2, Kimi K2.6 und Qwen3.6. Forbes titelte am 16. Juli 2026: 'Murati kennt OpenAIs Geheimnisse. Ihre KI legt nahe, dass sie Chinas bevorzugt.' Die Mixture-of-Experts-Architektur folgt DeepSeek-V3, das Post-Training wurde mit Kimi K2.5 gebootstrapped – ein klares Bekenntnis zu den technischen Fortschritten aus China.

Im Vergleich zu geschlossenen Modellen wie OpenAI GPT-5.6, Anthropic Claude Fable 5 oder Google Gemini 3.1 Pro liegt Inkling in den meisten Benchmarks zurück. Thinking Machines Lab positioniert Inkling jedoch bewusst nicht als 'stärkstes Modell', sondern als 'beste Open-Weight-Basis für Anpassung'. Dieser 'dritte Weg' – offen, aber mit Premium-Anspruch – unterscheidet das Modell von vielen Commoditisierungs-getriebenen Open-Source-Projekten.

Was Inkling für deine KI-Strategie bedeutet

Inkling markiert einen Wendepunkt: Erstmals steht dir ein multimodales, hochleistungsfähiges Modell mit kontrollierbarem Denkaufwand unter einer permissiven Lizenz zur Verfügung. Für Schweizer Unternehmen, die KI-Systeme in regulierten Branchen einsetzen, spezialisierte Domänen bedienen oder schlicht die Kontrolle über ihre Infrastruktur behalten wollen, ist das ein Game-Changer.

Du kannst Inkling auf deine exakte Domäne zuschneiden, in deinem Rechenzentrum betreiben und den Denkaufwand präzise steuern – ohne Vendor-Lock-in, ohne unklare Datenverarbeitung, ohne explodierende API-Kosten. Die Mixture-of-Experts-Architektur hält die Inferenzkosten niedrig, die multimodale Fähigkeit eröffnet neue Workflows, und die Apache-2.0-Lizenz gibt dir alle Freiheiten.

Thinking Machines Lab hat mit Inkling bewiesen, dass Open-Weight nicht Kompromiss bedeuten muss. Mira Muratis Vision – KI, die menschliche Absichten und Urteilskraft erweitert – wird hier greifbar: Ein System, das du verstehen, anpassen und in deine Prozesse integrieren kannst. Für deine KI-Strategie heisst das: Die Zeit, Anpassbarkeit und Datensouveränität ernst zu nehmen, ist jetzt.

Häufige Fragen

Was unterscheidet Inkling von anderen Open-Source-Modellen?
Inkling kombiniert 975 Milliarden Parameter (41 Milliarden aktiv) mit Mixture-of-Experts-Architektur, Multimodalität (Text, Bild, Audio) und kontrollierbarem Denkaufwand (0.2–0.99). Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung ohne Einschränkungen. Anders als viele Open-Source-Modelle wurde Inkling explizit für Anpassung und Self-Hosting konzipiert.
Wie viel VRAM benötigt man für den Betrieb von Inkling?
Im BF16-Format benötigt Inkling 2TB VRAM (empfohlen: 8× Nvidia B200). Im quantisierten NVFP4 W4A4-Format sind es 600GB VRAM (4× Nvidia B300 ausreichend). Für kleinere Deployments folgt Inkling-Small mit 276B Parametern und 12B aktiv.
Ist Inkling für regulierte Branchen in der Schweiz geeignet?
Ja. Die Apache-2.0-Lizenz erlaubt vollständiges Self-Hosting ohne Daten-Egress. Für revDSG- und FINMA-Compliance kannst du Inkling in Schweizer Rechenzentren betreiben. Thinking Machines Lab empfiehlt für Produktionsumgebungen zusätzliche Moderation (z. B. Llama Guard), da das Modell gelegentlich auf indirekte schädliche Prompts reagiert.
Was bedeutet 'kontrollierbarer Denkaufwand' in der Praxis?
Inkling führt einen Parameter zwischen 0.2 und 0.99 ein. Bei niedrigen Werten (0.2–0.5) liefert das Modell schnelle, kostengünstige Antworten für Routing und Triage. Bei hohen Werten (0.8–0.99) durchläuft es längere Überlegungsketten für komplexe Aufgaben. Du wählst bewusst den Trade-off zwischen Kosten und Leistung – ideal für Kostenoptimierung.
Welche Modalitäten unterstützt Inkling als Eingabe und Ausgabe?
Eingabe: Text (bis 1 Million Tokens), Bild (40×40-Pixel-Patches) und Audio (dMel-Spektrogramme). Ausgabe: Text, Code, strukturierte Daten und stilisierte Artefakte. Inkling generiert keine Bilder oder Audio, fokussiert sich aber auf multimodale Analyse und Verständnis.
Wie positioniert sich Thinking Machines Lab im Vergleich zu OpenAI?
Mira Murati, John Schulman und Lilian Weng gründeten Thinking Machines Lab im Februar 2025 nach ihrem Ausscheiden bei OpenAI. Die Mission: KI-Systeme schaffen, die breiter verstanden, anpassbar und allgemein leistungsfähig sind. Anders als OpenAI setzt das Unternehmen auf Open-Weight-Modelle mit permissiven Lizenzen – ein bewusster Gegenentwurf zur proprietären API-Strategie.

Quellen

Möchten Sie dieses Thema für Ihr Unternehmen vertiefen?

Kapazität prüfen

Weitere Beiträge