Moonshot AI veröffentlicht die Kimi-K3-Gewichte: 2,8 Billionen Parameter, Lizenz, Anforderungen und Benchmarks

Kimi K3 ist ein nativ multimodales Mixture-of-Experts-Modell mit:

• 2,8 Billionen Gesamtparametern,
• 104 Milliarden pro Token aktivierten Parametern,
• 896 Experten, von denen 16 ausgewählt werden,
• einem Kontext von 1.048.576 Token,
• Unterstützung für Text, Bilder und laut API-Dokumentation auch Video,
• einer Repository-Größe von ungefähr 1,56 TB.^[2][3]

Moonshot AI bezeichnet Kimi K3 als Open-Source-Modell. Im strengen Sinn der Open Source Initiative ist Open Weight jedoch die präzisere Bezeichnung. Veröffentlicht wurden finale Parameter, Code und Dokumentation, doch Kimi K3 verwendet eine eigene Lizenz mit zusätzlichen Bedingungen für bestimmte kommerzielle Nutzungen. Die Verfügbarkeit der Gewichte allein stellt außerdem nicht die vollständige Transparenz von Trainingsprozess und Trainingsdaten her, die die Open Source AI Definition verlangt.^[4][5][6]

Wichtigste Aussage: Kimi K3 kann tatsächlich heruntergeladen, verändert, feinabgestimmt und selbst gehostet werden. Ein durchschnittliches Unternehmen wird das Modell jedoch nicht auf einem einzelnen GPU-Server betreiben. Die offenen Gewichte schaffen wichtige Forschungs- und Infrastrukturmöglichkeiten, während Modellgröße und Lizenzbedingungen vor einem Produktionseinsatz genau geprüft werden müssen.

Alle Parameter, Preise, Lizenzbedingungen und Verfügbarkeitsangaben wurden am 27. Juli 2026 geprüft.

TL;DR

Frage	Antwort
Was geschah am 27. Juli?	Vollständige Gewichte, Repository, Lizenz und technischer Bericht wurden veröffentlicht
Startete das Modell selbst an diesem Tag?	Nein, Modell und API waren bereits verfügbar
Ist Kimi K3 Open Source?	Moonshot verwendet den Begriff, präziser ist Open Weight unter eigener Lizenz
Wie viele Parameter besitzt es?	2,8 Billionen insgesamt, 104 Milliarden aktiv
Welche Architektur verwendet es?	MoE, KDA, Gated MLA, AttnRes und Stable LatentMoE
Wie viele Experten gibt es?	896, davon 16 pro Token, plus 2 Shared Experts
Wie groß ist der Kontext?	1.048.576 Token
Wie groß sind die Dateien?	Ungefähr 1,56 TB
Wie viele Haupt-Shards gibt es?	96 Safetensors-Dateien
Kann das Modell lokal laufen?	Technisch ja, aber nicht auf einem normalen Rechner oder einer einzelnen GPU
Was empfiehlt der Hersteller?	Supernode-Konfigurationen mit mindestens 64 Beschleunigern
Ist kommerzielle Nutzung erlaubt?	Ja, unter den Bedingungen der Kimi K3 License
Was kostet die offizielle API?	0,30 USD/MTok bei Cache Hit, 3 USD/MTok bei Cache Miss, 15 USD/MTok Output
Kann Reasoning ausgeschaltet werden?	Nein, K3 verwendet immer Reasoning
Welche Reasoning-Stufen gibt es?	low, high, max, Standard ist max
Sind alle Benchmarks unabhängig?	Nein, ein Teil stammt von Moonshot AI

1. Was wurde genau veröffentlicht?

Das offizielle Repository moonshotai/Kimi-K3 auf Hugging Face enthält:

• vollständige Gewichte,
• Modellkonfiguration,
• Code zum Laden und Verarbeiten von Eingaben,
• Tokenizer und Prozessor-Dateien,
• Beispiele für Transformers, vLLM und SGLang,
• Model Card,
• Kimi K3 License.^[2]

Das offizielle GitHub-Repository enthält außerdem:

• Projektcode und Dokumentation,
• den technischen Bericht k3_tech_report.pdf,
• Deployment-Anleitungen,
• Architektur- und Evaluationsbeschreibung.^[3][7]

Das Gewichts-Repository ist ungefähr 1,56 TB groß. Die Parameter sind in 96 Safetensors-Dateien aufgeteilt:

model-00001-of-000096.safetensors

bis:

model-00096-of-000096.safetensors

Die meisten Shards sind etwa 16,6 bis 17 GB groß.^[8]

Die Veröffentlichung ist nicht nur angekündigt. Die Dateien sind vorhanden und herunterladbar.

2. Open Source oder Open Weight?

Moonshot AI verwendet unter anderem:

• „open model“,
• „open-source model“,
• „Open Frontier Weights“.

Die Hugging-Face-Model-Card nennt Kimi K3 ausdrücklich open-weight.^[2]

Was sind offene Gewichte?

Gewichte sind die beim Training gelernten finalen Parameter. Ihre Veröffentlichung erlaubt:

• Betrieb außerhalb der Herstellerinfrastruktur,
• Fine-Tuning,
• Quantisierung,
• Verhaltensanalyse,
• eigene Inferenzserver,
• Integration ohne Übertragung von Prompts an die offizielle API.

Sie ermöglicht nicht automatisch die vollständige Reproduktion des Entwicklungsprozesses.

Warum unterscheidet OSI zwischen Open Weights und Open Source AI?

Die Open Source Initiative erklärt, dass finale Gewichte allein keinen vollständigen Zugriff bieten auf:

• Daten oder hinreichende Informationen über Trainingsdaten,
• den gesamten Code zur Datenaufbereitung,
• die vollständige Trainingskonfiguration,
• alle Bestandteile zur Reproduktion eines wesentlich gleichwertigen Systems.^[5][6]

Die Open Source AI Definition verlangt die Freiheit zum:

1. Verwenden,
2. Untersuchen,
3. Verändern,
4. Weitergeben,

sowie Zugriff auf die bevorzugte Form, die für sinnvolle Veränderungen notwendig ist.^[6]

Ist die Kimi K3 License OSI-zertifiziert?

Das Repository verwendet die eigene Kimi K3 License, nicht Apache-2.0, MIT oder eine andere standardisierte OSI-Lizenz.

Sie gewährt breite Rechte zum:

• Nutzen,
• Kopieren,
• Verändern,
• Veröffentlichen,
• Verteilen,
• Unterlizenzieren,
• Verkaufen,
• Deployen,
• Fine-Tunen,
• Erstellen abgeleiteter Werke.^[4]

Für bestimmte kommerzielle Unternehmen gelten zusätzliche Bedingungen. Die sichere Formulierung lautet daher:

Kimi K3 ist ein Open-Weight-Modell unter der eigenen Kimi K3 License.

Das Modell ist damit nicht „geschlossen“. Der Open-Source-Begriff benötigt hier jedoch rechtliche und technische Einschränkungen.

3. Zentrale technische Parameter

Parameter	Kimi K3
Architektur	Mixture-of-Experts
Gesamtparameter	2,8 Billionen
Aktivierte Parameter	104 Milliarden
Schichten	93
Dense-Schichten	1
Attention-Schichten	69 KDA + 24 Gated MLA
Experten	896
Experten pro Token	16
Shared Experts	2
Vokabular	160.000
Kontext	1.048.576 Token
Bildencoder	MoonViT-V2
Vision-Encoder-Parameter	401 Millionen
Gewichte	MXFP4
Aktivierungen	MXFP8
Modalitäten der Model Card	Text und Bild
Zusätzliche API-Modalität	Video
Repository-Größe	ungefähr 1,56 TB
Safetensors-Shards	96

Die Werte stammen aus der offiziellen Model Card.^[2]

2,8 Billionen sind nicht 2,8 Billionen aktive Parameter

Als MoE-Modell verwendet Kimi K3 nicht alle Experten gleichzeitig. Der Router wählt 16 von 896 Experten. Die Dokumentation nennt 104 Milliarden aktivierte Parameter.

Dadurch steigt die Kapazität, ohne dass jeder Token den Rechenaufwand eines dichten 2,8T-Modells verursacht. Die Hardwarekosten entsprechen dennoch nicht einem gewöhnlichen 100B-Modell, weil alle Gewichte gespeichert und auf Beschleuniger verteilt werden müssen.

4. KDA, AttnRes und Stable LatentMoE

Kimi K3 ist nicht nur eine größere K2-Version.

Kimi Delta Attention

KDA ist ein hybrider Linear-Attention-Mechanismus für lange Sequenzen.

Das Modell besitzt:

• 69 KDA-Schichten,
• 24 Gated-MLA-Schichten.^[2]

Linear Attention soll einen Teil der Kosten klassischer Full Attention bei langem Kontext reduzieren. Ein Million-Token-Kontext bleibt trotzdem rechen- und speicherintensiv.

Attention Residuals

AttnRes verändert die Weitergabe von Repräsentationen zwischen Schichten. Laut Hersteller werden Informationen selektiv aus unterschiedlichen Tiefen abgerufen, statt sie ausschließlich gleichmäßig zu akkumulieren.^[1]

Stable LatentMoE

Stable LatentMoE skaliert die Expertenzahl und aktiviert 16 von 896 Experten. Moonshot AI nennt eine ungefähr 2,5-fache Verbesserung der allgemeinen Skalierungseffizienz gegenüber Kimi K2.^[1][2]

Das ist eine Herstellerangabe. Sie bedeutet nicht automatisch 2,5-fache Geschwindigkeit, 2,5-fach niedrigere Kosten oder 2,5-fach höhere Qualität.

Native MXFP4

Kimi K3 wurde ab der Supervised-Fine-Tuning-Phase quantisierungsbewusst trainiert:

MXFP4 für Gewichte
MXFP8 für Aktivierungen

Das soll Speicherbedarf und Deployment-Hürden reduzieren.^[2] Das Repository bleibt dennoch ungefähr 1,56 TB groß.

5. Kann Kimi K3 lokal ausgeführt werden?

Ja, aber „lokal“ meint eigene Infrastruktur, nicht einen normalen Desktop.

Nicht vorgesehen ist die vollständige Version für:

• Laptops,
• Consumer-GPU-Workstations,
• einzelne Server mit einer oder wenigen GPUs,
• kleine Homelabs.

Moonshot AI empfiehlt Supernode-Konfigurationen mit mindestens 64 Beschleunigern. Relevant sind neben den Gewichten:

• KV-Cache,
• Million-Token-Kontext,
• Kommunikation zwischen Experten,
• Expert Parallelism,
• Interconnect-Bandbreite,
• Prefix Cache,
• Runtime-Reserve.^[1]

Speicherbedarf

Die quantisierten Gewichte belegen bereits ungefähr 1,56 TB. Hinzu kommen:

• Framework-Overhead,
• Cache,
• Aktivierungen,
• Kommunikationspuffer,
• Betriebssystem,
• Reserve für Parallelität.

Die Division von 1,56 TB durch den Speicher einer Karte liefert daher keine fertige Produktionskonfiguration.

Empfohlene Engines

Die Model Card nennt:

• vLLM,
• SGLang,
• TokenSpeed.^[2]

Auch Transformers und Docker Model Runner werden gezeigt. Der Befehl:

vllm serve "moonshotai/Kimi-K3"

garantiert nicht, dass das Modell auf beliebiger Hardware startet.

Für wen ist Self-Hosting sinnvoll?

• Hyperscaler und Inferenzanbieter,
• Forschungslabore,
• große Unternehmen mit KI-Cluster,
• Organisationen mit besonders sensiblen Daten,
• Anbieter eigener Fine-Tunes und Quantisierungen,
• Betreiber großer Inferenzdienste.

Für die meisten Teams ist API-Nutzung wirtschaftlicher.

6. Was erlaubt die Lizenz?

Die Kimi K3 License erlaubt kostenlos:

• Nutzung,
• Kopieren,
• Modifikation,
• Zusammenführen,
• Veröffentlichung und Verteilung,
• Unterlizenzierung,
• Verkauf von Kopien,
• Deployment,
• Fine-Tuning,
• abgeleitete Lösungen.^[4]

Copyright-Hinweis und Lizenztext müssen erhalten bleiben.

Model as a Service

Die Lizenz definiert Model as a Service als Bereitstellung von Inferenz oder Fine-Tuning für Dritte, wenn diese wesentliche Kontrolle über Eingaben, Parameter oder Trainingsdaten erhalten.

Wenn ein Lizenznehmer oder verbundene Unternehmen:

1. Model as a Service anbieten,
2. in einem beliebigen zusammenhängenden Zeitraum von 12 Monaten mehr als 20 Millionen USD Gesamtumsatz erzielen,

ist vor kommerzieller Nutzung eine separate Vereinbarung mit Moonshot AI erforderlich.^[4]

Der Schwellenwert bezieht sich auf den Gesamtumsatz des Lizenznehmers und seiner verbundenen Unternehmen, nicht nur auf Kimi-K3-Umsatz.

Pflicht zur Anzeige des Namens Kimi K3

Bei einem kommerziellen Produkt oder Dienst mit:

• mehr als 100 Millionen monatlich aktiven Nutzern, oder
• mehr als 20 Millionen USD Monatsumsatz,

muss „Kimi K3“ deutlich in der Benutzeroberfläche angezeigt werden.^[4]

Ausnahmen

Die MaaS- und Attributionsbedingungen gelten nicht:

• bei rein interner Nutzung ohne Bereitstellung für Dritte,
• bei offiziellen Moonshot-AI-Produkten,
• bei zertifizierten Inferenzpartnern.^[4]

Unternehmensprüfung

Vor Produktionseinsatz sind zu klären:

• interne oder externe Nutzung,
• Kundenkontrolle über Inferenz/Fine-Tuning,
• Gruppenumsatz,
• MAU- und Umsatzschwellen,
• Attributionspflicht,
• separate Vereinbarung.

Dies ist keine Rechtsberatung. Die Rechtsabteilung sollte die Auslegung bestätigen.

7. Was wurde nicht veröffentlicht?

Veröffentlicht wurden:

• finale Gewichte,
• Teile des Codes,
• Architekturkonfiguration,
• Inferenz- und Prozessorcode,
• technische Beschreibung,
• Evaluationsergebnisse.

Nicht daraus ableitbar ist, dass der vollständige Trainingsdatensatz oder alle für eine Reproduktion von Grund auf notwendigen Details verfügbar sind.

Kimi K3 ist damit deutlich offener als eine geschlossene API, bietet aber keine vollständige Trainingsreproduzierbarkeit im OSI-Sinn.^[5][6]

8. API und Preise

Modell-ID:

kimi-k3

Die offizielle API ist mit OpenAI Chat Completions kompatibel.

Preise

Tokenart	Preis pro 1 Mio. Token
Input bei Cache Hit	0,30 USD
Input bei Cache Miss	3,00 USD
Output	15,00 USD

Die Preise stammen von Moonshot AI und können Steuern ausschließen.^[1]

Moonshot AI nennt über 90 % Cache-Hit-Rate bei Coding-Workloads. Das ist eine Statistik der offiziellen Infrastruktur, keine Garantie.^[1]

Mindestaufladung

API-Zugang wird nach einer erfolgreichen Aufladung von mindestens 1 USD freigeschaltet. Tier und Limits hängen von kumulierten Aufladungen ab.^[9]

9. Erstes Python-Request

import os

from openai import OpenAI

client = OpenAI(
    api_key=os.environ["MOONSHOT_API_KEY"],
    base_url="https://api.moonshot.ai/v1",
)

response = client.chat.completions.create(
    model="kimi-k3",
    reasoning_effort="high",
    max_completion_tokens=8_192,
    messages=[
        {
            "role": "user",
            "content": (
                "Analysiere die Projektarchitektur und erstelle "
                "einen sicheren Migrationsplan."
            ),
        }
    ],
)

message = response.choices[0].message
print(message.content)

cURL

curl https://api.moonshot.ai/v1/chat/completions \
  --header "Authorization: Bearer $MOONSHOT_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "kimi-k3",
    "reasoning_effort": "high",
    "max_completion_tokens": 8192,
    "messages": [
      {
        "role": "user",
        "content": "Analysiere dieses Problem und schlage eine Lösung vor."
      }
    ]
  }'

10. Reasoning ist immer aktiv

Kimi K3 arbeitet immer mit Reasoning. Es gibt keinen Parameter zur vollständigen Deaktivierung.^[9][10]

Verfügbar sind:

low
high
max

Standard:

max

Für viele Produktionsanfragen sollten low oder high zuerst getestet werden.

reasoning_content

Antworten können getrennt enthalten:

• reasoning_content,
• finales content.

Beim Streaming werden beide Felder getrennt übertragen.^[9][10]

Reasoning sollte nicht automatisch:

• dem Nutzer angezeigt,
• unbegrenzt gespeichert,
• in Logs mit personenbezogenen Daten geschrieben,
• als verlässlicher Entscheidungs-Audit behandelt werden.

Preserved Thinking

In Multi-Turn- und Tool-Calling-Workflows muss die vollständige Assistant-Nachricht weitergegeben werden:

• reasoning_content,
• content,
• tool_calls.

Nur das finale content reicht nicht.^[10]

Historisches Reasoning belegt Kontext und wird tokenbasiert abgerechnet.

11. API-Limits und Unterschiede

Maximales Output

Standard: 131.072 Token
Maximum: 1.048.576 Token

Der technische Maximalwert ist nicht automatisch wirtschaftlich oder schnell.

Feste Generierungsparameter

temperature = 1.0
top_p = 0.95
n = 1
presence_penalty = 0
frequency_penalty = 0

Die Dokumentation empfiehlt, sie nicht zu senden.

Bild und Video

Öffentliche Bild-URLs werden nicht unterstützt. Erforderlich sind:

• Base64,
• ms://<file-id>.

Die API-Dokumentation zeigt außerdem Video-Dateien über das Moonshot-Dateisystem.^[9]

Websuche

Die offizielle Websuche wird überarbeitet. Die Dokumentation rät aktuell vom Einsatz in Produktionsworkflows ab.^[9]

12. Million-Token-Kontext und Cache

Kontext:

1.048.576 Token

Mögliche Anwendungen:

• große Repositories,
• Unternehmensdokumentation,
• viele Dateien,
• lange Agentensitzungen,
• mehrstufige Forschung.

Automatischer Cache

Prefix Caching arbeitet automatisch. Cache-ID und TTL sind nicht erforderlich.

Der vorherige Prompt muss mehr als 256 Token enthalten, damit ein Cache Hit versucht wird.^[9]

Empfehlungen:

1. langen statischen Präfix beibehalten,
2. variable Frage ans Ende setzen,
3. echte Cache Hits messen,
4. günstigeren Preis nicht voraussetzen.

Ein Million-Token-Kontext garantiert keine perfekte Erinnerung, Retrieval-Genauigkeit oder Prompt-Injection-Resistenz.

13. Tool Calling und Agenten

Kimi K3 unterstützt:

• Custom Tools,
• tool_choice,
• erzwungene Tool-Nutzung,
• Structured Output mit JSON Schema,
• Partial Mode,
• dynamische Tool-Definitionen,
• Formula Tools.^[9]

Dynamische Tools

Tool-Definitionen können später in die Historie eingefügt werden. Dadurch sinken Promptlänge, Fehlwahl und Berechtigungsumfang.

Der Server speichert Definitionen nicht für den Client. Die entsprechende Nachricht muss in späteren Requests enthalten bleiben.

Structured Output

response_format = {
    "type": "json_schema",
    "json_schema": {
        "name": "finding",
        "strict": True,
        "schema": {
            "type": "object",
            "properties": {
                "severity": {
                    "type": "string",
                    "enum": ["low", "medium", "high", "critical"],
                },
                "summary": {"type": "string"},
            },
            "required": ["severity", "summary"],
            "additionalProperties": False,
        },
    },
}

Zu parsen ist message.content, nicht reasoning_content.^[9]

14. Kimi Code und Programmierung

Moonshot AI positioniert K3 für:

• lange Coding-Aufgaben,
• große Repositories,
• Terminal-Tool-Koordination,
• Refactoring,
• Frontend aus Screenshots,
• GPU-Kernels, Compiler, CAD und Chipdesign.^[1][2]

Kimi Code kann:

• Dateien lesen und ändern,
• Shell-Befehle ausführen,
• Dateien suchen,
• Webseiten abrufen,
• Schritte planen,
• über TUI arbeiten,
• sich per Agent Client Protocol in Editoren integrieren.^[11]

Installation

curl -fsSL https://code.kimi.com/kimi-code/install.sh | bash

cd /pfad/zum/projekt
kimi

Dann:

/model

und Kimi K3 auswählen.

Read-only-Operationen können automatisch laufen; Änderungen und Befehle erfordern in der Standardkonfiguration Bestätigung.^[11]

Trotzdem sind Sandbox, minimale Rechte, Secret-Schutz, Review und blockiertes Auto-Deployment notwendig.

15. Benchmarks richtig lesen

Ausgewählte offiziell berichtete Werte bei max:

Benchmark	Kimi K3
GPQA Diamond	93,5
DeepSWE	67,5
ProgramBench	77,8
Terminal-Bench 2.1	88,3
FrontierSWE	81,2
SWE-Marathon	42,0
BrowseComp	91,2
MCPMark-Verified	94,5
OSWorld-Verified	84,8
AutomationBench	30,8

Ein einfacher Gesamtrang ist nicht belastbar, weil sich unterscheiden:

• Harnesses,
• Reasoning-Stufen,
• Agentenkonfigurationen,
• Quellen,
• Leaderboard-Daten,
• Laufanzahl,
• Kontextverwaltung.

Bei Agents’ Last Exam nutzte Kimi K3 Kimi Code, GPT nutzte Codex und Claude nutzte Claude Code.^[2]

Moonshot AI schreibt selbst, dass die Gesamtleistung von K3 weiterhin hinter Claude Fable 5 und GPT-5.6 Sol liegt.^[1]

Ein Unternehmens-POC sollte 50–200 eigene Aufgaben, identische Tools, mehrere Läufe und Kosten pro erfolgreich abgeschlossenem Task verwenden.

16. Multimodalität

Die Model Card bestätigt Text und Bild. Die API-Dokumentation enthält auch Video.^[2][9]

Anwendungen:

• Screenshot-Analyse,
• UI-Korrektur,
• Diagramme,
• Coding aus visuellen Referenzen,
• Bildschirmaufzeichnungen,
• Motion Design und Videoschnitt.

Herstellerdemos sind keine Ergebnisgarantie. Zu testen sind OCR-Qualität, Elementlokalisierung, Frame-Konsistenz, Kosten und Datenschutz.

17. Sicherheit, Datenschutz und Governance

Vorteile des Self-Hostings

• Daten bleiben in kontrollierter Infrastruktur,
• externe Telemetrie kann deaktiviert werden,
• eigene Filter und Richtlinien,
• Versionskontrolle,
• Netzwerkeinschränkung,
• eigene Sicherheitstests.

Neue Pflichten

• Cluster- und Endpoint-Schutz,
• Tenant-Isolation,
• Missbrauchsmonitoring,
• Prüfung generierten Codes,
• Schutz der Gewichte,
• Runtime-Updates,
• Schwachstellenmanagement für vLLM/SGLang,
• Log- und Reasoning-Governance,
• Limits und Circuit Breaker.

Die verwendeten Quellen enthalten keinen unabhängigen, umfassenden Kimi-K3-Sicherheitsaudit. Regulierte Einsätze benötigen Tests für Prompt Injection, Datenabfluss, Jailbreaks, schädlichen Code, Halluzinationen, bösartige Dokumente und Tool-Eskalation.

18. Self-Hosting oder API?

Kriterium	Self-Hosting	Offizielle API
Anfangskosten	sehr hoch	niedrig
Infrastruktur	Multi-Accelerator-Cluster	kein eigener Cluster
Datenkontrolle	maximal	abhängig von Bedingungen
Updates	eigene Verantwortung	verwaltet
Fine-Tuning	volle Kontrolle	angebotsabhängig
Skalierung	eigene Verantwortung	verwaltet
Cache	eigene Implementierung	automatisch
Einführungszeit	lang	kurz
Lizenz	Prüfung erforderlich	Ausnahmen für offizielle Produkte
Für kleine Teams	meist unwirtschaftlich	meist wirtschaftlicher

API eignet sich für POC, variable Last und schnelle Integration. Self-Hosting ist sinnvoll bei strikten Datenanforderungen, vorhandenem Cluster, hoher stabiler Nutzung und Distributed-Inference-Kompetenz.

19. Lohnt sich Kimi K3?

Ja, wenn:

• ein sehr großes selbst hostbares Modell benötigt wird,
• Infrastruktur vorhanden ist,
• Forschung an 3T-Modellen geplant ist,
• ein Inferenzanbieter gebaut wird,
• Multimodalität und langer Kontext wichtig sind,
• lange agentische Coding-Aufgaben dominieren,
• eigene Fine-Tunes oder Quantisierungen geplant sind.

Nicht unbedingt, wenn:

• nur ein GPU-Server vorhanden ist,
• einfache Anfragen geringe Latenz benötigen,
• ein günstigeres API-Modell ausreicht,
• Reasoning deaktivierbar sein muss,
• Apache- oder MIT-Lizenz verlangt wird,
• vollständige Trainingsreproduzierbarkeit gefordert ist,
• kein Distributed-Inference-Team existiert.

20. Fazit

Die Veröffentlichung der vollständigen Kimi-K3-Gewichte ist ein wichtiges Ereignis.

Verfügbar ist ein Modell mit:

• 2,8 Billionen Parametern,
• 104 Milliarden aktiven Parametern,
• nativer Multimodalität,
• Million-Token-Kontext,
• 896 Experten,
• Fokus auf Coding und lange Agentenaufgaben.

Drei Fakten sind zu trennen:

1. Kimi K3 wurde früher vorgestellt.
2. Am 27. Juli wurden vollständige Gewichte und technische Materialien veröffentlicht.
3. Es ist Open Weight unter eigener Lizenz, nicht zweifelsfrei Open Source AI nach OSI.

Für Forschung und Inferenzanbieter ist das Release wertvoll. Für ein typisches Unternehmen machen 1,56 TB und mindestens 64 Beschleuniger daraus ein Infrastrukturprojekt.

Sinnvolle Reihenfolge:

Zuerst:
POC über die offizielle API

Danach:
Qualität, Kosten, Latenz und Risiko messen

Erst anschließend:
Self-Hosting, Lizenz und Cluster analysieren

21. Checkliste vor dem Deployment

Terminologie und Lizenz

• Open Weight wird korrekt verwendet.
• Lizenz und Copyright bleiben erhalten.
• Rechtsabteilung hat die Lizenz geprüft.
• MaaS-Status ist geklärt.
• 20-Mio.-USD-Schwelle über 12 Monate geprüft.
• 100-Mio.-MAU-Schwelle geprüft.
• 20-Mio.-USD-Monatsumsatz geprüft.
• UI-Attribution geklärt.
• Interne Nutzung dokumentiert.

Infrastruktur

• 1,56 TB bestätigt.
• Download von 96 Shards geplant.
• Integrität geprüft.
• vLLM, SGLang oder TokenSpeed ausgewählt.
• Ausreichend Beschleunigerspeicher.
• Schnelles Interconnect.
• Expert Parallelism geplant.
• KV Cache dimensioniert.
• GPU-/Netzwerk-/Speichermonitoring.
• Runtime-Update-Prozess.

API und Agent

• kimi-k3 verwendet.
• reasoning_effort gewählt.
• Reasoning wird nicht deaktiviert.
• reasoning_content bleibt vollständig.
• max_completion_tokens begrenzt.
• Feste Sampling-Parameter nicht gesendet.
• Bilder über Base64 oder ms://.
• Websuche nicht kritisch.
• Tool Calls validiert.
• JSON Schema validiert.

Sicherheit

• Sandbox.
• Least Privilege.
• Kein automatischer Produktionszugriff.
• Keine Secrets in Prompt/Logs.
• Reasoning nur bei Bedarf geloggt.
• Prompt Injection getestet.
• Bösartige Dateien getestet.
• Kosten-/Zeit-/Tool-Limits.
• Human Approval für destruktive Aktionen.
• Tests und Review für Code.

Evaluation

• Eigener Task-Satz.
• Mindestens drei Modelle.
• Identischer Harness.
• Mehrere Läufe.
• Gesamtkosten pro Task.
• Zeit bis zum korrekten Ergebnis.
• Code Review und Refactoring.
• Multimodalität.
• Long Context.
• Halluzinationen und Quellen.

22. Verwandte POLPROG-Inhalte

• Kimi K3 gegen Claude Fable 5
• Kimi K3 gegen GPT-5.6 Sol
• KI-Werkzeuge in der POLPROG-Wissensdatenbank
• Zahlt sich eine KI-Funktion aus?