Lokale KI-Modelle im Ranking: Tier-Liste von A bis F für Unternehmen

Die kurze Antwort vorab: Unter den lokal betreibbaren KI-Modellen führt Gemma 4 von Google. Gemma 4 31B erreicht 18 von 20 Punkten; mit Gemma 4 26B A4B, Qwen3.8 27B und GLM-5.3 Flash (je 16 Punkte) bildet es Stufe A. Nach der Größe der Gewichte passen drei dieser vier Modelle auf eine einzelne Grafikkarte mit 80 Gigabyte (GB) Speicher, GLM-5.3 Flash verlangt einen Achtkartenserver[1]. Die höchsten Arena-Werte haben Kimi K3 und GLM-5.3, beide landen nur in Stufe C, weil sie mehr als einen Server benötigen und eine eigene Lizenz mit Bedingungen tragen[2][3][4]. Llama 4 Maverick und Command A fallen wegen ihrer Lizenzen in Stufe F[5][6]. Grundlage sind die Arena-Wertung mit Stilkontrolle, die Größe der Gewichtsdateien und die Lizenztexte der Hersteller, Stand 30. Oktober 2026.

Transparenzhinweis: Avolang betreibt mit Alwisr Company OS selbst einen lokalen KI-Agenten und hat deshalb ein wirtschaftliches Interesse am Thema lokale KI. Die Tier-Liste sagt nichts darüber aus, welche Modelle in Alwisr zum Einsatz kommen, und enthält keine Kaufempfehlung für ein Produkt. Bewertungsraster, Messwerte und Quellen sind offengelegt; eigene Berechnungen und Einschätzungen sind als solche gekennzeichnet. Stand aller Angaben: 30. Oktober 2026. Die Ausführungen ersetzen keine Rechtsberatung, insbesondere nicht die Prüfung von Lizenzbedingungen im Einzelfall.

Die Tier-Liste auf einen Blick

Abbildung 1 zeigt das Ergebnis. Jedes der 21 Modelle erhält bis zu 20 Punkte aus drei Kriterien: Leistung (Arena-Wertung), Betrieb (Speicherbedarf der Gewichte) und Lizenz. Die Punktzahl steht in Klammern hinter dem Modellnamen. Wie sie zustande kommt, erklärt der Abschnitt zum Vorgehen; alle Einzelwerte stehen in den Abbildungen 3 und 4.

Abbildung 1: Tier-Liste lokaler KI-Modelle von Stufe A bis F, Stand 30. Oktober 2026

Quellen: Arena-Wertung mit Stilkontrolle[2], Gewichtsdateien auf Hugging Face[1] und Lizenztexte der Hersteller; Punkte und Stufen sind eigene Berechnungen. Command A erreicht rechnerisch 8 Punkte und steht wegen der nichtkommerziellen Lizenz in Stufe F.

Lokale KI-Modelle: was „lokal“ und was „offen“ bedeutet

Eine Tier-Liste für lokale KI-Modelle braucht zuerst klare Begriffe. Künstliche Intelligenz (KI) im Unternehmen stützt sich auf Sprachmodelle, englisch Large Language Model (LLM): trainierte Rechenmodelle, die Texte verstehen und erzeugen. Ein KI-Assistent oder KI-Agent ist das Produkt, das ein solches Modell mit Gedächtnis, Zugriffsrechten und Freigaben umgibt. Die Tier-Liste bewertet nur die Modelle, nicht die Produkte darum herum.

„Lokal“ bezeichnet dabei Standort und Zuordnung, nicht den einzelnen Arbeitsplatzrechner. Eine lokale KI läuft auf Servern in Deutschland, getrennt von anderen Kunden, und nicht bei einem KI-Anbieter im Ausland. Wer lokale KI betreiben möchte, muss sie deshalb nicht im eigenen Haus aufstellen. Alwisr Company OS von Avolang kennt drei Betriebsarten, die alle in Deutschland laufen[7]:

• Von Avolang gehostet. Agent und Modelle laufen in einem deutschen Rechenzentrum, in einem getrennten Bereich für das Unternehmen.
• Eigener Server. Agent und Modelle laufen auf einem Server in Deutschland, der nur für das Unternehmen bereitsteht.
• Vor Ort auf eigener Hardware. Agent und Modelle laufen auf Hardware im Unternehmen.

Wie viel Hardware ein Modell verlangt, bestimmt bei jeder dieser Betriebsarten die Kosten (Einschätzung Avolang). Deshalb ist der Speicherbedarf ein eigenes Kriterium der Tier-Liste.

Die Modelle der Tier-Liste sind „offen“ im Sinn veröffentlichter Gewichte: Die Parameter des trainierten Modells liegen als Dateien vor und lassen sich auf eigener Hardware betreiben. Das ist nicht dasselbe wie Open-Source-KI. Nach der Definition 1.0 der Open Source Initiative gehören zur bevorzugten Form für Änderungen neben den Parametern auch der Code und Informationen über die Trainingsdaten[8]. Ob jedes der 21 Modelle diese Definition erfüllt, wurde nicht geprüft. Dieser Beitrag spricht deshalb von offenen Modellen und nicht von Open-Source-KI.

Wie sich lokale Modelle zu ChatGPT und Claude verhalten, behandelt der Beitrag ChatGPT, Claude vs. lokaler KI-Agent aus Deutschland. Wann eigene Infrastruktur insgesamt sinnvoll ist, beschreibt der Beitrag zur lokalen IT-Infrastruktur.

KI-Modelle im Vergleich: Datenbasis und Vorgehen

Die Tier-Liste verbindet drei Messgrößen, die sich öffentlich prüfen lassen. Die Auswahl der Modelle ist die von Avolang: Sie umfasst die aktuellen offenen Modelle von 14 Herstellern sowie einige ältere Modelle, die in Unternehmen weiterhin diskutiert werden. Voraussetzung waren ein eindeutiger Gesamteintrag in der Arena und ein veröffentlichter Standard-Checkpoint, dessen Größe sich auf Hugging Face bestimmen lässt. Die Liste ist keine Vollerhebung: In der Arena sind 227 von 419 Einträgen nicht als proprietär ausgewiesen (eigene Zählung)[2].

Leistung: die Arena-Wertung mit Stilkontrolle

Als Leistungsmaß dient die Arena (arena.ai, im Fachaufsatz von 2024 als „Chatbot Arena“ beschrieben). Sie sammelt Stimmen vieler Nutzerinnen und Nutzer, die in Paarvergleichen zwei Modelle gegeneinander bewerten[9]. Aus den Stimmen berechnet die Arena eine Wertung nach dem Bradley-Terry-Modell, zu jedem Wert mit einer unteren und einer oberen Konfidenzgrenze[2]. Das Intervall zwischen beiden Grenzen zeigt, wie sicher ein Wert ist.

Dieser Beitrag nutzt die Wertung mit Stilkontrolle. Sie nimmt Antwortlänge sowie die Anzahl von Überschriften, Fettdruck und Listen als Einflussgrößen in die Berechnung auf[10], damit die Aufmachung einer Antwort nicht mit ihrer Qualität verwechselt wird. Seit dem 16. Mai 2025 ist die Stilkontrolle in der Textwertung die Standardansicht[2]. Verwendet wurden die Gesamtwertung („overall“) und die Kategorie „german“ in der Ausgabe vom 28. Oktober 2026, abgerufen am 30. Oktober 2026[2].

Der Arena-Gesamtwert wird in eine von sieben Leistungsklassen (0 bis 6) übersetzt. Eine Klasse ist 30 Punkte breit und damit breiter als das Konfidenzintervall jedes der 21 Modelle (5 bis 21 Punkte; eigene Berechnung).

Betrieb: Speicherbedarf der Gewichte

Als Maß für den Betriebsaufwand dient die Größe der Gewichtsdateien des Standard-Checkpoints, also der Fassung, die der Hersteller als Hauptmodell bereitstellt[1]. Die Dateigrößen wurden zu Gigabyte (dezimal) summiert und mit Karten zu je 80 GB verglichen; eine Karte vom Typ H100 hat je nach Ausführung 80 oder 94 GB[11]. Daraus ergeben sich vier Betriebsklassen: bis 80 GB (eine Karte), bis 320 GB (zwei bis vier Karten), bis 640 GB (ein Achtkartenserver) und darüber (mehr als ein Server).

Lizenz: drei Abstufungen und ein Ausschluss

Maßgeblich ist der Lizenztext des Herstellers, nicht die Kurzangabe auf einer Ranglisten- oder Modellseite. Zwei Punkte erhalten Modelle mit einer Standardlizenz: Apache 2.0[12], MIT[13] oder OpenMDW-1.1 der Linux Foundation[14]. Einen Punkt erhalten Modelle mit einer eigenen Lizenz, die den Einsatz an Bedingungen knüpft: Kimi K3[3] und GLM-5.3[4]. Null Punkte und ein Ausschluss („Lizenz-KO“) gelten, wenn die Lizenz die kommerzielle Nutzung ausschließt oder Unternehmen in der EU von den Nutzungsrechten ausnimmt: Command A[6] und Llama 4 Maverick[5].

Punkte und Stufen

Die Gesamtpunktzahl beträgt 2 × Leistungsklasse + 2 × Betriebsklasse + Lizenzpunkte, höchstens 20 Punkte. Die Gewichte von 60, 30 und 10 Prozent sind eine Festlegung von Avolang (Einschätzung Avolang): Die Leistung zählt am meisten, weil ein Modell, das die Aufgabe nicht löst, auch auf kleiner Hardware nichts nützt. Der Betrieb zählt mit 30 Prozent, weil der Speicherbedarf bestimmt, wie viel Hardware ein Modell erfordert. Die Lizenz zählt nur mit 10 Prozent, wirkt aber als Ausschlusskriterium. Eine Leistungsklasse und eine Betriebsklasse wiegen jeweils zwei Punkte und damit genau eine Stufe; die Stufen B bis E sind zwei Punkte breit.

Abbildung 2: Bewertungsraster der Tier-Liste

Das Bewertungsraster ist eine Festlegung von Avolang (Einschätzung Avolang). Die Grenzen der Leistungsklassen liegen bei 1.290 plus Vielfachen von 30.

LLM-Ranking im Detail: Stufe für Stufe

Die folgenden Abschnitte ordnen die Ergebnisse stufenweise ein. Alle Messwerte stehen am Ende dieses Abschnitts in den Abbildungen 3 und 4.

Stufe A: Gemma 4, Qwen3.8 und GLM-5.3 Flash

Gemma 4 31B von Google führt die Tier-Liste mit 18 von 20 Punkten. Der Arena-Wert von 1.452 (Intervall 1.445 bis 1.460) bedeutet Leistungsklasse 5, die Gewichte umfassen 62,5 GB und passen auf eine einzelne Karte mit 80 GB, die Lizenz ist Apache 2.0. Gemma 4 26B A4B (1.438) und Qwen3.8 27B (1.436) folgen mit je 16 Punkten, ebenfalls mit einer Karte und unter Apache 2.0.

Gemma 4 26B A4B ist ein sogenanntes Mixture-of-Experts-Modell: Es besteht aus 25,2 Milliarden Parametern, von denen je Wort-Baustein (Token) nur 3,8 Milliarden aktiv sind[1]. Für den Speicherbedarf zählen dennoch alle Parameter, die Gewichte liegen deshalb bei 51,6 GB.

GLM-5.3 Flash von Z.ai hat mit 1.477 den höchsten Arena-Wert der Stufe A und erreicht Leistungsklasse 6. Mit 328,3 GB verlangt es aber einen Achtkartenserver und erhält nur Betriebsklasse 1 von 3; zusammen mit der MIT-Lizenz ergeben sich 16 Punkte.

Die vier Modelle liegen in der Arena 51 bis 92 Punkte hinter dem Spitzenwert aller 419 Einträge (1.528, „Gemini 4 Carbon (High)“, proprietär)[2]. Wer die höchste Arena-Wertung sucht, findet sie bei proprietären Modellen.

Die Gemma-4-Modelle haben mit rund 6.100 Stimmen deutlich weniger Abstimmungen als Qwen3.8 27B (27.779) und GLM-5.3 Flash (41.642); ihre Intervalle sind mit 15 Punkten entsprechend breiter als die der beiden anderen (9 Punkte)[2]. Das Intervall von Gemma 4 31B liegt vollständig innerhalb einer Leistungsklasse, bei Gemma 4 26B A4B und Qwen3.8 27B berührt es die Klassengrenze von 1.440.

Stufe B: DeepSeek V4 Flash und die Qwen3.5-Modelle

DeepSeek V4 Flash erreicht denselben Arena-Wert wie Qwen3.8 27B (1.436), benötigt mit 159,6 GB aber zwei bis vier Karten und kommt deshalb auf 14 Punkte. Qwen3.5 122B A10B (1.416, 250,2 GB) liegt in derselben Hardwareklasse. Qwen3.5 35B A3B passt mit 71,9 GB noch auf eine Karte, liegt mit 1.394 aber in Leistungsklasse 3. Auf einer Karte mit 80 GB bleiben bei dieser Größe nur rund 8 GB für Kontext und Zwischenwerte (eigene Berechnung), der Betrieb auf einer Karte ist damit eng. Die drei Modelle sind die naheliegenden Alternativen, wenn die Modelle der Stufe A bei den eigenen Aufgaben nicht genügen (Einschätzung Avolang).

Stufe C: zwei Gruppen mit gegensätzlichem Profil

Kimi K3 (1.488) und GLM-5.3 (1.481) haben die höchsten Arena-Werte der 21 Modelle; Kimi K3 liegt 40 Punkte hinter dem Spitzenwert aller Einträge. Beide erhalten null Betriebspunkte: Bei 1.560,9 GB Gewichten benötigt Kimi K3 mindestens drei Achtkartenserver mit 80-GB-Karten, GLM-5.3 bei 755,6 GB zwei (eigene Berechnung). Hinzu kommt je ein Punkt Abzug für die eigene Lizenz, sodass beide auf 13 Punkte kommen. Inkling von Thinking Machines (1.442) steht mit 1.904,8 GB Gewichten vor demselben Problem, benötigt mindestens drei Achtkartenserver und erreicht 12 Punkte.

Die zweite Gruppe verhält sich umgekehrt. Mistral Small 3.2 (1.356, 48,0 GB) und gpt-oss-120b (1.352, 65,2 GB) laufen auf einer Karte und stehen unter Apache 2.0, erreichen aber nur Leistungsklasse 2. Für gpt-oss-120b gibt OpenAI selbst an, dass es auf einen einzelnen H100-Grafikprozessor passt[15].

Nemotron 3 Ultra von NVIDIA (1.427, 352,3 GB) liegt dazwischen: Leistungsklasse 4, ein Achtkartenserver und die Lizenz OpenMDW-1.1. Das ergibt 12 Punkte.

Stufe D: wenn Hardware oder Leistung nicht passen

Mistral Large 3 (1.414) hat die höchste Leistung dieser Stufe und liegt mit 681,5 GB knapp über der Grenze von 640 GB. Läge die Größe der Gewichte unter 640 GB, etwa bei einer komprimierten Fassung, käme es auf 12 Punkte und in Stufe C (eigene Berechnung); wie sich Komprimierung auf die Qualität auswirkt, ist hier nicht gemessen. Inkling Small (1.406, 531,9 GB) braucht einen Achtkartenserver. Granite 4.2 30B von IBM (1.340) und Olmo 3.1 32B von Allen AI (1.329) laufen auf einer Karte, erreichen aber nur Leistungsklasse 1.

Stufe E: sehr genügsam, aber deutlich schwächer

gpt-oss-20b (1.317) benötigt mit 13,8 GB nur einen Bruchteil einer Karte, Phi-4 von Microsoft (1.256) liegt bei 29,3 GB. Beide erhalten die volle Betriebs- und Lizenzwertung, aber nur Leistungsklasse 0: Phi-4 liegt in der Arena 196 Punkte hinter Gemma 4 31B, gpt-oss-20b 135 Punkte. Ob ein solches Modell für eine eng umrissene Aufgabe genügt, zeigt nur ein Test mit eigenen Aufgaben (Einschätzung Avolang).

Stufe F: die Lizenz schließt den Einsatz aus

Command A von Cohere (1.354, 222,1 GB) erreicht rechnerisch 8 Punkte, steht aber unter der Lizenz CC BY-NC 4.0 und damit nur für die nichtkommerzielle Nutzung zur Verfügung. Llama 4 Maverick von Meta (1.327, 803,2 GB) kommt auf 2 Punkte; hier nimmt die Nutzungsrichtlinie Unternehmen mit Hauptsitz in der EU von den Nutzungsrechten aus. Beide Fälle behandelt der Abschnitt zu den Lizenzfallen.

Alle Messwerte und Punkte

Abbildung 3 enthält die Messwerte aller 21 Modelle, Abbildung 4 die Punktevergabe. Die Klammern in Abbildung 3 zeigen das Konfidenzintervall der Arena.

Abbildung 3: Messwerte der Modelle: Arena-Wertung mit Stilkontrolle, Größe der Gewichte und Lizenz

Quellen: Arena, Ausgabe vom 28. Oktober 2026[2]; Dateigrößen und Lizenzangaben auf Hugging Face[1]; Größen in dezimalen Gigabyte, eigene Berechnung.

Abbildung 4: Punktevergabe und Stufe je Modell

Eigene Berechnung nach dem Bewertungsraster aus Abbildung 2. Leistungs- und Betriebsklasse zählen doppelt.

Hardware: was die Modelle an Speicher verlangen

Abbildung 5 ordnet die Modelle nach dem Speicherbedarf ihrer Gewichte. Die Klassen beruhen auf Karten mit je 80 GB[11].

Abbildung 5: Modelle nach Speicherklasse der Gewichte

Eigene Berechnung nach den Dateigrößen der Standard-Checkpoints auf Hugging Face[1].

10 der 21 Modelle passen auf eine Karte, 3 brauchen zwei bis vier, 3 einen Achtkartenserver und 5 mehr als einen Server. Mit einer einzelnen Karte lässt sich bereits Stufe A erreichen. Das beste Einkartenmodell, Gemma 4 31B (1.452), liegt 36 Arena-Punkte hinter dem besten Wert der 21 Modelle (Kimi K3, 1.488), das mindestens drei Achtkartenserver verlangt; die Intervalle überlappen nicht. Ob dieser Unterschied bei einer konkreten Aufgabe spürbar ist, zeigt nur ein eigener Test (Einschätzung Avolang).

Die Klassen sind Untergrenzen: Speicher für den Kontext und für gleichzeitige Nutzer kommt hinzu (Einschätzung Avolang). Die Modellkarte von Nemotron 3 Ultra nennt bei 352,3 GB als Mindestausstattung unter anderem acht H100-Karten[1], was der Klasse Achtkartenserver entspricht. Komprimierte Fassungen (Quantisierung) benötigen weniger Speicher, können aber die Qualität verändern; auch das ist hier nicht gemessen.

Lizenzfallen: wo ein offenes Modell nicht frei ist

„Offen“ heißt nicht „frei von Bedingungen“. Fünf Punkte sollten vor dem Einsatz geprüft werden. Die Prüfung im Einzelfall gehört in die Rechtsberatung.

1. Llama 4: Ausschluss für Unternehmen in der EU.Die Nutzungsrichtlinie von Meta gewährt die Rechte nach Abschnitt 1(a) für multimodale Llama-4-Modelle nicht an Personen mit Wohnsitz und Unternehmen mit Hauptsitz in der EU. Die Beschränkung gilt nicht für Endnutzer eines Produkts oder Dienstes, das ein solches Modell enthält[5]. Llama 4 Maverick ist nativ multimodal[16]. Bei der Weitergabe verlangt die Lizenz außerdem den Hinweis „Built with Llama“ und eine Kopie der Lizenz[17].
2. Command A: nur nichtkommerziell.Die Lizenz CC BY-NC 4.0 versteht unter „NonCommercial“ eine Nutzung, die nicht vorrangig auf einen geschäftlichen Vorteil oder eine Vergütung gerichtet ist[6]. Für den Einsatz im Geschäftsbetrieb ist deshalb eine gesonderte Vereinbarung mit dem Hersteller nötig (Einschätzung Avolang).
3. Kimi K3: eigene Lizenz mit zwei Bedingungen.Die Kimi K3 License folgt dem Muster der MIT-Lizenz. Betreibt der Lizenznehmer oder ein verbundenes Unternehmen ein Geschäft mit „Model as a Service“ (Dritten wird Zugang zu Inferenz oder Feinabstimmung mit maßgeblicher Kontrolle über Eingaben, Parameter oder Trainingsdaten gewährt, zum Beispiel über eine Programmierschnittstelle (API)) und übersteigt der Umsatz beider zusammen 20 Millionen US-Dollar in zwölf aufeinanderfolgenden Monaten, ist vor jeder kommerziellen Nutzung eine gesonderte Vereinbarung mit Moonshot AI nötig. Kommerzielle Produkte mit mehr als 100 Millionen monatlich aktiven Nutzern oder mehr als 20 Millionen US-Dollar Monatsumsatz müssen „Kimi K3“ anzeigen. Für die interne Nutzung gelten beide Pflichten nicht[3]. Der eine Lizenzpunkt Abzug entscheidet dennoch über die Stufe: Mit zwei Punkten käme Kimi K3 auf 14 Punkte und in Stufe B (eigene Berechnung).
4. GLM-5.3: Sicherheitsprüfung für sehr große Anbieter.Die GLM-5.3 License folgt ebenfalls dem Muster der MIT-Lizenz. Betreibt der Lizenznehmer oder ein verbundenes Unternehmen ein Geschäft mit „Model as a Service“ und übersteigt der Umsatz beider zusammen 10 Milliarden US-Dollar in zwölf aufeinanderfolgenden Monaten, muss der Lizenznehmer vor jeder kommerziellen Nutzung die Sicherheitsprüfung von Z.ai bestehen[4]. Die Arena führt GLM-5.3 mit der Lizenzangabe „MIT“[2]; maßgeblich ist der Lizenztext im Repository des Modells. Mit zwei Lizenzpunkten käme GLM-5.3 ebenfalls auf 14 Punkte (eigene Berechnung).
5. Auch Standardlizenzen haben Pflichten.Apache 2.0 und MIT verlangen bei der Weitergabe die Lizenz und die Urheberrechtshinweise[12][13]. OpenMDW-1.1 verlangt bei der Weitergabe eine Kopie der Lizenz und der Hinweise und stellt keine Beschränkungen für die Ausgaben des Modells auf[14]. Beim rein internen Betrieb wird ein Modell in der Regel nicht weitergegeben (Einschätzung Avolang); wer es in ein Produkt für Kunden einbaut, sollte die Pflichten prüfen.

Deutsch: wie sich die Modelle in der deutschen Wertung schlagen

Die Arena führt neben der Gesamtwertung eine Kategorie „german“ mit 320 Einträgen. Für 18 der 21 Modelle liegt dort eine Wertung vor; bei Gemma 4 31B, Gemma 4 26B A4B und Granite 4.2 30B fehlt sie[2].

Die deutsche Wertung beruht auf deutlich weniger Stimmen. Im Median der 320 Einträge entspricht die Zahl der deutschen Stimmen 2,2 Prozent der Stimmen in der Gesamtwertung (eigene Berechnung); bei den 18 Modellen mit deutscher Wertung stehen 212 bis 1.446 Stimmen hinter dem deutschen Wert, bei der Gesamtwertung 3.389 bis 88.325. Entsprechend breit sind die Intervalle: 33 bis 82 Punkte gegenüber 5 bis 21 Punkten in der Gesamtwertung. Bei 15 von 18 Modellen liegt der Gesamtwert innerhalb des deutschen Intervalls. Die drei Ausnahmen haben in Deutsch einen niedrigeren Wert: Qwen3.5 35B A3B (1.394 gesamt, 1.360 Deutsch), gpt-oss-120b (1.352 gegenüber 1.328) und gpt-oss-20b (1.317 gegenüber 1.274).

Die Rangfolge stimmt in beiden Wertungen weitgehend überein. Der Rangkorrelationskoeffizient nach Spearman, bei dem der Wert 1 eine identische Reihenfolge bedeutet, beträgt 0,990 über die 154 nicht als proprietär ausgewiesenen Einträge mit Wertung in beiden Kategorien und 0,971 über die 99 davon mit einem Gesamtwert ab 1.300 (eigene Berechnung)[2]. Für die Rangfolge ist die Gesamtwertung damit eine brauchbare Näherung, für feine Unterschiede nicht: Der deutsche Wert weicht bei den 18 Modellen um minus 43 bis plus 23 Punkte vom Gesamtwert ab (eigene Berechnung).

Herstellerangaben zur Sprachabdeckung, zum Beispiel „35+ Sprachen“ bei Gemma 4[1], sagen nichts über die Qualität des Deutschen. Für Texte aus dem eigenen Unternehmen ist ein eigener Test mit deutschen Aufgaben sinnvoll (Einschätzung Avolang).

Grenzen der Tier-Liste und nicht bewertete Modelle

• Gesprächspräferenz, keine Aufgabenleistung. Die Arena misst, welche Antwort Nutzerinnen und Nutzer in offenen Gesprächen bevorzugen. Wie gut ein Modell Verträge zusammenfasst, Rechnungen prüft oder mit Werkzeugen umgeht, zeigt sie nicht (Einschätzung Avolang).
• Messunsicherheit. Bei 8 von 21 Modellen berührt das Konfidenzintervall eine Klassengrenze: Gemma 4 26B A4B, Qwen3.8 27B, DeepSeek V4 Flash, Inkling, gpt-oss-120b, Inkling Small, Granite 4.2 30B, gpt-oss-20b (eigene Berechnung). Fiele die Leistungsklasse bei allen Modellen um eine Klasse niedriger aus, rutschten GLM-5.3 Flash, Gemma 4 26B A4B und Qwen3.8 27B von Stufe A nach B; Gemma 4 31B bliebe in Stufe A (eigene Berechnung).
• Datenbasis. Mit den Rohwerten ohne Stilkontrolle stünden Nemotron 3 Ultra in Stufe B, Inkling Small und Granite 4.2 30B in Stufe C, Mistral Small 3.2 in Stufe D und Olmo 3.1 32B in Stufe E; Stufe A bliebe unverändert (eigene Berechnung nach den Konfigurationen „text“ und „text_style_control“)[2].
• Gewichtung. Die Gewichte sind eine Festlegung von Avolang. In 57 durchgerechneten Gewichtungen (Leistung 30 bis 80 Prozent, Betrieb 10 bis 50 Prozent, Lizenz 0 bis 30 Prozent, in Schritten von fünf Prozentpunkten und mit der Summe 100 Prozent) steht Gemma 4 31B unter den 19 Modellen ohne Lizenz-Ausschluss immer auf Rang 1 oder 2, in 48 der 57 Gewichtungen auf Rang 1. Gemma 4 26B A4B und Qwen3.8 27B liegen auf Rang 2 bis 6. Von den vier Modellen der Stufe A reagiert GLM-5.3 Flash am stärksten (Rang 1 bis 13): Wer die Hardware höher gewichtet, stuft es herab (eigene Berechnung).
• Zuordnung der Modelle. Kimi K3 und GLM-5.3 führt die Arena im Modus „Max“. Die Tier-Liste unterstellt, dass dieser Modus den veröffentlichten Gewichten entspricht; belegt ist das nicht. Bei Nemotron 3 Ultra ist der Arena-Eintrag die komprimierte Fassung NVFP4, die zur geprüften Dateigröße passt[2][1].
• Betrieb nur nach Gewichten. Durchsatz, gleichzeitige Nutzer und Kontextlänge bleiben unberücksichtigt (Einschätzung Avolang).
• Lizenz und Herkunft. Ergänzende Nutzungsrichtlinien der Hersteller wurden nicht für jedes Modell geprüft. Die Herkunft der Hersteller und der Trainingsdaten wurde nicht bewertet; ob sie für ein Unternehmen eine Rolle spielt, gehört in die eigene KI-Richtlinie (Einschätzung Avolang).
• Eine Rangliste ist eine Sicht. Verschiedene Ranglisten ordnen offene Modelle unterschiedlich. Ein Beitrag auf DEV Community, geschrieben von einem Einzelautor, verglich zwei Ranglisten an neun übereinstimmenden offenen Modellen und fand eine Rangkorrelation nach Kendall von 0,61: ähnlich, aber nicht gleich[18]. Auch die Arena ist nur eine Sicht auf Leistung.

Nicht bewertet wurden Modelle, bei denen sich Arena-Eintrag, Gewichte oder Lizenz nicht eindeutig zuordnen ließen:

• Mistral Large 4: Die Gewichte (1.060,6 GB) stehen unter der Mistral Ecosystem Open-Weight License, die von Anbietern von „Model as a Service“ ohne Umsatzschwelle eine gesonderte kommerzielle Lizenz verlangt[19][20]. Die Arena führt „Mistral Large 4“ als proprietär (1.432); eine Zuordnung zu den veröffentlichten Gewichten ist nicht belegt.
• Mistral Small 4 119B: Apache 2.0, 120,9 GB[19], aber kein Arena-Eintrag gefunden.
• DeepSeek V4.1 Flash: Der Arena-Eintrag „DeepSeek-V4.1-Flash-20260910 (Max)“ (1.476) und die Gewichte „DeepSeek-V4.1-Flash-1017“ (510,3 GB, MIT) tragen unterschiedliche Datumsangaben; die Zuordnung ist unklar[2][19].
• MiMo-V2.6: Der beste Arena-Eintrag, MiMo-V2.6-Pro (1.480, 4.037 Stimmen), hat keine deutsche Wertung; ein eindeutig passender Standard-Checkpoint wurde nicht gefunden[2].
• MiniMax-M3: Die Arena nennt die „MiniMax Community License“ (1.439); der Lizenztext wurde nicht gelesen[2].

Weitere Einträge ohne Proprietär-Vermerk, etwa DeepSeek V4 Pro oder MiMo-V2.5-Pro, wurden nicht geprüft. Die Tier-Liste erhebt keinen Anspruch auf Vollständigkeit.

Fünf Fragen vor der Modellwahl

1. Welche Aufgaben soll das Modell lösen?Die Tier-Liste ersetzt keinen Test. Fünf bis zehn wiederkehrende Aufgaben mit festen Qualitätskriterien sind eine tragfähige Grundlage.
2. Welche Daten verarbeitet es?Personenbezogene und vertrauliche Daten sprechen für den Betrieb in Deutschland, getrennt von anderen Kunden. Die Datenklassen gehören in die KI-Richtlinie.
3. Wie viele Personen nutzen es gleichzeitig?Die Größe der Gewichte ist nur die Untergrenze. Gleichzeitige Nutzer und lange Kontexte erhöhen den Speicherbedarf (Einschätzung Avolang).
4. Welche Hardware ist vorhanden oder beschaffbar?Abbildung 5 zeigt, welche Stufe in welcher Speicherklasse erreichbar ist. Welche Betriebsart dazu passt, beschreibt die Seite zu Alwisr Company OS.
5. Welche Lizenz und welche Herkunft sind tragbar?Die Lizenzfallen zeigen, wo ein offenes Modell Bedingungen stellt. Die Herkunft der Hersteller ist eine Frage der eigenen KI-Governance.

In vier Schritten zur Modellauswahl

Die Tier-Liste grenzt den Kreis ein, die Entscheidung fällt am eigenen Anwendungsfall. Als Vorgehen bieten sich vier Schritte an (Einschätzung Avolang):

Häufige Fragen zu lokalen KI-Modellen

Fazit

Bei lokalen KI-Modellen entscheidet nicht die höchste Arena-Wertung, sondern das Zusammenspiel aus Leistung, Hardware und Lizenz. Die beste Wertung der 21 Modelle, Kimi K3, verlangt mehrere Server und eine Lizenz mit Bedingungen. Die beste Gesamtbilanz, Gemma 4 31B, läuft auf einer Karte unter Apache 2.0 und liegt 36 Arena-Punkte dahinter. Wer lokale KI-Modelle einführen möchte, sollte zwei bis drei Kandidaten aus den Stufen A und B an eigenen Aufgaben testen und erst danach über Hardware oder Betriebsart entscheiden (Einschätzung Avolang).