Lokale KI · Grafikkarten und Macs an Messungen abgeglichen · auf Deutsch

Welche lokale KI läuft auf Ihrem Gerät?

welche.ai zeigt für 891 Geräte und 153 Sprachmodelle, was läuft, wie schnell und womit Sie es starten. Ohne Anmeldung, ohne Cookies.

Geräte nach Hersteller

Wofür möchten Sie lokale KI nutzen?

Je Einsatzzweck: welche Modelle dafür gebaut sind, auf wie vielen Geräten sie flüssig laufen und welche Geräte es ab welchem Preis gibt.

Sprachmodelle

ModellParameterSpeicherbedarfLäuft flüssig auf (bei 4.096 Token)
LFM2.5 230M
Liquid AI
0,2 Mrd.1,0 GB
Q4_K_M
891 von 891 Geräten
LFM2.5-VL 450M
Liquid AI
0,4 Mrd.1,2 GB
Q4_K_M
891 von 891 Geräten
LFM2.5 1.2B Instruct
Liquid AI
1,2 Mrd.1,6 GB
Q4_K_M
891 von 891 Geräten
Qwen3.5 0.8B
Alibaba (Qwen)
0,8 Mrd.1,6 GB
Q4_K_M
891 von 891 Geräten
MiniCPM5 1B
OpenBMB
1,1 Mrd.1,6 GB
Q4_K_M
891 von 891 Geräten
K2-Horizon-0.9B
IFM (MBZUAI)
1,1 Mrd.1,7 GB
Q4_K_M
891 von 891 Geräten
Spark-X2.6 1.7B
SparkLLM (XHToken)
1,7 Mrd.2,0 GB
Q4_K_M
891 von 891 Geräten
Spark-X2.5 1.7B
SparkLLM (XHToken)
1,7 Mrd.2,0 GB
Q4_K_M
883 von 891 Geräten
LFM3-1.7B
LiquidAI
1,7 Mrd.2,1 GB
Q4_K_M
883 von 891 Geräten
LFM2.5-VL 1.6B
Liquid AI
1,2 Mrd.2,2 GB
Q4_K_M
883 von 891 Geräten
Hy-MT2 1.8B
Tencent
1,8 Mrd.2,2 GB
Q4_K_M
883 von 891 Geräten
EuroLLM 1.7B
EuroLLM (utter-project)
1,7 Mrd.2,3 GB
Q4_K_M
883 von 891 Geräten
LFM3-Audio-2B
LiquidAI
1,7 Mrd.2,3 GB
Q4_K_M
883 von 891 Geräten
LFM3-VL-2B
LiquidAI
1,7 Mrd.2,3 GB
Q4_K_M
883 von 891 Geräten
LFM3-Omni-2B
LiquidAI
1,7 Mrd.2,4 GB
Q4_K_M
883 von 891 Geräten
EuroMoE 2.6B A0.6B
EuroLLM (utter-project)
2,6 Mrd.
davon 0,6 Mrd. aktiv
2,5 GB
Q4_K_M
883 von 891 Geräten
LFM2.5 2.6B
Liquid AI
2,7 Mrd.2,6 GB
Q4_K_M
879 von 891 Geräten
MiniCPM5 2B
OpenBMB
2,5 Mrd.2,6 GB
Q4_K_M
879 von 891 Geräten
MiniCPM-V 4.7 1B
OpenBMB
1 Mrd.2,6 GB
Q4_K_M
883 von 891 Geräten
Qwen3.5 2B
Alibaba (Qwen)
1,9 Mrd.2,8 GB
Q4_K_M
883 von 891 Geräten
Granite 4.2 3B
IBM
3,7 Mrd.3,4 GB
Q4_K_M
873 von 891 Geräten
Spark-X2.5 4B
SparkLLM (XHToken)
4,1 Mrd.3,7 GB
Q4_K_M
846 von 891 Geräten
Spark-X2.6 4B
SparkLLM (XHToken)
4,1 Mrd.3,7 GB
Q4_K_M
846 von 891 Geräten
NVIDIA-Nemotron-Labs-Dory1.0-4B-BF16
NVIDIA
4 Mrd.3,7 GB
Q4_K_M
873 von 891 Geräten
UserRepGen-4B
Microsoft
4,2 Mrd.3,7 GB
Q4_K_M
846 von 891 Geräten
Qwen3 4B Instruct 2507
Alibaba (Qwen)
4 Mrd.4,0 GB
Q4_K_M
846 von 891 Geräten
Qwen3 4B
Alibaba (Qwen)
4 Mrd.4,0 GB
Q4_K_M
846 von 891 Geräten
Jan-v3.5-4B
Jan
4,4 Mrd.4,2 GB
Q4_K_M
846 von 891 Geräten
Mage-VL-Cowork
Microsoft
4,4 Mrd.4,2 GB
Q4_K_M
846 von 891 Geräten
Ministral 3 3B
Mistral AI
3,4 Mrd.4,3 GB
Q4_K_M
873 von 891 Geräten
Qwen3.5 4B
Alibaba (Qwen)
4,2 Mrd.4,4 GB
Q4_K_M
846 von 891 Geräten
Qwen3-VL 4B Instruct
Alibaba (Qwen)
4 Mrd.4,4 GB
Q4_K_M
846 von 891 Geräten
FrogNano-4B-2609
Microsoft
4,3 Mrd.4,5 GB
Q4_K_M
846 von 891 Geräten
S5-nano
Maritaca AI
4,3 Mrd.4,5 GB
Q4_K_M
846 von 891 Geräten
K2-Horizon-3.7B
IFM (MBZUAI)
5,1 Mrd.4,6 GB
Q4_K_M
846 von 891 Geräten
Gemma 4 E2B
Google
4,7 Mrd.5,0 GB
Q4_K_M
846 von 891 Geräten
Occiglot 7B DE-EN Instruct
Occiglot
7,2 Mrd.5,8 GB
Q4_K_M
818 von 891 Geräten
Qwen2.5 7B Instruct
Alibaba (Qwen)
7,6 Mrd.5,8 GB
Q4_K_M
818 von 891 Geräten
Ling-3.0-tiny
inclusionAI
7,9 Mrd.
davon 1,3 Mrd. aktiv
5,8 GB
Q4_K_M
849 von 891 Geräten
Teuken 7B
OpenGPT-X
7,5 Mrd.6,1 GB
Q4_K_M
818 von 891 Geräten
Hy-MT2 7B
Tencent
7,5 Mrd.6,1 GB
Q4_K_M
818 von 891 Geräten
LFM2.5 8B A1B
Liquid AI
8,5 Mrd.
davon 1,5 Mrd. aktiv
6,1 GB
Q4_K_M
849 von 891 Geräten
Gemma 4 E4B
Google
7,5 Mrd.6,1 GB
Q4_0
818 von 891 Geräten
Llama 3.1 8B
Meta
8 Mrd.6,4 GB
Q4_K_M
785 von 891 Geräten
Apertus 8B 2509
Swiss AI (ETH Zürich, EPFL)
8,1 Mrd.6,5 GB
Q4_K_M
785 von 891 Geräten
Qwen3 8B
Alibaba (Qwen)
8,2 Mrd.6,5 GB
Q4_K_M
785 von 891 Geräten
llm-jp-4 8B Thinking
llm-jp (NII)
8,6 Mrd.6,7 GB
Q4_K_M
785 von 891 Geräten
Granite 4.2 8B
IBM
8,8 Mrd.6,9 GB
Q4_K_M
785 von 891 Geräten
K2-Horizon-7B
IFM (MBZUAI)
9 Mrd.7,1 GB
Q4_K_M
779 von 891 Geräten
EuroLLM 9B
EuroLLM (utter-project)
9,2 Mrd.7,2 GB
Q4_K_M
779 von 891 Geräten
Qwen3-VL 8B Instruct
Alibaba (Qwen)
8,2 Mrd.7,3 GB
Q4_K_M
582 von 891 Geräten
Ministral 3 8B Reasoning
Mistral AI
8,5 Mrd.7,5 GB
Q4_K_M
582 von 891 Geräten
Ministral 3 8B
Mistral AI
8,5 Mrd.7,5 GB
Q4_K_M
582 von 891 Geräten
Qwen3.5 9B
Alibaba (Qwen)
9 Mrd.7,6 GB
Q4_K_M
582 von 891 Geräten
Ornith 1.5 9B
Ornith AI
9,2 Mrd.7,8 GB
Q4_K_M
576 von 891 Geräten
MiMo-V2.6-Distill-Qwen-9B
Xiaomi
9 Mrd.7,8 GB
Q4_K_M
576 von 891 Geräten
LensVLM-9B
apple
9 Mrd.7,8 GB
Q4_K_M
576 von 891 Geräten
Diplodocus preview
Osaurus
9 Mrd.7,9 GB
Q4_K_M
573 von 891 Geräten
AesCode-8B
Microsoft
8,2 Mrd.7,9 GB
Q4_K_M
582 von 891 Geräten
Granite Switch 4.1 8B
ibm-granite
9 Mrd.8,3 GB
Q4_K_M
550 von 891 Geräten
Gemma 4 12B
Google
11,9 Mrd.8,5 GB
Q4_0
542 von 891 Geräten
Smaug Humanizer
Abacus.AI
11,9 Mrd.8,7 GB
Q4_K_M
517 von 891 Geräten
NVIDIA Nemotron 3.5 Bolt E4B
NVIDIA
7,5 Mrd.9,1 GB
Q8_0
517 von 891 Geräten
TranslateGemma 12B
Google
11,8 Mrd.9,4 GB
Q4_K_M
517 von 891 Geräten
Mellum2.1 12B A2.5B Thinking
JetBrains
12,2 Mrd.
davon 2,5 Mrd. aktiv
9,9 GB
Q4_K_M
642 von 891 Geräten
Qwen3 14B
Alibaba (Qwen)
14,8 Mrd.10,7 GB
Q4_K_M
493 von 891 Geräten
Ministral 3 14B Reasoning
Mistral AI
13,5 Mrd.10,8 GB
Q4_K_M
470 von 891 Geräten
Ministral 3 14B
Mistral AI
13,5 Mrd.10,8 GB
Q4_K_M
470 von 891 Geräten
HybridAgent-14B-Agentic
togethercomputer
14,8 Mrd.11,0 GB
Q4_K_M
470 von 891 Geräten
gpt-oss 20B
OpenAI
20,9 Mrd.
davon 3,6 Mrd. aktiv
12,8 GB
Q4_K_M
478 von 891 Geräten
EuroLLM 22B
EuroLLM (utter-project)
22,6 Mrd.15,6 GB
Q4_K_M
289 von 891 Geräten
LFM2.5-24B-A2B
Liquid AI
24 Mrd.
davon 2,5 Mrd. aktiv
15,7 GB
Q4_K_M
408 von 891 Geräten
Mistral Small 3.2 24B
Mistral AI
23,6 Mrd.17,0 GB
Q4_K_M
269 von 891 Geräten
Devstral Small 2 24B
Mistral AI
23,6 Mrd.17,0 GB
Q4_K_M
269 von 891 Geräten
Hemmingway-1.5
Hemmingway AI
27,3 Mrd.18,9 GB
Q4_K_M
261 von 891 Geräten
Qwen3.8 27B
Alibaba (Qwen)
27,3 Mrd.18,9 GB
Q4_K_M
261 von 891 Geräten
Salience 27B R6
vectionlabs
27,3 Mrd.19,1 GB
Q4_K_M
261 von 891 Geräten
Qwen3.6 27B
Alibaba (Qwen)
26,9 Mrd.19,1 GB
Q4_K_M
261 von 891 Geräten
Arete-27B
Nous Research
26,9 Mrd.19,5 GB
Q4_K_M
261 von 891 Geräten
LBS-27B
inclusionAI
26,9 Mrd.19,5 GB
Q4_K_M
261 von 891 Geräten
SenseNova 6.8 Code2Video
SenseTime
26,9 Mrd.19,5 GB
Q4_K_M
261 von 891 Geräten
AREX-2
BAAI
26,9 Mrd.19,5 GB
Q4_K_M
261 von 891 Geräten
Gemma 4 26B A4B
Google
25,2 Mrd.
davon 3,8 Mrd. aktiv
19,6 GB
Q4_K_M
341 von 891 Geräten
GLM-4.7-Flash
Z.ai
29,9 Mrd.
davon 3 Mrd. aktiv
19,7 GB
Q4_K_M
351 von 891 Geräten
DiscoveryRSI-27B
Gen-Verse
27,3 Mrd.19,8 GB
Q4_K_M
261 von 891 Geräten
Granite 4.2 30B
IBM
29,3 Mrd.19,9 GB
Q4_K_M
261 von 891 Geräten
NVIDIA Nemotron-3.5-Lightning-30B-A3B
NVIDIA
31,6 Mrd.
davon 3 Mrd. aktiv
20,1 GB
Q4_0
351 von 891 Geräten
Qwen3 30B A3B 2507
Alibaba (Qwen)
30,5 Mrd.
davon 3,3 Mrd. aktiv
20,1 GB
Q4_K_M
351 von 891 Geräten
Qwen3-Coder 30B A3B
Alibaba (Qwen)
30,5 Mrd.
davon 3,3 Mrd. aktiv
20,1 GB
Q4_K_M
351 von 891 Geräten
North Mini Code 1.0
Cohere
30,5 Mrd.
davon 3 Mrd. aktiv
20,8 GB
Q4_K_M
351 von 891 Geräten
Laguna XS 2.1
poolside
33,4 Mrd.
davon 3 Mrd. aktiv
21,7 GB
Q4_K_M
318 von 891 Geräten
Gemma 4 31B
Google
30,7 Mrd.21,9 GB
Q4_K_M
242 von 891 Geräten
Qwen3 32B
Alibaba (Qwen)
32,8 Mrd.22,0 GB
Q4_K_M
186 von 891 Geräten
Qwen2.5 32B Instruct
Alibaba (Qwen)
32,8 Mrd.22,1 GB
Q4_K_M
186 von 891 Geräten
llm-jp-4 33B Thinking
llm-jp (NII)
33,2 Mrd.22,4 GB
Q4_K_M
186 von 891 Geräten
Hy-Memory 30B-A3B
Tencent
30,1 Mrd.
davon 3 Mrd. aktiv
22,5 GB
Q4_K_M
308 von 891 Geräten
KAT-Coder-V2.5-Dev
Kwaipilot
34,7 Mrd.
davon 3 Mrd. aktiv
22,7 GB
Q4_K_M
318 von 891 Geräten
Nanbeige4.3-33B
Nanbeige
33,1 Mrd.22,9 GB
Q4_K_M
178 von 891 Geräten
Apex-35B-V1.0
Apex Intelligence
35,5 Mrd.
davon 3 Mrd. aktiv
23,0 GB
Q4_K_M
318 von 891 Geräten
Occamy-1.0
Accio-Lab
34,7 Mrd.
davon 3 Mrd. aktiv
23,4 GB
Q4_K_M
263 von 891 Geräten
Qwen-AgentWorld 35B A3B
Alibaba (Qwen)
34,7 Mrd.
davon 3 Mrd. aktiv
23,5 GB
Q4_K_M
263 von 891 Geräten
Qwen3-VL 30B A3B Instruct
Alibaba (Qwen)
30,5 Mrd.
davon 3 Mrd. aktiv
23,6 GB
Q4_K_M
253 von 891 Geräten
MiniCPM-V 4.7 35B-A3B
OpenBMB
34,7 Mrd.
davon 3 Mrd. aktiv
23,6 GB
Q4_K_M
263 von 891 Geräten
Thomson-1.0-Small
thomsonreuters
34,7 Mrd.
davon 3 Mrd. aktiv
23,6 GB
Q4_K_M
263 von 891 Geräten
Sage-A1.5
InternScience
35,5 Mrd.23,6 GB
Q4_K_M
118 von 891 Geräten
MLExpert
InternScience
34,7 Mrd.23,6 GB
Q4_K_M
118 von 891 Geräten
Ornith 1.5 35B A3B
Ornith AI
35,5 Mrd.
davon 3 Mrd. aktiv
23,9 GB
Q4_K_M
263 von 891 Geräten
AesCode-32B
Microsoft
32,8 Mrd.24,0 GB
Q4_K_M
123 von 891 Geräten
BigBang-v1
The Endless Frontier
35,5 Mrd.
davon rund 3 Mrd. aktiv (gerechnet)
24,1 GB
Q4_K_M
236 von 891 Geräten
Apodex 1.1 mini
Apodex
35,5 Mrd.
davon rund 3 Mrd. aktiv (gerechnet)
24,1 GB
Q4_K_M
236 von 891 Geräten
K2-Horizon-32B
IFM (MBZUAI)
34,8 Mrd.24,4 GB
Q4_K_M
110 von 891 Geräten
Muse Glimmer 30B
meta-models
27,9 Mrd.24,4 GB
Q5_K_M
163 von 891 Geräten
Qwen3.6 35B A3B
Alibaba (Qwen)
34,7 Mrd.
davon 3 Mrd. aktiv
24,4 GB
Q4_K_M
236 von 891 Geräten
K2-Horizon-MoVA-36B-A4B
IFM (MBZUAI)
37,4 Mrd.
davon 4 Mrd. aktiv
24,4 GB
Q4_K_M
226 von 891 Geräten
Xing4.0-29B-A4B
China Telecom AI
31,2 Mrd.
davon 4 Mrd. aktiv
24,5 GB
Q4_K_M
226 von 891 Geräten
Xing4.0-29B-Intent
China Telecom AI
31,2 Mrd.
davon 4 Mrd. aktiv
24,5 GB
Q4_K_M
226 von 891 Geräten
Nex-N2.5 mini
Nex-AGI
34,7 Mrd.
davon rund 3,4 Mrd. aktiv (gerechnet)
24,5 GB
Q4_K_M
236 von 891 Geräten
Holo4-35B-A3B
H Company
34,7 Mrd.
davon rund 3 Mrd. aktiv (gerechnet)
24,5 GB
Q4_K_M
236 von 891 Geräten
Granite Switch 4.1 30B
ibm-granite
30,6 Mrd.25,4 GB
Q4_K_M
110 von 891 Geräten
Flint
RecursiveSI
39,8 Mrd.
davon 2,5 Mrd. aktiv
26,8 GB
Q4_K_M
188 von 891 Geräten
Clover-35B-A3B-Preview
Diffuspace
34,7 Mrd.
davon 3 Mrd. aktiv
27,1 GB
Q4_K_M
188 von 891 Geräten
Llama 3.3 70B
Meta
70,6 Mrd.45,5 GB
Q4_K_M
22 von 891 Geräten
Apertus 70B 2509
Swiss AI (ETH Zürich, EPFL)
70,6 Mrd.46,7 GB
Q4_K_M
22 von 891 Geräten
Qwen3-Coder-Next
Alibaba (Qwen)
79,7 Mrd.
davon 3 Mrd. aktiv
50,4 GB
Q4_K_M
97 von 891 Geräten
Kolibri 1
Aleph Alpha
78,1 Mrd.
davon 3,5 Mrd. aktiv
51,6 GB
Q4_K_M
97 von 891 Geräten
gpt-oss 120B
OpenAI
116,8 Mrd.
davon 5,1 Mrd. aktiv
65,0 GB
Q4_K_M
80 von 891 Geräten
NVIDIA Nemotron 3.5 Super VL 120B A12B
NVIDIA
123,6 Mrd.
davon 12 Mrd. aktiv
75,3 GB
Q4_0
69 von 891 Geräten
Devstral 2 123B
Mistral AI
125 Mrd.78,7 GB
Q4_K_M
7 von 891 Geräten
Qwen3.5 122B A10B
Alibaba (Qwen)
122,1 Mrd.
davon 10 Mrd. aktiv
79,0 GB
Q4_K_M
69 von 891 Geräten
Ornith 1.5 122B
Ornith AI
124,6 Mrd.
davon rund 10 Mrd. aktiv (gerechnet)
79,2 GB
Q4_K_M
69 von 891 Geräten
Ling-3.0-flash
inclusionAI
127,5 Mrd.
davon 5,1 Mrd. aktiv
80,2 GB
Q4_K_M
69 von 891 Geräten
Ling-3.0-flash-VL
inclusionAI
124,4 Mrd.
davon 5,5 Mrd. aktiv
81,1 GB
Q4_K_M
69 von 891 Geräten
NVIDIA Nemotron 3.5 Bolt 74B A9B
NVIDIA
74 Mrd.
davon 9 Mrd. aktiv
81,3 GB
Q8_0
69 von 891 Geräten
Laguna S 2.1
poolside
117,6 Mrd.
davon 8 Mrd. aktiv
99,0 GB
Q4_K_M
25 von 891 Geräten
DeepSeek V4-Flash
DeepSeek
284,3 Mrd.
davon 13 Mrd. aktiv
159,2 GB
Q4_K_M
13 von 891 Geräten
MiniMax-M2.7
MiniMax
228,7 Mrd.
davon rund 10 Mrd. aktiv (gerechnet)
167,2 GB
Q4_K_M
13 von 891 Geräten
Qwen3.8 Flash Next
Alibaba (Qwen)
176,9 Mrd.
davon 6 Mrd. aktiv
192,9 GB
Q8_0
9 von 891 Geräten
Inkling Small
Thinking Machines
263,7 Mrd.
davon 12 Mrd. aktiv
193,6 GB
Q4_K_M
9 von 891 Geräten
Nex-N2.6
Nex-AGI
320,8 Mrd.205,7 GB
Q4_K_M
7 von 891 Geräten
K2-Horizon-375B-A23B
IFM (MBZUAI)
379,2 Mrd.
davon 23 Mrd. aktiv
244,4 GB
Q4_K_M
9 von 891 Geräten
Qwen3.5 397B A17B
Alibaba (Qwen)
396,4 Mrd.
davon 17 Mrd. aktiv
249,9 GB
Q4_K_M
9 von 891 Geräten
Ornith 1.5 397B
Ornith AI
402,9 Mrd.
davon rund 17,2 Mrd. aktiv (gerechnet)
251,0 GB
Q4_K_M
9 von 891 Geräten
Nex-N2.5 Pro
Nex-AGI
396,4 Mrd.
davon rund 17,2 Mrd. aktiv (gerechnet)
256,8 GB
Q4_K_M
2 von 891 Geräten
Intern-S2 397B
InternLM (Shanghai AI Laboratory)
403 Mrd.
davon rund 17,3 Mrd. aktiv (gerechnet)
260,6 GB
Q4_K_M
2 von 891 Geräten
GLM-5.3 Flash
Z.ai
320,8 Mrd.
davon 18 Mrd. aktiv
348,7 GB
Q8_0
2 von 891 Geräten
Ling-3.1-flash
inclusionAI
572,1 Mrd.
davon 25 Mrd. aktiv
366,0 GB
Q4_K_M
2 von 891 Geräten
DeepSeek V4.1-Flash-1017
DeepSeek
748,5 Mrd.
davon 16 Mrd. aktiv
511,5 GB
Q4_K_M
0 von 891 Geräten
Beam 1.0 501B A23B
Reflection
501,3 Mrd.
davon 23,4 Mrd. aktiv
544,5 GB
Q8_0
0 von 891 Geräten
Mistral Large 4 1T A52B
Mistral AI
1.049,4 Mrd.
davon 49 Mrd. aktiv
648,6 GB
Q4_K_M
0 von 891 Geräten
GLM-5.3
Z.ai
753,9 Mrd.
davon rund 41,1 Mrd. aktiv (gerechnet)
818,6 GB
Q8_0
0 von 891 Geräten
Muse Spark Open 816B-A42B
meta-models
820 Mrd.
davon 42 Mrd. aktiv
890,5 GB
Q8_0
0 von 891 Geräten
Inkling
Thinking Machines
947 Mrd.
davon 41 Mrd. aktiv
971,7 GB
Q8_0
0 von 891 Geräten
Qwen3.8 2.4T A95B
Alibaba (Qwen)
2.446,2 Mrd.
davon 95 Mrd. aktiv
2.653,4 GB
Q8_0
0 von 891 Geräten