
jet2
hast du die 7B schon ausprobiert?Das ist ja keine App sondern läuft z.B. via LMStudio, also eher vergleichbar mit einem VST.
Aber mal ernstgemeinste Frage, die "Recommended Specs" für das R1 sind 16xH100, ähm, lol?
Ich mein die kleine 7B ist ja ganz witzig, aber ja kein vergleich zu der "richtigen" Version.
mit ner rtx 3090 sollte 8B auch noch gehen.
die v3-version hat 404 gb.
das geht ohne distillierte modelle (bisher noch nicht für ollama gefunden) nicht.

deepseek-v3
A strong Mixture-of-Experts (MoE) language model with 671B total parameters with 37B activated for each token.

und für bilder gibts janus:
GitHub - deepseek-ai/Janus: Janus-Series: Unified Multimodal Understanding and Generation Models
Janus-Series: Unified Multimodal Understanding and Generation Models - deepseek-ai/Janus