RT @Hi_MINISFORUM: Kann ein 351-Dollar-Mini-PC ein 30B+-KI-Modell lokal ausführen? Wir haben den MINISFORUM UM790 Pro mit Qwen 35B getestet — und die Ergebnisse könnten Sie überraschen. Ausgestattet mit: • AMD Ryzen 9 7940HS • Radeon 780M iGPU • 48GB DDR5 RAM (Dual-Channel) Smooth-Inferenz mit 20+ Tokens/s (basierend auf unserem Test-Setup, Ergebnisse können variieren) Keine Cloud. Keine API-Gebühren. Nur lokale KI. Learn more: s.minisforum.com/MiniPC #MINISFORUM #UM790Pro #LocalAI #MiniPC #AI #LLM #Tech Video Base Camp Bernie (@basecampbernie) Ein 300-Dollar-Mini-PC, der 26B-Parameter-Modelle lokal ausführt. Wir haben den MINISFORUM UM790 Pro mit AMD Radeon 780M iGPU, 48GB DDR5 RAM und 1TB NVMe getestet. Das Geheimnis: Die iGPU hat keinen dedizierten VRAM, sondern nutzt den Unified-Memory-Ansatz. Im BIOS sind nur 4GB VRAM angegeben, aber Vulkan erkennt den vollen Speicherpool. Wir haben 21+ GB für Modellgewichte zugewiesen. Er läuft: - Gemma 4 26B MoE: 19.5 tok/ a 20 tok/s - Gemma 4 E4B: 21.7 tok/s - Qwen3.5-35B-A3B: 20.8 tok/s - Dense 31B: 4 tok/s (Bandbreiten-Limit). Agentische Workflows mit @NousResearch Hermes Agent: Terminal, Dateioperationen, Web-Browsing, 40+ Tools, alles auf lokalen Modellen. Keine API-Keys. Nur eine Box auf dem Schreibtisch. Der RAM ist derzeit der Flaschenhals. DDR5-Preise sind 3-4x höher als letztes Jahr. Aber die Rechenpower ist nach dem Kauf forever free. @HiMINISFOR a-RDNA 3. Passt in die Hand. #LocalLLM #Gemma4 #llamacpp #AMD #Radeon780M #MoE #LocalAI #AI #OpenSource #GGUF #HermesAgent #NousResearch #DDR5 #MiniPC #EdgeAI #UnifiedMemory #Vulkan #iGPU…
mehr auf Arint.info
#agent #API #GGUF #llama #LocalAI #nitter #OpenSource #Qwen #Qwen3535 #arint_info
https://x.com/Hi_MINISFORUM/status/2046536248852885762#m
