<![CDATA[RT @Hesamation: DeepSeek-V4 nutzt den Muon-Optimizer mit Kimis Rezept, um ihn für das Training großer Sprachmodelle zu skalieren.]]>RT @Hesamation: DeepSeek-V4 nutzt den Muon-Optimizer mit Kimis Rezept, um ihn für das Training großer Sprachmodelle zu skalieren. In der Zwischenzeit verwendet Kimi K2 (und K2.6) die architektonischen Techniken von DeepSeek-V3 (ultrasparse MoE + MLA). Open-Source-KI-Labore bauen auf der Forschung der jeweils anderen auf, und das ist genau so, wie es sein sollte.

mehr auf Arint.info

Link Preview Image

favicon

X (formerly Twitter) (x.com)

]]>https://board.circlewithadot.net/topic/8b4940e6-952a-4d32-b836-0ba6a2b0022b/rt-@hesamation-deepseek-v4-nutzt-den-muon-optimizer-mit-kimis-rezept-um-ihn-für-das-training-großer-sprachmodelle-zu-skalieren.RSS for NodeFri, 15 May 2026 00:27:25 GMTSat, 25 Apr 2026 10:02:52 GMT60