Nemotron: otevřené AI modely NVIDIA pro agenty i vlastní provoz
NVIDIA nedělá jen grafické karty. Pod značkou Nemotron vydává rodinu otevřených AI modelů — s veřejnými vahami, trénovacími daty i recepty — navrženou hlavně pro dlouho běžící AI agenty. Není to jeden soubor ke stažení. Je to škála od malého Nano 4B na notebooku po Ultra s přibližně 550 miliardami parametrů.
Čtyři věci, které je dobré vědět
- 1Nemotron je rodina. Lightning, Nano, Super a Ultra jsou role, ne jen velikosti. Vedle nich jsou Omni, Parse, řeč a bezpečnost.
- 230B-A3B znamená asi 30 miliard parametrů celkem a 3 miliardy aktivních na jeden token. Není to hustý 30B model.
- 3Architektura míchá Mambu (levný dlouhý tok), attention (hledání konkrétního faktu) a MoE (jen zlomek expertů).
- 4Licence se liší podle vydání. Ultra a Lightning 3.5 mají OpenMDW-1.1; Nano a Super starší NVIDIA licenci. Vždy čtěte kartu modelu.
Minislovník: deset pojmů, které budeme používat
Stačí pracovní význam. Detaily jsou v našich článcích o názvech modelů, Mixture of Experts a reasoning modelech.
- Nemotron
- Rodina otevřených modelů NVIDIA. Nepleťte si ho s NeMo — to je sada nástrojů na trénink, úpravy a směrování modelů.
- Váhy, zjednodušeně checkpoint
- Uložená naučená čísla modelu. Veřejné váhy znamenají, že si soubor můžete stáhnout a spustit u sebe.
- Aktivní parametry
- Kolik vah model na jeden token skutečně počítá. U MoE je to zlomek celkového počtu.
- AI agent
- Program, který model nejen odpovídá, ale i volá nástroje, kontroluje výsledek a jde o krok dál.
- Mamba
- Vrstva, která čte sekvenci lineárně. Dlouhý text ji stojí méně než klasickou attention.
- Attention
- Mechanismus, který hledá vztahy mezi tokeny. Umí vytáhnout jeden konkrétní fakt z dlouhého kontextu.
- MoE
- Mixture of Experts: model má mnoho vnitřních podsítí a na každý token jich zapne jen několik.
- NVFP4
- NVIDIA formát, který ukládá váhy přibližně ve 4 bitech. Super a Ultra se v něm i trénují, nejen kvantizují dodatečně.
- NIM
- NVIDIA Inference Microservices: zabalená služba, která model nasadí jako API. Samotné váhy tím nejsou vázané — jdou i přes vLLM nebo Ollamu.
- Token
- Malý úsek textu. Kontext 1M tokenů je společný rozpočet pro vstup i novou odpověď — ne „milion slov navíc“.
Nemotron není jeden model
Nejčastější omyl je říct „pusť tam Nemotron“ a čekat jeden soubor. Oficiální formulace NVIDIA je dvojí a obě sedí: rodina otevřených modelů s otevřenými vahami, daty a recepty — a zároveň rodina stavěná pro dlouho běžící, specializované agenty.
Aktuální generace je Nemotron 3, od srpna 2026 doplněná přírůstkem 3.5. 3.5 není nová generace Nano / Super / Ultra. Je to Lightning (rychlá výkonová vrstva) a specializované modely pro bezpečnost a rozpoznávání řeči. Starší názvy typu Llama-3.1-Nemotron-70B jsou něco jiného: NVIDIA tehdy dotrénovávala Llamu. Nemotron 3 už NVIDIA trénuje od začátku sama.
Druhý častý omyl: Nemotron jsou modely, NeMo je nástrojová sada (data, trénink, RL, směrování). NeMo umí pracovat i s jinými otevřenými i uzavřenými modely. Když někdo řekne „máme to na NeMo“, neříká, který model odpovídá.
Proč NVIDIA otevírá váhy
Argument není „máme nejchytřejší model na žebříčku“. Je ekonomický. V dlouho běžícím agentovi většinu času nežere jedna velká úvaha, ale tisíce drobných kroků: zavolat nástroj, zkontrolovat výstup, naformátovat výsledek, předat práci podagentovi. Když na každý takový krok pustíte drahý frontier model, účet i latence rostou rychleji než kvalita.
Proto Nemotron vychází jako knihovna rolí. Velký model plánuje. Malý a rychlý model vykonává. A protože NVIDIA prodává i čipy, dává smysl vydat váhy, data i recepty: podnik si model může dotrénovat, provozovat ve vlastní síti a pořád zůstat na CUDA stacku.
Pro čtenáře v Česku z toho plyne praktická věc. Když potřebujete vlastní provoz — interní data, air-gap, kontrolu nad licencí — Nemotron je kandidát vedle Qwen, Llamy nebo DeepSeeku. Není náhrada za ChatGPT na jeden prompt.
Nano, Super, Ultra a Lightning
Názvy řad zní jako velikosti trička. Jsou to spíš pracovní pozice. Lightning a Nano mají podobný počet vah, ale jiný účel. Super se vejde na jeden výkonný uzel. Ultra je plánovač pro náročné agenty.
NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4
Stejnou logiku jsme rozebrali v článku Jak číst názvy AI modelů. 30B-A3B je MoE zkratka: uložíte zhruba 30 miliard parametrů, na jeden token počítáte asi 3 miliardy. Oficiální karty uvádějí u Nano a Lightningu přibližně 31,6 miliardy celkem.
Tabulku posuňte do strany →
| Řada | Parametry | Kontext | K čemu | Vydání |
|---|---|---|---|---|
| Lightning 3.5 | 30B / 3B | až 1M | rychlé kroky agenta, lokální provoz | 11. 8. 2026 |
| Nano 30B-A3B | 31,6B / 3,2B | až 1M | podagenti, shrnutí, nástroje | 15. 12. 2025 |
| Nano 4B | hustý ~4B | 262K | edge, Jetson, GeForce, DGX Spark | Nemotron 3 |
| Super | 120B / 12B | až 1M | více agentů, nástroje, jeden uzel | 11. 3. 2026 |
| Ultra | 550B / 55B | až 1M | plánování, náročný reasoning | 4. 6. 2026 |
| Nano Omni | 30B / 3B | 256K | obraz, video, zvuk i text → text | 28. 4. 2026 |
Rychlá výkonová vrstva
Lightning 30B-A3B je od 11. srpna 2026 nejmenší člen rodiny Nemotron 3 určený pro vysoký počet krátkých kroků. NVIDIA ho staví jako workhorse pod agenty typu OpenClaw nebo Hermes. Licence: OpenMDW-1.1.
Dvě Nano, dva světy
Nano 30B-A3B je otevřený MoE pro podagenty. Nano 4B je hustý malý model pro edge — NVIDIA k němu oficiálně vydává i GGUF. Není to zmenšený Lightning.
Jeden uzel, více agentů
Super 120B-A12B vyšel 11. března 2026 na GTC. NVFP4 varianta má v kartě minimum 1× B200 nebo 1× DGX Spark; BF16 chce zhruba 8× H100 80 GB. Licence: NVIDIA Nemotron Open Model License.
Plánovač rodiny
Ultra 550B-A55B je od 4. června 2026 největší model řady. NVIDIA ho uvádí jako frontier reasoning pro složité agenty. BF16 podle karty potřebuje 8× B200 nebo 16× H100. Licence: OpenMDW-1.1.
Hybridní architektura: Mamba, attention a MoE
Klasický transformer počítá attention přes celou sekvenci. To je drahé, když kontext naroste k statisícům tokenů. Čisté stavové modely umí sekvenci levněji, ale hůř trefí jeden konkrétní fakt. Nemotron 3 proto vrstvy střídá.
Mamba-2 táhne dlouhý tok levně. Bez ní by milion tokenů zůstal spíš marketingovým limitem než použitelným oknem. Attention se vsouvá v vybraných hloubkách, protože agent potřebuje najít jednu chybovou hlášku, jednu funkci v kódu nebo jeden odstavec ze smlouvy. MoE zvedá celkovou kapacitu, aniž by na každý token běžel celý model. Proto 30B-A3B není „malá Llama 30B“.
Super a Ultra jdou ještě dál. LatentMoE routuje tokeny v komprimovaném prostoru, takže se vejde víc expertů při stejném výpočetním účtu. MTP (multi-token prediction) učí model odhadovat více následujících tokenů najednou — při tréninku to dává delší nápovědu, při inference slouží jako vestavěný speculative decoding. Lightning k MTP přidává draft modely DSpark a DFlash.
Pokročilejší praxe: NVFP4, thinking a milionový kontext
Super a Ultra se v NVFP4 i předtrénovávají, nejen dodatečně kvantizují. Stejný soubor NVIDIA slibuje na Blackwellu, Hopperu i Ampere (na Ampéru často přes W4A16). Lightning vychází v NVFP4 i BF16: NVFP4 na nasazení, BF16 na další trénink.
Reasoning není u Nemotronu 3 samostatný model. Zapíná se v chatové šabloně přes enable_thinking a u řady vydání i přes reasoning_budget. Vypnuté přemýšlení je rychlejší a levnější; u těžších úloh klesá kvalita. Víc o tom, co se při „přemýšlení“ děje, je v článku Reasoning modely.
Kontext „až 1M“ je nativní limit řad Lightning, Nano, Super a Ultra. Omni má 256K, Nano 4B 262K. Limit neznamená, že model každých milion tokenů využije stejně dobře, ani že se 1M vejde na jednu spotřebitelskou kartu. Dlouhé okno nafukuje KV cache. V kartě Lightningu NVIDIA uvádí, že BF16 na jednom H100 je paměťově spíš kolem 256K; plný 1M chce víc GPU nebo GB200 / B200.
Dvě role v agentovi
Když si představíte agenta, který celý den opravuje tickety nebo píše kód, neuvažuje pořád. Většinu času dělá rutinu. NVIDIA to kreslí jako dělení práce: Ultra (nebo jiný frontier model) sestaví plán, Lightning nebo Nano plán provede.
Na to navazuje NeMo Switchyard: open-source směrovač, který podle politiky posílá požadavek na nejlevnější model, který úlohu zvládne. Nemusíte ho použít. Stejný princip jde složit i ručně — důležité je nepřepálit drobné kroky modelem, který patří jen na rozhodnutí.
Omni, Parse, řeč a bezpečnost
Textové řady nejsou celý Nemotron. NVIDIA pod stejnou značkou vydává úzce zaměřené modely. Hodí se je znát, ať nestahujete Ultra na úlohu, kterou zvládne půlmiliardový specialista.
Obraz, video, zvuk i text
Nano Omni 30B-A3B bere video, audio, obrázek a text a odpovídá textem. Uvnitř je Nano jazykový páteř, vizuální encoder C-RADIO a řečový Parakeet. Kontext 256K. Hodí se na dokumenty, nahrávky schůzek a práci s obrazovkou.
Dokument na strukturu
Nemotron Parse čte stránku dokumentu a vrací text, tabulky, ohraničení a pořadí čtení. Je to extraktor, ne chatovací model. Aktuální řada je Parse 2.0; starší v1.1 / v1.2 pořád visí na Hugging Face.
Streaming ASR a TTS
Řada Speech umí rychlé rozpoznávání řeči, syntézu i překlad. V 3.5 přibyl streaming ASR 0,6B. Když stavíte hlasového agenta, nepoužívejte na přepis Ultra.
Zábradlí a vyhledávání
Content Safety je samostatný model na moderaci a jailbreaky — ne náhrada za právní posouzení. Retriever / Embed jsou embeddingy pro vyhledávání v RAG, ne generativní LLM.
Otevřenost a licence
„Open“ u Nemotronu znamená víc než stažitelný GGUF z komunity. NVIDIA u hlavních řad zveřejňuje váhy, část předtrénovacích a po-tréninkových dat, RL prostředí a recepty v NVIDIA-NeMo/Nemotron. To je užitečné, když chcete výsledek zopakovat nebo model specializovat.
Licence ale není jedna. Nano 3 a Super 3 zůstávají pod NVIDIA Nemotron Open Model License. Ultra a všechny Nemotron 3.5 (Lightning, Content Safety, ASR) mají OpenMDW-1.1. Karty říkají „ready for commercial use“, ale starší řady NVIDIA neličencovala zpětně. Identifikátory navíc nejsou jednotné: jednou NVIDIA-Nemotron-3-…, jindy Nemotron-3-Nano-Omni-…, u řeči lowercase. Kopírujte přesné ID z karty.
Kdy zvolit Nemotron — a kdy ne
Nemotron dává smysl, když
Stavíte agenta s mnoha nástroji a chcete oddělit plán od výkonu.
Potřebujete vlastní provoz, kontrolu dat nebo dotrénování na svých úlohách.
Už žijete v NVIDIA stacku (vLLM / TensorRT-LLM / NIM / DGX Spark) a chcete model, který je na něj dělaný.
Potřebujete dlouhý kontext a hybrid Mamba + MoE, ne jen „velkou Llamu“.
Spíš zvolte něco jiného, když
Chcete jeden prompt v prohlížeči — na to stačí Claude, GPT nebo Gemini.
Potřebujete nejširší komunitu GGUF a tutoriálů. Tam pořád vede Qwen a Llama.
Máte jen spotřebitelskou kartu a chcete bezbolestnou Ollamu. Začněte Nano 4B nebo menším Qwenem, ne Ultra.
Úloha je čistě dokument, zvuk nebo bezpečnost — sáhněte po specialistech Parse / Speech / Safety, ne po chatovacím Ultra.
Tabulku posuňte do strany →
| Checkpoint | Minimum podle karty | Poznámka |
|---|---|---|
| Lightning NVFP4 | 1× DGX Spark nebo 1× H100 | 1M kontext chce víc paměti než samotné váhy |
| Nano 4B | Jetson / GeForce / Spark | Oficiální GGUF, nejjednodušší vstup |
| Super NVFP4 | 1× B200 nebo 1× DGX Spark | BF16: přibližně 8× H100 80 GB |
| Ultra NVFP4 | 4× B200 nebo 8× H100 | BF16: 8× B200 nebo 16× H100 |
| Nano Omni NVFP4 | 1× RTX 5090 nebo Spark | BF16 spíš 1× H100 80 GB |
Jak ho vyzkoušet
Časté otázky
Je Nemotron lepší než Llama nebo Qwen?
Na to není jedna odpověď. Nemotron je silný tam, kde chcete otevřené váhy plus data a recepty a stavíte agenty na NVIDIA stacku. Llama a Qwen mají širší ekosystém převodů, tutoriálů a komunitních kvantizací. Srovnávejte konkrétní checkpoint na své úloze, ne značku.
Je Nemotron reasoning model?
U Nemotron 3 je přemýšlení režim, ne samostatná řada. Zapíná se v šabloně. Vypnuté thinking je rychlejší; u těžších úloh bývá zapnuté přesnější. Není to totéž jako oddělený Instruct / Thinking u Qwen3.
Můžu ho používat komerčně?
Karty hlavních řad to uvádějí. Ultra a Lightning 3.5 jdou pod OpenMDW-1.1, Nano 3 a Super 3 pod NVIDIA Nemotron Open Model License. Před produkcí přečtěte aktuální text u konkrétního repozitáře a právníci ať schválí váš scénář — zvlášť u dotrénování a dalšího šíření.
Jaký Nemotron dát na první pokus?
Na spotřebitelský počítač Nano 4B. Na jednu výkonnou NVIDIA kartu Lightning NVFP4 nebo Nano 30B-A3B. Super a Ultra nechte na server. Když chcete jen chat bez instalace, použijte build.nvidia.com.
Proč stejný model jednou hlásí 30B a jindy 31,6B?
Marketing zaokrouhluje. Karty Nano a Lightning uvádějí 31,6 miliardy celkem; aktivní počet se podle toho, jestli počítáte embeddingy, hýbe kolem 3,2–3,6B. Čtěte kartu, ne přezdívku.
Chcete stavět agenty, ne jen volat API?
V kurzu Programátor AI Agentů se učí smyčka plán → nástroj → kontrola, kterou Nemotron právě cílí. Základy modelů a vlastního provozu jsou v AI pro programátory, vědu a datovou analytiku a v kratším AI ve vývoji softwaru.
Zdroje a další čtení
- NVIDIA: Nemotron 3 Family — Nano, Super, Ultra, hybrid MoE a 1M kontext
- NVIDIA: Nemotron 3 Ultra — 550B / 55B, LatentMoE, MTP, NVFP4
- NVIDIA Tech Blog: Nemotron 3 Super — vydání 11. 3. 2026
- NVIDIA Tech Blog: Nemotron 3.5 Lightning — 30B-A3B, agenti, OpenMDW-1.1
- Hugging Face: Lightning 30B-A3B NVFP4
- Hugging Face: Nano 30B-A3B BF16
- Hugging Face: Nano 4B BF16
- Hugging Face: Super 120B-A12B NVFP4
- Hugging Face: Ultra 550B-A55B BF16
- Hugging Face: Nano Omni 30B-A3B
- NVIDIA Developer: Nemotron — Parse, Retriever, Speech, Safety
- GitHub: NVIDIA-NeMo/Nemotron — recepty a cookbooks
- Turing Institut: Jak číst názvy AI modelů
- Turing Institut: Mixture of Experts
- Turing Institut: Jak hostovat open-source LLM
- Turing Institut: Reasoning modely
