論文の概要: NVIDIA Nemotron 3: Efficient and Open Intelligence
- arxiv url: http://arxiv.org/abs/2512.20856v1
- Date: Wed, 24 Dec 2025 00:24:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-25 19:43:21.638543
- Title: NVIDIA Nemotron 3: Efficient and Open Intelligence
- Title（参考訳）: NVIDIA Nemotron 3: 効率的でオープンなインテリジェンス
- Abstract要約: ネモトロン3シリーズは強力なエージェント、推論、会話能力を提供する。
ネモトロン3モデルは、推論を可能にするマルチ環境強化学習、多段階ツールの使用、きめ細かい推論予算制御のサポートを用いて、後から訓練される。
Nemotron 3ファミリは、Mixture-of-ExpertsハイブリッドのMamba-Transformerアーキテクチャを使用して、最高レベルのスループットと最大100万トークンのコンテキスト長を提供する。
- 参考スコア（独自算出の注目度）: 227.47413816066845
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce the Nemotron 3 family of models - Nano, Super, and Ultra. These models deliver strong agentic, reasoning, and conversational capabilities. The Nemotron 3 family uses a Mixture-of-Experts hybrid Mamba-Transformer architecture to provide best-in-class throughput and context lengths of up to 1M tokens. Super and Ultra models are trained with NVFP4 and incorporate LatentMoE, a novel approach that improves model quality. The two larger models also include MTP layers for faster text generation. All Nemotron 3 models are post-trained using multi-environment reinforcement learning enabling reasoning, multi-step tool use, and support granular reasoning budget control. Nano, the smallest model, outperforms comparable models in accuracy while remaining extremely cost-efficient for inference. Super is optimized for collaborative agents and high-volume workloads such as IT ticket automation. Ultra, the largest model, provides state-of-the-art accuracy and reasoning performance. Nano is released together with its technical report and this white paper, while Super and Ultra will follow in the coming months. We will openly release the model weights, pre- and post-training software, recipes, and all data for which we hold redistribution rights.
- Abstract（参考訳）: 我々はNemotron 3シリーズのNano、Super、Ultraを紹介する。
これらのモデルは強力なエージェント、推論、会話機能を提供します。
Nemotron 3ファミリは、Mixture-of-ExpertsハイブリッドのMamba-Transformerアーキテクチャを使用して、最高レベルのスループットと最大100万トークンのコンテキスト長を提供する。
SuperおよびUltraモデルは、NVFP4でトレーニングされ、モデル品質を改善する新しいアプローチであるLatntMoEが組み込まれている。
2つの大きなモデルには、より高速なテキスト生成のためのMPP層も含まれている。
すべてのNemotron 3モデルは、推論を可能にするマルチ環境強化学習、多段階ツールの使用、きめ細かい推論予算制御のサポートを使用して、後から訓練されている。
最小のモデルであるNanoは、推論に非常にコスト効率を保ちながら、同等のモデルを精度で上回る。
Superは、コラボレーティブエージェントとITチケット自動化のような大量のワークロードに最適化されている。
最大のモデルであるUltraは、最先端の精度と推論性能を提供する。
Nanoは技術レポートとこのホワイトペーパーと共にリリースされ、SuperとUltraは今後数ヶ月で続く。
私たちは、モデルウェイト、事前および後トレーニングソフトウェア、レシピ、再配布権を保持するすべてのデータをオープンにリリースします。
関連論文リスト
- Nemotron 3 Ultra: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning [269.10652784788374]
Nemotron 3 Ultraは5500億の総計と5500億のアクティブパラメータであるMixture-of-Experts Hybrid Mamba-Attention Languageモデルである。
我々は,20兆のテキストトークン上でNemotron 3 Ultraを事前訓練し,コンテキスト長を100万トークンに拡張し,スーパービジョンファインチューニング(SFT),強化学習(RL),マルチ教師オンポリシィ蒸留(MOPD)を用いて後訓練を行った。
論文 参考訳（メタデータ） (2026-06-12T22:56:12Z) - Nemotron 3 Nano Omni: Efficient and Open Multimodal Intelligence [215.36956014523926]
ネモトロン3 ナノオムニ(Nemotron 3 Nano Omni)は、ネモトロン・マルチモーダルシリーズの最新モデルである。
テキスト、画像、ビデオと共に音声入力をサポートするのは、これが初めてである。
論文 参考訳（メタデータ） (2026-04-27T19:49:21Z) - Nemotron 3 Super: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning [262.0414794728708]
ネモトロン3スーパーの事前学習、後学習、量子化について述べる。
Nemotron 3 Superは1200億(アクティブ120億)のパラメータハイブリッドMamba-Attention Mixture-of-Expertsモデルである。
論文 参考訳（メタデータ） (2026-04-14T07:02:32Z) - Molmo2: Open Weights and Data for Vision-Language Models with Video Understanding and Grounding [73.52241177491655]
Molmo2はビデオ言語モデル(VLM)の新たなファミリーであり、オープンソースモデルの中でも最先端の製品である。
単一画像、マルチイメージ、ビデオタスクにおけるポイント駆動グラウンドリングにおいて、例外的な新機能を示す。
私たちの最高の8Bモデルは、ショートビデオ、カウント、キャプションでオープンウェイトとデータモデルのクラスで他よりも優れており、ロングビデオでは競争力があります。
論文 参考訳（メタデータ） (2026-01-15T17:27:44Z) - Nemotron 3 Nano: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning [223.88531320605486]
Nemotron 3 Nano 30B-A3BはMixture-of-ExpertsハイブリッドMamba-Transformer言語モデルである。
ネモトロン3ナノは25兆個のテキストトークンで事前訓練され、その中にはネモトロン2に3兆以上の新しいユニークなトークンが含まれていた。
論文 参考訳（メタデータ） (2025-12-23T23:54:32Z) - NVIDIA Nemotron Nano V2 VL [140.7011776408786]
ネモトロン・ナノV2VLは、マンバ・トランスフォーマーのハイブリッドLLMであるネモトロン・ナノV2上に構築される。
BF16、FP8、FP4フォーマットでモデルチェックポイントをリリースしています。
論文 参考訳（メタデータ） (2025-11-06T00:10:19Z) - Jet-Nemotron: Efficient Language Model with Post Neural Architecture Search [42.46046429414803]
Jet-Nemotronはハイブリッドアーキテクチャ言語モデルの新しいファミリーである。
それは、主要なフルアテンションモデルの正確さと一致または超える。
論文 参考訳（メタデータ） (2025-08-21T17:59:08Z) - NVIDIA Nemotron Nano 2: An Accurate and Efficient Hybrid Mamba-Transformer Reasoning Model [205.51647932840226]
Nemotron-Nano-9B-v2は、推論処理のスループットを向上させるために設計されたハイブリッドのMamba-Transformer言語モデルである。
Nemotron-Nano-9B-v2はNemotron-Hアーキテクチャをベースにしており、共通のTransformerアーキテクチャの自己保持層の大部分をMamba-2層に置き換えている。
論文 参考訳（メタデータ） (2025-08-20T06:00:57Z) - Llama-Nemotron: Efficient Reasoning Models [131.54943004304656]
ヘテロジニアス推論モデルの開族であるLlama-Nemotronシリーズを導入する。
サイズはNano(8B)、Super(49B)、Ultra(253B)の3種類。
論文 参考訳（メタデータ） (2025-05-02T01:35:35Z) - TODM: Train Once Deploy Many Efficient Supernet-Based RNN-T Compression
For On-device ASR Models [30.758876520227666]
TODMは、ハードウェアフレンドリーなオンデバイスASRモデルの多くのサイズを、単一のトレーニングジョブと同等のGPU時間で効率的にトレーニングするための、新しいアプローチである。
我々は,TODMスーパーネットの結果を改善するために,新しい3つの手法の組み合わせを導入する。
結果から,TODMスーパーネットは単語誤り率(WER)において,最大3%の精度で手動調整モデルの性能に適合するか,上回っていることがわかった。
論文 参考訳（メタデータ） (2023-09-05T04:47:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。