Fugu-MT 論文翻訳(概要): Seed Diffusion: A Large-Scale Diffusion Language Model with High-Speed Inference

論文の概要: Seed Diffusion: A Large-Scale Diffusion Language Model with High-Speed Inference

arxiv url: http://arxiv.org/abs/2508.02193v1
Date: Mon, 04 Aug 2025 08:43:01 GMT
ステータス: 翻訳完了
システム内更新日: 2025-08-05 18:25:22.258785
Title: Seed Diffusion: A Large-Scale Diffusion Language Model with High-Speed Inference
Title（参考訳）: シード拡散:高速推論による大規模拡散言語モデル
Abstract要約: 本稿では,離散状態拡散に基づく大規模言語モデルであるSeed Diffusion Previewを提案する。非逐次並列生成により、離散拡散モデルはトークン・バイ・トークン・バイ・トークン・デコーディングの固有の遅延を軽減するために顕著なスピードアップを提供する。
参考スコア（独自算出の注目度）: 58.06027151683975
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We present Seed Diffusion Preview, a large-scale language model based on discrete-state diffusion, offering remarkably fast inference speed. Thanks to non-sequential, parallel generation, discrete diffusion models provide a notable speedup to mitigate the inherent latency of token-by-token decoding, as demonstrated recently (e.g., Mercury Coder, Gemini Diffusion). Seed Diffusion Preview achieves an inference speed of 2,146 token/s over H20 GPUs while maintaining competitive performance across a sweep of standard code evaluation benchmarks, significantly faster than contemporary Mercury and Gemini Diffusion, establishing new state of the art on the speed-quality Pareto frontier for code models.
Abstract（参考訳）: 本稿では,離散状態拡散に基づく大規模言語モデルであるSeed Diffusion Previewを提案する。非逐次並列生成により、離散拡散モデルはトークン・バイ・トークン・デコードの本質的な遅延を軽減するために顕著なスピードアップを提供する(例:マーキュリー・コーダ、ジェミニ・ディフュージョン)。 Seed Diffusion Previewは、H20 GPU上での2,146トークン/秒の推論速度を達成し、標準的なコード評価ベンチマーク全体の競争性能を維持しながら、現在のMercuryやGemini Diffusionよりも大幅に高速で、コードモデルのための速度品質のParetoフロンティア上で、新たな最先端技術を確立する。

関連論文リスト

DiffusionGemma Technical Report [72.10570774996219]
DiffusionGemma(ディフュージョン・ジェマ)は、離散拡散を用いてテキストを生成する言語モデルである。 DiffusionGemmaは、一度に1つのトークンをデコードする代わりに、256個のトークンのブロックを並列に繰り返し洗練する。私たちの計算効率の良い2段階トレーニングパイプラインは、開始したARモデルの総トレーニングトークン予算の10%未満を使用します。
論文参考訳（メタデータ） (2026-07-31T16:11:46Z)
DRiffusion: Draft-and-Refine Process Parallelizes Diffusion Models with Ease [3.5025591191253933]
DRiffusionは、ドラフト・アンド・リファインプロセスを通じて拡散推論を並列化する並列サンプリングフレームワークである。実証的には、DRiffusionは1.4$times$-3.7$times$speedupを複数の拡散モデルで達成し、生成品質は最小限に低下する。
論文参考訳（メタデータ） (2026-03-26T19:58:42Z)
Streaming-dLLM: Accelerating Diffusion LLMs via Suffix Pruning and Dynamic Decoding [36.74241893088594]
拡散大言語モデル(dLLM)は、自然言語生成に魅力的なパラダイムを提供する。最近の研究はKVキャッシュの再利用や復号化を通じて推論を加速しているが、ブロックワイド拡散プロセスにおける本質的な非効率性を見落としている。本稿では,空間次元と時間次元の両方にわたって推論を合理化する学習自由フレームワークStreaming-dLLMを提案する。
論文参考訳（メタデータ） (2026-01-25T17:36:04Z)
DeCo: Frequency-Decoupled Pixel Diffusion for End-to-End Image Generation [93.6273078684831]
より効率的な画素拡散パラダイムを追求するために,周波数デカップリング方式の画素拡散フレームワークを提案する。高速・低周波成分の生成を分離する直感によって, セマンティックガイダンスに基づく高周波細部を生成するために, 軽量画素デコーダを利用する。実験の結果,DeCoは1.62 (256x256) と2.22 (512x512) の FID を実現した。
論文参考訳（メタデータ） (2025-11-24T17:59:06Z)
Breaking the Bottleneck with DiffuApriel: High-Throughput Diffusion LMs with Mamba Backbone [6.76700377196741]
両方向マンバのバックボーン上に構築されたマスク付き拡散言語モデルであるDiffuAprielを紹介する。この結果から, 双方向状態空間アーキテクチャは, マスク拡散LMの強力なデノイザとして機能することが示唆された。
論文参考訳（メタデータ） (2025-11-19T23:23:49Z)
READ: Real-time and Efficient Asynchronous Diffusion for Audio-driven Talking Head Generation [55.58089937219475]
本稿では,最初のリアルタイム拡散変換器を用いた音声ヘッド生成フレームワークREADを提案する。提案手法はまず,VAEを用いて高度に圧縮されたビデオ潜時空間を学習し,音声生成におけるトークン数を大幅に削減する。また,READは,実行時間を大幅に短縮した競合する音声ヘッドビデオを生成することにより,最先端の手法よりも優れていることを示す。
論文参考訳（メタデータ） (2025-08-05T13:57:03Z)
CHORDS: Diffusion Sampling Accelerator with Multi-core Hierarchical ODE Solvers [72.23291099555459]
拡散に基づく生成モデルは、高忠実度画像やビデオの主要な生成元となっているが、計算コストのかかる推論手順によって制限されている。本稿では,マルチコア並列処理による一般,トレーニング不要,モデルに依存しない高速化戦略について検討する。 ChoRDSは様々な大規模画像およびビデオ拡散モデルのサンプリングを著しく加速し、4コアで2.1倍のスピードアップを実現し、ベースラインで50%改善し、8コアで2.9倍のスピードアップを実現した。
論文参考訳（メタデータ） (2025-07-21T05:48:47Z)
Diffusion Buffer: Online Diffusion-based Speech Enhancement with Sub-Second Latency [14.001679439460359]
我々は音声強調作業にスライディングウィンドウ拡散フレームワークを適用した。提案手法は,バッファ内の現在に近いフレームにより多くのノイズを割り当てることで,音声信号を経時的に劣化させる。これは、オンライン音声強調のための最初の実践的拡散ベースのソリューションである。
論文参考訳（メタデータ） (2025-06-03T14:14:28Z)
Speculative Diffusion Decoding: Accelerating Language Generation through Diffusion [55.0194604505437]
投機的復号化は,大規模言語モデル推論を高速化する手法として広く採用されている。本稿では,離散拡散モデルを用いてドラフトシーケンスを生成する投機的復号法を提案する。
論文参考訳（メタデータ） (2024-08-10T21:24:25Z)
Diffusion-TS: Interpretable Diffusion for General Time Series Generation [6.639630994040322]
Diffusion-TSは、高品質な時系列サンプルを生成する新しい拡散ベースのフレームワークである。各拡散ステップのノイズの代わりにサンプルを直接再構成するようにモデルを訓練し、フーリエに基づく損失項を組み合わせた。その結果,Diffusion-TSは時系列の様々な現実的解析において最先端の結果が得られることがわかった。
論文参考訳（メタデータ） (2024-03-04T05:39:23Z)
StreamDiffusion: A Pipeline-level Solution for Real-time Interactive Generation [52.56469577812338]
本稿では,インタラクティブな画像生成のためのリアルタイム拡散パイプラインStreamDiffusionを紹介する。既存の拡散モデルは、テキストや画像プロンプトから画像を作成するのに適しているが、リアルタイムのインタラクションでは不足することが多い。本稿では,従来のシーケンシャル・デノナイジングをデノナイジング・プロセスに変換する新しいアプローチを提案する。
論文参考訳（メタデータ） (2023-12-19T18:18:33Z)
DiffuSeq-v2: Bridging Discrete and Continuous Text Spaces for Accelerated Seq2Seq Diffusion Models [58.450152413700586]
ガウス空間に基づく離散突然変異を再構成する学習において拡散モデルを容易にする軟吸収状態を導入する。我々は、サンプリングプロセスの高速化のために、連続空間内で最先端のODEソルバを用いている。提案手法は, トレーニング収束率を4倍に向上させ, 類似品質のサンプルを800倍高速に生成する。
論文参考訳（メタデータ） (2023-10-09T15:29:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。