論文の概要: DANTINOX: A Unified Framework for Multi-Paradigm Language Modeling
- arxiv url: http://arxiv.org/abs/2609.17535v1
- Date: Sat, 11 Jul 2026 08:46:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.545293
- Title: DANTINOX: A Unified Framework for Multi-Paradigm Language Modeling
- Title(参考訳): DANTINOX: マルチパラダイム言語モデリングのための統一フレームワーク
- Abstract要約: オープンソースのJAX/FlaxライブラリであるDantinoXを紹介します。
生成パラダイム、アテンションメカニズム、ハードウェアトポロジを切り替えるには、構成の変更が必要だが、バックボーンアーキテクチャ、トークンエーザ、トレーニングインフラストラクチャは一貫している。
これにより、トレーニング、ストリーミング推論、ベンチマークのための1つのAPI内で、管理されたパラダイム間比較が可能になる。
- 参考スコア(独自算出の注目度): 42.60363805227946
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Language generation research increasingly spans three paradigms: autoregressive decoding, discrete masked diffusion, and continuous flow-matching. Comparing them is difficult because each lives in a separate codebase, so measured differences often reflect implementation details rather than the paradigms themselves. We present DantinoX, an open-source JAX/Flax library in which a single modular Transformer backbone serves all three paradigms. Switching the generation paradigm, attention mechanism, or hardware topology requires only a configuration change, while the backbone architecture, tokenizer, initialization strategy, and training infrastructure remain consistent. This enables controlled cross-paradigm comparisons within one API for training, streaming inference, and benchmarking.
- Abstract(参考訳): 言語生成の研究は、自動回帰復号、離散マスク拡散、連続フローマッチングの3つのパラダイムにまたがる。
比較するのは難しいのは、それぞれのコードベースが別々のため、測定された違いは、パラダイム自体よりも実装の詳細を反映することが多いからです。
オープンソースのJAX/FlaxライブラリであるDantinoXを紹介します。
生成パラダイム、アテンションメカニズム、ハードウェアトポロジの切り替えには構成の変更が必要だが、バックボーンアーキテクチャ、トークンー、初期化戦略、トレーニングインフラストラクチャは一貫している。
これにより、トレーニング、ストリーミング推論、ベンチマークのための1つのAPI内で、管理されたパラダイム間比較が可能になる。
関連論文リスト
- Prism: A Plug-in Reproducible Infrastructure for Scalable Multimodal Continual Instruction Tuning [16.21619173438734]
MLLM(Multimodal Large Language Models)は、多種多様なタスクを命令チューニングを通じて統一的な命令追従フレームワークに再構成することで、汎用性を実現する。
その重要性は増しているが、現在のMCITの研究は厳しい工学的ボトルネックによって妨げられている。
MCIT研究用に特別に設計されたプラグイン再現可能なPrismを紹介する。
論文 参考訳(メタデータ) (2026-05-25T17:59:28Z) - Towards Large Model Feature Coding [90.89390892560094]
大規模モデル特徴符号化(LaMoFC)のためのベンチマークおよび評価フレームワークを提案する。
まず、機能データセットLaMoFCBenchを構築し、4つのカテゴリと16のシナリオで多様なタスク要件をカバーしました。
次に、実際の応用シナリオに従って代表分割点を指定し、中間的特徴を抽出する。
論文 参考訳(メタデータ) (2026-05-20T13:39:48Z) - Breaking Dual Bottlenecks: Evolving Unified Multimodal Models into Self-Adaptive Interleaved Visual Reasoners [34.02715256877424]
統一モデルは単一のフレームワークにマルチモーダル理解と生成を統合する。
モデルがユーザの意図をキャプチャできるが、しばしばこの意味的知識を正確なピクセルレベルの操作に変換することができない。
本稿では,命令複雑性とモデル能力に基づく生成戦略を自律的に切り替える統合モデルを実現する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-14T11:27:46Z) - $\mathcal{S}^2$IT: Stepwise Syntax Integration Tuning for Large Language Models in Aspect Sentiment Quad Prediction [51.165432266846096]
構文構造情報は、大言語モデル(LLM)の生成パラダイムにおいて未利用である
S2ITは、多段階のチューニングプロセスを通じて、構文構造知識をLLMに徐々に統合する。
実験により、S2ITは複数のデータセットにわたる最先端のパフォーマンスを大幅に改善することが示された。
論文 参考訳(メタデータ) (2026-04-25T13:24:29Z) - UniX: Unifying Autoregression and Diffusion for Chest X-Ray Understanding and Generation [98.93314262366681]
胸部X線理解・生成のための次世代統合医療基盤モデルUniXについて述べる。
UniXは2つのタスクを、理解のための自己回帰分岐と高忠実度生成のための拡散分岐に分離する。
2つの代表的なベンチマークでは、Unixは46.1%の性能向上と24.2%の世代品質向上を実現している。
論文 参考訳(メタデータ) (2026-01-16T18:59:58Z) - ThinkGen: Generalized Thinking for Visual Generation [97.19923474851987]
ThinkGenは、さまざまな世代のシナリオでChain-of-Thought(CoT)推論を明示的に活用する、思考駆動のビジュアル生成フレームワークである。
本稿では,MLLMとDiTモジュール間の強化学習を交互に行う,分離可能なGRPOベースのトレーニングパラダイムを提案する。
実験の結果、ThinkGenは複数の世代ベンチマークで堅牢で最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2025-12-29T16:08:50Z) - OneCAT: Decoder-Only Auto-Regressive Model for Unified Understanding and Generation [91.45421429922506]
OneCATは、理解、生成、編集をシームレスに統合する統合マルチモーダルモデルである。
我々のフレームワークは、推論中に視覚変換器(ViT)や視覚トークン化器などの外部コンポーネントを不要にする。
論文 参考訳(メタデータ) (2025-09-03T17:29:50Z) - SEAL: Speech Embedding Alignment Learning for Speech Large Language Model with Retrieval-Augmented Generation [10.828717295018123]
本稿では,中間テキスト表現の必要性を解消する統合埋め込みフレームワークを提案する。
本モデルでは,従来の2段階法に比べて高い精度でパイプライン遅延を50%削減する。
論文 参考訳(メタデータ) (2025-01-26T15:04:02Z) - No Re-Train, More Gain: Upgrading Backbones with Diffusion model for Pixel-Wise and Weakly-Supervised Few-Shot Segmentation [22.263029309151467]
Few-Shot (FSS) は、注釈付き画像のみを使用して、新しいクラスを分割することを目的としている。
現在のFSSメソッドでは、再トレーニングなしでのバックボーンアップグレードの柔軟性、さまざまなアノテーションを均一に扱うことができない、という3つの問題に直面している。
本稿では,FSSタスクを拡散過程を用いた条件生成問題として概念化する新しいフレームワークであるDiffUpを提案する。
論文 参考訳(メタデータ) (2024-07-23T05:09:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。