論文の概要: Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling
- arxiv url: http://arxiv.org/abs/2610.22131v1
- Date: Thu, 15 Oct 2026 16:05:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-17 06:09:33.183595
- Title: Intern-Decision: Efficient Multimodal Decision Making with Autoregressive Masked Language Modeling
- Title(参考訳): インターン決定:自己回帰型マスケッド言語モデリングを用いた効率的なマルチモーダル意思決定
- Abstract要約: Intern-Decisionは0.8B、2B、4Bマルチモーダル決定モデルである。
我々の自己回帰型マスキング言語は、フィールドごとに1つの決定的プレースホルダーを完全なアシスタントスケルトンに配置する。
結果は、より大きなエージェントシステムの実用的なコンポーネントとして、コンパクトな決定モデルをサポートする。
- 参考スコア(独自算出の注目度): 26.882267847221353
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Interactive agents repeatedly choose among a finite set of actions, labels, or ordinal outcomes. Generating a free-form response for each choice adds latency and complicates the interface between a model and its environment. We present Intern-Decision, a family of 0.8B, 2B, and 4B multimodal decision models that return structured choices and candidate probabilities from text and optional images. Our autoregressive masked language modeling objective places one decision placeholder per field in a complete assistant JSON skeleton. Ground-truth symbols appear only in supervision, while all fields are evaluated in a single causal forward pass using the backbone's native language-model head. The 4B model achieves a 90.02% unweighted average accuracy across seven evaluation suites, compared with 88.74% for Jev v1.13.0. For a fixed 289-token request with three fields on one RTX 4090, mean latency is 44.16 ms for the 4B model and approximately 33--34 ms for the smaller models. On a separate 96-case known-distribution pilot, temperature scaling reduces expected multiclass Brier from 0.628 to 0.550 and expected calibration error from 0.213 to 0.089. A confidence-based handoff study on 111 public Jevbench-Hard items improves accuracy from 82/111 (73.87%) to 97/111 (87.39%) by routing 42 items to Atria-Dawn-Preview. We also describe qualitative game, visual interface, and browser demonstrations. These results support compact decision models as a practical component of larger agent systems.
- Abstract(参考訳): 対話的エージェントは、有限のアクション、ラベル、または順序的な結果の中から繰り返し選択する。
選択毎に自由形式のレスポンスを生成すると、レイテンシが増加し、モデルとその環境の間のインターフェースが複雑になる。
Intern-Decisionは0.8B、2B、4Bのマルチモーダル決定モデルであり、テキストやオプション画像から構造化された選択と候補確率を返す。
自動回帰マスク付き言語モデリングの目的は、フィールド毎に1つの決定プレースホルダーを完全なアシスタントJSONスケルトンに配置することです。
全フィールドは、バックボーンのネイティブ言語モデルヘッドを使用して単一の因果パスで評価される。
4Bモデルは7つの評価スイートで90.02%の非重み付き平均精度を達成するが、Jev v1.13.0では88.74%である。
1つのRTX 4090に3つのフィールドを持つ固定された289の要求に対して、平均遅延は4Bモデルで44.16ms、より小さなモデルで約33--34msである。
96ケースの既知の流通パイロットでは、温度スケーリングにより、期待されるマルチクラスブライアが0.628から0.550に減少し、キャリブレーション誤差が0.213から0.089に低下する。
111のJevbench-Hardアイテムに対する信頼に基づくハンドオフ調査では、42項目をAtria-Dawn-Previewにルーティングすることで、82/111(73.87%)から97/111(87.39%)に精度が向上する。
また、定性的ゲーム、ビジュアルインターフェース、ブラウザのデモについても記述する。
これらの結果は、より大きなエージェントシステムの実用的なコンポーネントとして、コンパクトな決定モデルをサポートする。
関連論文リスト
- Fast Models, Slow Evidence: A Paired and Self-Audited Evaluation of System-1 Decision Models for LLM Agent Harnesses [6.778374627376906]
System-1決定モデルは、クラス確率で単一のフォワードパスでそのような質問に答える。
オープンウェイト (Laya) モデルとホスト (Jev) System-1 モデルとのペア評価を行った。
論文 参考訳(メタデータ) (2026-10-01T05:57:14Z) - Blackboard Intelligence Can Surpass Autoregressive on Globally Constrained Problems [66.45282692810375]
我々は,次世代の予測が,複雑なグローバル制約によって支配される問題に苦しむことができるかどうかを考察する。
我々は、このアイデアを拡散言語モデルでインスタンス化し、任意の順序予測インターフェースが部分的に満たされた解状態の予測を公開する。
我々のキーとなる観察は、標準的なマスク付き拡散目標から得られる単純なモデル内部量である平均信頼度が、グローバルコヒーレンスに有用なプロキシを提供することである。
論文 参考訳(メタデータ) (2026-09-30T02:37:20Z) - Benchmarking System One decision models against trained classifiers and language models for automated decision gates [1.089614199781423]
1つのハーネスは6つのファミリーから8つの決定モデルチェックポイントを送信する。
タスクラベルでは、細調整されたDeBERTa-v3-largeが最も精度が高い。
その結果、自動決定ゲートの条件依存ルールが得られる。
論文 参考訳(メタデータ) (2026-09-29T19:57:59Z) - Greedy Decoding Is Not Precision-Invariant: Cross-Precision Output Divergence in LLM Inference [13.137699166830322]
大規模言語モデルからのグレディ復号は、一般に決定論的として扱われる。
同一のモデル,プロンプト,デコードアルゴリズムは同一のハードウェア上で,BF16とFP16の異なる出力を生成する。
実験により,22層に蓄積したボディーエラーは,浮動小数点数と浮動小数点数とを区別しないことがわかった。
論文 参考訳(メタデータ) (2026-09-22T15:54:16Z) - AVT-Fabric: Active Visuo-Tactile Perception via Adaptive Evidence Selection for Efficient Robotic Fabric Comparison [50.18779315745876]
AVT-Fabricは、各比較の難しさに応じて触覚証拠を割り当てるRGBファーストフレームワークである。
400のホールドアウト比較において、AVT-Fabricはコンパクトな7Bマルチモーダル大言語モデルで98.0%の精度を達成した。
このフレームワークは実際のロボットシステムにもデプロイされており、8つのアプリケーションシナリオのうち7つのシナリオで78.1%のペアのランキング精度と正しい布地選択を実現している。
論文 参考訳(メタデータ) (2026-09-18T06:43:04Z) - AgentWeave: Routing Before Reasoning for Efficient Function Calling in Tool-Rich Language Models [0.0]
我々は,有界モデル可視アクション空間を構成する決定論的事前推論ルーティング層であるAgentWeaveを紹介する。
オールツールの露出とは対照的に、AgentWeaveは70.18%のツールを減らし、61.70%の入力トークンを減らし、平均的なローカルモデルのレイテンシを50.95%低下させる。
論文 参考訳(メタデータ) (2026-08-24T10:38:08Z) - Off-the-Shelf LLMs as Process Scorers: Training-Free Alternative to PRMs for Mathematical Reasoning [51.88950852117154]
Chunk-Level Guided Generationは、既製の大規模言語モデルをプロセススコアラとして使用する、トレーニング不要の代替手段である。
本研究では,系統的な長さバイアスのため,大モデル確率の可変長推論ステップが信頼できないことを示す。
Chunk-Level Guided Generation は PRM guided search よりもかなり短い推論トレースを生成する。
論文 参考訳(メタデータ) (2026-06-01T04:43:36Z) - Visual Aesthetic Benchmark: Can Frontier Models Judge Beauty? [59.923111838399144]
本稿では,視覚的審美性ベンチマーク (VAB) を提案する。
VABには400のタスクと1,195のイメージが芸術、写真、イラストに含まれており、ラベルはタスクごとに10人の独立した専門家審査員のコンセンサスから導かれる。
最強のシステムは、人間の専門家が達成した68.9%よりもはるかに低い26.5%のタスクで、候補順の3つのランダムな順で、最良の画像と最悪の画像の両方を正しく識別する。
論文 参考訳(メタデータ) (2026-05-12T19:33:28Z) - HuggingR$^{4}$: A Progressive Reasoning Framework for Discovering Optimal Model Companions [50.61510609116118]
HuggingR$4$は、Reasoning、Retrieval、Refinement、Reflectionを組み合わせて効率的にモデルを選択する新しいフレームワークである。
作業性率は92.03%、理性率は82.46%に達し、それぞれ26.51%、33.25%を超える。
論文 参考訳(メタデータ) (2025-11-24T03:13:45Z) - Entropy Adaptive Decoding: Dynamic Model Switching for Efficient Inference [0.0]
本稿では,効率的な言語モデル推論のための新しいアプローチであるEntropy Adaptive Decoding (EAD)を提案する。
EADは予測の不確実性に基づいて、異なるサイズのモデル間で切り替える。
異なるモデルファミリー間で顕著な効率向上を示す。
論文 参考訳(メタデータ) (2025-02-05T22:15:21Z) - Confidence-Based Model Selection: When to Take Shortcuts for
Subpopulation Shifts [119.22672589020394]
モデル信頼度がモデル選択を効果的に導くことができるConfidence-based Model Selection (CosMoS)を提案する。
我々はCosMoSを,データ分散シフトのレベルが異なる複数のテストセットを持つ4つのデータセットで評価した。
論文 参考訳(メタデータ) (2023-06-19T18:48:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。