論文の概要: Fewer Tokens, More Answers: Verifiable-Reward Tuning of an Ornith-Style VLM for Multi-View Driving QA
- arxiv url: http://arxiv.org/abs/2611.00833v2
- Date: Tue, 03 Nov 2026 03:56:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-04 23:36:30.436103
- Title: Fewer Tokens, More Answers: Verifiable-Reward Tuning of an Ornith-Style VLM for Multi-View Driving QA
- Title(参考訳): マルチビュー駆動型QAのためのオルニススタイルVLMの検証-リワードチューニング
- Abstract要約: 推論可能なモデルデリバティブは、中間的な議論をデプロイメント予算内で有用な答えにする必要があります。
我々は,マルチカメラ駆動型質問応答に適応したオルニスチェックポイントの遷移を検証可能な報酬で検討した。
これらの結果は,有限予算下での回答提供の適応であり,明示的な選択と証明の限界があると考えられる。
- 参考スコア(独自算出の注目度): 1.8352113484137627
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reasoning-enabled model derivatives must turn intermediate deliberation into a usable answer within a deployment budget. We study that transition in an Ornith checkpoint adapted to multi-camera driving question answering with verifiable rewards. Paired archived outputs show that, on a selected 400-question development screen with a 256-token cap, GRPO increases answer extraction from 78.25% to 90.25% and accuracy from 55.50% to 63.75%. Of 39 wrong-to-correct transitions, 33 begin with an unextractable base response. The base's 87 unextractable responses all reach the token cap. Checkpoint-verified reconstruction on those same questions gives a much smaller first-pass accuracy gain at 512 tokens: +0.75 percentage points, versus +8.25 at 256. A later answer-cued continuation is analyzed separately; it helps the base more and narrows the adapter difference. On the full 2,511-question development set, this recovery-enabled pipeline reduces mean generated tokens from 108.6 to 47.1, while the paired accuracy interval includes zero gain. We frame these findings as adaptation of answer delivery under finite budgets, with explicit selection and provenance limits. Ornith's self-scaffolding lineage and newer reasoning-enabled derivatives such as Bonsai motivate the problem, but our measured results concern Ornith alone and do not establish a shared architectural mechanism or cross-model transfer.
- Abstract(参考訳): 推論可能なモデルデリバティブは、中間的な議論をデプロイメント予算内で有用な答えにする必要があります。
我々は,マルチカメラ駆動型質問応答に適応したオルニスチェックポイントの遷移を検証可能な報酬で検討した。
Paired Archiveed outputsによると、256トンの上限を持つ選択された400個の検索開発画面では、GRPOは回答抽出を78.25%から90.25%に増加し、精度は55.50%から63.75%に向上している。
39の間違った遷移のうち、33は抽出不能な塩基応答から始まる。
ベース87の取り外し不能な応答はすべてトークンキャップに到達する。
チェックポイントで検証されたこれらの質問に対する再構築は、512トークンでの初回通過精度がより小さく、+0.75ポイント、+8.25ポイントは256ポイントである。
後続の回答キューによる継続は別々に解析され、ベースをより強化し、アダプタの差を狭めるのに役立つ。
完全な2,511クエスト開発セットでは、このリカバリ可能なパイプラインは平均生成トークンを108.6から47.1に減らし、ペア化された精度間隔は0ゲインを含む。
これらの結果は,有限予算下での回答提供の適応であり,明示的な選択と証明の限界があると考えられる。
オルニスの自己展開系や、ボンサイのようなより新しい推論可能な導関数はこの問題を動機付けているが、我々の測定結果はオルニスのみに関係しており、共有アーキテクチャ機構やクロスモデル転送を確立していない。
関連論文リスト
- Concise-9B: Removing the Slack from a Reasoning Model's Thinking [51.56484100374058]
推論モデルは、より長く考えるとより良く答えるが、その答が作られた後も、思考の痕跡はうまく行き続ける。
このスラックをQwen3.5-9Bで測定し,その大部分を簡潔な自己学習で除去する。
ハードと確認セットの各トレースに2,048個の思考トークンに答えるように強制すると、Qwen3.5-9Bの思考トークンの54-64%は、全ての強制回答が最終トークンに等しい点から来る。
論文 参考訳(メタデータ) (2026-11-01T23:02:43Z) - Selective Reasoning for Typed Decision Models: When to Start, Read, and Stop [3.1338205029171426]
凍結したQwen3.5-4Bのバックボーン上で、共有候補回答リーダーをトレーニングし、オンデマンドで割り込み可能な推論と直接決定を統一する。
ProofWriter, LogiQA 2.0, ARC-Challenge の 768 質問に対して, 直接読解の精度は 70.96% から84.38% に向上した。
論文 参考訳(メタデータ) (2026-10-14T06:13:42Z) - Answer with Evidence: Consistency-Aware Grounded Visual Question Answering for Roadside Traffic Scenes [74.32863692381677]
RoadSceneVQA-Gは34.7Kの質問応答対のベンチマークである。
RoadSceneVQA-Gは34.7Kの質問応答対のベンチマークである。
論文 参考訳(メタデータ) (2026-10-04T14:48:54Z) - VIGIL: Verifier-Informed Gated Improvement Loop for Spreadsheet Question Answering [6.4443425508730625]
企業エージェントは、すべての修正がシステムの振る舞いを書き換えることなく、遅延したフィードバックから改善すべきである。
コーパスレベルのスプレッドシート質問応答に対する連続的ハーネス学習について検討した。
金のワークブックと期待されたタイプが供給されたことにより、アンゲートとデュアルゲートのフルリプレイは79の文書に対して82.4%と82.0%の精度に達した。
論文 参考訳(メタデータ) (2026-10-03T04:41:40Z) - AERA: Adaptive Evidence Residual Allocation for Efficient Test-Time Reasoning [22.964476507912327]
テストタイムスケーリングは、追加の候補ソリューションを生成することによって言語モデル推論を改善するが、すべての問題に同じ推論予算を割り当てることは、計算的に無駄である。
チェックポイントレベルの正しさは非単調に進化し、解答が崩壊する前に観測可能な証拠が強化され、回復前に弱まる可能性があることを示す。
本稿では,チェックポイント・オブザーバブル・エビデンスから,さらなる計算がより良い解が得られるかどうかを学習するシーケンシャル・コントローラであるアダプティブ・エビデンス・レシデンス・アロケーション(AERA)を紹介する。
論文 参考訳(メタデータ) (2026-08-28T06:21:07Z) - Same Agent, Different Answers: A Repeat-Aware Audit of Corpus-Induced Answer Churn in Retrieval-Augmented QA [0.4351760066527804]
検索強化されたQAシステムは、要求されたモデル識別子、プロンプト、検索ポリシー、エビデンス深さ、レンダリング、露出した生成制御が固定された場合でも、インデックス展開後に異なる回答を返すことができる。
我々は、隠れた現象の正確さを正解とみなし、クロスショットの相違から反則を減じて過剰な解答を推定するemphSnapshot Compatibility Auditを導入する。
論文 参考訳(メタデータ) (2026-08-24T06:40:09Z) - Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
PointArena 2026は77.2%の精度でベンチマークで2位である。
ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。
次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
論文 参考訳(メタデータ) (2026-06-29T06:39:03Z) - Right Makes Might: Aligning Verified Hidden States Empowers RL Reasoning [55.264863369127774]
現在の方法では、それぞれの正しいロールアウトを単一の報酬ビットに減らし、隠れた状態間で共有される幾何学的構造を無視している。
本稿では,RLトレーニングにおけるアンカートークンにおける正ロールアウトの最終層を,トレーニングと推論の両方においてゼロオーバーヘッドで整列する補助損失関数Hidden-Alignを提案する。
8つの数学的推論ベンチマークでは、Hidden-AlignはDAPOベースラインの平均パス@1をQwen3-1.7B, 4B, 14Bで3.8, 6.2, 5.4ポイント改善し、3つのスケールで一貫したパス@kゲインを得る。
論文 参考訳(メタデータ) (2026-06-02T06:51:15Z) - CEPO: RLVR Self-Distillation using Contrastive Evidence Policy Optimization [50.59956036193097]
検証可能な報酬(RLVR)を用いた強化学習における正しい解を生成するモデル
各トークンは、決定的な推論ステップであれ、文法的なフィラーであれ、同じ報酬信号を受信する。
コントラストエビデンスポリシー最適化(CEPO)を提案する。
CEPOは、全てのトークンに対してよりシャープな質問をする:「正しい答えは、このトークンを好むか?」が、「正しい答えは、正しい答えは、それを好む一方で、間違った答えはそれを好まないか?」。
論文 参考訳(メタデータ) (2026-05-19T06:46:19Z) - Step-wise Rubric Rewards for LLM Reasoning [72.17879367869503]
RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善するために広く使われている。
正しい回答の18.2%は間違っているが、肯定的な報酬がある。
6つの数学的推論ベンチマークで、SRaRはRaRの平均精度を3.57ポイント改善した。
論文 参考訳(メタデータ) (2026-05-17T07:08:14Z) - Correct, Concise and Complete: Multi-stage Training For Adaptive Reasoning [11.179446105672461]
教師付き微調整と強化学習を組み合わせた多段階効率的な推論手法を提案する。
提案手法は,8Bモデルでは平均28%,32Bモデルでは40%の応答長を減少させる。
より複雑な最先端の効率的な推論手法に比べて、優れたトレードオフを実現する。
論文 参考訳(メタデータ) (2026-01-06T12:31:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。