論文の概要: Switch-Reasoner: Learn When to Think in Multitask Mixtures via Reinforcement Learning
- arxiv url: http://arxiv.org/abs/2607.08572v1
- Date: Thu, 09 Jul 2026 15:04:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.574072
- Title: Switch-Reasoner: Learn When to Think in Multitask Mixtures via Reinforcement Learning
- Title(参考訳): Switch-Reasoner:強化学習を通してマルチタスクミキサーで考えることを学ぶ
- Abstract要約: MLLMの推論モードを適応的に選択するフレームワークであるSwitch-Reasonerを提案する。
仮想ツールの呼び出しとして思考を扱い、モデルが直接答えるか、答える前に明示的な推論を呼び出すことができる。
11のマルチモーダルタスクの実験は、Switch-Reasonerが強い性能を維持しながら不要な推論を減らすことを示す。
- 参考スコア(独自算出の注目度): 72.45536737928015
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multimodal Large Language Models (MLLMs) often follow a fixed Think-then-Answer paradigm, which is inefficient in heterogeneous multitask settings because simple inputs may not require explicit reasoning while difficult ones can benefit substantially from it. Learning when to think is also unstable during post-training, where imbalanced rollouts can drive the model toward always-thinking or always-direct behavior. We propose Switch-Reasoner, a GRPO-based framework that learns to adaptively select reasoning modes for MLLMs. It treats thinking as a virtual tool invocation and allows the model to either answer directly or invoke explicit reasoning before answering. To stabilize this decision, we introduce a dual-level regulation mechanism that balances the overall use of Thinking Mode and Direct Mode while providing sample-level supervision based on the relative benefit of the two choices. Experiments on 11 multimodal tasks show that Switch-Reasoner reduces unnecessary reasoning while maintaining strong performance, achieving a better accuracy-efficiency trade-off.
- Abstract(参考訳): MLLM(Multimodal Large Language Models)はしばしば固定されたThink-then-Answerパラダイムに従うが、これは不均一なマルチタスク設定では非効率である。
不均衡なロールアウトによって、モデルを常に考えていたり、常に間接的な行動へと導くことができる。
MLLMの推論モードを適応的に選択するGRPOベースのフレームワークであるSwitch-Reasonerを提案する。
仮想ツールの呼び出しとして思考を扱い、モデルが直接答えるか、答える前に明示的な推論を呼び出すことができる。
この決定を安定させるために,2つの選択の相対的利益に基づいて,サンプルレベルの監視を提供しながら,思考モードと直接モードの全体的使用のバランスをとる二重レベル規制機構を導入する。
11のマルチモーダルタスクの実験では、Switch-Reasonerは高い性能を維持しながら不要な推論を低減し、精度と効率のトレードオフを向上している。
関連論文リスト
- AdaptR1: Reinforcement Learning Based Adaptive Interleaved Thinking in Multi-hop Question Answering [76.52199013231484]
マルチホップ質問回答(QA)における適応的インターリーブド思考のための強化学習(RL)に基づくフレームワークAdaptR1を紹介する。
Graph-R1設定では、AdaptR1は平均的なシンクトークンを69.71%削減し、HotpotQAは90.35%削減された。
分析の結果,マルチホップ推論における過度な思考は,一様分布ではなく,初期計画段階で主に発生することが明らかとなった。
論文 参考訳(メタデータ) (2026-05-29T09:34:45Z) - MMEmb-R1: Reasoning-Enhanced Multimodal Embedding with Pair-Aware Selection and Adaptive Control [36.06412693943508]
適応型推論に基づくマルチモーダル埋め込みフレームワークであるMMEmb-R1を提案する。
我々は、潜在変数としての推論を定式化し、クエリターゲットアライメントに有用な推論経路を特定するためにペア認識推論選択を導入する。
MMEB-V2ベンチマーク実験により,本モデルでは4Bパラメータのみを用いて71.2のスコアを達成し,推論のオーバーヘッドと推論遅延を大幅に低減し,新たな最先端技術を確立した。
論文 参考訳(メタデータ) (2026-04-07T17:55:17Z) - Learning to Think Fast and Slow for Visual Language Models [29.91277432114863]
本稿では,タスクの難易度に応じて,視覚言語モデルで高速・低速な思考モードを切り替える,シンプルなRLアプローチを提案する。
我々のモデルはDualMindVLMと呼ばれ、ベースモデルよりも大幅に優れ、最先端のビジュアル推論モデルと同等の性能を発揮する。
論文 参考訳(メタデータ) (2025-11-20T18:59:48Z) - Directional Reasoning Injection for Fine-Tuning MLLMs [51.53222423215055]
マルチモーダルな大言語モデル(MLLM)は急速に進歩しているが、その推論能力は強いテキストのみのモデルよりも遅れていることが多い。
このギャップを埋める既存の方法は、大規模マルチモーダル推論データや強化学習の監督された微調整に依存している。
この問題を解決するために,DRIFT(Directional Reasoning Injection for Fine-Tuning)を提案する。
論文 参考訳(メタデータ) (2025-10-16T18:06:46Z) - Fractional Reasoning via Latent Steering Vectors Improves Inference Time Compute [60.151643048803145]
本稿では,推論時の推論強度を連続的に制御するフレームワークであるフラクショナル推論を提案する。
提案手法は, より深い推論を伴う潜在ステアリングベクトルを抽出し, 調整可能なスケーリング係数で再適用することによって機能する。
GSM8K、MATH500、GPQAの実験により、フラクショナル推論は様々な推論タスクやモデルのパフォーマンスを一貫して改善することを示した。
論文 参考訳(メタデータ) (2025-06-18T21:15:59Z) - Incentivizing Dual Process Thinking for Efficient Large Language Model Reasoning [75.04643265875072]
大規模推論モデル(LRM)は複雑な推論タスクに対して強い性能を示してきたが、しばしば過度に考えることに悩まされている。
認知科学における二重プロセス理論に着想を得て,適応認知政策最適化を提案する。
ACPOは、適応的な認知アロケーションと動的システムスイッチによって、LRMの効率的な推論を可能にする。
論文 参考訳(メタデータ) (2025-05-22T07:15:08Z) - Thinkless: LLM Learns When to Think [57.857534644932194]
推論モデル(Reasoning Language Models)は、複雑な論理的推論を必要とするタスクにおいて顕著な性能を示す。
我々は,LLMが短文推論と長文推論を適応的に選択できる学習可能なフレームワークであるThinklessを提案する。
Minerva Algebra、MATH-500、GSM8Kなどのベンチマークでは、Thinklessはロングチェーン思考の使用を50%から90%削減することができる。
論文 参考訳(メタデータ) (2025-05-19T17:24:16Z) - Learning When to Think: Shaping Adaptive Reasoning in R1-Style Models via Multi-Stage RL [36.40577746211243]
大規模推論モデル(LRM)は、最終的な答えを生成する前に、明示的でステップバイステップの推論シーケンスを生成するのに熟練している。
この過度に考える問題に対処するため、適応的思考能力を備えたLEMの装備方法について検討する。
推論ポリシーを段階的に最適化する多段階強化学習フレームワークであるAutoThinkを提案する。
論文 参考訳(メタデータ) (2025-05-16T04:01:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。