論文の概要: Think Smart, Not Hard: Difficulty Adaptive Reasoning for Large Audio Language Models

• arxiv url: http://arxiv.org/abs/2509.21960v1
• Date: Fri, 26 Sep 2025 06:49:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-29 20:57:54.244444
• Title: Think Smart, Not Hard: Difficulty Adaptive Reasoning for Large Audio Language Models
• Title（参考訳）: スマートでハードではない - 大規模オーディオ言語モデルに対する適応推論の難しさ
• Authors: Zhichao Sheng, Shilin Zhou, Chen Gong, Zhenghua Li,
• Abstract要約: 大規模音声言語モデル(LALM)は、顕著な推論能力を示している。 LALMの難易度適応推論法を提案する。
• 参考スコア（独自算出の注目度）: 28.578488403845146
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Audio Language Models (LALMs), powered by the chain-of-thought (CoT) paradigm, have shown remarkable reasoning capabilities. Intuitively, different problems often require varying depths of reasoning. While some methods can determine whether to reason for a given problem, they typically lack a fine-grained mechanism to modulate how much to reason. This often results in a ``one-size-fits-all'' reasoning depth, which generates redundant overthinking for simple questions while failing to allocate sufficient thought to complex ones. In this paper, we conduct an in-depth analysis of LALMs and find that an effective and efficient LALM should reason smartly by adapting its reasoning depth to the problem's complexity. To achieve this, we propose a difficulty-adaptive reasoning method for LALMs. Specifically, we propose a reward function that dynamically links reasoning length to the model's perceived problem difficulty. This reward encourages shorter, concise reasoning for easy tasks and more elaborate, in-depth reasoning for complex ones. Extensive experiments demonstrate that our method is both effective and efficient, simultaneously improving task performance and significantly reducing the average reasoning length. Further analysis on reasoning structure paradigm offers valuable insights for future work.
• Abstract（参考訳）: 大型オーディオ言語モデル(LALM)は、チェーン・オブ・シント(CoT)パラダイムによって実現されており、顕著な推論能力を示している。 直感的には、異なる問題はしばしば様々な推論の深さを必要とする。 特定の問題を推論するかどうかを判断できる方法もあるが、一般的には、推論の程度を調節するきめ細かいメカニズムが欠如している。 これはしばしば '`1-size-fits-all'' 推論の深さをもたらし、複雑な問題に対して十分な思考を割り当てることに失敗しながら、単純な問題に対して冗長な過度な考えを生み出す。 本稿では, LALMの詳細な解析を行い, 効率の良いLALMは, その推論深度を問題の複雑さに適応させることで, 合理的に理屈を立案することを見出した。 そこで本研究では,LALMの難易度適応推論手法を提案する。 具体的には、モデルが認識する問題難易度に推論長を動的にリンクする報酬関数を提案する。 この報酬は、簡単なタスクに対する短く簡潔な推論を奨励し、複雑なタスクに対するより精巧で詳細な推論を奨励する。 大規模実験により,本手法は有効かつ効率的であり,タスク性能を同時に向上し,平均推論長を著しく低減することを示した。 推論構造パラダイムに関するさらなる分析は、将来の研究に有用な洞察を与える。

関連論文リスト

• Frontier LLMs Still Struggle with Simple Reasoning Tasks [53.497499123166804]
  この研究は、フロンティア言語モデルの性能を、幅広い「容易」推論問題に対して研究する。 計算,一階述語論理,証明木,旅行計画など,手続き的に生成された単純な推論タスクのスイートを作成します。 最先端の思考モデルでさえ、このような問題や同様の理由で一貫して失敗することを示します。
  論文  参考訳（メタデータ） (2025-07-09T22:22:49Z)
• Thinkless: LLM Learns When to Think [57.857534644932194]
  推論モデル(Reasoning Language Models)は、複雑な論理的推論を必要とするタスクにおいて顕著な性能を示す。 我々は,LLMが短文推論と長文推論を適応的に選択できる学習可能なフレームワークであるThinklessを提案する。 Minerva Algebra、MATH-500、GSM8Kなどのベンチマークでは、Thinklessはロングチェーン思考の使用を50%から90%削減することができる。
  論文  参考訳（メタデータ） (2025-05-19T17:24:16Z)
• Between Underthinking and Overthinking: An Empirical Study of Reasoning Length and correctness in LLMs [52.405085773954596]
  大規模な言語モデル(LLM)は、単純な問題を克服し、不要に長いアウトプットを生成し、より難しいものを過小評価する傾向にある。 これは、モデルが問題の難しさを誤認し、応答長を適切に調整できないことを示唆している。 実験の結果, 許容精度を維持しつつ, 生成時間を大幅に短縮できることがわかった。
  論文  参考訳（メタデータ） (2025-04-30T18:48:06Z)
• Think When You Need: Self-Adaptive Chain-of-Thought Learning [20.22448368125018]
  思考の連鎖(CoT)推論は言語モデルの性能を高めるが、単純な問題では非効率な「過剰思考」につながることが多い。 推論長を直接罰する既存の手法は、様々な問題の複雑さを考慮に入れない。 提案手法は,解の正しさと簡潔さを両立させる理論的な仮定によって導かれる,長さと品質の比較を通じて報酬を構成する。
  論文  参考訳（メタデータ） (2025-04-04T07:34:01Z)
• FReM: A Flexible Reasoning Mechanism for Balancing Quick and Slow Thinking in Long-Context Question Answering [18.213334065233465]
  FReM: Flexible Reasoning Mechanism(フレキシブル推論機構)は,各質問の複雑さに応じて推論深度を調整する手法である。 具体的には、FReMは合成参照QAの例を利用して、明確な思考の連鎖を提供し、単純なクエリの効率的な処理を可能にする。 7つのQAデータセットの実験から、FReMは推論精度とスケーラビリティ、特に複雑なマルチホップ問題を改善することが示されている。
  論文  参考訳（メタデータ） (2025-03-29T06:20:12Z)
• On Memorization of Large Language Models in Logical Reasoning [70.94164038947078]
  大きな言語モデル(LLM)は、挑戦的な推論ベンチマークで優れたパフォーマンスを達成するが、基本的な推論ミスを発生させることもできる。 1つの仮説は、より高度でほぼ飽和した性能は、類似した問題の記憶が原因ではないかというものである。 微調整は暗記を重くするが,常に一般化性能を向上することを示す。
  論文  参考訳（メタデータ） (2024-10-30T15:31:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。