論文の概要: Preference-Aware Pareto Steering for Multi-Task Speech LLMs

• arxiv url: http://arxiv.org/abs/2610.27200v1
• Date: Mon, 19 Oct 2026 19:35:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-21 21:58:47.482218
• Title: Preference-Aware Pareto Steering for Multi-Task Speech LLMs
• Title（参考訳）: マルチタスク音声LLMにおける優先性を考慮したパレートステアリング
• Abstract要約: 音声大言語モデル(LLM)の共同訓練はタスクトレードオフを生成する。 固定損失重み付き標準トレーニングは、一般的にデプロイメントの好みに応じて結果として生じるトレードオフを制御しない。 そこで本研究では,スカラライズ重みを適応させてタスクのトレードオフを反映させる手法を提案する。
• 参考スコア（独自算出の注目度）: 31.867615421164572
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Speech large language models (LLMs) perform multiple tasks, including automatic speech recognition (ASR), timestamp prediction (TS), and speech translation (ST). Joint training of speech LLMs creates task trade-offs, yet standard training with fixed loss weights does not generally control the resulting trade-off according to deployment preferences. To address this, we propose Endpoint-Anchored Preference-Aware Sampling Uniformly along the Pareto Front (EA-SURF), an a priori method that adapts scalarization weights so that the resulting task trade-off reflects the desired preference. EA-SURF retains the standard weighted-loss training pipeline, tracking the current model's performance relative to each task-specific reference and adapting the scalarization weights as training proceeds. We theoretically show that EA-SURF can match a desired preference, with the update becoming stationary at the target under checkable regularity conditions. Across six three-objective speech LLM requests, EA-SURF empirically converges toward the requested targets and increases endpoint-inclusive normalized hypervolume by 17.8% over fixed loss weighting.
• Abstract（参考訳）: 音声大言語モデル(LLM)は、自動音声認識(ASR)、タイムスタンプ予測(TS)、音声翻訳(ST)など、複数のタスクを実行する。 音声LLMの合同訓練はタスクトレードオフを生成するが、固定損失重み付き標準訓練は、デプロイメントの好みに応じて結果のトレードオフを制御しない。 そこで本研究では,パレートフロント(EA-SURF)に沿って一様にサンプリングするエンドポイント・アンコレッド・Preference-Aware Smplingを提案する。 EA-SURFは標準の重み付きトレーニングパイプラインを保持し、各タスク固有の参照に対して現在のモデルのパフォーマンスを追跡し、トレーニングが進むにつれてスカラー化重みを調整する。 理論的には、EA-SURFは所望の嗜好と一致し、更新はチェック可能な正則性条件下で目標に定常となる。 EA-SURF は6つの三目的音声 LLM 要求にまたがって、要求されたターゲットに対して実験的に収束し、固定損失重み付けよりもエンドポイント包含正規化ハイパーボリュームを17.8%増加させる。

関連論文リスト

• VESPO: Variational Sequence-Level Soft Policy Optimization for Stable Off-Policy LLM Training [18.849117699859622]
  訓練安定性は、大規模言語モデルの強化学習における中心的な課題である。 変動周波数レベルのソフトポリシー最適化(VESPO)を提案する。 数学的推論ベンチマークの実験では、VESPOは安定なトレーニングを64倍の安定度と完全な非同期実行で維持している。
  論文  参考訳（メタデータ） (2026-02-11T09:48:08Z)
• BOTS: A Unified Framework for Bayesian Online Task Selection in LLM Reinforcement Finetuning [82.925106913459]
  強化微調整(Reinforcement Finetuning, RFT)は、大規模言語モデル(LLM)を人間の嗜好と整合させ、推論を強化するための重要な手法である。 RFT強化微調整におけるベイズオンラインタスク選択のための統合フレームワークBOTSを紹介する。
  論文  参考訳（メタデータ） (2025-10-30T11:15:23Z)
• Reinforce-Ada: An Adaptive Sampling Framework for Reinforce-Style LLM Training [47.26632817047513]
  大規模言語モデル(LLM)に推論タスクに適用された強化学習は、不安定な勾配推定によってボトルネックとなることが多い。 LLMのオンラインRLポストトレーニングのための適応型サンプリングフレームワークであるReinforce-Adaを提案する。 従来の2段階配置法とは異なり、Reinforce-Adaはオンライン連続除去プロセスにおける推定とサンプリングをインターリーブする。
  論文  参考訳（メタデータ） (2025-10-06T16:34:09Z)
• TapWeight: Reweighting Pretraining Objectives for Task-Adaptive Pretraining [34.93043212352875]
  TapWeightはタスク適応型事前学習フレームワークで、各事前学習対象の最適な重要性を自動的に決定する。 我々はTapWeightを分子特性予測と自然言語理解タスクの両方に適用し,ベースライン法をはるかに上回った。
  論文  参考訳（メタデータ） (2024-10-13T20:56:13Z)
• One QuantLLM for ALL: Fine-tuning Quantized LLMs Once for Efficient Deployments [43.107261545706415]
  大規模言語モデル(LLM)は急速に進歩しているが、かなりのメモリ需要に直面している。 現在の方法では、量子化損失によるパフォーマンス劣化を軽減するために、通常、長いトレーニングが必要です。 我々は、一度限りのフレームワークを大規模言語モデルに拡張する最初の試みを行っている。
  論文  参考訳（メタデータ） (2024-05-30T16:05:15Z)
• Sparse is Enough in Fine-tuning Pre-trained Large Language Models [98.46493578509039]
  我々はSparse Increment Fine-Tuning (SIFT) という勾配に基づくスパース微調整アルゴリズムを提案する。 GLUE Benchmark や Instruction-tuning などのタスクで有効性を検証する。
  論文  参考訳（メタデータ） (2023-12-19T06:06:30Z)
• Self-regulating Prompts: Foundational Model Adaptation without Forgetting [112.66832145320434]
  本稿では,PromptSRCと呼ばれる自己正規化フレームワークを提案する。 PromptSRCはタスク固有の汎用表現とタスクに依存しない汎用表現の両方に最適化するプロンプトを導く。
  論文  参考訳（メタデータ） (2023-07-13T17:59:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。