論文の概要: LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation

• arxiv url: http://arxiv.org/abs/2609.11739v1
• Date: Thu, 10 Sep 2026 15:53:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.439979
• Title: LOCUS: Task-Aware Low-Rank Post-Training for Token-Efficient Language Generation
• Title（参考訳）: LOCUS:Token-Efficient Language 生成のためのタスク対応低ランク後訓練
• Abstract要約: 学習後更新のパラメータ化が生成時間に与える影響について検討した。 本稿では,タスク対応の低ランク適応部分空間を選択し,出力トーケンコストを最小限に抑える方法であるLOCUSを提案する。
• 参考スコア（独自算出の注目度）: 0.9179857807576733
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Large language model serving costs scale directly with output sequence length, yet standard preference alignment often inflates response verbosity without improving utility. We study whether the parameterization of post-training updates affects generation length: low-rank subspaces alter sequence length without modifying the alignment loss. We present LOCUS, a method that selects a task-aware low-rank adaptation subspace to minimize output-token cost subject to a utility constraint. Within this subspace, post-training retains the native preference objective with a frozen backbone. Across Anthropic HH-RLHF dialogue preferences, we evaluate two $\sim$3B decoder backbones, Pythia-2.8B and Qwen2.5-3B, against protocol-matched full-parameter DPO and DrDPO branches and the released SamPO checkpoint. LOCUS reduces continuation length by up to 39.84\% on Pythia-2.8B and by 14.87--17.58\% on Qwen2.5-3B while updating only 0.24--0.28\% of model parameters, with no material change in the internal preference diagnostic.
• Abstract（参考訳）: 大規模な言語モデル提供コストは出力シーケンスの長さで直接スケールするが、標準的な優先順位付けは、実用性を改善することなく応答の冗長性を増大させる。 トレーニング後更新のパラメータ化が生成時間に影響するかどうかを検討する。 LOCUS はタスク対応の低ランク適応部分空間を選択して,実用性制約の対象となる出力トーケンコストを最小限に抑える手法である。 このサブスペース内では、ポストトレーニングは、凍結したバックボーンでネイティブな好みの目的を維持します。 人為的HH-RLHF対話の選好において、プロトコルに適合したフルパラメータDPOおよびDrDPOブランチと、リリースされたSamPOチェックポイントに対して、Pythia-2.8BとQwen2.5-3Bの2つの$\sim$3Bデコーダバックボーンを評価した。 LOCUSは、Pythia-2.8Bで39.84\%、Qwen2.5-3Bで14.87-17.58\%まで継続期間を短縮し、モデルパラメータの0.24-0.28\%しか更新せず、内部の嗜好診断に物質的変化はない。

関連論文リスト

• TAAL: Mitigating Early Beam Pruning in Generative Recommendation via Temporal Autoregressive Alignment [11.416581885243964]
  生成レコメンデーションは、アイテムを階層的セマンティック識別子(SID)としてエンコードし、自動回帰デコーディングを通じて次のアイテムを検索する。 しかし、標準的な次トーケン予測では、相互作用系列に存在するマルチモーダル遷移を明示的にカバーしておらず、初期のビーム探索枝における不可逆プルーニングに弱いSIDを残している。 この問題を解決するために,時間的自己回帰アライメント(TAAL)を提案する。 Amazon Beauty、Yelp、およびAmazon Instrumentsでは、TAALは標準ベースラインのNDCG@10をそれぞれ39.5%、6.7%、28.6%改善し、フルに増加している。
  論文  参考訳（メタデータ） (2026-08-29T10:11:47Z)
• Nanbeige4.2-3B on Apple Silicon: Fixing Deployment Bugs and Decreasing Looped Transformer Memory Overhead [0.5076419064097732]
  Nanbeige4.2-3BはLooped Transformer (LT) を中心に構築され、第2のフォワードパスのために1つのスタック層を再利用する。 これらのバグの修正は、エージェント的なタスクにはまだ不十分であることを示す。 チャンクド・プレフィル戦略を導入し,メモリ不足の軽減を図る。
  論文  参考訳（メタデータ） (2026-08-14T06:05:26Z)
• Function-Aware Fill-in-the-Middle as Mid-Training for Coding Agent Foundation Models [49.259951930558]
  コーディングエージェントは、継続的な推論に外部ツールリターンを統合する必要がある。 我々は,中等教育における機能意識の充足を通じてこれを活用する。
  論文  参考訳（メタデータ） (2026-07-14T07:44:26Z)
• More Than Memory: Task-Conditioned Signed FFN Writes in Long-Context Retrieval [3.5863289126242837]
  FFN残差書き込みが現在の検索状態を正しい回答から遠ざけるかどうかを検証する。 コントロールされたリテラルとセマンティック検索スイート全体において、ネイティブFFN応答面は署名され、層固有であり、タスク条件付きである。 その結果、ネイティブFFNスケーリングは、検索において署名されたタスク条件の残差書き込み構造を公開することがわかった。
  論文  参考訳（メタデータ） (2026-06-27T10:21:07Z)
• Off-the-Shelf LLMs as Process Scorers: Training-Free Alternative to PRMs for Mathematical Reasoning [51.88950852117154]
  Chunk-Level Guided Generationは、既製の大規模言語モデルをプロセススコアラとして使用する、トレーニング不要の代替手段である。 本研究では,系統的な長さバイアスのため,大モデル確率の可変長推論ステップが信頼できないことを示す。 Chunk-Level Guided Generation は PRM guided search よりもかなり短い推論トレースを生成する。
  論文  参考訳（メタデータ） (2026-06-01T04:43:36Z)
• Agent Explorative Policy Optimization for Multimodal Agentic Reasoning [97.64835302176056]
  エージェント推論は2つの行動と構造的非対称性(思考と道具の使用)をインターリーブする。 GRPOのような標準的なRLレシピでは、ギャップはトレーニング中に2つの診断症状として現れる。 AXPO (Agent eXplorative Policy Optimization) を提案する。
  論文  参考訳（メタデータ） (2026-05-27T17:36:39Z)
• Delay-Adaptive Speculation Control for Low-Latency Edge-Cloud LLM Inference [20.720083078911486]
  分散エッジクラウドでは、ドラフトの長さをオンラインでコントロールする必要がある。 最適ドラフト長は有限遅延単調閾値であることを示す。 本手法は,Jetson Orin Nano Super edge nodeと3090 Ti Cloud nodeを用いて実エッジクラウドテストベッド上で実装する。
  論文  参考訳（メタデータ） (2026-05-17T07:15:30Z)
• Label-Free Cross-Task LoRA Merging with Null-Space Compression [50.63908869296697]
  我々は,ラベルフリーで出力に依存しない手法であるNull-Space Compression (NSC) Mergingを紹介した。 NSCは、従来のメソッドがタスクのサブセットに収まるバランスの取れたゲインを持つ20の異種視覚タスクに対して、最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-03-27T11:34:41Z)
• Predicting Rewards Alongside Tokens: Non-disruptive Parameter Insertion for Efficient Inference Intervention in Large Language Model [66.66687830336255]
  オッターは、複数の需要のあるタスクに対して最先端のパフォーマンスを提供し、86.5%の余剰スペースと98.5%の余剰時間を節約している。 Otterは既存の推論エンジンとシームレスに統合され、1行のコードの変更しか必要としない。
  論文  参考訳（メタデータ） (2024-08-20T12:00:35Z)
• Self-Play Preference Optimization for Language Model Alignment [75.83359213697854]
  近年の進歩は、嗜好の確率で直接作業することで、人間の嗜好をより正確に反映できることを示している。 本稿では,言語モデルアライメントのためのセルフプレイ方式を提案する。 我々の手法はSPPO(Self-Play Preference Optimization)と呼ばれ、繰り返しポリシー更新を利用してナッシュ均衡を確実に近似する。
  論文  参考訳（メタデータ） (2024-05-01T17:59:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。