論文の概要: Manifold Bandits: Bayesian Curriculum Learning over the Latent Geometry of Large Language Models

• arxiv url: http://arxiv.org/abs/2606.19750v1
• Date: Thu, 18 Jun 2026 03:31:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.63232
• Title: Manifold Bandits: Bayesian Curriculum Learning over the Latent Geometry of Large Language Models
• Title（参考訳）: マニフォールド帯域:大規模言語モデルの潜在幾何学に関するベイズカリキュラム学習
• Authors: Darrien McKenzie, Nicklas Hansen, Xiaolong Wang,
• Abstract要約: 強化学習(Reinforcement Learning, RL)は、大規模言語モデルにおける推論能力向上のための中心的なアプローチである。 内在性非定常性を持つ多様体構造バンドイット問題として問題サンプリングを行う。 異なるサンプリング戦略は生産性(学習信号)、多様性(タスク多様体の被覆)、有用性の間の非自明なトレードオフを引き起こす。
• 参考スコア（独自算出の注目度）: 11.051532211938556
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reinforcement learning (RL) is a central approach for improving reasoning capabilities in large language models (LLMs), where training efficiency depends critically on how problems are sampled during optimization. Existing adaptive curriculum learning methods typically prioritize prompts of intermediate difficulty, treating problem selection as a standard bandit problem with independent arms and overlooking the structured, heterogeneous nature of the task space. In this work, we frame problem sampling as a manifold-structured bandit problem with endogenous non-stationarity: problems are related through the model's latent representation space, and sampling decisions can steer how learning signals evolve across that space. To operationalize this perspective, we introduce Bayesian Manifold Curriculum (BMC), a structure-aware framework that organizes problems into a hierarchical task tree and applies Bayesian learning to guide sampling. Empirically, we find that different sampling strategies induce non-trivial tradeoffs between productivity (learning signal), diversity (coverage of the task manifold), and utility (evaluation relevance). These results show that prioritizing difficulty alone is insufficient for strong downstream performance, highlighting the importance of incorporating structure and type-awareness into problem sampling.
• Abstract（参考訳）: 強化学習(Reinforcement Learning, RL)は、大規模言語モデル(LLM)における推論能力向上のための中心的なアプローチである。 既存の適応的なカリキュラム学習手法は、典型的には中間的困難のプロンプトを優先し、問題選択を独立したアームの標準バンドイト問題として扱い、タスク空間の構造的、異種性を見越す。 本研究では,内在的非定常性を持つ多様体構造バンドイット問題として問題サンプリングを行う。 この視点を運用するために,階層的なタスクツリーに問題を整理する構造対応フレームワークであるBayesian Manifold Curriculum (BMC)を導入し,サンプリングのガイドにBayesian Learningを適用した。 実験的に、異なるサンプリング戦略が生産性(学習信号)、多様性(タスク多様体の被覆)、有用性(評価関連性)の非自明なトレードオフを引き起こすことが判明した。 これらの結果から, ダウンストリーム性能を向上するためには, 難易度のみの優先順位付けが不十分であることが示唆され, 問題サンプリングに構造と型認識を組み込むことの重要性が強調された。

関連論文リスト

• UniICL: Systematizing Unified Multimodal In-context Learning through a Capability-Oriented Taxonomy [99.95663439922937]
  文脈内学習の有効性は、しばしば単調でタスクに依存しない。 実証の機能的役割を分類する6段階の能力指向分類法を導入する。 大規模コーパスであるUniICL-760Kを構築する。 アーキテクチャの介入として、コンテキスト適応型プロトタイプモジュレータを提案する。
  論文  参考訳（メタデータ） (2026-03-25T18:09:33Z)
• MSA-Thinker: Discrimination-Calibration Reasoning with Hint-Guided Reinforcement Learning for Multimodal Sentiment Analysis [5.1150258716324055]
  マルチモーダル感情分析は、テキスト、聴覚、視覚のモダリティを統合することで人間の感情を理解することを目的としている。 CoT(Chain-of-Thought)推論を取り入れた既存の手法は、高いアノテーションコストによって妨げられる。 本研究では,Hintに基づく強化学習と構造化識別校正(DC)推論を統合した新しい学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-03-10T12:48:41Z)
• In-Context Learning Is Provably Bayesian Inference: A Generalization Theory for Meta-Learning [51.56484100374058]
  本稿では,ICLリスクをベイズギャップとポストリアバリアンスの2つのコンポーネントに分割する基本的リスク分解を導入する。 一様アテンション変換器の場合、このギャップの非漸近上界を導出し、事前学習プロンプトの数への依存を明確にする。 後方変動は本質的なタスクの不確実性を表すモデルに依存しないリスクである。
  論文  参考訳（メタデータ） (2025-10-13T03:42:31Z)
• Tailored Teaching with Balanced Difficulty: Elevating Reasoning in Multimodal Chain-of-Thought via Prompt Curriculum [39.57901536686932]
  MCoT(Multimodal Chain-of-Thought)プロンプトは、ランダムまたは手動で選択された例によって制限されることが多い。 本稿では,「バランスのとれた教養」という教育原理に着想を得た新しい枠組みを提案する。 提案手法は, モデル認識難易度を, アクティブな学習環境における予測不一致による定量化と, 任意のモデルから独立して各質問画像対の難易度を測定する内在的なサンプル複雑性の2つの相補的信号を統合する。
  論文  参考訳（メタデータ） (2025-08-26T04:32:15Z)
• On Distributional Dependent Performance of Classical and Neural Routing Solvers [5.359176539960004]
  NCOは、問題インスタンスの基本的な分布を学習することで、問題のクラスを学習することを目指している。 この研究は、学習する問題インスタンスの分布を定式化するための新しいアプローチを探求し、さらに重要なのは、サンプルされた問題インスタンスに構造を植え付けることである。 我々は,本課題における代表的NCO手法と専門的なオペレーションリサーチメタを評価し,固定基底ノード分布から引き出されたサブサンプルから学習すると,ニューラルルーティングソルバと高度に専門化されたメタヒューリスティックスのパフォーマンスギャップが減少することを示した。
  論文  参考訳（メタデータ） (2025-08-04T15:17:08Z)
• Feature-Based vs. GAN-Based Learning from Demonstrations: When and Why [50.191655141020505]
  この調査は、デモから学ぶ機能ベースのアプローチとGANベースのアプローチの比較分析を提供する。 特徴に基づく手法とGANに基づく手法の2分法はますます曖昧になっていると我々は主張する。
  論文  参考訳（メタデータ） (2025-07-08T11:45:51Z)
• Unlocking the Potential of Difficulty Prior in RL-based Multimodal Reasoning [69.64809103333839]
  先行情報に対する問題の難易度を明示的にモデル化し,多モーダル推論における強化学習に基づく微調整の有効性を検証した。 提案手法は,2段階学習データのみを2K+0.6Kとする多モード数学的推論ベンチマークにおいて有意な性能を示す。
  論文  参考訳（メタデータ） (2025-05-19T15:43:10Z)
• Causally Aligned Curriculum Learning [69.11672390876763]
  本稿では、因果レンズによるカリキュラムRLの問題について検討する。 因果的に整合したソースタスクを特徴付ける十分なグラフィカルな条件を導出する。 因果整合型カリキュラムを生成するための効率的なアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2025-03-21T02:20:38Z)
• Learning Robust Representation for Clustering through Locality Preserving Variational Discriminative Network [16.259673823482665]
  Variational Deep Embeddingは、さまざまなクラスタリングタスクで大きな成功を収めます。 VaDEは,1)入力ノイズに弱い,2)隣接するデータポイント間の局所性情報を無視する,という2つの問題に悩まされている。 強固な埋め込み判別器と局所構造制約によりvadeを改善する共同学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-12-25T02:31:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。