論文の概要: MMPostTrainBench: Benchmarking Autonomous Research for Multimodal Post-Training
- arxiv url: http://arxiv.org/abs/2610.05398v1
- Date: Sun, 04 Oct 2026 17:32:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 14:05:12.122463
- Title: MMPostTrainBench: Benchmarking Autonomous Research for Multimodal Post-Training
- Title（参考訳）: MMPostTrainBench:マルチモーダルポストトレーニングのための自律的研究のベンチマーク
- Abstract要約: LLMエージェントは機械学習と言語モデルポストトレーニングの自動化を約束するが、マルチモーダル改善を維持する能力は未だ不明である。
MMPostTrainBenchは、画像、音声、ビデオ、共同音声映像理解と画像地上ソフトウェア修復の8つのタスクにまたがるベンチマークである。
評価は、ターゲットモデルと非ターゲットモデルの結果、反復モデルの改善と選択、研究の完全性をカバーする。
- 参考スコア（独自算出の注目度）: 37.86472029294709
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous research seeks sustained model improvements through iterative experimentation and feedback. LLM agents show promise in automating machine learning and language-model post-training, but their ability to sustain multimodal improvement remains unclear. We introduce MMPostTrainBench, a benchmark spanning eight tasks in image, audio, video, and joint audio-video understanding and image-grounded software repair. Agents operate from a common base model within fixed budgets, using development feedback before independent evaluation of their submitted models. Evaluation covers target and non-target model outcomes, iterative model improvement and selection, and research integrity. Across all eight tasks, 52.1% of model--task means fall below the base, and evaluated submissions also exhibit non-target regressions. Model performance does not consistently improve across research iterations, and agents do not reliably select the best evaluated candidate for submission; final submissions trail that candidate by up to 5.38 percentage points. Extending autonomous research from text-only to multimodal tasks introduces additional sources of error in perception, cross-modal alignment, and temporal grounding. The observed regressions and selection gaps highlight the need to balance targeted improvements with non-target capability preservation and to retain gains across research iterations. These requirements motivate MMResearch, a multimodal research framework that connects media-grounded evidence to hypotheses and interventions, carries findings across rounds through hierarchical memory, and retains candidates using development evaluation. Added to existing code-agent runtimes, it improves submitted-model accuracy by up to 7.75 percentage points for Claude Opus 4.8 with Claude Code and 2.33 points for GPT-5.6-sol with Codex.
- Abstract（参考訳）: 自律的な研究は反復的な実験とフィードバックを通じて持続的なモデルの改善を求める。
LLMエージェントは機械学習と言語モデルポストトレーニングの自動化を約束するが、マルチモーダル改善を維持する能力は未だ不明である。
MMPostTrainBenchは、画像、音声、ビデオ、共同音声映像理解と画像地上ソフトウェア修復の8つのタスクにまたがるベンチマークである。
エージェントは、提出されたモデルの独立した評価の前に開発フィードバックを使用して、固定予算内で共通のベースモデルから操作する。
評価は、ターゲットモデルと非ターゲットモデルの結果、反復モデルの改善と選択、研究の完全性をカバーする。
8つのタスクの合計で、52.1%のモデルタスクはベースを下回ることを意味し、評価された応募は非ターゲット回帰も示している。
モデルの性能は研究の繰り返しを通して一貫して改善されておらず、エージェントは最も評価された候補を確実に選ばず、最終的な応募は最大5.38ポイントまで追従する。
テキストのみからマルチモーダルタスクへの自律的な研究の拡張は、知覚におけるエラー、相互モーダルアライメント、時間的グラウンドリングのさらなる源泉をもたらす。
観察されたレグレッションと選択のギャップは、目標とする改善を目標外の能力保存とバランスさせ、研究イテレーション全体で利益を維持する必要性を強調している。
これらの要求はMMResearchを動機付け、メディアを根拠とした証拠を仮説や介入に結びつけるマルチモーダルな研究フレームワークで、階層的記憶を通じて各ラウンドで発見を行い、開発評価を用いて候補を維持できる。
既存のコードエージェントランタイムに加えて、Claude Opus 4.8では最大7.75ポイント、Claude Codeでは2.33ポイント、GPT-5.6-solではコーデックスでは2.33ポイントである。
関連論文リスト
- SEDIMA: Cross-Run Hierarchical Insight Memory for Evolutionary Search Agents [7.626650770346068]
SEDIMAは進化的検索エージェントのための永続的な階層的インサイトメモリである。
生の痕跡を自然言語の洞察に抽出し、注意重み付きセントロイドを用いて意味的類似性によってクラスタリングし、将来の突然変異を条件付けるための関連するガイダンスを取得する。
AlgoTuneでは平均5.5%、ALL-Bench LITEでは6.6%、評価候補は100である。
論文 参考訳（メタデータ） (2026-10-01T18:38:31Z) - RSIBench-Data: Benchmarking Data-Centric Research for Recursive Self-Improvement [27.641105176473136]
既存のベンチマークは、最適化、サービス、評価、システム実装と研究上の決定を結びつける。
我々は、LLMエージェントのベンチマークであるRSIBench-Dataを、固定された後学習スタックを持つデータ中心の研究者として紹介する。
ソフトウェア工学,端末利用,科学的質問応答,数学の6つのベンチマークで,フロンティアエージェントを4つ評価した。
論文 参考訳（メタデータ） (2026-07-28T15:46:41Z) - Selector-Guided Autonomous Curriculum for One-Shot Reinforcement Learning from Verifiable Rewards [0.0]
RLVR(Reinforcement Learning from Verifiable Rewards)は,Large Language Models(LLMs)の算数推論スキルを増強するための,非常に効果的な手法として確立されている。
静的な報酬分散の代わりに、成功確率、報酬分散、出力の不一致、意味的困難度からなる多次元特徴空間上で学習可能なセレクタモデルを用いるセレクタガイド自律カリキュラム(SGAC)アプローチを提案する。
我々のフレームワークはHendrycks MATHベンチマークを用いて評価され、Qwen2.5-Math-1.5Bモデルがベースラインとして機能する。
論文 参考訳（メタデータ） (2026-05-03T11:10:01Z) - KARL: Knowledge Agents via Reinforcement Learning [63.627906947205624]
本稿では,強化学習による企業検索エージェントの訓練システムを提案する。
KARLBenchは、6つの異なる検索レギュレーションにまたがる多機能評価スイートである。
異種探索行動で訓練されたモデルは、どのベンチマークにも最適化されたモデルよりもかなりよく一般化されていることを示す。
論文 参考訳（メタデータ） (2026-03-05T14:30:25Z) - SPARK: Stepwise Process-Aware Rewards for Reference-Free Reinforcement Learning [39.1720897614261]
密度の高いステップレベルのフィードバックを提供するプロセス報酬モデル(PRM)は、強化学習の可能性を示している。
筆者らはSPARK(SPARK)という3段階のフレームワークを提案し、第1段階ではジェネレータモデルが多様な解を生成し、検証器モデルがそれらを評価する。
ステップレベルで複数の独立した検証を集約することで、根底的な結果管理を超越したプロセス報酬モデルのトレーニングデータが得られることを示す。
論文 参考訳（メタデータ） (2025-12-02T21:30:47Z) - Reinforce LLM Reasoning through Multi-Agent Reflection [8.088795955922656]
DPSDPは,自己生成データを直接選好学習することで,アクタクリティカルなLLMシステムを反復的に洗練する強化学習アルゴリズムである。
理論的には、DPSDPはトレーニング分布内の任意のポリシーのパフォーマンスと一致させることができる。
例えば、ベンチマークMATH 500では、5つの改良ステップ以上の多数投票がミニストラーモデルで第1回投票の精度を58.2%から63.2%に向上させた。
論文 参考訳（メタデータ） (2025-06-10T02:43:47Z) - VisualPRM: An Effective Process Reward Model for Multimodal Reasoning [76.35753243272521]
既存のマルチモーダル大言語モデル(MLLM)の推論能力を改善するVisualPRMを導入する。
我々のモデルは7つのマルチモーダル推論ベンチマークで5.9ポイントの改善を実現している。
マルチモーダルPRMの評価のために,人間に注釈付きステップワイズラベルを付したベンチマークであるVisualProcessBenchを提案する。
論文 参考訳（メタデータ） (2025-03-13T12:03:37Z) - MALT: Improving Reasoning with Multi-Agent LLM Training [67.76186488361685]
MALT(Multi-Agent LLM Training)は、推論プロセスを生成、検証、改善ステップに分割する、新しいポストトレーニング戦略である。
MATH、GSM8K、CSQAでは、MALTは、それぞれ15.66%、7.42%、9.40%の相対的な改善で同じベースラインLLMを上回っている。
論文 参考訳（メタデータ） (2024-12-02T19:30:36Z) - Tool-Augmented Reward Modeling [58.381678612409]
本稿では,外部環境へのアクセスによるRMの強化により,制約に対処するツール拡張された嗜好モデリング手法であるThemisを提案する。
我々の研究は、外部ツールをRMに統合し、様々な外部ソースとの相互作用を可能にすることを目的としている。
人間の評価では、テミスで訓練されたRLHFはベースラインと比較して平均32%の勝利率を得る。
論文 参考訳（メタデータ） (2023-10-02T09:47:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。