Fugu-MT 論文翻訳(概要): Self-Boosting Vision-Language Models with Noisy Student On-Policy Self-Distillation

論文の概要: Self-Boosting Vision-Language Models with Noisy Student On-Policy Self-Distillation

arxiv url: http://arxiv.org/abs/2607.23125v2
Date: Fri, 31 Jul 2026 04:34:57 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-03 16:35:22.19963
Title: Self-Boosting Vision-Language Models with Noisy Student On-Policy Self-Distillation
Title（参考訳）: ノイズのある学生による自己発声型ビジョンランゲージモデル
Abstract要約: ポストトレーニングにより、視覚言語モデルは人間の指示を理解し、下流のタスクを実行することができる。現在のポストトレーニング方法は、人間の注釈付きデータ、外部モデルからの蒸留、人間のフィードバックによる強化学習、あるいは検証可能な回答に依存している。本研究では,NOPD(Noisy Students On-Policy Self-Distillation)を提案する。
参考スコア（独自算出の注目度）: 19.151284372150993
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Post-training enables vision-language models (VLMs) to understand human instructions and perform various downstream tasks. Current post-training methods usually rely on human-annotated data, distillation from external models, reinforcement learning with human feedback, or verifiable answers. This limits their ability to improve without external supervision. To tackle this, we propose NOPD (Noisy Student On-Policy Self-Distillation), a simple yet effective self-distillation approach that improves VLMs without any external models or ground-truth answers. Our key insight is that prediction discrepancies between clean and corrupted inputs naturally induce a self-supervision signal. In NOPD, the model learns from corrupted inputs while using its own predictions under clean inputs as token-level supervision. We show the effectiveness of NOPD on five visual reasoning tasks; it can match and even outperform reinforcement learning approaches or distillation from external models. Notably, when trained with 2.1K samples from Geometry3K, NOPD improves Qwen2.5-VL-7B by 20 points on its validation set. It also shows generalization on out-of-distribution test sets and achieves 7.4 point gains on MathVista. Furthermore, we demonstrate that NOPD is a general approach to enhance VLMs, achieving improvements across three models on 12 benchmarks.
Abstract（参考訳）: ポストトレーニングにより、視覚言語モデル(VLM)は人間の指示を理解し、様々な下流タスクを実行することができる。現在のポストトレーニング法は通常、人間の注釈付きデータ、外部モデルからの蒸留、人間のフィードバックによる強化学習、あるいは検証可能な回答に依存している。これにより、外部の監督なしに改善できる能力が制限される。そこで本研究では,NOPD(Noisy Students On-Policy Self-Distillation)を提案する。私たちの重要な洞察は、クリーンな入力と破損した入力の差は自然に自己超越シグナルを誘導するということです。 NOPDでは、クリーンな入力の下で独自の予測をトークンレベルの監視として使用しながら、破損した入力から学習する。本研究では,5つの視覚的推論課題におけるNOPDの有効性を示す。特に、Geometry3Kから2.1Kサンプルをトレーニングすると、NOPDは検証セットでQwen2.5-VL-7Bを20ポイント改善する。また、配布外テストセットの一般化を示し、MathVistaで7.4ポイントゲインを達成する。さらに,NOPDはVLMを改良するための一般的なアプローチであり,12ベンチマークで3つのモデルにまたがる改善を実現していることを示す。

関連論文リスト

OPD-V: Visual On-Policy Self-Distillation with Modality Balance [60.972871141106886]
On-Policy Self-Distillation (OPSD)は、大規模言語モデル(MLLM)における視覚的推論を改善するための訓練後の標準的なアプローチとなっている。既存の方法は、様々な入力源から特権情報を引き出し、自己蒸留を誘導する。我々は,視覚的OPSDパラダイムであるOPD-Vを紹介し,正の教師と負の教師を通してそのような情報をインスタンス化する。
論文参考訳（メタデータ） (2026-08-05T17:53:06Z)
BUS: Brain-Inspired Unsupervised Self-Reflection via Backward Prediction for Multimodal Reasoning [24.83825156656872]
現在の視覚言語モデル(VLM)は、一貫性ときめ細かい推論を必要とする複雑な視覚的タスクを扱うのに苦労することが多い。近年の手法は、自己回帰的推論、すなわち生成された推論のレビューと改善を促進するためにモデルを訓練することを目的としている。対照的に、人間は後方予測のようなメカニズムを通じて明示的で効率的な自己回帰を行う。
論文参考訳（メタデータ） (2026-07-08T12:56:39Z)
Confidence-Orchestrated Self-Evolution against Uncertain LLM Feedback [8.780008955074967]
自己進化型大規模言語モデル(LLM)は、独自のトレーニングタスクとソリューションを生成し、人事監督への依存を減らすことで学習する。我々は,LLMの本質的信頼度を軽度不確実性信号として用いて学習を変調するCOSE(Confidence-Orchestrated Self-Evolution)を提案する。
論文参考訳（メタデータ） (2026-05-27T06:07:10Z)
Learn to Think: Improving Multimodal Reasoning through Vision-Aware Self-Improvement Training [82.17582358979884]
多モーダル大規模言語モデル(MLLM)の推論能力を改善するために、明示的推論トレースを用いた後学習が一般的である。 MLLMのマルチモーダル推論を強化するための視覚対応型自己改善学習フレームワークであるVISTAを提案する。
論文参考訳（メタデータ） (2026-05-12T10:44:35Z)
Thinking with Deltas: Incentivizing Reinforcement Learning via Differential Visual Reasoning Policy [75.66913260900726]
検証可能なリワードによる強化学習は、大規模言語モデルにおいてかなり高度な推論能力を持っている。既存のパラダイムは、テキスト中心の成果報酬によって推進され、モデルが視覚的知覚をバイパスすることを奨励します。我々はtextbfDifferential Visual Reasoning Policy によって駆動されるフレームワーク Deltas を用いた textbfThinking を提案する。
論文参考訳（メタデータ） (2026-01-11T08:25:34Z)
Agent0-VL: Exploring Self-Evolving Agent for Tool-Integrated Vision-Language Reasoning [52.99434388759101]
ツール統合推論による継続的改善を実現する自己進化型視覚言語エージェントを提案する。 Agent0-VLは、ツールの使用法を推論だけでなく、自己評価や自己修復にも取り入れている。実験の結果,Agent0-VLはベースモデルよりも12.5%向上していることがわかった。
論文参考訳（メタデータ） (2025-11-25T04:15:14Z)
Self-Consistency as a Free Lunch: Reducing Hallucinations in Vision-Language Models via Self-Reflection [71.8243083897721]
視覚言語モデルは、しばしば詳細を幻覚させ、既存のオブジェクトを生成するか、出力信頼性を損なう不正確な属性を生成する。本稿では、長文応答と短文応答の自己整合性を利用して、学習のための選好ペアを生成する新しいフレームワークを提案する。
論文参考訳（メタデータ） (2025-09-27T10:37:11Z)
VL-Rethinker: Incentivizing Self-Reflection of Vision-Language Models with Reinforcement Learning [55.97950660659051]
我々は(蒸留に頼らずに)強化学習による視覚言語モデルの遅い思考能力の向上を目指す。我々は、RLトレーニングにおけるロールアウトの最後に再考トリガートークンを付加し、自己回帰推論ステップを明示的に実施する強制再考(Forced Rethinking)を導入する。我々のモデルであるVL-Rethinkerは、MathVista、MathVerseの最先端スコアを80.4%、63.5%に向上させています。
論文参考訳（メタデータ） (2025-04-10T17:41:56Z)
Self-Correction is More than Refinement: A Learning Framework for Visual and Language Reasoning Tasks [43.96835245022083]
モデルにアウトプットを洗練させる自己補正は、この問題に対する有望な解決策である。本研究では,視覚言語モデルの推論および微調整段階における自己補正能力について検討した。
論文参考訳（メタデータ） (2024-10-05T06:28:54Z)
Self-Judge: Selective Instruction Following with Alignment Self-Evaluation [27.69410513313001]
提案手法は, 予測された応答品質が低い場合, 命令の実行を減少させる。人手による品質スコアを必要とせずに、判断モデルを開発するための新しい自己学習フレームワークであるSelf-Jを紹介する。
論文参考訳（メタデータ） (2024-09-02T04:14:13Z)
Entailment as Robust Self-Learner [14.86757876218415]
我々は、複数の異なるNLUタスクを文脈的エンターテイメントとして定式化するプロンプト戦略を設計する。自己学習における擬似ラベル品質向上のための簡易擬似ラベル編集(SimPLE)アルゴリズムを提案する。
論文参考訳（メタデータ） (2023-05-26T18:41:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。