論文の概要: Live-OPSD: On-Policy Self-Distillation for Proactive Streaming Large Video Models
- arxiv url: http://arxiv.org/abs/2610.36959v1
- Date: Tue, 27 Oct 2026 10:18:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.563903
- Title: Live-OPSD: On-Policy Self-Distillation for Proactive Streaming Large Video Models
- Title(参考訳): Live-OPSD: Proactive Streaming Large Video Modelsのためのオンデマンドセルフ蒸留
- Abstract要約: 監視された微調整は、記録されたアシスタントターンから学習するが、進化するポリシー自体によって生成された応答プレフィックスを直接訓練することはない。
我々は,自給自給自足方式であるLive-OPSDを紹介した。
- 参考スコア(独自算出の注目度): 3.905910898234655
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Streaming multimodal assistants must make response decisions while events are still unfolding. They need to recognize when the available evidence warrants a response, produce an appropriate continuation, and remain silent otherwise. Supervised fine-tuning learns from recorded assistant turns, but does not directly train on the response prefixes produced by the evolving policy itself. We introduce Live-OPSD, an on-policy self-distillation method that uses privileged hints available only during training to supervise the policy on its own outputs. The policy first generates a continuation from the streaming context alone. The same model then re-evaluates that continuation with a hint describing the relevant evidence, and the resulting distributions guide the unhinted policy. On Qwen3-Omni-30B-A3B, Live-OPSD attains an average score of 59.64 on LiveProBench, 5.26 points above the strongest continued-SFT baseline, and stays competitive on OVO-Bench (65.84). These results indicate that guiding the policy on its own outputs with privileged hints improves both when and how a streaming assistant responds.
- Abstract(参考訳): マルチモーダルアシスタントのストリーミングは、イベントがまだ展開されている間に応答決定をしなければならない。
利用可能な証拠がいつ応答を保証し、適切な継続を生成し、それ以外は沈黙し続けるかを認識する必要がある。
監視された微調整は、記録されたアシスタントターンから学習するが、進化するポリシー自体によって生成された応答プレフィックスを直接訓練することはない。
我々は,自給自給自足方式であるLive-OPSDを紹介した。
ポリシーはまず、ストリーミングコンテキストのみから継続を生成する。
同じモデルは、関連する証拠を示すヒントでその継続を再評価し、その結果の分布は、意図しないポリシーを導く。
Qwen3-Omni-30B-A3Bでは、LiveProBenchで平均59.64点、最強の継続SFTベースラインより5.26点、OVO-Bench(65.84点)で競争力を維持している。
これらの結果から,特権的ヒントで独自の出力でポリシを導くことで,ストリーミングアシスタントの応答のタイミングと応答方法の両方が改善されることがわかった。
関連論文リスト
- PACE: Plan, Attend, Check, and Emit for Training-Free Response Timing in Streaming Video Understanding [6.705662131675339]
我々はチャンクワイズストリーミングエラーを3つのパターンに分類する: サンプリングのばらつきは、解答を不安定にし、安定した解答は、観察されたビデオのサポートを欠いているかもしれない、または、解答は、イベントが未完成のままである間に、現在の証拠によって支持されるかもしれない。
これら3つの障害モードを中心に設計されたトレーニングフリーフレームワークであるPACEを提案する。質問に対して、PACEは、何を観察し、何を完了させるかを示すプランを策定する。
ProactiveVideoQAとOVO-Bench Forwardの実験では、PACEはPAUCポイントの平均5.9、プロプライエタリおよびオープンソースのバックボーンの平均6.2まで、公式プロトコルよりも改善され、状態が得られている。
論文 参考訳(メタデータ) (2026-10-20T14:58:18Z) - Self-Evolving Coding Agents via Harness-Policy Optimization [59.77935668723671]
Self-HPOは、ハーネスとポリシー最適化を代替するコーディングエージェントのための自己改善フレームワークである。
3つのコーディングベンチマークで、Self-HPOはハーネスのみとポリシーのみのベースラインを一貫して上回っている。
Self-HPOはまた、信頼性(Pass@1)を改善し、ベースエージェント上の機能フロンティア(Pass@k)を拡張する。
論文 参考訳(メタデータ) (2026-10-16T01:07:52Z) - Reuse Before You Retrieve: Diagnosing Headroom and Complementarity for Test-Time Augmentation of Embodied Multimodal Policies [56.86456077356948]
凍結言語アクション(VLA)ポリシーは、テスト時に徐々に改善されている。
追加のサンプリングは、ポリシーのロールアウト内により優れた振る舞いが存在する場合にのみ有効である。
検索は、関連するアクションがポリシーによって確実に表現されない場合に最も有用である。
論文 参考訳(メタデータ) (2026-08-18T08:11:31Z) - Latent On-Policy Self-Distillation [55.57800223145407]
On-policy Self-distillation (OPSD) は、特権的な自己教育者を用いて、生徒自身の軌跡を集中的に管理することにより、効果的な経路を提供する。
既存の方法はまだデザイナーが指定した特権的アーティファクトに大きく依存している。
本稿では,教師の特権的文脈自体を経験から学習可能なエンド・ツー・エンドにするため,LOPD(Latent On-Policy Self-Distillation)を導入する。
論文 参考訳(メタデータ) (2026-08-13T10:05:51Z) - OpenLoopEvolve: A Verifiable Self-Evolution Framework for Loop Policies in Long-Horizon Complex Tasks [17.773038952370865]
本稿では,ループポリシーを中心とした自己進化フレームワークであるOpenLoopEvolve(OLE)について述べる。
OLEは、エージェントの観察、計画、記憶、行動、検証、回復、停止、予算管理を、バージョンと系統を持つポータブルなポリシー資産として表現する。
オンラインモードは連続的な操作からのフィードバックに基づいて候補生成をトリガーし、オフラインモードはアーカイブされたトレースと障害証拠から候補ポリシーを検索する。
論文 参考訳(メタデータ) (2026-08-10T09:57:26Z) - Behavior Uncloning: Distilling Mode Redirection into Policy Weights without Inference-Time Steering [28.889110668832984]
本稿では,ポリシーのロールアウトを望ましい行動モードにリダイレクトするMOREを提案する。
MoREは、当初の混合モードポリシーよりも平均デプロイメント成功率(SR)を44パーセント改善する。
論文 参考訳(メタデータ) (2026-06-28T05:01:27Z) - DiPOD: Diffusion Policy Optimization without Drifting Apart [88.2714417395158]
RLポストトレーニングは、拡散政策を改善するためにますます重要になっている。
既存の拡散政策段階的な手法はしばしば不安定であり、信頼性の高い政策改善を達成できない。
本稿では,トレーニングを通じて厳密な動作を維持する拡散ポリシー最適化フレームワークbftextDiPODを提案する。
論文 参考訳(メタデータ) (2026-06-11T18:06:04Z) - TTT-VLA: Test-Time Latent Prompt Optimization for Vision-Language-Action Models [49.463896453707065]
VLA(Vision-Language-Action)モデルは目覚ましい進歩を遂げているが、展開時の分散シフトには弱いままである。
近年のVLAモデルは、プロンプトが政策行動の効率的なインターフェースとして機能することを示唆しているが、既存のプロンプトベースのステアリングは通常、外部ガイダンスに依存している。
VLAのテストタイムトレーニング(TTT)は、プロンプトの最適化によって実現可能か?
我々は、遅延プロンプト最適化(LPO)に基づくテスト時間トレーニングフレームワークであるTTT-VLAでこの問題に対処する。
論文 参考訳(メタデータ) (2026-06-02T04:10:39Z) - Offline Reinforcement Learning with Implicit Q-Learning [85.62618088890787]
現行のオフライン強化学習手法では、トレーニング中に見つからない行動の価値を問い合わせて、ポリシーを改善する必要がある。
本稿では,データセット外の動作を評価する必要のないオフラインRL手法を提案する。
この方法により、学習したポリシーは、一般化によってデータの最良の振る舞いを大幅に改善することができる。
論文 参考訳(メタデータ) (2021-10-12T17:05:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。