論文の概要: Summarize, Judge, Refine: Decoupled Content Understanding and Policy Learning for Multimodal Content Moderation

• arxiv url: http://arxiv.org/abs/2609.22094v1
• Date: Thu, 06 Aug 2026 23:28:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.693216
• Title: Summarize, Judge, Refine: Decoupled Content Understanding and Policy Learning for Multimodal Content Moderation
• Title（参考訳）: 要約, 判事, リファイン:マルチモーダルコンテンツモデレーションのためのコンテンツ理解と政策学習の分離
• Abstract要約: Summarize-Judge-Refineは構造化されたテキスト要約を生成し、テキストのみのポリシーモデルがポリシー定義に対してそれらを分類する。 反復的協調学習ループは、GRPOを介してコンテンツモデルを洗練し、ポリシー関連要約を生成する。 誤解を招く広告検出において、SJRはゼロショットチェーンのベースラインで23.6%の相対的非ミスリーディングF1を達成し、エンドツーエンドのSFT、STaR/RFT、RLFTを上回っている。
• 参考スコア（独自算出の注目度）: 5.835772828346176
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Content moderation systems traditionally entangle multimodal understanding with policy-specific classification, requiring full pipeline retraining for every policy change and suffering from label scarcity since multimedia cannot be meaningfully augmented. We propose Summarize-Judge-Refine (SJR), a two-model architecture that decouples these concerns via a natural language interface: a multimodal Content Model produces structured text summaries, and a text-only Policy Model classifies them against policy definitions. An iterative co-training loop refines the Content Model via GRPO to produce policy-relevant summaries, while text-space augmentation generates adversarial summary variants---an augmentation pathway impossible on raw multimedia---enabling few-shot policy bootstrap. Every decision is grounded in a human-readable summary, providing interpretability as a structural byproduct. On misleading advertisement detection, SJR achieves +23.6\% relative non-misleading F1 over a zero-shot chain-of-thought baseline, outperforming end-to-end SFT, STaR/RFT, and RLFT. Notably, a variant trained on zero real violating examples---with all positive-class data synthetically generated---matches the full-data model within 0.2\% relative on violating F1, demonstrating that new policies can launch without any real violation data.
• Abstract（参考訳）: コンテンツモデレーションシステムは、伝統的に、ポリシー固有の分類とマルチモーダルな理解を結び付け、すべてのポリシー変更に対して完全なパイプライン再訓練を必要とし、マルチメディアを有意義に拡張できないため、ラベル不足に悩まされる。 マルチモーダルコンテンツモデルが構造化されたテキスト要約を生成し,テキストのみのポリシーモデルがポリシー定義に対してそれらを分類する,2モデルアーキテクチャであるSummarize-Judge-Refine(SJR)を提案する。 反復的コトレーニングループは、GRPOを介してコンテンツモデルを洗練し、ポリシー関連サマリーを生成する一方、テキストスペース拡張は逆サマリのバリエーションを生成する。 すべての決定は、構造的副産物として解釈可能性を提供する、人間可読の要約に基礎を置いている。 誤解を招く広告検出において、SJRは、ゼロショットチェーンのベースラインに対して+23.6\%の相対非ミスリーディングF1を達成し、エンドツーエンドのSFT、STaR/RFT、RLFTを上回っている。 特に、ゼロ実違反の例に基づいてトレーニングされた変種 -- すべての正のクラスデータが合成生成された -- は、F1違反の相対値0.2\%以内のフルデータモデルと一致し、新しいポリシーが実際の違反データなしで起動できることを実証する。

関連論文リスト

• MetaRSI / RSI2: A Meta-Recursive Self-Improving System for Recursive Self-Improving Systems Themselves [65.60481414910728]
  再帰的な自己改善により、システムは自身の失敗からモデル構築機械を改善することができる。 しかし、RSIは、科学のQAや数学のようなコーディングと形式的なベンチマークにのみ検証されている。 RSIは次に、科学的、工学的、メタ科学的な領域にまたがって運用されなければならない、と我々は主張する。 本稿では,MetaRSI-v1を提案する。改良は,1つの統一パラダイム上での3つの型付き演算子のスケジュール構成である。
  論文  参考訳（メタデータ） (2026-09-06T05:15:31Z)
• Improving Generalization Robustness of Multimodal RLVR [44.35945134924193]
  Reinforcement Learning with Verifiable Rewardsは、大きな言語モデルをより正確にするが、利益は不安定である。 動的三項報酬と整合正則化器からなるPIRL(Prompt-Invariant RLVR)を提案する。 ストレステストでは、ベンチマークにおけるPIRLの平均精度はわずか$le 1%ほど低下し、GRPOは3%低下した。
  論文  参考訳（メタデータ） (2026-08-09T16:36:42Z)
• sui-1: Grounded and Verifiable Long-Form Summarization [0.10888485668490162]
  大規模言語モデルは、ユーザーがソーステキストに対して検証できない、もっともらしいが不誠実な要約を生成する。 Inline citations を用いた抽象的な要約を生成する 24B パラメータモデル sui-1 を提案する。 我々の合成データパイプラインは、チェーン・オブ・シークレットとマルチステージ検証を組み合わせ、22,000以上の高品質なトレーニング例を生成します。
  論文  参考訳（メタデータ） (2026-01-13T11:59:15Z)
• Group-Relative REINFORCE Is Secretly an Off-Policy Algorithm: Demystifying Some Myths About GRPO and Its Friends [64.71326476563213]
  大規模言語モデル(LLM)の非政治強化学習が注目されている。 本稿では,特定のトレーニングデータ分布を仮定することなく,グループ化型REINFORCEの第一原理導出について述べる。 この観点は、REINFORCEを非政治的な設定に適応するための2つの一般的な原則をもたらす。
  論文  参考訳（メタデータ） (2025-09-29T02:34:54Z)
• Text as Any-Modality for Zero-Shot Classification by Consistent Prompt Tuning [10.744123073654544]
  汎用表現モデルを構築するためのスケーラブルなアプローチであるTaAM-CPT(Consistent Prompt Tuning)を用いてテキストをAny-Modalityとして提示する。 TaAM-CPTは、事前訓練されたモデルからモダリティ・プロンプト・プール、テキスト構成、モダリティ・アライン・テキスト・エンコーダを構成する。 異なるモダリティ間の学習を調和させるため、TaAM-CPTはモーダル内およびモーダル間学習の目的を設計する。
  論文  参考訳（メタデータ） (2025-08-08T15:13:05Z)
• MICINet: Multi-Level Inter-Class Confusing Information Removal for Reliable Multimodal Classification [57.08108545219043]
  また,Multi-Level Inter-Class Confusing Information removal Network (MICINet) と呼ばれるマルチモーダル分類手法を提案する。 MICINetは、これらのノイズをクラス間統合情報(textitICI)の概念に統合し、グローバルレベルと個人レベルのノイズを除去することで、信頼性の高いノイズ除去を実現している。 4つのデータセットの実験により、MICINetは様々なノイズ条件下で、他の最先端の信頼性の高いマルチモーダル分類方法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2025-02-27T01:33:28Z)
• Imagine-2-Drive: Leveraging High-Fidelity World Models via Multi-Modal Diffusion Policies [9.639797094021988]
  World Model-based Reinforcement Learning (WMRL)は、効率的な政策学習を可能にする。 マルチモーダル拡散型ポリシーアクタと高忠実度世界モデルを統合する新しいWMRLフレームワークであるImagine-2-Driveを提案する。 DiffDreamer内のDPAをトレーニングすることにより,オンラインインタラクションを最小限に抑えた堅牢なポリシー学習を実現する。
  論文  参考訳（メタデータ） (2024-11-15T13:17:54Z)
• Generating EDU Extracts for Plan-Guided Summary Re-Ranking [77.7752504102925]
  要約候補を生成して1つの要約を返す2段階のアプローチでは、標準的な単一ステップアプローチよりもROUGEスコアを改善することができる。 これらの問題に対処する再ランク付け候補を生成するための新しい手法を設計する。 広く使われている単一文書ニュース記事コーパスにおいて,以前に公表された手法よりも大きな関連性を示した。
  論文  参考訳（メタデータ） (2023-05-28T17:22:04Z)
• Offline RL With Realistic Datasets: Heteroskedasticity and Support Constraints [82.43359506154117]
  非均一な変数を持つデータから、典型的なオフライン強化学習手法が学習できないことを示す。 提案手法は,Atariゲーム,ナビゲーション,ピクセルベースの操作において,多種多様なオフラインRL問題にまたがる性能向上を図っている。
  論文  参考訳（メタデータ） (2022-11-02T11:36:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。