論文の概要: Multimodal In-Context Learning with Explicit Rule Induction
- arxiv url: http://arxiv.org/abs/2610.41754v1
- Date: Fri, 30 Oct 2026 13:57:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.762341
- Title: Multimodal In-Context Learning with Explicit Rule Induction
- Title(参考訳): 明示的ルール誘導によるマルチモーダルインコンテキスト学習
- Abstract要約: ERIM, Explicit Rule-Induction for Multimodal In-Context Learningを提案する。
ERIMはルール中心のMICLデータセットを構築し、ルールインジェクションのための明示的な監督を導入し、明示的なルールインダクションを実行するための微調整MLLMを導入した。
実験では、様々なMICL設定で一貫したパフォーマンス向上を示し、基礎となるルールを正しく導き出すことが、より強く安定したパフォーマンスをもたらすことを示した。
- 参考スコア(独自算出の注目度): 33.13823420949616
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A central challenge in multimodal in-context learning (MICL) arises from tasks that are ill-defined without context and require uncovering the underlying rules from demonstrations. Existing methods predominantly treat MICL as direct input-output mapping, overlooking the importance of explicitly inducing and reasoning over such rules, limiting both performance and interpretability. We propose ERIM, Explicit Rule-Induction for Multimodal In-Context Learning, a unified framework that enhances MICL by explicitly inducing the latent rules governing demonstration samples. Leveraging the reasoning ability of multi-modal large language model (MLLM), ERIM constructs rule-centric MICL datasets, introduces explicit supervision for rule induction, and fine-tunes MLLM to perform explicit rule-induction via a two-stage training strategy that combines mixed cold-start supervised fine-tuning with reinforcement learning. Extensive experiments show consistent performance improvements across diverse MICL settings and demonstrate that correctly inducing underlying rules directly leads to stronger and more stable performance.
- Abstract(参考訳): マルチモーダル・イン・コンテキスト・ラーニング(MICL)における中心的な課題は、文脈なしに不定義であり、実証から基礎となるルールを明らかにする必要があるタスクから生じる。
既存の手法は主にMICLを直接入力出力マッピングとして扱い、そのようなルールを明示的に推論することの重要性を見落とし、性能と解釈可能性の両方を制限している。
ERIM, Explicit Rule-Induction for Multimodal In-Context Learningを提案する。
MLLM(Multi-modal large language model)の推論能力を活用して、ルール中心のMICLデータセットを構築し、ルール誘導のための明示的な監視を導入し、強化学習と混合コールトスタート教師付き微調整を組み合わせた2段階のトレーニング戦略を通じて、明示的なルール推論を実行するための微調整MLLMを導入する。
広範囲にわたる実験は、様々なMICL設定で一貫したパフォーマンス改善を示し、基礎となるルールを正しく導き出すことが、より強く安定したパフォーマンスをもたらすことを示した。
関連論文リスト
- Many-Shot CoT-ICL: Making In-Context Learning Truly Learn [58.439517684779936]
In-context Learning (ICL)は、パラメータを更新せずにプロンプト内のデモを条件にすることで、大きな言語モデルを新しいタスクに適応させる。
提案手法は,標準のマルチショット・ルールが転送されないことを示すために,マルチショット・チェーン・オブ・コンテクスト・ラーニング(CoT-ICL)について検討する。
論文 参考訳(メタデータ) (2026-05-13T13:30:12Z) - MMCL-Bench: Multimodal Context Learning from Visual Rules, Procedures, and Evidence [66.12781312894647]
MMCL-Bench(MMCL-Bench)は、視覚的・混合モダリティ教育の文脈からタスクローカルルール、手順、経験的パターンを学ぶためのベンチマークである。
この設定では、学習コンテキストを推論する前に、画像、スクリーンショット、マニュアル、ビデオ、フレームシーケンスから関連するエビデンスを復元し、ローカライズする必要がある。
厳密なスコアリングによるフロンティアマルチモーダルモデルを評価した結果、現在のシステムは堅牢なマルチモーダルコンテキスト学習には程遠いことが判明した。
論文 参考訳(メタデータ) (2026-05-12T19:57:37Z) - Enhancing Multimodal In-Context Learning via Inductive-Deductive Reasoning [65.15766304205657]
In-context Learning (ICL) は、大規模なモデルをいくつかの例を使ってタスクに適応させるが、視覚言語モデル(VLM)への拡張は脆弱である。
我々の分析によると、基本的な限界は帰納的ギャップにあり、モデルはしばしば欠陥のある推論から正しい答えを導き出す。
帰納的帰納的プロセスとしてマルチモーダル ICL を再構成する枠組みを導入する。
論文 参考訳(メタデータ) (2026-05-04T09:18:19Z) - Embedding-based In-Context Prompt Training for Enhancing LLMs as Text Encoders [20.530146256745414]
EPICは、大規模な言語モデルのための新しい組込み型インコンテキスト・プロンプト・トレーニング戦略である。
学習と推論の双方で計算負担を軽減しつつ、高品質な埋め込みを生成する。
論文 参考訳(メタデータ) (2026-05-02T10:31:01Z) - LIMSSR: LLM-Driven Sequence-to-Score Reasoning under Training-Time Incomplete Multimodal Observations [53.20772659095155]
本稿では、トレーニング時不完全観察において、より困難なIMLの設定に取り組む。
本稿では,この課題を条件付きシーケンス推論タスクとして再構成したLIMSSR(LLM-Driven Incomplete Multimodal Sequence-to-Score Reasoning)を提案する。
論文 参考訳(メタデータ) (2026-05-01T06:11:42Z) - Beyond Unimodal Shortcuts: MLLMs as Cross-Modal Reasoners for Grounded Named Entity Recognition [51.68340973140949]
GMNER(Multimodal Named Entity Recognition)は、テキストベースのエンティティを抽出し、セマンティックカテゴリを割り当て、それらを対応する視覚領域に接地することを目的としている。
MLLMは、視覚バイアスやテキストバイアスを含む$textbfmodality bias$を示す。
本稿では,モダリティを考慮した一貫性推論(bfMCR$)を提案する。
論文 参考訳(メタデータ) (2026-02-04T12:12:49Z) - Multimodal Contrastive In-Context Learning [0.9120312014267044]
本稿では,Large Language Models (LLMs) における勾配なしインコンテキスト学習 (ICL) の理解を高めるために,新しいマルチモーダルコントラスト型インコンテキスト学習フレームワークを提案する。
まず、実世界におけるICLの対照的な解釈を示し、ICLの差別化要因としてキー値表現の距離を示す。
第2に、実世界のデータセットに対するマルチモーダル入力フォーマットにおけるバイアスに対処する分析フレームワークを開発する。
第3に、ヘイトフルミームの検出の有効性を示すICLのオンザフライアプローチを提案する。
論文 参考訳(メタデータ) (2024-08-23T10:10:01Z) - From Introspection to Best Practices: Principled Analysis of Demonstrations in Multimodal In-Context Learning [47.82447085244952]
マルチモーダル ICL では,タスクごとにモダリティが異なることが示される。
タスク固有のモダリティの影響に導かれ、ICL性能を高めるためのモダリティ駆動型実証戦略を推奨する。
論文 参考訳(メタデータ) (2024-07-01T01:57:21Z) - TEGEE: Task dEfinition Guided Expert Ensembling for Generalizable and Few-shot Learning [37.09785060896196]
タスク定義を明示的に抽出する textbfTEGEE (Task Definition Guided Expert Ensembling) を提案する。
私たちのフレームワークは2つの3Bモデルアプローチを採用しています。
実験により, TEGEEはより大きなLLaMA2-13Bモデルと相容れない性能を示した。
論文 参考訳(メタデータ) (2024-03-07T05:26:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。