論文の概要: Cognitively Decoupled Meta-Induction for Out-of-Distribution Generalization
- arxiv url: http://arxiv.org/abs/2610.25749v1
- Date: Mon, 19 Oct 2026 04:02:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 11:47:00.389445
- Title: Cognitively Decoupled Meta-Induction for Out-of-Distribution Generalization
- Title(参考訳): アウト・オブ・ディストリビューション一般化のための認知的分離メタインダクション
- Abstract要約: インコンテキスト学習(ICL)は、デモで条件付けられた下流タスクに取り組む。
既存の方法は様々なタスクにまたがって一般化可能な帰納的能力に欠ける。
一般タスクにおけるTIRに基づく帰納的推論のための認知デカップリングメタ推論(CoDI)を提案する。
- 参考スコア(独自算出の注目度): 41.53233429538701
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In-context learning (ICL) tackles downstream tasks conditioned on demonstrations. This paradigm relies heavily on neighbor-based matching between queries and demonstrations, limiting out-of-distribution (OOD) performance. For better generalization, rule-based inductive reasoning derives task-level regularities, which we term task-level inductive representations (TIR), before directly answering. However, existing methods lack generalizable inductive ability across diverse tasks. Inspired by meta-learning, we propose Cognitive-Decoupling meta-Induction (CoDI) for TIR-based inductive reasoning on general tasks. CoDI comprises a Cognitive-Decoupling Framework for query-blind TIR induction, and a Dual-Loop Meta-Inductive Learning method for cross-task inducer optimization. Empirically, CoDI achieves substantial performance gains on five ID and OOD benchmarks, and preserves OOD gains without explicit induction at inference. Code is available at https://github.com/Yuqian-Wang2277/codi-meta-induction.
- Abstract(参考訳): インコンテキスト学習(ICL)は、デモで条件付けられた下流タスクに取り組む。
このパラダイムは、クエリとデモの間の隣人ベースのマッチングに大きく依存しており、OOD(out-of-distriion)のパフォーマンスを制限している。
規則に基づく帰納的推論はタスクレベル正規性(タスクレベル帰納的表現(TIR))を導出して直接応答する。
しかし、既存の手法では様々なタスクにまたがって一般化可能な帰納的能力が欠如している。
メタラーニングに触発されて、一般的なタスクにおけるTIRに基づく帰納的推論のための認知デカップリングメタインダクション(CoDI)を提案する。
CoDIは、クエリブラインドTIR誘導のためのCognitive-Decoupling Frameworkと、クロスタスクインデューサ最適化のためのDual-Loop Meta-Inductive Learningメソッドで構成される。
実証的には、CoDIは5つのIDとOODベンチマークでかなりのパフォーマンス向上を達成し、OODのゲインを推論時に明示的なインジェクションなしで保持する。
コードはhttps://github.com/Yuqian-Wang2277/codi-meta-inductionで入手できる。
関連論文リスト
- InductionBench: LLMs Fail in the Simplest Complexity Class [53.70978746199222]
大規模言語モデル(LLM)は推論において顕著に改善されている。
帰納的推論(inductive reasoning)は、観測されたデータから基礎となるルールを推測するものであり、まだ探索されていない。
本稿では, LLMの帰納的推論能力を評価するための新しいベンチマークであるインジェクションベンチを紹介する。
論文 参考訳(メタデータ) (2025-02-20T03:48:00Z) - IDEA: Enhancing the Rule Learning Ability of Large Language Model Agent through Induction, Deduction, and Abduction [3.961279440272764]
対話型環境下での大規模言語モデルのルール学習能力を評価するためにRULEARNを導入する。
誘導, 誘引, アブダクションのプロセスを統合する新しい推論フレームワークであるIDEAを提案する。
5つの代表的なLCMを含むIDEAフレームワークの評価は,ベースラインよりも大幅に改善されている。
論文 参考訳(メタデータ) (2024-08-19T23:37:07Z) - ItD: Large Language Models Can Teach Themselves Induction through
Deduction [27.75250905887343]
そこで我々は, LLM が推論による誘導を学べるように, 推論による誘導(ItD)という新しい枠組みを提案する。
ItDは、誘導データを生成するデダクティブデータ生成モジュールと、LLMの微調整と復号を最適化するネイブベイズ誘導モジュールの2つの主要コンポーネントで構成されている。
実験の結果,2つのインダクション・ベンチマークにおけるITDの有効性が示され,従来の最先端技術と比較して36%,10%の相対的な性能向上が達成された。
論文 参考訳(メタデータ) (2024-03-09T04:20:46Z) - Generalizable Chain-of-Thought Prompting in Mixed-task Scenarios with
Large Language Models [68.05046964022844]
大規模言語モデル(LLM)は、チェーン・オブ・ソート(CoT)のプロンプトを活用することで、顕著な推論機能を明らかにしている。
本稿では,入力質問の種類が不明な混合タスクシナリオにおいて,一般化可能なCoTプロンプト機構であるGeM-CoTを提案する。
この技術設計により、GeM-CoTは10の公開推論タスクと23のBBHタスクにおいて優れた一般化能力と優れたパフォーマンスを同時に享受する。
論文 参考訳(メタデータ) (2023-10-10T15:10:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。