Fugu-MT 論文翻訳(概要): From Observation to Intervention: Distilling Self-Generated In-Context Demonstrations via Executable Causal Intervention

論文の概要: From Observation to Intervention: Distilling Self-Generated In-Context Demonstrations via Executable Causal Intervention

arxiv url: http://arxiv.org/abs/2610.21149v1
Date: Thu, 15 Oct 2026 03:06:20 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-16 19:13:16.145955
Title: From Observation to Intervention: Distilling Self-Generated In-Context Demonstrations via Executable Causal Intervention
Title（参考訳）: 観察から介入へ:実行可能な因果介入による自己生成的インテクストデモを蒸留する
Abstract要約: 既存の手法では、論理式が正しい出力につながると仮定して、観測によって実証をフィルタリングする。このようなフィルタリングは、忠実な因果的理性と急激なポストホック的理性の両方が、同じ出力を産み出すことができる、テクスト的保存的同値性に苦しむことを示す。 textbfExecutable textbfCausal textbfIntervention for textbfDemonstrations textbfDistillation (ECI2D)
参考スコア（独自算出の注目度）: 9.611254459867261
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Self-generated In-Context Learning (ICL) enables LLMs to synthesize their own few-shot demonstrations, often outperforming manual prompts. However, existing methods filter demonstrations by observation, assuming a rationale is high-quality if it leads to the correct output. We show such filtering suffers from \textit{observational equivalence}, whereby both faithful causal rationales and spurious post-hoc rationales can yield same outputs and are statistically indistinguishable from observation alone. Inspired by independent causal mechanisms, we argue that faithful rationales imply \textit{transfer invariance}, in which causal rationales should remain effective across logically similar samples. We instantiate this criterion as \textbf{E}xecutable \textbf{C}ausal \textbf{I}ntervention for \textbf{D}emonstrations \textbf{D}istillation (ECI2D), which abstracts language rationales into executable programs and applies the causal interventions ($do$-operator) on logically similar samples, retaining only those demonstrations that imply transfer invariance. Experiments on math, logical and commonsense reasoning benchmarks demonstrate that ECI2D consistently outperforms observation-based ICL while retaining far fewer demonstrations, with gains exceeding 7 points as the test distribution shifts.
Abstract（参考訳）: 自己生成型In-Context Learning(ICL)は、LLMが自身の数発のデモを合成することを可能にする。しかし、既存の手法では、正しい出力に繋がる場合、合理性が高品質であると仮定して、観察によって実証をフィルタリングする。このようなフィルタリングは「textit{observational equivalence}」に苦しめられ、忠実な因果的理性と突発的なポストホック的理性の両方が同じ出力を得ることができ、観測単独では統計的に区別できない。独立因果関係のメカニズムに着想を得て、忠実な理性は論理的に類似した標本を通して因果的理性が有効であることを示す。我々は、この基準を \textbf{E}xecutable \textbf{C}ausal \textbf{I}ntervention for \textbf{D}emonstrations \textbf{D}istillation (ECI2D) としてインスタンス化する。数学、論理的、常識的推論のベンチマークの実験では、ECI2Dは観測ベースのICLよりも一貫して優れており、試験分布がシフトするにつれて7ポイント以上上昇する。

関連論文リスト

Score Mismatch and Set-Constrained Sampling in Zero-Shot Conditional Discrete Diffusion [66.0716790920952]
スコアミスマッチした離散拡散モデルに対する最初の理論的解析を行う。このようなミスマッチによる追加バイアスを明確に識別する一般KL発散上限を導出する。代入確率は吸収率で無条件スコアで正確に表現できることを示す。
論文参考訳（メタデータ） (2026-10-15T01:05:30Z)
Adversarial Causal Intervention Falsification [0.0]
構造因果生成器が観測および介入分布を提案する逐次ゲームについて検討する。敵の実験者は、ジェネレータを最大限にファルシフィケーションしようとする介入を選択する。判別器は、介入により索引付けされ、ジェネレータが対応する事後法則を再生するか否かを検査する。
論文参考訳（メタデータ） (2026-08-05T20:01:26Z)
NoisyCausal: A Benchmark for Evaluating Causal Reasoning Under Structured Noise [33.130357221784166]
自然言語の因果推論には、関連する変数を特定し、それらの相互作用を理解し、効果や介入について推論する必要がある。構造雑音下での因果推論を評価するための新しいベンチマークであるNoisyCausalを紹介する。これらの課題に対処するために,LLMと明示的な因果構造を組み合わせたモジュラー推論フレームワークを提案する。
論文参考訳（メタデータ） (2026-05-05T21:26:01Z)
Your Reasoning Benchmark May Not Test Reasoning: Revealing Perception Bottleneck in Abstract Reasoning Benchmarks [10.06554565520216]
認識と推論を明確に分離する2段階の実験パイプラインを導入する。本研究は,観測性能ギャップの根底にある要因は知覚能力であることを示す。本研究は,認識を推論から遠ざける評価プロトコルの必要性を浮き彫りにした。
論文参考訳（メタデータ） (2025-12-24T18:58:04Z)
A Sample Efficient Conditional Independence Test in the Presence of Discretization [54.047334792855345]
離散化されたデータに直接条件付き独立テスト(CI)は、誤った結論につながる可能性がある。最近の進歩は、観測データをバイナライズすることで、潜伏変数間の適切なCI関係を推測することを目指している。そこで本研究では,バイナライゼーションプロセスに依存しないサンプル効率のCIテストを提案する。
論文参考訳（メタデータ） (2025-06-10T12:41:26Z)
Statistical Hypothesis Testing for Auditing Robustness in Language Models [49.1574468325115]
本稿では,摂動解析を頻繁な仮説テスト問題として再検討するフレームワークである分布に基づく摂動解析を紹介する。モンテカルロサンプリングを用いて低次元意味的類似性空間内に経験的ヌルおよび代替出力分布を構築する。反応変化の定量化、正/偽の正率の測定、参照モデルとの整合性の評価について述べる。
論文参考訳（メタデータ） (2025-06-09T17:11:07Z)
The Curse of CoT: On the Limitations of Chain-of-Thought in In-Context Learning [56.574829311863446]
CoT(Chain-of-Thought)プロンプトは,大規模言語モデル(LLM)における推論能力の向上によって広く認識されている。我々は、CoTとその推論変異が、様々なモデルスケールやベンチマークの複雑さに対して、直接応答を一貫して過小評価していることを実証する。パターンベースICLにおけるCoTの性能を駆動する明示的単純推論の基本的なハイブリッド機構を明らかにする。
論文参考訳（メタデータ） (2025-04-07T13:51:06Z)
Counterfactual Realizability [52.85109506684737]
本稿では, 正規化可能性の定義, 分布からサンプルを抽出する能力を導入し, 任意の反事実分布が実現可能であるかどうかを判定する完全アルゴリズムを開発する。本稿では、因果的公正さと因果的強化学習のモチベーション例を用いて、この新たな反ファクト的データ収集フレームワークの意義を説明する。
論文参考訳（メタデータ） (2025-03-14T20:54:27Z)
CoInD: Enabling Logical Compositions in Diffusion Models [1.0923877073891446]
本稿では,標準条件拡散モデルが属性組成が統計的に独立であるという仮定に反することを示す。我々はこの問題に対処するためにCoInDを提案する。条件付き境界分布間の統計的独立を明示的に強制する。
論文参考訳（メタデータ） (2025-03-03T03:51:01Z)
Distinguishing Cause from Effect on Categorical Data: The Uniform Channel Model [0.0]
一対の確率変数の観測による効果による原因の識別は因果発見における中核的な問題である。分類変数を用いた原因影響問題に対処するための基準を提案する。我々は、条件付き確率質量関数が一様チャネル(UC)に最も近い因果方向として選択する。
論文参考訳（メタデータ） (2023-03-14T13:54:11Z)
Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
観測と実験の任意の組み合わせからネスト反事実の同定について検討した。具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
論文参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。