論文の概要: Local Causal Attribution of Chain-of-Thought Reasoning

• arxiv url: http://arxiv.org/abs/2606.21821v1
• Date: Sat, 20 Jun 2026 01:18:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 02:54:41.487015
• Title: Local Causal Attribution of Chain-of-Thought Reasoning
• Title（参考訳）: チェーン・オブ・サート推論の局所因果関係
• Authors: Dennis Wei, Yannis Belkhiter, Erik Miehling, Radu Marinescu,
• Abstract要約: 我々は,個々の構成要素間の因果関係,いわゆる単位,与えられた特定のチェーン・オブ・ソート・トレースの因果関係を分析する。 これらのユニットに構造因果モデルを構築し、各ユニットを出力単位を生成するためのログ確率に関連付ける。 提案アルゴリズムは,構造因果モデルにおいて重要なパラメータを推定し,属性を推定するブラックボックス方式である。
• 参考スコア（独自算出の注目度）: 15.384296947232158
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding the causal structure of a language model's thought process is a problem of significant importance for both transparency and safety. In this work, we take a local approach toward this goal by analyzing the causal relationships among individual components, termed units, of a given, specific chain-of-thought trace. We construct a structural causal model on these units and relate each unit to the log probability of generating (subsequent) output units. Our algorithm, termed AttriCoT, is a black-box method that performs attribution by estimating importance parameters in the structural causal model using $O(U)$ forward passes through the model, where $U$ is the number of units. Evaluation of perturbation curves across 5 datasets and 4 reasoning models shows that AttriCoT produces attributions that are more faithful to the model's behavior than alternative methods. The attribution results also reveal notable differences in thought structure between models and domains.
• Abstract（参考訳）: 言語モデルの思考過程の因果構造を理解することは、透明性と安全性の両方において重要な問題である。 そこで本研究では,各構成要素間の因果関係,すなわち単位単位,与えられた特定のチェーン・オブ・ソート・トレースの因果関係を解析することにより,この目標に向けて局所的なアプローチをとる。 これらのユニットに構造因果モデルを構築し、各ユニットを出力単位を生成するためのログ確率に関連付ける。 我々のアルゴリズムはAttriCoTと呼ばれ、$O(U)$ forward を用いて構造因果モデルにおける重要パラメータを推定して帰属するブラックボックス方式であり、$U$ は単位数である。 5つのデータセットと4つの推論モデルにわたる摂動曲線の評価は、AttriCoTが代替手法よりもモデルの振る舞いに忠実な属性を生成することを示している。 その結果,モデルとドメイン間の思考構造に顕著な差異が認められた。

関連論文リスト

• Relational Structural Causal Models [52.818153111470394]
  我々は、関係構造因果モデルを開発し、対象とその関係が変化する設定まで構造因果モデルを拡張した。 シミュレーションされた交通シーンにおいて,非関係性ベースラインよりも高い精度で再現可能なモデルであるリレーショナルニューラル因果モデルを提案する。
  論文  参考訳（メタデータ） (2026-06-12T18:54:06Z)
• REMA: A Unified Reasoning Manifold Framework for Interpreting Large Language Model [29.40036398095681]
  推論多様体(Reasoning Manifold)は、すべての正しく推論された世代に対応する内部表現によって形成される潜在低次元幾何学構造である。 誤りと正しい推論サンプルに対応する内部モデル表現の空間的関係を定量的に比較することにより,障害の起源を説明するフレームワークであるREMAを構築した。 多様な言語およびマルチモーダルモデルおよびタスクに関する実験は、推論多様体の低次元の性質と誤った推論表現と正しい推論表現の間の高い分離性を示す。
  論文  参考訳（メタデータ） (2025-09-26T16:02:27Z)
• A Causal Adjustment Module for Debiasing Scene Graph Generation [28.44150555570101]
  我々は、歪んだ分布間の因果関係をモデル化するために因果推論技術を用いる。 提案手法により,ゼロショット関係の合成が可能となり,そのような関係を認識できるモデルの性能が向上する。
  論文  参考訳（メタデータ） (2025-03-22T20:44:01Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Latent Causal Invariant Model [128.7508609492542]
  現在の教師付き学習は、データ適合プロセス中に急激な相関を学習することができる。 因果予測を求める潜在因果不変モデル(LaCIM)を提案する。
  論文  参考訳（メタデータ） (2020-11-04T10:00:27Z)
• Structural Causal Models Are (Solvable by) Credal Networks [70.45873402967297]
  因果推論は、干潟網の更新のための標準的なアルゴリズムによって得ることができる。 この貢献は, 干潟ネットワークによる構造因果モデルを表現するための体系的なアプローチと見なされるべきである。 実験により, 実規模問題における因果推論には, クレーダルネットワークの近似アルゴリズムがすぐに利用できることがわかった。
  論文  参考訳（メタデータ） (2020-08-02T11:19:36Z)
• CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
  変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。 本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。 その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
  論文  参考訳（メタデータ） (2020-04-18T20:09:34Z)
• A Critical View of the Structural Causal Model [89.43277111586258]
  相互作用を全く考慮せずに原因と効果を識別できることが示される。 本稿では,因果モデルの絡み合った構造を模倣する新たな逆行訓練法を提案する。 我々の多次元手法は, 合成および実世界の両方のデータセットにおいて, 文献的手法よりも優れている。
  論文  参考訳（メタデータ） (2020-02-23T22:52:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。