論文の概要: Symbolic Mechanistic Data Attribution: Tracing Training Influence to Learned Behavioral Policies

• arxiv url: http://arxiv.org/abs/2606.29171v1
• Date: Sun, 28 Jun 2026 03:32:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.821607
• Title: Symbolic Mechanistic Data Attribution: Tracing Training Influence to Learned Behavioral Policies
• Title（参考訳）: シンボリック・メカニスティック・データ・アトリビューション:学習行動政策に対する追跡訓練の影響
• Abstract要約: モデル動作を規定する解釈可能なシンボリックポリシーに、トレーニングペアを属性付けするフレームワークであるSymbolic Mechanistic Data Attribution(SMDA)を導入する。 SMDAはスパースオートエンコーダ機能に対する閉形式リッジ回帰に適合し、ターゲットの振る舞いをモデル化し、各教師付き微調整例がポリシーをどうシフトするかを解析的に分解する。 分析の結果,(1) シンボル政策の係数は, 宗教ステレオタイピングなどのカテゴリーにおける基本モデルの安全行動の体系的ギャップを表わし, (2) 機能ごとのDelta_X/Delta_Y分解は, なぜ有害で無害なペアが特定の特徴に質的に異なる影響を及ぼすのかを機械的に説明できることがわかった。
• 参考スコア（独自算出の注目度）: 8.169425244574203
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While existing data attribution methods can identify which training examples build specific mechanistic circuits, they cannot explain how training data shapes the high-level behavioral decisions a model learns to make. To bridge this gap, we introduce Symbolic Mechanistic Data Attribution (SMDA), a framework that attributes training pairs to the interpretable symbolic policies governing model behavior. SMDA fits a closed-form Ridge regression over sparse autoencoder (SAE) features to model a target behavior, then analytically decomposes how each supervised fine-tuning example shifts that policy through feature-activation Delta_X and output-probability Delta_Y pathways. We distill a symbolic policy for refusal behavior in Llama-3.2-3B-Instruct and analyze 200 SFT training pairs. Our analysis reveals that (1) the symbolic policy's coefficients expose systematic gaps in the base model's safety behavior for categories like religious stereotyping; (2) per-feature Delta_X/Delta_Y decomposition can mechanistically explain why harmful and harmless pairs exert qualitatively different influences on certain features; and (3) individual training pairs routinely exhibit cross-feature interference, allowing SMDA to identify training pairs whose dominant effect falls on unintended features. These results demonstrate that combining mechanistic interpretability with data attribution yields a diagnostic tool that is both more fine-grained than black-box influence functions and more scalable than manual circuit analysis.
• Abstract（参考訳）: 既存のデータ属性手法では、トレーニングサンプルが特定のメカニスティック回路を構築するかを特定できるが、トレーニングデータがどのようにモデルが学習した高レベルの行動決定を形作るかを説明できない。 このギャップを埋めるために、モデル行動を管理する解釈可能なシンボリックポリシーにトレーニングペアを属性付けるフレームワークであるSmDA(Symbolic Mechanistic Data Attribution)を導入する。 SMDAは、スパースオートエンコーダ(SAE)機能に対する閉形式リッジ回帰に適合し、ターゲットの振る舞いをモデル化し、各教師付き微調整サンプルが機能アクティベーション Delta_X と出力確率 Delta_Y 経路を介してポリシーをどうシフトするかを解析的に分解する。 我々は,Llama-3.2-3B-インストラクションにおける拒絶行動のシンボリック・ポリシーを蒸留し,200個のSFTトレーニングペアを解析した。 分析の結果,(1) シンボルポリシーの係数は, 宗教ステレオタイピングなどのカテゴリの安全行動の体系的ギャップを表わしている, (2) 機能ごとのDelta_X/Delta_Y分解は, 有害かつ無害なペアが特定の特徴に質的に異なる影響を与える理由を機械的に説明できる,(3) 個別のトレーニングペアが日常的に機能的干渉を示し, SMDAが意図しない特徴に支配的な影響を与えるトレーニングペアを特定できる,といったことが判明した。 これらの結果は,ブラックボックスの影響関数よりも細粒度で,手動回路解析よりもスケーラブルな診断ツールが得られることを示す。

関連論文リスト

• Anatomy of Post-Training: Using Interpretability to Characterize Data and Shape the Learning Signal [29.196846051811576]
  本稿では、解釈可能性プロトコルを用いたデータ中心のポストトレーニングパイプラインを導入し、非推奨世代と区別される潜在概念の統計的仮説を立案する。 我々のパイプラインは、既存の嗜好データの望ましくない信号を診断し、ターゲット外の学習を緩和し、安全ガードやモデルパーソナリティといった望ましい特性を増幅または形作るのにも役立ちます。
  論文  参考訳（メタデータ） (2026-06-10T17:31:16Z)
• Function-Valued Causal Influence in Nonlinear Time Series [0.0]
  時系列における因果発見は非線形機械学習モデルを用いてますます行われているが、結果として生じる因果関係はほとんど常にスカラーエッジスコアによって要約される。 このプラクティスは、非線型自己回帰モデル(状態依存関数)によって学習された真の対象を曖昧にしている、と我々は主張する。 我々は,加法的,寄与分解可能なアーキテクチャに対する関数値因果関係を定式化し,スカラー因果関係のスコアが深刻な情報のボトルネックとなることを示す。
  論文  参考訳（メタデータ） (2026-05-26T00:34:49Z)
• Infusion: Shaping Model Behavior by Editing Training Data via Influence Functions [15.843802377872121]
  我々のフレームワークであるInfusionは、スケーラブルな影響関数近似を用いて、ドキュメントのトレーニングに小さな摂動を計算する。 Infusionは、少数の明示的な動作例を挿入するベースラインと競合する可能性があることを示す。 予備的な言語実験では、我々のアプローチが目標となる行動の確率を高め、失敗すると、モデルが既に学習した行動の増幅に最も効果的であることを示す。
  論文  参考訳（メタデータ） (2026-02-10T17:13:42Z)
• Abstract Gradient Training: A Unified Certification Framework for Data Poisoning, Unlearning, and Differential Privacy [7.246481649624287]
  この研究は、与えられたモデルの堅牢性を証明し、データ摂動をトレーニングするためのトレーニング手順である抽象グラディエントトレーニング(AGT)を導入している。 AGTは、一階最適化手法を用いて訓練されたモデルの振る舞いを分析するための正式なアプローチを提供する。
  論文  参考訳（メタデータ） (2025-11-12T15:15:15Z)
• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
  正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。 モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
  論文  参考訳（メタデータ） (2025-05-17T00:31:39Z)
• ASIDE: Architectural Separation of Instructions and Data in Language Models [87.16417239344285]
  ASIDEは言語モデルに対して、埋め込みのレベルで命令とデータを明確に分離することを可能にする。 本稿では,ASIDE を用いた命令調整 LLM がモデルユーティリティを損なうことなく,命令データ分離の高度化につながることを実験的に示す。 モデル表現の分析を通じて,本手法の基盤となるメカニズムについて考察する。
  論文  参考訳（メタデータ） (2025-03-13T17:17:17Z)
• Explainability of Machine Learning Models under Missing Data [3.0485328005356136]
  データ不足は、モデルのパフォーマンスと説明容易性を著しく損なうおそれのある問題である。 本稿では、欠落データ分野の発展を要約し、SHAPに対する様々な計算方法の効果について考察する。
  論文  参考訳（メタデータ） (2024-06-29T11:31:09Z)
• Distilled Datamodel with Reverse Gradient Matching [74.75248610868685]
  オフライントレーニングとオンライン評価段階を含む,データ影響評価のための効率的なフレームワークを提案する。 提案手法は, 直接再学習法と比較して, プロセスの大幅な高速化を図りながら, 同等のモデル行動評価を実現する。
  論文  参考訳（メタデータ） (2024-04-22T09:16:14Z)
• Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
  本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。 このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。 本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
  論文  参考訳（メタデータ） (2024-02-07T21:58:40Z)
• Interpretable Imitation Learning with Dynamic Causal Relations [65.18456572421702]
  得られた知識を有向非巡回因果グラフの形で公開することを提案する。 また、この因果発見プロセスを状態依存的に設計し、潜在因果グラフのダイナミクスをモデル化する。 提案するフレームワークは,動的因果探索モジュール,因果符号化モジュール,予測モジュールの3つの部分から構成され,エンドツーエンドで訓練される。
  論文  参考訳（メタデータ） (2023-09-30T20:59:42Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• Learning What Makes a Difference from Counterfactual Examples and Gradient Supervision [57.14468881854616]
  ニューラルネットワークの一般化能力を改善するための補助的学習目標を提案する。 我々は、異なるラベルを持つ最小差の例のペア、すなわち反ファクトまたはコントラストの例を使用し、タスクの根底にある因果構造を示す信号を与える。 このテクニックで訓練されたモデルは、配布外テストセットのパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2020-04-20T02:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。