論文の概要: Circuit Claims Depend on What Is Extracted and How It Is Compared

• arxiv url: http://arxiv.org/abs/2607.18921v1
• Date: Tue, 21 Jul 2026 10:04:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.38898
• Title: Circuit Claims Depend on What Is Extracted and How It Is Compared
• Title（参考訳）: 回路のクレームは、抽出したものと、その比較方法に依存する
• Abstract要約: 保護動作は,どの回路が報告され,どのように2つの回路が比較されるかに依存するため,一つの回路を1つ残さない。 合成リーン戦術予測ベンチマークでこれを具体化する。 したがって、回路レベルのクレームは、どの回路が報告されたか、それを抽出するのに使用されるプルーニングしきい値、回路が比較されるレベルが1つある場合にのみ適切に定義される。
• 参考スコア（独自算出の注目度）: 10.373302428063091
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Circuit extraction identifies a small set of model components whose presence preserves a target behavior under ablation, and the resulting circuit is often read as the mechanism behind that behavior. We argue that this reading is under-determined: preserving behavior does not single out one circuit, because the claim it supports depends on which circuit is reported and how two circuits are compared. We make this concrete in a synthetic Lean tactic-prediction benchmark -- predicting the next step of a proof -- where fixed proof rules with randomized surface form let differences between extracted circuits be attributed to these choices rather than to the task. Across dense and weight-sparse checkpoints (most weights constrained to zero) of the same transformer, evaluated on atomic (single-rule) and compositional (multi-rule) proofs, we vary which extracted object is reported (a compact prediction-preserving circuit, a broader graph that also keeps surrounding read, write, and routing structure, or the smallest subgraph meeting a post-ablation loss threshold), and whether each attention head's query and key are represented jointly or separately. Exact component-to-component edge overlap is low and sensitive to these choices, at times dropping to a random baseline, while two coarser summaries stay stable: the set of selected attention heads, and the circuit-size ranking of conditions that differ in which supervised checkpoint initializes reinforcement learning (RL). The largest accuracy gains from RL on compositional proofs come with the most structure beyond the atomic circuits. A circuit-level claim is therefore well defined only once one states which circuit is reported, the pruning threshold used to extract it, and the level at which circuits are compared. We distill these requirements into a reporting practice for circuit-extraction studies.
• Abstract（参考訳）: 回路抽出は、アブレーションの下で対象の動作を保存する小さなモデル成分の集合を識別し、その結果の回路は、その動作の背後にあるメカニズムとしてしばしば読まれる。 動作を保存することは、どの回路が報告され、どのように2つの回路が比較されるかによって異なるため、その動作は1つの回路を選別しない。 そこでは、ランダムな表面形状の固定された証明規則により、抽出された回路間の差異は、タスクよりもこれらの選択に帰着する。 原子(単一ルール)と合成(複数ルール)の証明に基づいて評価された同一変圧器の重みと重みのチェックポイント全体にわたって、抽出対象が報告される(コンパクトな予測保存回路、周囲の読み出し、書き込み、ルーティング構造も保持する広範囲のグラフ、アブレーション後損失閾値を満たす最小のサブグラフ)と、各アテンションヘッドのクエリとキーが共同で表現されるか、別々に表現されるか、が異なる。 特定のコンポーネント間エッジオーバーラップは、これらの選択に敏感であり、時にはランダムなベースラインに低下するが、2つの粗いサマリーは、選択された注目ヘッドのセットと、監督チェックポイントが強化学習(RL)を初期化する条件の回路サイズランキング(英語版)が安定している。 組成証明におけるRLの最大の精度向上は、原子回路を超えた最も大きな構造を持つ。 したがって、回路レベルのクレームは、どの回路が報告されたか、それを抽出するのに使用されるプルーニングしきい値、回路が比較されるレベルが1つある場合にのみ適切に定義される。 本稿では,これらの要件を回路抽出研究の報告実践に応用する。

関連論文リスト

• Demystifying Variance in Circuit Discovery of LLMs [51.97489679448601]
  我々は,再サンプリングのばらつきを大幅に軽減する新しい回路探索法を開発した。 テンプレートの異なるプロンプトは、モデル内の異なる回路を活性化する傾向があるため、リフレージングのばらつきが生じることを示す。 我々は、よりコンパクトで解釈可能なタスク回路を形成すると主張されている空間性は、この問題の解決に失敗すると主張している。
  論文  参考訳（メタデータ） (2026-06-15T16:25:07Z)
• Many Circuits, One Mechanism: Input Variation and Evaluation Granularity in Circuit Discovery [49.50794188352666]
  回路間の構造的差異は、異なる機構の十分な証拠ではないことを示す。 標準評価は、このパターンを曖昧にし、エッジレベル評価は、構造から機能への多対一マッピングを明らかにする。
  論文  参考訳（メタデータ） (2026-06-04T15:10:14Z)
• Certified Circuits: Stability Guarantees for Mechanistic Circuits [80.30622018787835]
  Certified Circuitsは、回路発見のための証明可能な安定性を保証する。 ImageNetとOODデータセットでは、認定回路は91%高い精度を達成する。
  論文  参考訳（メタデータ） (2026-02-26T13:07:31Z)
• Faster Probabilistic Error Cancellation [6.418044102466421]
  そこで本研究では,標準手法よりもサンプリングコストが低いPECを実現するための新しい手法を提案する。 PECを解析的にも数値的にも節約できることを示す。 また, この手法を実験的に実証し, 緩和値と理想値との良好な一致を見出した。
  論文  参考訳（メタデータ） (2025-06-04T21:38:56Z)
• Position-aware Automatic Circuit Discovery [59.64762573617173]
  我々は既存の回路探索手法のギャップを同定し、モデル成分を入力位置間で等しく関連するものとして扱う。 可変長例を含むタスクであっても,回路に位置性を組み込むための2つの改良を提案する。 提案手法により, 位置感応回路の完全自動検出が可能となり, 従来よりも回路サイズと忠実度とのトレードオフが良好になる。
  論文  参考訳（メタデータ） (2025-02-07T00:18:20Z)
• CktGen: Specification-Conditioned Analog Circuit Generation [28.780603785886242]
  本稿では,特定の仕様に基づいてアナログ回路を直接生成するタスクを提案する。 具体的には、単純だが効果的な変分オートエンコーダ(VAE)モデルであるCktGenを提案する。 オープンサーキットベンチマーク(OCB)の総合的な実験を行い、モデル間の整合性を評価するための新しい評価指標を導入する。
  論文  参考訳（メタデータ） (2024-10-01T18:35:44Z)
• Finding Transformer Circuits with Edge Pruning [71.12127707678961]
  自動回路発見の効率的かつスケーラブルなソリューションとしてエッジプルーニングを提案する。 本手法は,従来の手法に比べてエッジ数の半分未満のGPT-2の回路を探索する。 その効率のおかげで、Edge PruningをCodeLlama-13Bにスケールしました。
  論文  参考訳（メタデータ） (2024-06-24T16:40:54Z)
• Have Faith in Faithfulness: Going Beyond Circuit Overlap When Finding Model Mechanisms [35.514624827207136]
  エッジ属性パッチ(EAP: Edge Attribution patching)は、介入に対する勾配に基づく近似であり、この問題に対するスケーラブルだが不完全な解決策として現れている。 本稿では,回路のコア特性をよりよく維持することを目的とした,統合勾配付きEAP(EAP-IG)手法を提案する。 EAPを用いた回路はEAP-IGを用いた回路に比べて信頼性が低いことを示した。
  論文  参考訳（メタデータ） (2024-03-26T15:44:58Z)
• Adaptive Planning Search Algorithm for Analog Circuit Verification [53.97809573610992]
  シミュレーションの少ない機械学習(ML)アプローチを提案する。 提案手法により,OCCを全回路の仕様に近づけることができることを示す。
  論文  参考訳（メタデータ） (2023-06-23T12:57:46Z)
• Qubit recycling and the path counting problem [0.0]
  近年,畳み込み型回路(マトリックス製品状態サンドマルチスケール角化再正規化アンザッツなど)で使用されるキューディットを一元的にリセットできることが示されている。 このような回路と局所量子回路の間を補間する量子回路の族に対するこのプロトコルの忠実度を解析する。
  論文  参考訳（メタデータ） (2023-01-09T23:59:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。