論文の概要: Can Circuit Alignment Predict OOD Generalization?

• arxiv url: http://arxiv.org/abs/2609.31996v1
• Date: Fri, 25 Sep 2026 20:53:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 04:01:47.940209
• Title: Can Circuit Alignment Predict OOD Generalization?
• Title（参考訳）: 回路アライメントはOOD一般化を予測できるか?
• Abstract要約: 回路アライメントスコア(CAS)は、まず、ターゲットドメインのデータもラベルも必要とせず、分布のロバスト性を確実に一貫した予測器である。 我々は,モンテカルロ推定値を用いて,OOD精度で学習者の根底的信頼度ランキングを復元し,ペアの反転誤差がO(1/M)$でなくなることを証明した。
• 参考スコア（独自算出の注目度）: 16.943658785164804
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Can out-of-distribution (OOD) generalization be predicted from a trained model's weights alone, without any target-domain data? Existing representational similarity metrics (CKA, SVCCA, RSA) compare activations rather than forecast generalization. We show they are provably insensitive to structural rerouting in the computational graph, the very change distribution shift induces. We close this gap with the Circuit Alignment Score (CAS), which compares class-specific circuits across domains via graph kernels, decomposed into same-class coherence and cross-class confusion. Casting CAS as a Lebesgue integral over the domain distribution, we prove its Monte Carlo estimate recovers the ground-truth ranking of learners by OOD accuracy, with pairwise inversion error vanishing at rate $O(1/M)$, where $M$ is the number of sampled domains. Across $48$ learners on PACS, CAS attains $0.88$ rank correlation with OOD accuracy, versus $0.58$ (CKA), $0.23$ (SVCCA), and $0.14$ (RSA), with similar trends on other benchmarks and even against data-dependent methods, making it the first provably consistent predictor of distributional robustness requiring neither target-domain data nor labels. The code is available at: https://github.com/ayanban011/ACE
• Abstract（参考訳）: 目標ドメインデータなしで、トレーニングされたモデルの重みだけで、アウト・オブ・ディストリビューション(OOD)の一般化を予測できるだろうか? 既存の表現類似度指標(CKA、SVCCA、RSA)は、予測一般化よりもアクティベーションを比較する。 計算グラフにおける構造的再帰に対して、それらが確実に不感であることを示し、非常に変化した分布シフトが引き起こされる。 このギャップをCircuit Alignment Score (CAS) で埋め、グラフカーネルを介してドメイン間のクラス固有の回路を比較し、同クラスのコヒーレンスとクロスクラスの混乱に分解する。 領域分布上のレベッグ積分としてCASを鋳造することにより、モンテカルロの推定値がOOD精度で学習者の根本的信頼度を回復し、対角反転誤差はO(1/M)$で消滅し、M$はサンプルドメインの数である。 PACSの480ドルの学習者に対して、CASはOODの精度と0.88$の相関を、0.58$(CKA)、0.23$(SVCCA)、0.14$(RSA)と達成し、他のベンチマークやデータ依存メソッドにも同様の傾向がある。 コードは以下の通り。 https://github.com/ayanban011/ACE

関連論文リスト

• How Useful is Causal Invariance for Domain Adaptation in Finite-Sample Settings? [58.740078141879984]
  機械学習モデルは、トレーニングされたソースディストリビューションとは異なるターゲットディストリビューションにデプロイされると、しばしば劣化する。 因果関係に基づく領域一般化における最近の研究は、共用因果構造が不変な予測因子を誘導する方法を示している。 本稿では,完全あるいは部分的な因果知識が,教師付きドメイン適応を確実に改善できるかどうかについて検討する。
  論文  参考訳（メタデータ） (2026-06-10T21:07:49Z)
• Does Your Neural Network Extrapolate? Feature Engineering as Identifiability Bias for OOD Generalization [1.0989593035411862]
  ディープニューラルネットワークが成功すると、データの健全な特徴が見つかる。 In-distriion (ID)トレーニングウィンドウからOOD(out-of-distriion)関連表現をいつ、なぜ学習しないのかを示す。
  論文  参考訳（メタデータ） (2026-05-08T09:25:52Z)
• Measuring the Unmeasurable: Markov Chain Reliability for LLM Agents [0.7161783472741748]
  エージェントの実行トレースをMarkovチェーンに適合させる再現可能なパイプラインである textscTraceToChain を提示する。 パイプラインは自動クラスタ分類を構築し、Laplace-smoothed maximum-likelihood Estimation (MLE) による遷移を推定し、複合的なAkaike Information criterion (AIC) と Kolmogorov-Smirnov (KS) に適合する。 結果として得られたファーストパスビューは、通常別々に報告されるメトリクスを再構成する: pass$$k$, pass$k$, and the reliability decay curve (RDC) is projections of one。
  論文  参考訳（メタデータ） (2026-04-27T15:05:45Z)
• Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
  自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。 任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。 本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
  論文  参考訳（メタデータ） (2026-02-19T17:21:15Z)
• Learnable Distribution Calibration for Few-Shot Class-Incremental Learning [122.2241120474278]
  FSCIL(Few-shot class-incremental Learning)は、古いクラス分布を記憶し、少数のトレーニングサンプルから新しいクラス分布を推定するという課題に直面している。 本稿では,これら2つの課題を統一フレームワークを用いて体系的に解決することを目的とした,学習可能な分布校正手法を提案する。
  論文  参考訳（メタデータ） (2022-10-01T09:40:26Z)
• Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
  局所変換近傍における分類器の出力不変性の尺度を提案する。 私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。 画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
  論文  参考訳（メタデータ） (2022-07-05T14:55:16Z)
• Partial and Asymmetric Contrastive Learning for Out-of-Distribution Detection in Long-Tailed Recognition [80.07843757970923]
  既存のOOD検出手法は,トレーニングセットが長距離分布している場合,大幅な性能劣化に悩まされていることを示す。 本稿では,部分的および非対称的な教師付きコントラスト学習(PASCL)を提案する。 我々の手法は従来の最先端の手法を1.29%$, $1.45%$, $0.69%$異常検出偽陽性率(FPR)と$3.24%$, 4,.06%$, 7,89%$in-distributionで上回ります。
  論文  参考訳（メタデータ） (2022-07-04T01:53:07Z)
• An Improved Analysis of Gradient Tracking for Decentralized Machine Learning [34.144764431505486]
  トレーニングデータが$n$エージェントに分散されるネットワーク上での分散機械学習を検討する。 エージェントの共通の目標は、すべての局所損失関数の平均を最小化するモデルを見つけることである。 ノイズのない場合、$p$を$mathcalO(p-1)$から$mathcalO(p-1)$に改善します。
  論文  参考訳（メタデータ） (2022-02-08T12:58:14Z)
• Predict then Interpolate: A Simple Algorithm to Learn Stable Classifiers [59.06169363181417]
  Predict then Interpolate (PI) は環境全体にわたって安定な相関関係を学習するためのアルゴリズムである。 正しい予測と間違った予測の分布を補間することにより、不安定な相関が消えるオラクル分布を明らかにすることができる。
  論文  参考訳（メタデータ） (2021-05-26T15:37:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。