論文の概要: From Behavior to Provenance: Attributing Tabular Foundation Models to Synthetic Pretraining Data
- arxiv url: http://arxiv.org/abs/2610.02347v1
- Date: Thu, 01 Oct 2026 18:21:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.043232
- Title: From Behavior to Provenance: Attributing Tabular Foundation Models to Synthetic Pretraining Data
- Title(参考訳): 行動から行動へ:語彙基礎モデルから合成事前学習データへの寄与
- Abstract要約: 制御された合成事前学習は、帰属性を実験的に検証可能であると論じる。
行動条件による帰属と反実的再訓練と証明的介入を組み合わせることで、タスクレベルの忠実性とメカニズムレベルの整合性の両方をテストする。
- 参考スコア(独自算出の注目度): 0.7068165275780812
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Training-data attribution aims to identify which training examples shape model behavior, yet validating such claims is difficult because causal training influence is rarely observable. We argue that controlled synthetic pretraining makes attribution experimentally testable. Using O'PRIOR, a provenance-rich synthetic task generator for tabular foundation models, we construct a testbed in which every pretraining task carries explicit lineage over structural mechanisms, missingness, confounding, shortcuts, and distribution shift. We combine behavior-conditioned attribution with counterfactual retraining and provenance-aware interventions to test both task-level faithfulness and mechanism-level consistency. On held-out real tasks, removing the top-attributed 5% of synthetic tasks decreases mean ROC-AUC by 0.013, compared with 0.002$\pm$0.004 under random removal, while removing bottom-attributed tasks improves performance by 0.003. Within shortcut-provenance tasks, targeted removal yields an effect of 0.043 versus 0.016 for matched random removal. Provenance discrimination is more modest by ranking AUROC (0.55-0.62), despite substantial top-k enrichment, revealing that provenance association and interventional faithfulness need not coincide. Our results establish synthetic provenance as a controlled setting for verifiable contributive attribution
- Abstract(参考訳): トレーニングデータ属性は、どのトレーニング例がモデル行動を形成するかを特定することを目的としているが、因果学習の影響がほとんど観測できないため、そのようなクレームを検証することは困難である。
制御された合成事前学習は、帰属性を実験的に検証可能であると論じる。
表層基礎モデルのためのプロファイランスリッチな合成タスク生成であるO'PRIORを用いて、各事前学習タスクが構造的メカニズム、欠陥、欠点、欠点、ショートカット、分布シフトの明確な系統を持つテストベッドを構築する。
行動条件による帰属と反実的再訓練と証明的介入を組み合わせることで、タスクレベルの忠実性とメカニズムレベルの整合性の両方をテストする。
保持された実タスクでは、最上位の合成タスクの5%を除去すると、ROC-AUCの平均は0.013減少し、ランダム除去では0.002$\pm$0.004となり、下位タスクを除去すると0.003向上する。
ショートカット改善タスク内では、ターゲット除去は、一致したランダム除去に対して0.043対0.016の効果をもたらす。
AUROC (0.55-0.62) では、実質的なトップkの豊かさにもかかわらず、プロヴァンス・アソシエーションと介入の忠実さは一致しないことが明らかになっている。
以上の結果から, コントリビューティヴ属性の制御条件として, 合成証明が確立された。
関連論文リスト
- Behavioral Convergence Without Representational Convergence: Persistent Training-History Dependence in Neural Networks [0.0]
同じ最終目標に向けてトレーニングされたニューラルネットワークは、以前のトレーニング履歴によって形作られた内部表現を保持しながら、同様の予測性能に達することができる。
この効果は、ペアの畳み込みネットワークが同一の重みから始まり、逆タスクオーダを経験し、同じ共通相対分布を受信する、制御された逐次学習実験を用いて検討する。
論文 参考訳(メタデータ) (2026-09-29T15:38:10Z) - The Fly That Stopped: Mushroom-Body-Inspired Habituation as a Reward-Free Scheduling Prior for Autonomous Penetration Testing [0.0]
ショウジョウバエのキノコ体新鮮処理に触発された無報酬スケジューラの評価を行った。
スパースステートエンコーディングと、構造的なURLクラスとツールファミリー上の崩壊する習慣カウンタを組み合わせる。
条件付きスケジューラは6つの非XSSターゲットペアの重複比率を下げた。
論文 参考訳(メタデータ) (2026-09-24T07:02:59Z) - Neuro-symbolic PRM: Enhancing Scientific Reasoning via Structured Traces and Symbolic Verification [10.892972402027494]
中間的推論ステップは構文的によく形成され、数学的に実行可能であり、単体一貫性があるが、文脈的には非基底的である。
現在のアプローチでは、意味的意図を評価できない形式的検証や、算術と論理の両方をチェックするという2つのタスクを伴うプロセス・リワード・モデル(Process Reward Models, PRM)に頼っている。
仮説を2つの形式的次元(記号的妥当性(V$)と意味的基底性(G$)にきれいに分解するニューロシンボリックフレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-26T19:10:12Z) - Attribution-Guided Model Rectification of Unreliable Neural Network Behaviors [60.06461883533697]
我々は、ランクワンモデル編集を活用して、帰属誘導モデル修正フレームワークを確立する。
まず、既存のモデル編集と整合性の設定を区別し、信頼性の低い振る舞いを補正する定式化を行う。
そこで本研究では, 帰属誘導層ローカライゼーション手法を提案する。
論文 参考訳(メタデータ) (2026-03-08T01:06:07Z) - Certified $\ell_2$ Attribution Robustness via Uniformly Smoothed Attributions [20.487079380753876]
本研究では,ある空間から一様にサンプリングされた雑音によってバニラ属性を増大させる一様平滑化手法を提案する。
攻撃領域内の全ての摂動に対して、摂動試料の均一なスムーズな属性と非摂動試料とのコサイン類似性を低くすることが保証された。
論文 参考訳(メタデータ) (2024-05-10T09:56:02Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Can Active Sampling Reduce Causal Confusion in Offline Reinforcement
Learning? [58.942118128503104]
因果的混乱(英: Causal confusion)とは、エージェントがデータ中の不完全な急激な相関を反映するポリシーを学ぶ現象である。
この現象は特にロボット工学などの領域で顕著である。
本稿では,オフライン強化学習における因果的混乱について検討する。
論文 参考訳(メタデータ) (2023-12-28T17:54:56Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Explicit Tradeoffs between Adversarial and Natural Distributional
Robustness [48.44639585732391]
実際、モデルは信頼性を確保するために両方のタイプの堅牢さを享受する必要があります。
本研究では, 対角線と自然分布の強靭性の間には, 明らかなトレードオフが存在することを示す。
論文 参考訳(メタデータ) (2022-09-15T19:58:01Z) - Accuracy on the Line: On the Strong Correlation Between
Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。
具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。
また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
論文 参考訳(メタデータ) (2021-07-09T19:48:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。