論文の概要: Prediction Bottlenecks Don't Discover Causal Structure (But Here's What They Actually Do)
- arxiv url: http://arxiv.org/abs/2605.09169v1
- Date: Sat, 09 May 2026 21:12:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.098766
- Title: Prediction Bottlenecks Don't Discover Causal Structure (But Here's What They Actually Do)
- Title(参考訳): 予測ロボットは、因果構造を発見できない(ただし、実際に何をしているのかはこちら)
- Abstract要約: 次のステップの予測のためにのみ訓練されたMamba状態空間モデルは、単純な読み出しによってGranger-Causal構造を復元しているように見える。
我々は、再利用可能なファルシフィケーションベンチマークとしてそのクレームをテストするために使用されるプロトコルをパッケージ化し、そのクレームを5段階に分けた。
ベンチマークは持続するアーティファクトであり、上の各ステージはそのコントロールアームの1つです。
- 参考スコア(独自算出の注目度): 11.664243197168403
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A Mamba state-space model trained only for next-step prediction appears to recover Granger-causal structure through a simple readout $S = |W_{out} W_{in}|$, with early experiments suggesting the phenomenon generalized across architectures and benefited from interventional data at $p < 10^{-5}$. We package the protocol used to test that claim -- standardized synthetic generators (VAR/Lorenz/CauseMe-style), three intervention semantics ($do(X=c)$, soft-noise, random-forcing), edge-provenance cards on three real datasets, and size-matched control arms -- as a reusable falsification benchmark, and walk the claim through it in five stages. The method-level claim does not survive: (i) a plain linear bottleneck does as well or better; (ii) tuned Lasso beats the bottleneck on synthetic CauseMe-style benchmarks, and on Lorenz-96 (the only real benchmark with unambiguous ground truth) classical PCMCI and Granger lead a tight cluster in which the bottleneck trails; (iii) the headline intervention advantage is roughly 60% a sample-size confound, and the residual disappears under standard $do(X=c)$ interventions, surviving only under a non-standard random-forcing scheme; (iv) even that residual reproduces, with a larger effect, in classical bivariate Granger -- the effect is method-agnostic. What survives is a narrow characterization result; the benchmark is the lasting artifact, and each stage above is one of its control arms.
- Abstract(参考訳): 次段階の予測のためにのみ訓練されたマンバ状態空間モデルは、単純な読み出し$S = |W_{out} W_{in}|$でグランガー因果構造を復元し、初期の実験は、この現象がアーキテクチャ全体にわたって一般化され、$p < 10^{-5}$で介入データから恩恵を受けることを示唆していた。
標準的な合成ジェネレータ(VAR/Lorenz/CauseMeスタイル)、3つの介入セマンティクス(do(X=c)$、ソフトノイズ、ランダム強制)、3つの実際のデータセット上のエッジプロファイナンスカード、そしてサイズにマッチしたコントロールアーム)を、再利用可能なファルシフィケーションベンチマークとしてテストし、5段階でクレームを通り抜けます。
メソッドレベルのクレームは生き残らない。
i) 平坦な線形ボトルネックは、良くも良くも良くもなっています。
(ii) 調整されたLassoは、Co causedMeスタイルのベンチマークでボトルネックを破り、Lorenz-96(唯一の曖昧な土台真理を持つ真のベンチマーク)では、古典的なPCMCIとGrangerがボトルネックが後続する厳密なクラスタをリードする。
三 見出し介入の利点は、サンプルサイズの共焦点の約60%であり、残余は標準$do(X=c)$介入の下で消滅し、非標準ランダム強制方式でのみ存続する。
(4) 古典的二変量グランガーにおいて、残余の再生がより大きな効果を持つ場合でも、その効果はメソッドに依存しない。
ベンチマークは持続するアーティファクトであり、上の各ステージはそのコントロールアームの1つです。
関連論文リスト
- Architecture-Dependent Causal Transfer of Activation States Across Large Language Models [51.56484100374058]
内部言語アクティベーション状態は、異なる大きな言語モデル間で因果的に転送することができる。
生成中に投影された活性化をターゲットモデルに注入すると、統計的に有意で事前登録された因果効果が生じる。
現在実装されているLCM間のエンド・ツー・エンドのアクティベーション・ステート・トランスファーは、ユニバーサルではなくアーキテクチャに依存していると結論付けている。
論文 参考訳(メタデータ) (2026-08-17T09:53:27Z) - Adaptive operator-generated subspaces for effective many-body Hamiltonians [0.0]
適応型Clifford-Algebra Subspacesolver (A-CASE) について述べる。
オーバーラップ、ハミルトン、観測可能、および応答行列は、共通のパウリ観測バンクから再構成される。
グループ化された反復は、しきい値、ルートマッチング、スペクトル重み、感受性、拡張を通じて有限ショットの変動を伝播する。
論文 参考訳(メタデータ) (2026-08-01T09:51:25Z) - Modeling Normal Is All You Need: Joint Latent Clustering for Anomaly Detection in Multimodal Cyber-Physical Systems [47.027290803102666]
通常の行動は、多くの不均衡で、曲がりくねった、細い範囲の運営体制の結合である。
我々は正規法則を、共同学習された潜在表現と明示的なガウス混合モードクラスタリングでモデル化する。
ポイント調整のない生のポイントワイドメトリクス、自明な検出困難分割、頻度整合F1、列車正規化のみのキャリブレーションを意図的に評価する。
論文 参考訳(メタデータ) (2026-07-07T10:10:00Z) - GRACE: Gated Refinement for Accurate Causal Edge Discovery in High-Dimensional Time Series [0.0]
高速リニアCIスケルトンはハイリコール候補を提供する。
単一ゲートモデルは、どのエッジが真に予測を改善するかを学ぶことによって、偽陽性を誘発する。
GRACEは高価な非線形CIテストと少しのコストで一致または超過します。
論文 参考訳(メタデータ) (2026-06-22T19:26:38Z) - Convergence Theory for Iterative LLM-Based Neural Architecture Search: A Parametric Cross-Entropy Framework with Closed-Form Proxy Reliability [48.83701310501069]
大規模言語モデル(LLM)は、反復型ニューラルアーキテクチャサーチ(NAS)におけるジェネレータとしてますます使われている。
我々は,LCM-NASを,実行可能プログラム上でのパラメトリッククロスエントロピー(CE)法としてモデル化する。
我々は,(1)エリートアーキテクチャの反復LEM微調整は,LLMファミリーに制限されたCE更新と同等であり,(2)期待されるアーキテクチャ品質はサイクル毎に単調に低下せず,(3)エリートセットの確率は幾何率で一定点に収束する,という6つの結果を示した。
論文 参考訳(メタデータ) (2026-05-28T15:45:19Z) - The Surprising Universality of LLM Outputs: A Real-Time Verification Primitive [0.0]
CPUのみのスコアリングプリミティブはトークン当たり2.6マイクロ秒で動作する。
トークンのランク周波数分布は同じ2パラメータのMandelbrotランキング分布に収束する。
利用可能な場合にモデルログの確率で構成し、クローズドAPIで使用可能なランクオンリーモードに分解するシングルパススコアリングプリミティブを導出する。
論文 参考訳(メタデータ) (2026-04-28T13:35:31Z) - Score-Repellent Monte Carlo: Toward Efficient Non-Markovian Sampler with Constant Memory in General State Spaces [48.37754141688874]
本稿では,スコアと状態表現の次元である$Rd$のスコア評価の実行平均で履歴を要約するフレームワークを提案する。
この歴史は指数的なスコア傾きによって代理対象に変換され、歴史に基づく反発の大きさを制御する際の反発の強さを表す$$がインデックス付けされる。
連続目標モデルと離散エネルギーベースモデルの実験では、メモリ使用率を$O(d)$に抑えつつ、推定値の分散とモードカバレッジを改善した。
論文 参考訳(メタデータ) (2026-04-24T18:39:50Z) - Benchmarking the Utility of Privacy-Preserving Cox Regression Under Data-Driven Clipping Bounds: A Multi-Dataset Simulation Study [0.0]
微分プライバシー(DP)は、個人のプライバシーを保証する数学的枠組みである。
本研究では,データ駆動クリッピング境界を持つDP機構がCox比例ハザードモデルに与える影響を系統的に評価した。
論文 参考訳(メタデータ) (2026-04-23T09:53:15Z) - One Token Away from Collapse: The Fragility of Instruction-Tuned Helpfulness [12.183451602438753]
単純な語彙制約(句読解文字または共通単語の禁止)により、命令調整されたLLMが応答を崩壊させることを示す。
ベースモデルでは,同じ制約の下で,小さな,騒々しい,双方向的な効果を伴って,体系的な崩壊を示さないことを示す。
論文 参考訳(メタデータ) (2026-04-14T17:40:01Z) - Synthetic Tabular Generators Fail to Preserve Behavioral Fraud Patterns: A Benchmark on Temporal, Velocity, and Multi-Account Signals [0.0]
本研究では,4つの行動不正パターン(P1-P4)の分類法を定式化し,事象間タイミング,バースト構造,マルチアカウントグラフモチーフ,速度ルールトリガ率について検討した。
我々は、IEEE-CIS Fraud DetectionとAmazon FraudデータセットでCTGAN、TVAE、GaussianCopula、TabularARGNをベンチマークした。
P1-P4フレームワークは、医療やネットワークセキュリティを含む、エンティティレベルのシーケンシャルデータを持つ任意のドメインに拡張する。
論文 参考訳(メタデータ) (2026-04-13T19:36:00Z) - Phase-space entropy at acquisition reflects downstream learnability [54.4100065023873]
楽器分解位相空間に基づく取得レベルスカラー$S_mathcal B$を提案する。
本稿では, (S_mathcal B) が周期サンプリングの位相空間コヒーレンスを正確に同定できることを理論的に示す。
$|S_mathcal B|$は一貫してサンプリングジオメトリをランク付けし、トレーニングなしで下流での再構築/認識の困難を予測します。
論文 参考訳(メタデータ) (2025-12-22T10:03:51Z) - Skewness-Robust Causal Discovery in Location-Scale Noise Models [47.09233752567902]
位置スケールノイズモデルに基づく因果発見のための確率に基づくアルゴリズムであるSkewDを提案する。
SkewDは通常の正規分布フレームワークをスキュー正規設定に拡張し、対称性と歪んだ雑音下での信頼性推論を可能にする。
我々は、スキューノイズを伴う新しい合成データセットと、確立されたベンチマークデータセットに基づいてSkewDを評価する。
論文 参考訳(メタデータ) (2025-11-18T12:40:41Z) - Latency and Ordering Effects in Online Decisions [0.0]
オンライン意思決定システムは遅延フィードバックと順序に敏感なダイナミクスの下で動作している。
ヘテロジニアスレイテンシ、非可換性、実装ギャップ効果を1つの下界ステートメントにパッケージ化する。
論文 参考訳(メタデータ) (2025-11-17T07:08:05Z) - Computational-Statistical Tradeoffs at the Next-Token Prediction Barrier: Autoregressive and Imitation Learning under Misspecification [50.717692060500696]
対数損失を伴う次のトーケン予測は自己回帰シーケンスモデリングの基盤となる。
次トーケン予測は、適度な誤差増幅を表す$C=tilde O(H)$を達成するために堅牢にすることができる。
C=e(log H)1-Omega(1)$。
論文 参考訳(メタデータ) (2025-02-18T02:52:00Z) - Identifying General Mechanism Shifts in Linear Causal Representations [58.6238439611389]
我々は,未知の潜在因子の線形混合を観測する線形因果表現学習環境について考察する。
近年の研究では、潜伏要因の復元や、それに基づく構造因果モデルの構築が可能であることが示されている。
非常に穏やかな標準仮定の下では、シフトしたノードの集合を識別することが可能である。
論文 参考訳(メタデータ) (2024-10-31T15:56:50Z) - Almost Tight L0-norm Certified Robustness of Top-k Predictions against
Adversarial Perturbations [78.23408201652984]
トップk予測は、マシンラーニング・アズ・ア・サービス、レコメンダ・システム、Web検索など、多くの現実世界のアプリケーションで使用されている。
我々の研究はランダム化平滑化に基づいており、入力をランダム化することで、証明可能なロバストな分類器を構築する。
例えば、攻撃者がテスト画像の5ピクセルを任意に摂動できる場合に、ImageNet上で69.2%の認定トップ3精度を達成する分類器を構築することができる。
論文 参考訳(メタデータ) (2020-11-15T21:34:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。