論文の概要: Epistemic Compression: The Case for Deliberate Ignorance in High-Stakes AI
- arxiv url: http://arxiv.org/abs/2603.25033v1
- Date: Thu, 26 Mar 2026 04:55:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-27 20:52:48.109789
- Title: Epistemic Compression: The Case for Deliberate Ignorance in High-Stakes AI
- Title(参考訳): てんかんの圧縮 : 高度AIにおける自由度無視の事例
- Authors: Steffen Lukas,
- Abstract要約: エピステミック圧縮(Epistemic Compression)とは、モデルの複雑さをスケーリングパラメータではなく、データのシェルフライフに一致させることから生じる原則である。
ホック後の重みを罰する古典的な正規化とは異なり、エピステミック圧縮は建築を通してパシモニーを強制する。
15のハイテイクドメインの探索的な合成において、86.7%のケースにおいて、この指標は経験的に優れたモデリング戦略と一致した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Foundation models excel in stable environments, yet often fail where reliability matters most: medicine, finance, and policy. This Fidelity Paradox is not just a data problem; it is structural. In domains where rules change over time, extra model capacity amplifies noise rather than capturing signal. We introduce Epistemic Compression: the principle that robustness emerges from matching model complexity to the shelf life of the data, not from scaling parameters. Unlike classical regularization, which penalizes weights post hoc, Epistemic Compression enforces parsimony through architecture: the model structure itself is designed to reduce overfitting by making it architecturally costly to represent variance that exceeds the evidence in the data. We operationalize this with a Regime Index that separates Shifting Regime (unstable, data-poor; simplicity wins) from Stable Regime (invariant, data-rich; complexity viable). In an exploratory synthesis of 15 high-stakes domains, this index was concordant with the empirically superior modeling strategy in 86.7% of cases (13/15). High-stakes AI demands a shift from scaling for its own sake to principled parsimony.
- Abstract(参考訳): ファンデーションモデルは安定した環境では優れていますが、信頼性が最も重要である場合(医療、金融、政策)は失敗します。
このフィデリティパラドックスは単なるデータ問題ではなく、構造的です。
時間とともにルールが変化するドメインでは、余分なモデルキャパシティは信号をキャプチャするよりもノイズを増幅する。
モデル複雑性とデータのシェルフライフとの整合からロバスト性が生まれるという原則は、スケーリングパラメータからではなく、エピステミック圧縮(Epstemic Compression)を導入します。
古典的な正規化とは違い、エピステミック圧縮はアーキテクチャを通じてパシモニーを強制する:モデル構造そのものは、データの証拠を超える分散を表現するために、アーキテクチャ的にコストがかかるようにして過度な適合を減らすように設計されている。
これをRegimeインデックスで運用し、Shifting Regime(不安定、データ貧弱、単純さの勝利)とStable Regime(不変、データ豊か、複雑さが実現可能)を分離します。
15ドメインの探索的合成において、この指標は86.7%のケース(13/15)において、経験的に優れたモデリング戦略と一致した。
ハイテイクなAIは、独自の目的のためにスケーリングから原則化されたパーシモニーへのシフトを要求する。
関連論文リスト
- From Garbage to Gold: A Data-Architectural Theory of Predictive Robustness [0.3277163122167433]
本研究では,高次元誤差確率予測器が2種類のノイズを克服することを示す。
本稿では,ロバストネスを効率的に実現する予測器を識別する「プロアクティブデータ中心型AI」を提案する。
データ品質をアイテムレベルの完全性からポートフォリオレベルのアーキテクチャに再定義することで、“ローカル要因”の理論的理論的根拠を提供する。
論文 参考訳(メタデータ) (2026-03-08T18:58:33Z) - Disentangling History and Propagation Dependencies in Cross-Subject Knee Contact Stress Prediction Using a Shared MeshGraphNet Backbone [0.8283940114367679]
予測の不確実性の主な原因が時間的履歴依存か空間的伝播依存かは、まだ不明である。
OpenSim-FEBioワークフローを使用して、9つの被験者による試行のデータセットを構築した。
ヒストリーエンコーディングを組み込んだモデルは、大域的精度と空間的整合性において、ベースラインMGNとModMGNを大きく上回った。
論文 参考訳(メタデータ) (2026-01-13T08:15:57Z) - Explainability of Complex AI Models with Correlation Impact Ratio [10.61008729196936]
複雑なAIシステムはより良い予測を行うが、透明性が欠如し、信頼性、解釈可能性、安全なデプロイメントが制限されることが多い。
ExCIR(Explainability through correlation Impact Ratio)は,モデル出力に対する入力特徴の寄与を説明するための理論的基礎とシンプルで信頼性の高い指標である。
我々は,ExCIRが軽量なシングルパスの定式化により,相関した特徴から生じる依存関係をキャプチャすることを示した。
論文 参考訳(メタデータ) (2026-01-10T21:56:24Z) - Attuned to Change: Causal Fine-Tuning under Latent-Confounded Shifts [32.989526411946606]
遅れた構築されたシフトに適応することは、現代AIにおける中核的な課題である。
1つの実用的障害モードは、構築されたデータに基づいて訓練済みの基礎モデルを微調整するときに発生する。
我々は、因果微調整を識別問題として捉え、入力を低レベルなスプリアス特徴に分解する明示的な因果モデルを示す。
論文 参考訳(メタデータ) (2024-10-18T11:06:23Z) - Large Continual Instruction Assistant [59.585544987096974]
CIT(Continuous Instruction Tuning)は、大規模モデルにデータによる人間の意図データに従うよう指示するために用いられる。
既存の更新勾配は、CITプロセス中に前のデータセットのパフォーマンスを著しく損なうことになる。
本稿では,この課題に対処する汎用的な連続的命令チューニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-10-08T11:24:59Z) - Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。
提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。
複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文 参考訳(メタデータ) (2023-06-09T08:30:51Z) - Disentanglement via Latent Quantization [60.37109712033694]
本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。
本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
論文 参考訳(メタデータ) (2023-05-28T06:30:29Z) - Variational Causal Networks: Approximate Bayesian Inference over Causal
Structures [132.74509389517203]
離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。
実験では,提案した変分後部が真の後部を良好に近似できることを示した。
論文 参考訳(メタデータ) (2021-06-14T17:52:49Z) - Causal Expectation-Maximisation [70.45873402967297]
ポリツリーグラフを特徴とするモデルにおいても因果推論はNPハードであることを示す。
我々は因果EMアルゴリズムを導入し、分類的表現変数のデータから潜伏変数の不確かさを再構築する。
我々は、反事実境界が構造方程式の知識なしにしばしば計算できるというトレンドのアイデアには、目立たずの制限があるように思える。
論文 参考訳(メタデータ) (2020-11-04T10:25:13Z) - The Risks of Invariant Risk Minimization [52.7137956951533]
不変リスク最小化(Invariant Risk Minimization)は、データの深い不変性を学ぶという考え方に基づく目標である。
我々は、IRMの目的に基づく分類の最初の分析と、最近提案されたこれらの代替案について、かなり自然で一般的なモデルで分析する。
IRMは、テストデータがトレーニング分布と十分に類似していない限り、破滅的に失敗する可能性がある。
論文 参考訳(メタデータ) (2020-10-12T14:54:32Z) - Generalizing Variational Autoencoders with Hierarchical Empirical Bayes [6.273154057349038]
確率的生成モデルのための計算的に安定なフレームワークである階層的経験的ベイズオートエンコーダ(HEBAE)を提案する。
鍵となる貢献は2つであり、まず、符号化分布を階層的に優先することで、再構成損失関数の最小化と過正規化の回避とのトレードオフを適応的にバランスさせることで、利益を得る。
論文 参考訳(メタデータ) (2020-07-20T18:18:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。