論文の概要: Why Linear Models Can Still Work in a Complex and Changing World

• arxiv url: http://arxiv.org/abs/2610.13404v1
• Date: Fri, 09 Oct 2026 11:19:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.548519
• Title: Why Linear Models Can Still Work in a Complex and Changing World
• Title（参考訳）: 複雑で変化する世界でリニアモデルが機能する理由
• Abstract要約: 線形モデルは、基礎となるメカニズムが非線形であっても、複雑な領域でよく予測できる。 これは、世界が有限で部分的に観測されたデータから確実に学習できる複雑さを超えるためである、と我々は主張する。 この主張を結合して、単純な線形規則、バイアスと分散、正規化、最良の線形予測、測定誤差、分布シフト、不変性、ラショモン集合、不特定性に取り組む。
• 参考スコア（独自算出の注目度）: 3.991518853474585
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Linear models can predict well in complex domains even when underlying mechanisms are nonlinear. We argue that this can occur because the complexity of the world exceeds the complexity that can be learned reliably from finite, partially observed data. Flexible models can exploit curvature, thresholds, and interactions that fit one hospital, period, population, policy setting, or measurement process but fail elsewhere. When this instability lies mainly in the nonlinear component, omitting it can give linear models lower prediction error in a new environment. We connect this claim to work on simple linear rules, bias and variance, regularization, best linear prediction, measurement error, distribution shift, invariance, Rashomon sets, and underspecification. Proposition 1 gives a simple squared-error case in which a nonlinear rule learned in the training environment raises target error because it transfers too weakly; finite-sample estimation error can strengthen this result. Partial observation alone is not enough: the link between observed variables and unobserved factors must vary across environments. Stable nonlinear structure favors flexible models, and linear models remain vulnerable to linear spurious relationships. Model complexity should therefore be chosen by cross-environment stability as well as training-data accuracy.
• Abstract（参考訳）: 線形モデルは、基礎となるメカニズムが非線形であっても、複雑な領域でよく予測できる。 これは、世界の複雑さが有限な部分的な観測データから確実に学習できる複雑さを超えるためである、と我々は主張する。 柔軟なモデルは、1つの病院、期間、人口、政策設定、または測定プロセスに適合するが、他の場所では失敗する、曲率、しきい値、および相互作用を利用することができる。 この不安定性が主に非線形成分に存在する場合、新しい環境において線形モデルよりも低い予測誤差を与えることができる。 この主張を結合して、単純な線形規則、バイアスと分散、正規化、最良の線形予測、測定誤差、分布シフト、不変性、ラショモン集合、不特定性に取り組む。 命題1は、トレーニング環境で学習された非線形規則が目標誤差を増大させる単純な二乗誤差を与える。 部分的な観察だけでは不十分であり、観測された変数と観測されていない要因との関係は環境によって異なる必要がある。 安定な非線形構造はフレキシブルモデルを好むが、線形モデルは線形スプリアス関係に弱いままである。 したがって、モデルの複雑さは、クロス環境安定性とトレーニングデータの正確性によって選択されるべきである。

関連論文リスト

• Hessian Rank Constraint for Learning Structure of Nonlinear Latent Variable Models [47.387003815326324]
  非線形の場合の観測データ対数密度のクロスヘシアンから階数に基づく性質が生じることを示す。 我々は、潜伏変数を探索し、マルコフ同値までそれらの因果構造を復元するための純粋な1要素測定設定でHRCをインスタンス化する。
  論文  参考訳（メタデータ） (2026-09-21T08:05:06Z)
• Measurement noise limits the advantage of nonlinear models over linear models in biomedical prediction [0.3093890460224435]
  生体医学データでは、フレキシブルモデルが線形回帰とロジスティック回帰によって繰り返し一致または打ち負かされる。 これらの修正は、バインディング制限がモデルではなく測定値である場合に役に立ちません。 140の英国バイオバンクタスクで、フレキシブルモデルとリニアモデルの間には、予測されたノイズシグネチャがある。
  論文  参考訳（メタデータ） (2026-06-16T19:15:08Z)
• Semi-Supervised Learning under General Causal Models [51.90307793476367]
  半教師付き学習(SSL)は、ラベル付きデータと非ラベル付きデータの両方を使用して機械学習モデルをトレーニングすることを目的としている。 本稿では、変数が柔軟な因果関係を持つ一般的な因果関係モデルで動作するフレームワークを提案する。 学習した因果生成モデルは、より正確な予測モデルをトレーニングするための合成ラベル付きデータを生成することができる。
  論文  参考訳（メタデータ） (2025-10-26T07:46:38Z)
• First Steps Toward Understanding the Extrapolation of Nonlinear Models to Unseen Domains [35.76184529520015]
  本稿では,構造的領域シフトに対する非線形モデルの外挿を解析するための最初のステップについて述べる。 我々は、$f(x)=sum f_i(x_i)$という形の非線形モデルの族が、目に見えない分布に外挿可能であることを証明した。
  論文  参考訳（メタデータ） (2022-11-21T18:41:19Z)
• BELIEF in Dependence: Leveraging Atomic Linearity in Data Bits for Rethinking Generalized Linear Models [5.726186905478233]
  我々は,バイナリ拡張線形効果(BELIEF)と呼ばれるフレームワークを開発し,任意の関係をバイナリ結果と理解する。 BELIEFフレームワークのモデルは、線形モデルの言語におけるバイナリ変数の関連性を記述するため、容易に解釈できる。
  論文  参考訳（メタデータ） (2022-10-19T19:28:09Z)
• Discovering Invariant Rationales for Graph Neural Networks [104.61908788639052]
  グラフニューラルネットワーク(GNN)の固有の解釈可能性とは、入力グラフの特徴の小さなサブセットを見つけることである。 本稿では,本質的に解釈可能なGNNを構築するために,不変理性(DIR)を発見するための新しい戦略を提案する。
  論文  参考訳（メタデータ） (2022-01-30T16:43:40Z)
• Near-Optimal Linear Regression under Distribution Shift [63.87137348308034]
  線形ミニマックス推定器は、様々なソース/ターゲット分布に対する非線形推定器の中でも、ミニマックスリスクの絶対定数内にあることを示す。
  論文  参考訳（メタデータ） (2021-06-23T00:52:50Z)
• Why do classifier accuracies show linear trends under distribution shift? [58.40438263312526]
  あるデータ分布上のモデルの精度は、別の分布上の精度のほぼ線形関数である。 2つのモデルが予測で一致する確率は、精度レベルだけで推測できるものよりも高いと仮定します。 分布シフトの大きさが大きければ, 2 つの分布のモデルを評価する場合, 線形傾向が生じなければならない。
  論文  参考訳（メタデータ） (2020-12-31T07:24:30Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。