論文の概要: Benign Overfitting under Heterogeneous Input Fusion

• arxiv url: http://arxiv.org/abs/2610.09340v1
• Date: Wed, 07 Oct 2026 02:57:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.686423
• Title: Benign Overfitting under Heterogeneous Input Fusion
• Title（参考訳）: 不均一入力核融合による良性オーバーフィッティング
• Abstract要約: 異種核融合下での良性過剰適合は, 入力相互作用によって生じる結合信号とスペクトルによって決定されることを示す。 これらの結果から、不均一核融合下での良性過剰適合は、入力相互作用によって生じる結合信号とスペクトルによって決定されることが示された。
• 参考スコア（独自算出の注目度）: 17.480085449292996
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Benign overfitting is extensively studied when learning from a single high-dimensional input, but its behavior under heterogeneous input fusion remains largely unexplored. We study this question for minimum-norm linear interpolation under a heterogeneous Gaussian design, comparing two statistically dependent input blocks with their fusion while holding the underlying population task fixed. For regression, we identify a full-spectrum covariance certificate whose asymptotic status is independent of the cutoff threshold and prove that it is preserved by every positive-semidefinite joint covariance consistent with the two marginals. This protection is sharp, yet it does not extend to all benign regression problems: outside the certified regime, two benign marginals can have a harmful fusion. For one-sparse Gaussian classification, benignity in the regular regime is characterized by the balance between surviving predictive signal and nuisance contamination. Fusion can move these two quantities in opposite directions, and within this model class every marginal-to-joint benign/non-benign pattern is attainable. We further show that the same fused input can have qualitatively different effects on regression and classification. These results establish that benign overfitting under heterogeneous fusion is determined by the joint signal and spectral geometry created by input interaction, rather than by marginal benignity alone.
• Abstract（参考訳）: 1つの高次元入力から学習する際、良性オーバーフィッティングは広範囲に研究されているが、不均一な入力融合の下での挙動はほとんど解明されていない。 本研究では,不均一なガウス設計の下での最小ノルム線形補間問題について,統計的に依存する2つの入力ブロックとそれらの融合との比較を行い,基礎となる集団タスクを固定しながら検討した。 回帰については,症状状態がカットオフ閾値から独立している全スペクトル共分散証明書を同定し,両限界値に一致した正の有意な結合が保存されていることを証明した。 この保護は鋭いが、すべての良性回帰問題に拡張されない:認証された体制以外では、2つの良性限界は有害な融合を持つ。 単一ガウス分類では、正規状態の良性は、生存する予測信号とニュアンス汚染のバランスによって特徴づけられる。 融合はこれらの2つの量を反対方向に移動させることができ、このモデルクラス内ではすべての辺の良性/非良性パターンが達成可能である。 さらに、同じ融合した入力が、回帰と分類に質的に異なる効果を持つことを示す。 これらの結果から、不均一核融合下での良性過剰適合は、入力相互作用によって生じる結合信号とスペクトル幾何学によって決定され、境界良性のみによって決定される。

関連論文リスト

• Tail-Weight Control and Localized Generalization in Nearly Low-Rank Adversarial Classification [8.110061989547228]
  実験的なランプ取り付けは、人口が最適に無視しても純粋ノイズの特徴に重みを割り当てることができる。 このギャップをガウス信号と雑音によるノルム制約付き逆数分類の定量化を行う。
  論文  参考訳（メタデータ） (2026-09-20T15:00:02Z)
• Neural Conjugate Aggregation: Identifiable Unsupervised Multi-Sensor Regression under Heterogeneous Sensor Bias [0.0]
  本研究では,不確実性下での回帰に基づくデータ融合について検討する。 この設定は、センサーネットワーク、シミュレーションアンサンブル、そして監視が費用がかかるか不可能である科学的な監視システムで発生する。 本稿では,ニューラルネットワークと共役ガウス推論を組み合わせた階層型ベイズフレームワークであるニューラル共役凝集モデル(NCAM)を提案する。
  論文  参考訳（メタデータ） (2026-06-20T19:30:21Z)
• Certified Robustness under Heterogeneous Perturbations via Hybrid Randomized Smoothing [11.710693198067089]
  混合離散連続入力に対する統一的ランダム化平滑化フレームワークを,解析的に抽出可能なナイマン-ピアソンの合同最悪の問題に対する定式化に基づいて導入する。 我々は,マルチモーダル・セーフティ・フィルタリングの枠組みを検証し,我々の知る限り,インタラクションに依存したテキスト・モーメント・セーフティ・フィルタリングにおける離散的・連続的な摂動に対する最初のモデルに依存しないNeyman-Pearson証明書を提供する。
  論文  参考訳（メタデータ） (2026-05-13T01:44:31Z)
• Can Heterogeneous Language Models Be Fused? [24.088997528611873]
  モデルマージは、複数の専門家モデルを単一のモデルに統合することを目的としています。 最近の進歩は、全てのソースモデルが均質である場合、すなわち、同じ事前訓練されたバックボーンから派生したマージングが非常に効果的であることを示している。 しかし、オープンモデルエコシステムでは、この仮定はますます非現実的になり、Llama、Qwen、Mistralのような異なるファミリーで有用な専門家がしばしば構築される。 このような不均質な環境では、直接重み空間融合が悪くなる
  論文  参考訳（メタデータ） (2026-04-02T06:21:21Z)
• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Fundamental limits to contrast reversal of self-fidelity correlations [0.0]
  測定設計においては、アンチコントラストのリードアウトを設計することが一般的である。 広義の入力アンサンブルに対して2つの進化を均一に反対にできるかどうかを問う。 我々は、ピアソン相関係数を、2つの進化の間の大域的対立のデバイスに依存しない尺度として採用する。
  論文  参考訳（メタデータ） (2025-09-30T15:07:28Z)
• Unlasting: Unpaired Single-Cell Multi-Perturbation Estimation by Dual Conditional Diffusion Implicit Bridges [68.98973318553983]
  本稿では,Dual Diffusion Implicit Bridges (DDIB) に基づくフレームワークを提案する。 我々は、生物学的に意味のある方法で摂動シグナルを伝達するために遺伝子制御ネットワーク(GRN)情報を統合する。 また、サイレント遺伝子を予測し、生成したプロファイルの品質を向上させるためのマスキング機構も組み込んだ。
  論文  参考訳（メタデータ） (2025-06-26T09:05:38Z)
• Towards Self-Supervised Covariance Estimation in Deep Heteroscedastic Regression [102.24287051757469]
  深部異方性回帰における自己教師付き共分散推定について検討する。 正規分布の間の2-ワッサーシュタイン距離の上界を導出する。 幅広い合成データセットと実データセットに対する実験により、提案された2-ワッサーシュタインと擬似ラベルアノテーションが結合した結果、計算的に安価で正確な深部ヘテロ代用回帰が導かれることが示された。
  論文  参考訳（メタデータ） (2025-02-14T22:37:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。