論文の概要: On the Structural Limits of Machine Learning Decision Systems: An Information-Theoretic, Interaction-Based, and Stochastic-Dynamical Perspective

• arxiv url: http://arxiv.org/abs/2608.13510v1
• Date: Thu, 13 Aug 2026 17:34:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-14 18:29:38.617538
• Title: On the Structural Limits of Machine Learning Decision Systems: An Information-Theoretic, Interaction-Based, and Stochastic-Dynamical Perspective
• Title（参考訳）: 機械学習決定システムの構造限界について:情報理論,インタラクションベース,確率力学の観点から
• Abstract要約: 本研究では、情報理論と相互作用に基づく視点から、データ駆動型意思決定システムの本質的な限界について検討する。 ファノ型境界による分類における最小到達誤差とクラメロ・ラオ不等式によるパラメトリック推定における精度限界を解析した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Machine learning procedures are commonly evaluated in terms of predictive accuracy and computational efficiency. However, their achievable performance is fundamentally constrained by structural properties of the underlying data-generating process, which are formalized in terms of informational bounds. In this work we examine intrinsic limits of data-driven decision systems from an information-theoretic and interaction-based perspective. We analyze minimal achievable error in classification through Fano-type bounds and precision limits in parametric estimation via the Cramér-Rao inequality, emphasizing that such limits depend on the underlying model rather than on algorithmic sophistication alone. We further discuss how implicit assumptions, such as independence, ergodicity, and distributional stability, affect the validity of inferential procedures. Building on interaction-based modeling principles, we review typical frameworks such as Markov Random Fields and potential based representations for encoding dependence mechanisms. We also describe decision systems, including LLM-integrated agent architectures, as feedback-driven stochastic processes where state-dependent dynamics may induce emergent macroscopic behavior. This perspective highlights the importance of having adequate models for the data as a prerequi- site for expanding predictive capability, and situates algorithmic learning within the informational limits imposed by the models.
• Abstract（参考訳）: 機械学習の手順は、予測精度と計算効率の観点から一般的に評価される。 しかし、その達成可能な性能は、情報境界の観点から形式化された基礎となるデータ生成プロセスの構造的特性によって根本的に制約される。 本研究では、情報理論と相互作用に基づく視点から、データ駆動型意思決定システムの本質的な限界について検討する。 我々は、ファノ型境界とクラメール・ラオ不等式によるパラメトリック推定における精度限界による分類における最小到達誤差を解析し、アルゴリズムの高度化のみに限らず、基礎モデルに依存することを強調した。 さらに、独立性、エルゴード性、分布安定性といった暗黙の仮定が、推論手順の有効性にどのように影響するかについても論じる。 相互作用に基づくモデリングの原則を基礎として,マルコフ・ランダム・フィールズ(Markov Random Fields)のような典型的なフレームワークと,依存機構の符号化のためのポテンシャルベース表現を概観する。 また、LLM統合エージェントアーキテクチャを含む決定系を、状態依存力学が創発的マクロな振る舞いを誘発するフィードバック駆動確率過程として記述する。 この視点は、予測能力を拡張するための前提サイトとして、データに適切なモデルを持つことの重要性を強調し、モデルによって課される情報制限内にアルゴリズム学習を配置する。

関連論文リスト

• K-Models: a Flexible and Interpretable Method for Ordinal Clustering with Application to Antigen-Antibody Interaction Profiles [65.21921642886367]
  K-Modelsは、順序的制約を統合し、観察された機能プロファイルを生成するランダムプロセスの基本的な要素を推定する新しいフレームワークである。 提案手法はシミュレーションと実世界の応用を通して評価する。
  論文  参考訳（メタデータ） (2026-05-14T13:35:44Z)
• Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
  本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。 具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
  論文  参考訳（メタデータ） (2026-05-09T15:30:52Z)
• Uncertainty-Aware Sparse Identification of Dynamical Systems via Bayesian Model Averaging [3.8406608036585035]
  我々は,コンポーネントを結合した動的システムのためのスパース識別フレームワークを開発した。 このフレームワークは,不確実性を定量化してスパース相互作用構造を正確に復元することを示す。 これらの結果は、動的モデルのデータ駆動的な発見におけるベイズの不確実性定量化の重要性を強調している。
  論文  参考訳（メタデータ） (2026-04-12T23:19:23Z)
• From Physics to Machine Learning and Back: Part II - Learning and Observational Bias in PHM [52.64097278841485]
  物理インフォームドモデリングとデータストラテジーによる学習と観察バイアスの導入は、モデルを物理的に一貫した信頼性のある予測へと導くことができるかを検討する。 メタラーニングや少数ショットラーニングなどの高速適応手法をドメイン一般化手法とともに検討する。
  論文  参考訳（メタデータ） (2025-09-25T14:15:43Z)
• Information-theoretic Quantification of High-order Feature Effects in Classification Problems [0.19791587637442676]
  特徴重要度(Hi-Fi)法における高次相互作用の情報理論拡張について述べる。 私たちのフレームワークは、機能のコントリビューションをユニークでシナジスティックで冗長なコンポーネントに分解します。 その結果,提案した推定器は理論的および予測された結果を正確に復元することがわかった。
  論文  参考訳（メタデータ） (2025-07-06T11:50:30Z)
• A Sparse Bayesian Learning Algorithm for Estimation of Interaction Kernels in Motsch-Tadmor Model [0.9821874476902972]
  モッチュ・タドモールモデルにおける非対称相互作用カーネルの同定について検討する。 制御方程式の暗黙的な形式を用いてカーネル識別を再構成する変分フレームワークを提案する。 本研究では,正規化の事前情報を取り込んだ疎ベイズ学習アルゴリズムを開発し,不確実性を定量化し,基本モデル選択を可能にする。
  論文  参考訳（メタデータ） (2025-05-11T17:43:32Z)
• Probabilistic neural operators for functional uncertainty quantification [14.08907045605149]
  本稿では,ニューラル演算子の出力関数空間上の確率分布を学習するフレームワークである確率論的ニューラル演算子(PNO)を紹介する。 PNOは、厳密な適切なスコアリングルールに基づく生成モデリングにより、ニューラル演算子を拡張し、不確実性情報をトレーニングプロセスに直接統合する。
  論文  参考訳（メタデータ） (2025-02-18T14:42:11Z)
• Surrogate Modeling for Physical Systems with Preserved Properties and Adjustable Tradeoffs [0.0]
  代理モデルを生成するためのモデルベースおよびデータ駆動型戦略を提案する。 後者は、前提となる位相構造に人工的関係を組み込むことで解釈可能な代理モデルを生成する。 我々のフレームワークは、分散パラメータモデルのための様々な空間離散化スキームと互換性がある。
  論文  参考訳（メタデータ） (2022-02-02T17:07:02Z)
• Scalable Intervention Target Estimation in Linear Models [52.60799340056917]
  因果構造学習への現在のアプローチは、既知の介入目標を扱うか、仮説テストを使用して未知の介入目標を発見する。 本稿では、全ての介入対象を一貫して識別するスケーラブルで効率的なアルゴリズムを提案する。 提案アルゴリズムは、与えられた観測マルコフ同値クラスを介入マルコフ同値クラスに更新することも可能である。
  論文  参考訳（メタデータ） (2021-11-15T03:16:56Z)
• MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood Inference from Sampled Trajectories [61.3299263929289]
  シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。 あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。 モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-03T12:59:16Z)
• Multiplicative noise and heavy tails in stochastic optimization [62.993432503309485]
  経験的最適化は現代の機械学習の中心であるが、その成功における役割はまだ不明である。 分散による離散乗法雑音のパラメータによく現れることを示す。 最新のステップサイズやデータを含む重要な要素について、詳細な分析を行い、いずれも最先端のニューラルネットワークモデルで同様の結果を示す。
  論文  参考訳（メタデータ） (2020-06-11T09:58:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。