論文の概要: A Mechanism-Driven Theory of Phase Transitions in Active Learning
- arxiv url: http://arxiv.org/abs/2607.00144v1
- Date: Tue, 30 Jun 2026 20:20:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.620192
- Title: A Mechanism-Driven Theory of Phase Transitions in Active Learning
- Title(参考訳): 能動学習における相転移のメカニズム駆動理論
- Abstract要約: アクティブラーニング(AL)のパフォーマンスは予算依存であることが知られているが、レシエーションはデータセットやアーキテクチャ全体にわたって一般化できない。
我々は、予算制度を支配的一般化機構のシフトとみなすことにより、ALダイナミクスを特徴づける。
この作業は、次世代のトランジション対応ALアルゴリズムのための統一されたフレームワークを提供する。
- 参考スコア(独自算出の注目度): 3.5819392925290043
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Active learning (AL) performance is known to be budget-dependent, yet regimes are typically defined by heuristic label counts that fail to generalize across datasets or architectures. We characterize AL dynamics by reframing budget regimes as shifts in the dominant generalization mechanism. By reinterpreting PAC-style risk components as dynamic interacting terms, we prove that dominance shifts are structurally unavoidable, creating a moving bottleneck for generalization. We operationalize this using measurable proxies and a segmented regression procedure to identify a tripartite taxonomy: data-driven, transition, and model-driven phases. Our framework explains the long-standing observation that representativeness, coverage, and uncertainty strategies excel at different stages. Experiments across natural and medical imaging show that AL efficiency depends on the alignment between the strategy's inductive bias and the active bottleneck. Moreover, self-supervised representation shift transitions earlier along the labeling trajectory, highlighting the role of representation quality in shaping AL dynamics. Overall, this work provides a unified framework for the next generation of transition-aware AL algorithms.
- Abstract(参考訳): アクティブラーニング(AL)のパフォーマンスは予算依存であることが知られているが、レギュレーションは通常、データセットやアーキテクチャをまたいだ一般化に失敗するヒューリスティックなラベルカウントによって定義される。
我々は、予算制度を支配的一般化機構のシフトとみなすことにより、ALダイナミクスを特徴づける。
PAC型リスクコンポーネントを動的相互作用項として再解釈することにより、支配シフトが構造的に避けられないことを証明する。
データ駆動型、遷移型、モデル駆動型フェーズの3部分類を識別するために、測定可能なプロキシと分割回帰手順を用いてこれを運用する。
当社のフレームワークは,様々な段階における代表性,カバレッジ,不確実性といった戦略が優れているという長年の観察を説明している。
自然画像と医用画像を用いた実験では、AL効率は戦略の誘導バイアスとアクティブなボトルネックとの整合性に依存することが示された。
さらに、自己教師付き表現シフトはラベル付け軌道に沿って早い段階で遷移し、ALダイナミクスを形成する上での表現品質の役割を強調した。
全体として、この研究は、次世代のトランジション対応ALアルゴリズムのための統一されたフレームワークを提供する。
関連論文リスト
- Making Latent Evolution Explicit: Operator-Structured Transitions for World Action Models [6.732084106610505]
World Action Models (WAM)は、タスク関連シーン状態が相互作用の下でどのように進化するかを予測することで、ロボットポリシーを強化する。
潜時遷移は、時間的進化ではなくトークン相互作用を中心に帰納的構造を持つトランスフォーマーベースの予測器で一般的に実現される。
本稿では、文脈変調演算子に基づく伝播と加算力による学習可観測空間の潜在進化をモデル化する潜在進化演算子ネットワーク(LEON)を紹介する。
論文 参考訳(メタデータ) (2026-08-27T15:43:44Z) - Orthogonal JEPA: Factorized Predictive States for Latent World Models [95.20158869896393]
予測因数分解に基づく潜在的世界モデリングフレームワークであるメソッドを導入する。
そこで本研究では,予測構造を弱め,あるいは矛盾する勾配を抑えつつ,冗長なキャパシティを支配的信号に割り当てる手法を提案する。
制御された視覚、単細胞転写学、縦断的な健康記録、連続的な制御、分子動力学の実験は、表現品質、予測、計画、長期安定性を評価する。
論文 参考訳(メタデータ) (2026-08-20T13:59:57Z) - Decoupling Intention from Trajectory: A Representational Deduction Framework for World Action Models [22.16380408116294]
World Action Models (WAM) は、世界状態の進化を理解し、生成運動計画の指針となる統一アーキテクチャを構築することを目的としている。
本稿では,PILOTを提案する。その中核となるRepresentational Deduction (RD) は,このギャップをネイティブモデル能力として動作思考誘導を統合することで橋渡しする。
論文 参考訳(メタデータ) (2026-08-07T09:12:15Z) - Online Continual Learning with Dynamic Label Hierarchies [72.33335166136045]
粒度をまたいで重大度が進化する新しい問題設定であるDHOCLを導入し,各サンプルは単一階層レベルでの監視を行う。
i) 混合粒度の部分的監視は、塑性を制約し、階層間のセマンティック一貫性を損なう、進化するパスワイド階層上のポイントワイド信号のみを提供する。
本稿では,相補的分類を適応的に組み合わせ,学習可能な階層型プロトタイプによって正規化し,素早い適応,階層的整合性,構造的知識の統合を可能にするHALOを提案する。
論文 参考訳(メタデータ) (2026-05-12T08:20:23Z) - Structural Instability of Feature Composition [2.5754366051855837]
球状辞書モデルに基づく合成-崩壊しきい値について検討する。
高バイアス状態においては、ReLUは顕微鏡的相関による変動変動を系統的なドリフトに変換する。
CLEVRから抽出した構造化セマンティックな特徴に対するスケーリングの予測傾向を検証した。
論文 参考訳(メタデータ) (2026-04-18T05:53:31Z) - Learning in Markov Decision Processes with Exogenous Dynamics [39.6376520918509]
エージェントの動作に依存しない状態成分を特徴とするMDPの構造クラスについて検討する。
この構造を利用すると、学習の保証が大幅に向上することを示す。
私たちは、古典的なおもちゃの設定や現実世界に触発された環境にまたがって、私たちのアプローチを実証的に検証します。
論文 参考訳(メタデータ) (2026-03-03T11:10:45Z) - Graded Transformers [0.0]
そこで我々は,ベクトル空間上のグレーディングを通じて帰納バイアスを埋め込む新しいシーケンスモデルである Graded Transformer フレームワークを紹介した。
このフレームワークは、以前のモデルの固定グレードの制限を克服し、適応的な特徴優先順位付けを可能にする。
Graded Transformerは、階層的学習とニューロシンボリック推論に対する数学的に原則化されたアプローチを提供する。
論文 参考訳(メタデータ) (2025-07-27T02:34:08Z) - Learning Time-Aware Causal Representation for Model Generalization in Evolving Domains [50.66049136093248]
動的因果要因と因果機構のドリフトを組み込んだ時間認識型構造因果モデル(SCM)を開発した。
本研究では,時間領域毎に最適な因果予測値が得られることを示す。
合成と実世界の両方のデータセットの結果から,SynCは時間的一般化性能に優れることが示された。
論文 参考訳(メタデータ) (2025-06-21T14:05:37Z) - Situationally-Aware Dynamics Learning [57.698553219660376]
隠れ状態表現のオンライン学習のための新しいフレームワークを提案する。
提案手法は、非観測パラメータが遷移力学と報酬構造の両方に与える影響を明示的にモデル化する。
シミュレーションと実世界の両方の実験は、データ効率、ポリシー性能、安全で適応的なナビゲーション戦略の出現を著しく改善した。
論文 参考訳(メタデータ) (2025-05-26T06:40:11Z) - TRACE for Tracking the Emergence of Semantic Representations in Transformers [10.777646083061395]
本稿では,トランスフォーマーに基づくLMにおける位相遷移を検出するために,幾何学的,情報的,言語的信号を組み合わせた診断フレームワークTRACEを紹介する。
実験により、位相遷移は曲率崩壊と寸法安定化の明確な交点と一致し、これらの幾何学的シフトは、新たな構文的および意味論的精度と一致することが明らかになった。
この研究は、モデル解釈可能性、訓練効率、構成一般化に関する洞察を提供することで、言語的抽象がLMにどのように現れるかの理解を深める。
論文 参考訳(メタデータ) (2025-05-23T15:03:51Z) - Towards Robust and Adaptive Motion Forecasting: A Causal Representation
Perspective [72.55093886515824]
本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。
我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。
合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
論文 参考訳(メタデータ) (2021-11-29T18:59:09Z) - Target-Embedding Autoencoders for Supervised Representation Learning [111.07204912245841]
本稿では,対象空間が高次元な純粋教師付き環境における一般化の枠組みを解析する。
我々は、教師付き予測のための目標埋め込みオートエンコーダ(TEA)の一般的なフレームワークのモチベーションと形式化を行い、特徴とターゲットの予測の両方から予測可能なように最適化された中間潜在表現を学習する。
論文 参考訳(メタデータ) (2020-01-23T02:37:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。