論文の概要: Learning Can Converge Stably to the Wrong Belief under Latent Reliability

• arxiv url: http://arxiv.org/abs/2603.21491v1
• Date: Mon, 23 Mar 2026 02:28:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.444936
• Title: Learning Can Converge Stably to the Wrong Belief under Latent Reliability
• Title（参考訳）: 遅れた信頼性の下で、学習は間違った信念に安定して収束できる
• Authors: Zhipeng Zhang, Zhenjie Yao, Kai Li, Lei Yang,
• Abstract要約: フィードバックの信頼性が観察不能な場合,学習アルゴリズムは不正確な解に安定して収束することを示す。 本研究では、動的学習から信頼性を推定し、遅い時間スケールの信頼変数を通じて更新を変調するモニタ・トラスト・レギュレータフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 24.97566911521709
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Learning systems are typically optimized by minimizing loss or maximizing reward, assuming that improvements in these signals reflect progress toward the true objective. However, when feedback reliability is unobservable, this assumption can fail, and learning algorithms may converge stably to incorrect solutions. This failure arises because single-step feedback does not reveal whether an experience is informative or persistently biased. When information is aggregated over learning trajectories, however, systematic differences between reliable and unreliable regimes can emerge. We propose a Monitor-Trust-Regulator (MTR) framework that infers reliability from learning dynamics and modulates updates through a slow-timescale trust variable. Across reinforcement learning and supervised learning settings, standard algorithms exhibit stable optimization behavior while learning incorrect solutions under latent unreliability, whereas trust-modulated systems reduce bias accumulation and improve recovery. These results suggest that learning dynamics are not only optimization traces but also a source of information about feedback reliability.
• Abstract（参考訳）: 学習システムは一般的に損失を最小限に抑え、報酬を最大化することで最適化される。 しかし、フィードバックの信頼性が観測不可能な場合、この仮定は失敗し、学習アルゴリズムは不安定な解に安定して収束する可能性がある。 この失敗は、単一ステップのフィードバックが、経験が情報的であるか、永続的にバイアスを受けているかを明らかにしないために起こります。 しかし、学習軌道上で情報が集約されると、信頼性と信頼性の低い体制の体系的な違いが現れる。 本研究では、動的学習から信頼性を推定し、遅い時間スケールの信頼変数を通じて更新を変調するモニタ・トラスト・レギュレータ(MTR)フレームワークを提案する。 強化学習と教師付き学習設定全体にわたって、標準アルゴリズムは安定な最適化挙動を示し、不正確な解を遅延不安定下で学習する一方、信頼変調システムはバイアスの蓄積を低減し、回復を改善する。 これらの結果は、学習力学は最適化トレースだけでなく、フィードバックの信頼性に関する情報源でもあることを示唆している。

関連論文リスト

• QuAIL: Quality-Aware Inertial Learning for Robust Training under Data Corruption [7.630511612007769]
  品質インフォームドトレーニング機構QuAILを学習プロセスに直接組み込む。 QuAILは、ランダムと値依存の両方の汚損の下で、ニューラルベースラインよりも平均性能を一貫して向上することを示す。
  論文  参考訳（メタデータ） (2026-02-03T16:06:30Z)
• Meta-Cognitive Reinforcement Learning with Self-Doubt and Recovery [25.522943543082363]
  本稿では,エージェントが学習行動を評価し,制御し,回復することを可能にするメタ認知強化学習フレームワークを提案する。 提案手法では,値予測エラー安定性(VPES)によって駆動されるメタトラスト変数を導入し,フェールセーフな制御と段階的信頼回復を通じて学習ダイナミクスを変調する。
  論文  参考訳（メタデータ） (2026-01-28T02:43:03Z)
• Learning to Trust Experience: A Monitor-Trust-Regulator Framework for Learning under Unobservable Feedback Reliability [24.97566911521709]
  保存不能信頼性(EIUR)下におけるてんかんの認識可能性について検討した。 標準的な堅牢な学習は安定して収束するが、高信頼で体系的に間違った信念を形成する。 本稿では,メタ認知制御の実践的対応として,学習者の内的力学における内在的証拠から経験的信頼性を推定する第2の内観的制御ループを提案する。
  論文  参考訳（メタデータ） (2026-01-14T07:52:14Z)
• Parent-Guided Adaptive Reliability (PGAR): A Behavioural Meta-Learning Framework for Stable and Trustworthy AI [0.0]
  Parent-Guided Adaptive Reliability (PGAR)は軽量な振る舞いメタ学習フレームワークである。 障害時の安定性、キャリブレーション、リカバリを改善するため、標準的な学習者の上に、監督的な"親"層を追加します。 PGARは既存の最適化と学習パイプラインのためのプラグイン信頼性レイヤとして機能し、安全関連設定の解釈可能なトレースをサポートする。
  論文  参考訳（メタデータ） (2026-01-07T06:02:34Z)
• Aurora: Are Android Malware Classifiers Reliable and Stable under Distribution Shift? [51.12297424766236]
  AURORAは、その信頼性と運用上のレジリエンスに基づいて、マルウェア分類器を評価するためのフレームワークである。 AURORAは、ポイント・イン・タイムのパフォーマンスを超えるように設計されたメトリクスのセットによって補完される。 さまざまなドリフトのデータセットにわたるSOTAフレームワークの脆弱性は、ホワイトボードへの復帰の必要性を示唆している。
  論文  参考訳（メタデータ） (2025-05-28T20:22:43Z)
• Temporal-Difference Variational Continual Learning [77.92320830700797]
  複数の先行推定の正則化効果を統合する新たな学習目標を提案する。 提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
  ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。 トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
  論文  参考訳（メタデータ） (2024-02-13T11:25:20Z)
• Calibrating Multimodal Learning [94.65232214643436]
  本稿では,従来の手法の予測信頼性を校正するために,新たな正規化手法であるCML(Callibrating Multimodal Learning)正則化を提案する。 この技術は、既存のモデルによって柔軟に装備され、信頼性校正、分類精度、モデルロバスト性の観点から性能を向上させることができる。
  論文  参考訳（メタデータ） (2023-06-02T04:29:57Z)
• Improving the Performance of Robust Control through Event-Triggered Learning [74.57758188038375]
  LQR問題における不確実性に直面していつ学習するかを決定するイベントトリガー学習アルゴリズムを提案する。 本研究では,ロバストな制御器ベースライン上での性能向上を数値例で示す。
  論文  参考訳（メタデータ） (2022-07-28T17:36:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。