論文の概要: Provenance-Aware Belief Updating in Human-AI Feedback Loops

• arxiv url: http://arxiv.org/abs/2610.13008v1
• Date: Fri, 09 Oct 2026 05:09:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-13 04:06:29.398857
• Title: Provenance-Aware Belief Updating in Human-AI Feedback Loops
• Title（参考訳）: 人間とAIのフィードバックループにおける前向き信念の更新
• Abstract要約: 提案手法は, 報告数ではなく, 証拠証拠に基づいて, 提供された報告系統を更新できるかどうかを考察する。 本稿では,緩やかなベイズ指導と,安定した予測を促す制約を組み合わせたリレーショナル目的であるLQETについて紹介する。 LQETは、RMSEを41-44%減らし、8つのリレーステップを89-91%減らした。
• 参考スコア（独自算出の注目度）: 2.0157625194391096
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: In repeated human-AI interaction, a single observation can be quoted, summarized, and returned to a model as multiple reports, making repetition look like independent corroboration. We study whether language models can use supplied report lineage to update according to evidence provenance rather than report count. We introduce Latent Quotient Evidence Training (LQET), a relational objective that combines sparse Bayesian supervision with constraints that encourage stable predictions when reports add no new evidence and consistent updates to the same new evidence across relay histories. On a controlled binary benchmark, LQET reduces new-evidence update RMSE by 41-44% and log-odds drift after eight relay steps by 89-91% relative to task-only training across Qwen3-4B and Phi-4-mini, with three paired training seeds per backbone. The gains extend to a closed-loop simulation in which model confidence controls how many relayed reports re-enter the model's context in later rounds. By grounding belief updates in supplied provenance, LQET offers a route toward dynamic human-AI systems in which influence follows new evidence, not the number of times the same evidence returns.
• Abstract（参考訳）: 繰り返し行われる人間とAIの相互作用では、単一の観察を引用し、要約し、複数のレポートとしてモデルに返却することで、反復は独立した腐食のように見える。 提案手法は, 報告数ではなく, 証拠証拠に基づいて, 提供された報告系統を更新できるかどうかを考察する。 報告に新たな証拠が加えられず,またリレー履歴全体にわたって同じ新たな証拠に一貫した更新が加えられたときに,疎度ベイズ的監督と安定した予測を促進する制約を併用する関係目的であるLQET(Latent Quotient Evidence Training)を導入する。 制御されたバイナリベンチマークでは、LQETはRMSEを41-44%削減し、8つのリレーステップの後にログドリフトを89-91%削減する。 利得はクローズドループシミュレーションにまで拡張され、モデル信頼度は後回のラウンドでリレーレポートの数を制御する。 供給された証拠の信条更新を基礎にすることで、LQETは、同じ証拠が返される回数ではなく、新しい証拠に影響を及ぼす動的な人間-AIシステムへの道筋を提供する。

関連論文リスト

• Recurrent Harness for Agentic Continual Learning [53.480527067024404]
  ReHarnessは、厳格なオンラインストリーミングプロトコルの下でのエージェント的連続学習のための繰り返しフレームワークである。 私たちは、ストリームの現在のインスタンスをよりよく知るために、ハーネス状態において、どのような情報が異なる方法でキャプチャされたのかを尋ねます。 本研究では,ReHarnessがソース・グラウンドで意味のあるリビジョンを生成し,分散シフト下での過度に一般化あるいは時代遅れな経験を補正し,連続学習時の安定性と可塑性を改善したことを示す。
  論文  参考訳（メタデータ） (2026-10-08T19:44:43Z)
• NeoHorse-1: Towards Recursive Self-Improvement via Agentic Post-Training with Routing Harness [76.6324710887112]
  NeoHorse-1は、エージェントのポストトレーニングを通じてこの経路を探索するために開発されたエージェントネイティブモデルのファミリーである。 本システムでは,異種モデルプールとインテリジェントなルーティング,予測能力要求,選択されたサービス層,およびその後のユーザ毎のインタラクションを結合する。
  論文  参考訳（メタデータ） (2026-09-08T03:14:54Z)
• Steering Recurrent Reasoners at Inference Time with Readout Feedback [22.32377205563293]
  そこで本研究では,リトレーニングを伴わずに遅延力学を操り,自己の読み出し確率を用いて再帰モデルを推論時に改善可能であることを示す。 SudokuとMazeの3つのリカレントモデル(AKOrN, ItrSA++, TRM)の中で、RoFBは6つのモデルタスクペアのうち4つで明確な利得を得る。
  論文  参考訳（メタデータ） (2026-08-25T07:00:21Z)
• Co-RL: Unsupervised Reasoning Emerges from Diverse Cohort in Multi-agent RL [55.05743310621117]
  Co-RLは、パラメータを共有しない複数の分離されたモデルを、仲間から派生した報酬を使ってRLを通じて同時に最適化するフレームワークである。 我々は,コホート多様性の増大が,自己強化フィードバックループを駆動する相関誤差を減少させることを示す。
  論文  参考訳（メタデータ） (2026-08-18T01:16:02Z)
• Beyond Reasoning: Reinforcement Learning Unlocks Parametric Knowledge in LLMs [59.62441340813425]
  我々は、強化学習がパラメトリック知識の直接的リコールを改善するかどうかを検討する。 3つのモデルファミリと複数の事実QAベンチマークで、RLの平均相対利得は27%である。 機械的には、RLは主に新しい事実を得るのではなく、既存の知識の確率質量を再分配する。
  論文  参考訳（メタデータ） (2026-05-08T02:40:12Z)
• Reinforce to Learn, Elect to Reason: A Dual Paradigm for Video Reasoning [17.78591587115095]
  Reinforce to Learn, Elect to Reason (RLER) は、信頼できる回答から証拠を得るために学習を分離する二重パラダイムである。 RLERはすべてのベンチマークで最先端を達成し、ベースモデルよりも平均6.3%改善されている。
  論文  参考訳（メタデータ） (2026-04-06T03:01:52Z)
• Recursive Think-Answer Process for LLMs and VLMs [54.52289112197118]
  R-TAP(Recursive Think-Answer Process)を提案する。 R-TAPにより、モデルは反復的推論サイクルに参加し、より正確な答えを生成することができる。 R-TAP強化モデルが従来のシングルパス法より一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2026-03-02T17:20:10Z)
• Counterfactual Reward Model Training for Bias Mitigation in Multimodal Reinforcement Learning [0.5204229323525671]
  本稿では,マルチモーダル表現学習による因果推論を導入し,非教師付きバイアス耐性報酬信号を提供する。 我々は, フレーミングバイアス, クラス不均衡, 分散ドリフトを示すマルチモーダルフェイク対真のニュースデータセット上で, フレームワークの評価を行った。 その結果、偽ニュースの検出において89.12%の精度を達成し、ベースライン報酬モデルを上回った。
  論文  参考訳（メタデータ） (2025-08-27T04:54:33Z)
• Solving Offline Reinforcement Learning with Decision Tree Regression [0.0]
  本研究は, オフライン強化学習問題に対して, 回帰タスクとして再検討することで, 新たなアプローチを提案する。 我々は、リターン条件付きとリターン重み付き決定ツリーポリシーの2つの異なるフレームワークを紹介します。 オフラインRLに対するこの改定されたアプローチに固有の単純化にもかかわらず、我々のエージェントは、少なくとも確立された手法と同等の性能を示す。
  論文  参考訳（メタデータ） (2024-01-21T23:50:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。