論文の概要: Progressive Autonomy as Preference Learning: A Formalization of Trust Calibration for Agentic Tool Use

• arxiv url: http://arxiv.org/abs/2605.19151v1
• Date: Mon, 18 May 2026 22:11:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.011038
• Title: Progressive Autonomy as Preference Learning: A Formalization of Trust Calibration for Agentic Tool Use
• Title（参考訳）: 優先学習としての進歩的自律:エージェントツール利用のための信頼校正の形式化
• Authors: Changkun Ou,
• Abstract要約: 政策ゲートウェイは、潜伏したヒトのリスク耐性機能に対するガウス過程の後部を維持している。 これは構造上、優先順位ベイズ最適化の例であることを示す。
• 参考スコア（独自算出の注目度）: 3.028930041578315
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: We formalize trust calibration for agentic tool use (deciding when an automated agent's proposed action may execute autonomously versus require human approval) as a preference-learning problem. A policy gateway maintains a Gaussian-process posterior over a latent human risk-tolerance function, observed through a probit likelihood on binary approve/deny feedback, and escalates to the human exactly where the approval outcome is most uncertain. We show this is structurally an instance of Preferential Bayesian Optimization, inheriting its inference machinery (approximate Gaussian-process classification) and its sample-efficiency argument (uncertainty-targeted querying), while differing in objective: classifying an action space into allow/block/ask regions rather than optimizing a design.
• Abstract（参考訳）: エージェントツール使用の信頼性校正(自動エージェントの提案した動作が自律的に実行可能か、人間による承認が必要かの決定)を優先学習問題として定式化する。 ポリシーゲートウェイは、二項承認/拒否フィードバックの確率によって観察される潜伏する人的リスク耐性関数のガウス過程後部を維持し、承認結果が最も不確実な場所を正確に人間にエスカレートする。 提案手法は,設計を最適化するのではなく,動作空間を許容/ブロック/アスキー領域に分類する,という目的に違いがある一方で,推論機構(ガウス過程分類)とサンプル効率引数(不確かさを目標としたクエリ)を継承する,優先ベイズ最適化の例であることを示す。

関連論文リスト

• Reinforced Agent: Inference-Time Feedback for Tool-Calling Agents [6.158612515104146]
  エージェントフィードバックとレビュアーフィードバックのトレードオフを測定するために、ヘルプフルネス・ハームフルネスメトリクスを導入します。 我々はBFCLとTau2-Bench(マルチターンステートフルシナリオ)に対するアプローチを評価し、無関係検出では+5.5%、マルチターンタスクでは+7.1%を達成した。 GPT-4oでは,評価モデルo3-miniが3:1の利益率と2.1:1の利益率を達成した。
  論文  参考訳（メタデータ） (2026-04-29T22:09:47Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
  ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。 我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-27T05:22:01Z)
• Automatic Outlier Rectification via Optimal Transport [7.421153752627664]
  コンケーブコスト関数を用いた最適輸送を用いた外乱検出のための新しい概念的枠組みを提案する。 コンケーブコスト関数を用いて最適な輸送距離を利用するための第一歩を踏み出し、修正セットを構築する。 次に、推定タスクを実行するための修正セット内での最適分布を選択する。
  論文  参考訳（メタデータ） (2024-03-21T01:30:24Z)
• Conformal Approach To Gaussian Process Surrogate Evaluation With Coverage Guarantees [47.22930583160043]
  適応型クロスコンフォーマル予測区間を構築する手法を提案する。 結果として生じる共形予測区間は、ベイズ的信頼性集合に類似した適応性のレベルを示す。 原子炉の蒸気発生器における閉鎖現象の高コスト・評価シミュレータのサロゲートモデリングの文脈において, 本手法の適用可能性を示す。
  論文  参考訳（メタデータ） (2024-01-15T14:45:18Z)
• REBEL: Reward Regularization-Based Approach for Robotic Reinforcement Learning from Human Feedback [61.54791065013767]
  報酬関数と人間の嗜好の相違は、現実世界で破滅的な結果をもたらす可能性がある。 近年の手法は、人間の嗜好から報酬関数を学習することで、不適応を緩和することを目的としている。 本稿では,ロボットRLHFフレームワークにおける報酬正規化の新たな概念を提案する。
  論文  参考訳（メタデータ） (2023-12-22T04:56:37Z)
• Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level Stability and High-Level Behavior [51.60683890503293]
  生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。 任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T04:27:26Z)
• Model Predictive Control with Gaussian-Process-Supported Dynamical Constraints for Autonomous Vehicles [82.65261980827594]
  本研究では、学習したガウス過程を利用して人間の運転行動を予測する自動運転車のモデル予測制御手法を提案する。 マルチモード予測制御アプローチは、人間のドライバーの意図を考察する。
  論文  参考訳（メタデータ） (2023-03-08T17:14:57Z)
• Dynamic Memory for Interpretable Sequential Optimisation [0.0]
  大規模展開に適した非定常性を扱うためのソリューションを提案する。 動的メモリの新たな形態を取り入れた適応型ベイズ学習エージェントを開発した。 自動アズ・ア・サービス(Automatic-as-a-service)の大規模展開のアーキテクチャについて説明する。
  論文  参考訳（メタデータ） (2022-06-28T12:29:13Z)
• Reinforcement Learning with a Terminator [80.34572413850186]
  我々は, TerMDP のパラメータを学習し, 推定問題の構造を活用し, 状態ワイドな信頼境界を提供する。 我々はこれらを用いて証明可能な効率のよいアルゴリズムを構築し、終端を考慮し、その後悔を抑える。
  論文  参考訳（メタデータ） (2022-05-30T18:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。