論文の概要: Emotional Preferences as Goal-Priority Regulation
- arxiv url: http://arxiv.org/abs/2608.27072v1
- Date: Thu, 27 Aug 2026 12:58:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.406144
- Title: Emotional Preferences as Goal-Priority Regulation
- Title(参考訳): ゴール・プライオリティ規制としての感情的嗜好
- Abstract要約: エージェントの意思決定における中核的な問題は、上位レベルの目標によって自律的に生成される感情的嗜好によって、競合する下位レベルの目標の相対的な優先順位が決定できるかどうかである。
本稿では、強化学習を通して、そのような嗜好規制をどのように計算的に実現できるかを考察する。
自己構築型多目的探索環境における実験により、学習された選好関数は文脈的優先度切替、段階的トレードオフ、時間的持続性を示すことが示された。
- 参考スコア(独自算出の注目度): 5.936630155803903
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A core question in decision-making for agents is whether the relative priorities of competing lower-level objectives can be determined by emotional preferences autonomously generated by higher-level goals, rather than being externally prespecified. Under changing external environments and evolving internal states, emotions play an important functional role in regulating the relative priorities of competing goals. Inspired by the goal-directed theory of emotion, this paper studies how such preference regulation can be computationally realized through reinforcement learning. We first propose a conception of emergent emotional preference: a high-level goal autonomously induces state-dependent preferences over competing lower-level objectives. This conception is built upon a framework consisting of a multi-objective reinforcement learning inner controller and an outer preference generator. The inner controller provides a repertoire of preference-conditioned goal-directed behaviors, while the outer preference generator learns a mapping from the current state to objective preferences through reinforcement learning on a high-level goal. We operationalize emotional preference as a state-dependent regulation of relative goal priorities that emerges through optimization. Furthermore, we characterize the policy space induced by preference regulation and derive an upper bound on the optimality gap in terms of the representation error of the inner behavioral repertoire. We show that the gap vanishes when the optimal policy can be represented by the available preference-conditioned policies. Experiments in self-constructed multi-objective exploration environments show that the learned preference function exhibits contextual priority switching, graded trade-offs, and temporal persistence, and outperforms the evaluated fixed-preference and handcrafted-preference strategies.
- Abstract(参考訳): エージェントの意思決定における中核的な問題は、競合する下位レベルの目標の相対的優先順位が、外部で事前に特定されるのではなく、上位レベルの目標によって自律的に生成される感情的嗜好によって決定できるかどうかである。
外部環境の変化と内部状態の進化の下では、感情は競合する目標の相対的な優先順位を調節する上で重要な機能的役割を果たす。
本稿では、目標指向感情理論に触発され、強化学習を通してそのような嗜好規制をどのように計算的に実現できるかを考察する。
本稿では、まず、先発的な感情的嗜好の概念を提案する: ハイレベルなゴールは、競合する低レベルな目標よりも、自律的に国家依存的な嗜好を誘導する。
この概念は、多目的強化学習インナーコントローラと外部優先生成器からなるフレームワーク上に構築されている。
インナーコントローラは、嗜好条件付き目標指向行動のレパートリーを提供する一方、外部嗜好生成装置は、高レベルの目標に対する強化学習を通じて、現在の状態から客観的嗜好へのマッピングを学習する。
我々は、最適化によって生じる相対目標優先の国家依存的な規制として感情的嗜好を運用する。
さらに、嗜好規制によって引き起こされる政策空間を特徴付け、内的行動レパートリーの表現誤差の観点から最適性ギャップの上限を導出する。
このギャップは、最適ポリシーが利用可能な嗜好条件ポリシーで表現できるときに消えることを示す。
自己構築型多目的探索環境における実験により、学習された選好関数は、文脈的優先度切替、段階的トレードオフ、時間的持続性を示し、評価された定性基準と手作業による選好戦略より優れていることが示された。
関連論文リスト
- Strategic Feature Selection [62.74494413516484]
特徴選択による戦略的分類と隆起正則化との相互作用について検討する。
最適な正規化の下で特徴部分集合の性能を詳細に評価する。
この特徴から,我々は特徴セットとリッジ正規化のレベルを共同で選択する実用的なアルゴリズムを開発した。
論文 参考訳(メタデータ) (2026-06-17T09:47:15Z) - Effects of Objective Normalization on Regions of Interest in Preference-Based Evolutionary Multi-Objective Optimization [0.0]
EMOコミュニティでは、非正規化対象空間でROIを定義するか、正規化対象空間でROIを定義するかは標準化されていない。
本稿では、非正規化および正規化対象空間で定義される2つのROIが、異なるスケールの目的を持つ問題に対して著しく異なることを示す。
非正規化対象空間で定義されるROIは、正規化対象空間で定義されるROIよりもはるかに容易に近似できることを示す。
論文 参考訳(メタデータ) (2026-06-15T08:15:40Z) - From Holistic Evaluation to Structured Criteria: Rubrics Across the Evolving LLM Landscape [79.30826980815927]
ルーブリックは、複雑な品質判断を構造化され、実行可能な標準に変換する明示的な基準セットです。
我々は,既存のルーリックデザインを体系的に整理し,その構築と最適化を検証し,評価と訓練をまたいだ役割を解析する。
論文 参考訳(メタデータ) (2026-06-07T13:34:55Z) - MAESTRO: Meta-learning Adaptive Estimation of Scalarization Trade-offs for Reward Optimization [56.074760766965085]
大規模言語モデル(LLM)の整合性のための効率的なパラダイムとしてグループ相対政策最適化が登場している。
我々は,報酬スカラー化を動的潜在ポリシーとして扱い,モデルの終端隠蔽状態を意味的ボトルネックとして活用するMAESTROを提案する。
本稿では,軽量コンダクタネットワークがメタリワード信号としてグループ相対的優位性を生かしてポリシと共進化する,双方向最適化フレームワークにおけるコンテキスト的帯域幅問題としてこれを定式化する。
論文 参考訳(メタデータ) (2026-01-12T05:02:48Z) - Prior preferences in active inference agents: soft, hard, and goal shaping [3.2776596620344285]
アクティブ推論は、学習エージェントにおける搾取的および爆発的駆動のバランスをとる目的として、期待される自由エネルギーを提案する。
我々は、エージェントにハードまたはソフトな目標を与える、選好分布を定義するための4つの方法を検討する。
ゴールシェイピングは、環境の遷移ダイナミクスについて学習を犠牲にして、全体的なパフォーマンス(すなわち、搾取を促進すること)を最大限に発揮できることを示します。
論文 参考訳(メタデータ) (2025-12-02T23:07:24Z) - Desirable Effort Fairness and Optimality Trade-offs in Strategic Learning [4.702729080310267]
意思決定ルールが、より優れた結果を得るために、戦略的にインプット/機能を変更するエージェントとどのように相互作用するかを検討する。
このトレードオフを捉えた主エージェント相互作用の統一モデルを提案する。
論文 参考訳(メタデータ) (2025-10-21T21:43:20Z) - What Makes LLMs Effective Sequential Recommenders? A Study on Preference Intensity and Temporal Context [56.590259941275434]
RecPOは、シーケンシャルなレコメンデーションのための優先順位最適化フレームワークである。
これは、推定された嗜好階層と時間信号に基づいて適応的な報酬マージンを利用する。
タイムリーな満足感、コヒーレントな嗜好の維持、変化する状況下での識別の行使など、人間の意思決定の重要な特徴を反映している。
論文 参考訳(メタデータ) (2025-06-02T21:09:29Z) - Controllable Preference Optimization: Toward Controllable Multi-Objective Alignment [103.12563033438715]
人工知能におけるアライメントは、モデル応答と人間の好みと値の一貫性を追求する。
既存のアライメント技術は、主に一方向であり、様々な目的に対して、最適以下のトレードオフと柔軟性の低下につながる。
制御可能な選好最適化(CPO)を導入し、異なる目的に対する選好スコアを明確に指定する。
論文 参考訳(メタデータ) (2024-02-29T12:12:30Z) - Goal-Conditioned Q-Learning as Knowledge Distillation [136.79415677706612]
目標条件設定における非政治強化学習と知識蒸留との関連について検討する。
これは,目標の空間が高次元である場合に,目標条件付き非政治強化学習の性能を向上させることを実証的に示す。
また,複数のスパース目標を同時に達成した場合に,この手法を効果的に学習できることを示す。
論文 参考訳(メタデータ) (2022-08-28T22:01:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。