論文の概要: SPEAR: Five Principles for Interactive Human-Agent Alignment

• arxiv url: http://arxiv.org/abs/2610.07204v1
• Date: Mon, 05 Oct 2026 18:18:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.583268
• Title: SPEAR: Five Principles for Interactive Human-Agent Alignment
• Title（参考訳）: SPEAR: インタラクティブなヒューマンエージェントアライメントのための5つの原則
• Abstract要約: 最近のAIアライメント作業は、しばしば、デプロイ前の最適化問題としてアライメントをフレーム化する。 本稿では,現在進行中のインタラクション設計問題として,人間とエージェントのアライメントを再構成する。
• 参考スコア（独自算出の注目度）: 17.240893090221938
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent AI alignment work often frames alignment as a pre-deployment optimization problem: collect human feedback, learn preferences or principles, finetune the model, and deploy an aligned system. This framing has produced major progress, but it under-specifies what happens once AI systems act as agents on users' behalf in situated, long-term, and social contexts. This position paper reframes human-agent alignment as an ongoing interaction design problem. We propose SPEAR, five pillars of interactive alignment: Specification (how people express intent and establish shared understanding), Process (how agents decide when to act, ask, defer, or pause), Evaluation (how people judge whether agents succeeded), Adaptation (how agents adapt to users over repeated use), and Recalibration (how people adapt their trust, expectations, and behavior in response to agents).
• Abstract（参考訳）: 最近のAIアライメント作業は、人間のフィードバックを収集し、好みや原則を学習し、モデルを微調整し、アライメントシステムをデプロイする、事前デプロイの最適化問題としてアライメントされることが多い。 このフレーミングは大きな進歩をもたらしたが、AIシステムが、位置、長期、社会的文脈において、ユーザの代理として機能するときに起こることを、過小評価している。 このポジションペーパーは、現在進行中のインタラクション設計問題として、人間とエージェントのアライメントを再構成する。 提案する対話的アライメントの柱は,仕様(人々が意図を表現し,共通の理解を確立する方法),プロセス(エージェントがいつ行動するか,質問し,延期するか),評価(エージェントが成功したかを判断する方法),適応(エージェントが繰り返し使用に対してユーザに適応する方法),再検討(エージェントに対する信頼,期待,行動の順応方法)である。

関連論文リスト

• ComBodied Agents: a New Paradigm of Human-Centric Agentic AI [121.60938707072069]
  我々は、人間中心のパラダイムであるCombodied Agentsを紹介し、時間とともに個々の人間状態の軌跡を知覚し、モデル化し、予測し、支援する。 パーソナルアシスタント、ヘルスエージェント、AIコンパニオン、適応型ヒューマンAIシステムをクローズドループに統合する。
  論文  参考訳（メタデータ） (2026-08-11T13:35:58Z)
• From Profiling to Synthesis: Benchmarking Implicit Behavioral Alignment in Personalized LLM Agents [56.187590188698955]
  大規模言語モデルは、ますます有能な自律エージェントを可能にしてきたが、そのようなエージェントを実用的に有効にするためには、パーソナライズが不可欠である。 最近のベンチマークではエージェントのパーソナライゼーションの評価が始まっているが、それらは主に静的な選好スナップショット、固定されたインタラクションログ、あるいは事前に定義されたユーザプロファイルに対する質問応答に依存している。 縦断的相互作用履歴から構築した暗黙的行動アライメントのベンチマークであるIBA-Benchを紹介する。 IBA-Agentは、広範囲な検索と軌道レベルのアライメントを通じて競合する優先順位を調整するエージェントフレームワークである。
  論文  参考訳（メタデータ） (2026-08-03T12:52:04Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• PICon: A Multi-Turn Interrogation Framework for Evaluating Persona Agent Consistency [13.864376043056387]
  大規模言語モデル(LLM)に基づくペルソナエージェントは、ヒトの参加者にスケーラブルなプロキシとして急速に採用されている。 論理的連鎖型マルチターン質問を通じてペルソナエージェントを探索する評価フレームワークPIConを提案する。
  論文  参考訳（メタデータ） (2026-03-26T16:34:34Z)
• When Should an AI Act? A Human-Centered Model of Scene, Context, and Behavior for Agentic AI Design [0.44743648495907423]
  エージェントAIは、コンテキストデータからユーザの状況を推測することによって、積極的に介入する。 本稿では,解釈的場面,文脈,行動要因を組み込んだ結果として振舞いを再構成する概念モデルを提案する。 介入の深さ、タイミング、強度、抑制を導く5つのエージェント設計原則を導出します。
  論文  参考訳（メタデータ） (2026-02-26T09:56:37Z)
• Towards a Humanized Social-Media Ecosystem: AI-Augmented HCI Design Patterns for Safety, Agency & Well-Being [0.0]
  ソーシャルプラットフォームは何十億もの人々を結び付けているが、そのエンゲージメント優先のアルゴリズムはユーザーに対してではなく、ユーザーに対して機能することが多い。 我々は,プラットフォームロジックとインターフェースの間に位置するユーザが所有する,説明可能な仲介者を提案する。 HL-AIは、プラットフォーム協力を必要とせず、実践的でモーメント間制御を提供する。
  論文  参考訳（メタデータ） (2025-11-08T06:22:15Z)
• Poly-Autoregressive Prediction for Modeling Interactions [42.51313085280179]
  本稿では,エゴエージェントの今後の行動を予測する多自己回帰(PAR)モデリングを提案する。 PARは、社会的状況における人間の行動予測、自動運転車の軌道予測、手動物体間相互作用における物体のポーズ予測の3つの異なる問題に適用可能であることを示す。
  論文  参考訳（メタデータ） (2025-02-12T18:59:43Z)
• AgentCF: Collaborative Learning with Autonomous Language Agents for Recommender Systems [112.76941157194544]
  本稿では,エージェントベースの協調フィルタリングにより,レコメンデータシステムにおけるユーザとイテムのインタラクションをシミュレートするエージェントCFを提案する。 我々は、ユーザだけでなく、アイテムをエージェントとして、創造的に考慮し、両方のエージェントを同時に最適化する協調学習アプローチを開発します。 全体として、最適化されたエージェントは、ユーザ・イテム、ユーザ・ユーザ・ユーザ、アイテム・イテム、集合的インタラクションなど、フレームワーク内での多様なインタラクションの振る舞いを示す。
  論文  参考訳（メタデータ） (2023-10-13T16:37:14Z)
• ProAgent: Building Proactive Cooperative Agents with Large Language Models [89.53040828210945]
  ProAgentは、大規模な言語モデルを利用してプロアクティブエージェントを生成する新しいフレームワークである。 ProAgentは現状を分析し、チームメイトの意図を観察から推測することができる。 ProAgentは高度なモジュール化と解釈可能性を示し、様々な調整シナリオに容易に統合できる。
  論文  参考訳（メタデータ） (2023-08-22T10:36:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。