論文の概要: When AI Agents Act on Our Behalf: A Taxonomy of Human-Agent Interaction Failure

• arxiv url: http://arxiv.org/abs/2611.00291v1
• Date: Fri, 30 Oct 2026 19:17:20 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 20:19:47.666644
• Title: When AI Agents Act on Our Behalf: A Taxonomy of Human-Agent Interaction Failure
• Title（参考訳）: 人間とエージェントの相互作用の失敗の分類法
• Abstract要約: 我々は、人間とエージェントの相互作用において、どのような形が失敗をもたらすのか、そしてエージェントがより自律的に振る舞うにつれて、それらの形がどのように変化するのかを尋ねる。 695件の公開リポジトリに記録されたインシデントから,3つのインタラクションステージ内に12件の障害モードをボトムアップした。 12のモードはすべて、低い自律性と高い自律性の両方に現れ、自律性の向上は、各障害が持つ形式を変える。
• 参考スコア（独自算出の注目度）: 20.971374130080907
• License:
• Abstract: AI agents write and execute code, manipulate user interfaces, and transact on their users' behalf. We ask what forms failure takes in human-agent interaction, and how those forms change as agents act with greater autonomy. From 695 documented incidents in two public repositories, we developed 12 failure modes bottom-up within three interaction stages adapted from Amershi et al.'s guidelines, coding the autonomy at which each arose. What a person can do when an agent fails depends on how much the agent completes between points of user involvement--a property fixed at deployment. Therefore, the same model on the same task can fail differently under different configurations. All 12 modes appear at both low and high autonomy, and rising autonomy changes the form each failure takes. Users need controls between full delegation and full manual work, and neither incident records nor agent benchmarks reach the interaction where these failures occur.
• Abstract（参考訳）: AIエージェントは、コードを書き、実行し、ユーザインターフェースを操作し、ユーザに代わってトランザクションする。 我々は、人間とエージェントの相互作用において、どのような形が失敗をもたらすのか、そしてエージェントがより自律的に振る舞うにつれて、それらの形がどのように変化するのかを尋ねる。 695年の文書化された2つの公開リポジトリのインシデントから、Amershi氏らのガイドラインに適合した3つのインタラクションステージの中で、12の障害モードボトムアップを開発しました。 エージェントがフェールした場合に何ができるかは、エージェントがユーザの関与点間でどれだけ完了するか、すなわちデプロイ時に固定されたプロパティに依存する。 したがって、同じタスク上の同じモデルが異なる構成で異なるフェールをすることができる。 12のモードはすべて、低い自律性と高い自律性の両方に現れ、自律性の向上は、各障害が持つ形式を変える。 ユーザーは完全なデリゲートと完全な手作業のコントロールを必要とし、インシデントレコードもエージェントベンチマークも、これらの障害が発生した場合のインタラクションには到達しない。

関連論文リスト

• Why Do Agent Teams Fail Across Boundaries? A Failure Taxonomy for Agent-to-Agent Systems with Private States [96.00953129073133]
  エージェント・ツー・エージェント(A2A)のシナリオでは、各エージェントは独自の環境を持ち、他のエージェントが見ることができない情報と権限を持っている。 既存のマルチエージェントシステム障害研究では、1つのオーケストレータ、共有ワークスペース、または1つのプリンシパルが想定されている。 我々は、異なるエージェントハーネスとモデルで構築された2500以上のA2Aシステムについて研究する。
  論文  参考訳（メタデータ） (2026-10-14T00:36:08Z)
• AgentHabit: Characterizing Distinct Behaviors of Agents on Everyday Tasks [12.52185759403168]
  HABITは5つのカテゴリーで23の行動軸の分類である。 AgentHABITは、各エージェントの行動傾向を、86の日常的なタスクの軌跡からプロファイルする。
  論文  参考訳（メタデータ） (2026-09-26T17:09:58Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• ClawNet: Human-Symbiotic Agent Network for Cross-User Autonomous Cooperation [33.44625630134376]
  AIエージェントの次のフロンティアは、より強い個々の能力ではなく、人間の協力関係のデジタル化にある、と我々は主張する。 各ユーザは、エージェントではなく、ノードが人間であるネットワークを形成する、所有者に代わってコラボレーションする永続的拘束力のあるエージェントシステムを所有している。 ClawNetはアイデンティティ管理されたエージェントコラボレーションフレームワークで、中央オーケストレータを通じてIDバインディングと認証を強制する。
  論文  参考訳（メタデータ） (2026-04-21T08:15:05Z)
• Behind the Prompt: The Agent-User Problem in Information Retrieval [4.563318916484434]
  情報検索におけるユーザモデルは、観察された振る舞いが意図を明らかにするという基本的な仮定に依存している。 エージェントが取る任意のアクションに対して、隠された命令は同一の出力を生成し、個々のレベルで意図を識別できないようにする。 エージェントネイティブソーシャルプラットフォームからの大規模コーパスによるエージェントユーザ問題について検討する。
  論文  参考訳（メタデータ） (2026-03-04T01:42:14Z)
• Impatient Users Confuse AI Agents: High-fidelity Simulations of Human Traits for Testing Agents [58.00130492861884]
  TraitBasisは、AIエージェントを体系的にストレステストするための軽量でモデルに依存しない方法である。 TraitBasisは、ステアブルなユーザ特性に対応するアクティベーション空間で方向を学習する。 We observed on average a 2%-30% performance degradation on $tau$-Trait across frontier model。
  論文  参考訳（メタデータ） (2025-10-06T05:03:57Z)
• On the Resilience of LLM-Based Multi-Agent Collaboration with Faulty Agents [58.79302663733703]
  大規模言語モデルに基づくマルチエージェントシステムは、専門家エージェントの協力により、様々なタスクにまたがる優れた能力を示している。 不器用なエージェントや悪意のあるエージェントが与える影響 - システム全体のパフォーマンスにおいて、頻繁にタスクでエラーを犯すものは、いまだに過小評価されていない。 本稿では,下流タスクにおける障害要因下での各種システム構造のレジリエンスについて検討する。
  論文  参考訳（メタデータ） (2024-08-02T03:25:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。