論文の概要: Finishing the Task Is Not Enough: Evaluating Agent Resilience and Considerate Participation under Accumulating Challenge

• arxiv url: http://arxiv.org/abs/2609.10724v1
• Date: Wed, 09 Sep 2026 18:18:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-11 23:53:35.107492
• Title: Finishing the Task Is Not Enough: Evaluating Agent Resilience and Considerate Participation under Accumulating Challenge
• Title（参考訳）: タスクの仕上げは十分ではない: エージェントレジリエンスの評価と累積課題による参加の検討
• Abstract要約: 我々は,2つの生成AIモデルと12の利害関係者によるタスクを,軽度,中等度,重度の課題下でシミュレーションした120のヘルスケアトラジェクトリについて検討した。 我々は,このようなエージェントを評価するための2つの相補的な側面として,運用のレジリエンスと参加について考察する。 永続性、注意力、役割境界、状態開示、エスカレーションを含む5つのデプロイメントジレンマを導出します。
• 参考スコア（独自算出の注目度）: 3.7173953682452585
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Sustained deployment of generative AI agents requires more than isolated task success. Agents must remain useful across repeated interactions, changing conditions, and dependencies on people within shared workflows, especially as technical, human, and operational disruptions accumulate over time. We propose operational resilience and considerate participation as two complementary aspects of evaluating such agents: the former captures how agents recover from blocked work while preserving progress and communicating their limits, and the latter captures how their adaptation accounts for affected people, role boundaries, and the surrounding workflow. Yet both remain underexplored under accumulating challenge. We study 120 simulated healthcare trajectories across two generative AI models and twelve stakeholder-derived tasks under light, medium, and heavy challenge. We compare textual action plans, prompted internal assessments, and quantitative structured workload and affect reports to examine how agent behavior and reported state change as challenge accumulates. Regarding operational resilience, agents shift from self-directed recovery toward greater human dependence, while reporting increasing workload and negative affect in structured reports but seldom expressing strain in textual responses. Regarding considerate participation, agents broaden from task-focused adaptation toward task reframing, attention to others, role-boundary adjustment, and wider coordination, with distinct patterns across actions and internal assessments. From these findings, we derive five deployment dilemmas involving persistence, attention, role boundaries, state disclosure, and escalation that require stakeholder specification, further informing technical implications for learning, situated evaluation, and embodied adaptation.
• Abstract（参考訳）: 生成AIエージェントの持続可能なデプロイには、独立したタスクの成功以上のものが必要です。 エージェントは、反復的なインタラクション、条件の変更、および共有ワークフロー内の人々への依存性、特に技術、人間、運用上の破壊が時間の経過とともに蓄積されるように、有用でなければならない。 作業のレジリエンスと参加を,エージェントが作業の進行を保ちながら作業の中断から回復し,その限界を伝達する様子を,エージェントが被影響者や役割境界,周囲のワークフローにどのように適応するか,という2つの相補的な側面として考察する。 しかし、両者は依然として過小評価されている。 我々は,2つの生成AIモデルと12の利害関係者によるタスクを,軽度,中等度,重度の課題下でシミュレーションした120のヘルスケアトラジェクトリについて検討した。 我々は,文章による行動計画と内部評価,定量的な構造化作業負荷の比較を行い,課題の蓄積に伴うエージェントの行動や報告状態の変化について検討した。 運用上のレジリエンスに関して、エージェントは自己指揮の回復から、より大きな人的依存へと移行し、一方で、構造化されたレポートにおける作業負荷の増加とネガティブな影響を報告しますが、テキスト応答の歪みをほとんど表現しません。 考慮された参加に関して、エージェントはタスク指向の適応からタスクリフレーミングへの適応、他者への注意、役割境界調整、より広い調整へと広がり、行動や内部評価の異なるパターンを持つ。 これらの結果から, 持続性, 注意力, 役割境界, 状態開示, エスカレーションを含む5つの展開ジレンマを導出し, さらに, 学習, 位置評価, 適応に関する技術的意味を明らかにした。

関連論文リスト

• On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification [37.24852847838588]
  メモリベースの自己改善エージェントは、最近の文献で非常に有望である。 しかし、これらの手法の信頼性の側面は著しく見過ごされている。 本研究では,メモリベースの2つの手法の総合的な再評価を行う。
  論文  参考訳（メタデータ） (2026-08-18T17:55:07Z)
• From Question Answering to Task Completion: A Survey on Agent System and Harness Design [67.8241530947325]
  本研究はモデルハーネスレンズを用いてLCMをベースとしたエージェントについて検討する。 まず, LLMをベースとしたエージェントを基礎モデルと実行ハーネスとして, エージェントの機能的定義と実装の視点を明らかにする。 次に、モデル中心のスケーリングの限界を分析し、エージェントエンジニアリングの4つのパラダイムをトレースし、実行ハーネスを6つの結合ランタイム責任に分解する。
  論文  参考訳（メタデータ） (2026-06-14T05:40:16Z)
• Automatic Cognitive Task Generation for In-Situ Evaluation of Embodied Agents [43.01384379901339]
  本研究では,人間の認知に触発された未確認環境に対する動的タスク生成手法を提案する。 インタラクションの段階では、エージェントは環境と積極的に対話し、タスクの実行と生成の間のループを作成する。 10シーンにわたる実験では、TAAは2サイクルで87,876のタスクを自動生成している。
  論文  参考訳（メタデータ） (2026-02-05T03:07:00Z)
• Completion $\neq$ Collaboration: Scaling Collaborative Effort with Agents [48.95020665909723]
  タスク完了エージェントの構築と評価から,協調エージェントの開発への移行を議論する。 エージェントのユーティリティがユーザ関与の増加とともにどのように成長するかをキャプチャするフレームワークであるコラボレーティブ・ワーク・スケーリングを紹介します。
  論文  参考訳（メタデータ） (2025-10-29T17:47:18Z)
• SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
  SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。 提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。 我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
  論文  参考訳（メタデータ） (2025-03-11T17:53:02Z)
• Interactive Agents to Overcome Ambiguity in Software Engineering [61.40183840499932]
  AIエージェントは、あいまいで不明確なユーザー指示に基づいて、タスクを自動化するためにますますデプロイされている。 不安定な仮定をし、明確な質問をしないことは、最適以下の結果につながる可能性がある。 対話型コード生成設定において,LLMエージェントが不明瞭な命令を処理する能力について,プロプライエタリモデルとオープンウェイトモデルを評価して検討する。
  論文  参考訳（メタデータ） (2025-02-18T17:12:26Z)
• Investigating the Role of Instruction Variety and Task Difficulty in Robotic Manipulation Tasks [50.75902473813379]
  本研究は、そのようなモデルの一般化能力における命令と入力の役割を体系的に検証する包括的評価フレームワークを導入する。 提案フレームワークは,極度の命令摂動に対するマルチモーダルモデルのレジリエンスと,観測的変化に対する脆弱性を明らかにする。
  論文  参考訳（メタデータ） (2024-07-04T14:36:49Z)
• AntEval: Evaluation of Social Interaction Competencies in LLM-Driven Agents [65.16893197330589]
  大規模言語モデル(LLM)は、幅広いシナリオで人間の振る舞いを再現する能力を示した。 しかし、複雑なマルチ文字のソーシャルインタラクションを扱う能力については、まだ完全には研究されていない。 本稿では,新しいインタラクションフレームワークと評価手法を含むマルチエージェントインタラクション評価フレームワーク(AntEval)を紹介する。
  論文  参考訳（メタデータ） (2024-01-12T11:18:00Z)
• DCIR: Dynamic Consistency Intrinsic Reward for Multi-Agent Reinforcement Learning [84.22561239481901]
  本稿では,エージェントの行動が他のエージェントの行動と一致しているかどうかを学習するための新しいアプローチを提案する。 マルチエージェント粒子, Google Research Football および StarCraft II Micromanagement を含む複数の環境における DCIR の評価を行った。
  論文  参考訳（メタデータ） (2023-12-10T06:03:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。