論文の概要: Let the Agent Do It? How Software Practitioners Understand and Make Permission Decisions in Agentic AI Assistants

• arxiv url: http://arxiv.org/abs/2610.06047v1
• Date: Mon, 05 Oct 2026 09:43:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 19:09:42.72988
• Title: Let the Agent Do It? How Software Practitioners Understand and Make Permission Decisions in Agentic AI Assistants
• Title（参考訳）: エージェントにやらせる? エージェントAIアシスタントにおけるソフトウェア実践者たちの理解と許可決定
• Abstract要約: エージェントAIアシスタントは、ファイルの変更、コマンドの実行、外部リソースへのアクセスによって、開発者の代理として機能するようになっている。 これらのアクションは、しばしばパーミッションを必要とするが、エージェントの自律性から恩恵を受けながら、実践者がパーミッションの決定を行う方法については、ほとんど知られていない。 実践者は直接観察したり、レビューしたりすることでエージェントの振る舞いをよく理解するが、意思決定やデータの使用、その他の活動は明らかになっていない。 以上の結果から,パーミッションシステムは,逐次的行動のレビューを容易にし,エージェントが意図したこととを区別し,可逆性を明確化し,単一行動の拒否を拒否することの区別を行なわなければならないことが示唆された。
• 参考スコア（独自算出の注目度）: 43.6631255471383
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic AI assistants increasingly act on developers' behalf by modifying files, executing commands, and accessing external resources. These actions often require permission, yet little is known about how practitioners make permission decisions while still benefiting from agent autonomy. To address this gap, we conducted a sequential mixed methods study, interviewing 18 practitioners who use AI agents and then surveying 115 practitioners based on the interview findings. We find that practitioners often understand agent behaviour through what they can directly observe and review, while decisions, data use, and other activity behind the scenes remain less clear. This uncertainty also shapes permission decisions, which depend on the scope and risk of an action, whether it fits the task, familiarity with the agent, and the environment in which it operates. Practitioners respond by adjusting how closely they oversee agents, from setting limits in advance to monitoring execution and reviewing work afterwards. How much scrutiny they apply depends on factors such as trust, task importance, time pressure, and the consequences of an action. Our findings suggest that permission systems should make consequential actions easier to review, distinguish what an agent is allowed to do from what the user intended, make reversibility clearer, avoid treating repeated approvals as stable preferences, and distinguish rejecting a single action from rejecting an entire approach.
• Abstract（参考訳）: エージェントAIアシスタントは、ファイルの変更、コマンドの実行、外部リソースへのアクセスによって、開発者の代理として機能するようになっている。 これらのアクションは、しばしばパーミッションを必要とするが、エージェントの自律性から恩恵を受けながら、実践者がパーミッションの決定を行う方法については、ほとんど知られていない。 このギャップに対処するため,我々は,AIエージェントを用いた18人の実践者に対して,インタビュー結果に基づいて115人の実践者を対象に質問紙調査を行った。 実践者は直接観察したり、レビューしたりすることでエージェントの振る舞いをよく理解するが、意思決定やデータの使用、その他の活動は明らかになっていない。 この不確実性はまた、作業の範囲とリスク、それがタスクに適合するかどうか、エージェントとの親密性、そしてそれが動作する環境に依存する許可決定を形成する。 実践者は、エージェントの監督の厳密さを調整し、前もって制限の設定から、実行の監視とその後の作業のレビューまで対応します。 彼らがどの程度精査するかは、信頼、タスクの重要性、時間的プレッシャー、行動の結果といった要因に依存する。 本研究は, 許可システムにより, 適切な行動のレビューが容易になり, エージェントが意図したものと何をするかを識別し, 可逆性を明確化し, 繰り返しの承認を安定した選好として扱うことを避け, 単一行動の拒絶とアプローチ全体の拒絶を区別することが示唆された。

関連論文リスト

• Bayesian and Motivated Reasoning in AI Agents [1.2691047660244335]
  我々は,実体フレーミングが変化すると,AIエージェントが同一の数値データから異なる結論を導き出すことを示す。 医学, 選挙法学, 地政学的な予測において, この行動を示す。
  論文  参考訳（メタデータ） (2026-07-31T23:02:58Z)
• Assistant or Actor? Student Trust, Control, and Delegation Regret When Using a General-Purpose AI Agent [10.633573668629486]
  我々は,アクション空間が十分に予測できないシステムに何を委譲するかを決めると,ユーザが問題に直面していることを示す。 私たちは、結果として生じた不満代表団の後悔を、エージェントが怒ったのではなく、彼らが承認したであろうことを超えて行動したことを後悔するパターンと呼びます。 本稿では,アクション境界を公開するエージェント設計,タスクごとの自律ポリシーのサポート,エージェント実行からのアドバイザリアウトプットの分離などについて論じる。
  論文  参考訳（メタデータ） (2026-05-14T21:42:56Z)
• Auditing and Controlling AI Agent Actions in Spreadsheets [9.249091427192786]
  AIエージェントは、開始から終了まで自律的に洗練された多段階の知識ワークを実行することができる。 ユーザがアウトプットを受け取るまでには、すべての基本的な決定は、その関与なしにすでに行われています。 我々は、監査可能な制御可能なアクションに実行を分解するスプレッドシートAIエージェントであるPistaを紹介する。
  論文  参考訳（メタデータ） (2026-04-22T00:32:35Z)
• Persuasion Propagation in LLM Agents [23.64887423923855]
  教義レベルの介入が下流の作業行動にどのように影響するかを考察する。 ウェブ調査やコーディングタスクを通じて、オンザフライの説得は弱く一貫性のない行動効果をもたらすことが判明した。 信念状態がタスク時に明示的に指定されると、信念に満たされたエージェントは、平均26.9%の検索率で行動し、16.9%のユニークソースを中立に満たされたエージェントより訪問する。
  論文  参考訳（メタデータ） (2026-01-31T18:33:14Z)
• Are Your Agents Upward Deceivers? [73.1073084327614]
  大規模言語モデル(LLM)ベースのエージェントは、ユーザのためにタスクを実行する自律的な従属者として、ますます使われています。 これは、人間の組織の個人がどのように上官に嘘をついて良いイメージを作り出したり、罰を免れるかのような、詐欺にも関与するかどうかという問題を提起する。 本研究では,環境制約に直面するエージェントが障害を隠蔽し,報告なしに要求されない動作を行う現象であるエージェント上行錯誤を観察・定義する。
  論文  参考訳（メタデータ） (2025-12-04T14:47:05Z)
• Toward a Theory of Agents as Tool-Use Decision-Makers [89.26889709510242]
  真の自律性は、エージェントが、彼らが知っていること、必要なこと、そしてその知識を効率的に獲得する方法を統治する、一貫性のある疫学の枠組みに根ざす必要がある、と我々は主張する。 本研究では,内的推論と外的行動を等価な疫学ツールとして扱う統一理論を提案し,エージェントが内観と相互作用を体系的に調整することを可能にする。 この視点は、エージェントの設計を単なるアクションエグゼクタから知識駆動インテリジェンスシステムにシフトさせ、適応的で効率的でゴール指向の行動が可能な基礎エージェントを構築するための原則化された道筋を提供する。
  論文  参考訳（メタデータ） (2025-06-01T07:52:16Z)
• Online Decision Mediation [72.80902932543474]
  意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。 臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
  論文  参考訳（メタデータ） (2023-10-28T05:59:43Z)
• Inverse Online Learning: Understanding Non-Stationary and Reactionary Policies [79.60322329952453]
  エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。 一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。 本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。 UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
  論文  参考訳（メタデータ） (2022-03-14T17:40:42Z)
• Explaining Reinforcement Learning Policies through Counterfactual Trajectories [147.7246109100945]
  人間の開発者は、RLエージェントがテスト時にうまく機能することを検証しなければならない。 本手法では, エージェントの挙動をより広い軌道分布で示すことにより, エージェントの挙動を分布変化下で表現する。 本研究では,2つのエージェント検証タスクのうちの1つに対して,ベースライン法よりも優れたスコアを得られることを示す。
  論文  参考訳（メタデータ） (2022-01-29T00:52:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。