論文の概要: Unaccountable Delegation, Fading Skills: Mapping the Risks of Workplace AI Agents

• arxiv url: http://arxiv.org/abs/2608.08601v1
• Date: Sun, 09 Aug 2026 09:28:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.880057
• Title: Unaccountable Delegation, Fading Skills: Mapping the Risks of Workplace AI Agents
• Title（参考訳）: 非可算デリゲーション、ファディングスキル:職場AIエージェントのリスクをマッピングする
• Authors: Gabriele La Malfa, Lakmal Meegahapola, Edyta Bogucka, Jie M. Zhang, Michael Luck, Elizabeth Black, Daniele Quercia,
• Abstract要約: 既存のAIリスクは幅広いリスクに焦点を当てており、AIエージェントが導入するジョブ固有のリスクを捉えない。 我々は、AIエージェントの文献レビューから多層フレームワークを開発し、2,078のジョブタスクの記述に適用する。 我々は既存の分類を拡張し、職場AIエージェントのリスクを15カテゴリに分類する。
• 参考スコア（独自算出の注目度）: 14.125370799815627
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: To anticipate socio-technical risks from AI agents, organizations need taxonomies to classify them. However, existing AI risk taxonomies focus on broad risks and do not capture job-specific risks introduced by agents. To address this gap, we make three main contributions. First, we developed a multi-layer framework from a literature review of AI agents. The framework models three core components and their interactions: agents, goals, and environment. Second, we embedded this framework in a structured prompt and applied it to descriptions of 2,078 job tasks from the O*NET database, producing 8,356 risk scenarios labeled by severity and deployment mode (automation or augmentation). We validated these scenarios with 45 workers across 10 job roles and an independent LLM judge, confirming their plausibility and alignment with job tasks. Finally, we extended an existing taxonomy to create a 15-category taxonomy of workplace AI agent risks that covers all our risk scenarios. Our analysis highlights four findings. First, augmentation is not inherently safe because overreliance on agents can gradually erode workers' skills and oversight. Second, Erroneous Agent Actions accounts for the largest share of risk scenarios and has the highest concentration of severe risks. Many arise at the human-agent boundary. Third, automation is associated mainly with organizational risks, while augmentation is associated mainly with risks to workers. Fourth, workers found our taxonomy easier to use for a risk classification task than two other taxonomies and preferred it in 64% of non-tied comparisons with a recent generative AI risk taxonomy. These findings show that workplace AI agent risks do not arise from agents alone; they also depend on how people work with agents and how agents are deployed. Safer workplaces require not only safer agents but also carefully designed human-AI agent collaboration.
• Abstract（参考訳）: AIエージェントからの社会技術的リスクを予測するために、組織はそれらを分類するために分類学を必要とする。 しかし、既存のAIリスク分類は幅広いリスクに焦点を当てており、エージェントが導入した仕事固有のリスクを捉えていない。 このギャップに対処するために、主な貢献は3つあります。 まず,AIエージェントの文献レビューから多層フレームワークを開発した。 フレームワークは3つのコアコンポーネントとそのインタラクション、エージェント、目標、環境をモデル化します。 次に、このフレームワークを構造化されたプロンプトに組み込み、O*NETデータベースから2,078のジョブタスクの説明に適用し、重大さと展開モード(自動化または拡張)でラベル付けされた8,356のリスクシナリオを生成しました。 これらのシナリオを,10職に45人の従業員と,独立したLLM審査員で検証し,その妥当性と作業課題との整合性を確認した。 最後に、既存の分類を拡張して、すべてのリスクシナリオをカバーする、職場AIエージェントのリスクの15カテゴリの分類を作成しました。 我々の分析では4つの結果が浮かび上がっている。 第一に、エージェントへの依存が労働者のスキルや監視を徐々に損なう可能性があるため、強化は本質的には安全ではない。 第二に、不正行為はリスクシナリオの最大のシェアを占め、深刻なリスクの集中度が高い。 多くは人間とエージェントの境界で発生する。 第3に、自動化は主として組織的リスクに関連付けられ、増員は主として労働者へのリスクに関連付けられます。 第4に、我々の分類学は、他の2つの分類学よりもリスク分類のタスクに使いやすく、最近作られたAIリスク分類学と比較すると、64%で好まれました。 これらの結果は、職場のAIエージェントのリスクは、エージェント単独で発生するのではなく、エージェントとの作業方法やエージェントのデプロイ方法にも依存していることを示している。 安全な職場には、より安全なエージェントだけでなく、慎重に設計された人間とAIのエージェントのコラボレーションも必要である。

関連論文リスト

• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• AgentDoG: A Diagnostic Guardrail Framework for AI Agent Safety and Security [126.49733412191416]
  現在のガードレールモデルは、リスク診断におけるエージェント的リスク認識と透明性を欠いている。 エージェントリスクをソース(場所)、障害モード(方法)、結果(何)で分類する統合された3次元分類法を提案する。 AgentDoG(AgentDoG)のための,エージェント安全性ベンチマーク(ATBench)と診断ガードレールフレームワークを新たに導入する。
  論文  参考訳（メタデータ） (2026-01-26T13:45:41Z)
• Multi-Agent Risks from Advanced AI [90.74347101431474]
  先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。 エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。 各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
  論文  参考訳（メタデータ） (2025-02-19T23:03:21Z)
• Fully Autonomous AI Agents Should Not be Developed [50.61667544399082]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• The AI Risk Repository: A Comprehensive Meta-Review, Database, and Taxonomy of Risks From Artificial Intelligence [35.77247656798871]
  人工知能(AI)によって引き起こされるリスクは、学者、監査人、政策立案者、AI企業、そして一般大衆にかなり懸念されている。 AIリスクに対する共通理解の欠如は、包括的に議論し、研究し、それに反応する能力を妨げる可能性がある。 本稿では、共通の参照フレームとして機能するAIリスクリポジトリを作成することで、このギャップに対処する。
  論文  参考訳（メタデータ） (2024-08-14T10:32:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。