論文の概要: AI Agents Push Humans Out of the Loop

• arxiv url: http://arxiv.org/abs/2608.23642v1
• Date: Mon, 24 Aug 2026 02:58:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:34.437063
• Title: AI Agents Push Humans Out of the Loop
• Title（参考訳）: AIエージェントが人間をループから追い出す
• Abstract要約: 我々は、AIエージェントシステムの開発と展開に対する現在のアプローチは、効果的な人間の監視をサポートしていないと論じる。 これを解決するために、AIエージェントの進歩における最優先事項は、効果的な人間の監督の目標と認知的要求を支持することである。
• 参考スコア（独自算出の注目度）: 6.787455541983529
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI agents pose significant risks as they are granted increasing autonomy. A commonly proposed solution is human oversight and keeping a ''human in the loop'', but this is not a simple solution: Not only do current approaches to AI agent design impede effective human oversight, but the cognitive capacities required for it are also themselves degraded by extended use of AI systems. This position paper argues that current approaches to the development and deployment of AI agent systems do not support effective human oversight -- they contribute to its degradation. To address this, a top priority in the advancement of AI agents should be supporting the situated goals and cognitive requirements of effective human oversight, treating the human needs of overseers at the same level of importance as AI agent capability. To put this idea into practice, we connect work on automation and human-computer interaction to AI agent processes, outlining design-level affordances and organizational protocols that (1) support overseers in exercising critical judgement and (2) counteract the skill atrophy that arises from extended use of automation. We urge developers and deployers to adopt these or similar approaches. Without explicit support for the cognitive demands of effective human-agent interaction, AI agent systems will continue to passively incentivize the degradation of the very human skills they rely on.
• Abstract（参考訳）: AIエージェントは、自律性の向上が認められ、重大なリスクを負う。 AIエージェントの設計に対する現在のアプローチは、効果的な人間の監視を妨げるだけでなく、それに必要な認知能力も、AIシステムの拡張使用によって低下します。 このポジションペーパーでは、AIエージェントシステムの開発とデプロイに対する現在のアプローチは、効果的な人間の監視をサポートしない、と論じている。 これを解決するために、AIエージェントの進歩における最優先事項は、AIエージェント能力と同じレベルの重要性で監督者の人的ニーズを扱いながら、効果的な人間の監視の目標と認知的要求を確実に支持することである。 このアイデアを実践するために、AIエージェントプロセスに自動化と人-コンピュータインタラクションの取り組みを結び、(1)批判的判断の監督者を支援する設計レベルの余裕と組織的プロトコルを概説し、(2)自動化の拡張によって生じるスキル萎縮に対処する。 開発者やデプロイ担当者には,これらあるいは同様のアプローチを採用するように促しています。 効果的な人間とエージェントの相互作用の認知的要求に対する明確なサポートがなければ、AIエージェントシステムは、彼らが依存する非常に人間のスキルの劣化を受動的に動機づけ続けるだろう。

関連論文リスト

• ComBodied Agents: a New Paradigm of Human-Centric Agentic AI [121.60938707072069]
  我々は、人間中心のパラダイムであるCombodied Agentsを紹介し、時間とともに個々の人間状態の軌跡を知覚し、モデル化し、予測し、支援する。 パーソナルアシスタント、ヘルスエージェント、AIコンパニオン、適応型ヒューマンAIシステムをクローズドループに統合する。
  論文  参考訳（メタデータ） (2026-08-11T13:35:58Z)
• The Boundaries of Automation: A Theory of Persistent Human Participation [107.84677954791773]
  高い能力を持つAIシステムであっても、人間の参加は継続する可能性がある、と私たちは主張する。 一部のアクティビティでは、ターゲットは事前に完全に指定されるのではなく、代わりにインタラクション自体を通じて現れる。 この観点は、自動化の限界に重要な意味を持つ。
  論文  参考訳（メタデータ） (2026-07-23T17:33:43Z)
• AI and Human Oversight: A Risk-Based Framework for Alignment [0.2039123720459736]
  本稿では、基本的権利を守り、人事を強化し、効果的な人的監視機構を組み込むAIシステムを設計するための戦略を検討する。 この論文は、AIモデルのリスクのレベルと人間の監視の適切な形態を結びつけることによって、AIのデプロイに人間が関与する重要な役割を浮き彫りにする。
  論文  参考訳（メタデータ） (2025-10-10T07:36:44Z)
• HumanAgencyBench: Scalable Evaluation of Human Agency Support in AI Assistants [5.4831302830611195]
  エージェントの哲学的・科学的理論とAIを用いた評価手法を統合することにより、人間エージェントの考え方を発展させる。 我々は、典型的なAIのユースケースに基づいて、6次元の人間エージェントを持つスケーラブルで適応的なベンチマークであるHumanBench(HAB)を開発した。
  論文  参考訳（メタデータ） (2025-09-10T11:10:10Z)
• Robot-Gated Interactive Imitation Learning with Adaptive Intervention Mechanism [48.41735416075536]
  インタラクティブ・イミテーション・ラーニング (Interactive Imitation Learning, IIL) は、エージェントが人間の介入を通じて望ましい行動を取得することを可能にする。 本稿では,人間の実演を依頼する適応的基準を学習するロボットゲート型IILアルゴリズムであるAdaptive Intervention Mechanism (AIM)を提案する。
  論文  参考訳（メタデータ） (2025-06-10T18:43:26Z)
• Envisioning an AI-Enhanced Mental Health Ecosystem [1.534667887016089]
  ピアサポート、セルフヘルプ介入、プロアクティブモニタリング、データ駆動インサイトなど、さまざまなAIアプリケーションについて検討する。 我々は、AIが人間のプロバイダを置き換えず、責任あるデプロイメントと評価を強調するハイブリッドエコシステムを提案する。
  論文  参考訳（メタデータ） (2025-03-19T04:21:38Z)
• Fully Autonomous AI Agents Should Not be Developed [50.61667544399082]
  本稿では,完全自律型AIエージェントを開発すべきではないと主張している。 この立場を支持するために、我々は、従来の科学文献と現在の製品マーケティングから、異なるAIエージェントレベルを規定するために構築する。 分析の結果,システムの自律性によって人へのリスクが増大することが明らかとなった。
  論文  参考訳（メタデータ） (2025-02-04T19:00:06Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• Intent-aligned AI systems deplete human agency: the need for agency foundations research in AI safety [2.3572498744567127]
  人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。 我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
  論文  参考訳（メタデータ） (2023-05-30T17:14:01Z)
• A Cognitive Framework for Delegation Between Error-Prone AI and Human Agents [0.0]
  本研究では,認知にインスパイアされた行動モデルを用いて,人間エージェントとAIエージェントの両方の行動を予測する。 予測された振る舞いは、仲介者の使用を通じて人間とAIエージェントの制御を委譲するために使用される。
  論文  参考訳（メタデータ） (2022-04-06T15:15:21Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。