論文の概要: Compensating for Sensing Failures via Delegation in Human-AI Hybrid Systems

• arxiv url: http://arxiv.org/abs/2303.01300v1
• Date: Thu, 2 Mar 2023 14:27:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-03-03 14:03:11.609655
• Title: Compensating for Sensing Failures via Delegation in Human-AI Hybrid Systems
• Title（参考訳）: ヒューマンAIハイブリッドシステムにおけるデリゲーションによる検知障害の補償
• Authors: Andrew Fuchs, Andrea Passarella, Marco Conti
• Abstract要約: 我々は、管理エージェントがいつ委任代行を行うかを特定することを任務とするハイブリッドな人間-AIチームについて考察する。 我々は、環境コンテキストが知覚障害にどのように貢献するか、または悪化するかをモデル化する。 本稿では,強化学習(RL)マネージャがコンテキストデリゲーションアソシエーションをいかに修正できるかを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Given an increasing prevalence of intelligent systems capable of autonomous actions or augmenting human activities, it is important to consider scenarios in which the human, autonomous system, or both can exhibit failures as a result of one of several contributing factors (e.g. perception). Failures for either humans or autonomous agents can lead to simply a reduced performance level, or a failure can lead to something as severe as injury or death. For our topic, we consider the hybrid human-AI teaming case where a managing agent is tasked with identifying when to perform a delegation assignment and whether the human or autonomous system should gain control. In this context, the manager will estimate its best action based on the likelihood of either (human, autonomous) agent failure as a result of their sensing capabilities and possible deficiencies. We model how the environmental context can contribute to, or exacerbate, the sensing deficiencies. These contexts provide cases where the manager must learn to attribute capabilities to suitability for decision-making. As such, we demonstrate how a Reinforcement Learning (RL) manager can correct the context-delegation association and assist the hybrid team of agents in outperforming the behavior of any agent working in isolation.
• Abstract（参考訳）: 自律的な行動や人間の活動の増強が可能な知的なシステムが増加していることを踏まえると、人間、自律的なシステム、あるいはその両方が複数の要因(例えば知覚)の1つによって失敗を生じさせるシナリオを考えることが重要である。 人間か自律的なエージェントの障害は単にパフォーマンスのレベルを低下させるか、障害は怪我や死と同じくらい深刻なものを引き起こす。 本論では,代行課題の実施時期と人的・自律的なシステムが制御可能かどうかを,管理担当者が特定するハイブリッド型人間AIチームについて考察する。 この文脈では、マネージャは、感知能力と潜在的な欠陥の結果、(人間的、自律的な)エージェントの失敗の可能性に基づいて、最善のアクションを見積もる。 環境コンテクストがセンシング欠陥にどのように寄与するか,あるいは悪化するかをモデル化する。 これらのコンテキストは、マネージャが意思決定に適合する能力の属性を学ぶ必要がある場合を提供します。 このようにして、強化学習(RL)マネージャがコンテキストデリゲーション・アソシエーションを補正し、エージェントのハイブリッドチームが孤立して働くエージェントの振る舞いより優れていることを示す。

関連論文リスト

• Human Decision-making is Susceptible to AI-driven Manipulation [71.20729309185124]
  AIシステムは、ユーザの認知バイアスと感情的な脆弱性を利用して、有害な結果に向けてそれらを操縦する。 本研究では、経済的・感情的な意思決定の文脈におけるこのような操作に対する人間の感受性について検討した。
  論文  参考訳（メタデータ） (2025-02-11T15:56:22Z)
• Emergence of human-like polarization among large language model agents [61.622596148368906]
  我々は、何千もの大規模言語モデルエージェントを含むネットワーク化されたシステムをシミュレートし、それらの社会的相互作用を発見し、人間のような偏極をもたらす。 人間とLLMエージェントの類似性は、社会的分極を増幅する能力に関する懸念を提起するだけでなく、それを緩和するための有効な戦略を特定するための貴重なテストベッドとして機能する可能性も持っている。
  論文  参考訳（メタデータ） (2025-01-09T11:45:05Z)
• Collaborative Gym: A Framework for Enabling and Evaluating Human-Agent Collaboration [51.452664740963066]
  Collaborative Gymは、エージェント、人間、タスク環境間の非同期で三分割的なインタラクションを可能にするフレームワークである。 シミュレーション条件と実環境条件の両方において,Co-Gymを3つの代表的なタスクでインスタンス化する。 その結果、協調作業員はタスクパフォーマンスにおいて、完全に自律的なエージェントよりも一貫して優れていたことが判明した。
  論文  参考訳（メタデータ） (2024-12-20T09:21:15Z)
• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• Optimizing Risk-averse Human-AI Hybrid Teams [1.433758865948252]
  本稿では,標準化された強化学習スキームを通じて,最良デリゲート法を学習するマネージャを提案する。 いくつかのグリッド環境において,マネージャのパフォーマンスの最適性を示す。 結果から、マネージャは望ましいデリゲートをうまく習得でき、その結果、チームパスは、ほぼ、あるいは正確には最適であることがわかった。
  論文  参考訳（メタデータ） (2024-03-13T09:49:26Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Optimizing delegation between human and AI collaborative agents [1.6114012813668932]
  私たちは、潜在的なパフォーマンス上の欠陥に関してデリゲート決定を行うために、デリゲートマネージャエージェントを訓練します。 我々のフレームワークは、エージェントをマッチングのダイナミクスに制限することなく、チームパフォーマンスの観察を通して学習する。 この結果から,環境の異なる表現の下で運用するエージェントチームによる委譲決定の実施をマネージャが学べることが判明した。
  論文  参考訳（メタデータ） (2023-09-26T07:23:26Z)
• Human-AI Collaboration: The Effect of AI Delegation on Human Task Performance and Task Satisfaction [0.0]
  タスク性能とタスク満足度はAIデリゲートによって向上することを示す。 我々は、これらの改善の基盤となるメカニズムとして、人間による自己効力の増大を見いだした。 我々の発見は、AIモデルがより多くの管理責任を引き継ぐことが、人間とAIのコラボレーションの効果的な形態であることを示す最初の証拠を提供する。
  論文  参考訳（メタデータ） (2023-03-16T11:02:46Z)
• A Cognitive Framework for Delegation Between Error-Prone AI and Human Agents [0.0]
  本研究では,認知にインスパイアされた行動モデルを用いて,人間エージェントとAIエージェントの両方の行動を予測する。 予測された振る舞いは、仲介者の使用を通じて人間とAIエージェントの制御を委譲するために使用される。
  論文  参考訳（メタデータ） (2022-04-06T15:15:21Z)
• Balancing Performance and Human Autonomy with Implicit Guidance Agent [8.071506311915396]
  暗黙のガイダンスは、人間が計画の改善と自律性維持のバランスを維持するために有効であることを示す。 我々は、ベイズ的思考理論を既存の協調計画アルゴリズムに統合することにより、暗黙のガイダンスを持つ協調エージェントをモデル化した。
  論文  参考訳（メタデータ） (2021-09-01T14:47:29Z)
• Watch-And-Help: A Challenge for Social Perception and Human-AI Collaboration [116.28433607265573]
  我々は、AIエージェントでソーシャルインテリジェンスをテストするための課題であるWatch-And-Help(WAH)を紹介する。 WAHでは、AIエージェントは、人間のようなエージェントが複雑な家庭用タスクを効率的に実行するのを助ける必要がある。 マルチエージェントの家庭環境であるVirtualHome-Socialを構築し、計画と学習ベースのベースラインを含むベンチマークを提供する。
  論文  参考訳（メタデータ） (2020-10-19T21:48:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。