論文の概要: Human-Centric Reflective Architecture for Human-AI Collaborative Decision-Making

• arxiv url: http://arxiv.org/abs/2607.03025v1
• Date: Fri, 03 Jul 2026 07:12:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.500069
• Title: Human-Centric Reflective Architecture for Human-AI Collaborative Decision-Making
• Title（参考訳）: ヒューマンAI協調意思決定のための人間中心反射型アーキテクチャ
• Abstract要約: 我々は、人間の能力を高め、AIエージェントを人間の好みと期待に合わせるように設計された、人間とAIの協調的な意思決定フレームワークを紹介します。 HCRA(Human-Centric Reflective Architecture)は、人間の校正モデルと強化学習エージェントを統合し、反復的、反射的プロセスで言語的フィードバックを活用する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The use of Large Language Models (LLMs) across diverse areas of human activity-ranging from everyday tasks to safety-critical applications-aims to enhance decision-making effectiveness with minimal human feedback. Concurrently, it seeks to align decisions with human expectations, preferences, and needs while mitigating risks associated with AI non-determinism. However, humans frequently over- or under-rely on AI recommendations, and current AI systems remain poorly calibrated to human expectations. To address these challenges, we introduce a human-AI collaborative decision-making framework designed to augment human capabilities and align AI agents with human preferences and expectations. Specifically, this paper (a) formulates the collaborative decision-making task as a stochastic game between an AI agent and a human player, and (b) proposes the Human-Centric Reflective Architecture (HCRA), which integrates human-calibrated models with reinforcement learning agents that leverage linguistic feedback in an iterative, reflective process. Evaluation results demonstrate that HCRA enhances decision-making effectiveness and delivers high-quality recommendations.
• Abstract（参考訳）: LLM(Large Language Models)は、日常的なタスクから安全クリティカルなアプリケーションまで、人間の活動のさまざまな領域にまたがって、人間のフィードバックを最小限に抑えて意思決定の有効性を高めることを目的としている。 同時に、AI非決定主義に関連するリスクを軽減しつつ、決定を人間の期待、好み、ニーズに合わせることを目指している。 しかし、人間はしばしばAIレコメンデーションを過度にあるいは過度に重視し、現在のAIシステムは人間の期待に合っていない。 これらの課題に対処するために、人間の能力を高め、AIエージェントを人間の好みと期待に合わせるように設計された、人間とAIの協調的な意思決定フレームワークを導入します。 具体的には この論文は (a)AIエージェントと人間プレイヤーの確率ゲームとして協調意思決定タスクを定式化し、 b) 人間の校正モデルと強化学習エージェントを統合した人間中心反射型アーキテクチャ(HCRA)を提案する。 評価の結果,HCRAは意思決定の有効性を高め,高品質なレコメンデーションを提供することが示された。

関連論文リスト

• Align When They Want, Complement When They Need! Human-Centered Ensembles for Adaptive Human-AI Collaboration [13.041288521972563]
  人間とAIの意思決定において、人間の専門知識を補完するAIを設計することは、人間とAIのコラボレーションを強化する自然な戦略である。 一致したAIは、信頼を育みながら、最適な人間の行動を補強し、人間とAIチームのパフォーマンスを低下させるリスクを負う。 我々は、2つの専門的AIモデルの間で戦略的に切り替える、人間中心の適応型AIアンサンブルを新たに導入する。
  論文  参考訳（メタデータ） (2026-02-23T18:22:58Z)
• Cascaded Language Models for Cost-effective Human-AI Decision-Making [52.81324217423194]
  複数の専門分野にまたがってタスクを適応的に委譲するLLM決定フレームワークを提案する。 まず、deferral Policyは、ベースモデルの回答を受け入れるか、あるいは大きなモデルでそれを再生するかを決定する。 第2に、禁忌ポリシーは、カスケードモデル応答が十分に確実であるか、または人間の介入を必要とするかを判定する。
  論文  参考訳（メタデータ） (2025-06-13T15:36:22Z)
• On Benchmarking Human-Like Intelligence in Machines [77.55118048492021]
  現在のAI評価パラダイムは、人間のような認知能力を評価するには不十分である、と我々は主張する。 人為的なラベルの欠如、人間の反応の多様性と不確実性の表現の不適切な表現、単純で生態学的に無意味なタスクへの依存。
  論文  参考訳（メタデータ） (2025-02-27T20:21:36Z)
• Towards Human-AI Deliberation: Design and Evaluation of LLM-Empowered Deliberative AI for AI-Assisted Decision-Making [47.33241893184721]
  AIによる意思決定において、人間はしばしばAIの提案を受動的にレビューし、それを受け入れるか拒否するかを決定する。 意思決定における人間-AIの意見の対立に関する議論と人間のリフレクションを促進する新しい枠組みであるHuman-AI Deliberationを提案する。 人間の熟考の理論に基づいて、この枠組みは人間とAIを次元レベルの意見の引用、熟考的議論、意思決定の更新に携わる。
  論文  参考訳（メタデータ） (2024-03-25T14:34:06Z)
• Beyond Recommender: An Exploratory Study of the Effects of Different AI Roles in AI-Assisted Decision Making [48.179458030691286]
  Recommender、Analyzer、Devil's Advocateの3つのAIの役割について検討する。 以上の結果から,各役割のタスクパフォーマンス,信頼性の適切性,ユーザエクスペリエンスにおける長所と短所が明らかとなった。 これらの洞察は、異なる状況に応じて適応的な機能的役割を持つAIアシスタントを設計する上で、貴重な意味を提供する。
  論文  参考訳（メタデータ） (2024-03-04T07:32:28Z)
• Learning Complementary Policies for Human-AI Teams [13.371050441794651]
  本稿では,意思決定における人間とAIの相補性の課題に取り組む。 我々は、割り当てられた行動の下でのみ結果が観察される場合に、人間とAIのコラボレーションのための堅牢なソリューションを開発する。 少数のインスタンスを人間の意思決定者にルーティングすることで,大幅なパフォーマンス向上が達成可能であることを示す。
  論文  参考訳（メタデータ） (2023-02-06T17:22:18Z)
• A Cognitive Framework for Delegation Between Error-Prone AI and Human Agents [0.0]
  本研究では,認知にインスパイアされた行動モデルを用いて,人間エージェントとAIエージェントの両方の行動を予測する。 予測された振る舞いは、仲介者の使用を通じて人間とAIエージェントの制御を委譲するために使用される。
  論文  参考訳（メタデータ） (2022-04-06T15:15:21Z)
• Modeling Human-AI Team Decision Making [14.368767225297585]
  我々は、不完全なAIエージェントが支援する一連の人間のグループに、知的な問題を提示する。 あるグループの目標は、グループのメンバーとその利用可能なAIエージェントの相対的な専門知識を評価することだった。 本研究では,人間-AIグループの行動予測における,予測理論,影響力学,ベイズ学習の社会的認知的構成要素の価値を示す。
  論文  参考訳（メタデータ） (2022-01-08T04:23:23Z)
• Deciding Fast and Slow: The Role of Cognitive Biases in AI-assisted Decision-making [46.625616262738404]
  我々は、認知科学の分野からの知識を用いて、人間とAIの協調的な意思決定設定における認知バイアスを考慮します。 私たちは、人間とAIのコラボレーションでよく見られるバイアスであるバイアスのアンカーに特に焦点を当てています。
  論文  参考訳（メタデータ） (2020-10-15T22:25:41Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。