論文の概要: Careful Judge: Safe and Efficient Human-AI Collaborative Decision Making

• arxiv url: http://arxiv.org/abs/2610.09043v1
• Date: Tue, 06 Oct 2026 19:44:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.575976
• Title: Careful Judge: Safe and Efficient Human-AI Collaborative Decision Making
• Title（参考訳）: 慎重な判断:安全で効率的な人間とAIの協調的意思決定
• Abstract要約: CAREは原則で、汎用的で、モジュール化されており、あらゆるブラックボックスAIモデルで動作する。 我々は、AIモデルが十分に訓練され、人間とAIのミスアライメントが明確な構造を持つ場合、CAREがクエリ効率をどのように改善するかを示す。 運転、言語、ロボティクスにまたがる4つの安全クリティカルな現実世界データセットの実験では、CAREが人間のクエリをベースラインに対して25～81%削減しながら、人間に沿った決定を達成していることが示された。
• 参考スコア（独自算出の注目度）: 30.161334601782187
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In human-AI collaborative decision making, human review can prevent unsafe AI decisions, but each human judgment is costly. Treating human intervention after AI abstention as a one-off fallback misses the opportunity to improve future AI decisions for greater automation, yet AI adaptively learning from selectively queried human feedback breaks safety guardrails calibrated for old models. We approach this challenge with CARE---calibrated adaptive rectification and escalation---an end-to-end pipeline that combines AI models and human reviewers to guarantee safe, human-aligned decisions, while continuously learning from human feedback to achieve greater automation with fewer human queries. CARE is principled, general, modular, and works with any black-box AI model. Our novel adaptive calibration module guarantees risk control at every time step for any rectification module. We further show how CARE improves query efficiency when the AI model is well trained and the human-AI misalignment has a clear structure. Experiments on four safety-critical real-world datasets spanning driving, language, and robotics demonstrate that CARE achieves human-aligned decisions while reducing human queries by 25-81% relative to baselines.
• Abstract（参考訳）: 人間とAIの協調的な意思決定では、人間のレビューは安全でないAIの決定を防ぐことができるが、人間の判断は費用がかかる。 しかし、AIは選択的にクエリされた人間のフィードバックから順応的に学習することで、古いモデルで調整された安全ガードレールを破る。 私たちは、AIモデルとヒューマンレビュアーを組み合わせたエンドツーエンドのパイプラインで、安全でヒューマンアラインな決定を保証しつつ、人間のフィードバックから継続的に学び、より少ない人間のクエリでより大きな自動化を実現する、CAREによる適応的是正とエスカレーションによる、この課題に取り組みます。 CAREは原則で、汎用的で、モジュール化されており、あらゆるブラックボックスAIモデルで動作する。 我々の新しい適応キャリブレーションモジュールは、どの修正モジュールに対しても、各ステップでリスク制御を保証します。 さらに、AIモデルが十分に訓練され、人間とAIのミスアライメントが明確な構造を持つ場合、CAREがクエリ効率をどのように改善するかを示す。 運転、言語、ロボティクスにまたがる4つの安全クリティカルな現実世界データセットの実験では、CAREが人間に沿った決定を達成し、ベースラインに対して人間のクエリを25～81%削減することを示した。

関連論文リスト

• Align When They Want, Complement When They Need! Human-Centered Ensembles for Adaptive Human-AI Collaboration [13.041288521972563]
  人間とAIの意思決定において、人間の専門知識を補完するAIを設計することは、人間とAIのコラボレーションを強化する自然な戦略である。 一致したAIは、信頼を育みながら、最適な人間の行動を補強し、人間とAIチームのパフォーマンスを低下させるリスクを負う。 我々は、2つの専門的AIモデルの間で戦略的に切り替える、人間中心の適応型AIアンサンブルを新たに導入する。
  論文  参考訳（メタデータ） (2026-02-23T18:22:58Z)
• Cascaded Language Models for Cost-effective Human-AI Decision-Making [52.81324217423194]
  複数の専門分野にまたがってタスクを適応的に委譲するLLM決定フレームワークを提案する。 まず、deferral Policyは、ベースモデルの回答を受け入れるか、あるいは大きなモデルでそれを再生するかを決定する。 第2に、禁忌ポリシーは、カスケードモデル応答が十分に確実であるか、または人間の介入を必要とするかを判定する。
  論文  参考訳（メタデータ） (2025-06-13T15:36:22Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Human-AI Safety: A Descendant of Generative AI and Control Systems Safety [6.100304850888953]
  先進的なAI技術に対する有意義な安全性保証には、AI出力と人間の振る舞いによって形成されるフィードバックループが、どのようにして異なる結果に向かって相互作用を駆動するかについての推論が必要である、と我々は主張する。 我々は、次世代の人間中心AI安全性に向けた具体的な技術ロードマップを提案する。
  論文  参考訳（メタデータ） (2024-05-16T03:52:00Z)
• Does AI help humans make better decisions? A statistical evaluation framework for experimental and observational studies [0.43981305860983716]
  我々は、人間とAI、AIの3つの代替意思決定システムのパフォーマンスを比較する方法を示す。 リスクアセスメントの勧告は、現金保釈を課す裁判官の決定の分類精度を向上しないことがわかった。
  論文  参考訳（メタデータ） (2024-03-18T01:04:52Z)
• Best-Response Bayesian Reinforcement Learning with Bayes-adaptive POMDPs for Centaurs [22.52332536886295]
  本稿では,人間とAIの相互作用を逐次ゲームとして新たに定式化する。 このケースでは、有界人間によるより良い意思決定を支援するというAIの問題は、ベイズ対応のPOMDPに還元される。 我々は、機械が自身の限界と人間の助けを借りて改善する方法について議論する。
  論文  参考訳（メタデータ） (2022-04-03T21:00:51Z)
• Uncalibrated Models Can Improve Human-AI Collaboration [10.106324182884068]
  私たちは、AIモデルを実際によりも自信を持って提示することで、人間-AIのパフォーマンスが向上することを示した。 私たちはまず、何千もの人間のインタラクションのデータを使って、人間がAIアドバイスを組み込む方法のモデルを学びます。
  論文  参考訳（メタデータ） (2022-02-12T04:51:00Z)
• Trustworthy AI: A Computational Perspective [54.80482955088197]
  我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。 各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
  論文  参考訳（メタデータ） (2021-07-12T14:21:46Z)
• Is the Most Accurate AI the Best Teammate? Optimizing AI for Teamwork [54.309495231017344]
  AIシステムは人間中心の方法でトレーニングされ、チームのパフォーマンスに直接最適化されるべきである、と私たちは主張する。 我々は,AIレコメンデーションを受け入れるか,あるいはタスク自体を解決するかを選択する,特定のタイプのAIチームを提案する。 実世界の高精度データセット上での線形モデルと非線形モデルによる実験は、AIが最も正確であることは、最高のチームパフォーマンスに繋がらないことを示している。
  論文  参考訳（メタデータ） (2020-04-27T19:06:28Z)
• Effect of Confidence and Explanation on Accuracy and Trust Calibration in AI-Assisted Decision Making [53.62514158534574]
  ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。 信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
  論文  参考訳（メタデータ） (2020-01-07T15:33:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。