論文の概要: Autonomy by Design: Preserving Human Autonomy in AI Decision-Support
- arxiv url: http://arxiv.org/abs/2506.23952v1
- Date: Mon, 30 Jun 2025 15:20:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-01 21:27:54.120761
- Title: Autonomy by Design: Preserving Human Autonomy in AI Decision-Support
- Title（参考訳）: AIによる自律性:AIによる意思決定における人間の自律性維持
- Authors: Stefan Buijsman, Sarah Carter, Juan Pablo Bermúdez,
- Abstract要約: 我々は、AI意思決定支援システムがドメイン固有の自律性の2つの重要な構成要素にどのように影響するかを分析する。
我々は自律型AI支援システムの構築フレームワークを開発する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: AI systems increasingly support human decision-making across domains of professional, skill-based, and personal activity. While previous work has examined how AI might affect human autonomy globally, the effects of AI on domain-specific autonomy -- the capacity for self-governed action within defined realms of skill or expertise -- remain understudied. We analyze how AI decision-support systems affect two key components of domain-specific autonomy: skilled competence (the ability to make informed judgments within one's domain) and authentic value-formation (the capacity to form genuine domain-relevant values and preferences). By engaging with prior investigations and analyzing empirical cases across medical, financial, and educational domains, we demonstrate how the absence of reliable failure indicators and the potential for unconscious value shifts can erode domain-specific autonomy both immediately and over time. We then develop a constructive framework for autonomy-preserving AI support systems. We propose specific socio-technical design patterns -- including careful role specification, implementation of defeater mechanisms, and support for reflective practice -- that can help maintain domain-specific autonomy while leveraging AI capabilities. This framework provides concrete guidance for developing AI systems that enhance rather than diminish human agency within specialized domains of action.
- Abstract（参考訳）: AIシステムは、プロフェッショナル、スキルベース、個人活動の各分野における人間の意思決定をますます支援している。
これまでの研究は、AIが人間の自律性にどのように影響するかを世界規模で検討してきたが、ドメイン固有の自律性(スキルや専門知識の定義領域内での自己統治的な行動の能力)に対するAIの影響は、まだ検討されていない。
我々は、AI意思決定支援システムがドメイン固有の自律性の2つの重要な要素、熟練した能力(自身のドメイン内で情報的判断を行う能力)と真の価値形成(真のドメイン関連の価値と嗜好を形成する能力)にどのように影響するかを分析する。
医療・金融・教育分野での先行調査や実証事例の分析を行うことで、信頼性のある障害指標の欠如と無意識的な価値変化の可能性が、ドメイン固有の自律性を即時かつ経時的に損なうことを実証する。
次に,自律型AI支援システムの構築フレームワークを開発する。
我々は、AI能力を活用しながら、ドメイン固有の自律性を維持するのに役立つ、特定の社会技術的デザインパターン(注意深い役割仕様、敗者機構の実装、反射的プラクティスのサポートなど)を提案する。
このフレームワークは、特定の行動領域内の人間エージェントを減少させるのではなく、強化されたAIシステムを開発するための具体的なガイダンスを提供する。
関連論文リスト
- The case for delegated AI autonomy for Human AI teaming in healthcare [3.441725960809854]
本稿では、人工知能(AI)を医療に組み込むための高度なアプローチとして、自律的な意思決定支援を提案する。
このアプローチにより、AIアルゴリズムは、定義された委任基準に基づいて、患者の他のサブセットで支援的な役割を担いながら、患者のサブセットに対して自律的に行動することができる。
患者を安全に扱えるようにし、AIツールの制限に注意しながら臨床レビュー時間を短縮する可能性がある。
論文 参考訳（メタデータ） (2025-03-24T15:26:54Z) - AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。
このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
論文 参考訳（メタデータ） (2025-03-04T03:55:38Z) - A Measure for Level of Autonomy Based on Observable System Behavior [0.0]
観測可能な行動を用いて自律性のレベルを予測するための潜在的尺度を提案する。
また,提案手法を取り入れたアルゴリズムを提案する。
この測定とアルゴリズムは、実行時に自律システムを比較する方法に興味のある研究者や実践者にとって重要である。
論文 参考訳（メタデータ） (2024-07-20T20:34:20Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳（メタデータ） (2024-07-03T15:38:57Z) - A Quantitative Autonomy Quantification Framework for Fully Autonomous Robotic Systems [0.0]
本稿では,全自律モードに着目し,タスク要求に基づく定量的自律性評価フレームワークを提案する。
このフレームワークは、自律性を定量化するツールを提供するだけでなく、自律システム開発者とユーザのための規制インターフェースと共通言語も提供する。
論文 参考訳（メタデータ） (2023-11-03T14:26:53Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳（メタデータ） (2022-01-26T18:53:09Z) - An interdisciplinary conceptual study of Artificial Intelligence (AI)
for helping benefit-risk assessment practices: Towards a comprehensive
qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。
目的は、AIシステムを評価するための共有概念や相違点を特定することである。
論文 参考訳（メタデータ） (2021-05-07T12:01:31Z) - Improving Competence for Reliable Autonomy [0.0]
本稿では,システム展開の過程での能力向上手法を提案する。
具体的には,能力認識システムと呼ばれる半自律システムに着目する。
本手法は,システムの初期モデルから欠落している重要な状態の特徴を特定するために,そのようなフィードバックを利用する。
論文 参考訳（メタデータ） (2020-07-23T01:31:28Z) - Learning to Optimize Autonomy in Competence-Aware Systems [32.3596917475882]
体験を通して学習し、オンラインで更新する自律の内省モデルを提案する。
我々は、さまざまなレベルの自律性と利用可能な人間のフィードバックにおいて、自身の習熟度を明示的にモデル化する能力認識システム(CAS)を定義する。
我々はCASの収束特性を解析し、ロボット配送と自律運転領域の実験結果を提供する。
論文 参考訳（メタデータ） (2020-03-17T14:31:45Z) - Effect of Confidence and Explanation on Accuracy and Trust Calibration
in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。
信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文 参考訳（メタデータ） (2020-01-07T15:33:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。