論文の概要: Practical Judgment, Virtue, and Intuition in the Use of Opaque AI-Enabled Systems

• arxiv url: http://arxiv.org/abs/2607.12755v1
• Date: Tue, 14 Jul 2026 13:20:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-15 17:08:30.1568
• Title: Practical Judgment, Virtue, and Intuition in the Use of Opaque AI-Enabled Systems
• Title（参考訳）: 不透明なAI実現システムにおける実践的判断・態度・直観
• Abstract要約: これらの人的能力に着目することは、不透明さによって生み出される実践的課題と、特定のドメインを支える倫理的、法的、社会的規範の間に橋渡しする手段を提供する。 これを行う中核的な要素は、多くの肯定的な人間の特性が定量化されていないことの認識であり、それゆえ、人道的だが定量化不可能な値に固定されたAIデプロイメントに関するトレーニング規則とガイドラインを開発する必要がある、と我々は主張する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI-enabled systems are seeing increasing deployment across numerous domains, with many being "black boxes" with respect to core functions and capabilities. I.e., many systems take inputs and give outputs, but without users having any ability to see how the former lead to the latter. AI-enabled systems are also being used to augment autonomy in systems, and autonomy coupled with opacity raises numerous concerns surrounding, e.g., the reliability of systems, their regularity in functioning, human ability to control them, or whether deploying opaque and potentially autonomous systems is in compliance with ethical and legal norms. In this article, we argue that many of these worries can be mitigated by leveraging practical judgment, virtue, and intuition in the deployment and use of opaque AI-enabled systems. We show that focusing on these distinctly human capabilities provides a means for bridging between the practical challenges created by opacity and the ethical, legal, and social norms underpinning particular domains. We argue that a core element in doing this is a recognition that many positive human traits are not quantifiable and we therefore must develop training regimen and guidelines on AI deployment anchored in humanistic but non-quantifiable values. Throughout the article, we focus on the military domain as an exemplar of the importance of practical judgment, virtue, and intuition as drivers for ethical and effective human decision-making surrounding AI deployments, but the underlying arguments apply to all domains where opaque and potentially autonomous systems are being deployed (subject to domain-specific alterations).
• Abstract（参考訳）: AI対応システムでは、多数のドメインにまたがるデプロイメントが増加しており、その多くはコア機能や機能に関して“ブラックボックス”である。 すなわち、多くのシステムは入力を受け取り出力を与えるが、ユーザーが前者が後者をどう導くかを見ることができない。 AI対応システムはシステムの自律性を高めるためにも使われており、不透明さと結びついた自律性は、システムの信頼性、システムの機能における規則性、制御する人間の能力、不透明で潜在的に自律的なシステムのデプロイが倫理的および法的規範に準拠しているかどうかといった多くの懸念を提起する。 本稿では、これらの懸念の多くは、不透明なAI対応システムの展開と利用において、実践的な判断、美徳、直観を活用することで緩和できると論じる。 これらの人的能力に着目することは、不透明さによって生み出される実践的課題と、特定のドメインを支える倫理的、法的、社会的規範の間に橋渡しする手段を提供する。 これを行う中核的な要素は、多くの肯定的な人間の特性が定量化されていないことの認識であり、それゆえ、人道的だが定量化不可能な値に固定されたAIデプロイメントに関するトレーニング規則とガイドラインを開発する必要がある、と我々は主張する。 この記事全体を通して、我々は、AIデプロイメントを取り巻く倫理的かつ効果的な人的意思決定の原動力としての実践的判断、美徳、直観の重要性を例証するものとして、軍事領域に焦点をあてるが、根底にある議論は、不透明で潜在的に自律的なシステムが配備されているすべてのドメインに適用される(ドメイン固有の変更に従う)。

関連論文リスト

• Autonomy by Design: Preserving Human Autonomy in AI Decision-Support [0.0]
  我々は、AI意思決定支援システムがドメイン固有の自律性の2つの重要な構成要素にどのように影響するかを分析する。 我々は自律型AI支援システムの構築フレームワークを開発する。
  論文  参考訳（メタデータ） (2025-06-30T15:20:10Z)
• AI Automatons: AI Systems Intended to Imitate Humans [54.19152688545896]
  人々の行動、仕事、能力、類似性、または人間性を模倣するように設計されたAIシステムが増加している。 このようなAIシステムの研究、設計、展開、可用性は、幅広い法的、倫理的、その他の社会的影響に対する懸念を喚起している。
  論文  参考訳（メタデータ） (2025-03-04T03:55:38Z)
• Imagining and building wise machines: The centrality of AI metacognition [78.76893632793497]
  我々は人間の知恵について知られているものを調べ、そのAIのビジョンをスケッチする。 AIシステムは特にメタ認知に苦しむ。 スマートAIのベンチマーク、トレーニング、実装について論じる。
  論文  参考訳（メタデータ） (2024-11-04T18:10:10Z)
• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Beneficent Intelligence: A Capability Approach to Modeling Benefit, Assistance, and Associated Moral Failures through AI Systems [12.239090962956043]
  AI倫理に関する一般的な言説は、AIシステムが個人と対話する際に生じる多様な倫理的懸念を捉えるのに必要な言語や形式主義を欠いている。 本稿では、利害関係者に有意義な利益や援助を与えるために、AIシステムに必要な倫理的概念と権利のネットワークを定式化する枠組みを提案する。
  論文  参考訳（メタデータ） (2023-08-01T22:38:14Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Trustworthy AI: From Principles to Practices [44.67324097900778]
  多くの現在のAIシステムは、認識不能な攻撃に脆弱で、表現不足なグループに偏り、ユーザのプライバシ保護が欠如していることが判明した。 このレビューでは、信頼できるAIシステムを構築するための包括的なガイドとして、AI実践者に提供したいと思っています。 信頼に値するAIに対する現在の断片化されたアプローチを統合するために、AIシステムのライフサイクル全体を考慮した体系的なアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-04T03:20:39Z)
• Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
  近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。 倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。 このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
  論文  参考訳（メタデータ） (2021-06-25T22:31:55Z)
• Know Your Model (KYM): Increasing Trust in AI and Machine Learning [4.93786553432578]
  信頼度の各要素を分析し、最適なAI機能を確保するために活用できる20のガイドラインのセットを提供します。 このガイドラインは、信頼性が証明可能で、実証可能であること、実装に依存しないこと、あらゆる分野のあらゆるAIシステムに適用可能であることを保証する。
  論文  参考訳（メタデータ） (2021-05-31T14:08:22Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• Distributed and Democratized Learning: Philosophy and Research Challenges [80.39805582015133]
  民主化学習(Dem-AI)という新しいデザイン哲学を提案する。 ヒトの社会的グループに触発され、提案されたDem-AIシステムの学習エージェントの専門グループは階層構造で自己組織化され、より効率的に学習タスクを遂行する。 本稿では,様々な学際分野に触発された未来のDem-AIシステムを実現するためのガイドラインとして,参照設計を提案する。
  論文  参考訳（メタデータ） (2020-03-18T08:45:10Z)
• AAAI FSS-19: Human-Centered AI: Trustworthiness of AI Models and Data Proceedings [8.445274192818825]
  予測モデルは不確実性を認識し、信頼できる予測をもたらすことが不可欠である。 このシンポジウムの焦点は、データ品質と技術的堅牢性と安全性を改善するAIシステムであった。 広く定義された領域からの提出はまた、説明可能なモデル、人間の信頼、AIの倫理的側面といった要求に対処するアプローチについても論じた。
  論文  参考訳（メタデータ） (2020-01-15T15:30:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。