論文の概要: Reflective Hybrid Intelligence for Meaningful Human Control in Decision-Support Systems

• arxiv url: http://arxiv.org/abs/2307.06159v1
• Date: Wed, 12 Jul 2023 13:32:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-13 13:02:50.694120
• Title: Reflective Hybrid Intelligence for Meaningful Human Control in Decision-Support Systems
• Title（参考訳）: 意思決定システムにおける人間制御のための反射型ハイブリッドインテリジェンス
• Authors: Catholijn M. Jonker, Luciano Cavalcante Siebert and Pradeep K. Murukannaiah
• Abstract要約: 本稿では,AIシステムに対する有意義な人間制御のための自己表現型AIシステムの概念を紹介する。 心理学と哲学の知識を形式的推論手法や機械学習アプローチと統合する枠組みを提案する。 我々は、自己反射型AIシステムは、自己反射型ハイブリッドシステム(人間+AI)に繋がると主張している。
• 参考スコア（独自算出の注目度）: 4.1454448964078585
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the growing capabilities and pervasiveness of AI systems, societies must collectively choose between reduced human autonomy, endangered democracies and limited human rights, and AI that is aligned to human and social values, nurturing collaboration, resilience, knowledge and ethical behaviour. In this chapter, we introduce the notion of self-reflective AI systems for meaningful human control over AI systems. Focusing on decision support systems, we propose a framework that integrates knowledge from psychology and philosophy with formal reasoning methods and machine learning approaches to create AI systems responsive to human values and social norms. We also propose a possible research approach to design and develop self-reflective capability in AI systems. Finally, we argue that self-reflective AI systems can lead to self-reflective hybrid systems (human + AI), thus increasing meaningful human control and empowering human moral reasoning by providing comprehensible information and insights on possible human moral blind spots.
• Abstract（参考訳）: AIシステムの能力と普及力の増大により、社会は、人類の自律性の低下、危険に晒された民主主義と制限された人権と、人間と社会的価値に整合したAI、協力の育成、レジリエンス、知識、倫理的行動とを総合的に選択する必要がある。 本章では,AIシステムに対する有意義な人間制御のための自己表現型AIシステムの概念を紹介する。 意思決定支援システムに着目し,人間の価値観や社会規範に応答するAIシステムを構築するために,心理学や哲学からの知識を形式的推論手法や機械学習アプローチと統合する枠組みを提案する。 また,AIシステムにおける自己表現能力の設計と開発のための研究手法を提案する。 最後に、自己反射型AIシステムは、自己反射型ハイブリッドシステム(人間+AI)につながる可能性があり、それによって有意義な人間のコントロールが増加し、人間の道徳的盲点に関する理解可能な情報と洞察を提供することで、人間の道徳的推論を強化する。

関連論文リスト

• Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
  我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。 学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。 トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
  論文  参考訳（メタデータ） (2024-07-03T15:38:57Z)
• Towards Bidirectional Human-AI Alignment: A Systematic Review for Clarifications, Framework, and Future Directions [101.67121669727354]
  近年のAIの進歩は、AIシステムを意図された目標、倫理的原則、個人とグループの価値に向けて導くことの重要性を強調している。 人間のAIアライメントの明確な定義とスコープの欠如は、このアライメントを達成するための研究領域間の共同作業を妨げる、大きな障害となる。
  論文  参考訳（メタデータ） (2024-06-13T16:03:25Z)
• Advancing Explainable AI Toward Human-Like Intelligence: Forging the Path to Artificial Brain [0.7770029179741429]
  説明可能なAI(XAI)における人工知能(AI)と神経科学の交差は、複雑な意思決定プロセスにおける透明性と解釈可能性を高めるために重要である。 本稿では,機能ベースから人間中心のアプローチまで,XAI方法論の進化について考察する。 生成モデルにおける説明可能性の達成、責任あるAIプラクティスの確保、倫理的意味への対処に関する課題について論じる。
  論文  参考訳（メタデータ） (2024-02-07T14:09:11Z)
• Managing extreme AI risks amid rapid progress [171.05448842016125]
  我々は、大規模社会被害、悪意のある使用、自律型AIシステムに対する人間の制御の不可逆的な喪失を含むリスクについて説明する。 このようなリスクがどのように発生し、どのように管理するかについては、合意の欠如があります。 現在のガバナンスイニシアチブには、誤用や無謀を防ぎ、自律システムにほとんど対処するメカニズムや制度が欠けている。
  論文  参考訳（メタデータ） (2023-10-26T17:59:06Z)
• Intent-aligned AI systems deplete human agency: the need for agency foundations research in AI safety [2.3572498744567127]
  人間の意図の一致は、安全なAIシステムには不十分である、と我々は主張する。 我々は、人類の長期的機関の保存がより堅牢な標準であると論じている。
  論文  参考訳（メタデータ） (2023-05-30T17:14:01Z)
• World Models and Predictive Coding for Cognitive and Developmental Robotics: Frontiers and Challenges [51.92834011423463]
  我々は世界モデルと予測符号化の2つの概念に焦点を当てる。 神経科学において、予測符号化は、脳がその入力を継続的に予測し、その環境における自身のダイナミクスと制御行動のモデル化に適応するように提案する。
  論文  参考訳（メタデータ） (2023-01-14T06:38:14Z)
• BIASeD: Bringing Irrationality into Automated System Design [12.754146668390828]
  我々は、人間と機械のコラボレーションの未来は、人間の認知バイアスをモデル化し、理解し、おそらく複製するAIシステムの開発を必要とすると主張している。 我々は、AIシステムの観点から既存の認知バイアスを分類し、3つの幅広い関心領域を特定し、私たちのバイアスをよりよく理解するAIシステムの設計のための研究の方向性を概説する。
  論文  参考訳（メタデータ） (2022-10-01T02:52:38Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• Meaningful human control over AI systems: beyond talking the talk [8.351027101823705]
  私たちは、AIベースのシステムが有意義な人間の制御下にある必要がある4つの特性を特定します。 第一に、人間とAIアルゴリズムが相互作用するシステムは、道徳的にロードされた状況の明確に定義された領域を持つべきである。 第2に、システム内の人間とAIエージェントは、適切かつ相互に互換性のある表現を持つべきである。 第三に、人間に帰属する責任は、その人のシステムを支配する能力と権限に相応すべきである。
  論文  参考訳（メタデータ） (2021-11-25T11:05:37Z)
• An interdisciplinary conceptual study of Artificial Intelligence (AI) for helping benefit-risk assessment practices: Towards a comprehensive qualification matrix of AI programs and devices (pre-print 2020) [55.41644538483948]
  本稿では,インテリジェンスの概念に対処するさまざまな分野の既存の概念を包括的に分析する。 目的は、AIシステムを評価するための共有概念や相違点を特定することである。
  論文  参考訳（メタデータ） (2021-05-07T12:01:31Z)
• Perspectives and Ethics of the Autonomous Artificial Thinking Systems [0.0]
  我々のモデルは、情報システムの階層、認知階層、言語階層、デジタル情報階層の4つの階層を使用する。 人工思考の形式を提供する自律システムの能力に関する疑問は、社会生活とトランスヒューマニズムの観点に倫理的な結果をもたらす。
  論文  参考訳（メタデータ） (2020-01-13T14:23:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。