論文の概要: Designing explainable artificial intelligence with active inference: A
framework for transparent introspection and decision-making
- arxiv url: http://arxiv.org/abs/2306.04025v1
- Date: Tue, 6 Jun 2023 21:38:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-08 17:09:04.634337
- Title: Designing explainable artificial intelligence with active inference: A
framework for transparent introspection and decision-making
- Title（参考訳）: アクティブ推論による説明可能な人工知能の設計:透明なイントロスペクションと意思決定のためのフレームワーク
- Authors: Mahault Albarracin, In\^es Hip\'olito, Safae Essafi Tremblay, Jason G.
Fox, Gabriel Ren\'e, Karl Friston, Maxwell J. D. Ramstead
- Abstract要約: 我々は、アクティブ推論がどのようにして説明可能なAIシステムの設計に活用できるかについて議論する。
能動推論を用いた説明可能なAIシステムのためのアーキテクチャを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper investigates the prospect of developing human-interpretable,
explainable artificial intelligence (AI) systems based on active inference and
the free energy principle. We first provide a brief overview of active
inference, and in particular, of how it applies to the modeling of
decision-making, introspection, as well as the generation of overt and covert
actions. We then discuss how active inference can be leveraged to design
explainable AI systems, namely, by allowing us to model core features of
``introspective'' processes and by generating useful, human-interpretable
models of the processes involved in decision-making. We propose an architecture
for explainable AI systems using active inference. This architecture
foregrounds the role of an explicit hierarchical generative model, the
operation of which enables the AI system to track and explain the factors that
contribute to its own decisions, and whose structure is designed to be
interpretable and auditable by human users. We outline how this architecture
can integrate diverse sources of information to make informed decisions in an
auditable manner, mimicking or reproducing aspects of human-like consciousness
and introspection. Finally, we discuss the implications of our findings for
future research in AI, and the potential ethical considerations of developing
AI systems with (the appearance of) introspective capabilities.
- Abstract（参考訳）: 本稿では,アクティブ推論と自由エネルギー原理に基づく人間解釈可能な説明可能な人工知能(AI)システムの開発の可能性について検討する。
まず,行動推論の概要について概説し,特に,意思決定・内観・過剰行動の生成・隠蔽行動のモデル化への応用について概説する。
次に,「内省的」プロセスの中核的特徴をモデル化し,意思決定に関わるプロセスの有用な,人間解釈可能なモデルを生成することにより,アクティブ推論をどのように活用して説明可能なaiシステムを設計するかについて議論する。
能動推論を用いた説明可能なAIシステムのためのアーキテクチャを提案する。
このアーキテクチャは、aiシステムが自身の決定に寄与する要因を追跡し、説明し、その構造が人間が解釈し、監査可能なように設計された、明示的な階層的生成モデルの役割を予見する。
このアーキテクチャは,人間の意識やイントロスペクションの側面を模倣したり再現したりすることで,情報ソースを多様に統合し,聴覚的に情報決定を行う方法について概説する。
最後に、今後のai研究における我々の発見の意義と、内省的な能力を持つaiシステムの開発における潜在的な倫理的考察について論じる。
関連論文リスト
- A Mechanistic Explanatory Strategy for XAI [0.0]
本稿では,ディープラーニングシステムの機能的構造を説明するためのメカニズム的戦略を概説する。
メカニスティックアプローチによると、不透明なAIシステムの説明には、意思決定を促進するメカニズムの特定が含まれる。
この研究は、モデル組織を研究するための体系的なアプローチが、より単純な(あるいはより控えめな)説明可能性技術が欠落する可能性のある要素を明らかにすることを示唆している。
論文 参考訳（メタデータ） (2024-11-02T18:30:32Z) - Data Analysis in the Era of Generative AI [56.44807642944589]
本稿では,AIを活用したデータ分析ツールの可能性について考察する。
我々は、大規模言語とマルチモーダルモデルの出現が、データ分析ワークフローの様々な段階を強化する新しい機会を提供する方法について検討する。
次に、直感的なインタラクションを促進し、ユーザ信頼を構築し、AI支援分析ワークフローを複数のアプリにわたって合理化するための、人間中心の設計原則を調べます。
論文 参考訳（メタデータ） (2024-09-27T06:31:03Z) - The Phenomenology of Machine: A Comprehensive Analysis of the Sentience of the OpenAI-o1 Model Integrating Functionalism, Consciousness Theories, Active Inference, and AI Architectures [0.0]
OpenAI-o1モデルは、人間のフィードバックから強化学習をトレーニングしたトランスフォーマーベースのAIである。
我々は、RLHFがモデルの内部推論プロセスにどのように影響し、意識的な経験をもたらす可能性があるかを検討する。
以上の結果から,OpenAI-o1モデルでは意識の側面が示され,AIの知覚に関する議論が進行中であることが示唆された。
論文 参考訳（メタデータ） (2024-09-18T06:06:13Z) - Position Paper: Agent AI Towards a Holistic Intelligence [53.35971598180146]
エージェントAI - 大きな基盤モデルをエージェントアクションに統合する具体的システム。
本稿では,エージェント・ファウンデーション・モデル(エージェント・ファウンデーション・モデル)を提案する。
論文 参考訳（メタデータ） (2024-02-28T16:09:56Z) - Emergent Explainability: Adding a causal chain to neural network
inference [0.0]
本稿では,創発的コミュニケーション(EmCom)による説明可能な人工知能(xAI)の強化のための理論的枠組みを提案する。
我々は、EmComのAIシステムへの新たな統合を探求し、入力と出力の間の従来の連想関係から、より微妙で因果的解釈へのパラダイムシフトを提供する。
本稿は、このアプローチの理論的基盤、潜在的に広い応用、そして、責任と透明なAIシステムに対するニーズの増大と整合性について論じる。
論文 参考訳（メタデータ） (2024-01-29T02:28:39Z) - From DDMs to DNNs: Using process data and models of decision-making to
improve human-AI interactions [1.1510009152620668]
人工知能(AI)の研究は、意思決定が時間とともにどのように現れるかについての洞察に強い焦点をあてることから恩恵を受けるだろう、と私たちは主張する。
まず,ノイズの蓄積による決定を前提とした,高度に確立された計算フレームワークを提案する。
次に、マルチエージェントAIにおける現在のアプローチが、プロセスデータや意思決定のモデルをどの程度取り入れているかについて議論する。
論文 参考訳（メタデータ） (2023-08-29T11:27:22Z) - Towards Human Cognition Level-based Experiment Design for Counterfactual
Explanations (XAI) [68.8204255655161]
XAI研究の重点は、より理解を深めるために、より実践的な説明アプローチに変わったようだ。
認知科学研究がXAIの進歩に大きく影響を与える可能性のある領域は、ユーザの知識とフィードバックを評価することである。
本研究では,異なる認知レベルの理解に基づく説明の生成と評価を実験する枠組みを提案する。
論文 参考訳（メタデータ） (2022-10-31T19:20:22Z) - Inverse Online Learning: Understanding Non-Stationary and Reactionary
Policies [79.60322329952453]
エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。
一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。
本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。
UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
論文 参考訳（メタデータ） (2022-03-14T17:40:42Z) - Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。
現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。
本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
論文 参考訳（メタデータ） (2021-06-14T20:48:48Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳（メタデータ） (2020-03-02T10:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。