論文の概要: Flexible and Inherently Comprehensible Knowledge Representation for Data-Efficient Learning and Trustworthy Human-Machine Teaming in Manufacturing Environments

• arxiv url: http://arxiv.org/abs/2305.11597v1
• Date: Fri, 19 May 2023 11:18:23 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-22 14:46:29.758489
• Title: Flexible and Inherently Comprehensible Knowledge Representation for Data-Efficient Learning and Trustworthy Human-Machine Teaming in Manufacturing Environments
• Title（参考訳）: 生産環境におけるデータ効率の良い学習と信頼できる人間-機械チームのためのフレキシブルで分かりやすい知識表現
• Authors: Vedran Galeti\'c, Alistair Nottle
• Abstract要約: 人工知能エージェントの信頼性は、産業生産環境における人間と機械の協調の受容に不可欠である。 我々はエージェントの知識を表現するために、G"ardenforsの認知的にインスピレーションを受けた概念空間フレームワークを利用している。 ファジィカテゴリのメンバシップを決定し、インスタンスを解釈可能に分類するために、シンプルな典型モデルがその上に構築されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Trustworthiness of artificially intelligent agents is vital for the acceptance of human-machine teaming in industrial manufacturing environments. Predictable behaviours and explainable (and understandable) rationale allow humans collaborating with (and building) these agents to understand their motivations and therefore validate decisions that are made. To that aim, we make use of G\"ardenfors's cognitively inspired Conceptual Space framework to represent the agent's knowledge using concepts as convex regions in a space spanned by inherently comprehensible quality dimensions. A simple typicality quantification model is built on top of it to determine fuzzy category membership and classify instances interpretably. We apply it on a use case from the manufacturing domain, using objects' physical properties obtained from cobots' onboard sensors and utilisation properties from crowdsourced commonsense knowledge available at public knowledge bases. Such flexible knowledge representation based on property decomposition allows for data-efficient representation learning of typically highly specialist or specific manufacturing artefacts. In such a setting, traditional data-driven (e.g., computer vision-based) classification approaches would struggle due to training data scarcity. This allows for comprehensibility of an AI agent's acquired knowledge by the human collaborator thus contributing to trustworthiness. We situate our approach within an existing explainability framework specifying explanation desiderata. We provide arguments for our system's applicability and appropriateness for different roles of human agents collaborating with the AI system throughout its design, validation, and operation.
• Abstract（参考訳）: 人工知能エージェントの信頼性は、産業生産環境における人間と機械の協調の受容に不可欠である。 予測可能な行動と説明可能な(そして理解可能な)理性によって、人間はこれらのエージェントと(そして構築する)協力し、モチベーションを理解し、従って決定を下すことができる。 その目的のために、我々はg\"ardenfors の認知的インスパイアされた概念的空間フレームワークを用いて、本質的に理解可能な品質次元にまたがる空間内の凸領域として概念を用いてエージェントの知識を表現する。 ファジィカテゴリのメンバシップを判定し、解釈可能なインスタンスを分類するために、その上に単純な典型性定量モデルを構築する。 本稿では,コボットの搭載センサーから得られる物体の物理的特性と,公共知識ベースで利用可能なクラウドソースコモンセンス知識から得られる利用特性を用いて,製造領域のユースケースに適用する。 このような特性分解に基づく柔軟な知識表現は、典型的には高度に専門的あるいは特定の製造成果物のデータ効率のよい表現学習を可能にする。 このような環境では、従来のデータ駆動型(例えばコンピュータビジョンに基づく)分類アプローチは、データ不足の訓練のために困難である。 これにより、AIエージェントの取得した知識を人間の協力者によって理解できるようになる。 説明デシデラタ(desiderata)を規定する既存の説明可能性フレームワークにこのアプローチを組み込む。 我々は,その設計,検証,運用を通じて,AIシステムと協調する人間エージェントの役割に対するシステムの適用性と適切性について論じる。

関連論文リスト

• Understanding Generative AI Content with Embedding Models [4.662332573448995]
  この研究は、現代のディープニューラルネットワーク(DNN)の内部表現を、従来の機能エンジニアリングの自動化形式として捉えている。 これらの埋め込みは、非構造化サンプルデータに解釈可能で高レベルな概念を明らかにすることができることを示す。 実データとAIモデルから生成されたデータの間には、本質的に分離性が存在するという実証的な証拠が見つかる。
  論文  参考訳（メタデータ） (2024-08-19T22:07:05Z)
• Enabling High-Level Machine Reasoning with Cognitive Neuro-Symbolic Systems [67.01132165581667]
  本稿では,認知アーキテクチャを外部のニューロシンボリックコンポーネントと統合することにより,AIシステムにおける高レベル推論を実現することを提案する。 本稿では,ACT-Rを中心としたハイブリッドフレームワークについて紹介し,最近の応用における生成モデルの役割について論じる。
  論文  参考訳（メタデータ） (2023-11-13T21:20:17Z)
• Planning for Learning Object Properties [117.27898922118946]
  我々は、物体特性を象徴的な計画問題として認識するために、ニューラルネットワークを自動的に訓練する問題を定式化する。 トレーニングデータセット作成と学習プロセスを自動化するための戦略を作成するために,計画手法を使用します。 シミュレーションと実環境の両方で実験的な評価を行う。
  論文  参考訳（メタデータ） (2023-01-15T09:37:55Z)
• Fusing Interpretable Knowledge of Neural Network Learning Agents For Swarm-Guidance [0.5156484100374059]
  ニューラルネットワークベースの学習エージェントは、内部のニューラルネットワークを使用して決定する。 ある状況では、この知識が人間と機械の両方に友好的な形で再解釈されることが重要になる。 本稿では,ニューラルベース学習エージェントに適した解釈可能な知識融合フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-04-01T08:07:41Z)
• Knowledge-based XAI through CBR: There is more to explanations than models can tell [0.0]
  我々は、データ中心の人工知能エージェントが使用するデータを補完するために、ドメイン知識を利用することを提案する。 我々は、知識に基づく説明可能な人工知能を、CBR手法に沿った教師付きデータ分類問題として定式化する。
  論文  参考訳（メタデータ） (2021-08-23T19:01:43Z)
• Counterfactual Explanations as Interventions in Latent Space [62.997667081978825]
  反現実的な説明は、望ましい結果を達成するために変更が必要な機能のセットをエンドユーザに提供することを目的としています。 現在のアプローチでは、提案された説明を達成するために必要な行動の実現可能性を考慮することはめったにない。 本稿では,非現実的説明を生成する手法として,潜時空間における干渉としての対実的説明(CEILS)を提案する。
  論文  参考訳（メタデータ） (2021-06-14T20:48:48Z)
• Cognitive architecture aided by working-memory for self-supervised multi-modal humans recognition [54.749127627191655]
  人間パートナーを認識する能力は、パーソナライズされた長期的な人間とロボットの相互作用を構築するための重要な社会的スキルです。 ディープラーニングネットワークは最先端の結果を達成し,そのような課題に対処するための適切なツールであることが実証された。 1つの解決策は、ロボットに自己スーパービジョンで直接の感覚データから学習させることである。
  論文  参考訳（メタデータ） (2021-03-16T13:50:24Z)
• A Comparative Approach to Explainable Artificial Intelligence Methods in Application to High-Dimensional Electronic Health Records: Examining the Usability of XAI [0.0]
  XAIは、コミュニケーション手段によって人間に達成される信頼の実証的要因を生み出すことを目的としている。 機械を信頼して人間の生き方に向くというイデオロギーは倫理的な混乱を引き起こします。 XAIメソッドは、ローカルレベルとグローバルレベルの両方で出力される特定のモデルに対する機能貢献を視覚化します。
  論文  参考訳（メタデータ） (2021-03-08T18:15:52Z)
• Neuro-symbolic Architectures for Context Understanding [59.899606495602406]
  本稿では,データ駆動型アプローチと知識駆動型アプローチの強みを組み合わせたフレームワークとして,ハイブリッドAI手法を提案する。 具体的には、知識ベースを用いて深層ニューラルネットワークの学習過程を導く方法として、ニューロシンボリズムの概念を継承する。
  論文  参考訳（メタデータ） (2020-03-09T15:04:07Z)
• A general framework for scientifically inspired explanations in AI [76.48625630211943]
  我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。 このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
  論文  参考訳（メタデータ） (2020-03-02T10:32:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。