論文の概要: Feature Visualization within an Automated Design Assessment leveraging
Explainable Artificial Intelligence Methods
- arxiv url: http://arxiv.org/abs/2201.12107v1
- Date: Fri, 28 Jan 2022 13:31:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-31 13:57:42.639531
- Title: Feature Visualization within an Automated Design Assessment leveraging
Explainable Artificial Intelligence Methods
- Title(参考訳): 説明可能な人工知能を用いた自動設計評価における特徴可視化
- Authors: Raoul Sch\"onhof and Artem Werner and Jannes Elstner and Boldizsar
Zopcsak and Ramez Awad and Marco Huber
- Abstract要約: 3次元CADデータから駆動されるディープラーニングシステムによって主に活用される自動能力評価について紹介した。
現在の評価システムは、抽象的な特徴に関してCADデータを評価することができるが、システム決定の理由に関する幾何学的な指標は持っていない。
NeuroCADプロジェクト内では、ある抽象的特徴に関連する幾何学的特徴を特定するためにxAIメソッドが使用される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Not only automation of manufacturing processes but also automation of
automation procedures itself become increasingly relevant to automation
research. In this context, automated capability assessment, mainly leveraged by
deep learning systems driven from 3D CAD data, have been presented. Current
assessment systems may be able to assess CAD data with regards to abstract
features, e.g. the ability to automatically separate components from bulk
goods, or the presence of gripping surfaces. Nevertheless, they suffer from the
factor of black box systems, where an assessment can be learned and generated
easily, but without any geometrical indicator about the reasons of the system's
decision. By utilizing explainable AI (xAI) methods, we attempt to open up the
black box. Explainable AI methods have been used in order to assess whether a
neural network has successfully learned a given task or to analyze which
features of an input might lead to an adversarial attack. These methods aim to
derive additional insights into a neural network, by analyzing patterns from a
given input and its impact to the network output. Within the NeuroCAD Project,
xAI methods are used to identify geometrical features which are associated with
a certain abstract feature. Within this work, a sensitivity analysis (SA), the
layer-wise relevance propagation (LRP), the Gradient-weighted Class Activation
Mapping (Grad-CAM) method as well as the Local Interpretable Model-Agnostic
Explanations (LIME) have been implemented in the NeuroCAD environment, allowing
not only to assess CAD models but also to identify features which have been
relevant for the network decision. In the medium run, this might enable to
identify regions of interest supporting product designers to optimize their
models with regards to assembly processes.
- Abstract(参考訳): 製造プロセスの自動化だけでなく、自動化手順自体の自動化も、自動化研究に益々関係している。
この文脈では、3次元CADデータから駆動されるディープラーニングシステムによって主に活用される自動能力評価が提案されている。
現在の評価システムはCADデータを抽象的な特徴(例えば、バルクグッズから部品を自動的に分離する機能やグリップ面の存在など)で評価することができる。
それでも彼らはブラックボックスシステムの要因に悩まされており、評価を学習し、容易に生成することができるが、システムの決定の理由に関する幾何学的な指標は持っていない。
説明可能なAI(xAI)手法を利用することで、ブラックボックスを開こうとする。
説明可能なai手法は、ニューラルネットワークが特定のタスクをうまく学習したかどうかを判断したり、入力のどの特徴が敵の攻撃につながるかを分析するために使われています。
これらの方法は、与えられた入力からパターンを分析し、ネットワーク出力に与える影響を分析することによって、ニューラルネットワークへのさらなる洞察を導き出すことを目的としている。
NeuroCADプロジェクト内では、ある抽象的特徴に関連する幾何学的特徴を特定するためにxAIメソッドが使用される。
本研究の中で、感度分析(sa)、層間関係伝播(lrp)、勾配重み付けクラス活性化マッピング(gradle-weighted class activation mapping:grad-cam)、局所解釈可能なモデル非依存説明(lime)がニューロカド環境に実装されており、cadモデルを評価するだけでなく、ネットワーク決定に関連する特徴を特定することができる。
中期的には、製品デザイナがアセンブリプロセスに関してモデルを最適化するための関心領域を特定できるかもしれません。
関連論文リスト
- On the Road to Clarity: Exploring Explainable AI for World Models in a Driver Assistance System [3.13366804259509]
我々は畳み込み変分オートエンコーダ(VAE)のための透明なバックボーンモデルを構築した。
本稿では,予測ネットワークの内部力学と特徴関連性に関する説明と評価手法を提案する。
本稿では,都市交通状況における歩行者の認識を予測したVAE-LSTM世界モデルの解析により,提案手法を実証する。
論文 参考訳(メタデータ) (2024-04-26T11:57:17Z) - Representing Timed Automata and Timing Anomalies of Cyber-Physical
Production Systems in Knowledge Graphs [51.98400002538092]
本稿では,学習されたタイムドオートマトンとシステムに関する公式知識グラフを組み合わせることで,CPPSのモデルベース異常検出を改善することを目的とする。
モデルと検出された異常の両方を知識グラフに記述し、モデルと検出された異常をより容易に解釈できるようにする。
論文 参考訳(メタデータ) (2023-08-25T15:25:57Z) - Planning for Learning Object Properties [117.27898922118946]
我々は、物体特性を象徴的な計画問題として認識するために、ニューラルネットワークを自動的に訓練する問題を定式化する。
トレーニングデータセット作成と学習プロセスを自動化するための戦略を作成するために,計画手法を使用します。
シミュレーションと実環境の両方で実験的な評価を行う。
論文 参考訳(メタデータ) (2023-01-15T09:37:55Z) - Modelling Assessment Rubrics through Bayesian Networks: a Pragmatic
Approach [59.77710485234197]
本稿では,学習者モデルを直接評価ルーリックから導出する手法を提案する。
本稿では,コンピュータ思考のスキルをテストするために開発された活動の人的評価を自動化するために,この手法を適用する方法について述べる。
論文 参考訳(メタデータ) (2022-09-07T10:09:12Z) - Towards automated Capability Assessment leveraging Deep Learning [0.0]
本稿では,ボキセル化技術を用いて評価を自動化するソフトウェアであるNeuroCADを提案する。
この手法によりCADファイルに基づくディープラーニングにより,抽象的ジオメトリと生産関連機能の評価が可能となる。
論文 参考訳(メタデータ) (2022-01-28T13:49:35Z) - Multi-Branch Deep Radial Basis Function Networks for Facial Emotion
Recognition [80.35852245488043]
放射状基底関数(RBF)ユニットによって形成された複数の分岐で拡張されたCNNベースのアーキテクチャを提案する。
RBFユニットは、中間表現を用いて類似のインスタンスで共有される局所パターンをキャプチャする。
提案手法は,提案手法の競争力を高めるためのローカル情報の導入であることを示す。
論文 参考訳(メタデータ) (2021-09-07T21:05:56Z) - Sensitivity analysis in differentially private machine learning using
hybrid automatic differentiation [54.88777449903538]
感性分析のための新しいテクスチブリド自動識別システム(AD)を導入する。
これにより、ニューラルネットワークをプライベートデータ上でトレーニングするなど、任意の微分可能な関数合成の感度をモデル化できる。
当社のアプローチは,データ処理の設定において,プライバシ損失に関する原則的推論を可能にする。
論文 参考訳(メタデータ) (2021-07-09T07:19:23Z) - Transforming Feature Space to Interpret Machine Learning Models [91.62936410696409]
この貢献は、特徴空間変換のレンズを通して機械学習モデルを解釈する新しいアプローチを提案する。
非条件的および条件付きポストホック診断ツールの拡張に使用できる。
提案手法の可能性を実証するために,46特徴のリモートセンシング土地被覆分類の事例研究を行った。
論文 参考訳(メタデータ) (2021-04-09T10:48:11Z) - Symbolic AI for XAI: Evaluating LFIT Inductive Programming for Fair and
Explainable Automatic Recruitment [11.460075612587591]
我々は,与えられたブラックボックスシステムと同等の命題論理理論を学習するICP手法を提案する。
本稿では,この問題に対するLFITの表現性を示し,他の領域に適用可能なスキームを提案する。
論文 参考訳(メタデータ) (2020-12-01T09:36:59Z) - What Do You See? Evaluation of Explainable Artificial Intelligence (XAI)
Interpretability through Neural Backdoors [15.211935029680879]
ディープニューラルネットワークが入力を予測する方法を理解するために、説明可能なAI(XAI)手法が提案されている。
現在の評価手法は、人間からの主観的な入力を必要とするか、あるいは自動評価を伴う高い計算コストを必要とする。
本稿では,不正分類の原因となる悪意のある機能を隠蔽したバックドアトリガーパターンを提案する。
論文 参考訳(メタデータ) (2020-09-22T15:53:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。