論文の概要: Network Inversion and Its Applications

• arxiv url: http://arxiv.org/abs/2411.17777v1
• Date: Tue, 26 Nov 2024 10:04:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-28 15:27:32.666726
• Title: Network Inversion and Its Applications
• Title（参考訳）: ネットワークインバージョンとその応用
• Authors: Pirzada Suhail, Hao Tang, Amit Sethi,
• Abstract要約: ニューラルネットワークは、さまざまなアプリケーションにまたがる強力なツールとして登場したが、意思決定プロセスはしばしば不透明であり、「ブラックボックス」と認識される。 ネットワークの反転技術は、これらのブラックボックスの中を覗き見し、ネットワークが意思決定プロセスの背後で学んだ特徴とパターンを明らかにすることで、ソリューションを提供します。 本稿では,訓練されたニューラルネットワークの入力空間におけるデータ分布を学習する厳密な条件付きジェネレータを用いて,ネットワークインバージョンに対する簡易かつ効果的なアプローチを提案する。
• 参考スコア（独自算出の注目度）: 9.124933643129538
• License:
• Abstract: Neural networks have emerged as powerful tools across various applications, yet their decision-making process often remains opaque, leading to them being perceived as "black boxes." This opacity raises concerns about their interpretability and reliability, especially in safety-critical scenarios. Network inversion techniques offer a solution by allowing us to peek inside these black boxes, revealing the features and patterns learned by the networks behind their decision-making processes and thereby provide valuable insights into how neural networks arrive at their conclusions, making them more interpretable and trustworthy. This paper presents a simple yet effective approach to network inversion using a meticulously conditioned generator that learns the data distribution in the input space of the trained neural network, enabling the reconstruction of inputs that would most likely lead to the desired outputs. To capture the diversity in the input space for a given output, instead of simply revealing the conditioning labels to the generator, we encode the conditioning label information into vectors and intermediate matrices and further minimize the cosine similarity between features of the generated images. Additionally, we incorporate feature orthogonality as a regularization term to boost image diversity which penalises the deviations of the Gram matrix of the features from the identity matrix, ensuring orthogonality and promoting distinct, non-redundant representations for each label. The paper concludes by exploring immediate applications of the proposed network inversion approach in interpretability, out-of-distribution detection, and training data reconstruction.
• Abstract（参考訳）: ニューラルネットワークは様々なアプリケーションにまたがる強力なツールとして登場したが、意思決定プロセスはしばしば不透明であり、「ブラックボックス」と認識される。 この不透明さは、特に安全クリティカルなシナリオにおいて、その解釈可能性と信頼性に関する懸念を提起する。 ネットワークの反転技術は、これらのブラックボックスの中を覗き見し、意思決定プロセスの背後にあるネットワークによって得られた特徴とパターンを明らかにし、ニューラルネットワークが結論に達する方法に関する貴重な洞察を提供することで、より解釈可能で信頼性の高いものになります。 本稿では、訓練されたニューラルネットワークの入力空間におけるデータ分布を学習し、所望の出力につながる可能性のある入力の再構成を可能にする、厳密な条件付きジェネレータを用いて、ネットワークインバージョンに対する単純かつ効果的なアプローチを提案する。 与えられた出力に対する入力空間の多様性を、単に条件ラベルを生成元に公開する代わりに、条件ラベル情報をベクトルおよび中間行列にエンコードし、生成した画像の特徴間のコサイン類似性を最小化する。 さらに,画像の多様性を高めるための正規化用語として特徴直交性を導入し,特徴のグラム行列の偏差を識別行列から考慮し,直交性を確保し,ラベルごとに異なる非冗長表現を促進する。 本研究は,ネットワーク・インバージョン・アプローチの解釈可能性,アウト・オブ・ディストリビューション検出,トレーニングデータ再構成への即時適用について検討する。

関連論文リスト

• Network Inversion of Convolutional Neural Nets [3.004632712148892]
  ニューラルネットワークは、さまざまなアプリケーションにまたがる強力なツールとして登場したが、意思決定プロセスはしばしば不透明である。 ネットワークの反転技術は、これらのブラックボックスの中を覗くことができるソリューションを提供します。 本稿では,厳密な条件付きジェネレータを用いたネットワークインバージョンに対する簡易かつ効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2024-07-25T12:53:21Z)
• Network Inversion of Binarised Neural Nets [3.5571131514746837]
  ニューラルネットワークの出力マッピングに対する入力のブラックボックスの性質を解明する上で、ネットワークの反転は重要な役割を担っている。 本稿では,ネットワークの構造をキャプチャするCNF式に符号化することで,訓練されたBNNを逆転させる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-02-19T09:39:54Z)
• Densely Decoded Networks with Adaptive Deep Supervision for Medical Image Segmentation [19.302294715542175]
  本稿では「クラッチ」ネットワーク接続を選択的に導入し、高密度デコードネットワーク(ddn)を提案する。 ネットワークデコーダの各アップサンプリングステージにおける「クラッチ」接続により、ターゲットのローカライゼーションが向上する。 また、適応的な深層監視(ads)に基づくトレーニング戦略を提案し、入力データセットの特定の属性を利用して適応する。
  論文  参考訳（メタデータ） (2024-02-05T00:44:57Z)
• CONVERT:Contrastive Graph Clustering with Reliable Augmentation [110.46658439733106]
  信頼性オーグメンテーション(CONVERT)を用いたContrastiVe Graph ClustEringネットワークを提案する。 本手法では,データ拡張を可逆的パーターブ・リカバリネットワークにより処理する。 セマンティクスの信頼性をさらに保証するために、ネットワークを制約する新たなセマンティクス損失が提示される。
  論文  参考訳（メタデータ） (2023-08-17T13:07:09Z)
• Self-Conditioned Generative Adversarial Networks for Image Editing [61.50205580051405]
  Generative Adversarial Networks (GAN) はバイアスの影響を受けやすい。 我々は、このバイアスが公平性だけでなく、分布のコアから逸脱する際の潜在トラバース編集手法の崩壊に重要な役割を果たしていると論じる。
  論文  参考訳（メタデータ） (2022-02-08T18:08:24Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• CMTR: Cross-modality Transformer for Visible-infrared Person Re-identification [38.96033760300123]
  可視赤外人物再識別のための相互モダリティトランスフォーマー法(CMTR) 我々は,モダリティの情報をエンコードするために,トークン埋め込みと融合した新しいモダリティ埋め込みを設計する。 提案するCMTRモデルの性能は,既存のCNN方式をはるかに上回っている。
  論文  参考訳（メタデータ） (2021-10-18T03:12:59Z)
• Transformers Solve the Limited Receptive Field for Monocular Depth Prediction [82.90445525977904]
  畳み込みニューラルネットワークとトランスの両方の恩恵を受けるアーキテクチャであるTransDepthを提案します。 連続ラベルを含む画素単位での予測問題にトランスフォーマーを適用する最初の論文である。
  論文  参考訳（メタデータ） (2021-03-22T18:00:13Z)
• Resolution Adaptive Networks for Efficient Inference [53.04907454606711]
  本稿では,低分解能表現が「容易」な入力を分類するのに十分である,という直感に触発された新しいレゾリューション適応ネットワーク(RANet)を提案する。 RANetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされる。 ネットワーク内の高解像度パスは、"ハード"サンプルを認識する能力を維持している。
  論文  参考訳（メタデータ） (2020-03-16T16:54:36Z)
• Forgetting Outside the Box: Scrubbing Deep Networks of Information Accessible from Input-Output Observations [143.3053365553897]
  本稿では、訓練された深層ネットワークからトレーニングデータのコホートへの依存を取り除く手順について述べる。 忘れられたコホートについて,クエリ毎にどれだけの情報を取り出すことができるか,という新たな境界を導入する。 我々は,ニューラルタンジェントカーネルにインスパイアされたDNNのアクティベーションとウェイトダイナミクスの接続を利用して,アクティベーションの情報を計算する。
  論文  参考訳（メタデータ） (2020-03-05T23:17:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。