論文の概要: Understanding Contextual Bias in Agricultural CNNs Through Hidden-Neuron Concept Induction
- arxiv url: http://arxiv.org/abs/2611.18530v1
- Date: Fri, 13 Nov 2026 18:43:15 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:23:26.740233
- Title: Understanding Contextual Bias in Agricultural CNNs Through Hidden-Neuron Concept Induction
- Title(参考訳): 隠れネロン概念誘導による農業用CNNにおける文脈バイアスの理解
- Abstract要約: CNNは、ターゲットオブジェクトのほとんどまたは全く含まないバックグラウンド管理パッチを使用して、イメージを分類することができる。
コンセプションインジェクションは,文脈的画像パッチに隠されたニューロンの活性化に関連する解釈可能な視覚特性を明らかにすることができるかを検討する。
- 参考スコア(独自算出の注目度): 0.3695911743333271
- License:
- Abstract: Convolutional Neural Networks (CNNs) can classify images using background-dominated patches that contain little or none of the target object, showing that they exploit contextual information. Previous studies detected this behavior through classification accuracy but say little about what CNN hidden layers represent. We investigate whether Concept Induction can reveal interpretable visual properties associated with hidden-neuron activations on contextual image patches. Using five agricultural datasets with high, moderate, and low contextual bias, we analyze four CNN architectures at three network depths and five patch locations. Quantitative image descriptors of each patch are encoded in a knowledge graph and used as background knowledge for Concept Induction, which derives logical expressions characterizing neuron activation. These expressions are tested on held-out images using the Mann-Whitney U test and Cliff's delta. Of 48,013 tested neuron-feature pairs, 13,164 (27.4%) were validated. Validation was most frequent at intermediate depths (mean 40.2% at mid layers versus 12.0% at deep layers), and no patch location dominated across datasets. Among the tested descriptors, edge, Gabor, and Tamura texture features had the highest validation rates. Stronger contextual bias did not correspond to higher neuron-feature validation rates: moderately biased Sugarcane had the highest rate (40.5%) and highly biased Cassava the lowest (19.2%). These results suggest that behavioral context dependence and the semantic interpretability of hidden neurons capture different aspects of CNN behavior, and that Concept Induction can complement patch-based bias detection.
- Abstract(参考訳): 畳み込みニューラルネットワーク(CNN)は、ターゲットオブジェクトのほとんどまたは全く含まない背景に支配されたパッチを使用して画像を分類することができ、それらがコンテキスト情報を利用することを示す。
以前の研究では、分類の正確さによってこの挙動が検出されたが、CNNの隠された層が何を表すかはほとんど語らなかった。
コンセプションインジェクションは,文脈的画像パッチに隠されたニューロンの活性化に関連する解釈可能な視覚特性を明らかにすることができるかを検討する。
高、中、低文脈バイアスの5つの農業データセットを用いて、CNNアーキテクチャを3つのネットワーク深さと5つのパッチ位置で分析する。
各パッチの定量的画像記述子は、知識グラフに符号化され、概念誘導の背景知識として使用され、ニューロンの活性化を特徴付ける論理的表現を導出する。
これらの表現はMann-Whitney UテストとCliff's deltaを用いてホールドアウト画像上でテストされる。
48,013組のニューロン機能ペアのうち13,164組(27.4%)が検証された。
検証は中間層(中層では40.2%、深層では12.0%)が最も多かった。
テスト対象のディスクリプタのうち,エッジ,ガボル,田村テクスチャは高いバリデーション率を示した。
強い文脈偏見は高次ニューロン機能検証率とは一致せず、中等度偏見のシュガーカインは最高値(40.5%)、高い偏見のカッサバは最低値(19.2%)であった。
これらの結果は、隠れたニューロンの行動コンテキスト依存性と意味論的解釈性は、CNNの行動の異なる側面を捉え、概念誘導はパッチベースのバイアス検出を補完することができることを示唆している。
関連論文リスト
- A Case Study on Concept Induction for Neuron-Level Interpretability in CNN [0.14337588659482517]
概念誘導に基づく隠れニューロン解析フレームワークはADE20Kデータセット上で有効であることを示した。
本研究では,大規模シーン認識ベンチマークであるSUN2012データセットに適用することで,アプローチが一般化するかどうかを検討する。
論文 参考訳(メタデータ) (2026-02-27T08:07:47Z) - An Automated News Bias Classifier Using Caenorhabditis Elegans Inspired
Recursive Feedback Network Architecture [0.0]
記事にバイアス分類を割り当てる際の人間レベルの精度を実現するネットワークアーキテクチャを提案する。
このモデルは、AllSides.comから取り除かれた10以上の記事に基づいて訓練され、政治的偏見を示すようにラベル付けされている。
論文 参考訳(メタデータ) (2022-07-26T08:26:26Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - PCACE: A Statistical Approach to Ranking Neurons for CNN
Interpretability [1.0742675209112622]
ネットワークのどの畳み込み層にも隠れたニューロンをランク付けするための新しい統計手法を提案する。
街路画像を用いた大気汚染予測への本手法の実際の応用について述べる。
論文 参考訳(メタデータ) (2021-12-31T17:54:57Z) - BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by
Adversarial Attacks [65.2021953284622]
CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。
結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
論文 参考訳(メタデータ) (2021-03-14T20:43:19Z) - The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。
本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
論文 参考訳(メタデータ) (2021-01-29T07:46:39Z) - Assessing The Importance Of Colours For CNNs In Object Recognition [70.70151719764021]
畳み込みニューラルネットワーク(CNN)は相反する性質を示すことが示されている。
CNNが予測をしながら色情報に大きく依存していることを実証します。
congruent, greyscale, incongruent画像の合同画像で学習したモデルを評価する。
論文 参考訳(メタデータ) (2020-12-12T22:55:06Z) - Teaching CNNs to mimic Human Visual Cognitive Process & regularise
Texture-Shape bias [18.003188982585737]
コンピュータビジョンにおける最近の実験は、畳み込みニューラルネットワーク(CNN)を用いたモデルにおいて、テクスチャバイアスが最高の結果の主因であることを実証している。
コスト関数は、CNNが欲張りなアプローチを採り、テクスチャのような局所的な情報に対する生産性を向上させ、その結果、グローバルな統計を探索することができないと信じられている。
画像の再構成と分類に形状,テクスチャ,エッジなどの人間の解釈可能な特徴を活用するために,心理学における特徴統合理論から着想を得た,新しい直感的なアーキテクチャであるCognitiveCNNを提案する。
論文 参考訳(メタデータ) (2020-06-25T22:32:54Z) - Hold me tight! Influence of discriminative features on deep network
boundaries [63.627760598441796]
本稿では,データセットの特徴と,サンプルから決定境界までの距離を関連付ける新しい視点を提案する。
これにより、トレーニングサンプルの位置を慎重に調整し、大規模ビジョンデータセットでトレーニングされたCNNの境界における誘発された変化を測定することができる。
論文 参考訳(メタデータ) (2020-02-15T09:29:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。