論文の概要: I saw, I conceived, I concluded: Progressive Concepts as Bottlenecks
- arxiv url: http://arxiv.org/abs/2211.10630v1
- Date: Sat, 19 Nov 2022 09:31:19 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 17:54:11.780344
- Title: I saw, I conceived, I concluded: Progressive Concepts as Bottlenecks
- Title(参考訳): ボトルネックとしての進歩的概念(Progressive Concepts as Bottlenecks)
- Authors: Manxi Lin, Aasa Feragen, Zahra Bashir, Martin Gr{\o}nneb{\ae}k
Tolsgaard, Anders Nymark Christensen
- Abstract要約: 概念ボトルネックモデル(CBM)は、予測中間概念の修正による推論時の説明可能性と介入を提供する。
これにより、CBMは高い意思決定に魅力的なものとなる。
胎児超音波検査の品質評価を,医療におけるCBM意思決定支援の現実的ユースケースとして捉えた。
- 参考スコア(独自算出の注目度): 2.9398911304923447
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Concept bottleneck models (CBMs) include a bottleneck of human-interpretable
concepts providing explainability and intervention during inference by
correcting the predicted, intermediate concepts. This makes CBMs attractive for
high-stakes decision-making. In this paper, we take the quality assessment of
fetal ultrasound scans as a real-life use case for CBM decision support in
healthcare. For this case, simple binary concepts are not sufficiently
reliable, as they are mapped directly from images of highly variable quality,
for which variable model calibration might lead to unstable binarized concepts.
Moreover, scalar concepts do not provide the intuitive spatial feedback
requested by users.
To address this, we design a hierarchical CBM imitating the sequential expert
decision-making process of "seeing", "conceiving" and "concluding". Our model
first passes through a layer of visual, segmentation-based concepts, and next a
second layer of property concepts directly associated with the decision-making
task. We note that experts can intervene on both the visual and property
concepts during inference. Additionally, we increase the bottleneck capacity by
considering task-relevant concept interaction.
Our application of ultrasound scan quality assessment is challenging, as it
relies on balancing the (often poor) image quality against an assessment of the
visibility and geometric properties of standardized image content. Our
validation shows that -- in contrast with previous CBM models -- our CBM models
actually outperform equivalent concept-free models in terms of predictive
performance. Moreover, we illustrate how interventions can further improve our
performance over the state-of-the-art.
- Abstract(参考訳): 概念ボトルネックモデル(CBM)は、予測された中間概念の修正によって推論中に説明可能性と介入を提供する人間解釈可能な概念のボトルネックを含む。
これにより、cbmは高リスク意思決定に魅力的である。
本稿では, 胎児超音波検査の品質評価を, 医療におけるcbm決定支援のユースケースとして活用する。
この場合、単純なバイナリの概念は、不安定な二元化概念につながる可能性のある、非常に可変な品質の画像から直接マッピングされるため、十分に信頼できない。
さらに、スカラーの概念は、ユーザーが要求する直感的な空間的フィードバックを提供しない。
これに対処するために,我々は,"見る","想像する","結論付ける"という,逐次的専門家意思決定プロセスを模倣した階層型cbmを設計した。
私たちのモデルはまず、ビジュアルなセグメンテーションベースの概念の層を通過し、次に、意思決定タスクに直接関連するプロパティ概念の2番目の層を通過します。
専門家は推論中に視覚的概念とプロパティの概念の両方に介入できる。
さらに,タスク関連概念の相互作用を考慮し,ボトルネック容量を増加させる。
超音波スキャン品質評価の応用は、標準化された画像コンテンツの視認性と幾何学的特性の評価と(しばしば貧弱な)画像品質のバランスに依存するため、困難である。
我々の検証によると、これまでのcbmモデルとは対照的に、cbmモデルは予測性能の点で同等のコンセプトフリーモデルよりも優れています。
さらに、介入によって最先端のパフォーマンスがさらに向上することを示す。
関連論文リスト
- Separable Multi-Concept Erasure from Diffusion Models [52.51972530398691]
大規模拡散モデルから安全でない概念を排除するために,分離可能なマルチコンセプト消去器(SepME)を提案する。
後者は最適化可能なモデルウェイトを分離し、各ウェイトインクリメントは特定の概念の消去に対応する。
広範囲にわたる実験は, 概念の排除, モデル性能の保存, 各種概念の消去・回復における柔軟性の確保に, アプローチの有効性を示すものである。
論文 参考訳(メタデータ) (2024-02-03T11:10:57Z) - Beyond Concept Bottleneck Models: How to Make Black Boxes Intervenable? [9.002523763052848]
本稿では,すでに訓練済みのニューラルネットワークに対して,概念に基づく介入を行う手法を提案する。
本稿では,概念に基づく介入の有効性の尺度として,モデルの介入可能性について定式化する。
微調整は介入効率を向上し、しばしばより良い校正予測をもたらすことを示す。
論文 参考訳(メタデータ) (2024-01-24T16:02:14Z) - Auxiliary Losses for Learning Generalizable Concept-based Models [5.4066453042367435]
コンセプト・ボトルネック・モデル (Concept Bottleneck Models, CBM) は導入以来人気を集めている。
CBMは基本的に、モデルの潜在空間を人間に理解可能な高レベルな概念に制限する。
本稿では,協調型コンセプション・ボトルネックモデル(coop-CBM)を提案し,性能トレードオフを克服する。
論文 参考訳(メタデータ) (2023-11-18T15:50:07Z) - Learning to Receive Help: Intervention-Aware Concept Embedding Models [46.7616863339095]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、高レベルの概念セットを使用して予測を構築し、説明することによって、ニューラルネットワークの不透明さに対処する。
近年の研究では、介入効果は概念が介入される順序に大きく依存していることが示されている。
IntCEM(Intervention-Aware Concept Embedding Model)は,テスト時間介入に対するモデルの受容性を改善する新しいCBMアーキテクチャとトレーニングパラダイムである。
論文 参考訳(メタデータ) (2023-09-29T02:04:24Z) - Sparse Linear Concept Discovery Models [11.138948381367133]
概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、隠蔽層が人間の理解可能な概念に結びついている一般的なアプローチである。
本稿では,Contrastive Language Imageモデルと単一スパース線形層に基づく,シンプルかつ直感的に解釈可能なフレームワークを提案する。
実験により、我々のフレームワークは、最近のCBMアプローチを精度的に上回るだけでなく、一例あたりの疎度も高いことを示す。
論文 参考訳(メタデータ) (2023-08-21T15:16:19Z) - ConceptBed: Evaluating Concept Learning Abilities of Text-to-Image
Diffusion Models [79.10890337599166]
本研究では,284のユニークな視覚概念と33Kの合成テキストプロンプトからなる大規模データセットであるConceptBedを紹介する。
我々は、対象、属性、スタイルのいずれかである視覚概念を評価し、また、構成性の4つの次元(計数、属性、関係、行動)を評価する。
私たちの結果は、概念を学ぶことと、既存のアプローチが克服に苦労する構成性を維持することのトレードオフを示しています。
論文 参考訳(メタデータ) (2023-06-07T18:00:38Z) - Concept Bottleneck Model with Additional Unsupervised Concepts [0.5939410304994348]
概念ボトルネックモデル(CBM)に基づく新しい解釈可能なモデルを提案する。
CBMは概念ラベルを使用して、中間層を追加の可視層としてトレーニングする。
これら2つの概念をシームレスにトレーニングし,計算量を削減することにより,教師付き概念と教師なし概念を同時に得ることができる。
論文 参考訳(メタデータ) (2022-02-03T08:30:51Z) - Generative Counterfactuals for Neural Networks via Attribute-Informed
Perturbation [51.29486247405601]
AIP(Attribute-Informed Perturbation)の提案により,生データインスタンスの反事実を生成するフレームワークを設計する。
異なる属性を条件とした生成モデルを利用することで、所望のラベルとの反事実を効果的かつ効率的に得ることができる。
実世界のテキストや画像に対する実験結果から, 設計したフレームワークの有効性, サンプル品質, および効率が示された。
論文 参考訳(メタデータ) (2021-01-18T08:37:13Z) - Interpretable Visual Reasoning via Induced Symbolic Space [75.95241948390472]
視覚的推論における概念誘導の問題,すなわち,画像に関連付けられた質問応答対から概念とその階層的関係を同定する。
我々はまず,オブジェクトレベルの視覚的特徴を持つ視覚的推論タスクを実行するために,オブジェクト指向合成注意モデル(OCCAM)という新しいフレームワークを設計する。
そこで我々は,対象の視覚的特徴と質問語の間の注意パターンから手がかりを用いて,対象と関係の概念を誘導する手法を考案した。
論文 参考訳(メタデータ) (2020-11-23T18:21:49Z) - Face Anti-Spoofing Via Disentangled Representation Learning [90.90512800361742]
顔認識システムのセキュリティには、顔の偽造が不可欠だ。
本稿では,画像から生意気な特徴やコンテンツの特徴を乱す顔のアンチ・スプーフィングの新たな視点を提案する。
論文 参考訳(メタデータ) (2020-08-19T03:54:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。