論文の概要: Localizing predictive concepts encoded in neural representations via hierarchical testing

• arxiv url: http://arxiv.org/abs/2610.41046v1
• Date: Thu, 29 Oct 2026 22:34:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.511102
• Title: Localizing predictive concepts encoded in neural representations via hierarchical testing
• Title（参考訳）: 階層的テストによる神経表現に符号化された予測概念の局在化
• Abstract要約: CUTTIEを導入し、各レイヤのユニットを木にクラスタ化し、条件付き独立テストでクラスタをトップダウンでテストする。 ターゲットに関する情報をレイヤの他の部分を超えて保持するクラスタを特定します。 特定されたクラスタ内の単位に対して、条件付属性マップは、どのモチーフを符号化するかを明らかにする。
• 参考スコア（独自算出の注目度）: 17.142697460802474
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Understanding which regulatory sequence motifs a genomic deep learning model has learned, with statistical error guarantees, is essential for trusting its use in downstream tasks such as variant effect prediction. Existing approaches to identifying which units in a trained network encode human- understandable concepts fall into two groups. Exploratory methods rank and visualize units but offer no statistical guarantee that the selected units are associated with the prediction target across the population of inputs. Testing-based methods test only single units or one pre-defined set of them, and do not control the error across the many sets of units. We introduce CUTTIE (Cluster-tree Unit Top-down Testing of Independence with Error control), which clusters the units of each layer into a tree and tests the clusters top-down with conditional independence tests, localizing information about the target while controlling the family-wise error rate. Thereby, we identify clusters that carry information about the target beyond the rest of the layer. For the units in the identified clusters, conditional attribution maps then reveal what motifs they encode. In a controlled simulation, the procedure identifies the clusters whose concepts affect the target. We apply the procedure to a convolutional model predicting cell-type-specific chromatin accessibility from DNA sequence, where the concepts encoded in the identified clusters map onto known regulatory motifs.
• Abstract（参考訳）: 遺伝的深層学習モデルにおいてどの規制シーケンスが学習されたかを理解することは、統計的エラー保証とともに、変動効果予測のような下流タスクでの使用を信頼するために不可欠である。 トレーニングされたネットワーク内のどのユニットが人間の理解可能な概念をエンコードしているかを識別するための既存のアプローチは、2つのグループに分かれる。 探索的手法は、単位をランク付けして視覚化するが、選択された単位が入力の個体群全体にわたって予測対象と関連しているという統計的保証は提供しない。 テストベースのメソッドは、単一のユニットまたはその1つの事前定義されたセットのみをテストする。 CUTTIE(Cluster-tree Unit Top-down Testing of Independence with Error Control)を導入し、各レイヤのユニットを木にまとめ、条件付き独立テストでトップダウンでクラスタをテストする。 これにより、ターゲットに関する情報をレイヤの他の部分を超えて保持するクラスタを特定します。 特定されたクラスタ内の単位に対して、条件付属性マップは、どのモチーフを符号化するかを明らかにする。 制御されたシミュレーションでは、プロシージャがターゲットに影響を与える概念を識別する。 本手法を,DNA配列から細胞型特異的クロマチンアクセシビリティを予測する畳み込みモデルに適用する。

関連論文リスト

• HypoGeneAgent: A Hypothesis Language Agent for Gene-Set Cluster Resolution Selection Using Perturb-seq Datasets [9.465853880657487]
  大規模な単一細胞とPerturb-seqの研究は、通常、クラスタリング細胞に関係している。 本稿では,大規模言語モデル(LLM)駆動のフレームワークであるHYPOGENEAGENTを,クラスタアノテーションを定量的に最適化可能なタスクに変換する。
  論文  参考訳（メタデータ） (2025-09-10T22:25:33Z)
• BoBa: Boosting Backdoor Detection through Data Distribution Inference in Federated Learning [26.714674251814586]
  フェデレーテッド・ラーニングは、その分散した性質のため、毒殺の被害を受けやすい。 本稿では,この問題を解決するために,分布認識型異常検出機構であるBoBaを提案する。
  論文  参考訳（メタデータ） (2024-07-12T19:38:42Z)
• Causal Unsupervised Semantic Segmentation [60.178274138753174]
  教師なしセマンティックセグメンテーションは、人間のラベル付きアノテーションなしで高品質なセマンティックセマンティックセグメンテーションを実現することを目的としている。 本稿では、因果推論からの洞察を活用する新しいフレームワークCAUSE(CAusal Unsupervised Semantic sEgmentation)を提案する。
  論文  参考訳（メタデータ） (2023-10-11T10:54:44Z)
• Interpretable Deep Clustering for Tabular Data [7.972599673048582]
  クラスタリングは、データ分析で広く使われている基本的な学習タスクである。 本稿では,インスタンスとクラスタレベルでの解釈可能なクラスタ割り当てを予測する,新たなディープラーニングフレームワークを提案する。 提案手法は,生物,テキスト,画像,物理データセットのクラスタ割り当てを確実に予測できることを示す。
  論文  参考訳（メタデータ） (2023-06-07T21:08:09Z)
• Learning Classifiers of Prototypes and Reciprocal Points for Universal Domain Adaptation [79.62038105814658]
  Universal Domainは、ドメインシフトとカテゴリシフトという2つのシフトを処理して、データセット間で知識を転送することを目的としている。 主な課題は、既知のクラス知識の分布をソースからターゲットに適応させながら、未知のターゲットサンプルを正しく識別することである。 既存のほとんどの手法は、まずターゲットが適応した既知の知識を訓練し、次に未知のターゲットサンプルを識別するために単一のしきい値に依存することでこの問題に対処する。
  論文  参考訳（メタデータ） (2022-12-16T09:01:57Z)
• Self-Supervised Clustering on Image-Subtracted Data with Deep-Embedded Self-Organizing Map [0.0]
  自己教師型機械学習モデルであるdeep-embedded self-organizing map (DESOM)を実ボガス分類問題に適用する。 我々は異なるモデルトレーニング手法を実証し、最良のDESOM分類器は検出率6.6%、偽陽性率1.5%を示した。
  論文  参考訳（メタデータ） (2022-09-14T02:37:06Z)
• Resolving label uncertainty with implicit posterior models [71.62113762278963]
  本稿では,データサンプルのコレクション間でラベルを共同で推論する手法を提案する。 異なる予測子を後部とする生成モデルの存在を暗黙的に仮定することにより、弱い信念の下での学習を可能にする訓練目標を導出する。
  論文  参考訳（メタデータ） (2022-02-28T18:09:44Z)
• DAAIN: Detection of Anomalous and Adversarial Input using Normalizing Flows [52.31831255787147]
  我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。 本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。 当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
  論文  参考訳（メタデータ） (2021-05-30T22:07:13Z)
• Understanding Classifier Mistakes with Generative Models [88.20470690631372]
  ディープニューラルネットワークは教師付き学習タスクに有効であるが、脆弱であることが示されている。 本稿では、生成モデルを利用して、分類器が一般化に失敗するインスタンスを特定し、特徴付ける。 我々のアプローチは、トレーニングセットのクラスラベルに依存しないため、半教師付きでトレーニングされたモデルに適用できる。
  論文  参考訳（メタデータ） (2020-10-05T22:13:21Z)
• Learn to Predict Sets Using Feed-Forward Neural Networks [63.91494644881925]
  本稿では、ディープフィードフォワードニューラルネットワークを用いた設定予測の課題に対処する。 未知の置換と基数を持つ集合を予測するための新しい手法を提案する。 関連視覚問題に対する集合定式化の有効性を実証する。
  論文  参考訳（メタデータ） (2020-01-30T01:52:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。