論文の概要: Efficient Auto-Interpretability of AI Models in Biology

• arxiv url: http://arxiv.org/abs/2608.27754v1
• Date: Thu, 27 Aug 2026 22:32:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-31 17:16:04.158822
• Title: Efficient Auto-Interpretability of AI Models in Biology
• Title（参考訳）: 生物学におけるAIモデルの効率的な自動解釈可能性
• Abstract要約: 潜伏語は、コヒーレントかどうか、記述できるかどうか、その記述が予測力を持っているかどうかの3つのことを知るのに有用である。 それらをひとつのパイプラインにまとめて、各ステージに必要な実践的なイノベーションを報告します。 Boltz-1 Pairformerトランクに配備された安定性優先試験では、それぞれ4.4倍の遅延評価を用いて解釈可能な潜伏剤が検出される。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Sparse autoencoders (SAEs), and other interpretability methods could turn AI models in Biology and other fields into engines of scientific discovery by explaining the superhuman capabilities of those models. However, a latent is only useful if we know three things: whether it is coherent, whether it can be described, and whether that description has predictive power. These questions are routinely conflated. We assemble them into a single pipeline and report the practical innovations each stage required. First, cross-seed dictionary stability prioritises which latents are worth spending resources to investigate. Second, an intruder-detection task asks whether a latents activating examples share a recognizable pattern. Third, a separate pass proposes a candidate biological description which we convert into falsifiable predictions which can be tested in silico. Deployed on the Boltz-1 Pairformer trunk, stability prioritisation finds interpretable latents using about 4.4 times fewer latent evaluations each, and at 5.2 times lower measured cost, while recovering over half of them, and the external check shows the surfaced motifs are significantly enriched for their claimed annotations. The results also suggest a possible tension: the cross- seed stability might be selecting for some types of features, like structure-related ones, much more than others, such as function-related features.
• Abstract（参考訳）: スパースオートエンコーダ(SAE)や他の解釈可能性の手法は、生物学やその他の分野のAIモデルを、これらのモデルの超人的能力を説明することによって、科学的発見のエンジンに変えることができる。 しかし、潜伏剤は、コヒーレントかどうか、記述できるかどうか、その記述が予測力を持っているかどうかの3つのことを知る場合にのみ有用である。 これらの質問は日常的に混ざり合っている。 それらをひとつのパイプラインにまとめて、各ステージに必要な実践的なイノベーションを報告します。 まず、交雑種辞書の安定性が優先され、潜伏者が調査にリソースを費やす価値がある。 第二に、侵入者検出タスクは、潜伏者が活性化する例が認識可能なパターンを共有するかどうかを問う。 第三に、別途のパスは、シリコでテストできる偽りの予測に変換する、候補となる生物学的記述を提案する。 Boltz-1 Pairformerのトランクに展開された安定性優先試験では、各潜伏評価の4.4倍、測定コストの5.2倍、半分以上を回収しながら解釈可能な潜伏剤が検出される。 クロスシード安定性は、構造関連機能など、機能関連機能など、他の機能よりも、ある種の機能を選択する可能性がある。

関連論文リスト

• A Formal Methodological Framework for Auditing Robustness and Fidelity in Explainable AI: From Application to Trust Certification [0.0]
  SHAPとLIMEは、ブラックボックス予測を解釈するための標準的なツールであるが、入力が少量のノイズによって摂動された場合、出力は大きく変化する。 この可変性は、そのような説明がまったく信用できるかどうかという問題を提起する。 ポストホックな説明器の2つの特性を測定する監査プロトコルを構築することで、この問題に対処する。
  論文  参考訳（メタデータ） (2026-08-24T20:54:04Z)
• When Are Neural Interaction Discoveries Real? Identifiability, Recoverability, and a Pre-Fit Diagnostic [0.0]
  これは基本的には、観測された入力支援の幾何学によって支配される識別可能性の問題である。 表現能力が識別可能でないことを示す。 相互作用の回復性はサポート幾何学に依存することを示す。
  論文  参考訳（メタデータ） (2026-06-07T00:52:43Z)
• Capability $\neq$ Interpretability: Human Interpretability of Vision Foundation Models [24.250649573452666]
  視覚モデルの人間の解釈可能性を測定し比較するための枠組みを構築した。 チャンスアンコールされたスコアリング関数は、すべてのモデルを共通のスケールに配置する。 ファンデーションモデルは、監督されたモデルよりも、*無関係に解釈可能である。
  論文  参考訳（メタデータ） (2026-05-19T18:00:06Z)
• How Pruning Reshapes Features: Sparse Autoencoder Analysis of Weight-Pruned Language Models [0.0]
  本稿では,非構造化プルーニングが言語モデルの特徴幾何にどう影響するかについて,最初の体系的研究を行う。 種子の安定性,特徴生存性,SAE伝達性,特徴脆弱性,因果関係に関する5つの研究課題について検討した。 我々の最も顕著な発見は、希少なSAE機能 ― 発射率の低い ― が、頻繁なプルーニングよりもはるかに優れていることです。
  論文  参考訳（メタデータ） (2026-03-26T11:12:42Z)
• Dense SAE Latents Are Features, Not Bugs [86.50389855919292]
  言語モデル計算において,高密度潜伏剤が機能的役割を担っていることを示す。 位置追跡,コンテキストバインディング,エントロピー制御,文字固有出力信号,パート・オブ・音声,主成分再構成に関連するクラスを同定する。
  論文  参考訳（メタデータ） (2025-06-18T17:59:35Z)
• Sparse Prototype Network for Explainable Pedestrian Behavior Prediction [60.80524827122901]
  Sparse Prototype Network (SPN) は,歩行者の将来の行動,軌道,ポーズを同時に予測するための説明可能な手法である。 モノセマンティリティとクラスタリングの制約によって規則化されたプロトタイプは、一貫性と人間の理解可能な機能を学ぶ。
  論文  参考訳（メタデータ） (2024-10-16T03:33:40Z)
• Explaining Text Similarity in Transformer Models [52.571158418102584]
  説明可能なAIの最近の進歩により、トランスフォーマーの説明の改善を活用することで、制限を緩和できるようになった。 両線形類似性モデルにおける2次説明の計算のために開発された拡張であるBiLRPを用いて、NLPモデルにおいてどの特徴相互作用が類似性を促進するかを調べる。 我々の発見は、異なる意味的類似性タスクやモデルに対するより深い理解に寄与し、新しい説明可能なAIメソッドが、どのようにして深い分析とコーパスレベルの洞察を可能にするかを強調した。
  論文  参考訳（メタデータ） (2024-05-10T17:11:31Z)
• Seeing Unseen: Discover Novel Biomedical Concepts via Geometry-Constrained Probabilistic Modeling [53.7117640028211]
  同定された問題を解決するために,幾何制約付き確率的モデリング処理を提案する。 構成された埋め込み空間のレイアウトに適切な制約を課すために、重要な幾何学的性質のスイートを組み込む。 スペクトルグラフ理論法は、潜在的な新規クラスの数を推定するために考案された。
  論文  参考訳（メタデータ） (2024-03-02T00:56:05Z)
• ACQUIRED: A Dataset for Answering Counterfactual Questions In Real-Life Videos [53.92440577914417]
  ACQUIREDは3.9Kの注釈付きビデオで構成され、幅広いイベントタイプを包含し、ファーストパーソンとサードパーソンの両方の視点を取り入れている。 各ビデオは、物理的、社会的、時間的な3つの異なる推論の次元にまたがる質問で注釈付けされている。 我々は,現在最先端の言語のみおよびマルチモーダルモデルに対して,我々のデータセットをベンチマークし,実験結果から大きな性能差が示された。
  論文  参考訳（メタデータ） (2023-11-02T22:17:03Z)
• BASED-XAI: Breaking Ablation Studies Down for Explainable Artificial Intelligence [1.2948254191169823]
  様々な摂動が、潜在的に欠陥のある結論を避けるのにどのように役立つかを示す。 また,ホック後の説明可能性とアブレーション研究において,カテゴリー変数の扱いが重要であることも明らかにした。
  論文  参考訳（メタデータ） (2022-07-12T14:38:37Z)
• Empirical Estimates on Hand Manipulation are Recoverable: A Step Towards Individualized and Explainable Robotic Support in Everyday Activities [80.37857025201036]
  ロボットシステムの鍵となる課題は、他のエージェントの振る舞いを理解することである。 正しい推論の処理は、(衝突)因子が実験的に制御されない場合、特に困難である。 人に関する観察研究を行うために必要なツールをロボットに装備することを提案する。
  論文  参考訳（メタデータ） (2022-01-27T22:15:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。