論文の概要: From Interpretability Methods to Interpretable Models

• arxiv url: http://arxiv.org/abs/2609.05399v1
• Date: Fri, 04 Sep 2026 17:46:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-07 18:15:24.145134
• Title: From Interpretability Methods to Interpretable Models
• Title（参考訳）: 解釈可能性から解釈可能モデルへ
• Abstract要約: 我々は、フィールドの焦点をメソッドからモデルに変えることについて論じる。 既存のツールは、異なるモデルの表現と計算を特徴付け、比較することができます。 もう1つは難しく、ほとんど無視されています。モデルが実際にそれに依存している人間によって理解できるかどうかです。
• 参考スコア（独自算出の注目度）: 25.727421109037692
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: More than a decade in, explainable AI (XAI) for computer vision has assembled a mature toolbox: attribution, feature visualization, concept-based, and circuit-based methods. Yet almost all of the field's effort has gone into building and comparing these methods, and little into the question they were meant to answer---how interpretable are our models, and are we making progress as they evolve? We argue for shifting the field's focus from methods to models, along two complementary lines. One is already within reach: existing tools let us characterize and compare what different models represent and compute. The other is harder, and largely neglected: whether a model can actually be understood by the humans who rely on it---the independent evaluators on whom trust and certification depend, not the experts confirming what they already expect. It can only be measured, not inferred. We review why the toolbox is mature enough to support both, survey the thin body of work comparing models, draw a parallel to systems neuroscience, and close with a model-centric XAI agenda.
• Abstract（参考訳）: コンピュータビジョンのための10年以上にわたる説明可能なAI(XAI)は、属性、機能の可視化、コンセプトベース、サーキットベースの方法という成熟したツールボックスを組み立てた。 しかし、この分野のほとんどの取り組みは、これらの手法の構築と比較に取り組んでおり、それらがどのように解釈されるのか、そしてどのように進化していくのか、という問いにはほとんど答えられていない。我々は、フィールドの焦点をメソッドからモデルへ、2つの相補的なラインに沿ってシフトさせていると論じている。もう1つは、既存のツールによって、異なるモデルの表現と計算を特徴づけ、比較することができる。もう1つは、モデルが実際にそれに依存している人間によって理解できるかどうか、ほとんど無視されている。信頼と認証に依存している独立した評価者、そして彼らがすでに期待していることを専門家が確認していない。 測定は可能で、推測はできない。 我々は、このツールボックスが、両方をサポートするのに十分な成熟度を持つ理由をレビューし、モデルを比較し、システム神経科学と平行に描き、モデル中心のXAIアジェンダに近づいた。

関連論文リスト

• Reversing the Flow: Generation-to-Understanding Synergy in Large Multimodal Models [34.560908829375585]
  本稿では、視覚生成が明示的な中間的推論ステップとなるG2Uシナジーを提案する。 本フレームワークは,詳細な拡張やコンテキスト拡張,構造的視覚化といった,制御された生成行為をモデルで実行し,自己生成的な視覚的思考を創出することを可能にする。 生成的忠実度は知覚的利得を束縛し、編集の異なる家族が転送効率を左右することを示す。 この研究は、統一認知における欠落するメカニズムを明らかにし、想像力は理解の終わりではなく、その始まりであることを示唆している。
  論文  参考訳（メタデータ） (2026-05-15T09:48:46Z)
• AI as Consumer and Participant: A Co-Design Agenda for MBSE Substrates and Methodology [0.0]
  十分にプロンプトされたフロンティアモデルは、コンフォーマントSysMLモデルよりも有能で有用な出力を生成する。 同じモデル上で異なるツールが異なる結果を生成します。 構築を管理するモデルと方法論は、AI参加のために一緒に設計する必要がある。
  論文  参考訳（メタデータ） (2026-04-28T11:51:13Z)
• ARM-Thinker: Reinforcing Multimodal Generative Reward Models with Agentic Tool Use and Visual Reasoning [103.7657839292775]
  ARM-Thinkerはエージェント・マルチモーダル・リワード・モデルであり、検証された証拠で判断を下すために外部ツールを自律的に呼び出す。 ARM-Thinkerを多段階強化学習で訓練し、ツールコール決定と判定精度を協調的に最適化する。 その結果,エージェント能力は報酬モデルの精度と解釈可能性の両方を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2025-12-04T18:59:52Z)
• EvoLMM: Self-Evolving Large Multimodal Models with Continuous Rewards [52.42920996842378]
  本稿では,1つのバックボーンモデルから2つの協調エージェントをインスタンス化する自己進化型フレームワークEvoLMMを提案する。 この動的なフィードバックは、情報的クエリの生成と構造化推論の洗練の両方を促進する。 私たちのコードとモデルはhttps://github.com/mbzuai-oryx/EvoLMMで公開されています。
  論文  参考訳（メタデータ） (2025-11-20T18:59:54Z)
• Socratic-MCTS: Test-Time Visual Reasoning by Asking the Right Questions [100.41062461003389]
  フラーミング推論は,断片化された知識間の「点の接続」をモデルが支援し,非推論モデルにおいて拡張された推論トレースを生成することを示す。 提案手法を3つのベンチマークで評価し,一貫した改善点を観察する。
  論文  参考訳（メタデータ） (2025-06-10T15:51:16Z)
• Fill in the blanks: Rethinking Interpretability in vision [0.0]
  我々は、新しい視点から視覚モデルの説明可能性を再考し、トレーニング中にモデルが学習した一般的な入力構造を探索する。 標準的なビジョンデータセットと事前トレーニングされたモデルの実験は、一貫性のあるパターンを明らかにし、追加のモデルに依存しない説明可能性ツールとして解釈できる。
  論文  参考訳（メタデータ） (2024-11-15T15:31:06Z)
• Learning Interpretable Concepts: Unifying Causal Representation Learning and Foundation Models [80.32412260877628]
  人間の解釈可能な概念をデータから学習する方法を研究する。 両分野からアイデアをまとめ、多様なデータから概念を確実に回収できることを示す。
  論文  参考訳（メタデータ） (2024-02-14T15:23:59Z)
• Inter-model Interpretability: Self-supervised Models as a Case Study [0.2578242050187029]
  テキスト・インター・モデル・インタプリタビリティを導入するためのDissectと呼ばれる最近の解釈可能性技術を構築した。 我々は、学習概念の観点から、モデル間の近さを明らかにする学習概念埋め込み空間に、トップパフォーマンスの自己教師型モデル13を投影する。 この実験により、モデルを3つのカテゴリに分類し、異なるタスクが必要とする視覚概念の種類を初めて明らかにしました。
  論文  参考訳（メタデータ） (2022-07-24T22:50:18Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。