Fugu-MT 論文翻訳(概要): Generative Interpretability via Scalable Neuro-Symbolic Models

論文の概要: Generative Interpretability via Scalable Neuro-Symbolic Models

arxiv url: http://arxiv.org/abs/2609.13529v1
Date: Fri, 11 Sep 2026 20:54:08 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-16 07:15:05.377103
Title: Generative Interpretability via Scalable Neuro-Symbolic Models
Title（参考訳）: スケーラブルニューロシンボリックモデルによる生成的解釈可能性
Abstract要約: 我々は、生成的解釈可能性へのシフトを主張する。本稿では、他の解釈可能性研究パラダイムと比較して、生成的解釈可能性の利点を示す。
参考スコア（独自算出の注目度）: 2.1550607598300617
License: http://creativecommons.org/licenses/by/4.0/
Abstract: As the use of Large Language Models moves from chatbots into agentic systems, where outputs become actions with irreversible consequences on reality, the existing paradigm on AI Interpretability research, post-hoc interpretability, is structurally inadequate for safe and trustworthy model deployment: it explains behavior after the fact but cannot audit or intervene in an inference computation before it commits to an output. We therefore argue for a shift toward \emph{generative interpretability}, an architectural property under which a model's inference pass natively exposes semantically meaningful checkpoints that are human-understandable and amenable to causal intervention. We show the merits of generative interpretability as comparison to other interpretability research paradigms, and propose Neuro-Symbolic Models as a concrete instantiation.
Abstract（参考訳）: 大規模言語モデルの使用がチャットボットからエージェントシステムへと移行するにつれて、アウトプットは現実において不可逆的な結果を伴うアクションとなる。AI解釈可能性の研究、ポストホック解釈可能性に関する既存のパラダイムは、安全で信頼性の高いモデルデプロイメントには構造的に不適切である。したがって、モデル推論がネイティブに意味のあるチェックポイントを公開するアーキテクチャ特性である「emph{generative interpretability}」へのシフトを論じる。本稿では、他の解釈可能性研究パラダイムと比較して、生成的解釈可能性の利点を示し、具体的なインスタンス化としてニューロ・シンボリックモデルを提案する。

関連論文リスト

The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models [0.0]
生成言語モデルの評価は、しばしば、政治的スタンス、ブランドの傾き、規範的フレーミングといった観察可能な行動特性を、モデルの重みの表示、訓練後のアライメント、またはプロンプトとして解釈する。モデルパラメータの変更を必要とせずに、組織的、イデオロギー的、商業的なフレームに対して生成されたテキストを体系的に操る。生成システムのガバナンスは、モデルを監査することと、最終的に話すデプロイされたシステムの監査とを、ますます区別する必要がある、と我々は主張する。
論文参考訳（メタデータ） (2026-08-25T15:05:19Z)
PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations [0.0]
PACEは、ファシビリティを意識した対実的説明を生成するためのモジュラー・ニューロシンボリック・フレームワークである。実行可能な介入を明示的にモデル化することで、このフレームワークはドメイン知識と整合した説明を生成する。結果は、カウンターファクトの妥当性と妥当性のトレードオフを浮き彫りにする。
論文参考訳（メタデータ） (2026-07-01T16:55:06Z)
Taming the Centaur(s) with LAPITHS: a framework for a theoretically grounded interpretation of AI performances [0.0]
LAPITHS(Language Model Analysis through Paradigm Grounded Interpretations of Theses about Human likenesS)というフレームワークを導入する。我々は、CENTAURのようなモデルによって先導されたいくつかの主要な主張が、人工認知の統一モデルとして提案され、理論的または経験論的に正当化されていないことを示すためにこれを使用する。
論文参考訳（メタデータ） (2026-04-30T14:29:50Z)
Emergent Structured Representations Support Flexible In-Context Inference in Large Language Models [77.98801218316505]
大型言語モデル(LLM)は、人間のような推論を示唆する創発的な行動を示す。テキスト内概念推論におけるLLMの内部処理について検討する。
論文参考訳（メタデータ） (2026-02-08T03:14:39Z)
Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
論文参考訳（メタデータ） (2025-05-17T00:31:39Z)
Neural Interpretable Reasoning [12.106771300842945]
ディープラーニングにおける解釈可能性を実現するための新しいモデリングフレームワークを定式化する。この複雑性はマルコフ的性質として解釈可能性を扱うことにより緩和できることを示す。我々はニューラルジェネレーションと解釈可能な実行という新しいモデリングパラダイムを提案する。
論文参考訳（メタデータ） (2025-02-17T10:33:24Z)
Causality can systematically address the monsters under the bench(marks) [64.36592889550431]
ベンチマークはさまざまなバイアス、アーティファクト、リークに悩まされている。モデルは、調査の不十分な障害モードのため、信頼できない振る舞いをする可能性がある。因果関係はこれらの課題を体系的に解決するための理想的な枠組みを提供します
論文参考訳（メタデータ） (2025-02-07T17:01:37Z)
Gumbel Counterfactual Generation From Language Models [64.55296662926919]
対実的推論が介入と概念的に異なることを示す。そこで本研究では,真の文字列反事実を生成するためのフレームワークを提案する。提案手法は,従来の介入手法が望ましくない副作用を有意に生み出しているのに対し,本手法は有意義な反事実を生じさせることを示す。
論文参考訳（メタデータ） (2024-11-11T17:57:30Z)
Beyond Interpretability: The Gains of Feature Monosemanticity on Model Robustness [68.69369585600698]
ディープラーニングモデルは多意味性による解釈可能性の欠如に悩まされることが多い。神経細胞が一貫したセマンティクスと異なるセマンティクスに対応するモノセマンティクスの最近の進歩は、解釈可能性を大幅に改善した。モノセマンティックな特徴は解釈可能性を高めるだけでなく、モデル性能の具体的な向上をもたらすことを示す。
論文参考訳（メタデータ） (2024-10-27T18:03:20Z)
Meaning Representations from Trajectories in Autoregressive Models [106.63181745054571]
入力テキストを拡張可能なすべてのトラジェクトリの分布を考慮し,自己回帰言語モデルから意味表現を抽出する。この戦略はプロンプトフリーであり、微調整は必要とせず、事前訓練された自己回帰モデルにも適用できる。我々は,大規模なモデルから得られた表現が人間のアノテーションとよく一致し,意味的類似性タスクにおける他のゼロショットおよびプロンプトフリーメソッドよりも優れており,標準埋め込みが扱えないより複雑なエンタテインメントや包含タスクの解決に使用できることを実証的に示す。
論文参考訳（メタデータ） (2023-10-23T04:35:58Z)
Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。これは、説明に表される論理述語に基づいて、反実仮説を生成する。そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文参考訳（メタデータ） (2022-05-25T03:40:59Z)
Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
論文参考訳（メタデータ） (2022-03-30T05:59:50Z)
A Meta-Bayesian Model of Intentional Visual Search [0.0]
本稿では,分類的知覚とササード計画の根底にある神経機構のベイズ的解釈を取り入れたビジュアルサーチの計算モデルを提案する。擬似行動と人的行動の有意義な比較を可能にするため、参加者は視線に追従する窓から隠蔽されたMNIST桁を分類する必要がある。本モデルは,観察された人間の行動から主観的パラメータを回収し,高い解釈可能性を維持しながら,分類精度などの人間の行動指標を再カプセル化することができる。
論文参考訳（メタデータ） (2020-06-05T16:10:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。