論文の概要: Radical AI Interpretability

• arxiv url: http://arxiv.org/abs/2606.26523v1
• Date: Thu, 25 Jun 2026 01:58:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.141617
• Title: Radical AI Interpretability
• Title（参考訳）: ラジカルAIの解釈可能性
• Abstract要約: 我々はAIシステムをエージェントとして解釈するためのフレームワークを開発する。 我々は、急進的解釈の哲学的伝統と機械的解釈可能性の道具を描いている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We develop a framework for interpreting AI systems as agents, drawing on the philosophical tradition of radical interpretation and the tools of mechanistic interpretability. The core question is: given the computational facts about a system, how do we solve for its beliefs, desires, and meanings? This matters increasingly for safety. We want to be able to trust the systems we deploy, whether by understanding their goals or, more modestly, by reliably detecting deception. Interpretability researchers are building tools to read beliefs and desires off a model's internals, but there is no settled account of when such a tool has succeeded. This book supplies one. We propose criteria on both representationalist and interpretationist approaches, and tie each to tests current interpretability methods can carry out. A central lesson is that these attributions cannot be made piecemeal. Beliefs, desires, and the propositional structure they presuppose are jointly constrained, and a method that fixes one while measuring the others inherits whatever distortions that introduces. This holism becomes pressing for AI systems, which may not share the interpreter's concepts. However, it also provides leverage: a system's attitudes constrain its propositional structure, that structure constrains which attitudes can be attributed, and mechanistic interpretability can help us measure both.
• Abstract（参考訳）: 我々は,AIシステムをエージェントとして解釈する枠組みを開発し,急進的解釈の哲学的伝統と機械的解釈可能性のツールを考察した。 システムに関する計算的な事実を考えると、その信念、欲求、意味をどう解決するか? これは安全のためにますます重要になる。 彼らの目標を理解するか、あるいはより穏やかに、確実に詐欺を検知することによって、デプロイするシステムを信頼したいと思っています。 解釈可能性の研究者は、モデルの内部から信念や欲求を読み取るツールを開発しているが、そのようなツールがいつ成功したかは定かではない。 この本は1冊の本だ。 本稿では,表現論と解釈論の両アプローチの基準を提案し,それぞれを現在の解釈可能性試験に結びつける。 中心的な教訓は、これらの属性は断片化できないことである。 信念、欲求、そして彼らが前提とする命題構造は、共同で制約され、他を計測しながら修正する手法は、導入する歪みを継承する。 この全体主義は、インタプリタの概念を共有しないかもしれないAIシステムに迫られている。 システムの態度は命題構造を制約し、態度を属性にできる構造的制約を制約し、機械的解釈性は両方を測定するのに役立ちます。

関連論文リスト

• Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution [80.98492754957466]
  公正性、堅牢性、プライバシ、説明可能性といった、信頼性の高いAI目標を同時に達成することは難しい。 本稿では、パフォーマンスにおけるトレードオフを理解しバランスをとるためには因果性が必要であると論じ、信頼できるAIの複数の目的について論じる。
  論文  参考訳（メタデータ） (2026-05-04T14:26:28Z)
• A Model of Understanding in Deep Learning Systems [0.0]
  本稿では,機械学習システムに適した体系的理解モデルを提案する。 エージェントは、実際の規則性を追跡し、安定した橋梁原理によって目標に結合され、信頼性の高い予測をサポートする適切な内部モデルを含む場合、ターゲットシステムの特性を理解する。
  論文  参考訳（メタデータ） (2026-04-05T16:27:43Z)
• A Survey of Reasoning in Autonomous Driving Systems: Open Challenges and Emerging Paradigms [49.66022971508878]
  私たちは、推論はモジュラーコンポーネントからシステムの認知コアに高めるべきだと論じています。 応答性推論のトレードオフやソーシャルゲーム推論など,7つの中核的推論課題を導出し,体系化する。 我々は,LLMに基づく推論と,ミリ秒スケールで安全クリティカルな車両制御の要求との間の,高レイテンシ,熟考的特性の根本的かつ未解決な緊張関係を同定する。
  論文  参考訳（メタデータ） (2026-03-11T07:40:53Z)
• Agency Is Frame-Dependent [94.91580596320331]
  エージェンシーは、目標に向かって成果を操縦するシステムの能力である。 私たちは、エージェンシーは基本的にフレーム依存であると主張している。 我々はあらゆる基礎科学がフレーム依存を必要とすると結論付けている。
  論文  参考訳（メタデータ） (2025-02-06T08:34:57Z)
• Propositional Interpretability in Artificial Intelligence [0.0]
  命題的態度の観点からシステムのメカニズムや振る舞いを解釈することを含む命題的解釈可能性の重要性を論じる。 中心的な課題は、私が考えるロギング、つまり、時間の経過とともにAIシステム内のすべての関連する命題的態度をログするシステムを作ることです。
  論文  参考訳（メタデータ） (2025-01-27T03:06:06Z)
• Mechanistic Interpretability for AI Safety -- A Review [28.427951836334188]
  本稿では,機械的解釈可能性について概説する。 機械的解釈性は、AIシステムがより強力で精査されるにつれて、破滅的な結果を防ぐのに役立つ。
  論文  参考訳（メタデータ） (2024-04-22T11:01:51Z)
• Circumventing interpretability: How to defeat mind-readers [0.0]
  ミスアライメントされた人工知能は 思考の理解を難しくする 集中的なインセンティブを持つでしょう 有能なAIがスケーラブルな解釈可能性手法を回避できる多くの方法について議論し、これらの潜在的な将来のリスクについて考えるためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-12-21T23:52:42Z)
• Interpreting systems as solving POMDPs: a step towards a formal understanding of agency [0.0]
  我々は、信念だけでなく、目標や行動の観点からも解釈の概念を提案する。 エージェントはシステムであり、このシステムをPOMDPソリューションとして解釈する。
  論文  参考訳（メタデータ） (2022-09-04T13:40:33Z)
• Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
  Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。 これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
  論文  参考訳（メタデータ） (2022-01-26T18:53:09Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• Towards Faithfully Interpretable NLP Systems: How should we define and evaluate faithfulness? [58.13152510843004]
  ディープラーニングベースのNLPモデルの普及に伴い、解釈可能なシステムの必要性が高まっている。 解釈可能性とは何か、そして高品質な解釈を構成するものは何か? 我々は、解釈が満たすべき異なる望ましい基準をより明確に区別し、忠実度基準に焦点を合わせることを求めている。
  論文  参考訳（メタデータ） (2020-04-07T20:15:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。