論文の概要: Dissociating Direct Access from Inference in AI Introspection

• arxiv url: http://arxiv.org/abs/2603.05414v1
• Date: Thu, 05 Mar 2026 17:39:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-06 22:06:11.347429
• Title: Dissociating Direct Access from Inference in AI Introspection
• Title（参考訳）: AIイントロスペクションにおける推論からの直接アクセスの解離
• Abstract要約: 最近の研究によると、AIモデルはイントロスペクション可能である。 これらのモデルが2つの分離可能なメカニズムによって注入された表現を検出することを示す。 この内容に依存しない内観のメカニズムは、哲学や心理学における主要な理論と一致している。
• 参考スコア（独自算出の注目度）: 11.31435294855236
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Introspection is a foundational cognitive ability, but its mechanism is not well understood. Recent work has shown that AI models can introspect. We study their mechanism of introspection, first extensively replicating Lindsey et al. (2025)'s thought injection detection paradigm in large open-source models. We show that these models detect injected representations via two separable mechanisms: (i) probability-matching (inferring from perceived anomaly of the prompt) and (ii) direct access to internal states. The direct access mechanism is content-agnostic: models detect that an anomaly occurred but cannot reliably identify its semantic content. The two model classes we study confabulate injected concepts that are high-frequency and concrete (e.g., "apple'"); for them correct concept guesses typically require significantly more tokens. This content-agnostic introspective mechanism is consistent with leading theories in philosophy and psychology.
• Abstract（参考訳）: イントロスペクションは基本的な認知能力であるが、そのメカニズムはよく理解されていない。 最近の研究によると、AIモデルはイントロスペクション可能である。 本稿では,Linsey et al (2025) の思考注入検出パラダイムを大規模なオープンソースモデルで広範囲に再現したイントロスペクションのメカニズムについて検討する。 これらのモデルが2つの分離可能なメカニズムを介して注入表現を検出することを示す。 (i)確率マッチング(プロンプトの知覚異常から推測される)、 (二)内国への直接アクセス モデルは異常が発生したが、そのセマンティックな内容が確実に識別できないことを検知する。 私たちが研究する2つのモデルクラスは、高頻度で具体的(例えば、"apple'")な射出射出概念である。 この内容に依存しない内観のメカニズムは、哲学や心理学における主要な理論と一致している。

関連論文リスト

• From Deceptive Outputs to Deceptive Mechanisms: A Causal Framework for Language-Model Deception Research [0.0]
  本稿では,過去のコミットメントを振り返りレポートから分離する因果分類,実効出力からのモデル選好,受取人を誤解させる効用に対する感度からの誤選好,それを生み出す目的や戦略の証明から欺く行動を紹介する。 一方、他の介入は、受取人の情報状態が欺取的嗜好に因果的に影響を及ぼすという直接的な証拠を提供する。
  論文  参考訳（メタデータ） (2026-09-03T17:52:19Z)
• Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence [114.82582862454052]
  メカニスト(Mechanist)は、AIを科学機器として利用し、AIインテリジェンスの基礎となるメカニズムを自律的に発見するエージェントシステムである。 Claude Codeや既存のAI科学者システムと比較すると、Mechanistはより価値のあるメカニズムを生み出し、実験をより確実に実行する。
  論文  参考訳（メタデータ） (2026-08-12T13:19:42Z)
• Mechanisms of Introspective Awareness [4.6752132340946835]
  最近の研究は、LCMが残留ストリームにステアリングベクターが注入されたときに検出し、注入された概念を特定できることを示している。 しかし、この能力を支えるメカニズムはどのようなもので、本物の内省回路を反映しているか、あるいはより浅い認識を反映しているのか? 本稿では,これらの疑問をオープンソースモデルで調査し,主要な3つの知見を定めている。
  論文  参考訳（メタデータ） (2026-03-22T20:45:34Z)
• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• What is Missing? Explaining Neurons Activated by Absent Concepts [57.02903530185128]
  XAIは、ディープニューラルネットワーク(DNN)の動作に関する人間解釈可能な洞察を提供することを目指している 既存の研究において、この因果構造はしばしば、概念の存在がニューロンの強い活性化と関連している関係を含む。 ほとんど見過ごされがちな因果関係は、概念の欠如が神経活動を増加させるエンコードされた欠如であることを示す。
  論文  参考訳（メタデータ） (2026-03-10T15:21:52Z)
• Feeling the Strength but Not the Source: Partial Introspection in LLMs [0.0]
  人類学的な主張では、フロンティアモデルは時々、活性化方向として表される「概念」を検知し、名前を付けることができる。 われわれは、Meta-Llama-3.1-8B-Instruct上で、Arthropicのマルチターン「エマージェントイントロスペクション」の結果を再現する。 イントロスペクションは、非常に大きなモデルや有能なモデルに限らない。
  論文  参考訳（メタデータ） (2025-12-13T17:51:13Z)
• Know Thyself? On the Incapability and Implications of AI Self-Recognition [22.582593406983907]
  自己認識は、心理的分析だけでなく、安全性にも関係する、AIシステムにとって重要なメタ認知能力である。 適用や更新が容易なシステム評価フレームワークを導入する。 10の現代的大規模言語モデル(LLM)が、他のモデルからのテキストに対して、それぞれの生成したテキストをどの程度正確に識別できるかを測定する。
  論文  参考訳（メタデータ） (2025-10-03T18:00:01Z)
• Understanding Matching Mechanisms in Cross-Encoders [11.192264101562786]
  クロスエンコーダは、内部メカニズムがほとんど不明な非常に効果的なモデルである。 ほとんどの作業は、ハイレベルなプロセスに重点を置いている。 より簡単な方法が、すでに価値ある洞察を提供できることを実証します。
  論文  参考訳（メタデータ） (2025-07-19T13:05:27Z)
• Meta-Representational Predictive Coding: Biomimetic Self-Supervised Learning [51.22185316175418]
  メタ表現予測符号化(MPC)と呼ばれる新しい予測符号化方式を提案する。 MPCは、並列ストリームにまたがる感覚入力の表現を予測することを学ぶことによって、感覚入力の生成モデルを学ぶ必要性を助長する。
  論文  参考訳（メタデータ） (2025-03-22T22:13:14Z)
• Class-wise Activation Unravelling the Engima of Deep Double Descent [0.0]
  二重降下は、機械学習領域内の反直観的な側面を示す。 本研究では,二重降下現象を再考し,その発生状況について考察した。
  論文  参考訳（メタデータ） (2024-05-13T12:07:48Z)
• Competition of Mechanisms: Tracing How Language Models Handle Facts and Counterfactuals [82.68757839524677]
  解釈可能性研究は、経験的成功と大規模言語モデル(LLM)の科学的理解のギャップを埋めることを目的としている。 本稿では,個々のメカニズムではなく,複数のメカニズムの相互作用に着目した,メカニズムの競合の定式化を提案する。 本研究は, 種々のモデル成分間の機構とその競合の痕跡を示し, 特定の機構の強度を効果的に制御する注意位置を明らかにした。
  論文  参考訳（メタデータ） (2024-02-18T17:26:51Z)
• Guiding Visual Question Answering with Attention Priors [76.21671164766073]
  本稿では,言語・視覚的接地による注意機構の導出について述べる。 この基礎は、クエリ内の構造化言語概念を視覚オブジェクト間の参照物に接続することで導かれる。 このアルゴリズムは、注意に基づく推論モデルを調べ、関連する連想的知識を注入し、コア推論プロセスを制御する。
  論文  参考訳（メタデータ） (2022-05-25T09:53:47Z)
• Properties from Mechanisms: An Equivariance Perspective on Identifiable Representation Learning [79.4957965474334]
  教師なし表現学習の主な目標は、データ生成プロセスが潜在プロパティを回復するために「反転」することである。 この論文は「進化を支配するメカニズムの知識を活用して潜伏特性を識別するのか?」と問う。 我々は、可能なメカニズムの集合に関する知識が異なるため、不特定性の原因の完全な特徴づけを提供する。
  論文  参考訳（メタデータ） (2021-10-29T14:04:08Z)
• ACRE: Abstract Causal REasoning Beyond Covariation [90.99059920286484]
  因果誘導における現在の視覚システムの系統的評価のための抽象因果分析データセットについて紹介する。 Blicket実験における因果発見の研究の流れに触発され、独立シナリオと介入シナリオのいずれにおいても、以下の4種類の質問で視覚的推論システムに問い合わせる。 純粋なニューラルモデルは確率レベルのパフォーマンスの下で連想戦略に向かう傾向があるのに対し、ニューロシンボリックな組み合わせは後方ブロッキングの推論に苦しむ。
  論文  参考訳（メタデータ） (2021-03-26T02:42:38Z)
• Plausible Reasoning about EL-Ontologies using Concept Interpolation [27.314325986689752]
  本稿では,モデル理論の明確な意味論に基づく帰納的機構を提案する。 我々は、カテゴリーベース誘導の認知モデルと密接に関連している強力なコモンセンス推論機構である推論に焦点を当てた。
  論文  参考訳（メタデータ） (2020-06-25T14:19:41Z)
• Machine Common Sense [77.34726150561087]
  機械の常識は、人工知能(AI)において広範で潜在的に無拘束な問題のままである 本稿では、対人インタラクションのようなドメインに焦点を当てたコモンセンス推論のモデル化の側面について論じる。
  論文  参考訳（メタデータ） (2020-06-15T13:59:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。