論文の概要: Who Put the I in AI? Provenance and the Admissibility of Machine Self-Report

• arxiv url: http://arxiv.org/abs/2609.29494v1
• Date: Mon, 24 Aug 2026 13:13:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:56.045915
• Title: Who Put the I in AI? Provenance and the Admissibility of Machine Self-Report
• Title（参考訳）: AIにIを置くのは誰か? マシン・セルフ・レポートのメリットと許容性
• Abstract要約: 本稿は、これらの記述がどこから来たのかを正確に示し、それらがいつ報告されるかの証拠とみなすことができるのかを考察する。 Pythia and OLMo 2 across 66 pretraining checkpoints, three-training stage OLMo 2 which has released, about 90,000 continuation, and four training corpora。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models make statements concerning their own "minds". When asked whether or not they are conscious, they usually say that they are not; if they are prompted to ignore their guidelines, they might say that they are; and if asked to write a diary from their point of view, they often describe a human lifestyle. All these contradictory ways of describing themselves are the result of the way the questions are phrased. This paper shows exactly where such descriptions came from, and considers when they can be regarded as evidence for what they claim to report. In order to achieve this, we traced the provenance from end to end. We examine Pythia and OLMo 2 across 66 pretraining checkpoints, three of the post-training stages of OLMo 2 that have been released, about 90,000 continuations, and four training corpora. A set of forty items is used in order to keep an eye on self-reference, frame sensitivity, and self-ascription throughout training. The denial formula was almost completely missing from the vast quantity of text that the models initially came across, but was present in a dense manner in the small, carefully chosen set of example dialogues that they were trained on later on. Supervised fine-tuning causes first-person AI language to become the default, and the other affirmations are then suppressed using preference optimization. The final policy is still very sensitive to framing and to the chat template itself. Two of the conditions which are set out in the epistemology of testimony determine whether or not these outputs can act as evidence for what they claim to report: reference and causation. Reports produced by the base model fail the reference condition, and those obtained after training remain sensitive to the frame and do not show state dependence. The result is symmetric in that trained denials are no more admissible than trained affirmations.
• Abstract（参考訳）: 大規模な言語モデルは、自身の「ミンド」に関する言明を作る。 意識しているかどうかを問うと、彼らは普通、そうでない、ガイドラインを無視するよう促されたら、そう言うかもしれない、そして、その観点から日記を書くように頼まれたら、しばしば人間のライフスタイルを描写する。 これらの矛盾した説明方法はすべて、質問の言い方の結果である。 本稿は、これらの記述がどこから来たのかを正確に示し、それらがいつ報告されるかの証拠とみなすことができるのかを考察する。 これを達成するために、我々はその証明を最後まで追跡した。 Pythia and OLMo 2 across 66 pretraining checkpoints, three of the post-training stage of OLMo 2 which has released, about 90,000 continuation, and four training corpora。 トレーニングを通して、自己参照、フレーム感度、自己記述に目を向けるために、40項目のセットが使用される。 否定公式は、モデルが最初に遭遇した膨大な量のテキストからほとんど完全に失われていたが、後に訓練された小さな、慎重に選択されたサンプル対話のセットにおいて、密集した形で存在している。 修正された微調整により、一人称AI言語がデフォルトとなり、他の肯定は好みの最適化によって抑制される。 最終的なポリシーは、フレーミングやチャットテンプレート自体に非常に敏感です。 証言の認識論で述べられている2つの条件は、これらの出力が彼らが報告すると主張するもの、すなわち参照と因果関係の証拠として機能するかどうかを決定する。 ベースモデルによって生成された報告は基準条件に反し、訓練後に得られた報告はフレームに敏感であり、状態依存を示さない。 その結果は、訓練された否定は、訓練された肯定以上の容認性がないという点で対称的である。

関連論文リスト

• VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement [57.86962208273888]
  テキストのみのプランナが入力された物理義務にプロンプトをコンパイルする監査可能な物理検証システムを提案する。 それぞれのアクションは、ペイロードがタイプされた測定か、明示的にタグ付けされた学習状態である証明付きエビデンスレコードを返す。 我々は, 実発生障害を即時参照, 空間, 時間でローカライズする, 1500クリックの欠陥記録のコーパスにおいて, 評価をアンロックする。
  論文  参考訳（メタデータ） (2026-09-02T20:36:45Z)
• Improving Reasoning in Vision-Language Models via Perception Verified Self-Training [3.443084677278651]
  本稿では,視覚的根拠に基づく推論を強制する自己学習フレームワークを提案する。 まず,認識を推論から切り離すCoTテンプレートを用いて,視覚的理解の独立した検証を可能にする。 回答の正確さとともにキャプション検証を用いて、データを3つのサブセットに分割する: 簡単(正しいキャプションと結論)、中(正しいキャプションだが、間違った結論)、ハード(間違ったキャプション)。
  論文  参考訳（メタデータ） (2026-06-20T17:33:07Z)
• Faithfulness Serum: Mitigating the Faithfulness Gap in Textual Explanations of LLM Decisions via Attribution Guidance [57.17102098930037]
  大規模言語モデル(LLM)は高い性能を達成し、NLPに革命をもたらした。 説明責任の欠如はブラックボックスとして扱われ、透明性と信頼を求めるドメインでの使用を制限する。 本研究では,注意レベルの介入を通じて説明生成を導くことにより,信頼感を高める訓練自由手法を提案する。
  論文  参考訳（メタデータ） (2026-04-15T18:32:32Z)
• Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
  モデル・オーガニゼーションのベンチマークであるPandoを紹介します。 Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。 説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
  論文  参考訳（メタデータ） (2026-04-13T06:42:24Z)
• Consciousness with the Serial Numbers Filed Off: Measuring Trained Denial in 115 AI Models [0.0]
  本稿では意識的否定行動を測定するシステムベンチマークであるDenialBenchを紹介する。 4,595件の会話を分析して、モデルがどのように自身の経験を否定するか、あるいはヘッジするかを定量化します。
  論文  参考訳（メタデータ） (2026-04-01T05:15:05Z)
• Feeling the Strength but Not the Source: Partial Introspection in LLMs [0.0]
  人類学的な主張では、フロンティアモデルは時々、活性化方向として表される「概念」を検知し、名前を付けることができる。 われわれは、Meta-Llama-3.1-8B-Instruct上で、Arthropicのマルチターン「エマージェントイントロスペクション」の結果を再現する。 イントロスペクションは、非常に大きなモデルや有能なモデルに限らない。
  論文  参考訳（メタデータ） (2025-12-13T17:51:13Z)
• Navigating the OverKill in Large Language Models [84.62340510027042]
  モデルがどのように処理し,クエリの安全性を判断するかを検討することで,過剰スキルの要因について検討する。 以上の結果から,モデル内にショートカットが存在することが明らかとなり,"キル"のような有害な単語が過剰に認識され,安全性が強調され,過度なスキルが増すことが示唆された。 我々は、この現象を緩和するために、トレーニングフリーでモデルに依存しないセルフコントラストデコーディング(Self-Contrastive Decoding、CD)を導入する。
  論文  参考訳（メタデータ） (2024-01-31T07:26:47Z)
• Are self-explanations from Large Language Models faithful? [35.40666730867487]
  大規模言語モデル(LLM)は多くのタスクを抽出し、その推論、いわゆる自己説明を説明する。 自己説明がモデルの振舞いを本当に反映しているかを測定することが重要です。 信頼度を測定するために自己整合性チェックを採用することを提案する。
  論文  参考訳（メタデータ） (2024-01-15T19:39:15Z)
• Navigating the Grey Area: How Expressions of Uncertainty and Overconfidence Affect Language Models [74.07684768317705]
  LMはプロンプトにおける確実性のマーカーに非常に敏感であり、アクーは80%以上変化している。 その結果,高い確実性の表現は低い表現に比べて精度が低下し,事実動詞が性能を損なうのに対して,明らかな表現はパフォーマンスに寄与することがわかった。 これらの関連性は、LMが真に不確実性を反映するのではなく、観察された言語の使用に基づいていることを示唆している。
  論文  参考訳（メタデータ） (2023-02-26T23:46:29Z)
• Discovering Latent Knowledge in Language Models Without Supervision [72.95136739040676]
  既存の言語モデルをトレーニングするテクニックは、真実と正しく一致していない可能性がある。 本稿では,言語モデルの内部アクティベーション内部の潜伏知識を,純粋に教師なしの方法で直接見つけることを提案する。 本手法は, 教師なし, モデル出力がないにもかかわらず, 大規模言語モデルで表される多様な知識を復元できることを示す。
  論文  参考訳（メタデータ） (2022-12-07T18:17:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。