Fugu-MT 論文翻訳(概要): Self-Reports Do Not Identify Self-Models: An Identifiability Test for Counterfactual Reports

論文の概要: Self-Reports Do Not Identify Self-Models: An Identifiability Test for Counterfactual Reports

arxiv url: http://arxiv.org/abs/2609.32449v1
Date: Sat, 26 Sep 2026 10:32:34 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-07 09:03:29.052542
Title: Self-Reports Do Not Identify Self-Models: An Identifiability Test for Counterfactual Reports
Title（参考訳）: 自己報告は自己モデルを特定しない: 事実報告の識別可能性テスト
Abstract要約: 言語モデル自己報告(Language-model self-reports)は、自己モデルそのものの証拠ではなく、迅速な環境における行動に関する証拠である。本研究では、アクティベーション介入中の情緒的状態に関する事実報告を調査し、実演環境が変化しても、その報告が名前の介入に結びついているかどうかを問う。
参考スコア（独自算出の注目度）: 0.6882042556551609
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: Language-model self-reports are evidence about behavior in a prompt environment, not by themselves evidence of a self-model. We investigate counterfactual reports about affect-like states under activation interventions and ask whether the report remains bound to the named intervention when the demonstration environment changes. Across three open instruction models, wrong-source demonstrations move reports toward the source answer family, while explicit mechanism binding reduces this pull. Self-report benchmarks should include environment-shift invariance tests under fixed intervention before treating accuracy as evidence for an autonomous report mechanism.
Abstract（参考訳）: 言語モデル自己報告(Language-model self-reports)は、自己モデルそのものの証拠ではなく、迅速な環境での行動に関する証拠である。本研究では、アクティベーション介入中の情緒的状態に関する事実報告を調査し、実演環境が変化しても、その報告が名前の介入に結びついているかどうかを問う。 3つのオープンインストラクションモデル全体で、間違ったソースデモは、レポートをソース回答ファミリに移動させ、明示的なメカニズムバインディングは、このプルを減少させる。自己報告ベンチマークには、自律的な報告機構の証拠として正確性を扱う前に、一定の介入の下で環境シフト不変性テストを含めるべきである。

関連論文リスト

A mechanistic study of language model introspection [14.164238098802365]
大きな言語モデル(LLM)は、しばしば内部のアクティベーションに摂動を報告できる。本稿では,入力テキストを固定する制御タスクを用いて,この問題について検討する。イントロスペクティブ・レポーティングでは,2つの小さな注意点群がそれぞれ異なる役割を担っている。
論文参考訳（メタデータ） (2026-09-28T13:13:10Z)
Provenance Before Prose: Claim-Locked Reporting [9.106326969263483]
科学報告のエビデンスを含む内容は、散文生成時にサンプリングされるのではなく、構造化された統計結果によって修正されるべきである。本稿では,各報告可能なクレームのエビデンスソース,数字,方向,許容言語強度を補正する前処理プロトコルであるクレームロック型レポーティングを提案する。
論文参考訳（メタデータ） (2026-08-26T03:41:17Z)
ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文参考訳（メタデータ） (2026-08-03T15:07:46Z)
HiEviDR-Bench: A Benchmark for Hierarchical Evidence Aggregation in Deep Research [52.87128503345243]
我々は,Deep Researchにおける階層的エビデンス・アグリゲーションを評価するためのベンチマークであるHiEviDR-Benchを紹介する。 HiEviDR-Benchは、エビデンスの選択、クロスソースリンク、アグリゲーションをキャプチャする明示的なエビデンスグラフを持つ各インスタンスを表す。報告品質,エビデンストレーサビリティ,引用精度,クレーム検証,回答正当性という5次元のトレーサビリティ指向評価フレームワークを開発した。
論文参考訳（メタデータ） (2026-07-27T23:50:46Z)
White Box Evidence Packages for Policy Audit Reports [0.0]
内部的な証拠は、報告書の引用方法や証拠に関する理由を変えるが、内部的な引用自体がレポートをより有効にしないことを示す。この研究は、透明性の保証ではなく、監査のためのエビデンス設計問題として、内部モデルアクセスを再設計する。
論文参考訳（メタデータ） (2026-07-23T16:06:42Z)
Resist and Update: Counterfactual Report Coordinates for Incentive-Compatible LLMs [4.721990925113432]
修飾言語モデルは、非証拠的な圧力下で定期的に誤レポートされる。我々は2つの要求を調査し、抵抗(不当な圧力)と更新(認可された証拠をフォロー)する。低ランクレポートのコーディネートを慎重にローカライズして,回答,信頼,注意を喚起する。
論文参考訳（メタデータ） (2026-07-14T17:28:25Z)
Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。 20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文参考訳（メタデータ） (2026-02-23T16:28:48Z)
Anatomically-Grounded Fact Checking of Automated Chest X-ray Reports [0.0]
そこで本稿では, 報告によって提示された発見とその位置の誤りを識別する, 説明可能なファクトチェックのための新しいモデルを提案する。我々は,複数のSOTA自動報告ツールが生成した報告の修正において,結果のファクトチェックモデルとその有用性を評価する。
論文参考訳（メタデータ） (2024-12-03T05:21:42Z)
Bring Your Own Data! Self-Supervised Evaluation for Large Language Models [52.15056231665816]
大規模言語モデル(LLM)の自己教師型評価のためのフレームワークを提案する。閉書知識,毒性,長期文脈依存性を測定するための自己指導型評価戦略を実証する。自己監督評価と人監督評価との間には強い相関関係が認められた。
論文参考訳（メタデータ） (2023-06-23T17:59:09Z)
Provable Robustness for Streaming Models with a Sliding Window [51.85182389861261]
オンラインコンテンツレコメンデーションや株式市場分析のようなディープラーニングアプリケーションでは、モデルは過去のデータを使って予測を行う。入力ストリーム上の固定サイズのスライディングウインドウを使用するモデルに対して、ロバスト性証明を導出する。私たちの保証は、ストリーム全体の平均モデルパフォーマンスを保ち、ストリームサイズに依存しないので、大きなデータストリームに適しています。
論文参考訳（メタデータ） (2023-03-28T21:02:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。