論文の概要: On the Monitorability of Natural Language Autoencoders: Identification vs Discrimination
- arxiv url: http://arxiv.org/abs/2610.18727v2
- Date: Tue, 20 Oct 2026 17:52:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-22 01:25:39.241683
- Title: On the Monitorability of Natural Language Autoencoders: Identification vs Discrimination
- Title（参考訳）: 自然言語オートエンコーダの監視可能性について:識別と識別について
- Abstract要約: 自然言語オートエンコーダ(NLA)は言語モデルの監視ツールとして提案されている。
我々は,NLAトレーニングとNLA監視デプロイメントを,Emergent Communicationの2つの異なる参照ゲームとして定式化する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Natural Language Autoencoders (NLAs) are proposed as oversight tools for language models: an Activation Verbaliser (AV) writes an English explanation of an activation vector, and an Activation Reconstructor (AR) maps the explanation back to a vector. Their value for oversight depends on a human monitor being able to tell a true account of an activation from a false one, given the AV's explanation. We formalise NLA training and NLA oversight deployment as two different referential games from Emergent Communication: training is a generative referential game, while oversight is a discriminative, multi-modal, partially-observable referential game played over a many-to-many relation between the monitored language model's activations and the accounts that are true of them. The gap between the two games predicts that AV's explanations will identify which activation they describe without discriminating its true account from closely matched false ones, since training never asks explanations to rule anything out. Using the NLA's own AR as a maximally-sympathetic surrogate monitor model, we experimentally confirm this theoretical insight on one released checkpoint: true accounts beat accounts of other activations in all 320 comparisons, but beat fluent rivals differing in a single claim only 60.2% of the time (standard error 6.7%, chance at 50%, $n = 35$). A meaning-preserving rewrite by an uninvolved model costs only 2.1% of the distance to another activation's account, so the failure is not due to the NLA pair having developed private conventions in the AV's explanations. Our rival accounts test only transcript-level truths, which the monitored language model's conversation settles, so these results bound the easiest case and leave claims about the monitored model's own processing untested. We state conjectures that would make both results consequences of the framework.
- Abstract（参考訳）: アクティベーション・バーバリサー(AV)はアクティベーションベクトルの英語説明を書き、アクティベーション・リコンストラクタ(AR)はその説明をベクトルにマッピングする。
彼らの監視に対する価値は、AVの説明によれば、人間のモニターが偽のモニターからのアクティベーションを真に説明できるかどうかにかかっている。
我々は,NLA トレーニングと NLA のオービテーションを,Emergent Communication の2つの異なる参照ゲームとして定式化する: トレーニングは生成的参照ゲームであり,一方,監視対象言語モデルのアクティベーションとそれらに忠実なアカウントとの間の多対多の関係で,識別的かつ多モーダルな部分観測可能な参照ゲームである。
この2つのゲームの間のギャップは、AVの説明がどのアクティベーションを正確に一致した偽のアカウントと区別することなく識別すると予測している。
NLA自身のARを最大交感性サロゲートモニターモデルとして使用して、あるリリースされたチェックポイントに関する理論的洞察を実験的に確認する: 真のアカウントは、すべての320の比較で他のアクティベーションのアカウントを破るが、単一のクレームで異なる流動的なライバルを60.2%(標準エラー6.7%、50%、50%、$n = 35$)で破る。
無関係なモデルによる意味保存の書き直しは、他のアクティベーションの口座からの距離の2.1%しかコストがかかりません。
競合アカウントは、監視対象の言語モデルの会話が落ち着いた書き起こしレベルの真実のみをテストするので、これらの結果は最も簡単なケースに結びつき、監視対象のモデル自身の処理に関する主張を未検証のまま残します。
フレームワークの結果が両方の結果をもたらすという予想を述べています。
関連論文リスト
- Language-Conditioned Token and Reasoning Efficiency in Large Language Models: A Paired Cross-Lingual Study Protocol [4.805352087824778]
我々は、入力言語を分離し、可観測トレース言語を割り当て、回答実現のための先進的なペア研究を指定する。
このプロトコルは、可視的トレースを内部認識やオペレーティングシステム推定として扱うことなく、トークン化器の拡張、観測可能なトレースコスト、応答実現コストを分離する。
論文 参考訳（メタデータ） (2026-10-03T05:01:44Z) - CausalDriveBench: Evaluating Causal Reasoning in Vision-Language-Action Models for Autonomous Driving [9.843010103670167]
CausalDriveBenchはPearlのCausal Hierarchy(PCH)に基盤を置く評価フレームワークである
我々は、因果的活動、休眠、気晴らしを区別する nuScene 上の因果的シーングラフを構築した。
ベンチマークには7,285の因果QAペアと1,000の反事実軌跡が含まれている。
論文 参考訳（メタデータ） (2026-09-26T02:21:05Z) - A Formal Methodological Framework for Auditing Robustness and Fidelity in Explainable AI: From Application to Trust Certification [0.0]
SHAPとLIMEは、ブラックボックス予測を解釈するための標準的なツールであるが、入力が少量のノイズによって摂動された場合、出力は大きく変化する。
この可変性は、そのような説明がまったく信用できるかどうかという問題を提起する。
ポストホックな説明器の2つの特性を測定する監査プロトコルを構築することで、この問題に対処する。
論文 参考訳（メタデータ） (2026-08-24T20:54:04Z) - AgentFairBench: Do LLM Agents Discriminate When They Act? [2.3004655342211078]
AgentFairBenchは、LLMエージェントの動作における人口格差に対する、安価で再現可能なマルチドメインベンチマークである。
これは、雇用、貸与、医療トリアージという、規制対象の3つの領域にまたがっている。
NumPyのみのハーネスは、反ファクト的なフリップ率、平均絶対スコア差(MASD)、アクションレートの相違、ツール起動の相違を計算する。
論文 参考訳（メタデータ） (2026-06-15T13:50:26Z) - Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。
ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。
本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
論文 参考訳（メタデータ） (2026-03-22T21:50:28Z) - From Gameplay Traces to Game Mechanics: Causal Induction with Large Language Models [64.43268969806098]
本稿では,観測データから法則を推定できる因果誘導について検討する。
本稿では,VGDL生成に対する2つのアプローチを比較する。観測からの直接コード生成と,まず構造因果モデル(SCM)を推定し,次にVGDLに変換する2段階法である。
その結果,SCMに基づくアプローチは,直接生成よりも基礎的真実に近いVGDL記述を多く生み出すことがわかった。
論文 参考訳（メタデータ） (2026-01-30T08:48:23Z) - DualVLA: Building a Generalizable Embodied Agent via Partial Decoupling of Reasoning and Action [62.70893433854428]
推論能力を維持しつつ、慎重に設計した後処理により動作性能を向上させるDualVLAを提案する。
実験の結果、DualVLAはSimplerEnvの平均成功率は61.0であり、8つの競合するマルチモーダルベンチマークの平均スコアは65.4であることがわかった。
論文 参考訳（メタデータ） (2025-11-27T06:03:53Z) - Critical or Compliant? The Double-Edged Sword of Reasoning in Chain-of-Thought Explanations [60.27156500679296]
系統的な推論連鎖の摂動とデリバリートーンの操作による道徳シナリオにおけるCoT(Chain-of-Thought)の説明の役割について検討した。
1) 利用者は, 根拠に欠陥がある場合でも, 信頼感を保ち, 結果合意を信頼する傾向がみられた。
これらの結果は、CoTの説明が同時に明確化と誤解を招き、視覚的信頼よりも精査と批判的思考を奨励する説明を提供するNLPシステムの必要性を強調している。
論文 参考訳（メタデータ） (2025-11-15T02:38:49Z) - Do What? Teaching Vision-Language-Action Models to Reject the Impossible [53.40183895299108]
VLA(Vision-Language-Action)モデルは、さまざまなロボットタスクにおいて強力なパフォーマンスを示している。
Instruct-Verify-and-Act(IVA)を提案する。
実験の結果,IVAはベースラインよりも97.56%の精度で虚偽の前提検出精度を向上させることがわかった。
論文 参考訳（メタデータ） (2025-08-22T10:54:33Z) - Counterfactual reasoning: an analysis of in-context emergence [57.118735341305786]
我々は、言語モデルが反実的推論が可能なことを示す。
自己注意、モデル深度、トレーニング済みデータの多様性によってパフォーマンスが向上することがわかった。
以上の結果から, SDE 動態下での反実的推論が可能となった。
論文 参考訳（メタデータ） (2025-06-05T16:02:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。