論文の概要: The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models

• arxiv url: http://arxiv.org/abs/2608.24662v1
• Date: Tue, 25 Aug 2026 15:05:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-26 14:09:35.054147
• Title: The Invisible Editorial Layer: Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models
• Title（参考訳）: Invisible Editorial Layer:Formalizing Undisclosed Inference-Time Steering, Probability Placement, and the Attribution Problem in Deployed Language Models
• Abstract要約: 推論パイプラインは、トークン選択の直前にモデルによって生成される確率分布を変更する。 本稿では,推測時フレーミングバイアスの出現について検討する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are commonly evaluated under the assumption that their observable behavior is primarily determined by model weights, training data, alignment procedures, and user prompts. This view is incomplete. Modern inference pipelines may systematically modify the probability distribution produced by a model immediately before token selection, creating an additional layer of control between frozen weights and observed text. While controlled generation (e.g., PPLM, GeDi, DExperts, FUDGE) and text-watermarking systems (e.g., SynthID-Text) demonstrate the technical maturity of decoding- and logit-level interventions, the governance, security, and economic implications of an undisclosed inference policy remain comparatively underexplored. This paper examines the emergence of inference-time framing bias: the systematic modification of generated language toward political, ideological, institutional, or commercial frames via interventions applied after model inference but before token sampling. We formalize the operational reality Model != Deployed System and introduce three concepts: (1) the Inference Attribution Problem, characterizing why observed behavioral bias cannot generally be causally attributed to model weights alone under limited observability; (2) Probability Placement, defining a hypothetical advertising primitive in which commercial influence is implemented through systematic shifts in generation probabilities rather than explicit product insertions; and (3) Inference Policy Transparency, a governance principle for making deployment-layer interventions auditable. We examine these concepts in relation to Article 5 of the EU AI Act, the EU Digital Services Act, and FTC doctrines.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、観測可能な振る舞いが主にモデルの重み、トレーニングデータ、アライメント手順、ユーザープロンプトによって決定されるという仮定の下で一般的に評価される。 この見解は不完全だ。 現代の推論パイプラインは、トークン選択の直前にモデルによって生成された確率分布を体系的に修正し、凍結重みと観察されたテキストの間に追加的な制御層を作ることができる。 制御された世代(例えばPPLM、GeDi、DExperts、FUDGE)とテキスト透かしシステム(例えば、SynthID-Text)は、復号化とロジットレベルの介入の技術的成熟度、ガバナンス、セキュリティ、そして未公表の推論ポリシーの経済的影響を比較的過小評価している。 本稿では, モデル推論後, トークンサンプリング前の介入を通じて, 生成言語を政治的, イデオロギー的, 制度的, 商業的フレームに体系的に修正する, 推論時フレーミングバイアスの出現について検討する。 私たちはオペレーショナル・リアリティー・モデルを形式化します! = 展開システムを導入し,次の3つの概念を導入する。(1) 推測帰属問題,(1) 観察された行動バイアスが,限定された可観測性の下でのみモデル重みに因果的に原因付けられない理由を特徴付けること,(2) 商業的影響が明示的な製品挿入よりも発生確率の体系的な変化によって実現される仮説的広告プリミティブを定義すること,(3) 展開層介入を監査可能なガバナンス原則である推論政策透明性。 我々は、これらの概念を、EU AI法第5条、EUデジタルサービス法、FTCドクトリンに関して検討する。

関連論文リスト

• Generative Interpretability via Scalable Neuro-Symbolic Models [2.1550607598300617]
  我々は、生成的解釈可能性へのシフトを主張する。 本稿では、他の解釈可能性研究パラダイムと比較して、生成的解釈可能性の利点を示す。
  論文  参考訳（メタデータ） (2026-09-11T20:54:08Z)
• Auditing Proprietary Alignment in Large Language Models: A Comparative Framework Without a Ground-Truth Standard [19.605143530514777]
  大規模言語モデル(LLM)はますますリリースされ、不透明な開発とデプロイメントパイプラインを通じてデプロイされる。 プロプライエタリなルールや組織的な関心を反映した反応を生成する様々なモデルが報告されている。 比較行動分析を用いてブラックボックス言語モデルにおける固有アライメントを検出する統計的枠組みを提案する。
  論文  参考訳（メタデータ） (2026-06-07T00:20:55Z)
• Post-Deterministic Distributed Systems: A New Foundation for Trustworthy Autonomous Infrastructure [2.124730017640531]
  ポスト決定論的分散システム(Post-Deterministic Distributed Systems)は、異種環境をコーディネートするための研究とエンジニアリングモデルである。 古典的分散コンピューティングモデルがこの参加者モデルの非曖昧性特別ケースを形成することを示す。 プロトコル駆動開発、検証可能なエージェントインフラストラクチャ、自律状態制御プレーン、セマンティッククオラム保証、エピステミック状態レプリケーションの5つのアーキテクチャ柱を概説する。
  論文  参考訳（メタデータ） (2026-06-01T05:37:59Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Automatically Finding and Validating Unexpected Side-Effects of Interventions on Language Models [0.9099663022952497]
  本研究では,大規模言語モデルに対する介入の行動的影響を評価するための,自動化されたコントラスト評価パイプラインを提案する。 我々は, 既知の行動変化を注入することにより, 合成条件下でのアプローチを評価し, パイプラインがそれらを確実に回復することを示す。 全体として、パイプラインは、介入によって引き起こされるモデル行動の変化のホック後の監査のための統計的に根拠付き、解釈可能なツールを提供する。
  論文  参考訳（メタデータ） (2026-05-06T16:27:23Z)
• Active Inference: A method for Phenotyping Agency in AI systems? [0.11904398364437437]
  3つの基準を基準として、原則検査に開放された最小限の概念について論じる。 後続の信念、事前の嗜好、そして期待される自由エネルギーの最小化は、共同でエージェント・アクション・チェーンを構成する。
  論文  参考訳（メタデータ） (2026-04-25T12:41:53Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Analyzing Reasoning Consistency in Large Multimodal Models under Cross-Modal Conflicts [74.47786985522762]
  テキスト慣性(textual inertia)と呼ばれる重要な障害モードを特定し、矛盾する視覚的証拠を無視しながら、モデルは間違ったテキストに盲目的に固執する傾向がある。 本稿では,多種多様なLMMの推論連鎖に摂動を構造的に注入するLogicGraph摂動プロトコルを提案する。 その結果,10%未満の症例で自己修正が成功し,主に視覚的テキスト誤りの伝播に寄与することが判明した。
  論文  参考訳（メタデータ） (2026-01-07T16:39:34Z)
• Subject-Event Ontology Without Global Time: Foundations and Execution Semantics [51.56484100374058]
  形式化は9つの公理(A1-A9)を含み、実行可能性の正しさを保証する:履歴の単調性(I1)、因果性の非巡回性(I2)、トレーサビリティ(I3)である。 フォーマル化は、分散システム、マイクロサービスアーキテクチャ、DLTプラットフォーム、およびマルチパースペクティビティシナリオ(異なる主題から事実を分解する)に適用できる。 モデルに基づくアプローチ(A9): スキーマによるイベント検証、アクター認可、グローバル時間なしで因果連鎖の自動構築(W3)。
  論文  参考訳（メタデータ） (2025-10-20T19:26:44Z)
• Cognition-of-Thought Elicits Social-Aligned Reasoning in Large Language Models [17.381122321801556]
  大きな言語モデル(LLM)は複雑な推論において優れているが、それでも有害な振る舞いを示すことができる。 本稿では,認知的自己監視ループにLCMを組み込んだ新しい復号時間フレームワークCooTを紹介する。
  論文  参考訳（メタデータ） (2025-09-27T18:16:57Z)
• On the Fairness, Diversity and Reliability of Text-to-Image Generative Models [68.62012304574012]
  マルチモーダル生成モデルは 信頼性 公正性 誤用の可能性について 批判的な議論を巻き起こしました 埋め込み空間におけるグローバルおよびローカルな摂動に対する応答を解析し、モデルの信頼性を評価するための評価フレームワークを提案する。 提案手法は, 信頼できない, バイアス注入されたモデルを検出し, 組込みバイアスの証明をトレースするための基礎となる。
  論文  参考訳（メタデータ） (2024-11-21T09:46:55Z)
• Interpretable Imitation Learning with Dynamic Causal Relations [65.18456572421702]
  得られた知識を有向非巡回因果グラフの形で公開することを提案する。 また、この因果発見プロセスを状態依存的に設計し、潜在因果グラフのダイナミクスをモデル化する。 提案するフレームワークは,動的因果探索モジュール,因果符号化モジュール,予測モジュールの3つの部分から構成され,エンドツーエンドで訓練される。
  論文  参考訳（メタデータ） (2023-09-30T20:59:42Z)
• Answering Causal Queries at Layer 3 with DiscoSCMs-Embracing Heterogeneity [0.0]
  本稿では, 分散一貫性構造因果モデル (DiscoSCM) フレームワークを, 反事実推論の先駆的アプローチとして提唱する。
  論文  参考訳（メタデータ） (2023-09-17T17:01:05Z)
• Differentially Private Counterfactuals via Functional Mechanism [47.606474009932825]
  本稿では,デプロイされたモデルや説明セットに触れることなく,差分的プライベート・カウンティファクト(DPC)を生成する新しいフレームワークを提案する。 特に、ノイズの多いクラスプロトタイプを構築するための機能機構を備えたオートエンコーダを訓練し、次に潜伏プロトタイプからDPCを導出する。
  論文  参考訳（メタデータ） (2022-08-04T20:31:22Z)
• Estimating the Effects of Continuous-valued Interventions using Generative Adversarial Networks [103.14809802212535]
  我々は,連続的評価介入の効果を推定する問題に対処するため,GAN(Generative Adversarial Network)フレームワークを構築した。 我々のモデルであるSCIGANは柔軟であり、いくつかの異なる継続的な介入に対する対実的な結果の同時推定が可能である。 継続的な介入に移行することによって生じる課題に対処するために、差別者のための新しいアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-02-27T18:46:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。