論文の概要: ServeGuard: Verifiable, Bounded-Residual Confinement of Operator-Invisible Channels Without Revealing the Certified Read Factor
- arxiv url: http://arxiv.org/abs/2609.21515v1
- Date: Fri, 18 Sep 2026 09:06:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:16.941365
- Title: ServeGuard: Verifiable, Bounded-Residual Confinement of Operator-Invisible Channels Without Revealing the Certified Read Factor
- Title（参考訳）: ServeGuard: 認定読影因子を発見せずに,オペレータ非可視チャネルの検証および境界残差制限
- Abstract要約: オープンウェイト言語モデルのサードパーティアダプタは、不透明な重量行列として出荷される。
受信者は、アダプタが出版社を信頼せずにバックドアを隠しているかどうかを確認することができない。
私たちはそれを構造的に強調し、それを証明します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Third-party adapters for open-weight language models ship as opaque weight matrices; a recipient cannot check whether an adapter hides a backdoor without trusting the publisher or inspecting the weights, the publisher's core asset. For one important class (payloads placed where a safety monitor is structurally blind), detection is unsound as a defense: every detector that factors through the declared monitor is invariant on its blind subspace, and honest and backdoored adapters overlap on every blind-subspace statistic we evaluate, because benign adaptation uses that subspace too. Rather than detect this channel, we make it structurally \emph{absent} and prove that we did. The publisher builds the adapter to read the input only through directions the monitor covers and proves this in zero knowledge, revealing nothing about the read factor it certifies. The certificate is cheap because the expensive part, identifying the monitor's blind spot, is a deterministic function of the \emph{public} base model, so only one linear identity is proved; the served residual is the base model's own public floor, not a prover-chosen tolerance. The result is \emph{ServeGuard}, a supply-chain primitive: the publisher ships a \emph{proof-carrying adapter} whose proof lets a consumer or regulator verify, without the certified read factor and without trusting the publisher, that the adapter carries no hidden channel of this class relative to the declared monitor; an admission-time typing guard binds the guarantee to the adapter bytes admitted at serving time. Across eight checkpoints up to 7B from four families, the monitoring budget is architectural: the measured frontier saturates at the value-path rank on grouped-query checkpoints but not on multi-head ones. On a 0.5B model confinement is nearly free for benign adaptation, making monitor quality the security lever.
- Abstract（参考訳）: オープンウェイト言語モデルのサードパーティアダプタは、不透明なウェイトマトリックスとして出荷される; 受信者は、アダプタがパブリッシャを信頼せずにバックドアを隠したり、パブリッシャのコア資産であるウェイトを検査したりすることなく、バックドアを隠しているかどうかを確認することができない。
1つの重要なクラス(安全モニターが構造的に不自由な場所に置かれるペイロード)に対して、検出は防御として正しくない: 宣言されたモニターを通して要因を判断するすべての検出器は、そのブラインドサブスペースで不変であり、正直でバックドアのアダプタは、私たちが評価するブラインドサブスペース統計で重複している。
このチャネルを検知するのではなく、構造的に \emph{absent} とし、それを証明します。
出版社は、モニターがカバーする方向のみを通じて入力を読み取るアダプタを構築し、これをゼロの知識で証明し、認証した読み取り要因について何も明らかにしない。
モニターの盲点を識別する高価な部分は、emph{public}ベースモデルの決定論的関数であるため、1つの線形識別のみが証明される。
その結果は、サプライチェーンプリミティブである \emph{ServeGuard} である。パブリッシャは、認証された読み取り係数なしで、かつパブリッシャを信頼せずに、消費者または規制当局が検証できる \emph{proof-carrying adapter} を出荷する。
測定されたフロンティアは、グループ化されたクエリのチェックポイントでは値パスのランクで飽和するが、マルチヘッドのチェックポイントでは飽和する。
0.5Bモデルの閉じ込めは、良質な適応にほぼ自由であり、モニター品質をセキュリティレバーにしている。
関連論文リスト
- Tracing Provenance and Detecting Tampering with Complementary LLM Watermarks [68.64050157343334]
既存の透かしは編集の際は残されているが、このような堅牢性は、敵が帰属を維持しながら重要な内容を変更することを可能にする。
実証と改ざんの証拠を共同で提供する革新的な透かしを導入する。
信号は同じメカニズムを共有するが、独立キーと正規化テキスト上の異なるシードウィンドウを使用するため、一方は編集に耐性があり、もう一方は読み取り可能な変更に敏感である。
論文 参考訳（メタデータ） (2026-08-13T01:55:16Z) - Whose Refusal Is It? The Unmeasured Contribution of Black-Box Multimodal Guardrails [24.794304039477495]
ガードレールの実際の安全のシェアは、そのすべてから本質的には、どれにも及ばない。
ガードブロックがモデルの応答を置き換えるため、スプリットは余分なコストでリカバリ可能である。
論文 参考訳（メタデータ） (2026-08-09T11:19:30Z) - A False Average: Chain-of-Thought Monitors Collapse Where They Are the Only Defense [1.0742675209112622]
CoT(Chain-of- Thought)モニタリングは、アクションできれいに見える報酬のハックをキャッチし、推論でのみ自分自身を裏切ることを目的としている。
ここでは、理屈をコントロールしている敵が、まさにそれを倒せる場所であることを示す。
論文 参考訳（メタデータ） (2026-08-01T10:42:41Z) - Level, Sharpness, and Corpus: Why Zero-Shot OOD Detector Rankings Do Not Transfer [36.02174685737611]
各検出器は、少なくとも1つのドメインで80%$ FPR95 を超え、所望の検出器は、分配データと基礎となる VLM の両方に依存する。
本稿では, ベース検出器, レベル, シャープネスの非補償融合により, 補完的証拠を保存する検出器非依存ラッパーであるComplementary Evidence Guard(CEG)を紹介する。
論文 参考訳（メタデータ） (2026-07-29T08:00:49Z) - When Local Monitors Miss Compositional Harm: Diagnosing Distributed Backdoors in Multi-Agent Systems [4.695509706472705]
地域安全は、害が構成的である場合、地球規模の安全ではない。
ローカルモニターは、局所的な証拠が消えると信号を失う。
フルトレースモニタとデコーダは、ペイロードが露出した表現に到達しなければ、依然として失敗する。
論文 参考訳（メタデータ） (2026-07-13T16:08:46Z) - Evaluating and Guarding Citation Faithfulness in Agentic Scientific Synthesis [2.7092559671391]
OpenScholarやPaperQA2のようなエージェントLLMシステムは科学論文を読み、引用された回答を返す。
どちらもそのチェックの信頼性を監査しません。
私たちはそれが信頼できないこと、そしてこれが重要であることを示します。
本報告では,ゴールドアンコール評価プロトコルとデプロイ可能なガードについて述べる。
論文 参考訳（メタデータ） (2026-07-10T02:05:17Z) - CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。
CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
論文 参考訳（メタデータ） (2026-06-09T16:24:16Z) - Guardian-as-an-Advisor: Advancing Next-Generation Guardian Models for Trustworthy LLMs [70.81495077853673]
ハードゲートのセーフティチェッカーは、しばしばベンダーのモデル仕様に過度に反抗し、不平を言う。
この研究は、ガーディアン・アズ・ア・アドバイザ(GaaA)というソフトゲーティングパイプラインを導入し、保護者がバイナリリスクラベルを予測し、このアドバイスを元のクエリに再推論する。
全体として、GaaAはモデル仕様に従うようモデルに指示し、過度な拒絶を減らしながら安全性を維持している。
論文 参考訳（メタデータ） (2026-04-08T23:47:29Z) - Advancing Machine-Generated Text Detection from an Easy to Hard Supervision Perspective [108.30620357325559]
既存の機械生成テキスト(MGT)検出手法は、ラベルを「黄金標準」として暗黙的に仮定する
このような不正確な条件下での信頼性の高い監視を実現するための,容易かつハードな強化フレームワークを提案する。
論文 参考訳（メタデータ） (2025-11-02T15:59:31Z) - Beyond Linear Probes: Dynamic Safety Monitoring for Language Models [67.15793594651609]
従来の安全モニタは、クエリ毎に同じ量の計算を必要とする。
動的アクティベーションモニタリングのための線形プローブの自然な拡張であるTrncated Polynomials (TPCs)を紹介する。
我々の重要な洞察は、TPCを段階的に、短期的に訓練し、評価できるということです。
論文 参考訳（メタデータ） (2025-09-30T13:32:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。