Fugu-MT 論文翻訳(概要): Silent Updates: Measuring and Closing the Post-Deployment Disclosure Gap

論文の概要: Silent Updates: Measuring and Closing the Post-Deployment Disclosure Gap

arxiv url: http://arxiv.org/abs/2608.11803v1
Date: Wed, 12 Aug 2026 08:45:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-13 19:07:54.524107
Title: Silent Updates: Measuring and Closing the Post-Deployment Disclosure Gap
Title（参考訳）: Silent Updates: デプロイ後の公開ギャップの測定とクローズ
Abstract要約: サードパーティのAPIプロバイダや推論ホスト間でのデプロイ後開示の実践について検討する。我々は、デプロイ後の開示プラクティスを測定するための公開ツールであるSilent Updates Scorecardを紹介する。また,再評価義務の開示や再評価を動機づけるシステムに,デプロイ後の変更をいつ行うかを決定するための3部行動トリガーシステムを提案する。
参考スコア（独自算出の注目度）: 0.9927426295376472
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Deployed foundation models are often not static systems, with providers able to modify system behavior through fine-tuning, classifier updates, system prompt revisions, retrieval changes, and routing changes. These updates can be made silently -- that is, without public disclosure, a version increment, or re-evaluation. Such silent updates challenge a core assumption behind current AI governance frameworks that an externally verifiable chain of custody links the model referred to in evaluation results or a system card to the model served to users. In this paper, we examine post-deployment disclosure practices across first-party API providers and inference hosts to establish the extent to which a chain of custody exists in practice. We find that providers commonly publish substantial safety documentation, including quantitative evaluations and version-specific reports, but no provider in our sample published information allowing an external party to verify that the artifact being served is the same one referred to in this documentation. We introduce the Silent Updates Scorecard, a public instrument for measuring post-deployment disclosure practices across providers and hosts, and preliminary results for a sample of nine first-party API providers and seven third-party inference hosts. We also propose a Three-Part Behavioral Trigger System for determining when post-deployment modifications to a system motivate disclosure or re-evaluation obligations.
Abstract（参考訳）: デプロイされた基盤モデルは静的システムではなく、プロバイダは微調整、分類器のアップデート、システムプロンプトのリビジョン、検索変更、ルーティング変更を通じてシステムの振る舞いを変更することができる。これらの更新は、公開情報やバージョンインクリメント、再評価なしで、静かに行うことができる。このような静かな更新は、現在のAIガバナンスフレームワークの背後にある中核的な仮定に挑戦する。外部から検証可能な保護者の連鎖は、評価結果に言及されたモデルや、ユーザに提供するモデルにシステムカードをリンクする。本稿では,サードパーティのAPIプロバイダや推論ホストを対象とするデプロイ後開示の実践について検討し,実際に保持の連鎖が存在する範囲を確定する。定量的評価やバージョン固有のレポートを含む,実質的な安全性に関するドキュメントを一般的に公開しているプロバイダはいませんが,本資料に言及されているアーティファクトが外部の関係者によって確認可能な情報をサンプルに公開しているプロバイダはいません。我々はSilent Updates Scorecardを紹介した。これは、プロバイダとホスト間でのデプロイ後の開示プラクティスを測定するための公開機器であり、9つのサードパーティAPIプロバイダと7つのサードパーティ推論ホストのサンプルの予備的な結果である。また,再評価義務の開示や再評価を動機づけるシステムに,デプロイ後の変更をいつ行うかを決定するための3部行動トリガーシステムを提案する。

関連論文リスト

Reality Is the Final Verifier: On Two Key Gaps in Agentic Software Engineering [78.51705689800838]
本稿では, 要求, モデル, 評価器の見直しに, 展開証拠を用いた保証・修正ループを提案する。そこで我々は,人的判断,エージェント能力,計算能力に対する資源配分問題としてエージェント開発を保証した。
論文参考訳（メタデータ） (2026-09-10T17:58:48Z)
AgentProv: Auditing Agentic LLM API Providers via Tool-use Policy Probes [38.37599802008238]
商用LLM APIは特定の基盤モデルを宣伝するが、提供されたバックボーンは静かに代用され、定量化され、あるいはラップされることがある。既存の監査はすべて、テキスト出力チャネルからバックボーンアイデンティティを決定する。本稿では,AgentProv(AgentProv)について紹介する。
論文参考訳（メタデータ） (2026-08-30T08:22:12Z)
Open Evaluation Agent: Efficient and Promptable Evaluation of Visual Generative Models [74.1961755473754]
既存の評価手法は、特定のユーザのニーズを見落とし、明確な説明なしに数値的な結果を提供する厳密なパイプラインに依存している。本研究では,効率的,動的,多ラウンドな評価に人間的な戦略を用いる評価エージェントフレームワークを提案する。その結果,評価エージェントは評価時間を従来の手法の10%に短縮し,比較結果が得られた。
論文参考訳（メタデータ） (2026-08-10T14:42:10Z)
Phantoms and Disclosures: a Causal Framework for Auditing Synthetic Data [56.86147283213652]
データ開示の検出と説明を目的とした,カスタマイズ可能な実証監査フレームワークを提案する。本フレームワークでは,ユーザの情報を直接再現する「真の開示」と,ユーザのデータを偶発的に生成する「幻の開示」とを区別する機構を導入する。
論文参考訳（メタデータ） (2026-06-15T16:54:02Z)
AuditWeave: A Tamper-Evident, Auditor-Navigable Evidence Layer for AI-Assisted and Data-Transformation Workflows [0.0]
AuditWeaveは、AIアシストとデータ変換のステップを1つのハッシュチェーンの台帳に記録する軽量Pythonライブラリである。本稿では,参照実装におけるオーバヘッド,拡張性,タンパー検出の正確さを設計し,評価する。
論文参考訳（メタデータ） (2026-06-14T21:46:04Z)
GCVE: A Decentralized Model for Vulnerability Identification, Publication, and Operational Enrichment [51.77969450792284]
Global CVEイニシアチブ(Global CVE Initiative, G)は、脆弱性の識別、パブリッシュ、エンリッチメントのための分散化、オープン化、識別子モデルを提案する。本稿では,自律型G番号認証,ライトウェイトアロケーションルール,分散パブリッシュ,オープン・ベスト・カレントプラクティス,実用的なリファレンス実装を組み合わせた社会技術的取り組みとしてGを提案する。
論文参考訳（メタデータ） (2026-05-30T19:03:39Z)
Test Before You Deploy: Governing Updates in the LLM Supply Chain [3.6704226968275253]
大規模言語モデル(LLM)は、ソフトウェアシステムの中核的な依存関係としてますます使われています。 LLMは明示的なバージョン変更なしにプロバイダ側の更新を通じて継続的に進化する。本稿では,3つのコンポーネントをベースとしたデプロイメントサイドガバナンスフレームワークを提案する。
論文参考訳（メタデータ） (2026-04-30T12:32:13Z)
Making AI-Assisted Grant Evaluation Auditable without Exposing the Model [0.0]
本稿では,遠隔検定による要求の整合を支援するTEEアーキテクチャを提案する。このアーキテクチャにより、外部検証者はどのモデル、ルーブリック、プロンプトテンプレート、入力表現が使われたかをチェックすることができる。我々は、秘密のAI推論、証明可能なAI監査、ゼロ知識機械学習、アルゴリズムのアカウンタビリティ、AI支援ピアレビューに対する設計を位置付ける。
論文参考訳（メタデータ） (2026-04-28T04:10:04Z)
Verifiable Fine-Tuning for LLMs: Zero-Knowledge Training Proofs Bound to Data Provenance and Policy [0.0]
本稿では,簡潔なゼロ知識証明を生成するプロトコルとシステムであるVerifiable Fine Tuningを提案する。本システムは,確率的監査と帯域幅制約によって構成されることを示す。結果から,本システムは実パラメータ効率のよいパイプラインで実現可能であることが示唆された。
論文参考訳（メタデータ） (2025-10-19T13:33:27Z)
Towards Real-Time Fake News Detection under Evidence Scarcity [66.58597356379907]
本稿では,リアルタイムフェイクニュース検出のための新しいフレームワークである評価アウェア・セレクション・オブ・エキスパートズ(EASE)を提案する。 EASEは、利用可能な証拠の十分性を評価した意思決定プロセスに適合する。本稿では,新興ニュースのモデル一般化を限られた証拠で評価するための新しいベンチマークであるRealTimeNews-25を紹介する。
論文参考訳（メタデータ） (2025-10-13T11:11:46Z)
OpenFactCheck: Building, Benchmarking Customized Fact-Checking Systems and Evaluating the Factuality of Claims and LLMs [59.836774258359945]
OpenFactCheckは、カスタマイズされたファクトチェックシステムを構築するためのフレームワークである。ユーザーは自動的にファクトチェッカーをカスタマイズし、文書やクレームの事実的正当性を検証できる。 CheckerEVALは、人間の注釈付きデータセットを使用して、自動ファクトチェッカーの検証結果の信頼性を高めるソリューションである。
論文参考訳（メタデータ） (2024-05-09T07:15:19Z)
Client-specific Property Inference against Secure Aggregation in Federated Learning [52.8564467292226]
フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
論文参考訳（メタデータ） (2023-03-07T14:11:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。