論文の概要: Telemetry and Concealment in Self-Adapting Generative AI: Logging Architecture, Adversarial Model Hiding, and the Limits of Detection
- arxiv url: http://arxiv.org/abs/2608.09069v2
- Date: Tue, 11 Aug 2026 03:31:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 16:08:30.683276
- Title: Telemetry and Concealment in Self-Adapting Generative AI: Logging Architecture, Adversarial Model Hiding, and the Limits of Detection
- Title（参考訳）: 自己適応型生成AIにおけるテレメトリと概念:ログングアーキテクチャ、逆モデルハイディング、検出限界
- Abstract要約: 自己適応型生成AIシステムは、ポイントインタイムの検証が不十分である。
このようなモデルに対する厳密なテレメトリアーキテクチャを開発し、離散時間と連続時間で同時に運用する。
我々はこれをモデルハイディング問題として定式化し、パートIアーキテクチャに対する6つの異なる攻撃戦略の体系的な分類を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Model risk management (MRM) guidance assumes a static model lifecycle, in which models are developed, independently validated, and implemented without further autonomous modification. Continually self-adapting generative AI systems --- models that update their own weights during production deployment --- fundamentally violate this assumption and render point-in-time validation inadequate. This paper addresses the resulting governance problem in two parts. Part I develops a rigorous telemetry architecture for such models, operating simultaneously in discrete and continuous time. We establish a Minimal Sufficient Statistic for audit purposes, construct a tamper-evident Merkle chain for discrete weight sequences, derive the appropriate continuous-time generalization via the Ito formula, and propose event-driven logging via KL divergence stopping times that is both computationally tractable and meaningful for validation. Part II asks what happens when the model provider is adversarial. A firm deploying such a model has strong incentives to conceal learning updates that would trigger mandatory validation review. We formalize this as the Model Hiding Problem and provide a systematic taxonomy of six distinct attack strategies against the Part I architecture, spanning discrete and continuous time, with a formal countermeasure for each. Together the two parts establish a dual-regime architecture in which continuous telemetry is necessary but not sufficient, narrowing---but never replacing---periodic invasive audit. The framework is model-architecture-agnostic and is designed to satisfy the three pillars of traditional MRM.
- Abstract（参考訳）: モデルリスク管理(MRM)のガイダンスは、モデルの開発、独立して検証、さらに自律的な修正なしに実施される静的モデルライフサイクルを前提としている。
継続的自己適応型の生成AIシステム -- 運用デプロイメント中に自身の重みを更新するモデル -- は、この仮定を根本的に違反し、ポイント・イン・タイムの検証が不十分である。
本稿では、ガバナンスの結果として生じる問題を2つの部分で解決する。
パート1は、離散的かつ連続的に同時に動作する、そのようなモデルのための厳密なテレメトリアーキテクチャを開発する。
我々は、監査目的に十分な最小統計値を確立し、離散重み列のためのタンパー・エビデント・メルクル・チェーンを構築し、伊藤式による適切な連続時間一般化を導出し、計算的に抽出可能かつ検証に有意義なKL発散停止時間によるイベント駆動ロギングを提案する。
パート2は、モデルプロバイダが逆境にあるときに何が起こるのかを問う。
そのようなモデルをデプロイする企業は、必須の検証レビューを引き起こすような、学習のアップデートを隠蔽する強力なインセンティブを持っている。
我々はこれをモデルハイディング問題として定式化し、個別かつ連続的な時間にまたがる、パートIアーキテクチャに対する6つの異なる攻撃戦略の体系的な分類を提供する。
2つのパートは、連続的なテレメトリが必要なが不十分な二重登録アーキテクチャを確立します。
このフレームワークはモデルアーキテクチャに依存しないものであり、従来のMRMの3つの柱を満たすように設計されている。
関連論文リスト
- MetaRSI / RSI2: A Meta-Recursive Self-Improving System for Recursive Self-Improving Systems Themselves [65.60481414910728]
再帰的な自己改善により、システムは自身の失敗からモデル構築機械を改善することができる。
しかし、RSIは、科学のQAや数学のようなコーディングと形式的なベンチマークにのみ検証されている。
RSIは次に、科学的、工学的、メタ科学的な領域にまたがって運用されなければならない、と我々は主張する。
本稿では,MetaRSI-v1を提案する。改良は,1つの統一パラダイム上での3つの型付き演算子のスケジュール構成である。
論文 参考訳（メタデータ） (2026-09-06T05:15:31Z) - DUD: Decoupled Update Dynamics for Reliable Uncertainty Quantification in Large Language Models [16.097057987606714]
textbfDecoupled textbfUpdate textbfDynamics textbf(DUD)を導入する。
各モジュールの独立復元能力を定量化することにより、モデルの内部の不安定性を捉えるデュアルストリーム動的プロファイルを構築する。
論文 参考訳（メタデータ） (2026-08-04T10:04:33Z) - Model-Driven Discipline for Multi-Agent LLMs: Requirement-to-Verification Generation of Traceable System Models [62.62160094849002]
RADIANTは、MDEとMulti-Agent Large Language Modelを組み合わせたエンジニアリング方法論である。
工学的なフェーズにまたがる異種モデルを自動的に生成する。
正確かつ自動的な変更インパクト分析を提供する。
論文 参考訳（メタデータ） (2026-07-18T08:50:55Z) - Adaptive Recurrent Message Passing for Test Time Computing on Graphs [80.56829418752513]
繰り返しグラフモデルでは,グラフデータとアーキテクチャ設計の固有のミスマッチを克服できることを示す。
本稿では,アダプティブ・リカレントグラフモデルであるAdaRを提案する。
論文 参考訳（メタデータ） (2026-06-21T12:14:11Z) - The Efficiency Gap in Byte Modeling [101.18202046105718]
2つの代替パラダイムは、サブワードトークン化と自己回帰順序付けの使用に挑戦している。
これらの構造的先行性を取り除くことは、計算コストを著しく削減することを示します。
この結果から, 将来のモジュラリティ非依存設計は, 拡張軌道を維持するために, 代替構造バイアスを組み込まなければならないことが示唆された。
論文 参考訳（メタデータ） (2026-05-13T03:03:30Z) - Modelling and Model-Checking a ROS2 Multi-Robot System using Timed Rebeca [1.3048920509133806]
Timed Rebecaはアクターベースのモデリング言語で、リアクティブ、並列、タイムセマンティクスをサポートする。
本稿では,マルチボットシステムの設計と検証にモデルを使用する方法,モデルチェックを効率的に行うために継続的システムを個別にモデル化する方法を示す。
RebecaとROS2のコードは、複数の自律ロボットシステムをモデル化するための基盤となる。
論文 参考訳（メタデータ） (2025-11-19T08:28:30Z) - Human-aligned AI Model Cards with Weighted Hierarchy Architecture [5.774549987076668]
LLM(Large Language Models)の普及は、専門的なドメイン特化モデルのエコシステムの肥大化につながった。
Model CardsやFactSheetsといった既存のドキュメントフレームワークは、レポートの標準化を試みるが、多くの場合は静的で、質的である。
我々は、静的開示からアクション可能な人間対応のドキュメントに移行する新しいアプローチである包括的責任AIモデルカードフレームワーク(CRAI-MCF)を紹介します。
論文 参考訳（メタデータ） (2025-10-08T13:13:18Z) - Every Step Counts: Decoding Trajectories as Authorship Fingerprints of dLLMs [63.82840470917859]
本稿では,dLLMの復号化機構をモデル属性の強力なツールとして利用できることを示す。
本稿では、デコードステップ間の構造的関係を捉え、モデル固有の振る舞いをよりよく明らかにする、DDM(Directed Decoding Map)と呼ばれる新しい情報抽出手法を提案する。
論文 参考訳（メタデータ） (2025-10-02T06:25:10Z) - Correct-by-Construction Control for Stochastic and Uncertain Dynamical
Models via Formal Abstractions [44.99833362998488]
我々は、様々なモデリングの前提の下でこの問題を解決するために使用できる抽象フレームワークを開発する。
我々は、与えられた仕様を満たすための保証とともに、iMDPの最適ポリシーを計算するために最先端の検証技術を使用します。
そして、このポリシーを構築によって、これらの保証が動的モデルに受け継がれるフィードバックコントローラに改良できることを示します。
論文 参考訳（メタデータ） (2023-11-16T11:03:54Z) - Disentanglement via Latent Quantization [60.37109712033694]
本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。
本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
論文 参考訳（メタデータ） (2023-05-28T06:30:29Z) - Anomaly Detection of Time Series with Smoothness-Inducing Sequential
Variational Auto-Encoder [59.69303945834122]
Smoothness-Inducing Sequential Variational Auto-Encoder (SISVAE) モデルを提案する。
我々のモデルは、フレキシブルニューラルネットワークを用いて各タイムスタンプの平均と分散をパラメータ化する。
合成データセットと公開実世界のベンチマークの両方において,本モデルの有効性を示す。
論文 参考訳（メタデータ） (2021-02-02T06:15:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。