論文の概要: AI Models Can Provably Hide Arbitrary Capabilities

• arxiv url: http://arxiv.org/abs/2610.13928v2
• Date: Wed, 14 Oct 2026 17:58:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.003502
• Title: AI Models Can Provably Hide Arbitrary Capabilities
• Title（参考訳）: AIモデルは、おそらく任意能力を隠すことができる
• Abstract要約: 隠れた能力が引き起こされるという仮定は、敵の条件下では成り立たないことを示す。 我々は,PyTorchにおける概念構築の証明を実装し,微調整,重み付け,勾配に基づくトリガーサーチ,潜時的対位訓練による評価を行った。 本研究は,これらの手法に対する抵抗性を実証し,暗号的保証とともに,ライセンスに基づく能力監査の限界を明らかにした。
• 参考スコア（独自算出の注目度）: 3.55416522355501
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Capability evaluations aim to surface dangerous model behaviors before deployment, but their reliability depends on the assumption that hidden capabilities can be elicited. We show this assumption does not hold under adversarial conditions by constructing backdoor attacks that embed encrypted neural networks within host model weights, decrypting and executing them only upon receiving a secret trigger. Using digital lockers, these hidden circuits remain provably hard to elicit and interpret under cryptographic assumptions, even given full access to model weights, extending prior work from hiding fixed strings to arbitrary computations. We implement our proof of concept constructions in PyTorch and evaluate elicitation through fine-tuning, weight noising, gradient-based trigger search, and latent adversarial training, using a small chemical reaction prediction task as a proxy for CBRN-relevant capabilities. Our results demonstrate resistance to these methods and, together with our cryptographic guarantees, reveal a limit of elicitation-based capability audits. We release our models to support the improvement of defenses.
• Abstract（参考訳）: 能力評価は、デプロイ前に危険なモデル行動を明らかにすることを目的としているが、その信頼性は、隠れた能力を引き出すことができるという仮定に依存する。 この仮定は、ホストモデルの重みに暗号化されたニューラルネットワークを埋め込んだバックドア攻撃を構築し、秘密のトリガーを受信した時にのみ、それらを復号し実行することによって、敵の条件下では成立しないことを示す。 これらの隠蔽回路は、固定文字列の隠蔽から任意の計算まで、たとえモデル重みへの完全なアクセスが与えられたとしても、暗号的な仮定の下で引き起こし、解釈することが確実に困難である。 我々はPyTorchにおける概念構築の実証を行い、CBRN関連機能のプロキシとして小さな化学反応予測タスクを用いて、微調整、重み付け、勾配ベーストリガーサーチ、潜時対向訓練による評価を行った。 本研究は,これらの手法に対する抵抗性を実証し,暗号的保証とともに,ライセンスに基づく能力監査の限界を明らかにした。 私たちは防衛の改善をサポートするためにモデルをリリースします。

関連論文リスト

• Crushing the Evidence: A Dual-Penalty Evasion Framework for Fooling White-Box Explainable AI Auditors [4.377640147713394]
  ポストホックモデルの説明器は、高感度ドメインのモデルを監査するために広くデプロイされている。 説明可能性パイプラインにおける潜在的な攻撃について、いくつかの研究がなされている。 より強力なホワイトボックス、勾配調整型回避攻撃フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-08-01T10:03:14Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Secret Stealing Attacks on Local LLM Fine-Tuning through Supply-Chain Model Code Backdoors [9.503673758168693]
  ローカルな微調整データセットは、APIキーや個人識別子、財務記録など、機密性の高いシークレットを常用する。 私たちは、実用的だが見過ごされたサプライチェーンベクターを使用します -- 標準アーキテクチャ定義としてキャモフラージュされたモデルコードです。 オンラインテンソルルールマッチングによる動的計算フローにおいてトークンレベルのシークレットにロックする決定論的フルチェーン機構を導入する。
  論文  参考訳（メタデータ） (2026-04-30T05:03:08Z)
• TraceGuard: Process-Guided Firewall against Reasoning Backdoors in Large Language Models [19.148124494194317]
  我々は,小規模モデルを堅牢な推論ファイアウォールに変換するプロセス誘導型セキュリティフレームワークであるTraceGuardを提案する。 提案手法は,推理トレースを信頼できないペイロードとして扱い,詳細な防衛戦略を確立する。 グレーボックス設定における適応的敵に対する堅牢性を実証し、TraceGuardを実用的で低レイテンシなセキュリティプリミティブとして確立する。
  論文  参考訳（メタデータ） (2026-03-02T22:19:13Z)
• MISLEADER: Defending against Model Extraction with Ensembles of Distilled Models [56.09354775405601]
  モデル抽出攻撃は、クエリアクセスを通じてブラックボックスモデルの機能を複製することを目的としている。 既存のディフェンスでは、アタッカークエリにはオフ・オブ・ディストリビューション(OOD)サンプルがあることを前提としており、不審な入力を検出し破壊することができる。 OOD仮定に依存しない新しい防衛戦略であるMISLEADERを提案する。
  論文  参考訳（メタデータ） (2025-06-03T01:37:09Z)
• REFINE: Inversion-Free Backdoor Defense via Model Reprogramming [60.554146386198376]
  ディープニューラルネットワーク(DNN)に対するバックドア攻撃は、重大なセキュリティ脅威として浮上している。 モデル再プログラミングに基づく逆フリーバックドア防御手法であるREFINEを提案する。
  論文  参考訳（メタデータ） (2025-02-22T07:29:12Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)
• Leveraging Diffusion-Based Image Variations for Robust Training on Poisoned Data [26.551317580666353]
  バックドア攻撃は、ニューラルネットワークをトレーニングする上で深刻なセキュリティ上の脅威となる。 本稿では,近年の拡散モデルのパワーを生かして,潜在的に有毒なデータセットのモデルトレーニングを可能にする新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-10-10T07:25:06Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。