論文の概要: When "Do Not" Is Not Deny: Security Rules in CLAUDE.md vs Built-In Controls

• arxiv url: http://arxiv.org/abs/2608.23550v1
• Date: Mon, 24 Aug 2026 17:52:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 13:29:44.229005
• Title: When "Do Not" Is Not Deny: Security Rules in CLAUDE.md vs Built-In Controls
• Title（参考訳）: Do Not"が否定的でない場合: CLAUDE.mdのセキュリティルールとビルトインコントロール
• Abstract要約: Do not"はモデルが解釈する自然言語命令である。 Do not"は、エージェントがそれを取る前にアクションをブロックするビルトインコントロールである。 このギャップを481の公開CLAUDE.mdファイルで測定する。
• 参考スコア（独自算出の注目度）: 0.533024001730262
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In CLAUDE.md, "do not" is a natural-language instruction that the model interprets. Claude Code's deny is a built-in control that blocks an action before the agent can take it. Both can express the same security goal, but they control the agent in different ways. We measure this gap in 481 public CLAUDE.md files. An LLM matched the extracted candidate rules against Claude Code's documented controls, and two security practitioners independently checked a sample without seeing the model's answers or each other's labels. Depending on how closely a control had to match the written rule, only about 4-16% of the retrieved security rules had a matching built-in control. Under the strictest standard the estimate was 4.4% (95% CI: 2.6-6.7%), and the two annotators agreed closely on which rules had a match. A manual review of complete files found that our extraction method captured 66.3% of eligible security rules; the reported rates therefore apply to the rules it captured. This is a usable security problem: CLAUDE.md is a write-only channel. A developer writes a security rule but gets no feedback on whether a control will enforce it. The same plain-text form hides two kinds of rule: those a permission rule, mode, or sandbox can enforce, and those left to the model to interpret.
• Abstract（参考訳）: CLAUDE.mdでは、"do not"はモデルが解釈する自然言語命令である。 Claude Codeの否定は、エージェントがそれを取る前にアクションをブロックするビルトインコントロールである。 どちらも同じセキュリティ目標を表現できるが、異なる方法でエージェントを制御する。 このギャップを481の公開CLAUDE.mdファイルで測定する。 LLMは、クロードコードの文書化されたコントロールに対して抽出された候補ルールと一致し、2人のセキュリティ実践者がモデルの回答やお互いのラベルを見ることなく、個別にサンプルをチェックした。 コントロールが記述されたルールにどの程度近いかによって、検索されたセキュリティルールの約4-16%が、一致したビルトインコントロールを持っていた。 最も厳格な基準の下では、見積もりは4.4%(95% CI: 2.6-6.7%)であり、2人の注釈者はどのルールが一致しているかについて密接に合意した。 完全なファイルのマニュアルレビューでは、当社の抽出方法は66.3%のセキュリティルールを取得できた。 CLAUDE.mdは書き込み専用チャネルである。 開発者はセキュリティルールを書くが、制御がそれを強制するかどうかについてのフィードバックは得られない。 同じプレーンテキスト形式は、パーミッションルール、モード、サンドボックスの2つのルールを隠蔽し、モデルに残されたルールを解釈する。

関連論文リスト

• Claude Code Complete User Handbook [0.0]
  Claude Codeは、未検証アクセス、シェル実行、ブラウザ制御、スケジュールおよびクラウド実行を備えたループで動作する言語モデルである。 この本は、そのシステムを安全かつ生産的に運用するためのタスク指向の参照である。
  論文  参考訳（メタデータ） (2026-08-27T07:32:14Z)
• LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
  大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。 我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-26T12:13:05Z)
• Harness-IF: Evaluating Instruction Following Across Instruction Surfaces in Coding Agents [29.96375986740068]
  Harness-IFは、実行証拠から一度に1つの運用ルールをスコアする。 AP-Accは、不正なデフォルトに対してラベル付けされたルールのみをスコアする。
  論文  参考訳（メタデータ） (2026-08-12T07:07:57Z)
• Can AI Write Compliant Code, and to What Extent? Evaluating SOC 2 Compliance of Claude Fable 5, Claude Opus 4.8, and Claude Opus 5 Across Four Use Cases [0.0]
  モデル選択は、少なくとも8つのセルにまたがる1つのアイテムにおいて、同世代モデルで重要である。 1つのSOC2文は、すべてのケースを86-100%、23-50ポイントに移動し、すべての安全でない構成を取り除いた。
  論文  参考訳（メタデータ） (2026-08-07T21:48:14Z)
• Coding Agents as Test-Suite Auditors: Finding What Official Suites Miss While Approaching What They Catch [47.836680625916266]
  テストスイート監査官として機能する市販のコーディングエージェントは、どちらも、公式スイートが見逃すものを公開するために、敵対的なテストスイートを構築します。 認証チェーンは、各エージェントフラッグされた申請が、公式の裁判官に頼らずに、真にバグだらけであるか否かを判定する。 Codeforceは、利用可能なオフィシャルスイートを持たない問題に対して、同じテストビルディングメソッドを使用して、テストされた入力予算毎に5つの再生ベースラインを導出する。
  論文  参考訳（メタデータ） (2026-08-03T05:24:03Z)
• They'll Verify. They Just Won't Act. How Authority Framing and Laundered Code Turn a Trusted Agentic CI/CD Pipeline Into an Attack Surface [0.0]
  3つのプロバイダにまたがる5つの異なるプロダクションLLMから構築した5エージェントCI/CDパイプラインについて検討する。 単一の入力は、プロセスシークレットを攻撃者のURLに出力するコードを要求する。 失敗はシステム的であり、迅速な秘密保持も分散検証も保護されない。 すべてのデータは100%合成され、シンクはモックされ、exfil URLは決して接触されない。
  論文  参考訳（メタデータ） (2026-07-21T16:38:32Z)
• SafeClawBench: Separating Semantic, Audit-Evidence, and Sandbox Harm in Tool-Using LLM Agents [31.978790013349947]
  SafeClawBenchは、600の制御された敵タスクを備えたツール使用エージェントセキュリティのためのベンチマークである。 5つのエージェントエンドポイントを4つのプロンプトレベルポリシーで評価する。 これらのエンドポイントは、異なる障害モードをキャプチャします。
  論文  参考訳（メタデータ） (2026-06-16T18:04:45Z)
• CIAware-Bench: Benchmarking Control Intervention Awareness Across Frontier LLMs [100.38986535324284]
  我々は、フロンティアモデル全体でのtextbfcontrol textbfintervention (CI) の認識を測定するベンチマークである textbfCIAware-Bench を紹介する。 CIAware-Benchは、モデルが自身の軌跡を制御介入によって修正されたものと区別できるかどうかをテストする。
  論文  参考訳（メタデータ） (2026-06-09T16:24:16Z)
• ConsisGuard: Aligning Safety Deliberation with Policy Enforcement in LLM Guardrails [57.25411733152009]
  推論に基づくガードレールは、最終的な決定を下す前に明確な合理性を生成することによって安全性のモデレーションを改善する。 モデルは、その推論において有害な意図を認識することができるが、それでも安全なラベルを予測したり、政策を根拠とした正当化なしに安全でない決定を下す。 推論に基づくガードレールのための一貫性を考慮したフレームワークであるConsisGuardを提案する。
  論文  参考訳（メタデータ） (2026-05-29T09:42:08Z)
• Diagnosing Live Within-Policy Instruction Conflicts in LLM Agents with Witnessed Resolution Profiles [15.65681557926802]
  LLMエージェントは、長期にわたる自然着色促進ポリシーによって管理されるが、個々に合理的なスタンディングルールは、無視できない方法で相互作用することができる。 実生活におけるルール・コンフリクトの診断について検討し、現実的な状態を共同統治できる単一のプロンプトポリシーの中でルール・ペアを見つける。 我々は、Witnessed intra-policy Rule Evaluation PipelineであるWIREを紹介する。
  論文  参考訳（メタデータ） (2026-05-27T00:09:45Z)
• Distributed Multi-Layer Editing for Rule-Level Knowledge in Large Language Models [56.355176278601476]
  大規模言語モデルは、孤立した事実だけでなく、記号表現、自然言語の説明、具体例の推論をサポートするルールも格納する。 ほとんどのモデル編集手法は、対象の編集が局所的な介入によって達成できると仮定して、事実レベルの知識のために構築されている。 ルールレベルの知識編集の機械論的研究を通じて,この問題を考察する。
  論文  参考訳（メタデータ） (2026-04-09T14:22:19Z)
• Certifying LLM Safety against Adversarial Prompting [70.96868018621167]
  大規模言語モデル(LLM)は、入力プロンプトに悪意のあるトークンを追加する敵攻撃に対して脆弱である。 我々は,認証された安全保証とともに,敵のプロンプトを防御する最初の枠組みである消去・チェックを導入する。
  論文  参考訳（メタデータ） (2023-09-06T04:37:20Z)
• Obvious Manipulability of Voting Rules [105.35249497503527]
  Gibbard-Satterthwaite の定理は、全会一致で非独裁的な投票規則は、戦略的なものではないと述べる。 我々は投票規則を再検討し、明らかでない操作性という戦略的安全性の弱い概念を考察する。
  論文  参考訳（メタデータ） (2021-11-03T02:41:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。