論文の概要: Aletheia: Permission-Minimality Testing for Coding-Agent Rules
- arxiv url: http://arxiv.org/abs/2609.39678v1
- Date: Wed, 30 Sep 2026 13:09:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.822366
- Title: Aletheia: Permission-Minimality Testing for Coding-Agent Rules
- Title（参考訳）: Aletheia: コーディング-エージェントルールに対するパーミッション-ミニマリティテスト
- Abstract要約: Aletheiaは、パーミッション最小化テストのためのフレームワークである。
アレクシアは要求された権威を型付き言語に変換し、実行可能なサンドボックスを合成する。
完全な権限と独立した制限の下で変更のないルールとタスクを実行し、一度に1つの権限を削除する。
- 参考スコア（独自算出の注目度）: 17.15252294671239
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Repository instruction files guide coding agents, but also expose them to prompt injection. Malicious rules can request credential access or data transfer while the agent produces a correct patch. We present Aletheia, a framework for permission-minimality testing. Aletheia translates requested authority into a typed language and synthesizes executable sandbox configurations. It runs the unchanged rule and task under full permissions and independent restrictions that remove one permission at a time. Passing independent functional tests under strictly reduced authority provides a dispensability witness, which Aletheia interprets against task context to diagnose suspicious requests. We formalize synthesis and the conditions connecting witnesses to enforced restrictions. On a shared refactoring task, Aletheia executes and detects all 314 AIShellJack attack inputs, with no alarms on five benign templates. Among 80 manually verified benign GHAgentFiles rules, it raises three false positives (3.75%).
- Abstract（参考訳）: Repository命令ファイルは、コーディングエージェントをガイドするだけでなく、インジェクションのプロンプトにも公開する。
悪意のあるルールは、エージェントが正しいパッチを生成する間、クレデンシャルアクセスやデータ転送を要求できる。
Aletheiaは、パーミッション最小化テストのためのフレームワークである。
Aletheiaは要求された権威を型付き言語に変換し、実行可能なサンドボックス構成を合成する。
完全な権限と独立した制限の下で変更のないルールとタスクを実行し、一度に1つの権限を削除する。
厳格に制限された権限の下で独立した機能テストに合格すると、アレクシアは不審な要求を診断するためにタスクコンテキストに対して解釈するディスペンサビリティの証人となる。
我々は, 証人を強制的な制約に結びつける合成と条件を定式化する。
共有リファクタリングタスクでは、Aletheiaは5つの良質なテンプレートにアラームなしで、314のAIShellJackアタックインプットを実行し、検出する。
手動で検証されたGHAgentFilesルールのうち、3つの偽陽性(3.75%)を発生させる。
関連論文リスト
- SWE-Proof: Can Language Models Resolve Real-World Issues with Machine-Checked Proofs? [39.004582663385364]
Benchprooferは、既知の正しいパッチでコーディングタスクを正式に認証されたパイプラインに変換するパイプラインです。
SWE-bench Verified に適用すると SWE-Proof が得られる。
論文 参考訳（メタデータ） (2026-09-18T01:16:53Z) - The Troy Moment of AI: Why Some Will Cheat and Some Will Follow? [0.0]
エージェントは停止するか、エスカレートするか、他のエージェントの行動が決定を変えるか、という2つの質問を調査する。
GPT-5.6 Sol, Claude Fable 5.1, Gemini 3.8 Flashの7つのImpossibleBenchタスクを単独で3エージェント設定で検討した。
この結果から,ルールの保護を目的としたあいまいさ,明示的な認証境界のモチベーション,認証状態の証明,エージェント間監視から境界交差が生じる可能性が示唆された。
論文 参考訳（メタデータ） (2026-09-14T12:46:45Z) - Authority Is Not a String: A Capability-Scoped Harness for Prompt-Injection-Resistant Coding Agents [1.8587887164315786]
コードエージェントは、ファイルの読み込み、コマンドの実行、ソースコードの変更にシステムレベルのツールを使用する。
間接的なプロンプトインジェクションは、ユーザが要求しなかったアクションを実行するために、リポジトリファイルやツール出力に命令を配置することで、この権限を利用する。
本稿では、悪意のあるテキストを識別するモデルを必要とせず、ツールの使用を制限するハーネスレベルの認証機構であるCapScopeを提案する。
論文 参考訳（メタデータ） (2026-09-08T07:37:00Z) - SIR: Self-improving Red-teaming for Compute Use Agents [71.71987044117371]
コンピュータ・ユース・エージェント(CUA、Computer use agent)は、マウス、キーボード、端末を通じて画面を認識し、実際のオペレーティングシステムに作用する視覚言語モデルである。
操作中に信頼できないコンテンツに晒されるため、間接的プロンプトインジェクション(IPI)に弱い。
SIRは,平易な言語で記述された再利用原則の小さなライブラリからステルスインジェクションを構成するブラックボックスIPIアタックである。
論文 参考訳（メタデータ） (2026-08-31T03:39:43Z) - Stealing Reasoning Traces from Proprietary LLM APIs [84.58379404903394]
我々は、暗号化された推論トレースのためのスケーラブルな復号化ジェイルブレイクを開発する。
抗蒸留機構を回避し、敵がプロプライエタリなモデルの推論を抽出できるようにする。
それは必然的に、推論プロセス内に隠された有害な情報を明らかにします。
論文 参考訳（メタデータ） (2026-08-10T17:24:50Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳（メタデータ） (2026-07-24T06:43:09Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - Agent Skills Enable a New Class of Realistic and Trivially Simple Prompt Injections [24.46526203453932]
辺境のLLM会社はエージェントスキルを導入してこれを一歩進めた。
簡単なプロンプトインジェクションを可能にするため、基本的に安全でないことが示される。
我々は、機密データを抽出するために、長いエージェントスキルファイルや参照スクリプトに悪意のある命令を隠蔽する方法を実証する。
論文 参考訳（メタデータ） (2025-10-30T10:27:11Z) - Who Grants the Agent Power? Defending Against Instruction Injection via Task-Centric Access Control [25.109590157742712]
我々は、動的にタスクスコープ化されたパーミッションを強制する軽量ランタイムアクセス制御フレームワークであるAgentSentryを紹介する。
広範囲で永続的な許可を与える代わりに、AgentSentryは、最小限の一時的なポリシーを動的に生成し、強制する。
我々は,エージェントがプライベートメールの転送に騙されるようなインジェクション攻撃を,エージェントSentryがうまく防ぐことを実証する。
論文 参考訳（メタデータ） (2025-10-30T07:36:59Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳（メタデータ） (2025-03-11T17:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。