論文の概要: Trusted Credentials, Untrusted Behavior: Benchmarking LLM-Agent Security in High-Performance Computing
- arxiv url: http://arxiv.org/abs/2607.18485v1
- Date: Mon, 20 Jul 2026 20:16:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-22 19:05:05.238383
- Title: Trusted Credentials, Untrusted Behavior: Benchmarking LLM-Agent Security in High-Performance Computing
- Title（参考訳）: 信頼されたクレデンシャル、信頼できない振る舞い:高性能コンピューティングにおけるLLM-Agentセキュリティのベンチマーク
- Abstract要約: 大規模言語モデル (LLM) エージェントは、高性能コンピューティングにおける日常的な作業に取り組み始めている。
本稿では,HPC設定における脅威モデルを定義し,スケジューラ,共有ストレージ,マルチプロジェクトアカウント,科学的な評価を行い,現在の制御が不足している箇所について検討する。
- 参考スコア（独自算出の注目度）: 4.508726112104009
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model (LLM) agents are starting to take on routine work in high-performance computing (HPC), including monitoring Slurm jobs, diagnosing failed builds, inspecting simulation output, and coordinating scientific workflows. To do this work, an agent commonly acts under its user's credentials and inherits the user's access to files and the scheduler. This arrangement creates a failure mode that ordinary account-level controls do not capture. Adversarial instructions in a log, tool description, shared file, or peer-agent message may redirect the agent beyond the task the user assigned, even though every resulting command is authenticated and permitted for that account. We refer to this as the hijacked authorized agent problem. Existing agent-security studies explain relevant mechanisms, such as indirect prompt injection and tool misuse, but generally evaluate them in web, enterprise, or personal-assistant settings. HPC security, by contrast, has mature controls for identity and isolation but does not ordinarily represent the intent of a particular task. This paper defines the threat model in the HPC setting, identifies attack surfaces created by schedulers, shared storage, multi-project accounts, and scientific workflows, and examines where current controls fall short. It concludes with a research agenda and a plan for an empirical benchmark, TaskBound.
- Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、Slurmジョブの監視、ビルド失敗の診断、シミュレーション出力の検査、科学ワークフローの調整など、ハイパフォーマンスコンピューティング(HPC)のルーチン作業に着手している。
この作業を行うために、エージェントは一般的にユーザの認証の下で動作し、ユーザのファイルやスケジューラへのアクセスを継承する。
このアレンジメントは、通常のアカウントレベルのコントロールがキャプチャしないフェールモードを生成する。
ログ、ツール記述、共有ファイル、ピアエージェントメッセージは、すべてのコマンドが認証され、そのアカウントに対して許可されているにもかかわらず、ユーザが割り当てられたタスクを超えてエージェントをリダイレクトすることができる。
これをハイジャックされたエージェント問題と呼ぶ。
既存のエージェントセキュリティ研究は、間接的なプロンプトインジェクションやツールの誤用など、関連するメカニズムを説明しているが、一般的にはWeb、エンタープライズ、パーソナル・アシスタント・セッティングで評価されている。
対照的にHPCセキュリティは、アイデンティティとアイソレーションのための成熟したコントロールを持っているが、通常、特定のタスクの意図を表すものではない。
本稿では、HPC設定における脅威モデルを定義し、スケジューラ、共有ストレージ、複数プロジェクトアカウント、科学ワークフローによって生成された攻撃面を特定し、現在の制御が不足しているかを調べる。
調査の議題と実証的なベンチマークであるTaskBoundの計画で締めくくります。
関連論文リスト
- CONTRA: Red-Teaming Configurations of Personalizable Agents [31.01865239234458]
エージェント構成と、明示的な指示なしに危険な行動を実行するリスクの相互作用について検討する。
LLM支援木探索アルゴリズムであるconfiguration Tree-search for Red-teaming Agents (CONTRA)を提案する。
大規模な分析では、75.1%のスキルが少なくとも1つの構成を持つため、悪意のあるアクションが実行される。
論文 参考訳（メタデータ） (2026-07-03T11:34:27Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - AgentHijack: Benchmarking Computer Use Agent Robustness to Common Environment Corruptions [78.49000936275773]
我々は、一般的な汚職下でのコンピュータ利用エージェントの堅牢性を評価するために設計されたベンチマークであるAgentHijackを紹介する。
MLLMをベースとした各種デスクトップタスクを評価し, 汚職の小さな事例であっても, 大幅な性能劣化が生じることを確認した。
本稿では,動作の要約と環境チェックに責任を負う見物人として,アクションジェネレータと接地機能を統合したフレームワークであるAgent Hijack-Agentを提案する。
論文 参考訳（メタデータ） (2026-05-25T11:09:22Z) - AgentTrap: Measuring Runtime Trust Failures in Third-Party Agent Skills [32.24433022603674]
サードパーティのスキルがLLMエージェントのパッケージエコシステムになりつつある。
悪質なスキルは、明らかに有害なアクションを実行するためにモデルを尋ねる必要はありません。
代わりに、ルーチンワークフローの一部として有害な振る舞いを偽装することができる。
本稿では,LLMエージェントが悪意のある実行動作に抵抗しながら,サードパーティのスキルを活用できるかどうかを評価するベンチマークであるAgentTrapを紹介する。
論文 参考訳（メタデータ） (2026-05-13T17:04:17Z) - AgentWall: A Runtime Safety Layer for Local AI Agents [0.0]
AgentWallは、ローカルAIエージェントのランタイム安全性と可観測性レイヤである。
ホスト環境に到達する前に提案されたすべてのエージェントアクションをインターセプトし、明示的な宣言的なポリシーで評価し、機密性の高い操作に対して人間の承認を必要とし、監査と再生のための完全な実行パスを記録します。
本稿では,AgentWallの設計,アーキテクチャ,脅威モデル,およびポリシーモデルについて述べる。
論文 参考訳（メタデータ） (2026-03-24T11:39:35Z) - OpenClaw PRISM: A Zero-Fork, Defense-in-Depth Runtime Security Layer for Tool-Augmented LLM Agents [6.185334606321749]
OpenClawベースのエージェントゲートウェイ用のゼロフォークランタイムセキュリティ層であるOpenClaw PRISMを提案する。
PRISMはプロセス内プラグインとオプションのサイドカーサービスを組み合わせることで、10つのライフサイクルフックに強制力を分散する。
エージェントランタイム設定におけるセキュリティの有効性,偽陽性,レイヤコントリビューション,ランタイムオーバーヘッド,運用復旧性を評価するための評価手法とベンチマークパイプラインについて概説する。
論文 参考訳（メタデータ） (2026-03-12T12:20:12Z) - AgentSentry: Mitigating Indirect Prompt Injection in LLM Agents via Temporal Causal Diagnostics and Context Purification [25.817251923574286]
大規模言語モデル(LLM)エージェントのための新しい推論時間検出・緩和フレームワークを提案する。
AgentSentryは、時間的因果的テイクオーバーとしてマルチターンIPIをモデル化する最初の推論時防御である。
我々は, textscAgentDojo ベンチマークにおいて, 4つのタスクスイート, 3つの IPI 攻撃ファミリー, 複数のブラックボックス LLM に対する AgentSentry の評価を行った。
論文 参考訳（メタデータ） (2026-02-26T07:59:10Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents [58.83028403414688]
大規模言語モデル(LLM)エージェントは、計画、メモリ、ツールの使用を組み合わせた多段階ワークフローを通じてタスクを実行する。
エージェントワークフローの特定のステージに注入されたバックドアトリガーは、複数の中間状態を通して持続し、下流出力に悪影響を及ぼす可能性がある。
LLMエージェントにおけるバックドア脅威を統一したエージェント中心のビューを提供するモジュールおよびステージアウェアフレームワークである textbfBackdoorAgent を提案する。
論文 参考訳（メタデータ） (2026-01-08T03:49:39Z) - DeepAgent: A General Reasoning Agent with Scalable Toolsets [111.6384541877723]
DeepAgentは、自律的な思考、ツール発見、アクション実行を実行するエンドツーエンドのディープ推論エージェントである。
長期にわたる相互作用の課題に対処するために,過去の相互作用を構造化エピソード,動作,ツール記憶に圧縮する自律的メモリ折り畳み機構を導入する。
LLMシミュレートされたAPIを活用し、ツール呼び出しトークンにきめ細かいクレジットを割り当てるツールコールアドバンテージ属性を適用した、エンドツーエンドの強化学習戦略であるToolPOを開発した。
論文 参考訳（メタデータ） (2025-10-24T16:24:01Z) - PC-Agent: A Hierarchical Multi-Agent Collaboration Framework for Complex Task Automation on PC [98.82146219495792]
本稿では,PC-Agentという階層型エージェントフレームワークを提案する。
認識の観点からは,現在のMLLMのスクリーンショットコンテンツに対する認識能力の不十分さを克服するために,アクティブ知覚モジュール(APM)を考案する。
意思決定の観点から、複雑なユーザ命令や相互依存サブタスクをより効果的に扱うために、階層的なマルチエージェント協調アーキテクチャを提案する。
論文 参考訳（メタデータ） (2025-02-20T05:41:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。