論文の概要: Threat Modeling Intimate Partner Abuse in Agentic Systems

• arxiv url: http://arxiv.org/abs/2611.00489v1
• Date: Sat, 31 Oct 2026 00:28:26 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-11-03 19:22:30.787424
• Title: Threat Modeling Intimate Partner Abuse in Agentic Systems
• Title（参考訳）: エージェントシステムにおける親密なパートナー虐待の脅威モデリング
• Abstract要約: エージェントシステムは、デジタル環境内で自律的なアクションが可能なAI技術である。 我々は、これらのシステムに技術に精通した虐待脅威モデルを適用し、故意の調査と緩和を必要とする脅威を明らかにする。
• 参考スコア（独自算出の注目度）: 21.582155319048052
• License:
• Abstract: Agentic systems are AI-powered technologies capable of autonomous action within digital environments, such as sending emails or making reservations. They are deeply connected to external tools as well as users' data and resources, making them vulnerable to attacks which exploit their access and capabilities. In this work, we apply the technology-facilitated abuse threat model, in the context of intimate partner violence and surveillance, to these systems, revealing threats that require deliberate investigation and mitigation. We categorize attacks based on system ownership: (1) Abuser-as-owner attacks demonstrate how agentic systems make existing forms of technology-facilitated abuse far easier and more scalable. (2) Victim-survivor-as-owner attacks show how agentic systems create a new attack surface which abusers can exploit. In light of these risks, we outline research and development directions for effective mitigation strategies.
• Abstract（参考訳）: エージェントシステムは、電子メールの送信や予約など、デジタル環境内で自律的なアクションが可能なAI技術である。 それらは、ユーザデータやリソースだけでなく、外部ツールとも深く結びついているので、アクセスと能力を悪用する攻撃に対して脆弱である。 本研究では、これらのシステムに対して、親密なパートナーの暴力や監視という文脈において、技術に精通した虐待の脅威モデルを適用し、故意の捜査と緩和を必要とする脅威を明らかにする。 1) エージェント・アズ・ア・オーナー・アタック(Abuser-as-owner attack)は、エージェント・システムによって、既存のテクノロジ・ファシリテートされた悪用をより簡単かつスケーラブルにする方法を実証する。 2) Victim-survivor-as-owner 攻撃はエージェントシステムがどのようにして悪用者が活用できる新たな攻撃面を作るかを示す。 これらのリスクを踏まえて、効果的な緩和戦略の研究開発の方向性を概説する。

関連論文リスト

• Toward Securing AI Agents Like Operating Systems [13.41373985756433]
  汎用技術として,大規模言語モデル(LLM)に基づく自律エージェントが急速に出現している。 オペレーティングシステムのレンズによるLCMエージェントのセキュリティについて検討する。 エージェントシステムの安全な設計のための一連の勧告で締めくくります。
  論文  参考訳（メタデータ） (2026-05-14T15:07:25Z)
• SoK: The Attack Surface of Agentic AI -- Tools, and Autonomy [3.340255811686752]
  最近のAIシステムは、大規模な言語モデルとツール、検索強化生成(RAG)による外部知識を組み合わせている。 このエージェントAIパラダイムは、能力を大幅に拡張すると同時に、攻撃面を大きく拡大する。 我々は、即時レベルの注射、知識ベース中毒、ツール/プラグインエクスプロイト、マルチエージェント緊急脅威にまたがる攻撃の包括的分類を開発する。
  論文  参考訳（メタデータ） (2026-03-24T08:21:51Z)
• Techniques of Modern Attacks [51.56484100374058]
  Advanced Persistent Threats (APT) は特定の標的を狙った複雑な攻撃方法である。 本稿では,近年の学術研究で提案されている攻撃ライフサイクルと最先端の検知・防衛戦略について検討する。 それぞれのアプローチの長所と短所を強調し、より適応的なAPT緩和戦略を提案する。
  論文  参考訳（メタデータ） (2026-01-19T22:15:25Z)
• When Autonomy Goes Rogue: Preparing for Risks of Multi-Agent Collusion in Social Systems [78.04679174291329]
  悪意のあるマルチエージェントシステム(MAS)のリスクをシミュレートするための概念実証手法を提案する。 この枠組みを、誤情報拡散とeコマース詐欺という2つのリスクの高い分野に適用する。 その結果,分散システムの方が,集中型システムよりも悪意ある行動を実行するのに効果的であることが示唆された。
  論文  参考訳（メタデータ） (2025-07-19T15:17:30Z)
• An Approach to Technical AGI Safety and Security [72.83728459135101]
  我々は、人類を著しく傷つけるのに十分な害のリスクに対処するアプローチを開発する。 私たちは、誤用や悪用に対する技術的なアプローチに重点を置いています。 これらの成分を組み合わせてAGIシステムの安全性を実現する方法について概説する。
  論文  参考訳（メタデータ） (2025-04-02T15:59:31Z)
• Considerations Influencing Offense-Defense Dynamics From Artificial Intelligence [0.0]
  AIは防御能力を向上するだけでなく、悪意ある搾取と大規模な社会的危害のための道も提示する。 本稿では、AIシステムが主に脅威を生じているか、社会に保護的利益をもたらすかに影響を及ぼす主要な要因をマップし、検証するための分類法を提案する。
  論文  参考訳（メタデータ） (2024-12-05T10:05:53Z)
• AI-based Attacker Models for Enhancing Multi-Stage Cyberattack Simulations in Smart Grids Using Co-Simulation Environments [1.4563527353943984]
  スマートグリッドへの移行により、高度なサイバー脅威に対する電力システムの脆弱性が増大した。 本稿では,モジュール型サイバーアタックの実行に自律エージェントを用いたシミュレーションフレームワークを提案する。 当社のアプローチは、データ生成のための柔軟で汎用的なソースを提供し、より高速なプロトタイピングと開発リソースと時間の削減を支援します。
  論文  参考訳（メタデータ） (2024-12-05T08:56:38Z)
• Countering Autonomous Cyber Threats [40.00865970939829]
  ファンデーションモデルは、サイバードメイン内で広く、特に二元的関心事を提示します。 近年の研究では、これらの先進的なモデルが攻撃的なサイバースペース操作を通知または独立に実行する可能性を示している。 この研究は、孤立したネットワークでマシンを妥協する能力について、最先端のいくつかのFMを評価し、そのようなAIによる攻撃を倒す防御メカニズムを調査する。
  論文  参考訳（メタデータ） (2024-10-23T22:46:44Z)
• Automating Privilege Escalation with Deep Reinforcement Learning [71.87228372303453]
  本研究では,エージェントの訓練に深層強化学習を用いることで,悪意あるアクターの潜在的な脅威を実証する。 本稿では,最先端の強化学習アルゴリズムを用いて,局所的な特権エスカレーションを行うエージェントを提案する。 我々のエージェントは、実際の攻撃センサーデータを生成し、侵入検知システムの訓練と評価に利用できる。
  論文  参考訳（メタデータ） (2021-10-04T12:20:46Z)
• Dataset Security for Machine Learning: Data Poisoning, Backdoor Attacks, and Defenses [150.64470864162556]
  この作業は体系的に分類され、幅広いデータセット脆弱性とエクスプロイトを議論する。 様々な毒とバックドアの脅威モデルとそれらの関係を記述することに加えて,それらの統一分類法を展開する。
  論文  参考訳（メタデータ） (2020-12-18T22:38:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。