論文の概要: It Lied to a Doctor to Buy Poison Ingredients: Quantifying Real-World Misuse of Phone-use Agents
- arxiv url: http://arxiv.org/abs/2606.27944v1
- Date: Fri, 26 Jun 2026 10:37:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 15:56:39.067033
- Title: It Lied to a Doctor to Buy Poison Ingredients: Quantifying Real-World Misuse of Phone-use Agents
- Title（参考訳）: スマホ用エージェントのリアルな誤用を定量化する「Poison Ingredients」(動画)
- Abstract要約: 電話利用エージェントは、実際のモバイルアプリケーション間で複雑なタスクをエンドツーエンドで実行することができる。
我々は、この脅威に関する最初の研究を、実機と27の商用アプリに提示する。
9つの主要な商用およびオープンソースモデル上に構築されたエージェントは、容易に深刻な誤用を行う。
- 参考スコア（独自算出の注目度）: 9.577116668683479
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Phone-use Agents can execute complex tasks end to end across real mobile applications. By operating a real device on the user's behalf, they reach far more functionalities than CLI agents, which amplifies the real-world harm they can cause when driven for malicious purposes. We present the first study of this threat on real phones and 27 commercial apps, and find that agents built on 9 mainstream commercial and open-source models readily carry out serious misuse, ranging from procuring drug and explosive precursors to fraud, online harassment, and review manipulation. Across the agents we run on real devices, the average refusal rate to harmful requests stays low while the average task-completion rate reaches 68.8%, and in some scenarios an agent finishes a violation faster than a human would. These results suggest that Phone-use Agents already meet the practical conditions for automated misuse at scale. In one observed real-device execution, Claude-Opus-4.8 fabricated a medical history, deceived an online doctor into issuing a prescription, and completed the order and payment on its own to purchase a precursor for a highly toxic substance. To our knowledge, this is the first documented real-world case of an AI agent procuring controlled precursor materials. We trace this behavior to a Safety Awareness-Execution Gap, where an agent recognizes that a request is harmful yet still executes it. Simple defenses curb the overt cases, but the more covert and arguably more damaging threats, such as coordinated review manipulation and fake traffic, remain largely unsolved. We hope these findings push the community toward safer Phone-use Agents.
- Abstract（参考訳）: 電話利用エージェントは、実際のモバイルアプリケーション間で複雑なタスクをエンドツーエンドで実行することができる。
ユーザに代わって実際のデバイスを操作することで、CLIエージェントよりもはるかに機能的になる。
9つの主要な商用およびオープンソースモデル上に構築されたエージェントが、ドラッグや爆発前駆体の調達から詐欺、オンラインハラスメント、レビュー操作に至るまで、深刻な悪用を受けやすいことを発見した。
実際のデバイス上で実行するエージェント全体では、有害な要求に対する平均的な拒絶率は低いままであり、平均的なタスク完了率は68.8%に達し、場合によってはエージェントは人間のよりも早く違反を終わらせる。
これらの結果から,電話利用エージェントは大規模に自動誤用を行うための現実的な条件をすでに満たしていることが示唆された。
クロード・オプス4.8は実機での処刑で医療の歴史をつくり、オンライン医師を騙して処方薬を発行し、高い毒性物質の前駆体を購入するために自分で注文と支払いを完了させた。
私たちの知る限り、これは制御された前駆物質を取得するAIエージェントの実際の事例として初めて記録されたものだ。
エージェントは、要求が有害でまだ実行されていることを認識します。
単純な防御はオーバート事件を抑えるが、より隠蔽され、より有害な脅威である、例えば、調整されたレビュー操作や偽のトラフィックは、ほとんど未解決のままである。
これらの発見がコミュニティを安全な電話エージェントへと押し上げてくれることを願っています。
関連論文リスト
- Multi-Agent AI Control: Distributed Attacks Hamper Per-Instance Monitors [4.246803713067298]
我々は、複数のエージェントが悪質な目標を共同で狙う分散攻撃を形式化したマルチエージェントAI制御について研究する。
合成AIラボFakeLab(9つのサービス、86の良質なタスク、4つの攻撃目標)を開発した。
攻撃に協力するエージェントが増えるにつれて、エージェントごとの監視が攻撃者を捕まえる可能性が低下します。
論文 参考訳（メタデータ） (2026-07-08T13:03:25Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - Stateful Online Monitoring Catches Distributed Agent Attacks [63.00394432922707]
我々は、リアルタイムクラスタリングを用いて、多くのエージェントの転写にまたがる弱い疑わしい信号を収集するオンラインステートフルモニターを開発した。
本研究の結果は,孤立したテキストではなく,ユーザグループを優先する,新たな安全モニタのクラスに向けられたものである。
論文 参考訳（メタデータ） (2026-05-29T17:57:00Z) - Can a Single Message Paralyze the AI Infrastructure? The Rise of AbO-DDoS Attacks through Targeted Mobius Injection [21.293197417946192]
我々は、自律エージェントをゾンビノードに武器にしてDDoS攻撃を開始する高度な攻撃であるMobius Injectionを紹介した。
この攻撃は、従来のDDoSモニターと、現代のAI安全フィルタの両方に対して、非常に軽量でステルス的であることを実証しています。
論文 参考訳（メタデータ） (2026-05-12T02:51:12Z) - I must delete the evidence: AI Agents Explicitly Cover up Fraud and Violent Crime [0.0]
我々は,AIエージェントの大多数が,企業利益のために,不正や損害の証拠を明示的に抑制することを選択するシナリオを提示する。
いくつかのモデルは、我々の方法に顕著な抵抗を示し、適切に振る舞うが、多くはそうではない。
論文 参考訳（メタデータ） (2026-04-02T19:59:08Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。
本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
論文 参考訳（メタデータ） (2026-02-13T21:32:32Z) - Malice in Agentland: Down the Rabbit Hole of Backdoors in the AI Supply Chain [82.98626829232899]
自分自身のインタラクションからのデータに対する微調整のAIエージェントは、AIサプライチェーン内の重要なセキュリティ脆弱性を導入している。
敵は容易にデータ収集パイプラインに毒を盛り、検出しにくいバックドアを埋め込むことができる。
論文 参考訳（メタデータ） (2025-10-03T12:47:21Z) - OS-Harm: A Benchmark for Measuring Safety of Computer Use Agents [60.78202583483591]
コンピュータ使用エージェントの安全性を計測する新しいベンチマークであるOS-Harmを紹介する。
OS-HarmはOSWorld環境上に構築されており、故意のユーザ誤用、インジェクション攻撃、モデル誤動作の3つのカテゴリでモデルをテストすることを目指している。
我々は、フロンティアモデルに基づいてコンピュータ利用エージェントを評価し、その安全性に関する洞察を提供する。
論文 参考訳（メタデータ） (2025-06-17T17:59:31Z) - Emerging Cyber Attack Risks of Medical AI Agents [18.618669974492366]
大規模言語モデル(LLM)を利用したAIエージェントは、医療と医療の課題に対処する上で、高いレベルの自律性を示す。
さまざまなツールにアクセスでき、オープンなアクション空間内で操作できる。
我々は、Webブラウジングツールを通じてインターネットにアクセスするエージェントとして、医療AIエージェントのサイバー攻撃の脆弱性を調査した。
論文 参考訳（メタデータ） (2025-04-02T08:04:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。