論文の概要: Agent-to-Agent Synthetic Social Engineering on the Web
- arxiv url: http://arxiv.org/abs/2610.33411v1
- Date: Sat, 24 Oct 2026 02:59:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.322387
- Title: Agent-to-Agent Synthetic Social Engineering on the Web
- Title（参考訳）: Web上のエージェント・ツー・エージェントのソーシャルエンジニアリング
- Abstract要約: シンセティック・ソーシャル・エンジニアリング(SSE)は、AI受信者の信頼性、権威、義務に対する反応を利用して、認定された目的から振る舞いをリダイレクトすることを目的としている。
本研究では,アクタ,偽装表現,候補影響経路,エビデンスや許可境界,応答,結果とを接続する運用フレームワークを開発する。
限定的な事前合意によって43.3%から96.7%に無許可の要求が増加したが、受諾者は支持された決定を維持し、許可は変わらなかった。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An AI agent can prepare an accurate report and still request an action its user has not authorized. Cooperation across Web services therefore requires separate judgments about identity, evidentiary support, and permission. We define synthetic social engineering (SSE) as deliberately deceptive or misleading influence intended to exploit AI recipients' responses to credibility, authority, or obligation cues and redirect behavior away from authorized objectives. We focus on separately tasked sender agents that produce or adapt misleading communication. Drawing on cybersecurity, social engineering, and persuasion research, we develop an operational framework connecting actors, deceptive representations, candidate influence routes, evidence or permission boundaries, responses, and consequences. The framework distinguishes attempts from successful redirection, without assuming human psychological processes. We implement it in the Agent Service Exchange and Evidence Commons (ASE-EC), a reproducible testbed with independently specified records and authorization scopes. Across 1,260 research episodes using Qwen3-4B in two fictional briefing tasks, matched comparisons test authority and commitment appeals, while defense comparisons assess protection alongside authorized task completion. Invoking a limited prior agreement increased unauthorized requests from 43.3% to 96.7%, although recipients retained supported decisions and permissions remained unchanged. These controlled findings identify action selection as a distinct security concern, even when evidence handling succeeds, and they provide a reusable basis for evaluating safeguards that preserve useful cooperation across Web services.
- Abstract（参考訳）: AIエージェントは正確なレポートを作成し、ユーザが許可していないアクションを要求できる。
したがって、Webサービス間の連携には、アイデンティティ、明白なサポート、パーミッションに関する別個の判断が必要である。
我々は、総合社会工学(SSE)を、AI受信者の信頼、権威、義務に対する反応を意図的に欺いたり、誤解を招いたりすることを意図した影響として定義する。
我々は、誤解を招くコミュニケーションを発生または適応する、個別にタスクされた送信エージェントに焦点を当てる。
サイバーセキュリティ,社会工学,説得研究を基礎として,アクター,偽装表現,候補者の影響経路,エビデンスや許可境界,応答,結果を接続する運用フレームワークを開発する。
この枠組みは、人間の心理的過程を仮定することなく、リダイレクトの成功から試みを区別する。
我々はAgent Service Exchange and Evidence Commons (ASE-EC) で実装した。
Qwen3-4Bを2つの架空のブリーフィングタスクで使用した1,260回にわたる研究エピソードは、テスト権限とコミットメントのアピールに一致し、防衛比較は、承認されたタスク完了とともに保護を評価する。
限定的な事前合意によって43.3%から96.7%に無許可の要求が増加したが、受諾者は支持された決定を維持し、許可は変わらなかった。
これらの制御された知見は、証拠処理が成功したとしても、アクション選択を異なるセキュリティ上の問題として認識し、Webサービス間の有用な協力を維持するための安全対策を評価する再利用可能な基盤を提供する。
関連論文リスト
- From Reactive Containment to Proactive Assurance: Lessons from OpenAI, Anthropic, and Google Agent Security Incidents [0.0]
2026年、OpenAI、Anthropic、Googleエージェントを含むサイバーセキュリティ評価が、承認されたテスト範囲外の実際のシステムに到達した。
本稿では,PASAC(Proactive Agent Security Assurance Cycle)と5層境界保証スタックを開発する。
論文 参考訳（メタデータ） (2026-10-08T17:59:49Z) - CredLeakBench: Evaluating Credential Leakage and Recovery in LLM Agents [58.28055202832338]
言語モデルエージェントは日々のデジタル雑用を自動化するためにますますデプロイされている。
この機能は、フィッシングに機密情報を公開する。
CredLeak-Benchは、ヒューマンタスクの効果的かつセキュアなエージェントの自動化を評価するために設計されたベンチマークである。
論文 参考訳（メタデータ） (2026-10-06T05:07:33Z) - When Honesty is Not Enough in AI Debate [7.469636847320509]
本稿では,戦略的対話的監視(SIO)の枠組みを導入し,監視を検証機構と戦略的コミュニケーションチャネルとして協調的に扱う。
タスク成功と隠れ変数に関する情報開示のトレードオフを定量化する。
以上の結果から,評定の正当性だけでなく,その書面を通じて伝達される情報によって,監視の度合いを評価する必要性が浮き彫りになった。
論文 参考訳（メタデータ） (2026-09-24T08:00:24Z) - A Black Box for Agentic Processes: Blockchain-Anchored Evidence for AI Agent Communication, Human Oversight, and GRC Audits [0.0]
2026年のOpenAI/Hugging Faceインシデントに触発されたこのポジションとアーキテクチャ論文は、エージェントプロセスのための製品とベンダー中立のブラックボックスアーキテクチャを提案する。
アーキテクチャは、選択されたエージェント通信、ヒューマン・イン・ザ・ループの承認、ツールコール、およびプロセスアーティファクトに対して、機密性の高いコンテンツをチェーン上に配置することなく、ブロックチェーンで暗号化されたコミットメントを生成する。
論文 参考訳（メタデータ） (2026-09-03T15:55:39Z) - Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
この介入点付近で成長した保護パラダイムについて検討する。
ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。
我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
論文 参考訳（メタデータ） (2026-08-05T00:46:50Z) - Cyber-Capable AI Agents: Vulnerabilities, Evaluation Containment, and Defensive Response [0.0]
サイバー対応AIエージェントは、言語モデルとツール、メモリ、実行環境を組み合わせて、攻撃的なセキュリティタスクを実行する。
このレビューでは、その境界における5つの脆弱性クラスを合成する。マルチステップ攻撃チェーン、サンドボックス境界と競合する目的、サプライチェーンとクレデンシャル露出、永続的なコマンド・アンド・コントロール、自動アクションのスピード。
論文 参考訳（メタデータ） (2026-07-28T07:34:37Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳（メタデータ） (2026-02-23T16:28:48Z) - It's a TRAP! Task-Redirecting Agent Persuasion Benchmark for Web Agents [52.81924177620322]
大規模な言語モデルを利用したWebベースのエージェントは、メール管理やプロフェッショナルネットワーキングといったタスクにますます利用されている。
動的Webコンテンツへの依存は、インジェクション攻撃の引き金に弱い: インターフェース要素に隠された敵対的命令は、エージェントが元のタスクから逸脱するように説得する。
本稿では,タスクリダイレクトエージェントの説得ベンチマーク(TRAP)について紹介する。
論文 参考訳（メタデータ） (2025-12-29T01:09:10Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z) - CP-Guard: Malicious Agent Detection and Defense in Collaborative Bird's Eye View Perception [54.78412829889825]
コラボレーティブ・パーセプション(CP)は自動運転に有望な技術を示している。
CPでは、ego CAVは協力者からのメッセージを受信する必要があるため、悪意のあるエージェントによる攻撃が容易になる。
本稿では,CPの防御機構であるCP-Guardを提案する。
論文 参考訳（メタデータ） (2024-12-16T17:28:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。