論文の概要: From Acoustic Sensing to Physical Actions: A Comprehensive Survey of Security Risks in Edge-Deployed Audio LLM-Based Agents
- arxiv url: http://arxiv.org/abs/2610.15390v1
- Date: Sun, 11 Oct 2026 06:38:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 01:21:22.594362
- Title: From Acoustic Sensing to Physical Actions: A Comprehensive Survey of Security Risks in Edge-Deployed Audio LLM-Based Agents
- Title（参考訳）: 音響センシングから身体行動へ:エッジ展開型LCMエージェントのセキュリティリスクに関する総合調査
- Abstract要約: 本調査では,音響センシングから外部実行までの経路に沿ったセキュリティへの影響をトレースする音響センシング・ツー・アクション(S2A)システムモデルを提案する。
このモデルを用いて,攻撃,防御,評価手法を,音響,エージェント,エッジシステムにまたがって合成する。
これらの知見は, 持続的状態, システム境界, 実世界のエージェントの展開条件の変化に対する知覚から行動への音響的影響に追従するセキュリティ評価を動機付けている。
- 参考スコア（独自算出の注目度）: 20.679836756144784
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Audio Large Language Models (Audio LLMs) are embedded in agents for smart homes, vehicles, wearables, and embodied systems, where acoustic inputs can propagate from perception into persistent state and consequential execution. This setting extends security analysis beyond model behavior to the system conditions that determine how acoustic inputs can influence agent behavior and external actions. Existing surveys examine acoustic security, LLM-based agents, and edge deployment in isolation, leaving their security interactions in deployed Audio LLM-based agents insufficiently characterized. This survey introduces an Acoustic Sensing-to-Action (S2A) system model that traces these security implications along the path from acoustic sensing to external execution, while accounting for edge-cloud runtime and lifecycle transformation. We use the model to synthesize attacks, defenses, and evaluation methods across the acoustic, agent, and edge-system literature. The synthesis shows that security gaps can emerge within components and at the transitions between stages, where protections developed for one stage do not necessarily provide end-to-end assurance in the deployed system. These findings motivate security evaluation that follows acoustic influence from sensing to action across persistent state, system boundaries, and changing deployment conditions in real-world agents.
- Abstract（参考訳）: オーディオ大言語モデル(Audio LLMs)はスマートホーム、車、ウェアラブル、エンボディシステムのためのエージェントに埋め込まれており、音響入力は知覚から永続的な状態へ伝播し、連続的に実行される。
この設定は、モデル動作を超えたセキュリティ分析を、音響入力がエージェントの動作や外部動作にどのように影響するかを決定するシステム条件にまで拡張する。
既存の調査では、アコースティック・セキュリティ、LLMベースのエージェント、エッジ・デプロイを分離し、デプロイされたAudio LLMベースのエージェントのセキュリティ・インタラクションを不十分に特徴づけている。
このサーベイでは、エッジクラウドランタイムとライフサイクル変換を考慮しつつ、音響センシングから外部実行までの経路に沿って、これらのセキュリティ含意をトレースするAustic Sensing-to-Action(S2A)システムモデルを紹介した。
このモデルを用いて,攻撃,防御,評価手法を,音響,エージェント,エッジシステムにまたがって合成する。
この合成は、セキュリティギャップがコンポーネント内やステージ間の遷移に現れることを示しており、ある段階で開発された保護は、必ずしもデプロイされたシステムにおけるエンドツーエンドの保証を提供するとは限らない。
これらの知見は, 持続的状態, システム境界, 実世界のエージェントの展開条件の変化に対する知覚から行動への音響的影響に追従するセキュリティ評価を動機付けている。
関連論文リスト
- Large Language Models in Misinformation Ecosystems: Misuse, Defense, and Vulnerability [65.56750741053266]
大規模言語モデル(LLM)は、誤情報をコンテンツ中心の問題からより広範なエコシステムレベルのセキュリティ課題に転換した。
本稿では,これらのリスクと防御を統一する役割層フレームワークを提案する。
この役割はLLMを攻撃者、ディフェンダー、検証システムの脆弱なコンポーネントとして特徴づけ、層次元はコンテンツ、社会的コンテキスト、エビデンス環境、検証をカバーしている。
論文 参考訳（メタデータ） (2026-07-11T17:04:17Z) - SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。
ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
論文 参考訳（メタデータ） (2026-06-01T14:23:42Z) - Audio Jailbreaks in Large Audio-Language Models: Taxonomy, Attack-Defense Analysis, and Cost-Aware Evaluation [16.72528638767562]
大規模オーディオ言語モデル(LALM)は、トークンレベルのプロンプトから、完全な音声認識から推論パイプラインまで、ジェイルブレイクのリスクを拡大する。
本稿では,LALMジェイルブレイク攻撃と防衛の統一された分類法と制御された実証的評価を提供する。
論文 参考訳（メタデータ） (2026-05-28T14:53:27Z) - Acoustic Interference: A New Paradigm Weaponizing Acoustic Latent Semantic for Universal Jailbreak against Large Audio Language Models [29.672999404488838]
既存のjailbreakパラダイムは、主に悪意のあるペイロードのキャリアとしてオーディオを扱う。
コンテンツ注入から安全アライメント干渉へ音声の役割がシフトする新しいパラダイムを提案する。
干渉音声は内容的には優れているが、特定のALSを注入することで、普遍的なジェイルブレイクトリガーとして機能することを示す。
論文 参考訳（メタデータ） (2026-05-18T10:10:31Z) - AgentNoiseBench: Benchmarking Robustness of Tool-Using LLM Agents Under Noisy Condition [72.24180896265192]
本稿では,騒音環境下でのエージェントモデルのロバスト性を評価するためのフレームワークであるAgentNoiseBenchを紹介する。
まず、実世界のシナリオにおけるバイアスと不確実性の詳細な分析を行う。
次に,環境騒音をユーザノイズとツールノイズの2つの主要なタイプに分類する。
この分析に基づいて,既存のエージェント中心ベンチマークに制御可能なノイズを注入する自動パイプラインを開発した。
論文 参考訳（メタデータ） (2026-02-11T20:33:10Z) - Aegis: Towards Governance, Integrity, and Security of AI Voice Agents [52.7512082818639]
音声エージェントのガバナンス,整合性,セキュリティのためのフレームワークであるAegisを提案する。
我々は,銀行コールセンタ,ITサポート,ロジスティクスにおけるケーススタディを通じて,この枠組みを評価する。
モデルファミリ間の系統的な差異を観察し,より感受性の高いオープンウェイトモデルを示した。
論文 参考訳（メタデータ） (2026-02-07T05:51:36Z) - OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid Validation in Realistic Workflows [77.95511352806261]
VLM(Vision-Language Models)を利用したコンピュータ利用エージェントは、モバイルプラットフォームのようなデジタル環境を操作する上で、人間のような能力を実証している。
我々は,明示的なシステムレベルの違反を検出するための形式検証器と,文脈的リスクとエージェント行動を評価するコンテキスト判断器を組み合わせた,新しいハイブリッド安全検出フレームワークOS-Sentinelを提案する。
論文 参考訳（メタデータ） (2025-10-28T13:22:39Z) - Investigating Safety Vulnerabilities of Large Audio-Language Models Under Speaker Emotional Variations [94.62792643569567]
この研究は、話者の感情の役割を体系的に調査する。
複数の感情や強度にまたがって表現される悪意のある音声命令のデータセットを構築し、いくつかの最先端のLALMを評価する。
異なる感情は、様々なレベルの安全でない反応を誘発し、強度の影響は非単調であり、中性表現は最大のリスクを伴うことが多い。
論文 参考訳（メタデータ） (2025-10-19T15:41:25Z) - Hidden in the Noise: Unveiling Backdoors in Audio LLMs Alignment through Latent Acoustic Pattern Triggers [40.4026420070893]
HIN(Hidden in the Noise)は、微妙でオーディオ特有の機能を活用するために設計された、新しいバックドアアタックフレームワークである。
HINは、時間的ダイナミクスの変更やスペクトル調整されたノイズの戦略的注入など、生のオーディオ波形に音響的修正を適用している。
音声機能に基づくトリガに対するALLMロバスト性を評価するため、AudioSafeベンチマークを開発し、9つの異なるリスクタイプを評価する。
論文 参考訳（メタデータ） (2025-08-04T08:15:16Z) - A Survey on Autonomy-Induced Security Risks in Large Model-Based Agents [45.53643260046778]
大規模言語モデル(LLM)の最近の進歩は、自律型AIエージェントの台頭を触媒している。
これらの大きなモデルエージェントは、静的推論システムからインタラクティブなメモリ拡張エンティティへのパラダイムシフトを示す。
論文 参考訳（メタデータ） (2025-06-30T13:34:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。