論文の概要: Large Language Model Adversarial Landscape Through the Lens of Attack Objectives

• arxiv url: http://arxiv.org/abs/2502.02960v1
• Date: Wed, 05 Feb 2025 07:54:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-06 14:26:19.184900
• Title: Large Language Model Adversarial Landscape Through the Lens of Attack Objectives
• Title（参考訳）: 攻撃対象のレンズを通した大規模言語モデル対応ランドスケープ
• Authors: Nan Wang, Kane Walter, Yansong Gao, Alsharif Abuadbba,
• Abstract要約: 大規模言語モデル(LLM)は、人工知能における変革的な飛躍を表している。 LLMは、プライバシー、信頼性、セキュリティ、信頼性を脅かす様々な敵攻撃に対して、ますます脆弱になっている。
• 参考スコア（独自算出の注目度）: 13.847214147036226
• License:
• Abstract: Large Language Models (LLMs) represent a transformative leap in artificial intelligence, enabling the comprehension, generation, and nuanced interaction with human language on an unparalleled scale. However, LLMs are increasingly vulnerable to a range of adversarial attacks that threaten their privacy, reliability, security, and trustworthiness. These attacks can distort outputs, inject biases, leak sensitive information, or disrupt the normal functioning of LLMs, posing significant challenges across various applications. In this paper, we provide a novel comprehensive analysis of the adversarial landscape of LLMs, framed through the lens of attack objectives. By concentrating on the core goals of adversarial actors, we offer a fresh perspective that examines threats from the angles of privacy, integrity, availability, and misuse, moving beyond conventional taxonomies that focus solely on attack techniques. This objective-driven adversarial landscape not only highlights the strategic intent behind different adversarial approaches but also sheds light on the evolving nature of these threats and the effectiveness of current defenses. Our analysis aims to guide researchers and practitioners in better understanding, anticipating, and mitigating these attacks, ultimately contributing to the development of more resilient and robust LLM systems.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、人工知能における変革的な飛躍であり、非並列スケールでの人間の言語との理解、生成、ニュアンスな相互作用を可能にする。 しかし、LSMは、プライバシー、信頼性、セキュリティ、信頼性を脅かす様々な敵攻撃に対して、ますます脆弱になっている。 これらの攻撃は出力を歪ませたり、バイアスを注入したり、機密情報を漏らしたり、LSMの正常な機能を破壊したりし、様々なアプリケーションに重大な課題を生じさせる。 本稿では,LLMの対角的景観を,攻撃対象のレンズを通して包括的に解析する。 敵対的アクターの中核的な目標に集中することにより、プライバシー、完全性、可用性、誤用といった視点から脅威を調査する新たな視点を提供する。 この客観的な敵の風景は、異なる敵のアプローチの背後にある戦略的意図を浮き彫りにするだけでなく、これらの脅威の進化する性質と現在の防衛効果にも光を当てている。 我々の分析は、研究者や実践者がこれらの攻撃をよりよく理解し、予測し、緩和し、最終的にはより弾力的で堅牢なLCMシステムの開発に寄与することを目的としています。

関連論文リスト

• Commercial LLM Agents Are Already Vulnerable to Simple Yet Dangerous Attacks [88.84977282952602]
  最近のMLセキュリティ文献は、整列型大規模言語モデル(LLM)に対する攻撃に焦点を当てている。 本稿では,LLMエージェントに特有のセキュリティとプライバシの脆弱性を分析する。 我々は、人気のあるオープンソースおよび商用エージェントに対する一連の実証的な攻撃を行い、その脆弱性の即時的な影響を実証した。
  論文  参考訳（メタデータ） (2025-02-12T17:19:36Z)
• Targeting the Core: A Simple and Effective Method to Attack RAG-based Agents via Direct LLM Manipulation [4.241100280846233]
  大規模言語モデル(LLM)を駆使したAIエージェントは、シームレスで自然な、コンテキスト対応のコミュニケーションを可能にすることによって、人間とコンピュータのインタラクションを変革した。 本稿では,AIエージェント内のLLMコアを標的とした敵攻撃という,重大な脆弱性について検討する。
  論文  参考訳（メタデータ） (2024-12-05T18:38:30Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [70.93622520400385]
  本稿では,VLAに基づくロボットシステムのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する,標的のない位置認識型攻撃目標を提案する。 また、カメラの視野内に小さなカラフルなパッチを配置し、デジタル環境と物理環境の両方で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Advancing NLP Security by Leveraging LLMs as Adversarial Engines [3.7238716667962084]
  本稿では,大規模言語モデル(LLM)を多種多様な敵攻撃を発生させるエンジンとして活用することにより,NLPのセキュリティを向上するための新しいアプローチを提案する。 我々は、この概念を、敵のパッチ、普遍的摂動、標的攻撃など、幅広い種類の攻撃タイプに拡張することを主張する。 敵対的NLPにおけるこのパラダイムシフトは、広範囲にわたる影響、モデル堅牢性の向上、新たな脆弱性の発見、防御機構の革新の推進などをもたらす。
  論文  参考訳（メタデータ） (2024-10-23T18:32:03Z)
• A Survey of Attacks on Large Vision-Language Models: Resources, Advances, and Future Trends [78.3201480023907]
  LVLM(Large Vision-Language Models)は、多モーダルな理解と推論タスクにまたがる顕著な能力を示す。 LVLMの脆弱性は比較的過小評価されており、日々の使用において潜在的なセキュリティリスクを生じさせる。 本稿では,既存のLVLM攻撃の様々な形態について概説する。
  論文  参考訳（メタデータ） (2024-07-10T06:57:58Z)
• Breaking Down the Defenses: A Comparative Survey of Attacks on Large Language Models [18.624280305864804]
  大規模言語モデル(LLM)は自然言語処理(NLP)分野の基盤となっている。 本稿では,LSMを標的とした様々な攻撃形態の包括的調査を行う。 モデルアウトプットを操作するための敵攻撃、モデルトレーニングに影響を与えるデータ中毒、データエクスプロイトのトレーニングに関連するプライバシー上の懸念などについて調べる。
  論文  参考訳（メタデータ） (2024-03-03T04:46:21Z)
• Privacy in Large Language Models: Attacks, Defenses and Future Directions [84.73301039987128]
  大規模言語モデル(LLM)を対象とした現在のプライバシ攻撃を分析し、敵の想定能力に応じて分類する。 本稿では、これらのプライバシー攻撃に対抗するために開発された防衛戦略について概説する。
  論文  参考訳（メタデータ） (2023-10-16T13:23:54Z)
• Baseline Defenses for Adversarial Attacks Against Aligned Language Models [109.75753454188705]
  最近の研究は、テキストのモデレーションが防御をバイパスするジェイルブレイクのプロンプトを生み出すことを示している。 検出(複雑度に基づく)、入力前処理(言い換えと再帰化)、対人訓練の3種類の防衛について検討する。 テキストに対する既存の離散化の弱点と比較的高いコストの最適化が組み合わさって、標準適応攻撃をより困難にしていることがわかった。
  論文  参考訳（メタデータ） (2023-09-01T17:59:44Z)
• Visual Adversarial Examples Jailbreak Aligned Large Language Models [66.53468356460365]
  視覚入力の連続的かつ高次元的な性質は、敵対的攻撃に対する弱いリンクであることを示す。 我々は、視力統合されたLLMの安全ガードレールを回避するために、視覚的敵の例を利用する。 本研究は,マルチモダリティの追求に伴う敵のエスカレーションリスクを浮き彫りにする。
  論文  参考訳（メタデータ） (2023-06-22T22:13:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。