論文の概要: Toward a Threat Actor Profiling Taxonomy for Pre-Release Risk Management of Open-Weight Frontier Models
- arxiv url: http://arxiv.org/abs/2608.25361v1
- Date: Wed, 26 Aug 2026 04:34:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-27 14:15:15.593337
- Title: Toward a Threat Actor Profiling Taxonomy for Pre-Release Risk Management of Open-Weight Frontier Models
- Title（参考訳）: オープンウェイトフロンティアモデルの事前リースリスク管理のための脅威アクタープロファイリング分類
- Abstract要約: この議題は、明示的な敵対的性格は、彼らが対象とするリスクに対して解釈可能で、同等であり、忠実である評価の前提条件と見なされるべきである、と論じている。
我々は、既存のテロリズム、バイオセキュリティ、サイバーセキュリティ文学から派生した経験的基盤を持つ6つの属性の分類法を提案する。
この分類学は研究基盤として機能するよう設計されており、医学・経済学におけるランダム化制御試験(RCT)の事前分析計画に類似した、評価が行われる前に敵の仮定を事前に特定するための共通言語である。
- 参考スコア（独自算出の注目度）: 2.9794937485335047
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pre-release risk management for frontier AI misuse risks routinely leaves threat actor assumptions implicit, inconsistently specified, or ungrounded. This capstone argues that explicit adversary characterization should be regarded as a prerequisite for evaluations that are interpretable, comparable, and faithful to the risks they target. We propose a six-attribute taxonomy (covering technical sophistication, prior domain knowledge, organizational capacity, operational infrastructure, financial capacity, and time horizon) with empirically grounded tiers derived from existing terrorism, biosecurity, and cybersecurity literature. The taxonomy is designed to function as research infrastructure: a common language for pre-specifying adversary assumptions before evaluations are conducted, analogous to pre-analysis plans for randomized controlled trials (RCTs) in medicine and economics. Its application is particularly urgent for open-weight model developers, for whom release decisions are irreversible and must anticipate adversarial reasoning.
- Abstract（参考訳）: フロンティアAIの誤用リスクに対するプレリリースリスク管理は、脅威アクターの仮定を暗黙に、不一致に特定し、根拠のないままにしておく。
この議題は、明示的な敵対的性格は、彼らが対象とするリスクに対して解釈可能で、同等であり、忠実である評価の前提条件と見なされるべきである、と論じている。
本稿では、既存のテロリズム、バイオセキュリティ、サイバーセキュリティ文学から派生した経験的基盤を持つ6つの分類体系(技術的洗練、先行ドメイン知識、組織的能力、運用インフラ、財務能力、時間的地平線)を提案する。
この分類学は研究基盤として機能するよう設計されており、医学・経済学におけるランダム化制御試験(RCT)の事前分析計画に類似した、評価が行われる前に敵の仮定を事前に特定するための共通言語である。
そのアプリケーションは、特にオープンウェイトなモデル開発者にとって緊急であり、リリース決定は不可逆であり、敵の推論を予測しなければならない。
関連論文リスト
- Provably Secure Agent Guardrail [89.79561918065122]
既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。
本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
論文 参考訳（メタデータ） (2026-05-28T02:12:41Z) - Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。
これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。
自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
論文 参考訳（メタデータ） (2026-04-23T23:44:01Z) - Benchmarking Knowledge-Extraction Attack and Defense on Retrieval-Augmented Generation [50.87199039334856]
Retrieval-Augmented Generation (RAG) は知識集約型アプリケーションの基礎となっている。
近年の研究では、悪意あるクエリによって知識抽出攻撃が機密知識ベースコンテンツを回復できることが示されている。
本稿では,RAGシステムに対する知識抽出攻撃のための最初の体系的ベンチマークを紹介する。
論文 参考訳（メタデータ） (2026-02-10T01:27:46Z) - The Role of Risk Modeling in Advanced AI Risk Management [33.357295564462284]
急速に進歩する人工知能(AI)システムは、新しい、不確実で、潜在的に破滅的なリスクをもたらす。
これらのリスクを管理するには、厳格なリスクモデリングの基盤となる成熟したリスク管理インフラストラクチャが必要です。
先進的なAIガバナンスは、同様の二重アプローチを採用するべきであり、検証可能な、確実に安全なAIアーキテクチャが緊急に必要である、と私たちは主張する。
論文 参考訳（メタデータ） (2025-12-09T15:37:33Z) - Standardized Threat Taxonomy for AI Security, Governance, and Regulatory Compliance [0.0]
ランゲージ障壁」は、現在、アルゴリズム上の脆弱性に焦点を当てた技術セキュリティチームと、規制義務に対処する法律やコンプライアンスの専門家を分離している。
本研究は、量的リスクアセスメント(QRA)のために明示的に設計された構造的オントロジーであるAIシステム脅威ベクトル分類法を提案する。
このフレームワークは、AI固有のリスクを9つの重要なドメインに分類する: ミスス、ポジショニング、プライバシ、アドリアム、バイアス、信頼できないアウトプット、ドリフト、サプライチェーン、IPThreat。
論文 参考訳（メタデータ） (2025-11-26T20:42:46Z) - RADAR: A Risk-Aware Dynamic Multi-Agent Framework for LLM Safety Evaluation via Role-Specialized Collaboration [81.38705556267917]
大規模言語モデル(LLM)の既存の安全性評価手法は、固有の制約に悩まされている。
リスク概念空間を再構築する理論的枠組みを導入する。
マルチエージェント協調評価フレームワークRADARを提案する。
論文 参考訳（メタデータ） (2025-09-28T09:35:32Z) - Preliminary Investigation into Uncertainty-Aware Attack Stage Classification [81.28215542218724]
この研究は、不確実性の下での攻撃段階推論の問題に対処する。
Evidential Deep Learning (EDL) に基づく分類手法を提案し、ディリクレ分布のパラメータを可能な段階に出力することで予測の不確実性をモデル化する。
シミュレーション環境における予備実験により,提案モデルが精度良く攻撃の段階を推定できることが実証された。
論文 参考訳（メタデータ） (2025-08-01T06:58:00Z) - Adapting Probabilistic Risk Assessment for AI [0.0]
汎用人工知能(AI)システムは、緊急リスク管理の課題を示す。
現在の手法は、しばしば選択的なテストとリスク優先順位に関する未文書の仮定に依存します。
本稿では,AIフレームワークの確率的リスクアセスメント(PRA)を紹介する。
論文 参考訳（メタデータ） (2025-04-25T17:59:14Z) - Risk-aware Classification via Uncertainty Quantification [9.641001762056876]
本稿では,現実世界のリスク認識分類システムを開発するための3つの基礎的デシラタを紹介する。
これらの原則とEvidential Deep Learningの運用特性の統一性を実証する。
そして、不確実性やリスクが本質である場合、自律エージェントが構造化された意思決定中に判断を行なえるよう、EDLを増強する。
論文 参考訳（メタデータ） (2024-12-04T15:20:12Z) - From Mean to Extreme: Formal Differential Privacy Bounds on the Success of Real-World Data Reconstruction Attacks [54.25638567385662]
機械学習における微分プライバシーは、しばしばメンバーシップ推論に対する保証として解釈される。
DP予算を定量的な保護に翻訳することで、データ再構築の脅威を悪化させることは、依然として困難な課題である。
本稿では、実証された"ゼロスクラッチ"攻撃のメカニズムに合わせた、最初の公式なプライバシー境界を導出することで、臨界ギャップを埋める。
論文 参考訳（メタデータ） (2024-02-20T09:52:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。