論文の概要: AI Security Priorities: A Field-Wide Agenda
- arxiv url: http://arxiv.org/abs/2607.26069v1
- Date: Tue, 23 Jun 2026 08:57:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:39.096324
- Title: AI Security Priorities: A Field-Wide Agenda
- Title（参考訳）: AIセキュリティプライオリティ - フィールドワイドアジェンダ
- Abstract要約: AIの採用とAIセキュリティの準備のギャップは拡大し続けている。
本稿では,AIのセキュリティ向上に向けた優先課題について述べる。
現在の実践者、個人、そしてこの分野への参入を目指す組織の両方に役立てるように設計されている。
- 参考スコア（独自算出の注目度）: 3.5809399098766925
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As AI systems are rapidly integrated into critical economic, governmental, and national security functions, the gap between AI adoption and AI security readiness continues to widen. This paper presents a prioritized agenda for advancing AI security, informed by structured interviews with leaders across industry, government, and civil society, and refined through a multi-sector expert workshop. Participants identified and ranked the highest-importance and most cost-effective areas where progress could strengthen AI security - from protecting frontier AI systems and their underlying infrastructure to improving cybersecurity practices as AI reshapes the threat landscape. The resulting priorities are organized across four themes: establishing strategic foundations and policy frameworks; advancing public-private coordination and institutional infrastructure; advancing technical security engineering and assurance; and governing agentic AI under adversarial pressure. For each priority area, expert authors provide detailed analyses that define the problem, assess the current landscape, and identify actionable projects that stakeholders across sectors can pursue. The paper aims to serve as an initial practical foundation for coordinated investment and action across the AI security field. It is designed to serve both current practitioners and individuals and organizations looking to enter the field by identifying concrete, high-impact contributions suited to a range of strengths and capacities.
- Abstract（参考訳）: AIシステムは、経済的、政府的、国家安全保障機能に急速に統合されているため、AIの採用とAIセキュリティの準備のギャップは拡大し続けている。
本稿では、産業、政府、市民社会のリーダーとの構造化されたインタビューによって情報提供され、多分野の専門家ワークショップを通じて洗練され、AIセキュリティを推進するための優先順位付けされた議題を提案する。
参加者は、フロンティアAIシステムとその基盤となるインフラストラクチャ保護から、AIが脅威の風景を再認識するサイバーセキュリティプラクティスの改善に至るまで、AIのセキュリティを強化する上で最も重要な、最もコスト効率の高い領域を特定し、ランク付けした。
その結果得られた優先順位は、戦略的基盤と政策の枠組みの確立、公的私的な調整と制度的なインフラの進展、技術セキュリティ工学と保証の進展、敵の圧力の下でエージェントAIを管理することの4つのテーマにまたがる。
各優先順位領域について、専門家の著者は、問題を定義し、現在の状況を評価し、セクターの利害関係者が追求できる実行可能なプロジェクトを特定するための詳細な分析を提供している。
この論文は、AIセキュリティ分野における投資と行動の協調のための最初の実践的基盤として機能することを目的としている。
現在の実践者や個人、そしてこの分野に参入しようとしている組織の両方に、様々な強みや能力に合った、具体的な、高い影響のある貢献を見極めることを目的としている。
関連論文リスト
- Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety [12.885990679810831]
オープンウェイトでオープンソースのファンデーションモデルは、AIシステムを安全にする義務を強化しています。
本稿では,AIオープンネスと安全に関するコロンビア・コンベンションの結果を報告する。
論文 参考訳（メタデータ） (2025-06-27T12:45:44Z) - The Singapore Consensus on Global AI Safety Research Priorities [128.58674892183657]
2025年シンガポールAI会議(SCAI: International Scientific Exchange on AI Safety)は、この分野での研究を支援することを目的としている。
ヨシュア・ベンジオが議長を務める国際AI安全レポート(AI Safety Report)は、33の政府によって支援されている。
レポートは、AI安全研究ドメインを3つのタイプに分類する。信頼に値するAIシステム(開発)作成の課題、リスク評価の課題(評価)、デプロイメント後の監視と介入の課題(会議)。
論文 参考訳（メタデータ） (2025-06-25T17:59:50Z) - Open Challenges in Multi-Agent Security: Towards Secure Systems of Interacting AI Agents [0.0]
分散AIエージェントはすぐにインターネットプラットフォーム間で対話し、従来のサイバーセキュリティやAI安全フレームワークを超えたセキュリティ上の課題を生み出す。
textbfmulti-agent Securityは、分散化されたAIエージェントのネットワークを、そのインタラクションを通じて出現または増幅する脅威に対して保護する、新たな分野である。
論文 参考訳（メタデータ） (2025-05-04T12:03:29Z) - Security-First AI: Foundations for Robust and Trustworthy Systems [0.0]
この原稿は、AIセキュリティは基礎的なレイヤとして優先順位付けされなければならないことを示唆している。
私たちは、信頼できるレジリエントなAIシステムを実現するために、セキュリティ優先のアプローチを主張します。
論文 参考訳（メタデータ） (2025-04-17T22:53:01Z) - A Framework for the Assurance of AI-Enabled Systems [0.0]
本稿では,AIシステムのリスク管理と保証のためのクレームベースのフレームワークを提案する。
論文のコントリビューションは、AI保証のためのフレームワークプロセス、関連する定義のセット、AI保証における重要な考慮事項に関する議論である。
論文 参考訳（メタデータ） (2025-04-03T13:44:01Z) - In-House Evaluation Is Not Enough: Towards Robust Third-Party Flaw Disclosure for General-Purpose AI [93.33036653316591]
我々はシステムの安全性を高めるために3つの介入を要求します。
まず、標準化されたAI欠陥レポートと研究者へのエンゲージメントのルールを用いることを提案する。
第2に,GPAIシステムプロバイダが広視野欠陥開示プログラムを採用することを提案する。
第3に,欠陥報告の分布を調整するための改良されたインフラの開発を提唱する。
論文 参考訳（メタデータ） (2025-03-21T05:09:46Z) - Position: Mind the Gap-the Growing Disconnect Between Established Vulnerability Disclosure and AI Security [56.219994752894294]
我々は、AIセキュリティレポートに既存のプロセスを適用することは、AIシステムの特徴的な特徴に対する根本的な欠点のために失敗する運命にあると主張している。
これらの欠点に対処する私たちの提案に基づき、AIセキュリティレポートへのアプローチと、新たなAIパラダイムであるAIエージェントが、AIセキュリティインシデント報告の進展をさらに強化する方法について論じる。
論文 参考訳（メタデータ） (2024-12-19T13:50:26Z) - On Large Language Models in Mission-Critical IT Governance: Are We Ready Yet? [7.098487130130114]
重要なインフラのセキュリティは、コンピュータの登場以来、深刻な問題となっている。
最近の出来事は、これらの課題を満たすことの難しさが増していることを示している。
我々は、ジェネレーティブAIをIT MCSのガバナンスに統合する実践者の視点を探究することを目的としている。
論文 参考訳（メタデータ） (2024-12-16T12:21:05Z) - Trustworthy, Responsible, and Safe AI: A Comprehensive Architectural Framework for AI Safety with Challenges and Mitigations [15.946242944119385]
AI安全性は、AIシステムの安全な採用とデプロイにおいて重要な領域である。
私たちの目標は、AI安全研究の進歩を促進し、究極的には、デジタルトランスフォーメーションに対する人々の信頼を高めることです。
論文 参考訳（メタデータ） (2024-08-23T09:33:48Z) - International Institutions for Advanced AI [47.449762587672986]
国際機関は、高度なAIシステムが人類に利益をもたらすための重要な役割を担っているかもしれない。
本稿では,これらの課題に対処するために,国際レベルで実施可能な一連のガバナンス機能について述べる。
これらの機能を4つの組織モデルに分類し、内部のシナジーを示し、既存の組織で先例を持つ。
論文 参考訳（メタデータ） (2023-07-10T16:55:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。