Fugu-MT 論文翻訳(概要): Security and Privacy in Agentic AI: Grand Challenges and Future Directions

論文の概要: Security and Privacy in Agentic AI: Grand Challenges and Future Directions

arxiv url: http://arxiv.org/abs/2607.06608v1
Date: Tue, 07 Jul 2026 05:45:29 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-09 22:50:30.151203
Title: Security and Privacy in Agentic AI: Grand Challenges and Future Directions
Title（参考訳）: エージェントAIにおけるセキュリティとプライバシ - グランドチャレンジと今後の方向性
Abstract要約: 我々は地平線スキャンに基づくエージェントAIのセキュリティとプライバシに関する重要な課題と今後の研究方向性を示す。アカデミック、産業、政府から30人の国際専門家が、成長するAI機関に関連する新興リスクについて議論した。
参考スコア（独自算出の注目度）: 20.32703458554673
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We present key challenges and future research directions in the security and privacy of agentic AI, based on a horizon-scanning exercise that brought together thirty leading international experts from academia, industry, and government to engage in focused discussions and collaborative exercises on the emerging risks associated with the growing agency of AI.
Abstract（参考訳）: 我々は、エージェントAIのセキュリティとプライバシに関する重要な課題と将来の研究方向性を、学術、産業、政府から30人の主要な国際専門家を集めて、成長するAI機関に関連する新興リスクに関する集中的な議論と協調的なエクササイズに関わった地平線走査のエクササイズに基づいて提示する。

関連論文リスト

AI Security Priorities: A Field-Wide Agenda [3.5809399098766925]
AIの採用とAIセキュリティの準備のギャップは拡大し続けている。本稿では,AIのセキュリティ向上に向けた優先課題について述べる。現在の実践者、個人、そしてこの分野への参入を目指す組織の両方に役立てるように設計されている。
論文参考訳（メタデータ） (2026-06-23T08:57:30Z)
Advancing AI Challenges for the United States Department of the Air Force [91.02589169578908]
DAF-MIT AI Acceleratorは、アメリカ空軍(DAF)とマサチューセッツ工科大学(MIT)の協力である。この記事では、AI Acceleratorの課題を紹介した前回の論文を補完する。私たちは、AI技術のAI研究と応用に、進行中の新たな課題がいかに貢献したか、最新の情報を提供しています。
論文参考訳（メタデータ） (2025-10-31T21:34:57Z)
"We are not Future-ready": Understanding AI Privacy Risks and Existing Mitigation Strategies from the Perspective of AI Developers in Europe [56.1653658714305]
ヨーロッパを拠点とする25人のAI開発者を対象にインタビューを行い、ユーザ、開発者、ビジネスに最もリスクをもたらすと彼らが信じているプライバシの脅威を理解しました。プライバシリスクの相対的なランク付けに関して、AI開発者の間ではほとんど合意が得られていないことが分かっています。 AI開発者はこれらのリスクに対処するために提案された緩和戦略を認識しているが、彼らは最小限の現実的採用を報告した。
論文参考訳（メタデータ） (2025-10-01T13:51:33Z)
The Singapore Consensus on Global AI Safety Research Priorities [128.58674892183657]
2025年シンガポールAI会議(SCAI: International Scientific Exchange on AI Safety)は、この分野での研究を支援することを目的としている。ヨシュア・ベンジオが議長を務める国際AI安全レポート(AI Safety Report)は、33の政府によって支援されている。レポートは、AI安全研究ドメインを3つのタイプに分類する。信頼に値するAIシステム(開発)作成の課題、リスク評価の課題(評価)、デプロイメント後の監視と介入の課題(会議)。
論文参考訳（メタデータ） (2025-06-25T17:59:50Z)
In Which Areas of Technical AI Safety Could Geopolitical Rivals Cooperate? [66.89036079974998]
我々は、AI安全研究における国際協力のリスクに影響を与える技術的要因を考察する。我々は,このような協力が危険な能力を向上し,機密情報の共有や害の機会を提供する程度に焦点をあてる。我々は、技術的AI安全研究の協力に特有の主要なリスクを考慮して、関連するリスクを管理する既存のフレームワークを補うことができると論じる。
論文参考訳（メタデータ） (2025-04-17T13:03:56Z)
Securing the AI Frontier: Urgent Ethical and Regulatory Imperatives for AI-Driven Cybersecurity [0.0]
本稿では,サイバーセキュリティにおける人工知能の統合によって引き起こされる倫理的・規制上の課題について批判的に考察する。我々は、1940年代の理論的議論から、欧州連合のAI法のような最近のグローバルなフレームワークの実装に至るまで、AI規制の歴史的発展を辿った。バイアス、透明性、説明責任、プライバシ、人間の監視といった倫理的な懸念は、AI駆動のサイバーセキュリティシステムに影響を及ぼすとともに、深く調査されている。
論文参考訳（メタデータ） (2025-01-15T18:17:37Z)
Attack Atlas: A Practitioner's Perspective on Challenges and Pitfalls in Red Teaming GenAI [52.138044013005]
生成AI、特に大規模言語モデル(LLM)は、製品アプリケーションにますます統合される。新たな攻撃面と脆弱性が出現し、自然言語やマルチモーダルシステムにおける敵の脅威に焦点を当てる。レッドチーム(英語版)はこれらのシステムの弱点を積極的に識別する上で重要となり、ブルーチーム(英語版)はそのような敵の攻撃から保護する。この研究は、生成AIシステムの保護のための学術的な洞察と実践的なセキュリティ対策のギャップを埋めることを目的としている。
論文参考訳（メタデータ） (2024-09-23T10:18:10Z)
Generative AI and the problem of existential risk [0.0]
ジェネレーティブAIは、AIの現実的リスクに対する懸念の焦点となっている。この章は、生成的AIに関連する存在的リスクの恐れを根底にしている重要な懸念を強調して、議論を軽視することを目的としている。
論文参考訳（メタデータ） (2024-07-18T10:16:24Z)
US-China perspectives on extreme AI risks and global governance [0.0]
私たちは、先進的な人工知能による安全とセキュリティの脅威を各国の専門家がどのように表現するかをよりよく理解しようとしました。我々は、AI(Artificial General Intelligence, AGI)のような高度な人工知能の形式に着目した分析を行った。両国の専門家は、AGIからのリスク、諜報機関の爆発によるリスク、そして人間のコントロールから逃れるAIシステムからのリスクについて懸念を表明した。
論文参考訳（メタデータ） (2024-06-23T17:31:27Z)
AI Agents Under Threat: A Survey of Key Security Challenges and Future Pathways [10.16690494897609]
人工知能(AI)エージェント(英: Artificial Intelligence, AI)は、自律的にタスクを実行したり、事前に定義された目的やデータ入力に基づいて決定を行うソフトウェアエンティティである。この調査は、AIエージェントが直面している新たなセキュリティ脅威を掘り下げ、これらを4つの重要な知識ギャップに分類する。これらの脅威を体系的にレビューすることにより、この論文はAIエージェントの保護における進歩と既存の制限の両方を強調している。
論文参考訳（メタデータ） (2024-06-04T01:22:31Z)
Particip-AI: A Democratic Surveying Framework for Anticipating Future AI Use Cases, Harms and Benefits [54.648819983899614]
汎用AIは、一般大衆がAIを使用してそのパワーを利用するための障壁を下げたようだ。本稿では,AI利用事例とその影響を推測し,評価するためのフレームワークであるPartICIP-AIを紹介する。
論文参考訳（メタデータ） (2024-03-21T19:12:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。