論文の概要: The Foreign Policy AI Evaluation Gap
- arxiv url: http://arxiv.org/abs/2607.02955v1
- Date: Fri, 03 Jul 2026 04:59:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.47085
- Title: The Foreign Policy AI Evaluation Gap
- Title（参考訳）: 対外政策AI評価ギャップ
- Abstract要約: 我々は、外交業務に使用されるAIシステムは、技術的AIガバナンス研究の優先的なテストケースであるべきだと論じる。
外交政策の制定において、政治役者による対外的目的の定式化と実施について述べる。
Statecraftは、高効率なデプロイメントドメインであり、標準評価プラクティスがうまく扱えない極めて低いリスクと構造的特性を持つ。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We argue that AI systems used in conducting foreign policy tasks - broadly enacting 'statecraft' - should be a priority test case for technical AI governance research. In enacting foreign policy, we refer to the formulation and implementation of external objectives by political actors. Statecraft is a high-consequence deployment domain, with extreme downside risks and structural properties that standard evaluation practices handle poorly. These features include partial observability, unbounded action spaces, contested ground truth, and multidimensional objectives. This paper advocates for a literature-grounded research agenda. Our contribution is threefold: (i) a claim about the structural conditions of foreign policy that combine catastrophic tail risk with technical evaluation complexities, (ii) an ECOSYSTEM review that highlights the asymmetric focus on ASSESSMENT features over ACCESS, VERIFICATION, SECURITY, and OPERATIONALIZATION, and (iii) a demand-side evaluation framework that decomposes foreign-policy workflows into bounded, evaluable sub-tasks with human recombination. As AI systems are already being deployed in the conduct of war and peace, amid limited public evaluation infrastructure from the technical AI governance community, this agenda is an urgent priority.
- Abstract（参考訳）: 我々は、国際政策タスクを実行するのに使用されるAIシステムは、"国家技術"を広く実施するものであり、技術的AIガバナンス研究の優先的なテストケースであるべきだと論じる。
外交政策の制定において、政治役者による対外的目的の定式化と実施について述べる。
Statecraftは、高効率なデプロイメントドメインであり、標準評価プラクティスがうまく扱えない極めて低いリスクと構造的特性を持つ。
これらの特徴には、部分可観測性、非有界な行動空間、競合する地上の真実、多次元の目的などが含まれる。
本稿では,文献研究の課題を提唱する。
私たちの貢献は3倍です。
一 破滅的尾リスクと技術的評価の複雑さを兼ね備えた対外政策の構造的条件に関するクレーム
2ECOSYSTEMレビューは、アクセシビリティ、検証、セキュリティ及び運用に関するアセスメントの特徴を非対称に焦点を絞ったものである。
三 対外政治のワークフローを人的再結合を伴う有界で評価可能なサブタスクに分解する需要側評価フレームワーク。
AIシステムは、技術AIガバナンスコミュニティからの公開評価基盤が限られている中、すでに戦争と平和の行動に配備されているため、このアジェンダは緊急の優先事項である。
関連論文リスト
- PolicyLLM: Towards Excellent Comprehension of Public Policy for Large Language Models [56.37206340175191]
大規模言語モデル(LLM)は、現実の意思決定にますます統合されている。
しかし、政策関連のコンテンツについて理解し、理屈を定める能力はいまだ解明されていない。
textbftextitPolicyBenchは、最初の大規模クロスシステムベンチマーク(US-China)であり、ポリシーの理解を評価する。
論文 参考訳（メタデータ） (2026-04-14T17:27:50Z) - AI Deception: Risks, Dynamics, and Controls [153.71048309527225]
このプロジェクトは、AI偽装分野の包括的で最新の概要を提供する。
我々は、動物の偽装の研究からシグナル伝達理論に基づく、AI偽装の正式な定義を同定する。
我々は,AI偽装研究の展望を,偽装発生と偽装処理の2つの主要な構成要素からなる偽装サイクルとして整理する。
論文 参考訳（メタデータ） (2025-11-27T16:56:04Z) - Never Compromise to Vulnerabilities: A Comprehensive Survey on AI Governance [211.5823259429128]
本研究は,本質的セキュリティ,デリバティブ・セキュリティ,社会倫理の3つの柱を中心に構築された,技術的・社会的次元を統合した包括的枠組みを提案する。
我々は,(1)防衛が進化する脅威に対して失敗する一般化ギャップ,(2)現実世界のリスクを無視する不適切な評価プロトコル,(3)矛盾する監視につながる断片的な規制,の3つの課題を特定する。
私たちのフレームワークは、研究者、エンジニア、政策立案者に対して、堅牢でセキュアなだけでなく、倫理的に整合性があり、公的な信頼に値するAIシステムを開発するための実用的なガイダンスを提供します。
論文 参考訳（メタデータ） (2025-08-12T09:42:56Z) - Advancing Science- and Evidence-based AI Policy [163.43609502905707]
本稿では,AIの機会と課題に対処するために,エビデンスと政策の関係を最適化する方法の課題に取り組む。
i)AIのリスクとその効果的な緩和に関する研究、または(ii)これらのリスクに対処するための政策を提唱することで、この問題に対処する努力が増えている。
論文 参考訳（メタデータ） (2025-08-02T23:20:58Z) - An Overview of the Risk-based Model of AI Governance [0.0]
セクションでは、AIガバナンスに対するリスクベースのアプローチに対するいくつかの批判が提案されている。
リスクの概念は、その固有の規範が、その利益が重要となる支配的かつ有害な物語を再現するので、問題であると主張する。
本稿では、リスクベースのAIガバナンスを改善する上で、既存のリスクガバナンス奨学金が貴重な洞察を得られることを示唆して結論付ける。
論文 参考訳（メタデータ） (2025-07-21T06:56:04Z) - HH4AI: A methodological Framework for AI Human Rights impact assessment under the EUAI ACT [1.7754875105502606]
論文では、自律性、データ、目標指向設計によって駆動される、AIの変革的な性質を強調している。
重要な課題は、業界全体での“ハイリスク”なAIシステムの定義と評価である。
リスクを分離し、評価するために設計されたゲートベースのフレームワークである、基本的権利影響評価(FRIA)手法を提案する。
論文 参考訳（メタデータ） (2025-03-23T19:10:14Z) - Securing External Deeper-than-black-box GPAI Evaluations [49.1574468325115]
本稿では,汎用AI(GPAI)モデルの安全かつ効果的な外部評価を行う上での課題と可能性について検討する。
サイズ、能力、到達度、付随するリスクの指数的な増加により、説明責任、安全性、および公的な信頼を保証するには、従来のブラックボックスメソッドを超えるフレームワークが必要である。
論文 参考訳（メタデータ） (2025-03-10T16:13:45Z) - Between Innovation and Oversight: A Cross-Regional Study of AI Risk Management Frameworks in the EU, U.S., UK, and China [0.0]
本稿では、欧州連合、米国、英国(イギリス)、中国におけるAIリスク管理戦略の比較分析を行う。
この結果は、EUが透明性と適合性の評価を優先する構造化されたリスクベースの枠組みを実装していることを示している。
米国は、イノベーションを促進するが、断片化された執行につながる可能性のある、分権化されたセクター固有の規制を使用している。
論文 参考訳（メタデータ） (2025-02-25T18:52:17Z) - The Fundamental Rights Impact Assessment (FRIA) in the AI Act: Roots, legal obligations and key elements for a model template [55.2480439325792]
基本権利影響評価(FRIA)の理論的・方法論的検討における既存のギャップを埋めることを目的とする。
この記事では、FRIAのモデルテンプレートの主要なビルディングブロックについて概説する。
これは、AIが人権と完全に整合していることを保証するために、他の国家および国際規制イニシアチブの青写真として機能する。
論文 参考訳（メタデータ） (2024-11-07T11:55:55Z) - An International Consortium for Evaluations of Societal-Scale Risks from
Advanced AI [10.550015825854837]
規制のギャップにより、AIラボは最小限の監視で研究、開発、デプロイメント活動を行うことができた。
フロンティアAIシステムの評価は、フロンティアAIシステムの開発と展開のリスクを評価する方法として提案されている。
本稿では,AI開発者とサードパーティのAIリスク評価者の両方からなる,AIリスク評価のための国際コンソーシアムの形でのソリューションを提案する。
論文 参考訳（メタデータ） (2023-10-22T23:37:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。