論文の概要: Verifying Restrictions on Frontier AI Research

• arxiv url: http://arxiv.org/abs/2606.28694v1
• Date: Sat, 27 Jun 2026 02:27:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.656861
• Title: Verifying Restrictions on Frontier AI Research
• Title（参考訳）: Frontier AI研究における制限の検証
• Abstract要約: 人工超知能の早期発達は 人類に大きなリスクをもたらす 研究者は、そのような開発を安全に行うまで停止する国際協定を提案した。 本稿では,AI研究におけるこのような制約がどのように検証されるかを分析する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The premature development of artificial superintelligence poses major risks to humanity, so researchers have proposed international agreements halting such development until it can be done safely. AI progress depends primarily on compute, algorithms, and data; a durable halt would address all three so that advances in one input do not counteract restrictions on another. Improvements to AI algorithms are driven largely through research activities, so this research may need to be restricted during a halt. Given low international trust, signatories will want to verify compliance. This paper analyzes how such restrictions on AI research could be verified, while remaining agnostic about what specific research would be prohibited. It first explores key considerations that affect the verifiability of research restrictions, such as the computational infrastructure necessary for experiments. It then catalogs 28 candidate verification mechanisms. These mechanisms include whistleblowers, search warrants, reviews of AI training code, standard intelligence gathering tools, and more. Some of these mechanisms are not yet implementation-ready, and some might be undesirable upon further inspection. By examining the space of potential options, this work provides a foundation for future research to develop the most promising mechanisms into deployable tools.
• Abstract（参考訳）: 人工超知能の早期発達は人類に大きなリスクをもたらすため、研究者はそのような開発を安全に行うまで停止する国際協定を提案した。 AIの進歩は、主に計算、アルゴリズム、データに依存します。 AIアルゴリズムの改善は、主に研究活動によって推進されるため、この研究は停止中に制限される必要があるかもしれない。 国際的信頼度が低いと、署名者はコンプライアンスの確認を望んでいる。 本稿では、AI研究に対するそのような制限がどのように検証されるのかを分析し、具体的な研究が禁止されるかどうかを知らないままである。 まず、実験に必要な計算インフラなど、研究制限の妥当性に影響を与える重要な考察を考察する。 次に、28の候補検証機構をカタログ化する。 これらのメカニズムには、内部告発者、捜索令状、AIトレーニングコードのレビュー、標準情報収集ツールなどが含まれる。 これらのメカニズムのいくつかはまだ実装可能なものではなく、さらなる検査では望ましくないものもある。 潜在的な選択肢の空間を調べることで、この研究は、デプロイ可能なツールに最も有望なメカニズムを開発するための、将来の研究の基礎を提供する。

関連論文リスト

• The Role of AI in Modern Penetration Testing [0.0]
  侵入テストはサイバーセキュリティの基礎であり、伝統的に手動の時間集約的なプロセスによって駆動される。 この体系的な文献レビューは、人工知能(AI)が浸透試験をどう変えているかを検証している。
  論文  参考訳（メタデータ） (2025-12-13T13:34:31Z)
• An International Agreement to Prevent the Premature Creation of Artificial Superintelligence [1.5749416770494706]
  本報告では, 人工超知能の早期発達を防止するための国際協定を提案する。 この合意は、現在の安全なAIアプリケーションへのアクセスを維持しながら、危険なAI能力の進歩を停止する。 当事者間の信頼が欠如しているため、検証は合意の重要な部分である。
  論文  参考訳（メタデータ） (2025-11-13T20:07:29Z)
• Barbarians at the Gate: How AI is Upending Systems Research [58.95406995634148]
  システム研究は、新しいパフォーマンス指向アルゴリズムの設計と評価に長年注力してきたが、AI駆動のソリューション発見には特に適している、と私たちは主張する。 このアプローチをAI駆動システム研究(ADRS)と呼び、ソリューションを反復的に生成し、評価し、洗練する。 我々の研究結果は、AI時代のシステム研究の実践に急激な適応の必要性と破壊的な可能性を浮き彫りにしている。
  論文  参考訳（メタデータ） (2025-10-07T17:49:24Z)
• Verifying International Agreements on AI: Six Layers of Verification for Rules on Large-Scale AI Development and Deployment [0.7364983833280243]
  このレポートは、政策の専門家と技術研究者の両方を対象とした、AI検証の詳細な概要を提供する。 本稿では、新しい概念フレームワーク、詳細な実装オプション、そして重要なR&D課題について述べる。 州は最終的に6つのほぼ独立した検証手法を用いてコンプライアンスを検証できることがわかった。
  論文  参考訳（メタデータ） (2025-07-21T17:45:15Z)
• AI4Research: A Survey of Artificial Intelligence for Scientific Research [55.5452803680643]
  我々はAI for Research(AI4Research)に関する総合的な調査を行う。 まず、AI4Researchの5つの主要なタスクを分類する系統分類を導入する。 主要な研究ギャップを特定し、将来有望な方向性を明らかにする。
  論文  参考訳（メタデータ） (2025-07-02T17:19:20Z)
• Mechanisms to Verify International Agreements About AI Development [0.0]
  報告書は、各国が互いのAI開発とデプロイメントに関する主張を実際に検証する方法を実証することを目的としている。 焦点は国際協定と国家が関与するAI開発だが、これらのアプローチは企業の国内規制にも適用できる。
  論文  参考訳（メタデータ） (2025-06-18T20:28:54Z)
• The AI Imperative: Scaling High-Quality Peer Review in Machine Learning [49.87236114682497]
  AIによるピアレビューは、緊急の研究とインフラの優先事項になるべきだ、と私たちは主張する。 我々は、事実検証の強化、レビュアーのパフォーマンスの指導、品質改善における著者の支援、意思決定におけるAC支援におけるAIの具体的な役割を提案する。
  論文  参考訳（メタデータ） (2025-06-09T18:37:14Z)
• Using AI Alignment Theory to understand the potential pitfalls of regulatory frameworks [55.2480439325792]
  本稿では、欧州連合の人工知能法(EU AI法)を批判的に検討する。 人工知能における技術的アライメントの潜在的な落とし穴に焦点を当てたアライメント理論(AT)研究からの洞察を利用する。 これらの概念をEU AI Actに適用すると、潜在的な脆弱性と規制を改善するための領域が明らかになる。
  論文  参考訳（メタデータ） (2024-10-10T17:38:38Z)
• Open Problems in Technical AI Governance [102.19067750759471]
  テクニカルAIガバナンス(Technical AI Governance)は、AIの効果的なガバナンスを支援するための技術分析とツールである。 本論文は、AIガバナンスへの貢献を目指す技術研究者や研究資金提供者のためのリソースとして意図されている。
  論文  参考訳（メタデータ） (2024-07-20T21:13:56Z)
• Towards Possibilities & Impossibilities of AI-generated Text Detection: A Survey [97.33926242130732]
  大規模言語モデル(LLM)は、自然言語処理(NLP)の領域に革命をもたらし、人間のようなテキスト応答を生成する能力を持つ。 これらの進歩にもかかわらず、既存の文献のいくつかは、LLMの潜在的な誤用について深刻な懸念を提起している。 これらの懸念に対処するために、研究コミュニティのコンセンサスは、AI生成テキストを検出するアルゴリズムソリューションを開発することである。
  論文  参考訳（メタデータ） (2023-10-23T18:11:32Z)
• The Offense-Defense Balance of Scientific Knowledge: Does Publishing AI Research Reduce Misuse? [0.0]
  人工知能(AI)研究の誤用に関する懸念が高まっている。 科学研究の出版は技術の誤用を助長するが、この研究は誤用に対する保護にも貢献する。 本稿ではこれらの2つの効果のバランスについて述べる。
  論文  参考訳（メタデータ） (2019-12-27T10:20:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。