論文の概要: Orphan risks at the frontier of artificial intelligence: What diverging safety and compliance frameworks reveal about how AI companies choose the risks they prioritize

• arxiv url: http://arxiv.org/abs/2608.16895v2
• Date: Wed, 19 Aug 2026 02:55:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.243062
• Title: Orphan risks at the frontier of artificial intelligence: What diverging safety and compliance frameworks reveal about how AI companies choose the risks they prioritize
• Title（参考訳）: 人工知能の最前線における孤児のリスク:AI企業が優先するリスクをどのように選択するかについて、安全とコンプライアンスのフレームワークの多様化が明らかにする
• Abstract要約: 本稿では、2023年から2026年の間に、Arthropic、OpenAI、Google DeepMind、Metaが発行した安全およびコンプライアンス文書を比較した。 価値に対する脅威としてリスクを再定義することは、いかにリスクが"孤児のリスク"になるかを説明するのに役立ちます。 これは、フロンティアAIの安全装置が現在取り組まれていないリスクを解消するための軽量ツールを指している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Companies developing some of the world's most powerful artificial intelligence systems are surprisingly diligent in how they map out the risks their technologies present. Yet the risk landscape that lies between emerging frontier models and their economically successful and societally beneficial deployment is becoming increasingly hard to navigate. Complicating this further, many frontier AI companies maintain more than one account of what could go wrong with their technologies. This paper documents the divergence between these accounts by comparing safety and compliance documents published by Anthropic, OpenAI, Google DeepMind and Meta between 2023 and 2026, and considers what the resulting record reveals about how these companies select the risks they manage. As these documents are timestamped and archived, they provide a valuable public record of institutional risk selection in progress. From this record the paper identifies four filters that determine which risks tend to survive in self-authored frameworks (measurability, severity, auditability and competitive cost) and introduces the "safety differential" as the gap between the risk landscape a company selects for itself, and the one regulators select for it. While acute, quantifiable risks appear across documents, less tractable risks such as harmful manipulation are articulated fluently where law compels disclosure, yet remain absent from most self-chosen frameworks. This is an exclusion that follows from how these institutions define risk. Drawing on scholarship on institutional risk selection and the framework of risk innovation, the paper shows how redefining risk as a threat to value can help explain how risks become "orphan risks," how it indicates where future blindsides may occur, and how it points to lightweight tools for de-orphaning risks that frontier AI's safety apparatuses are not currently organized to address.
• Abstract（参考訳）: 世界で最も強力な人工知能システムを開発する企業は、彼らの技術がもたらすリスクをどうマップするかに驚くほど精通しています。 しかし、新興フロンティアモデルと経済的に成功し、社会的に有益な展開との間にあるリスクの状況は、ますます困難なものになりつつある。 これをさらに複雑にすると、多くのフロンティアAI企業は、彼らの技術に何が起こらないかという複数の説明を維持している。 本稿は、2023年から2026年の間に、Anthropic、OpenAI、Google DeepMind、Metaが発行した安全文書とコンプライアンス文書を比較して、これらのアカウント間のばらつきを報告し、これらの企業が管理するリスクをどのように選択するかについて、その結果の記録を考察する。 これらの文書はタイムスタンプされ、アーカイブされているので、進行中の制度上のリスク選択に関する貴重な公開記録を提供する。 本報告では,自己承認型フレームワーク(測定可能性,重症度,監査可能性,競争コスト)で生存するリスクを判定する4つのフィルタを特定し,企業が選択するリスクランドスケープのギャップとして"セーフティ差分"を導入する。 急激で定量的なリスクは文書中に現れるが、有害な操作のような難易度の高いリスクは、法律が開示を補完しながらも、ほとんどの自警団の枠組みに欠ける。 これは、これらの機関がリスクを定義する方法に従う除外です。 この論文は、制度的リスク選択とリスクイノベーションの枠組みに関する奨学金に基づいて、リスクの再定義が、どのようにして"孤児のリスク"になるか、どのようにして将来の盲点が発生するか、そして、フロンティアAIの安全装置が現在取り組まれていないリスクを解消するための軽量ツールを示すかを説明する。

関連論文リスト

• Frontier AI Risk Management Framework in Practice: A Risk Analysis Technical Report v1.5 [61.787178868669265]
  この技術レポートは、サイバー犯罪、説得と操作、戦略上の詐欺、制御されていないAIR&D、自己複製の5つの重要な側面について、更新されきめ細かな評価を提示する。 この作業は、現在のAIフロンティアのリスクに対する理解を反映し、これらの課題を軽減するための集団行動を促します。
  論文  参考訳（メタデータ） (2026-02-16T04:30:06Z)
• Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
  私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。 本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
  論文  参考訳（メタデータ） (2026-01-16T18:44:09Z)
• The Role of Risk Modeling in Advanced AI Risk Management [33.357295564462284]
  急速に進歩する人工知能(AI)システムは、新しい、不確実で、潜在的に破滅的なリスクをもたらす。 これらのリスクを管理するには、厳格なリスクモデリングの基盤となる成熟したリスク管理インフラストラクチャが必要です。 先進的なAIガバナンスは、同様の二重アプローチを採用するべきであり、検証可能な、確実に安全なAIアーキテクチャが緊急に必要である、と私たちは主張する。
  論文  参考訳（メタデータ） (2025-12-09T15:37:33Z)
• An Artificial Intelligence Value at Risk Approach: Metrics and Models [0.0]
  人工知能のリスク管理技術の現状は、今後のAI規制により、非常に未熟であるようだ。 本稿の目的は、AIリスク管理の深さについて、AIステークホルダーを指向させることである。
  論文  参考訳（メタデータ） (2025-09-22T20:27:29Z)
• Intolerable Risk Threshold Recommendations for Artificial Intelligence [0.2383122657918106]
  フロンティアAIモデルは、公共の安全、人権、経済の安定、社会的価値に深刻なリスクをもたらす可能性がある。 リスクは、意図的に敵の誤用、システム障害、意図しないカスケード効果、複数のモデルにまたがる同時障害から生じる可能性がある。 16のグローバルAI産業組織がFrontier AI Safety Commitmentsに署名し、27の国とEUは、これらのしきい値を定義する意図を宣言した。
  論文  参考訳（メタデータ） (2025-03-04T12:30:37Z)
• EARBench: Towards Evaluating Physical Risk Awareness for Task Planning of Foundation Model-based Embodied AI Agents [53.717918131568936]
  EAI(Embodied AI)は、高度なAIモデルを現実世界のインタラクションのための物理的なエンティティに統合する。 高レベルのタスク計画のためのEAIエージェントの"脳"としてのファンデーションモデルは、有望な結果を示している。 しかし、これらのエージェントの物理的環境への展開は、重大な安全性上の課題を呈している。 本研究では,EAIシナリオにおける身体的リスクの自動評価のための新しいフレームワークEARBenchを紹介する。
  論文  参考訳（メタデータ） (2024-08-08T13:19:37Z)
• AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies [88.32153122712478]
  我々は4階層の分類に分類された314のユニークなリスクカテゴリを特定した。 最高レベルでは、この分類はシステム・アンド・オペレーショナル・リスク、コンテンツ・セーフティ・リスク、社会的なリスク、法と権利のリスクを含む。 我々は、セクター間の情報共有と、生成型AIモデルとシステムのリスク軽減におけるベストプラクティスの推進を通じて、AIの安全性を向上することを目指している。
  論文  参考訳（メタデータ） (2024-06-25T18:13:05Z)
• Risk thresholds for frontier AI [1.053373860696675]
  人気が高まっているアプローチの1つは、機能しきい値を定義することである。 リスク閾値は単に、どれだけのリスクが過剰かを記述するだけです。 主な欠点は、信頼性の高い評価が難しいことだ。
  論文  参考訳（メタデータ） (2024-06-20T20:16:29Z)
• Near to Mid-term Risks and Opportunities of Open-Source Generative AI [94.06233419171016]
  Generative AIの応用は、科学や医学、教育など、さまざまな分野に革命をもたらすことが期待されている。 こうした地震の影響の可能性は、潜在的なリスクに関する活発な議論を引き起こし、より厳格な規制を要求した。 この規制は、オープンソースのジェネレーティブAIの誕生する分野を危険にさらしている可能性が高い。
  論文  参考訳（メタデータ） (2024-04-25T21:14:24Z)
• A Brief Overview of AI Governance for Responsible Machine Learning Systems [3.222802562733787]
  このポジションペーパーは、AIの責任ある使用を監督するように設計されたフレームワークである、AIガバナンスの簡単な紹介を提案する。 AIの確率的性質のため、それに関連するリスクは従来の技術よりもはるかに大きい。
  論文  参考訳（メタデータ） (2022-11-21T23:48:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。