論文の概要: Market Incentives for AI Safety Investment
- arxiv url: http://arxiv.org/abs/2610.21607v1
- Date: Thu, 15 Oct 2026 09:55:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-16 19:13:16.31087
- Title: Market Incentives for AI Safety Investment
- Title（参考訳）: AI安全投資のための市場インセンティブ
- Abstract要約: 当社は、アップストリームプロバイダと競合する下流企業とのAIサプライチェーンにおける安全投資が、どのように利益を形作るかを示す。
下流の競争は、一般的に、下流の企業に対して、業界の最適レベルよりも安全性により多くの投資をさせます。
我々は、異なる規制介入が参加者のインセンティブや利益、モデル安全性のレベルに与える影響を分析する。
- 参考スコア（独自算出の注目度）: 4.94950858749529
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite their practical significance, modern AI systems pose significant societal risks, including toxicity, malicious use, and misinformation. Their mitigation depends not only on technical feasibility but also on the incentives of firms that develop and deploy these systems. We show how profit maximization shapes safety investment in an AI supply chain with an upstream LLM provider and several competing downstream firms. In our game-theoretic model, we derive the market-driven level of safety investment and compare it with the levels that maximize market welfare and industry profit. We find that downstream competition generally induces downstream firms to invest more in safety than the industry-profit-optimal level. By contrast, the upstream provider may underinvest relative to these benchmarks because it is not fully compensated for the surplus from safety investments. Finally, we analyze how different regulatory interventions affect the participants' incentives and profits, and the resulting levels of model safety.
- Abstract（参考訳）: その実用的重要性にもかかわらず、現代のAIシステムは、毒性、悪意のある使用、誤情報など、重大な社会的リスクを生じさせる。
彼らの緩和は、技術的実現可能性だけでなく、これらのシステムを開発、展開する企業のインセンティブにも依存する。
収益の最大化が、上流のLLMプロバイダと競合する下流企業とのAIサプライチェーンの安全投資をいかに形作るかを示す。
ゲーム理論モデルでは、市場主導の安全投資のレベルを導出し、市場福祉と産業利益を最大化するレベルと比較する。
下流の競争は、一般的に、下流の企業に対して、業界利益の最適レベルよりも安全に投資するよう促すことに気付きます。
対照的に、アップストリームプロバイダは、安全投資の余剰を十分に補うことができないため、これらのベンチマークに対する投資を過小評価する可能性がある。
最後に、異なる規制介入が参加者のインセンティブや利益、モデル安全性のレベルに与える影響を分析する。
関連論文リスト
- Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies [57.521647436515785]
私たちはフロンティアAIの監査を、フロンティアAI開発者の安全とセキュリティに関する主張の厳格な第三者による検証として定義しています。
本稿では,AI保証レベル(AAL-1からAAL-4)について紹介する。
論文 参考訳（メタデータ） (2026-01-16T18:44:09Z) - Beyond Ethics: How Inclusive Innovation Drives Economic Returns in Medical AI [2.2290760519468007]
我々は、包括的医療AI開発がコンプライアンス要件を超えたビジネス価値をいかに生み出すかを示す。
包括的イノベーションが引き起こす4つのメカニズムを特定します。
医療AIインクルーシブ・イノベーション・フレームワーク(HAIIF)について紹介する。
論文 参考訳（メタデータ） (2025-10-11T20:52:16Z) - GSPR: Aligning LLM Safeguards as Generalizable Safety Policy Reasoners [60.49708196646694]
大規模言語モデル(LLM)は、様々な領域にわたる多くのアプリケーションに統合されつつある。
本稿では,安全でない入力プロンプトとLLMの出力を不正に検出する汎用安全推論器GSPRを提案する。
我々のGSPRは、安全とカテゴリー予測の両方のタスクにおいて、既存の安全ガードレールの推論能力を大幅に改善する。
論文 参考訳（メタデータ） (2025-09-29T08:07:45Z) - Learn to Rank Risky Investors: A Case Study of Predicting Retail Traders' Behaviour and Profitability [3.731289189298451]
本稿では、リスクトレーダーをランク付けタスクとして識別する問題を再編成するリスクランク付け手法(PA-RiskRanker)を提案する。
提案手法は,Profit-Aware binary cross entropy (PA-BCE) 損失関数と,セルフクロストレーダアテンションパイプラインで拡張されたトランスフォーマーベースのロータを備える。
本研究は,貿易リスク管理における既存の深層学習に基づくLETORアルゴリズムの限界について批判的に検討する。
論文 参考訳（メタデータ） (2025-09-20T10:41:13Z) - Supply Chain Network Security Investment Strategies Based on Nonlinear Budget Constraints: The Moderating Roles of Market Share and Attack Risk [4.916547346134989]
本研究では、予算制約のないサイバーセキュリティ投資最適化モデルを提案する。
このモデルは、2つの小売店と2つの需要市場の実験的なスケナリオスにおいて、高いサイバーセキュリティレベル0.96と0.95を達成する。
論文 参考訳（メタデータ） (2025-02-11T11:37:58Z) - Safetywashing: Do AI Safety Benchmarks Actually Measure Safety Progress? [59.96471873997733]
我々は、より有意義な安全指標を開発するための実証的な基盤を提案し、機械学習研究の文脈でAIの安全性を定義する。
我々は、AI安全研究のためのより厳格なフレームワークを提供し、安全性評価の科学を前進させ、測定可能な進歩への道筋を明らかにすることを目指している。
論文 参考訳（メタデータ） (2024-07-31T17:59:24Z) - From Transcripts to Insights: Uncovering Corporate Risks Using Generative AI [0.0]
我々は、政治的、気候的、AI関連のリスクに曝露する、しっかりとしたレベルのリスク対策を開発し、検証する。
GPT 3.5 モデルを用いてリスクサマリーとアセスメントを生成することにより,GPT ベースの尺度が重要な情報内容を有することを示す。
また、生成的AIは、近年の四半期で急増しているAIリスクのような、新たなリスクを検出するのに効果的であることもわかっています。
論文 参考訳（メタデータ） (2023-10-26T18:30:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。