論文の概要: Training Compute Thresholds: Features and Functions in AI Governance

• arxiv url: http://arxiv.org/abs/2405.10799v1
• Date: Fri, 17 May 2024 14:10:24 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-20 15:53:32.565073
• Title: Training Compute Thresholds: Features and Functions in AI Governance
• Title（参考訳）: コンピュータ閾値のトレーニング:AIガバナンスの特徴と機能
• Authors: Lennart Heim,
• Abstract要約: 我々は、計算しきい値がAIモデルのさらなる評価のための貴重なトリガーであると主張している。 計算しきい値は、潜在的にリスクの高いモデルを特定するための実用的な出発点となる。
• 参考スコア（独自算出の注目度）: 0.8547032097715571
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper examines the use of training compute thresholds as a tool for governing artificial intelligence (AI) systems. We argue that compute thresholds serve as a valuable trigger for further evaluation of AI models, rather than being the sole determinant of the regulation. Key advantages of compute thresholds include their correlation with model capabilities and risks, quantifiability, ease of measurement, robustness to circumvention, knowability before model development and deployment, potential for external verification, and targeted scope. Compute thresholds provide a practical starting point for identifying potentially high-risk models and can be used as an initial filter in AI governance frameworks alongside other sector-specific regulations and broader governance measures.
• Abstract（参考訳）: 本稿では,人工知能(AI)システムの管理ツールとして,計算しきい値のトレーニングを利用する方法について検討する。 我々は、計算しきい値が、規制の唯一の決定要因であるのではなく、AIモデルのさらなる評価のための貴重なトリガーであると主張している。 計算しきい値の主な利点は、モデル能力とリスクとの相関、定量化可能性、測定の容易性、回避への堅牢性、モデル開発と展開前の可知性、外部検証の可能性、対象範囲などである。 計算しきい値は、潜在的にリスクの高いモデルを特定するための実践的な出発点を提供し、AIガバナンスフレームワークの初期フィルタとして、他のセクター固有の規制やより広範なガバナンス対策とともに使用できる。

関連論文リスト

• Computing Power and the Governance of Artificial Intelligence [51.967584623262674]
  政府や企業は、AIを管理する手段として計算を活用し始めている。 計算ベースのポリシーと技術は、これらの領域を補助する可能性があるが、実装の準備ができている点で大きなバリエーションがある。 プライバシーや経済的影響、権力の中央集権化といった分野において、ガバナンスの計算方法の素早い、あるいは不十分なアプローチは重大なリスクを伴います。
  論文  参考訳（メタデータ） (2024-02-13T21:10:21Z)
• Mathematical Algorithm Design for Deep Learning under Societal and Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
  計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。 以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-01-18T15:32:38Z)
• Estimating Fr\'echet bounds for validating programmatic weak supervision [50.13475056199486]
  我々は、ある変数が連続的に評価される(おそらく高次元の)分布クラス上のFr'echeの境界を推定する手法を開発する。 プログラム弱監督(PWS)を訓練した機械学習(ML)モデルの性能を評価することで,アルゴリズムの有用性を実証する。
  論文  参考訳（メタデータ） (2023-12-07T07:15:11Z)
• Towards Explainable AI for Channel Estimation in Wireless Communications [1.0874597293913013]
  XAI-CHEST方式の目的は,無関係なモデルに対して高雑音を発生させることで,関連するモデル入力を同定することである。 その結果, 検討したDL型チャネル推定器の挙動をさらに解析し, 評価できることがわかった。
  論文  参考訳（メタデータ） (2023-07-03T11:51:00Z)
• Modelling Assessment Rubrics through Bayesian Networks: a Pragmatic Approach [59.77710485234197]
  本稿では,学習者モデルを直接評価ルーリックから導出する手法を提案する。 本稿では,コンピュータ思考のスキルをテストするために開発された活動の人的評価を自動化するために,この手法を適用する方法について述べる。
  論文  参考訳（メタデータ） (2022-09-07T10:09:12Z)
• Differential Assessment of Black-Box AI Agents [29.98710357871698]
  従来知られていたモデルから逸脱したブラックボックスAIエージェントを差分評価する手法を提案する。 我々は,漂流エージェントの現在の挙動と初期モデルの知識の疎度な観察を利用して,アクティブなクエリポリシーを生成する。 経験的評価は、エージェントモデルをスクラッチから再学習するよりも、我々のアプローチの方がはるかに効率的であることを示している。
  論文  参考訳（メタデータ） (2022-03-24T17:48:58Z)
• Logic Constraints to Feature Importances [17.234442722611803]
  AIモデルの"ブラックボックス"の性質は、診断技術や自律的ガイドなど、高度な分野における信頼性の高い応用の限界であることが多い。 近年の研究では、適切な解釈可能性のレベルが、モデル信頼性というより一般的な概念を強制できることが示されている。 本論文の基本的な考え方は,特定のタスクにおける特徴の重要性に関する人間の事前知識を利用して,モデルの適合のフェーズを整合的に支援することである。
  論文  参考訳（メタデータ） (2021-10-13T09:28:38Z)
• Unifying Gradient Estimators for Meta-Reinforcement Learning via Off-Policy Evaluation [53.83642844626703]
  オフ・ポリシー評価に基づいて,高次値関数の高次微分を推定するための統一フレームワークを提供する。 本フレームワークは, ヘッセン推定の偏りと分散トレードオフを解明する特別事例として, 多くの先行的アプローチを解釈する。
  論文  参考訳（メタデータ） (2021-06-24T15:58:01Z)
• Evaluating the Safety of Deep Reinforcement Learning Models using Semi-Formal Verification [81.32981236437395]
  本稿では,区間分析に基づく半形式的意思決定手法を提案する。 本手法は, 標準ベンチマークに比較して, 形式検証に対して比較結果を得る。 提案手法は, 意思決定モデルにおける安全性特性を効果的に評価することを可能にする。
  論文  参考訳（メタデータ） (2020-10-19T11:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。