論文の概要: Usage Governance Advisor: From Intent to AI Governance

• arxiv url: http://arxiv.org/abs/2412.01957v2
• Date: Thu, 23 Jan 2025 14:49:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-24 19:43:34.656531
• Title: Usage Governance Advisor: From Intent to AI Governance
• Title（参考訳）: 利用ガバナンスアドバイザー: インテントからAIガバナンスへ
• Authors: Elizabeth M. Daly, Sean Rooney, Seshu Tirupathi, Luis Garces-Erice, Inge Vejsbjerg, Frank Bagehorn, Dhaval Salwala, Christopher Giblin, Mira L. Wolf-Bauwens, Ioana Giurgiu, Michael Hind, Peter Urbanetz,
• Abstract要約: AIシステムの安全性を評価することは、それらをデプロイする組織にとって、厳しい関心事である。 本稿では,半構造化ガバナンス情報を作成するユーザガバナンスアドバイザを提案する。
• 参考スコア（独自算出の注目度）: 4.49852442764084
• License:
• Abstract: Evaluating the safety of AI Systems is a pressing concern for organizations deploying them. In addition to the societal damage done by the lack of fairness of those systems, deployers are concerned about the legal repercussions and the reputational damage incurred by the use of models that are unsafe. Safety covers both what a model does; e.g., can it be used to reveal personal information from its training set, and how a model was built; e.g., was it only trained on licensed data sets. Determining the safety of an AI system requires gathering information from a wide set of heterogeneous sources including safety benchmarks and technical documentation for the set of models used in that system. In addition, responsible use is encouraged through mechanisms that advise and help the user to take mitigating actions where safety risks are detected. We present Usage Governance Advisor which creates semi-structured governance information, identifies and prioritizes risks according to the intended use case, recommends appropriate benchmarks and risk assessments and importantly proposes mitigation strategies and actions.
• Abstract（参考訳）: AIシステムの安全性を評価することは、それらをデプロイする組織にとって、厳しい関心事である。 これらのシステムの公正さの欠如による社会的損害に加えて、展開者は、法的な反感と、安全でないモデルの使用によって引き起こされる評判的な損害を懸念している。 例えば、トレーニングセットから個人情報を明らかにするために使用することができ、モデルがどのように構築されたか、例えば、ライセンスされたデータセットでのみトレーニングされたか、などです。 AIシステムの安全性を決定するには、安全ベンチマークやそのシステムで使用されるモデルのセットに関する技術ドキュメントを含む、多種多様なソースから情報を集める必要がある。 また、安全リスクが検出された場合の軽減措置をユーザに助言し、支援するメカニズムを通じて、責任ある使用を奨励する。 本稿では、半構造化ガバナンス情報を作成し、意図されたユースケースに従ってリスクを特定し、優先順位付けし、適切なベンチマークとリスク評価を推奨し、緩和戦略と行動を提案する。

関連論文リスト

• Risk Sources and Risk Management Measures in Support of Standards for General-Purpose AI Systems [2.3266896180922187]
  我々は、汎用AIシステムのためのリスクソースとリスク管理対策の広範なカタログをコンパイルする。 この作業には、モデル開発、トレーニング、デプロイメントステージにわたる技術的、運用的、社会的リスクの特定が含まれる。 このカタログは、AIガバナンスと標準における利害関係者による直接的な使用を容易にするために、パブリックドメインライセンス下でリリースされている。
  論文  参考訳（メタデータ） (2024-10-30T21:32:56Z)
• Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System [60.719158008403376]
  VAT(Vulnerability-aware Adversarial Training)は、レコメンデーションシステムにおける中毒攻撃に対する防御を目的とした訓練である。 VATは、システムの適合度に基づいて、ユーザの脆弱性を推定するために、新たな脆弱性認識機能を採用している。
  論文  参考訳（メタデータ） (2024-09-26T02:24:03Z)
• "Glue pizza and eat rocks" -- Exploiting Vulnerabilities in Retrieval-Augmented Generative Models [74.05368440735468]
  Retrieval-Augmented Generative (RAG)モデルにより大規模言語モデル(LLM)が強化される 本稿では,これらの知識基盤の開放性を敵が活用できるセキュリティ上の脅威を示す。
  論文  参考訳（メタデータ） (2024-06-26T05:36:23Z)
• Affirmative safety: An approach to risk management for high-risk AI [6.133009503054252]
  高いリスクを持つAIシステムを開発または展開するエンティティは、肯定的な安全性の証拠を示すために必要であるべきだ、と私たちは主張する。 本稿では,モデル開発者が一定のリスクを規制基準値以下に維持する証拠を提示しなければならない,高度なAIのためのリスク管理手法を提案する。
  論文  参考訳（メタデータ） (2024-04-14T20:48:55Z)
• Leveraging Traceability to Integrate Safety Analysis Artifacts into the Software Development Process [51.42800587382228]
  安全保証ケース(SAC)は、システムの進化中に維持することが困難である。 本稿では,ソフトウェアトレーサビリティを活用して,関連するシステムアーチファクトを安全解析モデルに接続する手法を提案する。 安全ステークホルダーがシステム変更が安全性に与える影響を分析するのに役立つように、システム変更の合理性を設計する。
  論文  参考訳（メタデータ） (2023-07-14T16:03:27Z)
• Foveate, Attribute, and Rationalize: Towards Physically Safe and Trustworthy AI [76.28956947107372]
  包括的不安全テキストは、日常的なシナリオから生じる可能性のある特定の関心領域であり、有害なテキストを検出するのが困難である。 安全の文脈において、信頼に値する合理的な生成のために外部知識を活用する新しいフレームワークであるFARMを提案する。 実験の結果,FARMはSafeTextデータセットの最先端結果を得ることができ,安全性の分類精度が5.9%向上したことがわかった。
  論文  参考訳（メタデータ） (2022-12-19T17:51:47Z)
• Recursively Feasible Probabilistic Safe Online Learning with Control Barrier Functions [60.26921219698514]
  CBFをベースとした安全クリティカルコントローラのモデル不確実性を考慮した再構成を提案する。 次に、結果の安全制御器のポイントワイズ実現可能性条件を示す。 これらの条件を利用して、イベントトリガーによるオンラインデータ収集戦略を考案する。
  論文  参考訳（メタデータ） (2022-08-23T05:02:09Z)
• Assurance Cases as Foundation Stone for Auditing AI-enabled and Autonomous Systems: Workshop Results and Political Recommendations for Action from the ExamAI Project [2.741266294612776]
  ソフトウェア欠陥に対する安全基準の実施方法について検討する。 機能安全基準は、安全統合レベル(SIL)を使用して、どの安全対策を実施するかを定義する。 本稿では,個別に選択された,適用された措置が十分であると主張するための保証事例の利用を提案する。
  論文  参考訳（メタデータ） (2022-08-17T10:05:07Z)
• Risk Management Framework for Machine Learning Security [7.678455181587705]
  機械学習モデルに対する敵意攻撃は、学界と産業の両方で非常に研究されているトピックとなっている。 本稿では,機械学習モデルに依存する組織に対して,リスク管理プロセスを導くための新しい枠組みを提案する。
  論文  参考訳（メタデータ） (2020-12-09T06:21:34Z)
• Evaluating the Safety of Deep Reinforcement Learning Models using Semi-Formal Verification [81.32981236437395]
  本稿では,区間分析に基づく半形式的意思決定手法を提案する。 本手法は, 標準ベンチマークに比較して, 形式検証に対して比較結果を得る。 提案手法は, 意思決定モデルにおける安全性特性を効果的に評価することを可能にする。
  論文  参考訳（メタデータ） (2020-10-19T11:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。