論文の概要: Formal Specification, Assessment, and Enforcement of Fairness for Generative AIs

• arxiv url: http://arxiv.org/abs/2404.16663v1
• Date: Thu, 25 Apr 2024 15:04:27 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-26 13:20:37.329282
• Title: Formal Specification, Assessment, and Enforcement of Fairness for Generative AIs
• Title（参考訳）: 生成AIのためのフェアネスの形式的仕様、評価、実施
• Authors: Chih-Hong Cheng, Changshun Wu, Harald Ruess, Xingyu Zhao, Saddek Bensalem,
• Abstract要約: 我々は,生成的AIの公正性の概念を,公正性を監視・強制するための基盤として特徴づける。 実装された仕様は、いくつかの生成AIモデルに対してテストされた興味深い結果を示している。
• 参考スコア（独自算出の注目度）: 4.342427756164555
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The risk of reinforcing or exacerbating societal biases and inequalities is growing as generative AI increasingly produces content that resembles human output, from text to images and beyond. Here we formally characterize the notion of fairness for generative AI as a basis for monitoring and enforcing fairness. We define two levels of fairness utilizing the concept of infinite words. The first is the fairness demonstrated on the generated sequences, which is only evaluated on the outputs while agnostic to the prompts/models used. The second is the inherent fairness of the generative AI model, which requires that fairness be manifested when input prompts are neutral, that is, they do not explicitly instruct the generative AI to produce a particular type of output. We also study relative intersectional fairness to counteract the combinatorial explosion of fairness when considering multiple categories together with lazy fairness enforcement. Our implemented specification monitoring and enforcement tool shows interesting results when tested against several generative AI models.
• Abstract（参考訳）: 生成的AIは、テキストから画像まで、人間の出力に似たコンテンツを、ますます生み出すにつれて、社会的バイアスや不平等の強化や悪化のリスクが高まっている。 ここでは、生成AIの公正性の概念を、公正性を監視し、強制するための基盤として公式に特徴づける。 無限語の概念を用いた公平性の2つのレベルを定義する。 1つ目は、生成されたシーケンスで示される公平さであり、これは出力でのみ評価されるが、使用するプロンプト/モデルには依存しない。 2つ目は、生成AIモデルの本質的公正性であり、入力プロンプトが中立であるときに公正性を示す必要がある。 また,複数カテゴリと遅延フェアネス法を併用して検討する場合,相対的交差フェアネスについて検討した。 実装された仕様監視と実施ツールは、複数の生成AIモデルに対してテストした場合に興味深い結果を示す。

関連論文リスト

• Generative AI Enabled Matching for 6G Multiple Access [51.00960374545361]
  我々は6G多重アクセスをサポートするGenAI対応マッチング生成フレームワークを提案する。 我々のフレームワークは、与えられた条件と事前定義された報酬に基づいて、より効果的なマッチング戦略を生成することができることを示す。
  論文  参考訳（メタデータ） (2024-10-29T13:01:26Z)
• GAIA: Rethinking Action Quality Assessment for AI-Generated Videos [56.047773400426486]
  アクション品質アセスメント(AQA)アルゴリズムは、主に実際の特定のシナリオからのアクションに焦点を当て、規範的なアクション機能で事前訓練されている。 我々は,新たな因果推論の観点から大規模主観評価を行うことにより,GAIAを構築した。 その結果、従来のAQA手法、最近のT2Vベンチマークにおけるアクション関連指標、メインストリームビデオ品質手法は、それぞれ0.454、0.191、0.519のSRCCで性能が良くないことがわかった。
  論文  参考訳（メタデータ） (2024-06-10T08:18:07Z)
• The Impossibility of Fair LLMs [59.424918263776284]
  大規模言語モデル(LLM)の時代において、公正なAIの必要性はますます明確になっている。 我々は、機械学習研究者が公正性を評価するために使った技術フレームワークについてレビューする。 我々は、特定のユースケースにおける公平性を達成するためのより現実的な目標のためのガイドラインを策定する。
  論文  参考訳（メタデータ） (2024-05-28T04:36:15Z)
• GenLens: A Systematic Evaluation of Visual GenAI Model Outputs [33.93591473459988]
  GenLensは、GenAIモデル出力の体系的評価のために設計されたビジュアル分析インタフェースである。 モデル開発者によるユーザ調査によると、GenLensは、高い満足度で証明されたワークフローを効果的に強化する。
  論文  参考訳（メタデータ） (2024-02-06T04:41:06Z)
• Prompt Smells: An Omen for Undesirable Generative AI Outputs [4.105236597768038]
  我々は、GenAIモデルの適用に関する制約に対処する上で、研究コミュニティに役立つ2つの新しい概念を提案する。 まず、GenAI出力の「望ましさ」の定義と、それに影響を与える3つの要因について述べる。 第2に、Martin Fowler氏のコードの臭いからインスピレーションを得た上で、我々は「急激な臭い」の概念と、それらがGenAI出力の嫌悪性に与える影響について提案する。
  論文  参考訳（メタデータ） (2024-01-23T10:10:01Z)
• A Critical Survey on Fairness Benefits of Explainable AI [10.81142163495028]
  我々は,XAIの公正性に関する175の科学的論文から,7つの考古学的主張を抽出した。 クレームは曖昧で単純化され,規範的根拠が欠如している場合や,XAIの実際の能力に不十分な場合が多いことに気付きます。 我々は、XAIを倫理的パナセアではなく、アルゴリズム的公正性の多次元社会技術的課題にアプローチするための多くのツールの1つとして考えることを提案する。
  論文  参考訳（メタデータ） (2023-10-15T08:17:45Z)
• Fair-CDA: Continuous and Directional Augmentation for Group Fairness [48.84385689186208]
  公正な制約を課すための詳細なデータ拡張戦略を提案する。 グループ間の感性のある特徴の遷移経路のモデルを正規化することにより、グループフェアネスを実現することができることを示す。 提案手法はデータ生成モデルを仮定せず,精度と公平性の両方に優れた一般化を実現する。
  論文  参考訳（メタデータ） (2023-04-01T11:23:00Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Towards Fair Knowledge Transfer for Imbalanced Domain Adaptation [61.317911756566126]
  本研究では,不均衡なドメイン間学習における公平性問題に対処するTowards Fair Knowledge Transferフレームワークを提案する。 具体的には、新規なクロスドメインミックスアップ生成を利用して、ターゲット情報でマイノリティソースセットを増強し、公正性を高める。 本モデルでは,2つのベンチマークで全体の精度を20%以上向上させる。
  論文  参考訳（メタデータ） (2020-10-23T06:29:09Z)
• Getting Fairness Right: Towards a Toolbox for Practitioners [2.4364387374267427]
  バイアスを意図せずに埋め込んで再現するAIシステムの潜在的なリスクは、マシンラーニング実践者や社会全体の注目を集めている。 本稿では,実践者が公正なAI実践を確実にするためのツールボックスのドラフトを提案する。
  論文  参考訳（メタデータ） (2020-03-15T20:53:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。