論文の概要: Statistical attribute alignment for black-box generative AI via output post-processing

• arxiv url: http://arxiv.org/abs/2609.31607v1
• Date: Fri, 25 Sep 2026 17:55:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.530903
• Title: Statistical attribute alignment for black-box generative AI via output post-processing
• Title（参考訳）: 出力後処理によるブラックボックス生成AIの統計的属性アライメント
• Abstract要約: 我々は、AI生成した出力の属性の分布が、ユーザ特定ターゲットと一致していることを保証することを目指している。 我々は、ユーザが生成AIモデルを繰り返しクエリできる、事実上重要なブラックボックスアクセス設定について研究する。 正確なアライメントと近似的なアライメントの両面において、生成元へのクエリの期待数を最小化するアルゴリズムを開発する。
• 参考スコア（独自算出の注目度）: 21.936880527917697
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative AI systems are increasingly used, but aligning their outputs with user requirements poses a continuing challenge. Here, we aim to ensure that the distribution of an attribute of an AI-generated output aligns with a user-specified target. This is motivated by examples such as fairness, where we want to ensure that a protected attribute (e.g., gender, race, or age categories) follows a desired distribution, and synthetic data generation, where we want the generated data to be representative of a target distribution. We study the practically important black-box access setting, where a user can repeatedly query a generative AI model. The goal is to return $m\ge 1$ outputs whose joint attribute distribution is as close as possible to this target. For both exact and approximate alignment, we develop algorithms that minimize the expected number of queries to the generator, and we further demonstrate their optimality as the number of requested outputs $m \rightarrow \infty$. Experiments on text-to-image generation and geocoded persona generation tasks show that our post-processing algorithms improve statistical attribute alignment, complementing prompting-based interventions.
• Abstract（参考訳）: 生成AIシステムはますます使われているが、アウトプットとユーザ要求の整合性は引き続き課題となる。 本稿では,AI生成した出力の属性の分布が,ユーザ指定対象と一致していることを保証することを目的とする。 これは、保護された属性(例えば、性別、人種、年齢カテゴリ)が望ましい分布に従うことを確実にしたいというフェアネスや、生成されたデータが対象の分布を表すようにしたい合成データ生成といった例によって動機付けられています。 我々は、ユーザが生成AIモデルを繰り返しクエリできる、事実上重要なブラックボックスアクセス設定について研究する。 目標は、このターゲットに可能な限り近いジョイント属性の分布を持つ$m\ge 1$出力を返すことである。 正確なアライメントと近似的なアライメントのために、生成元へのクエリの期待数を最小化するアルゴリズムを開発し、要求された出力数$m \rightarrow \infty$としてそれらの最適性を更に示す。 テキスト・ツー・イメージ・ジェネレーションとジオコードされたペルソナ生成タスクの実験は、我々の後処理アルゴリズムが統計的属性アライメントを改善し、プロンプトに基づく介入を補完することを示している。

関連論文リスト

• SimGR: Escaping the Pitfalls of Generative Decoding in LLM-based Recommendation [68.00727783181289]
  推薦システムの中核的な目的は、パーソナライズされたレコメンデーションを可能にするために、アイテムよりもユーザの好みの分布を正確にモデル化することである。 アイテムレベルの嗜好分布を推定する際に,既存の手法が必然的に系統的バイアスを生じさせることを観察する。 textbfSimply textbfGenerative textbfRecommendation (textbfSimGR)を提案する。
  論文  参考訳（メタデータ） (2026-02-08T07:26:52Z)
• Text Generation Beyond Discrete Token Sampling [74.06071135207635]
  入力の混合(Mixture of Inputs, MoI)は、自動回帰生成のためのトレーニング不要な方法である。 MoIはQwQ-32B、Nemotron-Super-49B、Gemma-3-27B、DAPO-Qwen-32Bを含む複数のモデルのパフォーマンスを継続的に改善している。
  論文  参考訳（メタデータ） (2025-05-20T18:41:46Z)
• AI-Powered Bayesian Inference [0.0]
  ジェネレーティブ・人工知能(GAI)は、社会が知識の獲得についてどう考えるかを変えるインフレクティブ・ポイントを提唱している。 GAIは意思決定に対して完全に信頼できないが、意思決定パイプラインに統合可能な貴重な情報を提供することもある。 与えられたプロンプトに対する可変回答を利用して、AI予測の確実性を反映した事前分布を構築することができる。
  論文  参考訳（メタデータ） (2025-02-26T15:42:06Z)
• Streaming Looking Ahead with Token-level Self-reward [50.699168440048716]
  本稿では,トークンレベルの自己回帰モデリング(TRM)機能を備えたポリシーモデルを提案する。 さらに,検索効率を向上し,並列化を向上するストリーミング・ルック・アヘッド (SLA) アルゴリズムを提案する。 SLAとDPOなどの強化微調整技術を組み合わせると、全体の勝利率は89.4%となる。
  論文  参考訳（メタデータ） (2025-02-24T22:35:53Z)
• Don't be so negative! Score-based Generative Modeling with Oracle-assisted Guidance [13.442829248992863]
  この研究は、神託の形でさらにサイド情報が存在するような環境でのモデル学習に対処する。 我々は,この新たな側面情報を活用する拡散確率的モデリング手法であるGen-neGを開発した。 我々は、自動運転シミュレータにおける衝突回避や、安全で保護された人間の動き生成などの応用において、Gen-neGの有用性を実証的に確立する。
  論文  参考訳（メタデータ） (2023-07-31T07:52:00Z)
• Self-Conditioned Generative Adversarial Networks for Image Editing [61.50205580051405]
  Generative Adversarial Networks (GAN) はバイアスの影響を受けやすい。 我々は、このバイアスが公平性だけでなく、分布のコアから逸脱する際の潜在トラバース編集手法の崩壊に重要な役割を果たしていると論じる。
  論文  参考訳（メタデータ） (2022-02-08T18:08:24Z)
• The DEformer: An Order-Agnostic Distribution Estimating Transformer [17.352818121007576]
  順序に依存しない自己回帰分布推定(OADE)は、生成機械学習において難しい問題である。 本稿では,各特徴のアイデンティティを入力の値とともに含む特徴のアイデンティティを符号化する代替手法を提案する。 この入力に基づいてトレーニングされたトランスフォーマーは、二項化MNISTを効果的にモデル化し、固定順序自己回帰分布推定アルゴリズムの平均負の対数類似度にアプローチできることを示す。
  論文  参考訳（メタデータ） (2021-06-13T13:33:31Z)
• IID-GAN: an IID Sampling Perspective for Regularizing Mode Collapse [82.49564071049366]
  GAN(Generative Adversarial Network)はまだモード崩壊に悩まされている。 我々は、この問題を独立かつ同一に分散されたIIDサンプリング視点で分析し、規則化しようと試みる。 本稿では,実データの逆サンプルとガウス音源との近接性を高め,対象分布から生成するIIDを正規化するための新たな損失を提案する。
  論文  参考訳（メタデータ） (2021-06-01T15:20:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。