論文の概要: Active Data Acquisition with Side Information via Discrete Diffusion Priors

• arxiv url: http://arxiv.org/abs/2609.32252v1
• Date: Sat, 26 Sep 2026 05:15:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 18:28:52.97906
• Title: Active Data Acquisition with Side Information via Discrete Diffusion Priors
• Title（参考訳）: 離散拡散前処理による側情報を用いたアクティブデータ取得
• Abstract要約: データの取得にはコストがかかる – 高い測定忠実度は電力とストレージを犠牲にし、無関係なコンテンツを収集するリスクを負う。 このトレードオフを,1つのモデルではなく,幅広いタスクに関連するデータを取得する情報理論のフレームワークで解決する。 マスクポリシーは、予算の下で、離散画像とその部分観察との間の相互情報を最大化するために、どの画素を計測するかを選択する。
• 参考スコア（独自算出の注目度）: 3.2299643462065277
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Acquiring data is costly: higher measurement fidelity costs power and storage and risks collecting irrelevant content, while aggressive cost reduction can discard information that later analysis needs. We address this trade-off with an information-theoretic framework that acquires data relevant to a broad set of tasks rather than to one model. A mask policy, conditioned on side information, chooses which pixels to measure so as to maximize the mutual information between a discrete image and its partial observation under a budget; since the image entropy does not depend on the mask, this is equivalent to minimizing the conditional entropy. A frozen discrete denoising diffusion model (D3PM) supplies the posterior, and we use it in two ways: as an entropy surrogate for training a one-shot mask generator, and as the criterion for sequential greedy acquisition. The one-shot generator outperforms random masks only with care, including an unbiased gradient estimator for binary masks. With sequential acquisition, on MNIST the prior makes $8\times$ fewer errors than random at a $10\%$ budget, and on CIFAR-10 it gains $0.9$--$3.4$~dB. On fastMRI, our proposed technique using a static mask outperforms the well-known methods such as variable density and LOUPE.
• Abstract（参考訳）: 高い測定忠実度は電力とストレージを犠牲にし、無関係なコンテンツを収集するリスクを負う。 このトレードオフを,1つのモデルではなく,幅広いタスクに関連するデータを取得する情報理論のフレームワークで解決する。 画像エントロピーはマスクに依存しないため、条件エントロピーの最小化に相当する。 凍結した離散化拡散モデル (D3PM) は後部を供給し, エントロピーサロゲート (Entropy surrogate) として1ショットマスクジェネレータを訓練し, シーケンシャルグリーディ獲得の基準として用いる。 ワンショットジェネレータは、バイナリマスクの偏りのない勾配推定器を含む、無作為にのみランダムマスクを上回ります。 シーケンシャルな買収により、MNISTでは、前者は10セントの予算でランダムよりも8セントのエラーを減らし、CIFAR-10では0.9$--$3.4$~dBを得る。 静的マスクを用いた高速MRIでは,可変密度やLOUPEなどのよく知られた手法よりも優れる。

関連論文リスト

• Adaptive Order Policies for Masked Diffusion [56.27207032553083]
  本稿では,拡散モデル上に追加の軽量ポリシネットワークを用いてアンマキング順序を学習する手法を提案する。 提案した損失は,政策確率に応じて拡散損失を隠蔽し,デノイザーの正しさが高い位置を優先する政策を導出する。
  論文  参考訳（メタデータ） (2026-05-29T19:26:53Z)
• Good-Enough LLM Obfuscation (GELO) [0.0]
  大きな言語モデル(LLM)は、デバイスメモリに読み取りアクセスする敵がKVキャッシュや隠された状態を観測できるような共有アクセラレーターで提供されることが多い。 本稿では、信頼できない加速器観測からの情報漏洩を制限するプライバシー保護推論プロトコルであるGELOを提案する。
  論文  参考訳（メタデータ） (2026-03-05T10:33:48Z)
• Activation Matching for Explanation Generation [10.850989126934317]
  我々は、任意の画像上の事前訓練された分類器の決定について、最小限の忠実な説明を生成する。 説明$e = m odot x$がモデルの予測と(x)の中間活性化の両方を保持するように、軽量なオートエンコーダを訓練してバイナリマスク$m$を出力する。 i) 画像と説明の両方においてトップ1ラベルを保持するために分布とクロスエントロピーを整列するKL発散と多層アクティベーションマッチングを組み合わせる。
  論文  参考訳（メタデータ） (2025-09-27T02:12:09Z)
• Masked Pre-training Enables Universal Zero-shot Denoiser [12.753764967728973]
  我々は,新しいゼロショットデノベーションパラダイム,すなわち Masked Pre-train then Iterative fill (MPI) を提案する。 MPIはまずマスキングによりモデルを訓練し、その後1つのノイズ画像に基づいて高品質のゼロショット画像を生成する。
  論文  参考訳（メタデータ） (2024-01-26T15:58:57Z)
• DFormer: Diffusion-guided Transformer for Universal Image Segmentation [86.73405604947459]
  提案したDFormerは,拡散モデルを用いて画像分割タスクをデノナイズプロセスとみなしている。 我々のDFormerは、ランダムに生成されたマスクの集合から、マスクとそれに対応するカテゴリを直接予測します。 我々のDFormerは、最近の拡散型汎光学分割法Pix2Seq-Dより優れており、MS COCO val 2017セットで3.6%向上している。
  論文  参考訳（メタデータ） (2023-06-06T06:33:32Z)
• Look ATME: The Discriminator Mean Entropy Needs Attention [0.0]
  GAN(Generative Adversarial Network)は、画像合成に成功しているが、トレーニング中に不安定に直面することが知られている。 本稿では,GANを安定的に理論最適に収束させる簡単な手法を提案する。 画像から画像へ変換するタスクにおいて,本手法の有効性を実証し,最先端の手法よりも低コストで優れた性能を示す。
  論文  参考訳（メタデータ） (2023-04-18T14:37:40Z)
• Learning with User-Level Privacy [61.62978104304273]
  ユーザレベルの差分プライバシー制約下での学習課題を,アルゴリズムを用いて解析する。 個々のサンプルのプライバシーのみを保証するのではなく、ユーザレベルのdpはユーザの貢献全体を保護します。 プライバシコストが$tau$に比例した$K$適応的に選択されたクエリのシーケンスにプライベートに答えるアルゴリズムを導き出し、私たちが検討する学習タスクを解決するためにそれを適用します。
  論文  参考訳（メタデータ） (2021-02-23T18:25:13Z)
• Masksembles for Uncertainty Estimation [60.400102501013784]
  ディープニューラルネットワークは、その強みを巧みに実証しているが、その予測の信頼性を推定することは依然として困難である。 深層アンサンブルは不確かさを推定する最良の方法の1つと考えられているが、訓練や評価は非常に高価である。 mc-dropoutも人気の高い代替品で、安価だが信頼性も低い。
  論文  参考訳（メタデータ） (2020-12-15T14:39:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。