論文の概要: Scalable Discrete-to-Continuous Channel Simulation for Compression and Privacy
- arxiv url: http://arxiv.org/abs/2609.12067v1
- Date: Thu, 10 Sep 2026 18:01:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.500329
- Title: Scalable Discrete-to-Continuous Channel Simulation for Compression and Privacy
- Title(参考訳): 圧縮とプライバシのためのスケーラブル離散連続チャネルシミュレーション
- Abstract要約: 一般的なチャネルシミュレーションアルゴリズムは、しばしば高い計算コスト、ランダム停止時間に悩まされるか、最悪の場合、無限個の共有ランダムサンプルを生成する必要がある。
本稿では, ランダムサンプルの固定数を逆数に用いた離散連続チャネルの高精度かつ近似的なシミュレーション手法を提案する。
- 参考スコア(独自算出の注目度): 5.02349383438908
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Channel simulation has recently emerged as a useful component in machine learning systems where samples from a prescribed probability distribution are to be compressed. Yet, general channel simulation algorithms often suffer from high computational costs, random stopping times or, in the worst case, can require generating an infinite number of shared random samples. We introduce a scheme for both exact and approximate simulation of discrete-to-continuous channels which conversely uses a fixed number of random samples, and therefore has a runtime independent of the channel and the input. Unlike existing channel simulation schemes which generate a sequence of independent samples from a proposal distribution, our approach generates one sample, or alternatively a fixed number of samples, from each potential target distribution. We then apply a latent permutation to the samples before performing sample selection using an exponential race. Our scheme provides a flexible tradeoff between the number of generated samples and the compression rate. Using polar and multilevel coding, we scale our approach to handle long blocklengths in $O(n \log n)$ time in order to benefit from reduced per-symbol overhead. We conclude by demonstrating applications to variable-rate compression with stochastic VQ-VAEs and communication-efficient differentially private distributed mean estimation via exact simulation of the Gaussian mechanism.
- Abstract(参考訳): チャネルシミュレーションは、最近、所定の確率分布からのサンプルを圧縮する機械学習システムにおいて有用なコンポーネントとして登場した。
しかし、一般的なチャネルシミュレーションアルゴリズムは、しばしば高い計算コスト、ランダム停止時間に悩まされるか、最悪の場合、無限個の共有ランダムサンプルを生成する必要がある。
本稿では, 離散連続チャネルの高精度かつ近似的なシミュレーション手法を提案する。
提案分布から独立したサンプル列を生成する既存のチャネルシミュレーション手法とは異なり,本手法では,各潜在的対象分布から1つのサンプル,あるいは1つの固定数のサンプルを生成する。
次に、指数関数レースを用いてサンプル選択を行う前に、潜時置換をサンプルに適用する。
提案手法は, 生成サンプル数と圧縮率との柔軟なトレードオフを提供する。
極性および多レベル符号化を用いて、シンボルごとのオーバーヘッドを減らすために、長いブロック長を$O(n \log n)$時間で処理するアプローチをスケールする。
本稿では,確率的VQ-VAEを用いた可変レート圧縮と,ガウス機構の正確なシミュレーションによる通信効率の差分分布平均推定への応用について述べる。
関連論文リスト
- Provably adaptive sampling with uniform and remasking discrete diffusion models [9.180350432640912]
本研究では,一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一
我々の主な成果は、適応的なサンプリング保証を確立することである。
構造化された合成分布に関する数値実験は、予測された次元適応挙動を示す。
論文 参考訳(メタデータ) (2026-08-24T17:54:51Z) - Accelerating Discrete Diffusion Models with Parallel-In-Time Sampling [55.388363730120325]
本研究では,CTMC(Continuous-Time Markov Chain)フレームワークにおいて,離散拡散を吸収するための$-leapingアルゴリズムを並列化する。
我々は,$$-leapingアルゴリズムとPicard法の連続時間積分形式を利用して,並列時間サンプリング高速化を実現する。
本研究は, 分子構造や言語生成などの応用において, 効率的な並列推論のための離散拡散モデルの可能性を広げるものである。
論文 参考訳(メタデータ) (2026-07-01T10:59:33Z) - Large Language Models Are Bad Dice Players: LLMs Struggle to Generate Random Numbers from Statistical Distributions [50.1404916337174]
大規模言語モデル(LLM)における母国語の確率的サンプリングの大規模,統計的に活用された最初の監査について述べる。
バッチ生成は, ほぼ完全に崩壊する一方, 中央値のパスレートが13%であり, 統計的妥当性はわずかであることがわかった。
現在のLCMには機能的な内部サンプルが欠如しており、統計的保証を必要とするアプリケーションに外部ツールを使う必要があると結論付けている。
論文 参考訳(メタデータ) (2026-01-08T22:33:12Z) - Score-based sampling without diffusions: Guidance from a simple and modular scheme [0.0]
本稿では, (a) 端末分布, (b) それぞれが強対数凹凸(SLC)分布で定義される前方軌道を設計する方法を示す。
このモジュラーリダクションは,後方進路を横切るために,空想的なSLCサンプリングアルゴリズムを利用することができる。
高精度ルーチンを使用すると、KL または Wasserstein 距離において $varepsilon$-accurate の答えが得られる。
論文 参考訳(メタデータ) (2025-12-30T11:34:59Z) - Parallel Simulation for Log-concave Sampling and Score-based Diffusion Models [55.07411490538404]
本稿では,次元$d$の適応的複雑性依存性を改善する並列サンプリング手法を提案する。
我々の手法は科学計算による並列シミュレーション技術に基づいている。
論文 参考訳(メタデータ) (2024-12-10T11:50:46Z) - Stable generative modeling using Schrödinger bridges [0.22499166814992438]
本稿では,Schr"odinger BridgesとLangevin dynamicsを組み合わせた生成モデルを提案する。
我々のフレームワークは自然に条件付きサンプルを生成し、ベイズ推論問題に拡張することができる。
論文 参考訳(メタデータ) (2024-01-09T06:15:45Z) - One-Dimensional Deep Image Prior for Curve Fitting of S-Parameters from
Electromagnetic Solvers [57.441926088870325]
Deep Image Prior(ディープ・イメージ・プライオリ、ディープ・イメージ・プライオリ、DIP)は、ランダムなd畳み込みニューラルネットワークの重みを最適化し、ノイズや過度な測定値からの信号に適合させる技術である。
本稿では,Vector Fitting (VF) の実装に対して,ほぼすべてのテスト例において優れた性能を示す。
論文 参考訳(メタデータ) (2023-06-06T20:28:37Z) - Importance sampling for stochastic quantum simulations [68.8204255655161]
我々は、係数に応じてハミルトン式からサンプリングしてランダムな積公式を構築するqDriftプロトコルを導入する。
サンプリング段階における個別のシミュレーションコストを考慮し、同じ精度でシミュレーションコストを削減可能であることを示す。
格子核効果場理論を用いて数値シミュレーションを行った結果, 実験結果が得られた。
論文 参考訳(メタデータ) (2022-12-12T15:06:32Z) - Arithmetic Sampling: Parallel Diverse Decoding for Large Language Models [65.52639709094963]
ビームサーチやガンベルトップkサンプリングのような手法は、ビームの各要素に対して異なる出力を保証できるが、並列化は容易ではない。
本稿では,大言語モデルによって暗黙的に定義された算術符号書に従ってサンプリングを行うフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-18T22:19:41Z) - Incremental Sampling Without Replacement for Sequence Models [39.3035292844624]
広範囲なランダム化プログラムから置き換えることなくサンプリングを行うエレガントな手順を提案する。
当社のアプローチは漸進的,すなわちサンプルを一度に1つずつ描画することで,柔軟性の向上を実現しています。
論文 参考訳(メタデータ) (2020-02-21T00:12:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。