論文の概要: Targeted search shows that random-device testing underestimates worst-case error in a simulated wave-based neural operator
- arxiv url: http://arxiv.org/abs/2610.07529v1
- Date: Mon, 05 Oct 2026 23:53:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.718479
- Title: Targeted search shows that random-device testing underestimates worst-case error in a simulated wave-based neural operator
- Title(参考訳): 擬似波動型ニューラル演算子におけるランダムデバイステストが最悪のケースエラーを過小評価していることを示すターゲット探索
- Abstract要約: ウェーブベースのプロセッサは、ニューラル演算子のための高速でエネルギー効率の良いフーリエ層を約束する。
それらを使用するには、それらのエラーが製造やアライメントのバリエーションの下でどの程度の大きさになるかを知る必要がある。
120モデルの場合、N個のランダムなインスペックデバイスを検索したデバイスと比較した。
- 参考スコア(独自算出の注目度): 2.7065664375961274
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Wave-based processors promise fast, energy-efficient Fourier layers for neural operators. They are usually validated on randomly sampled devices, but using them requires knowing how large their error can become under fabrication and alignment variation. In a stylised numerical case study, a hybrid Fourier neural operator runs its four spectral layers on simulated coherent 4f processors with 32 toleranced knobs, whose half-widths are representative rather than calibrated. For 120 models (four tasks, six training methods, five seeds), we compared the worst of N random in-spec devices with a searched one. On a deterministic simulator with one frozen draw of the random static errors, the searched device's held-out error was 1.08-3.10 times the maximum over 200 Monte Carlo devices and 1.06-2.71 times that over 1000. With 20 fresh static draws, it still exceeded the maximum over 200 random devices in 116 of 120 models. Under uniform sampling, the probability of drawing such a device is at most 0.37% per model (two-sided 95% Clopper-Pearson), which says nothing about how large its error is. The gap persisted with uniform or Sobol' sampling at the search's budget, shared knobs, a second crosstalk model, box scales of 0.25-2 and a pixel-level device model. Models trained only with random static errors reached 3.7-39.9 times their nominal error on searched devices, and fine-tuning on random and gradient-searched devices gave the lowest searched error of the six in all 20 task-seed pairs. For two heat-exchanger quantities, a search targeted at each exceeded the worst of 1000 random devices in all 39 models, and hence the Wilks 95/95 limit (worst of 59). For the mean pressure of 11 models, no random device exceeded a 1% error threshold, but the searched device did. Random testing estimates how often errors exceed a threshold; worst-device search gives a lower bound on how large they can be.
- Abstract(参考訳): ウェーブベースのプロセッサは、ニューラル演算子のための高速でエネルギー効率の良いフーリエ層を約束する。
通常、ランダムにサンプリングされたデバイスで検証されるが、それを使用するには、それらのエラーが製造やアライメントの変動の下でどの程度の大きさになるかを知る必要がある。
スタイリングされた数値ケーススタディでは、ハイブリッドフーリエニューラル演算子は、32個の許容ノブを持つシミュレーションコヒーレント4fプロセッサ上で4つのスペクトル層を走らせ、その半幅は校正ではなく代表的である。
120のモデル(4つのタスク、6つのトレーニング方法、5つのシード)に対して、N個のランダムなインスペックデバイスを検索したデバイスと比較した。
ランダムな静的エラーの1つのフリーズドローを持つ決定論的シミュレータでは、探索されたデバイスのホールドアウトエラーは、200以上のモンテカルロデバイスの最大値の1.08-3.10倍、1000以上の1.06-2.71倍であった。
20個の新しい静的ドローで、120モデルのうち116台で200以上のランダムデバイスを上回りました。
均一サンプリングでは、そのようなデバイスを描画する確率は1モデル当たり0.37%(両側95%のCropper-Pearson)であり、エラーの大きさについては何も述べていない。
ギャップは、検索の予算で一様またはソボのサンプリング、共有ノブ、第2のクロストークモデル、ボックススケール0.25-2、ピクセルレベルのデバイスモデルで維持された。
ランダムな静的エラーのみで訓練されたモデルは、検索されたデバイスで3.7-39.9倍の精度に達し、ランダムおよび勾配探索されたデバイス上での微調整により、20種類のタスクのペアの中で6つのうち最低の探索エラーとなった。
2つの熱交換器量に対して、各対象のサーチは、39の全てのモデルで1000のランダムなデバイスで最悪であり、したがってウィルクス95/95の制限(59の値)を超えた。
11モデルの平均圧力では、ランダムデバイスは1%のエラー閾値を超えなかったが、検索されたデバイスはそうしなかった。
ランダムテストでは、エラーがしきい値を超える頻度を推定する。
関連論文リスト
- Quantization Error Is Spectrally Flat: A Single Random Probe Is a Calibrated, Data-Free Sensitivity Estimator, with Application to Budget-Targeted Mixed-Precision Quantization [0.0]
単一のランダムガウスプローブは、層の量子化誤差の偏りのない推定を与える。
35B MoEと9B高密度モデルからの1,683個のテンソルを横切ると、有効次元は、同じ形状の雑音値の0.93から0.96倍になる。
1つのプローブはテンソルあたりの感度を4から7%の範囲で測定し、20個のプローブは1.3から1.4%に達する。
論文 参考訳(メタデータ) (2026-09-27T21:03:53Z) - Greedy Decoding Is Not Precision-Invariant: Cross-Precision Output Divergence in LLM Inference [13.137699166830322]
大規模言語モデルからのグレディ復号は、一般に決定論的として扱われる。
同一のモデル,プロンプト,デコードアルゴリズムは同一のハードウェア上で,BF16とFP16の異なる出力を生成する。
実験により,22層に蓄積したボディーエラーは,浮動小数点数と浮動小数点数とを区別しないことがわかった。
論文 参考訳(メタデータ) (2026-09-22T15:54:16Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳(メタデータ) (2026-06-04T05:43:12Z) - ERRORQUAKE: Heavy-Tailed Error Severity Distributions in Open-Weight Large Language Models [0.0]
幻覚ベンチマークは、単一のエラーカウントを報告し、すべてのエラーを同等として扱うが、間違った日付と偽の裁判所判決は、桁違いに異なる。
Errorquake-10kは、8つのドメインと5つの難易度からなる連続的な0-4重度尺度で各応答をスコアするベンチマークである。
論文 参考訳(メタデータ) (2026-04-15T09:22:46Z) - The Rotation Gap Is Not An Error: Ternary Structure in IBM Quantum Hardware [0.0]
量子エラー補正は、すべてのシンドロームアクティベーションが修正を必要とするエラーを表すと仮定する。
756 QEC が IBM Eagle r3 プロセッサを3つに分けて実行していることから,この仮定が間違っているという証拠を提示する。
ハードウェアは、サブ・ポアソン症候群の統計を示し、一部の症候群はランダムノイズではなく、構造化された協調的な遷移であることを示している。
論文 参考訳(メタデータ) (2026-04-13T18:54:39Z) - Large Language Monkeys: Scaling Inference Compute with Repeated Sampling [81.34900892130929]
モデルから候補解を繰り返しサンプリングする簡単な手法を用いて、推論計算をスケーリングのための別の軸として検討する。
複数のタスクやモデルにまたがって、カバレッジは4桁以上のサンプル数でスケールする。
コードや形式的証明のようなドメインでは、回答が自動的に検証されるので、カバレッジの増加は直接的にパフォーマンスの向上につながります。
論文 参考訳(メタデータ) (2024-07-31T17:57:25Z) - Language models scale reliably with over-training and on downstream tasks [121.69867718185125]
スケーリング法則は、高価なトレーニング実行を引き出すための有用なガイドである。
しかし、現在の研究と言語モデルがどのように訓練されているかには差がある。
対照的に、スケーリング法則は主に推論における損失を予測するが、モデルは通常下流のタスクのパフォーマンスで比較される。
論文 参考訳(メタデータ) (2024-03-13T13:54:00Z) - Cryptanalytic Extraction of Neural Network Models [56.738871473622865]
遠隔モデルのパラメータを浮動小数点精度まで効率的に盗むことができる差動攻撃を導入する。
我々の攻撃は、ReLUニューラルネットワークが一括線形関数であるという事実に依存している。
220倍の正確さと100倍のクエリを必要とするモデルを抽出する。
論文 参考訳(メタデータ) (2020-03-10T17:57:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。