論文の概要: FPRev: Revealing the Order of Floating-Point Summation by Numerical Testing

• arxiv url: http://arxiv.org/abs/2411.00442v1
• Date: Fri, 01 Nov 2024 08:26:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-05 14:47:48.896470
• Title: FPRev: Revealing the Order of Floating-Point Summation by Numerical Testing
• Title（参考訳）: FPRev: 数値試験による浮動小数点法の適用
• Authors: Peichen Xie, Yanjie Gao, Jilong Xue,
• Abstract要約: 浮動小数点和の順序は数値和の重要な要素である。 本稿では,浮動小数点和の順序を明らかにするアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 5.283916824533212
• License:
• Abstract: The order of floating-point summation is a key factor in numerical reproducibility. However, this critical information is generally unspecified and unknown for most summation-based functions in numerical libraries, making it challenging to migrate them to new environments reproducibly. This paper presents novel, non-intrusive, testing-based algorithms that can reveal the order of floating-point summation by treating functions as callable black boxes. By constructing well-designed input that can cause the swamping phenomenon of floating-point addition, we can infer the order of summation from the output. We introduce FPRev, a tool that implements these algorithms, and validate its efficiency through extensive experiments with popular numerical libraries on various CPUs and GPUs (including those with Tensor Cores). FPRev reveals the varying summation orders across different libraries and devices, and outperforms other methods in terms of time complexity. The source code of FPRev is at \url{https://github.com/microsoft/RepDL/tree/main/tools/FPRev}.
• Abstract（参考訳）: 浮動小数点和の順序は数値再現性の鍵となる要素である。 しかし、この臨界情報は一般に数値ライブラリのほとんどの和関数では不特定であり、不明であるため、それらを再現的に新しい環境に移行することは困難である。 本稿では,関数を呼び出し可能なブラックボックスとして扱うことにより,浮動小数点和の順序を明らかにする,新しい非侵襲的,テストベースアルゴリズムを提案する。 浮動小数点加算の湿潤現象を引き起こすようなよく設計された入力を構築することにより、出力から和の順序を推測することができる。 我々は、これらのアルゴリズムを実装するツールであるFPRevを紹介し、様々なCPUやGPU(Tensor Coresを含む)上の一般的な数値ライブラリによる広範な実験を通じて、その効率性を検証する。 FPRevは、異なるライブラリやデバイスにまたがる様々な総和順序を明らかにし、時間的複雑さの観点から他のメソッドよりも優れている。 FPRevのソースコードは \url{https://github.com/microsoft/RepDL/tree/main/tools/FPRev} にある。

関連論文リスト

• FoC: Figure out the Cryptographic Functions in Stripped Binaries with LLMs [54.27040631527217]
  削除されたバイナリの暗号関数を抽出するFoCと呼ばれる新しいフレームワークを提案する。 FoC-BinLLMは、ROUGE-LスコアでChatGPTを14.61%上回った。 FoC-Simは52%高いRecall@1で過去のベストメソッドを上回っている。
  論文  参考訳（メタデータ） (2024-03-27T09:45:33Z)
• PARTIME: Scalable and Parallel Processing Over Time with Deep Neural Networks [68.96484488899901]
  PartIMEは、データが継続的にストリーミングされるたびにニューラルネットワークを高速化するように設計されたライブラリです。 PartIMEは、ストリームから利用可能になった時点で、各データサンプルの処理を開始する。 オンライン学習において、PartialIMEと古典的な非並列ニューラル計算を経験的に比較するために実験が行われる。
  論文  参考訳（メタデータ） (2022-10-17T14:49:14Z)
• Bayesian Optimization under Stochastic Delayed Feedback [36.16843889404038]
  既存のBOメソッドは、関数評価(フィードバック)が学習者の即時または固定遅延後に利用可能であると仮定する。 本稿では,遅延フィードバックを待ちながら新しい関数クエリを選択するジレンマに効率よく対処する,線形後悔保証付きアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-06-19T07:34:08Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Efficient Non-linear Calculators [0.0]
  ディジタルハードウェア上でスムーズな非線形性を生成するための新しいアルゴリズムを提案する。 整数(および固定点)の実装はASICまたはFPGA上のデジタルゲートでの使用に非常に適している。
  論文  参考訳（メタデータ） (2021-09-26T19:52:54Z)
• AsySQN: Faster Vertical Federated Learning Algorithms with Better Computation Resource Utilization [159.75564904944707]
  垂直連合学習(VFL)のための非同期準ニュートン(AsySQN)フレームワークを提案する。 提案アルゴリズムは、逆ヘッセン行列を明示的に計算することなく、近似して降下ステップをスケールする。 本稿では,非同期計算を採用することにより,計算資源の有効利用が期待できることを示す。
  論文  参考訳（メタデータ） (2021-09-26T07:56:10Z)
• Fast Federated Learning in the Presence of Arbitrary Device Unavailability [26.368873771739715]
  Federated Learning (FL)は異種デバイスをコーディネートして、ユーザのプライバシを維持しながら共有モデルを協調的にトレーニングする。 ひとつの課題は、デバイスが中央サーバ以外のトレーニングプロセスから外れることだ。 我々はこの問題を解決するためにIm Federated A patientaging (MIFA)を提案する。
  論文  参考訳（メタデータ） (2021-06-08T07:46:31Z)
• Providing Meaningful Data Summarizations Using Examplar-based Clustering in Industry 4.0 [67.80123919697971]
  我々は,従来のCPUアルゴリズムと比較して,一精度で最大72倍,半精度で最大452倍の高速化を実現していることを示す。 提案アルゴリズムは射出成形プロセスから得られた実世界のデータに適用し, 得られたサマリーが, コスト削減と不良部品製造の削減のために, この特定のプロセスのステアリングにどのように役立つかについて議論する。
  論文  参考訳（メタデータ） (2021-05-25T15:55:14Z)
• Dynamic Feature Pyramid Networks for Object Detection [40.24111664691307]
  本稿では,各層に異なるカーネルサイズを持つ畳み込みフィルタを組み込んで,受容場を拡大するFPNを提案する。 計算コストの異なる複数の分岐からなる新しい動的FPN(DyFPN)を提案する。 ベンチマーク実験により,提案したDyFPNは計算資源の最適割り当てにより性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2020-12-01T19:03:55Z)
• Learning Set Functions that are Sparse in Non-Orthogonal Fourier Bases [73.53227696624306]
  フーリエスパース集合関数を学習するための新しいアルゴリズム群を提案する。 Walsh-Hadamard変換に焦点をあてた他の研究とは対照的に、我々の新しいアルゴリズムは最近導入された非直交フーリエ変換で機能する。 いくつかの実世界のアプリケーションで有効性を示す。
  論文  参考訳（メタデータ） (2020-10-01T14:31:59Z)
• Batch Value-function Approximation with Only Realizability [17.692408242465763]
  バッチ強化学習(RL):探索データセットからQstar$を学習する。 我々のアルゴリズムであるBVFTは、トーナメントの手順を通じて硬さ予想(探索データというより強い概念の下では)を破る。 また、BVFTが他の拡張と開問題の間のモデル選択にどのように適用できるかについても論じる。
  論文  参考訳（メタデータ） (2020-08-11T20:09:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。