論文の概要: The Output-Space Hypothesis: Enumerative Equivalence Checking for Tensor Programs
- arxiv url: http://arxiv.org/abs/2609.19611v1
- Date: Thu, 17 Sep 2026 02:54:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.072764
- Title: The Output-Space Hypothesis: Enumerative Equivalence Checking for Tensor Programs
- Title(参考訳): 出力空間仮説:テンソルプログラムの列挙等価チェック
- Abstract要約: Dirigoは6,988のAIで書かれたカーネルの公開データセットでバグを効果的に見つけることができる。
これらのうち、ディリゴは実際にバグのある600のカーネルを発見し、2分以内に97.3%のバグを発見した。
- 参考スコア(独自算出の注目度): 8.47814237345908
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tensor programs, as used in deep learning models, are a prime target for optimization, as small performance improvements can have a large impact across training or inference workloads. However, such optimizations are complicated and can produce subtle bugs. Traditionally, correctness is assumed when differential testing against a reference on random inputs fails to reveal bugs. However, the inputs to these programs are massive tensors, and finding bugs can require generating extremely low likelihood inputs with precise relationships among their values. We propose a novel way to find bugs more consistently by flipping the quantifiers. Rather than generating a single input and checking all output tensor locations for equivalence, what if you could check a single output tensor location's equivalence for all inputs? We implement this idea in a system, \dirigo, by using a novel symbolic execution strategy. We demonstrate that \dirigo can find bugs effectively in a public dataset of 6,988 AI-written CUDA kernels that are all marked correct by differential testing. Of these, \dirigo finds 600 kernels that are actually buggy, and finds 97.3\% of those bugs within two minutes.
- Abstract(参考訳): ディープラーニングモデルで使用されるテンソルプログラムは、トレーニングや推論ワークロード全体において小さなパフォーマンス改善に大きな影響を与える可能性があるため、最適化の主要なターゲットである。
しかし、このような最適化は複雑であり、微妙なバグを発生させることができる。
伝統的に、ランダムな入力に対する参照に対する差分テストがバグを明らかにするのに失敗すると、正確性が仮定される。
しかし、これらのプログラムへの入力は巨大なテンソルであり、バグを見つけるには、それらの値の間に正確な関係を持つ非常に低い可能性の入力を生成する必要がある。
量子化器を反転させることで、より一貫したバグを見つける新しい方法を提案する。
単一の入力を生成し、すべての出力テンソル位置を等価にチェックする代わりに、すべての入力に対して単一の出力テンソル位置の等価性をチェックすることができるとしたらどうでしょう?
我々は,新しいシンボリック実行戦略を用いて,このアイデアを \dirigo というシステムに実装する。
我々は、 \dirigoが6,988のAIで書かれたCUDAカーネルの公開データセットでバグを効果的に発見できることを実証した。
これらのうち、Shadirigoは実際にバグのある600のカーネルを見つけ、2分以内に97.3%のバグを発見した。
関連論文リスト
- AlgoVeri: An Aligned Benchmark for Verified Code Generation on Classical Algorithms [54.99368693313797]
既存のベンチマークでは、個々の言語/ツールのみをテストするため、パフォーマンス番号は直接比較できない。
このギャップに対処するAlgoVeriは、Dafny、Verus、Leanで77ドルの古典的アルゴリズムのベリコーディングを評価するベンチマークです。
論文 参考訳(メタデータ) (2026-02-10T06:58:26Z) - Testing Deep Learning Libraries via Neurosymbolic Constraint Learning [3.491101173753068]
ディープラーニング(DL)ライブラリ(例えばPyTorch)はAI開発で人気がある。
DLライブラリをテストする上で重要な課題は、API仕様の欠如である。
動的に学習された入力制約を用いてDLライブラリAPIをテストする最初のニューロシンボリック手法であるCentaurを開発する。
論文 参考訳(メタデータ) (2026-01-21T21:54:41Z) - Open-World Semi-Supervised Learning for Node Classification [53.07866559269709]
ノード分類のためのオープンワールド半教師付き学習(Open World SSL)は、グラフコミュニティにおいて実用的だが未探索の課題である。
オープンワールド半教師付きノード分類のためのIM Balance-AwareメソッドOpenIMAを提案する。
論文 参考訳(メタデータ) (2024-03-18T05:12:54Z) - Towards Faster k-Nearest-Neighbor Machine Translation [51.866464707284635]
k-nearest-neighbor 機械翻訳アプローチは、トークンをデコードする際に、データストア全体の重い検索オーバーヘッドに悩まされる。
ニューラルネットワークの翻訳モデルとkNNが生成する確率によってトークンが共同で翻訳されるべきかどうかを予測するための,単純で効果的な多層パーセプトロン(MLP)ネットワークを提案する。
本手法は,翻訳品質をわずかに低下させることなく,kNN検索のオーバーヘッドを最大53%削減する。
論文 参考訳(メタデータ) (2023-12-12T16:41:29Z) - An Efficient Tester-Learner for Halfspaces [13.13131953359806]
本稿では、Rubinfeld と Vasilyan が最近定義したテスト可能な学習モデルにおいて、ハーフスペースを学習するための最初の効率的なアルゴリズムを提案する(2023)。
このモデルでは、学習者は、トレーニングセットがテストに合格するたびに、その出力仮説の精度がほぼ最適であると認定する。
論文 参考訳(メタデータ) (2023-02-28T18:51:55Z) - Finding Deep-Learning Compilation Bugs with NNSmith [20.082492391396933]
本稿では,ディープラーニングコンパイラのバグ発見のためのファズテスト手法を提案する。
我々の中核的なアプローチは、(i)軽量な演算子仕様を使用して、多種多様な有効なモデルを生成し、(ii)勾配ベースの探索プロセスを作成し、(iii)差分テストによってバグを特定します。
我々は,この手法をNSmithで実施し,TVM,RT,ONNXRuntime,PyTorchの過去7ヶ月で65の新たなバグを発見した。そのうち52件が確認され,メンテナによって44件が修正されている。
論文 参考訳(メタデータ) (2022-07-26T17:39:51Z) - Understanding Factual Errors in Summarization: Errors, Summarizers,
Datasets, Error Detectors [105.12462629663757]
本研究では、既存の9つのデータセットから事実性エラーアノテーションを集約し、基礎となる要約モデルに従ってそれらを階層化する。
本稿では,この階層化ベンチマークにおいて,最近のChatGPTベースの指標を含む最先端の事実性指標の性能を比較し,その性能が様々な種類の要約モデルで大きく異なることを示す。
論文 参考訳(メタデータ) (2022-05-25T15:26:48Z) - On Distribution Shift in Learning-based Bug Detectors [4.511923587827301]
まず、モデルをバグ検出領域に適応させるため、次に実際のバグ検出領域に適応させるために、モデルを実際の配布に向けて駆動するために、バグ検出装置を2つのフェーズで訓練する。
我々は,本手法を広範に研究した3種類のバグタイプに対して評価し,実際のバグ分布を捉えるために慎重に設計された新しいデータセットを構築した。
論文 参考訳(メタデータ) (2022-04-21T12:17:22Z) - Active-LATHE: An Active Learning Algorithm for Boosting the Error
Exponent for Learning Homogeneous Ising Trees [75.93186954061943]
我々は、$rho$が少なくとも0.8$である場合に、エラー指数を少なくとも40%向上させるアルゴリズムを設計し、分析する。
我々の分析は、グラフの一部により多くのデータを割り当てるために、微小だが検出可能なサンプルの統計的変動を巧みに活用することに基づいている。
論文 参考訳(メタデータ) (2021-10-27T10:45:21Z) - Coping with Label Shift via Distributionally Robust Optimisation [72.80971421083937]
分散ロバスト最適化(DRO)に基づく目的最小化モデルを提案する。
そこで我々は,提案した目的を最適化するために,大規模問題に適した勾配降下近位ミラー上昇アルゴリズムを設計し,解析する。
論文 参考訳(メタデータ) (2020-10-23T08:33:04Z) - Detecting and Understanding Real-World Differential Performance Bugs in
Machine Learning Libraries [2.879036956042183]
同じサイズであるにもかかわらず、パフォーマンスが広く変化するインプットを見つけます。
我々は,単一入力だけでなく,各クラスがそれぞれのサイズによってパラメータ化される類似入力を持つ入力のクラスの性能を比較する。
重要なことに、パフォーマンスバグの修正に簡単に使用できる形式で、なぜパフォーマンスが異なるのか、という説明も提供します。
論文 参考訳(メタデータ) (2020-06-03T00:23:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。