論文の概要: One RNG to Rule Them All: How Randomness Becomes an Attack Vector in Machine Learning

• arxiv url: http://arxiv.org/abs/2602.09182v1
• Date: Mon, 09 Feb 2026 20:41:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-11 20:17:43.241905
• Title: One RNG to Rule Them All: How Randomness Becomes an Attack Vector in Machine Learning
• Title（参考訳）: ランダムネスが機械学習のアタックベクターになる方法
• Authors: Kotekar Annapoorna Prabhu, Andrew Gan, Zahra Ghodsi,
• Abstract要約: 我々は、機械学習エンジニアが低い労力でシステムを保護するのを支援するためにRNGGuardを提示する。 RNGGuardはセキュアでない関数呼び出しをセキュリティ仕様を満たすRNGGuardの実装に置き換えることで、ランダム関数のセキュアな実行を強制する。
• 参考スコア（独自算出の注目度）: 1.6473206627428294
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning relies on randomness as a fundamental component in various steps such as data sampling, data augmentation, weight initialization, and optimization. Most machine learning frameworks use pseudorandom number generators as the source of randomness. However, variations in design choices and implementations across different frameworks, software dependencies, and hardware backends along with the lack of statistical validation can lead to previously unexplored attack vectors on machine learning systems. Such attacks on randomness sources can be extremely covert, and have a history of exploitation in real-world systems. In this work, we examine the role of randomness in the machine learning development pipeline from an adversarial point of view, and analyze the implementations of PRNGs in major machine learning frameworks. We present RNGGuard to help machine learning engineers secure their systems with low effort. RNGGuard statically analyzes a target library's source code and identifies instances of random functions and modules that use them. At runtime, RNGGuard enforces secure execution of random functions by replacing insecure function calls with RNGGuard's implementations that meet security specifications. Our evaluations show that RNGGuard presents a practical approach to close existing gaps in securing randomness sources in machine learning systems.
• Abstract（参考訳）: 機械学習は、データサンプリング、データ拡張、重み初期化、最適化など、さまざまなステップの基本コンポーネントとしてランダム性に依存している。 ほとんどの機械学習フレームワークは、ランダム性の源として擬似乱数生成器を使用している。 しかしながら、さまざまなフレームワーク、ソフトウェア依存関係、ハードウェアバックエンドにまたがる設計上の選択や実装のバリエーションと、統計的検証の欠如は、機械学習システムでこれまで探索されていなかった攻撃ベクトルにつながる可能性がある。 このようなランダム性源に対する攻撃は極端に隠蔽され、現実世界のシステムにおける搾取の歴史を持つ。 本研究では,機械学習開発パイプラインにおけるランダム性の役割を敵対的観点から検討し,主要な機械学習フレームワークにおけるPRNGの実装を分析する。 我々は、機械学習エンジニアが低い労力でシステムを保護するのを助けるためにRNGGuardを提示する。 RNGGuardは、ターゲットライブラリのソースコードを静的に解析し、それらを使用するランダム関数とモジュールのインスタンスを識別する。 実行時に、RNGGuardは安全でない関数呼び出しをセキュリティ仕様を満たすRNGGuardの実装に置き換えることで、ランダム関数のセキュアな実行を強制する。 評価の結果、RNGGuardは機械学習システムにおけるランダム性源の確保において、既存のギャップを埋めるための実践的なアプローチを示している。

関連論文リスト

• EIM-TRNG: Obfuscating Deep Neural Network Weights with Encoding-in-Memory True Random Number Generator via RowHammer [8.544950313051402]
  True Random Number Generators (TRNG) は、ハードウェアセキュリティ、暗号システム、データ保護において基本的な役割を果たす。 本研究では,DRAM細胞の挙動に固有の物理的ランダム性を利用する新しいTRNGであるEIM-TRNGを提案する。 本稿では,RowHammer操作によって生成される予測不可能なビットフリップを,信頼性のあるエントロピーソースとして利用できることを示す。
  論文  参考訳（メタデータ） (2025-07-03T00:01:33Z)
• Statistical Quality and Reproducibility of Pseudorandom Number Generators in Machine Learning technologies [0.0]
  MLフレームワークで使用されるPRNGの統計的品質を、元のC実装と比較する。 我々の発見は統計的堅牢性の主張に挑戦し、'crush-resistant'(例えばPCG、フィロックス)とラベル付けされた発電機でさえ、ある統計検査に失敗する可能性があることを明らかにした。
  論文  参考訳（メタデータ） (2025-07-02T09:38:00Z)
• A Hybrid Framework for Statistical Feature Selection and Image-Based Noise-Defect Detection [55.2480439325792]
  本稿では,統計的特徴選択と分類技術を統合し,欠陥検出精度を向上させるハイブリッドフレームワークを提案する。 工業画像から抽出した55個の特徴を統計的手法を用いて解析した。 これらの手法をフレキシブルな機械学習アプリケーションに統合することにより、検出精度を改善し、偽陽性や誤分類を減らす。
  論文  参考訳（メタデータ） (2024-12-11T22:12:21Z)
• Differentially Private Random Feature Model [47.35176457481132]
  プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。 本手法は,プライバシを保護し,一般化誤差を導出する。
  論文  参考訳（メタデータ） (2024-12-06T05:31:08Z)
• To what extent are multiple pendulum systems viable in pseudo-random number generation? [0.0]
  本稿では,代替擬似乱数生成器(PRNG)の開発と実現可能性について検討する。 従来のPRNG(特にJava.Randomクラスで実装されたもの)は、エクスプロイラビリティを引き起こす予測可能性に悩まされている。 本研究では,通常の微分方程式,物理モデリング,カオス理論を用いて設計された新しいPRNGを提案する。
  論文  参考訳（メタデータ） (2024-04-15T00:28:51Z)
• RoboGen: Towards Unleashing Infinite Data for Automated Robot Learning via Generative Simulation [68.70755196744533]
  RoboGenはジェネレーティブなロボットエージェントで、ジェネレーティブなシミュレーションを通じて、さまざまなロボットのスキルを自動的に学習する。 我々の研究は、大規模モデルに埋め込まれた広範囲で多目的な知識を抽出し、それらをロボット工学の分野に移す試みである。
  論文  参考訳（メタデータ） (2023-11-02T17:59:21Z)
• Machine Learning needs Better Randomness Standards: Randomised Smoothing and PRNG-based attacks [14.496582479888765]
  攻撃者が一般的に依存するランダム性のみを用いて、機械学習システムに侵入できるかどうかを検討する。 我々は、攻撃者が供給されたランダム性をバックドアして、最大81回まで過大評価または過小評価のロバスト性を証明する、全く新しい攻撃を実演する。 我々は、安全クリティカルでセキュリティクリティカルな機械学習アプリケーションにもっと適するように、乱数テストに関するNISTガイドラインの更新を推奨する。
  論文  参考訳（メタデータ） (2023-06-24T19:50:08Z)
• Learn then Test: Calibrating Predictive Algorithms to Achieve Risk Control [67.52000805944924]
  Learn then Test (LTT)は、機械学習モデルを校正するフレームワークである。 私たちの主な洞察は、リスクコントロール問題を複数の仮説テストとして再設計することです。 我々は、コンピュータビジョンの詳細な実例を用いて、コア機械学習タスクの新しいキャリブレーション手法を提供するために、我々のフレームワークを使用します。
  論文  参考訳（メタデータ） (2021-10-03T17:42:03Z)
• Multi Agent System for Machine Learning Under Uncertainty in Cyber Physical Manufacturing System [78.60415450507706]
  近年の予測機械学習の進歩は、製造における様々なユースケースに応用されている。 ほとんどの研究は、それに関連する不確実性に対処することなく予測精度を最大化することに焦点を当てた。 本稿では,機械学習における不確実性の原因を特定し,不確実性下での機械学習システムの成功基準を確立する。
  論文  参考訳（メタデータ） (2021-07-28T10:28:05Z)
• A Note on High-Probability versus In-Expectation Guarantees of Generalization Bounds in Machine Learning [95.48744259567837]
  統計的機械学習理論は、しばしば機械学習モデルの一般化を保証するよう試みる。 機械学習モデルのパフォーマンスに関する声明は、サンプリングプロセスを考慮する必要がある。 1つのステートメントを別のステートメントに変換する方法を示します。
  論文  参考訳（メタデータ） (2020-10-06T09:41:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。