論文の概要: Concurrent Classifier Error Detection (CCED) in Large Scale Machine Learning Systems

• arxiv url: http://arxiv.org/abs/2306.01820v1
• Date: Fri, 2 Jun 2023 12:36:05 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-07 00:02:31.936967
• Title: Concurrent Classifier Error Detection (CCED) in Large Scale Machine Learning Systems
• Title（参考訳）: 大規模機械学習システムにおける同時分類器誤り検出(CCED)
• Authors: Pedro Reviriego, Ziheng Wang, Alvaro Alonso, Zhen Gao, Farzad Niknia, Shanshan Liu and Fabrizio Lombardi
• Abstract要約: 本稿では,CEDを機械学習システムに実装するCED(Concurrent Error Detection)を提案する。 CCEDはメインMLシステムの一連のチェック信号を識別し、エラーを検出するために訓練された同時MLにフィードする。 その結果、単純なランダムフォレスト分類器を使用すると、95%以上のエラーが検出されることがわかった。
• 参考スコア（独自算出の注目度）: 10.839595991409828
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The complexity of Machine Learning (ML) systems increases each year, with current implementations of large language models or text-to-image generators having billions of parameters and requiring billions of arithmetic operations. As these systems are widely utilized, ensuring their reliable operation is becoming a design requirement. Traditional error detection mechanisms introduce circuit or time redundancy that significantly impacts system performance. An alternative is the use of Concurrent Error Detection (CED) schemes that operate in parallel with the system and exploit their properties to detect errors. CED is attractive for large ML systems because it can potentially reduce the cost of error detection. In this paper, we introduce Concurrent Classifier Error Detection (CCED), a scheme to implement CED in ML systems using a concurrent ML classifier to detect errors. CCED identifies a set of check signals in the main ML system and feeds them to the concurrent ML classifier that is trained to detect errors. The proposed CCED scheme has been implemented and evaluated on two widely used large-scale ML models: Contrastive Language Image Pretraining (CLIP) used for image classification and Bidirectional Encoder Representations from Transformers (BERT) used for natural language applications. The results show that more than 95 percent of the errors are detected when using a simple Random Forest classifier that is order of magnitude simpler than CLIP or BERT. These results illustrate the potential of CCED to implement error detection in large-scale ML models.
• Abstract（参考訳）: 機械学習(ML)システムの複雑さは毎年増加し、数十億のパラメータを持ち、数十億の演算を必要とする大規模な言語モデルやテキスト・ツー・イメージジェネレータの実装が現在行われている。 これらのシステムが広く活用されているため、信頼性の高い運用が設計要件になりつつある。 従来のエラー検出メカニズムは、システム性能に大きな影響を与える回路や時間冗長性をもたらす。 別の方法として、システムと並行して動作し、その特性を利用してエラーを検出するCED(Concurrent Error Detection)方式がある。 CEDは大規模なMLシステムにとって魅力的であり、エラー検出のコストを削減できる可能性がある。 本稿では,コンカレントml分類器を用いたmlシステムでcedを実装する手法であるconcurrent classifier error detection (cced)を提案する。 CCEDはメインMLシステムの一連のチェック信号を識別し、エラーを検出するために訓練された同時ML分類器にフィードする。 提案手法は,画像分類に使用されるコントラスト言語画像事前学習(CLIP)と,自然言語アプリケーションに使用される変換器からの双方向エンコーダ表現(BERT)の2つの大規模MLモデルに対して実装・評価されている。 以上の結果から,CLIPやBERTよりも桁違いに単純なランダムフォレスト分類器を用いて,95%以上の誤差が検出された。 これらの結果は,大規模MLモデルに誤り検出を実装するCCEDの可能性を示している。

関連論文リスト

• LM-Combiner: A Contextual Rewriting Model for Chinese Grammatical Error Correction [49.0746090186582]
  過剰補正は中国の文法的誤り訂正(CGEC)タスクにおいて重要な問題である。 モデルアンサンブル法による最近の研究は、過剰補正を効果的に軽減し、ECCシステムの精度を向上させることができる。 本稿では,GECシステム出力の過度補正をモデルアンサンブルなしで直接修正できる書き換えモデルLM-Combinerを提案する。
  論文  参考訳（メタデータ） (2024-03-26T06:12:21Z)
• Concurrent Linguistic Error Detection (CLED) for Large Language Models [13.01669288397494]
  大規模言語モデル(LLM)に対する同時言語誤り検出(CLED)を提案する。 CLEDはLLMによって生成されたテキストの言語的特徴を抽出し、エラーを検出する同時分類器に供給する。 提案手法は,ニュース要約時にT5モデル,翻訳時にOPUS-MTモデルで評価されている。
  論文  参考訳（メタデータ） (2024-03-25T03:17:27Z)
• MLAD: A Unified Model for Multi-system Log Anomaly Detection [35.68387377240593]
  複数のシステムにまたがる意味的関係推論を組み込んだ新しい異常検出モデルMLADを提案する。 具体的には、Sentence-bertを用いてログシーケンス間の類似性を捉え、それらを高次元の学習可能な意味ベクトルに変換する。 我々は,各キーワードのシーケンスにおける意義を識別し,マルチシステムデータセットの全体分布をモデル化するために,アテンション層の公式を改訂する。
  論文  参考訳（メタデータ） (2024-01-15T12:51:13Z)
• Prompt Optimization via Adversarial In-Context Learning [51.18075178593142]
  adv-ICLは、ジェネレータとディスクリミネータの間の2プレイヤーゲームとして実装される。 ジェネレータは、判別器を騙すのに十分な出力を生成する。 本稿では,Adv-ICLが最先端のプロンプト最適化技術を大幅に改善することを示す。
  論文  参考訳（メタデータ） (2023-12-05T09:44:45Z)
• Generative error correction for code-switching speech recognition using large language models [49.06203730433107]
  コードスイッチング(英: Code-switching, CS)とは、2つ以上の言語が同じ文内に混在する現象である。 本稿では,大規模言語モデル (LLM) と ASR が生成する仮説のリストを利用して,CS 問題に対処することを提案する。
  論文  参考訳（メタデータ） (2023-10-17T14:49:48Z)
• Efficient Simulation of Leakage Errors in Quantum Error Correcting Codes Using Tensor Network Methods [0.2209921757303168]
  本稿では,量子誤り訂正符号(QECCs)の漏洩誤りを計算効率よく研究するためのシミュレーション手法を提案する。 提案手法は, 熱雑音やコヒーレント誤差など, 近似を伴わない様々な漏れ過程のシミュレーションを可能にする。 誤り訂正プロセス中に発生する少量の絡み合いを利用して、数百キューディットまでの大規模なシステムを多くのコードサイクルで研究することができる。
  論文  参考訳（メタデータ） (2023-08-16T07:36:33Z)
• Witnessing entanglement in trapped-ion quantum error correction under realistic noise [41.94295877935867]
  量子誤り補正(Quantum Error Correction, QEC)は、論理情報を複数の物理量子ビットに符号化することで冗長性を利用する。 トラップイオンプラットフォームで使用される2量子光シフトゲートの平均ゲート不忠実度を推定するために,詳細な顕微鏡誤差モデルを提案する。 次に、この現実的な誤差モデルを適用し、QECビルディングブロックとして機能する回路によって生成されるマルチパーティントの絡み合いを定量化する。
  論文  参考訳（メタデータ） (2022-12-14T20:00:36Z)
• Improving Distinction between ASR Errors and Speech Disfluencies with Feature Space Interpolation [0.0]
  微調整事前訓練言語モデル(LM)は,後処理における自動音声認識(ASR)エラー検出において一般的な手法である。 本稿では,既存のLMベースのASR誤り検出システムの改良手法を提案する。
  論文  参考訳（メタデータ） (2021-08-04T02:11:37Z)
• TELESTO: A Graph Neural Network Model for Anomaly Classification in Cloud Services [77.454688257702]
  機械学習(ML)と人工知能(AI)はITシステムの運用とメンテナンスに適用される。 1つの方向は、修復自動化を可能にするために、繰り返し発生する異常タイプを認識することである。 与えられたデータの次元変化に不変な手法を提案する。
  論文  参考訳（メタデータ） (2021-02-25T14:24:49Z)
• A Novel Anomaly Detection Algorithm for Hybrid Production Systems based on Deep Learning and Timed Automata [73.38551379469533]
  DAD:DeepAnomalyDetectionは,ハイブリッド生産システムにおける自動モデル学習と異常検出のための新しいアプローチである。 深層学習とタイムドオートマトンを組み合わせて、観察から行動モデルを作成する。 このアルゴリズムは実システムからの2つのデータを含む少数のデータセットに適用され、有望な結果を示している。
  論文  参考訳（メタデータ） (2020-10-29T08:27:43Z)
• Unsupervised Anomaly Detection with Adversarial Mirrored AutoEncoders [51.691585766702744]
  本稿では,識別器のミラー化ワッサースタイン損失を利用して,よりセマンティックレベルの再構築を行う逆自動エンコーダの変種を提案する。 我々は,再建基準の代替として,異常スコアの代替尺度を提案した。 提案手法は,OOD検出ベンチマークにおける異常検出の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2020-03-24T08:26:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。