論文の概要: Agnostic Learning by Imitating

• arxiv url: http://arxiv.org/abs/2611.05346v1
• Date: Tue, 03 Nov 2026 18:45:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-07 12:52:11.75539
• Title: Agnostic Learning by Imitating
• Title（参考訳）: イルミネーションによるアグノスティックラーニング
• Abstract要約: 計算学習理論における2つの課題は複雑性において互いに等価であることを示す。 マルチ精度のオラクルは驚くほど強力なプリミティブであり、学習だけでなく、より要求の大きい学習目標も達成している。
• 参考スコア（独自算出の注目度）: 19.236690161829923
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Given a class of machine learning models and sample access to a data distribution with binary labels, which computational task is harder: training a discriminative model that distinguishes positive and negative labels as well as the best member of the class, or training a generative model whose outputs are indistinguishable from real data by all members of the class? We prove that these two fundamental tasks in computational learning theory are not just closely related, but actually equivalent to each other in complexity. One direction of this equivalence was previously known. Indeed, the powerful regularity lemma in complexity theory gives an efficient oracle reduction from the indistinguishability task (a.k.a. multiaccuracy) to the distinguishing task (a.k.a. agnostic learning) in the style of boosting algorithms. Our main contribution is an efficient oracle reduction in the other direction. Taking this idea further, we show that a multiaccuracy oracle is a remarkably powerful primitive, achieving not just agnostic learning but also a wide range of seemingly more demanding learning objectives via similarly efficient and direct constructions. Our results crucially use the power of making adaptive queries to the oracle, and stand in stark contrast to prior work, which showed that post-processing a single multiaccurate predictor is insufficient for even weak forms of learning. On a technical level, we draw a connection between our (offline) problem and a version of no-regret learning in the online setting, which allows us to use follow-the-leader type algorithms to modify the label distribution and aggregate the predictions of the multiaccuracy oracle.
• Abstract（参考訳）: 正負のラベルと正負のラベルを区別する識別モデルを訓練するか、またはクラスのすべてのメンバーが実際のデータと区別できない生成モデルを訓練するか? 計算学習理論におけるこれらの2つの基本的なタスクは、単に密接に関連しているだけでなく、実際は複雑性において互いに等価であることを示す。 この等価性の1つの方向が以前は知られていた。 実際、複雑性理論における強力な正則性補題は、不明瞭性タスク(マルチ精度)から、アルゴリズムの強化スタイルにおける識別タスク(非学習)への効率的なオラクル還元を与える。 私たちの主な貢献は、他の方向における効率的なオラクルの削減です。 この考え方をさらに推し進めると、多精度オラクルは驚くほど強力なプリミティブであり、非依存的な学習だけでなく、同様に効率的で直接的な構成を通じて、より要求の大きい学習目標も達成できることが示される。 この結果から, 学習の弱さに対して, 単一マルチ精度予測器の処理後処理が不十分であることが示唆された。 技術的レベルでは、オンライン環境での(オフライン)問題とノンレグレトラーニング(no-regret learning)とを関連付けることで、フォロー・ザ・リード型アルゴリズムを使用してラベルの分布を変更し、マルチ精度のオラクルの予測を集約することができます。

関連論文リスト

• On Optimization Complexity of Second-Order Certified Unlearning [13.772246033005672]
  我々は、未学習アルゴリズムの目標を、認定未学習と最適化の精度を同時に達成するものとして定式化する。 我々は、異方性ガウス機構と最先端のグローバルコンバージェンスを備えた新しい二階未学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2026-07-22T14:16:02Z)
• Oracle-efficient Hybrid Learning with Constrained Adversaries [6.10626521968742]
  本稿では,ハイブリッド学習環境において,統計的最適性と計算効率を同時に達成するための一歩を踏み出した。 学習アルゴリズムの設計と解析のためのツールを多数開発しており、その中には"truncated entropy regularizer"を用いたFrank-Wolfeリダクションも含まれている。 鍵系として、アクションセットが高次元である場合のゼロサムゲームに対する平衡効率のアルゴリズムを与えるが、ペイオフ関数は低次元構造の一種を示す。
  論文  参考訳（メタデータ） (2026-03-04T19:31:00Z)
• Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
  インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。 本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。 本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
  論文  参考訳（メタデータ） (2025-07-31T05:34:27Z)
• Probably Approximately Precision and Recall Learning [60.00180898830079]
  機械学習における重要な課題は、一方的なフィードバックの頻度である。 本稿では,確率的近似(PAC)フレームワークを導入し,各入力をラベルの集合にマッピングする仮説を定めている。 我々は、正のデータのみから学習する新しいアルゴリズムを開発し、実現可能な場合において最適なサンプル複雑性を実現する。
  論文  参考訳（メタデータ） (2024-11-20T04:21:07Z)
• Leveraging Ensembles and Self-Supervised Learning for Fully-Unsupervised Person Re-Identification and Text Authorship Attribution [77.85461690214551]
  完全ラベル付きデータからの学習は、Person Re-IdentificationやText Authorship Attributionなどのマルチメディアフォレスト問題において困難である。 近年の自己教師型学習法は,基礎となるクラスに意味的差異が有る場合に,完全ラベル付きデータを扱う際に有効であることが示されている。 本研究では,異なるクラスからのサンプルが顕著に多様性を持っていない場合でも,ラベルのないデータから学習できるようにすることにより,個人再認識とテキストオーサシップの属性に対処する戦略を提案する。
  論文  参考訳（メタデータ） (2022-02-07T13:08:11Z)
• Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise Learning [65.54757265434465]
  ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。 オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。 本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
  論文  参考訳（メタデータ） (2021-11-23T18:10:48Z)
• A Bayesian Approach to (Online) Transfer Learning: Theory and Algorithms [6.193838300896449]
  本稿では,パラメトリック統計モデルを用いたベイズ的観点からの移動学習について検討する。 具体的には,移動学習問題,即時学習,オンライン学習,時変学習の3つの変種について検討する。 各問題に対して、適切な目的関数を定義し、学習性能の正確な表現または上限を提供する。 例は、小さなサンプルサイズであっても、導出した境界が正確であることを示している。
  論文  参考訳（メタデータ） (2021-09-03T08:43:29Z)
• Can Active Learning Preemptively Mitigate Fairness Issues? [66.84854430781097]
  データセットバイアスは、機械学習における不公平な原因の1つです。 不確実性に基づくALで訓練されたモデルが保護クラスの決定において公平であるかどうかを検討する。 また,勾配反転(GRAD)やBALDなどのアルゴリズム的公正性手法の相互作用についても検討する。
  論文  参考訳（メタデータ） (2021-04-14T14:20:22Z)
• Low-Regret Active learning [64.36270166907788]
  トレーニングに最も有用なラベル付きデータポイントを識別するオンライン学習アルゴリズムを開発した。 私たちの仕事の中心は、予測可能な(簡単な)インスタンスの低い後悔を達成するために調整された睡眠専門家のための効率的なアルゴリズムです。
  論文  参考訳（メタデータ） (2021-04-06T22:53:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。