論文の概要: Submodularity In Machine Learning and Artificial Intelligence
- arxiv url: http://arxiv.org/abs/2202.00132v1
- Date: Mon, 31 Jan 2022 22:41:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-02 13:29:21.992480
- Title: Submodularity In Machine Learning and Artificial Intelligence
- Title（参考訳）: 機械学習と人工知能におけるサブモジュラリティ
- Authors: Jeff Bilmes
- Abstract要約: 我々は、部分モジュラー函数とその一般化の完全な記述である部分モジュラー定義の多元性を提供する。
そして、サブモジュラリティが機械学習と人工知能にどのように役立つかに目を向ける。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this manuscript, we offer a gentle review of submodularity and
supermodularity and their properties. We offer a plethora of submodular
definitions; a full description of a number of example submodular functions and
their generalizations; example discrete constraints; a discussion of basic
algorithms for maximization, minimization, and other operations; a brief
overview of continuous submodular extensions; and some historical applications.
We then turn to how submodularity is useful in machine learning and artificial
intelligence. This includes summarization, and we offer a complete account of
the differences between and commonalities amongst sketching, coresets,
extractive and abstractive summarization in NLP, data distillation and
condensation, and data subset selection and feature selection. We discuss a
variety of ways to produce a submodular function useful for machine learning,
including heuristic hand-crafting, learning or approximately learning a
submodular function or aspects thereof, and some advantages of the use of a
submodular function as a coreset producer. We discuss submodular combinatorial
information functions, and how submodularity is useful for clustering, data
partitioning, parallel machine learning, active and semi-supervised learning,
probabilistic modeling, and structured norms and loss functions.
- Abstract（参考訳）: 本書では,サブモジュラリティとスーパーモジュラリティとその特性について,緩やかに検討する。
我々は多くの部分モジュラー定義、いくつかの部分モジュラー関数とその一般化の完全な記述、例えば離散制約、最大化、最小化、その他の操作のための基本的なアルゴリズムに関する議論、連続部分モジュラー拡張の概要、そしていくつかの歴史的応用を提供する。
そして、サブモジュラリティが機械学習と人工知能にどのように役立つかに目を向ける。
これには要約が含まれており、スケッチ、コアセット、nlpにおける抽出的および抽象的要約、データの蒸留と凝縮、データサブセットの選択と特徴選択の差異の完全な説明を提供する。
本稿では,機械学習に有用なサブモジュラー関数の作成方法について,ヒューリスティックな手作業や学習,あるいはサブモジュラー機能やその側面を大まかに学習する方法や,コアセットプロデューサとしてサブモジュラー関数を使用することの利点について論じる。
本稿では,サブモジュラー組合せ情報関数と,サブモジュラリティがクラスタリング,データ分割,並列機械学習,アクティブ・セミ教師付き学習,確率モデリング,構造化ノルム・損失関数にどのように役立つかについて議論する。
関連論文リスト
- Modular Deep Learning [120.36599591042908]
トランスファーラーニングは近年、機械学習の主要なパラダイムとなっている。
負の干渉を伴わずに複数のタスクを専門とするモデルを開発する方法はまだ不明である。
これらの課題に対する有望な解決策として、モジュール型ディープラーニングが登場した。
論文 参考訳（メタデータ） (2023-02-22T18:11:25Z) - Neural Estimation of Submodular Functions with Applications to
Differentiable Subset Selection [50.14730810124592]
サブモジュール関数と変種は、多様性とカバレッジを特徴付ける能力を通じて、データ選択と要約のための重要なツールとして登場した。
本稿では,モノトーンおよび非モノトーン部分モジュラー関数のためのフレキシブルニューラルネットワークであるFLEXSUBNETを提案する。
論文 参考訳（メタデータ） (2022-10-20T06:00:45Z) - Sparsification of Decomposable Submodular Functions [27.070004659301162]
サブモジュール関数は多くの機械学習とデータマイニングタスクの中核にある。
元の関数の根底にある部分モジュラ関数の数がとても多いので、処理に多くの時間が必要で、あるいはメインメモリに収まらない場合もあります。
分解可能部分モジュラ函数に対するスパーシフィケーションの概念を導入し、元の関数の正確な近似を得る目的は、少数の部分モジュラ函数の(重み付けされた)和である。
論文 参考訳（メタデータ） (2022-01-18T20:05:25Z) - Deep Submodular Networks for Extractive Data Summarization [0.46898263272139784]
本稿では,要約問題に対するエンドツーエンド学習フレームワークを提案する。
Deep Submodular Networks (DSN)フレームワークは、スクラッチから要約に適した機能を学ぶために使用できる。
特に,DSNはオフ・ザ・シェルフ機能を用いて,単純な混合モデルよりも優れていることを示す。
論文 参考訳（メタデータ） (2020-10-16T19:06:15Z) - Neural Function Modules with Sparse Arguments: A Dynamic Approach to
Integrating Information across Layers [84.57980167400513]
Neural Function Modules (NFM)は、ディープラーニングに同じ構造機能を導入することを目的としている。
トップダウンとボトムアップのフィードバックを組み合わせたフィードフォワードネットワークのコンテキストにおける作業のほとんどは、分類の問題に限られている。
私たちの仕事の重要な貢献は、フレキシブルなアルゴリズムで注意、疎結合、トップダウン、ボトムアップのフィードバックを組み合わせることです。
論文 参考訳（メタデータ） (2020-10-15T20:43:17Z) - Text Modular Networks: Learning to Decompose Tasks in the Language of
Existing Models [61.480085460269514]
本稿では,既存のモデルで解けるより単純なモデルに分解することで,複雑なタスクを解くための解釈可能なシステムを構築するためのフレームワークを提案する。
我々はこのフレームワークを用いて、ニューラルネットワークのファクトイド単一スパンQAモデルとシンボリック電卓で答えられるサブクエストに分解することで、マルチホップ推論問題に答えられるシステムであるModularQAを構築する。
論文 参考訳（メタデータ） (2020-09-01T23:45:42Z) - Submodular Combinatorial Information Measures with Applications in
Machine Learning [2.5329739965085785]
エントロピーや相互情報のような情報理論の量は、機械学習で多くの用途を見出した。
本研究では,独立性,(条件)エントロピー,(条件)相互情報,および変数の集合上で定義された総相関を一般化する情報尺度について検討する。
論文 参考訳（メタデータ） (2020-06-27T17:45:32Z) - Continuous Submodular Function Maximization [91.17492610120324]
連続部分モジュラリティ (continuous submodularity) は、幅広い応用を持つ関数のクラスである。
連続的な部分モジュラ最適化の応用は、影響、推論のMAP、フィールドへの推論など多岐にわたる。
論文 参考訳（メタデータ） (2020-06-24T04:37:31Z) - From Sets to Multisets: Provable Variational Inference for Probabilistic
Integer Submodular Models [82.95892656532696]
サブモジュール関数は機械学習やデータマイニングにおいて広く研究されている。
本研究では,整数部分モジュラ函数に対する連続DR-部分モジュラ拡張を提案する。
整数部分モジュラー関数によって定義される新しい確率モデルを定式化する。
論文 参考訳（メタデータ） (2020-06-01T22:20:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。