論文の概要: Sparse Representations, Inference and Learning
- arxiv url: http://arxiv.org/abs/2306.16097v1
- Date: Wed, 28 Jun 2023 10:58:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-29 14:34:42.571006
- Title: Sparse Representations, Inference and Learning
- Title(参考訳): スパース表現、推論、学習
- Authors: Clarissa Lauditi, Emanuele Troiani and Marc M\'ezard
- Abstract要約: 弱い長距離相互作用を伴う多種多様な問題に使用できる汎用フレームワークを提案する。
キャビティ法の開発により、これらの問題をレプリカ対称レベルでどのように研究できるかを確かめる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years statistical physics has proven to be a valuable tool to probe
into large dimensional inference problems such as the ones occurring in machine
learning. Statistical physics provides analytical tools to study fundamental
limitations in their solutions and proposes algorithms to solve individual
instances. In these notes, based on the lectures by Marc M\'ezard in 2022 at
the summer school in Les Houches, we will present a general framework that can
be used in a large variety of problems with weak long-range interactions,
including the compressed sensing problem, or the problem of learning in a
perceptron. We shall see how these problems can be studied at the replica
symmetric level, using developments of the cavity methods, both as a
theoretical tool and as an algorithm.
- Abstract(参考訳): 近年、統計物理学は、機械学習で起こるような大きな次元の推論問題を調べる上で有用なツールであることが証明されている。
統計物理学は、解の基本的な限界を研究する分析ツールを提供し、個々のインスタンスを解決するアルゴリズムを提案する。
これらのノートでは、2022年にル・フーシュのサマースクールで行われたMarc M\'ezard氏の講義に基づき、圧縮されたセンシング問題やパーセプトロンにおける学習問題を含む、弱い長距離相互作用の様々な問題に使用できる一般的な枠組みを提示する。
これらの問題は,理論ツールやアルゴリズムとして,キャビティ手法の開発を通じて,レプリカ対称レベルでどのように研究できるのかを考察する。
関連論文リスト
- Multi-qubit state visualizations to support problem solving $-$ a pilot study [1.8879980022743639]
数式-記号的ディラック表記法を単独で用いた場合, 学生のパフォーマンス, 時間, 認知負荷を, 単ビット系および多ビット系における円表記法や次元円表記法と組み合わせて比較した。
学生のパフォーマンスの全体的な違いは、提示された表現によってほとんど検出できないが、問題解決性能は学生に依存し、文脈に依存していることを観察する。
論文 参考訳(メタデータ) (2024-06-24T11:46:35Z) - G-LLaVA: Solving Geometric Problem with Multi-Modal Large Language Model [124.68242155098189]
大規模言語モデル(LLM)は、人間レベルの推論と生成能力に顕著な習熟性を示している。
G-LLaVAは幾何学的問題の解法において例外的な性能を示し、7Bパラメータしか持たないMathVistaベンチマークにおいて GPT-4-V を著しく上回っている。
論文 参考訳(メタデータ) (2023-12-18T17:36:20Z) - Models and algorithms for simple disjunctive temporal problems [0.8793721044482611]
イベントが任意に大量のリリースと予定日を持つ場合に焦点を当てる。
本稿では,制約プログラミングと線形プログラミングを用いた3つの数学的モデルを提案する。
論文から得られたアルゴリズムを実装し,簡単な時相問題を解くための手法の比較実験を行った。
論文 参考訳(メタデータ) (2023-02-06T09:40:24Z) - Features for the 0-1 knapsack problem based on inclusionwise maximal
solutions [0.7734726150561086]
我々は任意の 0-1 knapsack 問題インスタンスの IMS に関連する新しい計算上の問題をいくつか定式化する。
約540CPU時間でスーパーコンピュータ上の2つの大きなデータセットを計算し、計算コストのかかる14の特徴を導出する。
提案する特徴は,問題事例の実証的硬度に関連する重要な情報を含むことを示す。
論文 参考訳(メタデータ) (2022-11-16T12:48:35Z) - Continuous-time Analysis for Variational Inequalities: An Overview and
Desiderata [87.77379512999818]
広義のVI問題クラスを対象とする手法の分析と設計における連続時間視点の利用の最近の進歩について概説する。
本発表では, 単目的問題と多目的問題とを対比し, 後者の課題を浮き彫りにした。
また、一般の VI に適用可能なアルゴリズムに対して様々なデシダラタを定式化し、これらのデシダラタを達成することは関連する連続時間力学の理解から利益を得る可能性があると論じる。
論文 参考訳(メタデータ) (2022-07-14T17:58:02Z) - Accelerating numerical methods by gradient-based meta-solving [15.90188271828615]
科学と工学の応用においては、しばしば同様の計算問題を何度も解くことが要求される。
我々はそれらを統一的に解くための勾配に基づくアルゴリズムを提案する。
理論的解析と数値実験により,本手法の性能と汎用性を実証する。
論文 参考訳(メタデータ) (2022-06-17T07:31:18Z) - Provable Reinforcement Learning with a Short-Term Memory [68.00677878812908]
我々はPMDPsの新しいサブクラスについて研究し、その潜在状態は、最近の短い長さ$m$の履歴によって復号化することができる。
特に、リッチ・オブザーブレーション・セッティングにおいて、指数関数的にスケールするサンプル複雑性を持つ新しい「モーメントマッチング」アプローチを用いて、新しいアルゴリズムを開発する。
以上の結果から,これらの環境下での強化学習には短期記憶が十分であることが示唆された。
論文 参考訳(メタデータ) (2022-02-08T16:39:57Z) - Unsupervised Statistical Learning for Die Analysis in Ancient
Numismatics [1.1470070927586016]
本研究では,大規模ダイ研究に必要な時間投資を数桁の規模で削減できる非教師なし型解析モデルを提案する。
この方法の有効性は,64-66C.Eで打たれたローマ銀貨1135枚の分析によって実証された。
論文 参考訳(メタデータ) (2021-12-01T06:02:07Z) - Distributed Methods with Compressed Communication for Solving
Variational Inequalities, with Theoretical Guarantees [115.08148491584997]
本稿では,MASHA1 と MASHA2 の圧縮通信による変分不等式とサドル点問題の解法について理論的に検討した。
新しいアルゴリズムは双方向圧縮をサポートし、バッチの設定や、クライアントの部分的な参加を伴うフェデレーション学習のために修正することもできる。
論文 参考訳(メタデータ) (2021-10-07T10:04:32Z) - Decentralized Personalized Federated Learning for Min-Max Problems [79.61785798152529]
本稿では,より広い範囲の最適化問題を含むサドル点問題に対して,PFLを初めて検討した。
この問題に対処するための新しいアルゴリズムを提案し、滑らかな(強く)凸-(強く)凹点問題を理論的に解析する。
両線形問題に対する数値実験と, 対向雑音を有するニューラルネットワークは, 提案手法の有効性を実証する。
論文 参考訳(メタデータ) (2021-06-14T10:36:25Z) - Heterogeneous Representation Learning: A Review [66.12816399765296]
不均一表現学習(HRL)には、いくつかの独特な課題がある。
異種入力を用いて既存の学習環境をモデル化可能な統合学習フレームワークを提案する。
HRLでは触れられていない課題と今後の研究方向性を強調します。
論文 参考訳(メタデータ) (2020-04-28T05:12:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。