論文の概要: URECA: The Chain of Two Minimum Set Cover Problems exists behind Adaptation to Shifts in Semantic Code Search
- arxiv url: http://arxiv.org/abs/2502.07494v1
- Date: Tue, 11 Feb 2025 11:53:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-12 14:08:00.934697
- Title: URECA: The Chain of Two Minimum Set Cover Problems exists behind Adaptation to Shifts in Semantic Code Search
- Title(参考訳): URECA:セマンティックコード検索におけるシフト適応の裏側にある2つの最小集合被覆問題の連鎖
- Authors: Seok-Ung Choi, Joonghyuk Hahn, Yo-Sub Han,
- Abstract要約: 我々は新しいクラスタリングアルゴリズム、Union-find based Recursive Clustering Algorithm(URECA)を導入する。
URECAは、不整合表現間の関係を利用するための効率的なクラスタリングアルゴリズムである。
幅広い評価結果から、URECAは、多種多様なシフトへの数ショット適応において、一貫したパフォーマンス向上を達成することが示されている。
- 参考スコア(独自算出の注目度): 3.3727470465639833
- License:
- Abstract: Adaptation is to make model learn the patterns shifted from the training distribution. In general, this adaptation is formulated as the minimum entropy problem. However, the minimum entropy problem has inherent limitation -- shifted initialization cascade phenomenon. We extend the relationship between the minimum entropy problem and the minimum set cover problem via Lebesgue integral. This extension reveals that internal mechanism of the minimum entropy problem ignores the relationship between disentangled representations, which leads to shifted initialization cascade. From the analysis, we introduce a new clustering algorithm, Union-find based Recursive Clustering Algorithm~(URECA). URECA is an efficient clustering algorithm for the leverage of the relationships between disentangled representations. The update rule of URECA depends on Thresholdly-Updatable Stationary Assumption to dynamics as a released version of Stationary Assumption. This assumption helps URECA to transport disentangled representations with no errors based on the relationships between disentangled representations. URECA also utilize simulation trick to efficiently cluster disentangled representations. The wide range of evaluations show that URECA achieves consistent performance gains for the few-shot adaptation to diverse types of shifts along with advancement to State-of-The-Art performance in CoSQA in the scenario of query shift.
- Abstract(参考訳): 適応とは、トレーニング分布からシフトしたパターンをモデルに学習させることである。
一般に、この適応は最小エントロピー問題として定式化される。
しかし、最小エントロピー問題には固有の制限があり、初期化カスケード現象がシフトしている。
最小エントロピー問題と最小集合被覆問題との関係をルベーグ積分により拡張する。
この拡張は、最小エントロピー問題の内部メカニズムが非交叉表現の関係を無視し、初期化カスケードがシフトすることを示した。
本研究では,新たなクラスタリングアルゴリズムであるUnion-findベースの再帰クラスタリングアルゴリズム~(URECA)を導入する。
URECAは、不整合表現間の関係を利用するための効率的なクラスタリングアルゴリズムである。
URECAの更新ルールは、静止推定のリリースされたバージョンとして動的にThresholdly-Updatable Stationary Assumptionに依存する。
この仮定は、URECAが不整合表現間の関係に基づいてエラーのない非整合表現を転送するのに役立ちます。
URECAはまた、非絡み合った表現を効率的にクラスタリングするためにシミュレーショントリックを利用する。
幅広い評価結果から,URECAはクエリシフトのシナリオにおけるCoSQAのState-of-The-Artパフォーマンスの向上とともに,多種多様なシフトへの少数ショット適応において一貫したパフォーマンス向上を実現していることが示された。
関連論文リスト
- Diffusion Stochastic Optimization for Min-Max Problems [33.73046548872663]
楽観的勾配法はミニマックス最適化問題に対処するのに有用である。
従来のバージョンでは大きなバッチサイズが必要であり,Samevareps-generativeOGOGと呼ばれる新しい定式化を導入,解析する。
論文 参考訳(メタデータ) (2024-01-26T01:16:59Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Task Adaptive Feature Transformation for One-Shot Learning [21.20683465652298]
単発タスクのための固定された事前学習機能の上に微調整された単純な非線形埋め込み適応層を導入する。
様々なワンショットベンチマークに対して一貫した改善が見られ、最近の最先端の手法よりも優れています。
論文 参考訳(メタデータ) (2023-04-13T21:52:51Z) - Decentralized gradient descent maximization method for composite
nonconvex strongly-concave minimax problems [7.5573375809946395]
定常的非平滑項の両方にフォーカスできるNCSCミニマックス問題を解くための最初の試みを行う。
提案アルゴリズムは,ミニマックス問題の新たな再構成に基づいて設計されている。
論文 参考訳(メタデータ) (2023-04-05T13:54:43Z) - Escaping limit cycles: Global convergence for constrained
nonconvex-nonconcave minimax problems [46.71914490521821]
本稿では,非コンケーブなミニマックス問題のクラスに対して,新たな漸進型アルゴリズムを提案する。
提案アルゴリズムは制約付き正規化問題に適用可能である。
論文 参考訳(メタデータ) (2023-02-20T08:37:08Z) - Distributed Bayesian Learning of Dynamic States [65.7870637855531]
提案アルゴリズムは有限状態隠れマルコフモデルに対する分散ベイズフィルタタスクである。
逐次状態推定や、動的環境下でのソーシャルネットワーク上での意見形成のモデル化に使用できる。
論文 参考訳(メタデータ) (2022-12-05T19:40:17Z) - Variational Laplace Autoencoders [53.08170674326728]
変分オートエンコーダは、遅延変数の後部を近似するために、償却推論モデルを用いる。
完全分解ガウス仮定の限定的後部表現性に対処する新しい手法を提案する。
また、深部生成モデルのトレーニングのための変分ラプラスオートエンコーダ(VLAE)という一般的なフレームワークも提示する。
論文 参考訳(メタデータ) (2022-11-30T18:59:27Z) - An Inexact Augmented Lagrangian Algorithm for Training Leaky ReLU Neural
Network with Group Sparsity [13.27709100571336]
近年,グループ正規化期間を持つリーク型ReLUネットワークが広く利用されている。
定常点を決定論的に計算する手法が存在しないことを示す。
本稿では,新しいモデルを解くための不正確な拡張ラグランジアンアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-11T11:53:15Z) - Local AdaGrad-Type Algorithm for Stochastic Convex-Concave Minimax
Problems [80.46370778277186]
大規模凸凹型ミニマックス問題は、ゲーム理論、堅牢なトレーニング、生成的敵ネットワークのトレーニングなど、多くの応用で発生する。
通信効率のよい分散外グレードアルゴリズムであるLocalAdaSientを開発した。
サーバモデル。
等質な環境と異質な環境の両方において,その有効性を実証する。
論文 参考訳(メタデータ) (2021-06-18T09:42:05Z) - Semantic Correspondence with Transformers [68.37049687360705]
本稿では,変換器を用いたコストアグリゲーション(CAT)を提案し,意味論的に類似した画像間の密接な対応を見出す。
初期相関マップと多レベルアグリゲーションを曖昧にするための外観親和性モデリングを含む。
提案手法の有効性を示す実験を行い,広範囲にわたるアブレーション研究を行った。
論文 参考訳(メタデータ) (2021-06-04T14:39:03Z) - Efficient Methods for Structured Nonconvex-Nonconcave Min-Max
Optimization [98.0595480384208]
定常点に収束する一般化外空間を提案する。
このアルゴリズムは一般の$p$ノルド空間だけでなく、一般の$p$次元ベクトル空間にも適用される。
論文 参考訳(メタデータ) (2020-10-31T21:35:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。