論文の概要: Capturing Structural Locality in Non-parametric Language Models

• arxiv url: http://arxiv.org/abs/2110.02870v1
• Date: Wed, 6 Oct 2021 15:53:38 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-07 14:21:51.306297
• Title: Capturing Structural Locality in Non-parametric Language Models
• Title（参考訳）: 非パラメトリック言語モデルにおける構造的局所性
• Authors: Frank F. Xu, Junxian He, Graham Neubig, Vincent J. Hellendoorn
• Abstract要約: 非パラメトリック言語モデルに局所性情報を追加するための,単純かつ効果的なアプローチを提案する。 Javaソースコードとウィキペディアテキストという2つの異なる領域の実験では、局所性がモデルの有効性を向上させることが示されている。
• 参考スコア（独自算出の注目度）: 85.94669097485992
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Structural locality is a ubiquitous feature of real-world datasets, wherein data points are organized into local hierarchies. Some examples include topical clusters in text or project hierarchies in source code repositories. In this paper, we explore utilizing this structural locality within non-parametric language models, which generate sequences that reference retrieved examples from an external source. We propose a simple yet effective approach for adding locality information into such models by adding learned parameters that improve the likelihood of retrieving examples from local neighborhoods. Experiments on two different domains, Java source code and Wikipedia text, demonstrate that locality features improve model efficacy over models without access to these features, with interesting differences. We also perform an analysis of how and where locality features contribute to improved performance and why the traditionally used contextual similarity metrics alone are not enough to grasp the locality structure.
• Abstract（参考訳）: 構造的局所性は現実世界のデータセットのユビキタスな特徴であり、データポイントはローカル階層に編成される。 テキスト内のトピッククラスタや、ソースコードリポジトリ内のプロジェクト階層などだ。 本稿では,非パラメトリック言語モデルにおけるこの構造的局所性を利用して,外部ソースから抽出された例を参照するシーケンスを生成する。 そこで本研究では,地域住民からサンプルを抽出する可能性を高める学習パラメータを付加することで,そのようなモデルに局所性情報を追加するための簡易かつ効果的な手法を提案する。 javaソースコードとwikipediaテキストの2つの異なるドメインでの実験では、局所性機能がこれらの機能にアクセスせずにモデルの有効性を向上させることが示されている。 また,局所性特徴がパフォーマンス向上にどのように寄与するか,また,従来の文脈的類似性指標だけでは局所性構造を把握できない理由についても分析した。

関連論文リスト

• Generalization Properties of Retrieval-based Models [50.35325326050263]
  検索ベースの機械学習手法は、幅広い問題で成功をおさめた。 これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。 本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
  論文  参考訳（メタデータ） (2022-10-06T00:33:01Z)
• Content-Based Landmark Retrieval Combining Global and Local Features using Siamese Neural Networks [3.785123406103385]
  グローバルな特徴と局所的な特徴を利用したランドマーク検索手法を提案する。 シームズネットワークはグローバルな特徴抽出とメートル法学習に使われ、ランドマーク検索の初期ランキングが与えられる。 我々は,シームズアーキテクチャから抽出した特徴写像を局所記述子として利用し,その結果を局所記述子間のコサイン類似性を用いてさらに洗練する。
  論文  参考訳（メタデータ） (2022-08-03T18:11:36Z)
• SemAffiNet: Semantic-Affine Transformation for Point Cloud Segmentation [94.11915008006483]
  ポイントクラウドセマンティックセグメンテーションのためのSemAffiNetを提案する。 我々はScanNetV2とNYUv2データセットについて広範な実験を行った。
  論文  参考訳（メタデータ） (2022-05-26T17:00:23Z)
• Unsupervised Keyphrase Extraction by Jointly Modeling Local and Global Context [25.3472693740778]
  埋め込みベースの手法は、教師なしキーフレーズ抽出(UKE)タスクに広く用いられている。 本稿では,地域とグローバルのコンテキストを共同でモデル化するUKEの新しい手法を提案する。
  論文  参考訳（メタデータ） (2021-09-15T13:41:10Z)
• Clustered Federated Learning via Generalized Total Variation Minimization [83.26141667853057]
  本研究では,分散ネットワーク構造を持つローカルデータセットの局所的(あるいはパーソナライズされた)モデルを学習するための最適化手法について検討する。 我々の主要な概念的貢献は、総変動最小化(GTV)としてフェデレーション学習を定式化することである。 私たちのアルゴリズムの主な貢献は、完全に分散化されたフェデレーション学習アルゴリズムです。
  論文  参考訳（メタデータ） (2021-05-26T18:07:19Z)
• Adaptive Semiparametric Language Models [17.53604394786977]
  本稿では,大規模パラメトリックニューラルネットワーク(トランスフォーマー)と非パラメトリックエピソードメモリコンポーネントを組み合わせた言語モデルを提案する。 単語ベースおよび文字ベース言語モデリングデータセットの実験により,提案手法の有効性を実証した。
  論文  参考訳（メタデータ） (2021-02-04T11:47:03Z)
• Local Context Attention for Salient Object Segmentation [5.542044768017415]
  本研究では,一様表現型アーキテクチャで局所強化特徴写像を生成するための新しいローカルコンテキスト注意ネットワーク(LCANet)を提案する。 提案するネットワークでは,粗い予測と大域的コンテキストの間の相関特徴写像を計算し,アテンショナル・コリレーション・フィルタ (ACF) モジュールを導入している。 いくつかの有能なオブジェクトセグメンテーションデータセットに対して総合的な実験を行い、提案したLCANetの最先端手法に対する優れた性能を実証した。
  論文  参考訳（メタデータ） (2020-09-24T09:20:06Z)
• On the use of local structural properties for improving the efficiency of hierarchical community detection methods [77.34726150561087]
  本研究では,階層型コミュニティ検出の効率向上のために,局所構造ネットワーク特性をプロキシとして利用する方法について検討する。 また,ネットワークプルーニングの性能への影響を,階層的コミュニティ検出をより効率的にするための補助的手法として検証する。
  論文  参考訳（メタデータ） (2020-09-15T00:16:12Z)
• Learning Local Features with Context Aggregation for Visual Localization [24.167882373322957]
  キーポイントの検出と記述は多くの視覚応用において不可欠である。 既存のほとんどのメソッドは、コンテキスト情報を考慮せずにローカル特徴を学習するために、検出-then-describeまたは検出-and-describe戦略を使用している。 本稿では,局所特徴の識別性を改善するために,低レベルテキスト情報と高レベル意味文脈情報の融合に着目した。
  論文  参考訳（メタデータ） (2020-05-26T17:19:06Z)
• Pairwise Similarity Knowledge Transfer for Weakly Supervised Object Localization [53.99850033746663]
  弱教師付き画像ラベルを持つ対象クラスにおける局所化モデル学習の問題点について検討する。 本研究では,対象関数のみの学習は知識伝達の弱い形態であると主張する。 COCOおよびILSVRC 2013検出データセットの実験では、ペアワイズ類似度関数を含むことにより、ローカライズモデルの性能が大幅に向上することが示された。
  論文  参考訳（メタデータ） (2020-03-18T17:53:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。