論文の概要: Knowledge Graph Completion by Intermediate Variables Regularization
- arxiv url: http://arxiv.org/abs/2506.02749v1
- Date: Tue, 03 Jun 2025 11:11:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-04 21:47:35.60445
- Title: Knowledge Graph Completion by Intermediate Variables Regularization
- Title(参考訳): 中間変数規則化による知識グラフの補完
- Authors: Changyi Xiao, Yixin Cao,
- Abstract要約: 分解ベース(TDB)モデルは知識グラフ補完(KGC)において強い性能を示した
既存の正規化手法は、モデルを正規化するための埋め込みのノルムを最小化するだけで、最適以下の性能をもたらす。
本稿では,この制限に対処する新しいTDBモデルの正規化手法を提案する。
- 参考スコア(独自算出の注目度): 7.051174443949839
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge graph completion (KGC) can be framed as a 3-order binary tensor completion task. Tensor decomposition-based (TDB) models have demonstrated strong performance in KGC. In this paper, we provide a summary of existing TDB models and derive a general form for them, serving as a foundation for further exploration of TDB models. Despite the expressiveness of TDB models, they are prone to overfitting. Existing regularization methods merely minimize the norms of embeddings to regularize the model, leading to suboptimal performance. Therefore, we propose a novel regularization method for TDB models that addresses this limitation. The regularization is applicable to most TDB models and ensures tractable computation. Our method minimizes the norms of intermediate variables involved in the different ways of computing the predicted tensor. To support our regularization method, we provide a theoretical analysis that proves its effect in promoting low trace norm of the predicted tensor to reduce overfitting. Finally, we conduct experiments to verify the effectiveness of our regularization technique as well as the reliability of our theoretical analysis. The code is available at https://github.com/changyi7231/IVR.
- Abstract(参考訳): 知識グラフ補完(KGC)は、3階のバイナリテンソル補完タスクとしてフレーム化することができる。
テンソル分解に基づくモデル(TDB)は、KGCにおいて強い性能を示した。
本稿では,既存のTDBモデルの概要を述べるとともに,TDBモデルのさらなる探索の基盤となる汎用形式を導出する。
TDBモデルの表現力にもかかわらず、それらは過度に適合する傾向がある。
既存の正規化手法は、モデルを正規化するための埋め込みのノルムを最小化するだけで、最適以下の性能をもたらす。
そこで本研究では,この制限に対処するTDBモデルの新たな正規化手法を提案する。
正規化はほとんどのTDBモデルに適用でき、トラクタブルな計算を保証する。
本手法は,予測テンソルの計算方法の異なる中間変数のノルムを最小化する。
正規化手法を支援するために,予測テンソルの低トレースノルムの促進効果を証明し,オーバーフィッティングを低減する理論解析を行った。
最後に,正規化手法の有効性と理論解析の信頼性を検証する実験を行った。
コードはhttps://github.com/changyi7231/IVRで入手できる。
関連論文リスト
- Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。
本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。
我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
論文 参考訳(メタデータ) (2025-05-21T07:16:44Z) - Stochastic Control for Fine-tuning Diffusion Models: Optimality, Regularity, and Convergence [11.400431211239958]
拡散モデルは生成モデリングの強力なツールとして登場してきた。
微調整拡散モデルのための制御フレームワークを提案する。
PI-FTは線形速度で大域収束することを示す。
論文 参考訳(メタデータ) (2024-12-24T04:55:46Z) - Irregular Tensor Low-Rank Representation for Hyperspectral Image Representation [71.69331824668954]
スペクトル変動は、ハイパースペクトル画像(HSI)解析において共通の課題となる
低ランクテンソル表現は、HSIデータに固有の相関を利用して、堅牢な戦略として登場した。
本研究では,不規則な3次元立方体を効率的にモデル化するために,不規則なテンソルローランク表現のための新しいモデルを提案する。
論文 参考訳(メタデータ) (2024-10-24T02:56:22Z) - Efficient Nonparametric Tensor Decomposition for Binary and Count Data [27.02813234958821]
本稿では、二分数テンソルと数テンソルのアンダーラインデコンポジションとして、アンダーライン効率のアンダーラインNonアンダーラインテンソルであるENTEDを提案する。
論文 参考訳(メタデータ) (2024-01-15T14:27:03Z) - A PAC-Bayesian Perspective on the Interpolating Information Criterion [54.548058449535155]
補間系の性能に影響を及ぼす要因を特徴付ける一般モデルのクラスに対して,PAC-Bayes境界がいかに得られるかを示す。
オーバーパラメータ化モデルに対するテスト誤差が、モデルとパラメータの初期化スキームの組み合わせによって課される暗黙の正規化の品質に依存するかの定量化を行う。
論文 参考訳(メタデータ) (2023-11-13T01:48:08Z) - RDumb: A simple approach that questions our progress in continual test-time adaptation [12.374649969346441]
テスト時間適応(TTA)では、事前トレーニングされたモデルをデプロイ時にデータ配布を変更するように更新することができる。
近年の長期にわたる連続的適応手法の提案と適用方法が提案されている。
最終的には、最先端の1つのメソッド以外はすべて崩壊し、非適応モデルよりもパフォーマンスが悪くなることに気付きました。
論文 参考訳(メタデータ) (2023-06-08T17:52:34Z) - When to Update Your Model: Constrained Model-based Reinforcement
Learning [50.74369835934703]
モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。
続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。
さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
論文 参考訳(メタデータ) (2022-10-15T17:57:43Z) - Control as Hybrid Inference [62.997667081978825]
本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。
連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
論文 参考訳(メタデータ) (2020-07-11T19:44:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。