論文の概要: Scalable Regularization of Scene Graph Generation Models using Symbolic
Theories
- arxiv url: http://arxiv.org/abs/2209.02749v1
- Date: Tue, 6 Sep 2022 18:08:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-08 11:54:54.669709
- Title: Scalable Regularization of Scene Graph Generation Models using Symbolic
Theories
- Title(参考訳): シンボリック理論を用いたシーングラフ生成モデルのスケーラブルな正規化
- Authors: Davide Buffelli, Efthymia Tsamoura
- Abstract要約: ニューラルSGGモデルに記号的背景知識を注入する正規化手法を提案する。
我々の手法はモデルに依存しず、推論時にコストがかからず、これまで管理できなかったバックグラウンドの知識サイズにスケールする。
本研究では,最先端SGGモデルの精度を最大33%向上できることを示す。
- 参考スコア(独自算出の注目度): 6.282068591820945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Several techniques have recently aimed to improve the performance of deep
learning models for Scene Graph Generation (SGG) by incorporating background
knowledge. State-of-the-art techniques can be divided into two families: one
where the background knowledge is incorporated into the model in a subsymbolic
fashion, and another in which the background knowledge is maintained in
symbolic form. Despite promising results, both families of techniques face
several shortcomings: the first one requires ad-hoc, more complex neural
architectures increasing the training or inference cost; the second one suffers
from limited scalability w.r.t. the size of the background knowledge. Our work
introduces a regularization technique for injecting symbolic background
knowledge into neural SGG models that overcomes the limitations of prior art.
Our technique is model-agnostic, does not incur any cost at inference time, and
scales to previously unmanageable background knowledge sizes. We demonstrate
that our technique can improve the accuracy of state-of-the-art SGG models, by
up to 33%.
- Abstract(参考訳): 近年,背景知識を取り入れた深層グラフ生成(SGG)の深層学習モデルの性能向上を目的としている。
最先端技術は、背景知識がサブシンボリックな方法でモデルに組み込まれているものと、背景知識がシンボリックな形で維持されているものとの2つのファミリーに分けられる。
有望な結果にもかかわらず、両方のテクニックのファミリーはいくつかの欠点に直面している。ひとつはアドホックで複雑なニューラルアーキテクチャが必要で、トレーニングや推論のコストが増大する。
本研究は,先行技術の限界を克服する神経sggモデルに記号的背景知識を注入する正規化手法を提案する。
我々の手法はモデルに依存しず、推論時にコストがかからず、以前は管理不能であった背景知識にスケールする。
本研究では,最先端SGGモデルの精度を最大33%向上できることを示す。
関連論文リスト
- Gradual Learning: Optimizing Fine-Tuning with Partially Mastered Knowledge in Large Language Models [51.20499954955646]
大規模言語モデル(LLM)は、事前学習期間中に大量のテキストコーパスから膨大な量の知識を取得する。
微調整や推論のような後段では、モデルは初期訓練でカバーされていない知識に遭遇する可能性がある。
本稿では,モデル全体のテスト精度と知識保持性を改善するための2段階の微調整戦略を提案する。
論文 参考訳(メタデータ) (2024-10-08T08:35:16Z) - Function-space Parameterization of Neural Networks for Sequential Learning [22.095632118886225]
逐次学習パラダイムは、新しいデータの導入と事前知識の維持が困難であるため、勾配に基づくディープラーニングに課題を提起する。
本稿では,ニューラルネットワークを重み空間から関数空間に変換する手法を提案する。
実験により,継続学習における知識を保ち,新しいデータを効率的に活用できることが実証された。
論文 参考訳(メタデータ) (2024-03-16T14:00:04Z) - Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。
本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。
我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文 参考訳(メタデータ) (2024-02-28T08:34:23Z) - TexPose: Neural Texture Learning for Self-Supervised 6D Object Pose
Estimation [55.94900327396771]
合成データから6次元オブジェクトポーズ推定のためのニューラルネットワークによるテクスチャ学習を提案する。
実画像からオブジェクトの現実的なテクスチャを予測することを学ぶ。
画素完全合成データからポーズ推定を学習する。
論文 参考訳(メタデータ) (2022-12-25T13:36:32Z) - Towards Open-vocabulary Scene Graph Generation with Prompt-based
Finetuning [84.39787427288525]
シーングラフ生成(SGG)は、画像内のオブジェクト間の視覚的関係を検出するための基本的なタスクである。
オープンボキャブラリシーングラフ生成は,モデルが一連のベースオブジェクトクラスでトレーニングされる,斬新で現実的で困難な設定である。
我々のメソッドは、既存のメソッドが処理できない、完全に見えないオブジェクトクラスに対する推論をサポートすることができる。
論文 参考訳(メタデータ) (2022-08-17T09:05:38Z) - Rethinking Bayesian Learning for Data Analysis: The Art of Prior and
Inference in Sparsity-Aware Modeling [20.296566563098057]
信号処理と機械学習のためのスパースモデリングは、20年以上にわたって科学研究の焦点となっている。
本稿では,3つの一般的なデータモデリングツールにスパーシティ・プロモーティング・プリエントを組み込むことの最近の進歩を概観する。
論文 参考訳(メタデータ) (2022-05-28T00:43:52Z) - A Closer Look at Knowledge Distillation with Features, Logits, and
Gradients [81.39206923719455]
知識蒸留(KD)は、学習した知識をあるニューラルネットワークモデルから別のニューラルネットワークモデルに転送するための重要な戦略である。
この研究は、古典的なKL分割基準を異なる知識源で近似することで、一連の知識蒸留戦略を動機付ける新しい視点を提供する。
分析の結果,ロジットは一般的により効率的な知識源であり,十分な特徴次元を持つことがモデル設計に不可欠であることが示唆された。
論文 参考訳(メタデータ) (2022-03-18T21:26:55Z) - SCALE: Modeling Clothed Humans with a Surface Codec of Articulated Local
Elements [62.652588951757764]
衣服のモデル化と再構成は、調音性、非剛性変形、衣服の種類や地形の変化などにより困難である。
最近の研究では、ニューラルネットワークを使ってローカルな表面要素をパラメータ化している。
まず、人間の体モデルに基づいて表面要素を変形させます。
第2に,局所的な特徴から局所的な幾何学を回帰させることにより,既存の神経表面要素の制限を解消する。
論文 参考訳(メタデータ) (2021-04-15T17:59:39Z) - SWP-LeafNET: A novel multistage approach for plant leaf identification
based on deep CNN [1.9981375888949475]
葉分類は、植物種の自動識別のためのコンピュータビジョンタスクである。
近年、研究者は深層学習に基づく手法に傾倒している。
本稿では,植物学者の行動が葉の識別においてモデル化され,行動類似度を最大化するための高効率な手法を提案する。
論文 参考訳(メタデータ) (2020-09-10T20:28:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。