論文の概要: Generalization Boundaries of Fine-Tuned Small Language Models for Graph Structural Inference

• arxiv url: http://arxiv.org/abs/2604.18092v1
• Date: Mon, 20 Apr 2026 11:09:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.826031
• Title: Generalization Boundaries of Fine-Tuned Small Language Models for Graph Structural Inference
• Title（参考訳）: グラフ構造推論のための微調整小言語モデルの一般化境界
• Authors: Michal Podstawski,
• Abstract要約: 微調整された小言語モデルにおける構造推論の境界について検討する。 実世界のグラフベンチマークでドメイン学習能力を評価する。
• 参考スコア（独自算出の注目度）: 0.48302896549293584
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Small language models fine-tuned for graph property estimation have demonstrated strong in-distribution performance, yet their generalization capabilities beyond training conditions remain poorly understood. In this work, we systematically investigate the boundaries of structural inference in fine-tuned small language models along two generalization axes - graph size and graph family distribution - and assess domain-learning capability on real-world graph benchmarks. Using a controlled experimental setup with three instruction-tuned models in the 3-4B parameter class and two graph serialization formats, we evaluate performance on graphs substantially larger than the training range and across held-out random graph families. Our results show that fine-tuned models maintain strong ordinal consistency across structurally distinct graph families and continue to rank graphs by structural properties on inputs substantially larger than those seen during training, with distinct architecture-specific degradation profiles. These findings delineate where fine-tuned small language models generalize reliably, providing empirical grounding for their use in graph-based reasoning tasks.
• Abstract（参考訳）: グラフ特性推定のために微調整された小型言語モデルでは, 分散性能は高いが, 学習条件を超えた一般化能力はよく理解されていない。 本研究では,2つの一般化軸(グラフサイズとグラフファミリー分布)に沿った微調整された小言語モデルにおける構造推論の境界を体系的に検討し,実世界のグラフベンチマーク上でのドメイン学習能力を評価する。 3-4Bパラメータクラスと2つのグラフシリアライズフォーマットの3つの命令チューニングモデルによる制御された実験装置を用いて、トレーニング範囲と保持されたランダムグラフファミリ間のグラフの性能を評価する。 この結果から, 微調整モデルでは, 構造的に異なるグラフファミリ間で強い順序整合性を維持し, 学習中に見られるよりもはるかに大きな入力に対して, 構造的特性によってグラフをランク付けし続けていることがわかった。 これらの知見は、微調整された小言語モデルが確実に一般化し、グラフベースの推論タスクに使用するための経験的根拠を提供する。

関連論文リスト

• TinyGraphEstimator: Adapting Lightweight Language Models for Graph Structure Inference [0.48302896549293584]
  本稿では,グラフ表現から直接グラフ理論パラメータを推定できる言語モデルについて検討する。 複数のランダムグラフモデルから生成された連結グラフの集合であるTinyGraphEstimatorデータセットを紹介する。 我々は、密度、クラスタリング、色数などのキーグラフパラメータを予測する能力に基づいて、いくつかの小さなオープンモデルを評価する。
  論文  参考訳（メタデータ） (2025-10-09T20:47:07Z)
• Revisiting Graph Neural Networks on Graph-level Tasks: Comprehensive Experiments, Analysis, and Improvements [54.006506479865344]
  グラフレベルグラフニューラルネットワーク(GNN)のための統一評価フレームワークを提案する。 このフレームワークは、さまざまなデータセットにわたるGNNを評価するための標準化された設定を提供する。 また,表現性の向上と一般化機能を備えた新しいGNNモデルを提案する。
  論文  参考訳（メタデータ） (2025-01-01T08:48:53Z)
• Generative Modelling of Structurally Constrained Graphs [44.28728853270471]
  ConStructは、グラフ拡散モデルが平面性や非巡回性といった特定の性質に厳しい制約を組み込むことを可能にする新しいフレームワークである。 我々のアプローチは、サンプルグラフが、前と逆の両方の過程において、軌跡全体を通して指定された性質を満たすグラフの領域内にあることを保証します。
  論文  参考訳（メタデータ） (2024-06-25T07:54:32Z)
• GraphGLOW: Universal and Generalizable Structure Learning for Graph Neural Networks [72.01829954658889]
  本稿では,この新たな問題設定の数学的定義を紹介する。 一つのグラフ共有構造学習者と複数のグラフ固有GNNを協調する一般的なフレームワークを考案する。 十分に訓練された構造学習者は、微調整なしで、目に見えない対象グラフの適応的な構造を直接生成することができる。
  論文  参考訳（メタデータ） (2023-06-20T03:33:22Z)
• GraphDCA -- a Framework for Node Distribution Comparison in Real and Synthetic Graphs [72.51835626235368]
  2つのグラフを比較するとき、ノード構造的特徴の分布は、グローバルグラフ統計よりも有益である、と我々は主張する。 本稿では,各ノード表現セットのアライメントに基づいてグラフ間の類似性を評価するフレームワークGraphDCAを提案する。
  論文  参考訳（メタデータ） (2022-02-08T14:19:19Z)
• Generating the Graph Gestalt: Kernel-Regularized Graph Representation Learning [47.506013386710954]
  グラフデータの完全な科学的理解は、グローバル構造とローカル構造の両方に対処する必要がある。 本稿では,グラフVAEフレームワークにおける相補的目的として,両者のジョイントモデルを提案する。 実験により,生成したグラフ構造の現実性は,典型的には1-2桁のグラフ構造メトリクスによって著しく向上したことが示された。
  論文  参考訳（メタデータ） (2021-06-29T10:48:28Z)
• Model-Agnostic Graph Regularization for Few-Shot Learning [60.64531995451357]
  グラフ組み込み数ショット学習に関する包括的な研究を紹介します。 本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。 提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
  論文  参考訳（メタデータ） (2021-02-14T05:28:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。