論文の概要: Hint-Informed Self-Distillation for Reasoning Segmentation
- arxiv url: http://arxiv.org/abs/2611.14931v1
- Date: Wed, 11 Nov 2026 02:34:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.985434
- Title: Hint-Informed Self-Distillation for Reasoning Segmentation
- Title(参考訳): 共振セグメンテーションのためのヒントインフォーム自己蒸留法
- Abstract要約: トークン単位のクレジット代入に対して,目標不明瞭な証拠を用いたHint-Informed Self-Distillation (HISD)を提案する。
外部モデルは、トレーニングイメージ、クエリ、グラウンドトゥルースターゲットアノテーションからオフラインでSegment Hintsを生成する。
HISDはトークンサポートセット上で教師と学生のエビデンス比を計算し、肯定的なグループ相対的優位性の程度だけを調整する。
- 参考スコア(独自算出の注目度): 17.480674927626374
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reasoning segmentation requires identifying the target referred to by a query among visually similar objects, yet trajectory-level rewards cannot directly indicate which tokens provide relevant visual evidence. We propose Hint-Informed Self-Distillation (HISD), which uses target-disambiguation evidence for token-level credit assignment. An external model generates Segment Hints offline from training images, queries, and ground-truth target annotations, organizing target identity, discriminative attributes, confusable objects, and anchoring paths. A hint-conditioned exponential moving average teacher scores the student's own trajectories, and HISD computes the teacher-to-student evidence ratio over a token support set to adjust only the magnitudes of positive group-relative advantages, leaving nonpositive advantages unchanged. This design encourages concise reasoning while retaining the information needed for target disambiguation, and the student requires neither hints nor a teacher at inference. Under a unified training protocol, HISD improves ReasonSeg test gIoU and cIoU over our reproduction of DPAD by 3.00 and 3.55 percentage points, respectively. Across the five evaluated splits of ReasonSeg and the RefCOCO family, HISD achieves higher segmentation metrics than this baseline and reduces the average token count of valid reasoning spans by 80.17 to 91.83 percent.
- Abstract(参考訳): セグメンテーションは、視覚的に類似したオブジェクト間でクエリによって参照されるターゲットを特定する必要があるが、軌跡レベルの報酬は、どのトークンが関連する視覚的証拠を提供するかを直接示すことはできない。
トークン単位のクレジット代入に対して,目標不明瞭な証拠を用いたHint-Informed Self-Distillation (HISD)を提案する。
外部モデルは、トレーニングイメージ、クエリ、グラウンドトルースターゲットアノテーションからオフラインでSegment Hintsを生成し、ターゲットID、識別属性、コンフリブルオブジェクト、アンカーパスを編成する。
ヒント条件付指数移動平均教師は、生徒自身の軌跡をスコアし、HISDは、トークンサポートセット上で教師から学生へのエビデンス比を計算し、正の集団相対的優位性の程度だけを調整し、非正のアドバンテージをそのまま残す。
この設計は、目的の曖昧化に必要な情報を保持しながら簡潔な推論を奨励し、学生はヒントも推論の教師も必要としない。
統一トレーニングプロトコルの下で、HISD は ReasonSeg test gIoU と cIoU をそれぞれ 3.00 と 3.55 の DPAD の再生よりも改善する。
ReasonSegとRefCOCOファミリーの5つの評価された分割の中で、HISDはこのベースラインよりも高いセグメンテーションのメトリクスを達成し、有効推論の平均トークン数を80.17から91.83%削減する。
関連論文リスト
- COMPASS: Finding Where Reasoning Lives in Language Models [5.345053052255085]
既存のアプローチでは、推論の事前定義された特徴付けが必要である。
検証可能な解を用いた数学的推論では、モデル自身の直接解法の試みの正しさである、はるかに単純な信号が十分であることを示す。
提案手法は,ロジト空間属性スコアを用いて頭部を識別し,その正しさの方向に沿ってその動作を操る,推定時ステアリング手法であるCompassを導入する。
論文 参考訳(メタデータ) (2026-10-05T22:35:47Z) - Privileged, but Biased: How PI-Conditioned Teachers Break Self-Distillation [3.5592415157621105]
自己蒸留(SD)は、検証可能な報酬を伴う強化学習に代わる計算効率の高い代替品として登場した。
SDPOの報告したゲインを簡単な設定で再現し、同じ設定を困難なタスクに適用し、そうでないことを確かめる。
この失敗は、損失から生成するモデルへの1つの因果連鎖を通して説明します。
論文 参考訳(メタデータ) (2026-08-05T12:59:10Z) - Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。
その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
論文 参考訳(メタデータ) (2026-06-17T17:54:04Z) - Beyond Scalar Rewards by Internalizing Reasoning into Score Distributions [80.33276868889341]
Z-Rewardは効率的な報酬展開から推論と重大な判断を分離する。
Z-Reward はテキスト・画像の最適化のための識別可能な報酬信号として機能することを示す。
論文 参考訳(メタデータ) (2026-06-08T06:20:12Z) - Discriminative Perception via Anchored Description for Reasoning Segmentation [13.79246986089629]
本稿では、参照対象の記述的なキャプションを生成するためにモデルを強制するDPADを提案する。
このキャプションは、キャプションの意味的関連性を、参照対象とより広い文脈との対比によって明確に識別するために使用される。
実験は、我々のアプローチの有効性を確認し、かなりの性能向上をもたらす。
論文 参考訳(メタデータ) (2026-03-04T12:46:27Z) - In Their Own Words: Reasoning Traces Tailored for Small Models Make Them Better Reasoners [12.995634497832027]
より大きな言語モデルから小さな言語モデルへの推論能力の転送は、しばしば反故意に失敗する。
より大きなモデルからのトレースの推論は、学生の分布下では低い確率のトークンを含む。
本稿では,学生に優しい推論トレースを生成するメカニズムであるReverse Speculative Decoding (RSD)を提案する。
論文 参考訳(メタデータ) (2025-09-26T11:40:32Z) - iSeg: An Iterative Refinement-based Framework for Training-free Segmentation [85.58324416386375]
本稿では,自己注意マップを用いた横断注意マップの繰り返し精錬に関する実験的検討を行った。
トレーニング不要セグメンテーションのための効果的な反復改良フレームワークiSegを提案する。
提案したiSegは,mIoUの3.8%の絶対ゲインを達成している。
論文 参考訳(メタデータ) (2024-09-05T03:07:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。