論文の概要: Cloud-ScPO: Hidden-State Geometry for Semi-Supervised Preference Optimization in LLM Reasoning

• arxiv url: http://arxiv.org/abs/2608.01014v1
• Date: Sun, 02 Aug 2026 05:33:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-04 15:07:25.053514
• Title: Cloud-ScPO: Hidden-State Geometry for Semi-Supervised Preference Optimization in LLM Reasoning
• Title（参考訳）: クラウドScPO:LLM推論における半スーパービジョン優先最適化のための隠れ状態幾何
• Abstract要約: モデルの内部表現幾何学から選好監督を導出できるかどうかを考察する。 我々は、トポロジ誘導の選好マイニングフレームワークであるCloud-ScPOを提案する。 実験の結果、クラウド-ScPOはScPOよりも常に改善され、GSM8Kでは4.49%、MATH-Numericでは4.19%まで上昇した。
• 参考スコア（独自算出の注目度）: 7.172883293957228
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Preference optimization improves mathematical reasoning in large language models (LLMs), but reliable chosen-rejected pairs usually require verified answers, human annotations, or external reward models. We investigate whether preference supervision can instead be derived from the model's internal representation geometry in a semi-supervised setting. Our analysis shows that reasoning trajectories generated across different mathematical problems form structured global point clouds in which correct and incorrect trajectories exhibit different geometric organization. Based on this observation, we propose Cloud--ScPO, a topology-guided preference-mining framework that uses a small labeled set to construct multiple correct and incorrect reference Clouds. Each trajectory is represented by a mean-pooled hidden state and scored against connectivity-induced components using a component-level soft $k$-nearest-neighbor measure averaged across reference banks. We combine this cross-problem Cloud signal with prompt-level self-consistency: self-consistency determines the answer-level preference direction, while Cloud scoring selects concrete trajectories and filters pairs by their score margin. Experiments on GSM8K and MATH-Numeric across four model settings show that Cloud--ScPO consistently improves over ScPO, with gains of up to 4.49\% on GSM8K and 4.19\% on MATH-Numeric. Pair-level analyses further show that Cloud--ScPO maintains comparable correctness reliability while more effectively separating informative chosen trajectories from incomplete, repetitive, or otherwise low-quality rejected responses.
• Abstract（参考訳）: 優先順位最適化は、大きな言語モデル(LLM)の数学的推論を改善するが、信頼できる選択された拒絶されたペアは通常、検証された回答、人間のアノテーション、または外部の報酬モデルを必要とする。 そこで本研究では,モデルの内部表現幾何から,半教師付き設定で選好監督を導出できるかどうかを考察する。 解析により, 異なる数学的問題にまたがる推論軌道が, 正しい軌道と間違った軌道が異なる幾何学的構造を示すような, 構造化された大域点雲を形成することが示された。 この観測に基づいて,複数の正誤参照クラウドを構築するために,小さなラベル付きセットを用いたトポロジ誘導の選好マイニングフレームワークであるCloud-ScPOを提案する。 各軌道は平均プールされた隠れ状態で表され、部品レベルのソフトな$k$-nearest-neighbor測度を用いて、接続性によって引き起こされるコンポーネントに対してスコアされる。 自己整合性は回答レベルの選好方向を決定する一方、クラウドスコアリングは具体的な軌跡を選択し、ペアをスコアマージンでフィルタする。 GSM8KとMATH-Numericの4つのモデル設定による実験では、Cloud-ScPOはScPOよりも一貫して改善され、GSM8Kは4.49倍、MATH-Numericは4.19倍となる。 ペアレベルの分析により、Cloud-ScPOは同等の正確さの信頼性を維持しつつ、不完全、反復、あるいは低品質の拒否応答からより効果的に情報的選択された軌道を分離していることが示された。

関連論文リスト

• GLOBE: Trajectory-Aligned Gradient Matching with Structured SparseOptimization for Coreset Selection [4.969458805037944]
  ディープニューラルネットワークのオンデバイストレーニングは、大規模データセットの計算とメモリコストに制約される。 本稿では,大域的に最適化されたスパース重み付け問題として,サンプル選択を定式化するトラジェクトリ・アライン・コアセット選択フレームワークGLOBEを提案する。
  論文  参考訳（メタデータ） (2026-08-03T09:01:29Z)
• Adaptive Point-Prompt Tuning: Fine-Tuning Heterogeneous Foundation Models for 3D Point Cloud Analysis [51.37795317716487]
  本稿では,パラメータの少ない事前学習モデルを微調整するAdaptive Point-Prompt Tuning (APPT)法を提案する。 局所幾何学を集約することで原点雲を点埋め込みに変換し、空間的特徴を捉える。 任意のモダリティのソース領域から3Dへの自己アテンションを校正するために,重みを点埋め込みモジュールと共有するプロンプトジェネレータを導入する。
  論文  参考訳（メタデータ） (2025-08-30T06:02:21Z)
• APCoTTA: Continual Test-Time Adaptation for Semantic Segmentation of Airborne LiDAR Point Clouds [14.348191795901101]
  空中レーザースキャン(ALS)ポイントクラウドセグメンテーションは、大規模3Dシーン理解の基本的な課題である。 Continuous Test-Time Adaptation (CTTA)は、ソース予測モデルを適用して、未ラベルのターゲットドメインを進化させるソリューションを提供する。 我々は,ALSポイントクラウドセマンティックセグメンテーションに適した最初のCTTA手法であるAPCoTTAを提案する。
  論文  参考訳（メタデータ） (2025-05-15T05:21:16Z)
• Bridge the Points: Graph-based Few-shot Segment Anything Semantically [79.1519244940518]
  プレトレーニング技術の最近の進歩により、視覚基礎モデルの能力が向上した。 最近の研究はSAMをFew-shot Semantic segmentation (FSS)に拡張している。 本稿では,グラフ解析に基づく簡易かつ効果的な手法を提案する。
  論文  参考訳（メタデータ） (2024-10-09T15:02:28Z)
• BiEquiFormer: Bi-Equivariant Representations for Global Point Cloud Registration [28.75341781515012]
  本研究の目的は,グローバルポイントクラウド登録(PCR)の問題,すなわち,ポイントクラウド間の最適なアライメントを見つけることにある。 本研究では,現在最先端のディープラーニング手法が,任意の点の雲を空間に配置した場合に,大きな性能劣化に悩まされていることを示す。
  論文  参考訳（メタデータ） (2024-07-11T17:58:10Z)
• Multiway Point Cloud Mosaicking with Diffusion and Global Optimization [74.3802812773891]
  マルチウェイポイントクラウドモザイクのための新しいフレームワーク(水曜日)を紹介する。 我々のアプローチの核心は、重複を識別し、注意点を洗練する学習されたペアワイズ登録アルゴリズムODINである。 4つの多種多様な大規模データセットを用いて、我々の手法は、全てのベンチマークにおいて大きなマージンで、最先端のペアとローテーションの登録結果を比較した。
  論文  参考訳（メタデータ） (2024-03-30T17:29:13Z)
• Point Cloud Pre-training with Diffusion Models [62.12279263217138]
  我々は、ポイントクラウド拡散事前学習(PointDif)と呼ばれる新しい事前学習手法を提案する。 PointDifは、分類、セグメンテーション、検出など、さまざまな下流タスクのために、さまざまな現実世界のデータセット間で大幅に改善されている。
  論文  参考訳（メタデータ） (2023-11-25T08:10:05Z)
• G3Reg: Pyramid Graph-based Global Registration using Gaussian Ellipsoid Model [21.189016878269104]
  本研究では,LiDAR点雲の高速かつ堅牢なグローバル登録のための新しいフレームワークであるG3Regを紹介する。 従来の複雑なキーポイントや記述子とは対照的に、基本的な幾何学的プリミティブを抽出する。 本稿では,グローバル登録のためのピラミッドグラフに基づく不信検証方式を提案する。
  論文  参考訳（メタデータ） (2023-08-22T17:23:00Z)
• One-Nearest Neighborhood Guides Inlier Estimation for Unsupervised Point Cloud Registration [24.275038551236907]
  教師なしポイントクラウド登録のための効果的な不整合推定法を提案する。 ソースポイントクラウドと対応するリファレンスポイントクラウドコピーとの間の幾何学的構造整合性を捉える。 提案したモデルを教師なしで訓練し,提案手法の有効性を示す合成および実世界のデータセットの実験を行った。
  論文  参考訳（メタデータ） (2023-07-26T08:04:01Z)
• Unsupervised Deep Probabilistic Approach for Partial Point Cloud Registration [74.53755415380171]
  ディープポイントクラウド登録手法は、部分的に重複し、ラベル付きデータに依存するという課題に直面している。 部分的な重なりを持つ点雲に対する教師なしの深い確率的登録フレームワークであるUDPRegを提案する。 UDPRegは3DMatch/3DLoMatchとModelNet/ModelLoNetベンチマークの競合性能を実現しています。
  論文  参考訳（メタデータ） (2023-03-23T14:18:06Z)
• Overlap-guided Gaussian Mixture Models for Point Cloud Registration [61.250516170418784]
  確率的3Dポイントクラウド登録法は、ノイズ、アウトレーヤ、密度変動を克服する競合性能を示した。 本稿では,一致したガウス混合モデル(GMM)パラメータから最適変換を演算する,重複誘導確率登録手法を提案する。
  論文  参考訳（メタデータ） (2022-10-17T08:02:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。