論文の概要: CLIVO: Differentiable Cluster-Based Instruction Mixing with Learned Validation Objectives
- arxiv url: http://arxiv.org/abs/2610.16876v1
- Date: Mon, 12 Oct 2026 14:38:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.388712
- Title: CLIVO: Differentiable Cluster-Based Instruction Mixing with Learned Validation Objectives
- Title(参考訳): CLIVO: 学習された検証対象を混合したクラスタベースの識別可能なインストラクション
- Abstract要約: CLIVOは、微粒なセマンティックアロケーション、自動学習されたバリデーション目標、および差別化可能なミックスサーチを接続するターゲット対応フレームワークである。
全データの4桁平均スコアの97.2%を達成し、データの1.25%しか達成していない。
分析により、より詳細なユニットは、ほとんどのターゲットに利益をもたらし、短い訓練を受けた専門家は、混合応答を保ち、サンプル重み付けは有用な検証情報を保持し、直接探索は、学習対象を一貫して減少させることが示された。
- 参考スコア(独自算出の注目度): 7.090323109343014
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Target-aware multimodal instruction selection requires useful examples and an appropriate balance of supervision. Sample-level rankings can overrepresent similar content without optimizing this balance; group-level methods face coarse units, predefined set-level validation signals, and costly or inaccurate mixture search. We propose CLIVO, a target-aware framework connecting fine-grained semantic allocation, automatically learned validation objectives, and differentiable mixture search. Specifically, semantic clusters provide independently adjustable shares at the hundred-cluster scale. Correlations between per-example merged-proxy losses and real probe performance identify target-relevant validation examples; learned nonnegative weights combine their losses into an objective. A single backward pass through the merged proxy supplies gradients for all shares, avoiding an additional mixture-response regression model. Selecting 100K instructions from an 8M pool, CLIVO attains 97.2% of the full-data four-target average score with only 1.25% of the data. It improves on the strongest evaluated selection baseline by 1.16 points using random within-cluster sampling; combining learned quotas with sample ranking increases this advantage to 1.55 points. Analyses show that finer units benefit most targets, short-trained experts preserve mixture responses, sample weighting retains useful validation information, and direct search consistently reduces the learned objective. CLIVO also supports interpretable allocation, modular selection, and reuse across targets and granularities.
- Abstract(参考訳): ターゲット認識型マルチモーダル命令選択には,有用な例と適切な監視バランスが必要である。
サンプルレベルのランキングは、このバランスを最適化することなく、類似したコンテンツを過剰に表現することができる。
CLIVO, 微粒なセマンティックアロケーション, 自動学習された検証目標, および識別可能な混合探索を結合したターゲット認識フレームワークを提案する。
具体的には、セマンティッククラスタは、100クラスタスケールで独立して調整可能な共有を提供します。
実測値と実測値との相関は, 目標関連検証例を同定し, 学習した非負の重みがそれらの損失を目的と組み合わせた。
統合されたプロキシを単一のバックワードで通過することで、追加の混合応答回帰モデルを避けることができる。
8Mプールから100Kの命令を選択すると、CLIVOは全データの4つのターゲットの平均スコアの97.2%を獲得し、データのわずか1.25%に過ぎなかった。
ランダムなクラスタ内サンプリングを用いて、最も評価の高い選択ベースラインを1.16ポイント改善し、学習されたクォータとサンプルランキングを組み合わせることで、この利点を1.55ポイントに向上させる。
分析により、より詳細なユニットは、ほとんどのターゲットに利益をもたらし、短い訓練を受けた専門家は、混合応答を保ち、サンプル重み付けは有用な検証情報を保持し、直接探索は、学習対象を一貫して減少させることが示された。
CLIVOはまた、解釈可能なアロケーション、モジュールの選択、ターゲットと粒度の再利用もサポートする。
関連論文リスト
- AnchorMixGAN: Anchor-Aligned Generative Semi-Supervision for DDoS Detection in Cloud-Integrated IoT Networks [13.983117010321592]
生成的半教師付き学習は、利用可能なトレーニングデータを補うことができるが、合成ビューによって誘導される予測シフトは、実際の未ラベルフローに割り当てられたターゲットに影響を与える可能性がある。
AnchorMixGANは、アンカーアライメントされたターゲット構成によってこの問題に対処する、生成的半教師付きフレームワークである。
参照分類器の誤差、ビュー構成、シャープ化がターゲットに与える影響を分析し、その結果のクロスエントロピーの変化を導出する。
論文 参考訳(メタデータ) (2026-09-26T16:36:53Z) - PRIME: Mitigating Subgroup Optimization Competition in Shared CTR Top Networks with Plug-in Residual Input-Conditioned Mixture of Expert [16.073701450851008]
4つのモデルと4つのセマンティックフィールドを持つアバズ上での競合について検討する。
我々は,低ランクの残留専門家を混在させたPRIME(Plug-in Residual Input- Conditioned Mixture of Experts)を紹介する。
論文 参考訳(メタデータ) (2026-08-31T08:37:44Z) - Anchoring Bias in LLM-as-a-Judge Systems: Prior Scores Compromise Evaluation Independence [0.7340017786387767]
先行スコアは,文脈メタデータにのみ含まれていても,判断をアンカーし,評価を評価値に体系的にシフトすることを示す。
人間のラベル付き地上真実によるカテゴリー産業データでは、アンカーされたメタデータは誤り訂正の48%をブロックし、割り当てられた間違ったラベルに対して正しい判断の10.18%をフリップする。
論文 参考訳(メタデータ) (2026-08-26T14:41:24Z) - Task-oriented Embedding Counts: Heuristic Clustering-driven Feature Fine-tuning for Whole Slide Image Classification [1.292108130501585]
本稿では,クラスタリング駆動型機能微調整法(HC-FT)を提案する。
提案手法はCAMELYON16とBRACSの両方で評価され,それぞれ97.13%,85.85%のAUCが得られた。
論文 参考訳(メタデータ) (2024-06-02T08:53:45Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - Divide and Contrast: Source-free Domain Adaptation via Adaptive
Contrastive Learning [122.62311703151215]
Divide and Contrast (DaC) は、それぞれの制限を回避しつつ、両方の世界の善良な端を接続することを目的としている。
DaCは、ターゲットデータをソースライクなサンプルとターゲット固有なサンプルに分割する。
さらに、ソースライクなドメインと、メモリバンクベースの最大平均離散性(MMD)損失を用いて、ターゲット固有のサンプルとを整合させて、分散ミスマッチを低減する。
論文 参考訳(メタデータ) (2022-11-12T09:21:49Z) - Fed-CBS: A Heterogeneity-Aware Client Sampling Mechanism for Federated
Learning via Class-Imbalance Reduction [76.26710990597498]
本研究では,ランダムに選択したクライアントからのグループデータのクラス不均衡が,性能の大幅な低下につながることを示す。
我々のキーとなる観測に基づいて、我々は効率的なクライアントサンプリング機構、すなわちフェデレートクラスバランスサンプリング(Fed-CBS)を設計する。
特に、クラス不均衡の尺度を提案し、その後、同型暗号化を用いてプライバシー保護方式でこの尺度を導出する。
論文 参考訳(メタデータ) (2022-09-30T05:42:56Z) - Harnessing Hard Mixed Samples with Decoupled Regularizer [69.98746081734441]
Mixupは、決定境界を混合データで滑らかにすることで、ニューラルネットワークの一般化を改善する効率的なデータ拡張アプローチである。
本稿では,非結合型正規化器(Decoupled Mixup, DM)を用いた効率的な混合目標関数を提案する。
DMは、ミキシングの本来の滑らかさを損なうことなく、硬質混合試料を適応的に利用して識別特性をマイニングすることができる。
論文 参考訳(メタデータ) (2022-03-21T07:12:18Z) - Semi-supervised Contrastive Learning with Similarity Co-calibration [72.38187308270135]
SsCL(Semi-supervised Contrastive Learning)と呼ばれる新しいトレーニング戦略を提案する。
ssclは、自己教師付き学習におけるよく知られたコントラスト損失と、半教師付き学習におけるクロスエントロピー損失を組み合わせる。
SsCLはより差別的な表現を生じさせ,ショット学習に有益であることを示す。
論文 参考訳(メタデータ) (2021-05-16T09:13:56Z) - Probabilistic Anchor Assignment with IoU Prediction for Object Detection [9.703212439661097]
オブジェクト検出では、どのアンカーを正または負のサンプルとして割り当てるか、すなわちアンカー代入(アンカー代入)がモデルの性能に大きく影響を与えるコアプロシージャとして明らかにされている。
本稿では,モデルの学習状況に応じて,アンカーを正と負のサンプルに適応的に分離する新しいアンカー代入戦略を提案する。
論文 参考訳(メタデータ) (2020-07-16T04:26:57Z) - LSD-C: Linearly Separable Deep Clusters [145.89790963544314]
ラベルなしデータセットのクラスタを識別する新しい手法であるLSD-Cを提案する。
本手法は,最近の半教師付き学習の実践からインスピレーションを得て,クラスタリングアルゴリズムと自己教師付き事前学習と強力なデータ拡張を組み合わせることを提案する。
CIFAR 10/100, STL 10, MNIST, および文書分類データセットReuters 10Kなど, 一般的な公開画像ベンチマークにおいて, 当社のアプローチが競合より大幅に優れていたことを示す。
論文 参考訳(メタデータ) (2020-06-17T17:58:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。