論文の概要: TEFM: Token-Efficient Faithful Modeling for Structured Data
- arxiv url: http://arxiv.org/abs/2609.09552v1
- Date: Wed, 09 Sep 2026 00:14:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.847927
- Title: TEFM: Token-Efficient Faithful Modeling for Structured Data
- Title(参考訳): TEFM:構造化データのためのトークン効率の良い忠実なモデリング
- Authors: Zhichao Hou, Lingdao Sha, Xueyu Mao, Yang Liu, Peijie Qiu, Rui Song,
- Abstract要約: TEFM(Token-Efficient Faithful Modeling)は,臨界領域における構造化データ解析のためのフレームワークである。
TEFMは、長い構造化された観察結果をコンパクトな行動コードトークンに圧縮することでトークン効率を達成する。
また、二重忠実度目標による忠実な合理化を可能にし、入力データに基礎を置いた最小限の機能部分集合を識別する。
- 参考スコア(独自算出の注目度): 15.040771200973403
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we solve two fundamental obstacles in applying LLMs to critical domains: token efficiency and faithfulness. To address both constraints jointly, we present TEFM (Token-Efficient Faithful Modeling), a framework designed for structured data analysis in critical domains. TEFM achieves token efficiency by compressing lengthy structured observations into compact Behavioral Code tokens, dramatically reducing token consumption with minimal information loss. Moreover, TEFM enables faithful rationalization through a dual-fidelity objective that jointly optimizes code-level reconstruction and prediction-level fidelity, identifying minimal sufficient feature subsets grounded in input data. Comprehensive experiments across various domain datasets and model backbones (Qwen3, Gemma-2, Phi-4) show that TEFM achieves competitive classification accuracy with dramatic token reduction (approximately 1\% token retention in clinical and 2\% in security domains) while producing faithful rationales.
- Abstract(参考訳): 本稿では,LLMを重要な領域に適用する上で,トークン効率と忠実性という2つの基本的な障害を解決する。
両制約を共に扱うために,臨界領域における構造化データ解析のためのフレームワークTEFM(Token-Efficient Faithful Modeling)を提案する。
TEFMは、長い構造化された観察結果をコンパクトな行動コードトークンに圧縮することでトークン効率を向上し、最小限の情報損失でトークン消費を劇的に削減する。
さらに、TEFMは、コードレベルの再構築と予測レベルの忠実さを共同で最適化し、入力データに基づいた最小限の機能部分集合を識別する、二重忠実度目標による忠実な合理化を可能にする。
様々なドメインデータセットとモデルバックボーン(Qwen3, Gemma-2, Phi-4)にわたる総合的な実験により、TEFMは劇的なトークン削減(臨床領域では約1\%、セキュリティ領域では約2\%)と競合する分類精度を達成し、忠実な合理性を生み出す。
関連論文リスト
- ADKO: Agentic Decentralized Knowledge Optimization [21.537388090124196]
Agentic Decentralized Knowledge Optimization (ADKO)は、自律エージェント間の協調的なブラックボックス最適化のためのフレームワークである。
各エージェントは、ローカルデータに基づいて訓練されたプライベートガウスプロセス(GP)を保持し、知識トークンを通してのみ通信する。
トークン圧縮は相互情報に基づく忠実度によって定量化され、LM近似はバイアスとノイズに分解される。
論文 参考訳(メタデータ) (2026-05-08T15:23:53Z) - CATP: Confidence-Aware Token Pruning for Camouflaged Object Detection [17.488230092440144]
カモフラージ対象検出(COD)に適した階層的信頼度対応トークン抽出フレームワーク(CATP)を提案する。
我々のアプローチは階層的に背景と物体の両方から容易に識別可能なトークンを識別・破棄し、重要な境界トークンに計算を集中させる。
プルーニングからの情報損失を補うために、プルーニングトークンからのコンテキスト知識をリッチな特徴に集約するデュアルパス特徴補償機構を導入する。
論文 参考訳(メタデータ) (2026-04-18T06:03:18Z) - AI-Based Culvert-Sewer Inspection [0.0]
カルバートと下水道管は排水システムの重要な構成要素であり、その故障は公共の安全と環境に深刻なリスクをもたらす可能性がある。
この論文では、欠陥セグメント化を大幅に強化し、データの不足を処理する3つの方法を提案する。
ForTRESSは、奥行き分離可能な畳み込み、適応型コルモゴロフ・アルノルドネットワーク(KAN)、マルチスケールアテンション機構を組み合わせた新しいアーキテクチャである。
論文 参考訳(メタデータ) (2026-01-21T16:33:33Z) - A transfer learning approach for automatic conflicts detection in software requirement sentence pairs based on dual encoders [5.780557526613627]
本稿では,SBERTとSimCSEをベースとしたTransferable Software Requirement Conflict Detection Frameworkを提案する。
提案したフレームワークは、マクロF1と重み付きF1のスコアをドメイン内設定で10.4%改善し、クロスドメインシナリオでマクロF1を11.4%向上させる。
論文 参考訳(メタデータ) (2025-11-28T09:16:35Z) - Winning the Pruning Gamble: A Unified Approach to Joint Sample and Token Pruning for Efficient Supervised Fine-Tuning [71.30276778807068]
サンプルプルーニングとトークンプルーニングを戦略的に協調する統合フレームワークを提案する。
Q-Tuningは、トレーニングデータの12.5%しか使用せず、全データSFTベースラインに対する平均38%の改善を実現している。
論文 参考訳(メタデータ) (2025-09-28T13:27:38Z) - Domain Adaptation via Feature Refinement [0.3867363075280543]
本稿では,分散シフト下での非教師付きドメイン適応のための簡易かつ効果的なフレームワークであるDAFR(Domain Adaptation via Feature Refinement)を提案する。
提案手法は, ラベルなし対象データを用いたバッチ正規化統計の適応, ソース学習モデルからの特徴蒸留, 仮説伝達の3つの重要な要素を組み合わせた。
論文 参考訳(メタデータ) (2025-08-22T06:32:19Z) - Mitigating Forgetting in LLM Fine-Tuning via Low-Perplexity Token Learning [65.23593936798662]
LLM生成データによる微調整により,目標タスクの性能が向上し,非目標タスクの劣化が低減されることを示す。
微調整後のLSMにおける破滅的忘れを緩和するために、トークンの難易度低減に基づく経験的説明を提供する最初の研究である。
論文 参考訳(メタデータ) (2025-01-24T08:18:56Z) - Federated Fine-Tuning of LLMs: Framework Comparison and Research Directions [59.5243730853157]
Federated Learning(FL)は、分散プライベートデータセットを使用して、トレーニング済みの大規模言語モデル(LLM)を微調整するための、プライバシ保護ソリューションを提供する。
本稿では、知識蒸留(KD)とスプリットラーニング(SL)を統合し、これらの問題を緩和する3つの先進的連合LLM(FedLLM)フレームワークの比較分析を行う。
論文 参考訳(メタデータ) (2025-01-08T11:37:06Z) - Transformer-based Context Condensation for Boosting Feature Pyramids in
Object Detection [77.50110439560152]
現在の物体検出器は、通常マルチレベル特徴融合(MFF)のための特徴ピラミッド(FP)モジュールを持つ。
我々は,既存のFPがより優れたMFF結果を提供するのに役立つ,新しい,効率的なコンテキストモデリング機構を提案する。
特に,包括的文脈を2種類の表現に分解・凝縮して高効率化を図っている。
論文 参考訳(メタデータ) (2022-07-14T01:45:03Z) - DRFLM: Distributionally Robust Federated Learning with Inter-client
Noise via Local Mixup [58.894901088797376]
連合学習は、生データをリークすることなく、複数の組織のデータを使用してグローバルモデルをトレーニングするための有望なアプローチとして登場した。
上記の2つの課題を同時に解決するための一般的な枠組みを提案する。
我々は、ロバストネス解析、収束解析、一般化能力を含む包括的理論的解析を提供する。
論文 参考訳(メタデータ) (2022-04-16T08:08:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。