論文の概要: Echelon: Auditable Aggregate-Only Language-Model Adaptation Across Privacy Boundaries

• arxiv url: http://arxiv.org/abs/2606.02958v1
• Date: Mon, 01 Jun 2026 23:28:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-03 22:00:04.640558
• Title: Echelon: Auditable Aggregate-Only Language-Model Adaptation Across Privacy Boundaries
• Title（参考訳）: Echelon: プライバシ境界を越えたアグリゲートのみの言語モデル適応
• Authors: Hina Dixit, Punit Kumar, Irene Tenison, Nevasini Sasikumar,
• Abstract要約: デバイスレベルのモデル-ステート非輸出を強制する境界ファーストのトレーニングアーキテクチャであるEchelonを紹介します。 Echelonはバッファリングされた半非同期セキュアアグリゲーション、スタレネス対応重み付け、参加ウィンドウ、近距離局所目標、ドリフト対応外部同期コントローラを組み合わせた。
• 参考スコア（独自算出の注目度）: 2.3533752915535775
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Cross-organization language-model adaptation increasingly faces hard governance constraints: in many deployments, device-level model state-parameters, activations, optimizer state, and per-device updates-cannot be exported outside an administrative boundary. Existing distributed and federated stacks typically assume cross-site model exchange and then retrofit privacy mechanisms, which complicates compliance and makes auditing brittle. We present Echelon, a boundary-first training architecture that enforces device-level model-state non-export as a systems invariant. Devices train locally inside each boundary; the only cross-boundary payloads are securely aggregated boundary-level deltas plus O(1) coordination metadata, exposed through a concrete audit surface. Restricting exchange to aggregates changes the optimization problem: the system must remain stable under WAN delay, heterogeneous participation, churn, and non-IID data even though the global plane never sees per-device updates. Echelon combines buffered semi-asynchronous secure aggregation, staleness-aware weighting, participation windows, proximal local objectives, and a drift-aware outer synchronization controller. In 1B-parameter LoRA adaptation across M= 2 boundaries, a budget-matched contest over three seeds (24.88M tokens) reaches validation loss 3.887 +/-0.010 and is best or tied-best among tuned low-communication baselines under fixed-token, fixed-bytes, fixed-wall-clock, and fixed-sync-count budgets. In OpenWebText stress tests, Echelon sustains 2,139-2,176 tokens/s across evaluated WAN and non-IID treatments, Echelon-DA improves time-to-target under WAN latency relative to a privacy-parityDiLoCo+SA baseline, and quality degrades by at most 2.2% under 200ms emulated latency or severe non-IID partitioning.
• Abstract（参考訳）: 多くのデプロイメントでは、デバイスレベルのモデル状態パラメータ、アクティベーション、オプティマイザ状態、デバイス毎のアップデートは管理境界の外でエクスポートできない。 既存の分散およびフェデレートされたスタックは、一般的にクロスサイトモデルの交換を前提とし、その後、コンプライアンスを複雑化し監査が不安定になるプライバシーメカニズムを適合させる。 システム不変量としてデバイスレベルのモデル-状態の非輸出を強制する境界優先のトレーニングアーキテクチャであるEchelonを提案する。 デバイスは各バウンダリ内をローカルにトレーニングし、境界レベルのデルタとO(1)調整メタデータを安全に集約した唯一のクロスバウンダリペイロードは、具体的な監査面から露出する。 システムはWAN遅延、不均一な参加、チャーン、非IIDデータの下で安定していなければならない。 Echelonはバッファリングされた半非同期セキュアアグリゲーション、スタレネス対応重み付け、参加ウィンドウ、近距離局所目標、ドリフト対応外部同期コントローラを組み合わせた。 M=2境界を越えた1BパラメーターのLoRA適応では、3つのシード(24.88Mトークン)に対する予算整合コンテストが検証損失3.887 +/-0.010に達し、固定整列、固定バイト、固定ウォールクロック、固定同期カウントの予算の下で調整された低通信ベースラインの中で、最高または最良である。 OpenWebTextのストレステストでは、評価されたWANおよび非IID処理間で、Echelonは2,139-2,176トークン/sを維持、Echelon-DAはプライバシー保護のDiLoCo+SAベースラインと比較してWANレイテンシ下での時間とターゲットを改善し、200msのエミュレートされたレイテンシや厳密な非IIDパーティショニングよりも少なくとも2.2%低下する。

関連論文リスト

• OmniISR: A Unified Framework for Centralized and Federated Learning via Intermediate Supervision and Regularization [58.03221830946145]
  我々は、純粋なCL、純粋なFL、ハイブリッドCL-FLトレーニングモードを融合する統合フレームワークであるOmniISRを提案する。 我々は,OmniISRが集中型パラダイムとフェデレーション型パラダイムの両方において,モデル性能を一貫して改善していることを示す。
  論文  参考訳（メタデータ） (2026-05-19T04:13:27Z)
• Detecting and Mitigating Backdoor Attacks in OTA-FL Systems: A Two-Stage Robust Aggregation Scheme [27.75838619796163]
  オーバー・ザ・エア・フェデレーション・ラーニング (OTA-FL) は無線チャネルの重ね合わせ特性を利用して通信効率を向上させる。 パラメータサーバは個々のローカル更新にアクセスできない。 OTA-FLにおけるバックドア攻撃に対する防御のための2段階のロバストアグリゲーションフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-19T01:57:31Z)
• Hierarchical adaptive control for real-time dynamic inference at the edge [1.018651537140377]
  産業システムは機械学習(ML)にますます依存している モデルとシステム決定を協調的に最適化する2層適応アーキテクチャを提案する。 遅延時間の平均は2.45倍、エネルギーは2.86倍まで減少し、静的ベースラインに比べて4%未満の精度で低下した。
  論文  参考訳（メタデータ） (2026-04-29T09:28:03Z)
• A Secure and Private Distributed Bayesian Federated Learning Design [56.92336577799572]
  DFL(Distributed Federated Learning)は、中央パラメータサーバを持たない大規模システム間の分散モデルトレーニングを可能にする。 DFLは、3つの重要な課題に直面している: 正直な隣人からのプライバシー漏洩、中央調整の欠如による収束の遅さ、モデルの精度の低下を目指すビザンティンの敵に対する脆弱性。 本稿では,ビザンチンの堅牢性,プライバシー保護,収束促進を統合した新しいDFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-23T16:12:02Z)
• FedAvg-Based CTMC Hazard Model for Federated Bridge Deterioration Assessment [0.0]
  本稿では, 連続時間マルコフ連鎖(CTMC)ハザードモデルによる橋梁劣化の予測を行うための枠組みを提案する。 各ユーザはローカル検査データを保持し、3つの劣化方向遷移に対してログ線形ハザードモデルをトレーニングする。 ローカル検査データセットを共有技術標準プラットフォームに登録するユーザは、定期的に更新されたグローバルベンチマークパラメータを受信する。
  論文  参考訳（メタデータ） (2026-02-22T03:24:03Z)
• Test-Time Adaptation for Anomaly Segmentation via Topology-Aware Optimal Transport Chaining [10.091031517157411]
  TopoOTはトポロジ対応の最適なトランスポート(OT)フレームワークである。 多重フィルタ永続図(PD)とテスト時間適応(TTA)を統合する。 TopoOTは2Dおよび3D異常検出ベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2026-01-28T07:49:28Z)
• BlocksecRT-DETR: Decentralized Privacy-Preserving and Token-Efficient Federated Transformer Learning for Secure Real-Time Object Detection in ITS [0.0]
  インテリジェントトランスポーテーションシステム(ITS)におけるトランスフォーマーを用いたリアルタイム物体検出は3つの大きな課題に直面している。 地理的に多様なトラフィック環境からのクラス非IIDデータ、高容量トランスフォーマーモデルのためのエッジハードウェアのレイテンシ制約、信頼できないクライアント更新と集中集約によるプライバシとセキュリティリスク。 RT-DETR変換器を用いた分散型・トークン効率・プライバシ保護型フェデレーショントレーニングソリューションであるBlockSecRT-DETRを提案する。
  論文  参考訳（メタデータ） (2026-01-19T03:29:55Z)
• Adaptive Deadline and Batch Layered Synchronized Federated Learning [66.93447103966439]
  フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。 我々は,レイヤワイドアグリゲーションのために,ラウンド単位の期限とユーザ固有のバッチサイズを共同で最適化する新しいフレームワークADEL-FLを提案する。
  論文  参考訳（メタデータ） (2025-05-29T19:59:18Z)
• Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
  同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。 一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。 本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
  論文  参考訳（メタデータ） (2024-03-27T09:14:36Z)
• $\texttt{FedBC}$: Calibrating Global and Local Models via Federated Learning Beyond Consensus [66.62731854746856]
  フェデレートラーニング(FL)では、デバイス全体にわたるモデル更新の集約を通じて、グローバルモデルを協調的に学習する目的は、ローカル情報を通じたパーソナライズという目標に反対する傾向にある。 本研究では,このトレードオフを多基準最適化により定量的にキャリブレーションする。 私たちは、$texttFedBC$が、スイートデータセット間でグローバルおよびローカルモデルのテスト精度のメトリクスのバランスをとることを実証しています。
  論文  参考訳（メタデータ） (2022-06-22T02:42:04Z)
• Higher Performance Visual Tracking with Dual-Modal Localization [106.91097443275035]
  Visual Object Tracking (VOT)は、堅牢性と正確性の両方に同期性を必要とする。 ONRによるロバストなローカリゼーション抑制器とOFCによるターゲットセンターへの正確なローカリゼーションにより、ターゲットローカリゼーションのためのデュアルモーダルフレームワークを提案します。
  論文  参考訳（メタデータ） (2021-03-18T08:47:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。