論文の概要: Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
- arxiv url: http://arxiv.org/abs/2609.02947v1
- Date: Tue, 01 Sep 2026 21:07:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-04 18:28:38.801295
- Title: Privacy-Preserving Heterogeneous Multi-LLM Federated Inference for Cognitive Diagnosis
- Title(参考訳): 認知診断のためのプライバシ保存不均一多LLMフェデレーション推論
- Abstract要約: いくつかの商用LLM APIは、生の学生データやプロプライエタリなモデル内部へのアクセスを必要とせずに協力する。
我々のフレームワークは異質なマルチLLMアーキテクチャの上に構築されている。
精度の低下を最小限に抑えた強力なプライバシー保証を示す厳密なプライバシーユーティリティ分析を行う。
- 参考スコア(独自算出の注目度): 17.09779276360884
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Significant challenges remain in AI-driven educational systems in balancing privacy preservation with accurate cognitive diagnosis. To overcome this, we propose a federated inference framework in which several commercial LLM APIs collaborate without requiring access to raw student data or proprietary model internals. Using multiple federated entities, such as LLaMA-3.3-70B, GPT-4o-mini, and Claude-3-Haiku, our framework builds upon a heterogeneous multi-LLM architecture. The predictions generated by these entities are combined with epsilon-local differential privacy by adding Laplace noise locally to each entity's prediction output before aggregation, while residual-based aggregation mitigates model heterogeneity. Our approach is predicated on an honest-but-curious trust paradigm in which API providers are presumed not to abuse submitted queries, and our differential privacy mechanism shields the published diagnostic results from external inference. We conduct rigorous privacy-utility analysis showing strong privacy guarantees with minimal accuracy loss, and extensive real-world evaluations across three educational benchmarks confirm the framework's practical usability and cross-domain generalizability.
- Abstract(参考訳): プライバシー保護と正確な認知診断のバランスをとることは、AIによる教育システムにおいて重要な課題である。
そこで本研究では,学生データやプロプライエタリなモデル内部へのアクセスを必要とせずに,複数の商用LLM APIが協調して動作するフェデレート推論フレームワークを提案する。
LLaMA-3.3-70B、GPT-4o-mini、Claude-3-Haikuなどの複数の連合体を用いて、我々のフレームワークは異種マルチLLMアーキテクチャの上に構築されている。
これらのエンティティによって生成される予測は、アグリゲーション前の各エンティティの予測出力にLaplaceノイズを局所的に付加することにより、エプシロン局所微分プライバシーと組み合わせられる。
当社のアプローチは,APIプロバイダが提案されたクエリを悪用しないことを前提とした,誠実だが正確な信頼パラダイムに基づいています。
高いプライバシー保証を最小限の精度で示す厳密なプライバシユーティリティ分析を行い、3つの教育ベンチマークにわたる広範囲な実世界評価により、フレームワークの実用的ユーザビリティとドメイン間の一般化性を確認した。
関連論文リスト
- Phantoms and Disclosures: a Causal Framework for Auditing Synthetic Data [56.86147283213652]
データ開示の検出と説明を目的とした,カスタマイズ可能な実証監査フレームワークを提案する。
本フレームワークでは,ユーザの情報を直接再現する「真の開示」と,ユーザのデータを偶発的に生成する「幻の開示」とを区別する機構を導入する。
論文 参考訳(メタデータ) (2026-06-15T16:54:02Z) - A Late-Fusion Multimodal AI Framework for Privacy-Preserving Deduplication in National Healthcare Data Environments [0.0]
機密情報に依存しない新しい,スケーラブルでマルチモーダルなAIフレームワークを提案する。
このアプローチは、エンティティ解決に対するプライバシ準拠のソリューションを提供し、セキュアなデジタルインフラストラクチャをサポートし、公衆衛生分析の信頼性を高める。
国家の健康データモダナイゼーションへの統合には適しており、プライバシ優先のイノベーションというより広範な目標に合わせている。
論文 参考訳(メタデータ) (2026-03-04T20:46:26Z) - Why Does the LLM Stop Computing: An Empirical Study of User-Reported Failures in Open-Source LLMs [50.075587392477935]
オープンソースのDeepSeek、Llama、Qwenのエコシステムから、705の現実世界の失敗に関する大規模な実証的研究を行った。
ホワイトボックスオーケストレーションは、モデルアルゴリズムの欠陥からデプロイメントスタックのシステム的脆弱性へと、信頼性のボトルネックを移動させます。
論文 参考訳(メタデータ) (2026-01-20T06:42:56Z) - SynBench: A Benchmark for Differentially Private Text Generation [35.908455649647784]
医療や金融といった高度な分野におけるデータ駆動型意思決定のサポートは、データ共有にとって大きな障壁に直面している。
大規模言語モデルのような最近の生成AIモデルは、オープンドメインタスクにおいて印象的なパフォーマンスを示している。
しかし、彼らのセンシティブな環境への導入は、予測不可能な振る舞いと、プライバシー保護の不十分なデータセットによって制限されている。
論文 参考訳(メタデータ) (2025-09-18T03:57:50Z) - On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。
差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
論文 参考訳(メタデータ) (2025-09-03T14:18:22Z) - ImprovDML: Improved Trade-off in Private Byzantine-Resilient Distributed Machine Learning [22.85986751447643]
一般的な戦略は、Byzantine-Resilientアグリゲーションルールと差分プライバシーメカニズムの統合である。
そこで我々は,プライバシ保護を同時に確保しつつ,モデルの精度を向上する ImprovDML を提案する。
モデル精度と差分プライバシーの間のトレードオフを改善することを実証する。
論文 参考訳(メタデータ) (2025-06-18T06:53:52Z) - Urania: Differentially Private Insights into AI Use [102.27238986985698]
$Urania$は、クラスタリング、パーティション選択、ヒストグラムベースの要約といったDPツールを活用することによって、エンドツーエンドのプライバシ保護を提供する。
結果は、厳密なユーザのプライバシを維持しながら、意味のある会話の洞察を抽出するフレームワークの能力を示している。
論文 参考訳(メタデータ) (2025-06-05T07:00:31Z) - Model Agnostic Differentially Private Causal Inference [16.50501378936487]
観察データから因果効果を推定することは、医学、経済学、社会科学において不可欠である。
本稿では,平均治療効果を個人で評価するための一般的なモデルに依存しないフレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-26T07:00:37Z) - Communication-Efficient and Privacy-Adaptable Mechanism for Federated Learning [54.20871516148981]
通信効率・プライバシー適応メカニズム(CEPAM)について紹介する。
CEPAMは通信効率とプライバシー保護を同時に達成する。
我々は、CEPAMのプライバシー保証を理論的に分析し、CEPAMのユーザプライバシと正確性の間のトレードオフを調査する。
論文 参考訳(メタデータ) (2025-01-21T11:16:05Z) - Breaking the Communication-Privacy-Accuracy Tradeoff with
$f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。
有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。
より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文 参考訳(メタデータ) (2023-02-19T16:58:53Z) - On the Privacy-Robustness-Utility Trilemma in Distributed Learning [7.778461949427662]
本稿では,少数の対向マシンに対してロバスト性を保証するアルゴリズムによって得られた誤差を,まず厳密に解析する。
私たちの分析は、プライバシ、堅牢性、ユーティリティの基本的なトレードオフを示しています。
論文 参考訳(メタデータ) (2023-02-09T17:24:18Z) - Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive
Privacy Analysis and Beyond [57.10914865054868]
垂直ロジスティック回帰(VLR)をミニバッチ降下勾配で訓練した。
我々は、オープンソースのフェデレーション学習フレームワークのクラスにおいて、VLRの包括的で厳密なプライバシー分析を提供する。
論文 参考訳(メタデータ) (2022-07-19T05:47:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。