論文の概要: PGKET: A Photonic Gaussian Kernel Enhanced Transformer
- arxiv url: http://arxiv.org/abs/2507.19041v1
- Date: Fri, 25 Jul 2025 07:52:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-28 16:16:48.874081
- Title: PGKET: A Photonic Gaussian Kernel Enhanced Transformer
- Title(参考訳): PGKET:フォトニックガウスカーネル強化トランス
- Authors: Ren-Xin Zhao,
- Abstract要約: Photonic Gaussian Kernel Enhanced Transformer (PGKET) が提案されている。
PGKSAMは光子干渉法と重畳法を用いて光ガウス核自己注意スコア(PGKSAS)を計算し、複数の入力を並列に処理する。
実験結果から,PGKETはMedMNIST v2とCIFAR-10のマルチクラス化タスクにおいて,最先端のトランスフォーマーよりも優れていた。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-Attention Mechanisms (SAMs) enhance model performance by extracting key information but are inefficient when dealing with long sequences. To this end, a photonic Gaussian Kernel Enhanced Transformer (PGKET) is proposed, based on the Photonic Gaussian Kernel Self-Attention Mechanism (PGKSAM). The PGKSAM calculates the Photonic Gaussian Kernel Self-Attention Score (PGKSAS) using photon interferometry and superposition to process multiple inputs in parallel. Experimental results show that PGKET outperforms some state-of-the-art transformers in multi-classification tasks on MedMNIST v2 and CIFAR-10, and is expected to improve performance in complex tasks and accelerate the convergence of Photonic Computing (PC) and machine learning.
- Abstract(参考訳): SAM(Self-Attention Mechanisms)は、キー情報を抽出することでモデル性能を向上させるが、長いシーケンスを扱う際には非効率である。
この目的のために、フォトニックガウスカーネル自己保持機構(PGKSAM)に基づいて、ガウスカーネル拡張変換器(PGKET)を提案する。
PGKSAMは光子干渉法と重畳法を用いて光ガウス核自己注意スコア(PGKSAS)を計算し、複数の入力を並列に処理する。
実験の結果, PGKETはMedMNIST v2とCIFAR-10のマルチクラス化タスクにおいて, 最先端のトランスフォーマーよりも優れており, 複雑なタスクのパフォーマンス向上とフォトニックコンピューティング(PC)と機械学習の収束の促進が期待できる。
関連論文リスト
- Quantum Computing in Discrete- and Continuous-Variable Architectures [0.0]
この理論は、ハイブリッド連続変数(CV)と離散変数(DV)量子システムの理論的枠組みを開発する。
中心的なコントリビューションは非アーベル量子信号処理(NA-QSP)であり、制御パラメータが非交換演算子であるような設定への量子信号処理の一般化である。
本フレームワークでは,DVアンシラを用いたCV状態の高忠実度制御を実現するGaussian-Controlled-Rotation (GCR)プロトコルを導入する。
論文 参考訳(メタデータ) (2025-07-01T19:11:49Z) - Seeing the Invisible: Machine learning-Based QPI Kernel Extraction via Latent Alignment [20.138206974466772]
準粒子干渉(QPI)イメージングは、量子材料中の電子構造を探索するための強力なツールである。
マルチ散乱器画像から単一散乱器QPIパターンを抽出することは、基本的に不適切な逆問題である。
本稿では,QPIカーネル抽出のためのAIベースのフレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-05T17:58:09Z) - Preconditioned Additive Gaussian Processes with Fourier Acceleration [2.292881746604941]
本稿では,カーネル行列とその導関数の乗算において,ほぼ線形な複雑性を実現するための行列フリー手法を提案する。
高次元問題に対処するために,加法的カーネルアプローチを提案する。
各サブカーネルは低次の特徴相互作用をキャプチャし、NFFT法の効率的な適用を可能にする。
論文 参考訳(メタデータ) (2025-04-01T07:14:06Z) - GaussianToken: An Effective Image Tokenizer with 2D Gaussian Splatting [64.84383010238908]
本稿では,2次元ガウススプラッティングを解法とする効果的な画像トークン化手法を提案する。
一般に、我々のフレームワークは、2次元ガウス分布の局所的な影響を離散空間に統合する。
CIFAR, Mini-Net, ImageNet-1K 上での競合的再構成性能は,我々のフレームワークの有効性を示す。
論文 参考訳(メタデータ) (2025-01-26T17:56:11Z) - Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳(メタデータ) (2024-05-26T12:25:09Z) - Self-Attention through Kernel-Eigen Pair Sparse Variational Gaussian Processes [20.023544206079304]
我々は不確実性を考慮した自己注意構築のためのKEP-SVGP(Kernel-Eigen Pair Sparse Variational Gaussian Process)を提案する。
In-distriion, distribution-shift, out-of-distriionベンチマークにおける優れた性能と効率を検証した。
論文 参考訳(メタデータ) (2024-02-02T15:05:13Z) - Probabilistic PolarGMM: Unsupervised Cluster Learning of Very Noisy
Projection Images of Unknown Pose [0.5156484100374059]
本研究では,予測(EM)アルゴリズムを用いてソフトクラスタを教師なしで学習する方法を示す。
得られた回転クラスターは、ペアのアライメント不完全な存在に対して堅牢である。
シミュレーションされたCryo-EMデータセットのベンチマークでは、標準の単一粒子Cryo-EMツールと比較して、PolarGMMのパフォーマンスが向上している。
論文 参考訳(メタデータ) (2022-06-26T20:20:10Z) - Adaptive Fourier Neural Operators: Efficient Token Mixers for
Transformers [55.90468016961356]
本稿では,Fourierドメインのミキシングを学習する効率的なトークンミキサーを提案する。
AFNOは、演算子学習の原則的基礎に基づいている。
65kのシーケンスサイズを処理でき、他の効率的な自己認識機構より優れている。
論文 参考訳(メタデータ) (2021-11-24T05:44:31Z) - Kernel Identification Through Transformers [54.3795894579111]
カーネル選択はガウス過程(GP)モデルの性能決定において中心的な役割を果たす。
この研究は、高次元GP回帰モデルのためのカスタムカーネル関数を構築するという課題に対処する。
KITT: Kernel Identification through Transformersを提案する。
論文 参考訳(メタデータ) (2021-06-15T14:32:38Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Flow-based Kernel Prior with Application to Blind Super-Resolution [143.21527713002354]
カーネル推定は一般にブラインド画像超解像(SR)の鍵となる問題の一つである
本稿では,カーネルモデリングのための正規化フローベースカーネルプリレント(fkp)を提案する。
合成および実世界の画像の実験により、提案したFKPがカーネル推定精度を大幅に向上することを示した。
論文 参考訳(メタデータ) (2021-03-29T22:37:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。