このサイトではarxivの論文のうち、30ページ以下でCreative Commonsライセンス（CC 0, CC BY, CC BY-SA）の論文を日本語訳しています。 本文がCCでない論文、長すぎる論文はメタデータのみを翻訳しています。（arxivのメタデータは CC 0です。） 翻訳文のライセンスはCC BY-SA 4.0です。 翻訳にはFugu-Machine Translatorを利用しています。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。
公開日が20240405となっている論文です。
| Title | Authors | Abstract | 論文公表日・翻訳日 |
|---|---|---|---|
| # マイクログリアIL-3R$α$を標的としたデノボタンパク質設計のためのGANを用いたアルツハイマー病の進行抑制
Using GANs for De Novo Protein Design Targeting Microglial IL-3R$α$ to Inhibit Alzheimer's Progression ( http://arxiv.org/abs/2405.06651v1 ) ライセンス: Link先を確認 | Arnav Swaroop, | (参考訳) IL-3は、通常、血球前駆体を標的とする造血増殖因子であり、IL-3Rは、IL-3に結合するサイトカイン受容体である。
しかし、IL-3は神経系のグリア細胞の文脈において異なる役割を担っており、IL-3R受容体でミクログリアを活性化することにより、IL-3はアルツハイマー病に対して防御し、ミスフォールドされたタウタンパク質の蓄積によって引き起こされるタングルを除去する。
本研究では,IL-3の二次構造が受容体との結合にどのような役割を果たすかを明らかにする。
この研究の背後にある動機は、アルツハイマー病の拡散を抑制するために、そのメカニズムについてより深く学び、それを活性化できる可能性のある薬物を特定することである。
IL-3およびIL-3Rを含む複合体の予備的な解析から、この結合は受容体の活性部位に向かって伸びる3つのαヘリックス構造の相互作用に起因すると仮定した。
テスト中の他のタンパク質は、機械学習が全く新しい構造の創出を可能にするいくつかの種類の計算的デノボタンパク質設計によって生成される。
生成したタンパク質の有効性は、IL-3R受容体とのドッキングシミュレーションにより評価され、結合ポーズも質的に検討され、結合の機能について洞察を得る。
ドッキングデータとポーズから、最も成功したタンパク質はIL-3と類似した二次構造を持つタンパク質であった。
IL-3 is a hemopoietic growth factor that usually targets blood cell precursors; IL-3R is a cytokine receptor that binds to IL-3. However, IL-3 takes on a different role in the context of glial cells in the nervous system, where studies show that the protein IL-3 protects against Alzheimer's disease by activating microglia at their IL-3R receptors, causing the microglia to clear out the tangles caused by the build-up of misfolded Tau proteins. In this study, we seek to ascertain what role the secondary structure of IL-3 plays in its binding with the receptor. The motivation behind this study is to learn more about the mechanism and identify possible drugs that might be able to activate it, in hopes of inhibiting the spread of Alzheimer's Disease. From a preliminary analysis of complexes containing IL-3 and IL-3R, we hypothesized that the binding is largely due to the interactions of three alpha helix structures stretching towards the active site on the receptor. The original Il-3 protein serves as the control in this experiment; the other proteins being tested are generated through several types of computational de novo protein design, where machine learning allows for the production of entirely novel structures. The efficacy of the generated proteins is assessed through docking simulations with the IL-3R receptor, and the binding poses are also qualitatively examined to gain insight into the function of the binding. From the docking data and poses, the most successful proteins were those with similar secondary structure to IL-3. | 翻訳日:2024-07-01 08:49:26 公開日:2024-04-05 |
| # 統計力学とニューラルネットワーク:原理,モデル,応用
Statistical Mechanics and Artificial Neural Networks: Principles, Models, and Applications ( http://arxiv.org/abs/2405.10957v1 ) ライセンス: Link先を確認 | Lucas Böttcher, Gregory Wheeler, | (参考訳) 神経科学の分野と人工ニューラルネットワーク(ANN)の開発は相互に影響を与え、統計力学で最初に開発された多くの概念に寄与している。
特にホップフィールド・ネットワークとボルツマン・マシンはイジング・モデルのバージョンであり、これは1世紀以上にわたって統計力学で広く研究されてきたモデルである。
本章の第1章では、ANNの原理、モデル、応用について概説し、統計力学と統計学習理論との関係を明らかにする。
人工ニューラルネットワークは、高次元の数学的関数と見なすことができ、損失ランドスケープの幾何学的性質(すなわち、エクストリームやサドルを見つけようとする高次元空間)を理解することで、最適化挙動、一般化能力、全体的なパフォーマンスに関する貴重な洞察を与えることができる。
これらの関数を視覚化することで、より良い最適化方法を設計し、それらの一般化能力を改善するのに役立つ。
したがって、この章の第2章では、幾何学的性質の定量化と、深いANNに関連する損失関数の可視化に焦点を当てている。
The field of neuroscience and the development of artificial neural networks (ANNs) have mutually influenced each other, drawing from and contributing to many concepts initially developed in statistical mechanics. Notably, Hopfield networks and Boltzmann machines are versions of the Ising model, a model extensively studied in statistical mechanics for over a century. In the first part of this chapter, we provide an overview of the principles, models, and applications of ANNs, highlighting their connections to statistical mechanics and statistical learning theory. Artificial neural networks can be seen as high-dimensional mathematical functions, and understanding the geometric properties of their loss landscapes (i.e., the high-dimensional space on which one wishes to find extrema or saddles) can provide valuable insights into their optimization behavior, generalization abilities, and overall performance. Visualizing these functions can help us design better optimization methods and improve their generalization abilities. Thus, the second part of this chapter focuses on quantifying geometric properties and visualizing loss functions associated with deep ANNs. | 翻訳日:2024-07-01 08:39:42 公開日:2024-04-05 |
| # 多モード磁気共鳴イメージングにおける脳腫瘍のセグメンテーションの影響
Influence based explainability of brain tumors segmentation in multimodal Magnetic Resonance Imaging ( http://arxiv.org/abs/2405.12222v1 ) ライセンス: Link先を確認 | Tommaso Torda, Andrea Ciardiello, Simona Gargiulo, Greta Grillo, Simone Scardapane, Cecilia Voena, Stefano Giagu, | (参考訳) 近年、人工知能は医療応用の基本的なツールとして登場している。
この急速な発展にもかかわらず、深いニューラルネットワークは説明が難しいブラックボックスのままであり、臨床での使用には大きな制限がある。
本稿では,医用画像タスクのセグメンテーションに焦点をあて,これまで提案されてきたほとんどの説明可能性手法が入力唾液マップの視覚的説明を提供する。
この研究の目的は、マルチモーダル磁気共鳴イメージングにおける腫瘍脳のマルチクラスセグメンテーションという難しい臨床的問題において、もともと分類タスクのために提案された影響ベースの説明可能性アルゴリズムであるTracInを拡張し、実装し、テストすることである。
本稿では,ネットワークの潜在表現とTracIn出力との類似性をリンクする提案アルゴリズムの忠実さを検証する。
さらに、局所的およびグローバルな説明を提供するアルゴリズムの能力を検証し、決定プロセスで使用される最も関連性の高い特徴を選択するためのツールとして採用することを提案する。
この方法は、クラスが相互排他的であるすべてのセマンティックセグメンテーションタスクに対して一般化可能である。
In recent years Artificial Intelligence has emerged as a fundamental tool in medical applications. Despite this rapid development, deep neural networks remain black boxes that are difficult to explain, and this represents a major limitation for their use in clinical practice. We focus on the segmentation of medical images task, where most explainability methods proposed so far provide a visual explanation in terms of an input saliency map. The aim of this work is to extend, implement and test instead an influence-based explainability algorithm, TracIn, proposed originally for classification tasks, in a challenging clinical problem, i.e., multiclass segmentation of tumor brains in multimodal Magnetic Resonance Imaging. We verify the faithfulness of the proposed algorithm linking the similarities of the latent representation of the network to the TracIn output. We further test the capacity of the algorithm to provide local and global explanations, and we suggest that it can be adopted as a tool to select the most relevant features used in the decision process. The method is generalizable for all semantic segmentation tasks where classes are mutually exclusive, which is the standard framework in these cases. | 翻訳日:2024-07-01 08:39:42 公開日:2024-04-05 |
| # DiffuseMix:拡散モデルによるラベル保存データ拡張
DiffuseMix: Label-Preserving Data Augmentation with Diffusion Models ( http://arxiv.org/abs/2405.14881v1 ) ライセンス: Link先を確認 | Khawar Islam, Muhammad Zaigham Zaheer, Arif Mahmood, Karthik Nandakumar, | (参考訳) 近年、ディープニューラルネットワークの一般化を改善するために、画像混合に基づく拡張技術が数多く導入されている。
これらの手法では、2つ以上のランダムに選択された自然画像が混合され、拡張画像を生成する。
このような手法は、入力画像の重要な部分を省略するだけでなく、ラベル間で画像を混合することでラベルの曖昧さを導入し、誤った監督信号をもたらす可能性がある。
これらの制約に対処するために,拡散モデルを利用した新しいデータ拡張手法であるDiffuseMixを提案する。
まず、非現実的な画像やラベルの曖昧さの発生を避けるのに役立つ部分自然な画像とその生成した画像の連結を得る。
そして、敵攻撃に対する弾力性を高め、安全対策を改善するため、一組のフラクタル画像からランダムに選択された構造パターンを連結画像にブレンドし、トレーニング用の最終拡張画像を形成する。
DiffuseMixは, 一般的な分類, きめ細かな分類, 微調整, データの不足, 対向的堅牢性といったタスクにおいて, 従来の最先端の手法と比較して, 優れた性能を発揮することを示す。
拡張データセットとコードはここで入手できる。
Recently, a number of image-mixing-based augmentation techniques have been introduced to improve the generalization of deep neural networks. In these techniques, two or more randomly selected natural images are mixed together to generate an augmented image. Such methods may not only omit important portions of the input images but also introduce label ambiguities by mixing images across labels resulting in misleading supervisory signals. To address these limitations, we propose DiffuseMix, a novel data augmentation technique that leverages a diffusion model to reshape training images, supervised by our bespoke conditional prompts. First, concatenation of a partial natural image and its generated counterpart is obtained which helps in avoiding the generation of unrealistic images or label ambiguities. Then, to enhance resilience against adversarial attacks and improves safety measures, a randomly selected structural pattern from a set of fractal images is blended into the concatenated image to form the final augmented image for training. Our empirical results on seven different datasets reveal that DiffuseMix achieves superior performance compared to existing state-of the-art methods on tasks including general classification,fine-grained classification, fine-tuning, data scarcity, and adversarial robustness. Augmented datasets and codes are available here: https://diffusemix.github.io/ | 翻訳日:2024-07-01 08:29:41 公開日:2024-04-05 |
| # LookUp3D: データ駆動型3Dスキャン
LookUp3D: Data-Driven 3D Scanning ( http://arxiv.org/abs/2405.14882v1 ) ライセンス: Link先を確認 | Yurii Piadyk, Giancarlo Pereira, Claudio Silva, Daniele Panozzo, | (参考訳) 本稿では,データ駆動型ルックアップ手法を優先して,明点三角測量を先導する構造光走査のための新しい校正・再構成手法を提案する。
鍵となるアイデアは、キャリブレーションチェッカーボードをリニアステージでスキャンし、画像の密度の高いスタックを取得して、色から深度までピクセルごとのルックアップテーブルを構築することである。
キャリブレーションデータには、セットアップ、レンズの歪み、センサーの欠陥が組み込まれており、より信頼性が高く正確な再構築がなされている。
既存の構造された光スキャナーは、キャリブレーションと再構成アルゴリズムが提供する優れた精度とレジリエンスを享受しながら、修正することなく再利用することができる。
我々のアルゴリズムは、カスタムデザインのアナログプロジェクターと組み合わせることで、最大500fpsで1メガピクセルの高速3Dスキャンを可能にします。
本稿では,高速3Dスキャンのためのアルゴリズムとハードウェアプロトタイプについて述べる。
We introduce a novel calibration and reconstruction procedure for structured light scanning that foregoes explicit point triangulation in favor of a data-driven lookup procedure. The key idea is to sweep a calibration checkerboard over the entire scanning volume with a linear stage and acquire a dense stack of images to build a per-pixel lookup table from colors to depths. Imperfections in the setup, lens distortion, and sensor defects are baked into the calibration data, leading to a more reliable and accurate reconstruction. Existing structured light scanners can be reused without modifications while enjoying the superior precision and resilience that our calibration and reconstruction algorithms offer. Our algorithm shines when paired with a custom-designed analog projector, which enables 1-megapixel high-speed 3D scanning at up to 500 fps. We describe our algorithm and hardware prototype for high-speed 3D scanning and compare them with commercial and open-source structured light scanning methods. | 翻訳日:2024-07-01 08:29:41 公開日:2024-04-05 |
| # マルチソースデータ拡張のための分光画像データ融合
Spectral Image Data Fusion for Multisource Data Augmentation ( http://arxiv.org/abs/2405.14883v1 ) ライセンス: Link先を確認 | Roberta Iuliana Luca, Alexandra Baicoianu, Ioana Cristina Plajer, | (参考訳) マルチスペクトル画像やハイパースペクトル画像は、リモートセンシング、天文学的イメージング、精密農業など、さまざまな研究分野で人気が高まっている。
しかし、機械学習タスクを実行できる無料データの量は比較的少ない。
さらに、スペクトル画像の領域で開発された人工知能モデルは、データが同じスペクトル帯域数または同じスペクトル分解能を持つことを期待して、一定のスペクトルシグネチャを持つ入力画像を必要とする。
この要件は、与えられたモデルで使用できる使用可能なソースの数を大幅に削減する。
本研究の目的は、多数のソースからのデータに対して機械学習モデルを訓練および/または使用できるようにするため、スペクトル画像データ融合の方法論を導入することである。
そこで本研究では,マルチソーススペクトルデータを相互に互換性を持たせるために,異なる補間手法を提案する。
補間結果は様々な方法で評価される。
これには、表面プロットとCMSE(Custom Mean Squared Error)や正規化差分植生指標(NDVI)といったメトリクスを使用した直接的な評価が含まれる。
さらに、間接評価は、機械学習モデルトレーニング、特にセマンティックセグメンテーションへの影響を見積もることによって行われる。
Multispectral and hyperspectral images are increasingly popular in different research fields, such as remote sensing, astronomical imaging, or precision agriculture. However, the amount of free data available to perform machine learning tasks is relatively small. Moreover, artificial intelligence models developed in the area of spectral imaging require input images with a fixed spectral signature, expecting the data to have the same number of spectral bands or the same spectral resolution. This requirement significantly reduces the number of usable sources that can be used for a given model. The scope of this study is to introduce a methodology for spectral image data fusion, in order to allow machine learning models to be trained and/or used on data from a larger number of sources, thus providing better generalization. For this purpose, we propose different interpolation techniques, in order to make multisource spectral data compatible with each other. The interpolation outcomes are evaluated through various approaches. This includes direct assessments using surface plots and metrics such as a Custom Mean Squared Error (CMSE) and the Normalized Difference Vegetation Index (NDVI). Additionally, indirect evaluation is done by estimating their impact on machine learning model training, particularly for semantic segmentation. | 翻訳日:2024-07-01 08:29:41 公開日:2024-04-05 |
| # AI Royalties - AI生成コンテンツのためのアーティストとIPホルダーを補償するIPフレームワーク
AI Royalties -- an IP Framework to Compensate Artists & IP Holders for AI-Generated Content ( http://arxiv.org/abs/2406.11857v1 ) ライセンス: Link先を確認 | Pablo Ducru, Jonathan Raiman, Ronaldo Lemos, Clay Garner, George He, Hanna Balcha, Gabriel Souto, Sergio Branco, Celina Bottino, | (参考訳) 本稿では、AIが生成したコンテンツがクリエイティブ産業の中心的な収益源、特に知的財産権(IP)権からの配当の収集をいかに破壊するかを考察する。
生成AIシステムの入力と出力に関するIPと著作権に関する質問をレビューする。
画像間の類似度基準(CLIP)を用いて,AI生成した出力,特に画像が過去の著作権を侵害するか否かを評価する。
以前に提案された補償フレームワークの検証(経済的および技術的実現可能性)は、創造者とIP保有者に対する金銭的影響を明らかにしている。
最後に,アーティストとIP保有者の補償のための新たなIPフレームワークを提案する。
This article investigates how AI-generated content can disrupt central revenue streams of the creative industries, in particular the collection of dividends from intellectual property (IP) rights. It reviews the IP and copyright questions related to the input and output of generative AI systems. A systematic method is proposed to assess whether AI-generated outputs, especially images, infringe previous copyrights, using a similarity metric (CLIP) between images against historical copyright rulings. An examination (economic and technical feasibility) of previously proposed compensation frameworks reveals their financial implications for creatives and IP holders. Lastly, we propose a novel IP framework for compensation of artists and IP holders based on their published "licensed AIs" as a new medium and asset from which to collect AI royalties. | 翻訳日:2024-07-01 07:40:34 公開日:2024-04-05 |
| # 大規模言語モデルを用いたソフトウェア要件の優先順位付け
Prioritizing Software Requirements Using Large Language Models ( http://arxiv.org/abs/2405.01564v1 ) ライセンス: Link先を確認 | Malik Abdul Sami, Zeeshan Rasheed, Muhammad Waseem, Zheying Zhang, Tomas Herda, Pekka Abrahamsson, | (参考訳) 大規模言語モデル(LLM)は、要求の収集、ソフトウェアの設計、コードの生成、テストケースの作成といったタスクのための革新的なメソッドを導入することで、ソフトウェア工学(SE)に革命をもたらしている。
この記事では、複数のシステムステークホルダーを含むソフトウェア開発の初期段階と見なされる要件エンジニアリングに焦点を当てます。
その重要な役割にもかかわらず、要件を特定し、時間と予算の制約の中ですべての利害関係者を満たすという課題は依然として重要なままである。
要件エンジニアリングの課題に対処するため,本研究では,AIエージェントを活用したWebベースのソフトウェアツールを導入し,タスクの優先順位付けを自動化し,アジャイルフレームワーク内でプロジェクト管理を強化することを目的とした,さまざまな優先順位付け手法を適用した。
このアプローチは、アジャイル要件の優先順位付けを変革し、設定された時間と予算の制限内でステークホルダーのニーズを満たすという、実質的な課題に取り組むことを目的としています。
さらに、私たちの開発したプロトタイプのソースコードはGitHubで公開されており、さらなる実験と要件の優先順位付けが可能になり、研究や実践的なアプリケーションを容易にできます。
Large Language Models (LLMs) are revolutionizing Software Engineering (SE) by introducing innovative methods for tasks such as collecting requirements, designing software, generating code, and creating test cases, among others. This article focuses on requirements engineering, typically seen as the initial phase of software development that involves multiple system stakeholders. Despite its key role, the challenge of identifying requirements and satisfying all stakeholders within time and budget constraints remains significant. To address the challenges in requirements engineering, this study introduces a web-based software tool utilizing AI agents and prompt engineering to automate task prioritization and apply diverse prioritization techniques, aimed at enhancing project management within the agile framework. This approach seeks to transform the prioritization of agile requirements, tackling the substantial challenge of meeting stakeholder needs within set time and budget limits. Furthermore, the source code of our developed prototype is available on GitHub, allowing for further experimentation and prioritization of requirements, facilitating research and practical application. | 翻訳日:2024-05-12 16:10:01 公開日:2024-04-05 |
| # ROMA-iQSS: 状態ベース値学習とRound-Robin Multi-Agent Schedulingによるオブジェクト指向アライメントアプローチ
ROMA-iQSS: An Objective Alignment Approach via State-Based Value Learning and ROund-Robin Multi-Agent Scheduling ( http://arxiv.org/abs/2404.03984v1 ) ライセンス: Link先を確認 | Chi-Hui Lin, Joewie J. Koh, Alessandro Roncone, Lijun Chen, | (参考訳) 複雑な分散問題の解決には,効果的なマルチエージェントコラボレーションが不可欠だ。
この文脈では、2つの重要な課題に対処する必要がある: 第一に、集合的な成果のための最適な目標を自律的に特定すること;第二に、これらの目標をエージェント間で整列させること。
従来のフレームワークは、しばしば中央集権的な学習に依存し、大規模なマルチエージェントシステムにおいてスケーラビリティと効率性に苦しむ。
これらの問題を解決するために,エージェントが独立して最適な状態を発見できる分散状態ベース価値学習アルゴリズムを導入する。
さらに,多エージェントインタラクションのための新しいメカニズムを導入し,熟練度が低いエージェントがより経験豊富なエージェントのポリシーをフォローし,採用することで,学習プロセスを間接的に導く。
我々の理論分析は、我々のアプローチが分散化されたエージェントを最適な集団政策へと導くことを示している。
さらに実験により,本手法は,最適な目標を効果的に識別・調整することにより,既存の分散状態と行動に基づく価値学習戦略より優れていることを示す。
Effective multi-agent collaboration is imperative for solving complex, distributed problems. In this context, two key challenges must be addressed: first, autonomously identifying optimal objectives for collective outcomes; second, aligning these objectives among agents. Traditional frameworks, often reliant on centralized learning, struggle with scalability and efficiency in large multi-agent systems. To overcome these issues, we introduce a decentralized state-based value learning algorithm that enables agents to independently discover optimal states. Furthermore, we introduce a novel mechanism for multi-agent interaction, wherein less proficient agents follow and adopt policies from more experienced ones, thereby indirectly guiding their learning process. Our theoretical analysis shows that our approach leads decentralized agents to an optimal collective policy. Empirical experiments further demonstrate that our method outperforms existing decentralized state-based and action-based value learning strategies by effectively identifying and aligning optimal objectives. | 翻訳日:2024-05-05 18:14:01 公開日:2024-04-05 |
| # 有限ひずみ系における速度および経路依存性不均一材料のための物理的に反復するニューラルネットワーク
Physically recurrent neural network for rate and path-dependent heterogeneous materials in a finite strain framework ( http://arxiv.org/abs/2404.17583v1 ) ライセンス: Link先を確認 | M. A. Maia, I. B. C. M. Rocha, D. Kovačević, F. P. van der Meer, | (参考訳) 本研究では、異種物質のマイクロスケール解析のためのハイブリッド物理に基づくデータ駆動サロゲートモデルについて検討した。
提案モデルは、ニューラルネットワークに埋め込むことにより、フルオーダーのマイクロモデルで使用される構成モデルに含まれる物理に基づく知識の恩恵を受ける。
これまでの展開に続いて, 有限ひずみフレームワークにおいて, 速度依存材料に適したアーキテクチャを導入することにより, 物理的再帰型ニューラルネットワーク(PRNN)の適用性を高める。
本モデルでは, マイクロモデルの均質化変形勾配を組込み構成モデルへの入力として, 一連の変形勾配に符号化する。
これらの構成モデルはストレスを計算し、それらはデコーダに組み合わされ、履歴に依存した構成モデルの内部変数が自然にネットワークに物理ベースのメモリを提供するように均質化されたストレスを予測する。
代理モデルの性能を示すために, 横方向等方性弾性繊維とエラスト可塑性マトリックス材料を用いた一方向複合マイクロモデルを提案する。
このようなマイクロモデルを置き換えるために訓練されたサロゲートモデルの外挿特性は、異なるひずみ速度から循環的負荷および緩和まで、トレーニング中に見つからない負荷シナリオで試験される。
元のマイクロモデルのランタイムに対する3桁のスピードアップが得られる。
In this work, a hybrid physics-based data-driven surrogate model for the microscale analysis of heterogeneous material is investigated. The proposed model benefits from the physics-based knowledge contained in the constitutive models used in the full-order micromodel by embedding them in a neural network. Following previous developments, this paper extends the applicability of the physically recurrent neural network (PRNN) by introducing an architecture suitable for rate-dependent materials in a finite strain framework. In this model, the homogenized deformation gradient of the micromodel is encoded into a set of deformation gradients serving as input to the embedded constitutive models. These constitutive models compute stresses, which are combined in a decoder to predict the homogenized stress, such that the internal variables of the history-dependent constitutive models naturally provide physics-based memory for the network. To demonstrate the capabilities of the surrogate model, we consider a unidirectional composite micromodel with transversely isotropic elastic fibers and elasto-viscoplastic matrix material. The extrapolation properties of the surrogate model trained to replace such micromodel are tested on loading scenarios unseen during training, ranging from different strain-rates to cyclic loading and relaxation. Speed-ups of three orders of magnitude with respect to the runtime of the original micromodel are obtained. | 翻訳日:2024-05-05 18:04:17 公開日:2024-04-05 |
| # 等変グラフ畳み込みニューラルネットワークによる均質化異方性ミクロ組織応答の表現
Equivariant graph convolutional neural networks for the representation of homogenized anisotropic microstructural mechanical response ( http://arxiv.org/abs/2404.17584v1 ) ライセンス: Link先を確認 | Ravi Patel, Cosmin Safta, Reese E. Jones, | (参考訳) 粒状構造, 合金化, 粒子/繊維充填を制御製造により最適化する工学的応用において, 異なるミクロ構造材料対称性を持つ複合材料が一般的である。
実際、これらの微構造的チューニングは、機能的な階調と構造レベルでの最適化を達成するために、部分的に行うことができる。
特定の組織構成の性能を予測し、全体的な性能を予測するためには、ミクロ構造を持つ材料の構成モデルが必要である。
本研究では、異方性成分を持つ材料の効果的な均質化モデルを提供するニューラルネットワークアーキテクチャを提供する。
これらのモデルは、本質的に同変とテンソル基底演算の組み合わせによって、同変と物質対称性の原理を満たす。
材料が弾性変形および塑性変形する異なるテクスチャと相の確率的体積要素のデータセット上でそれらを実証し、これらのネットワーク構造が顕著な性能向上をもたらすことを示す。
Composite materials with different microstructural material symmetries are common in engineering applications where grain structure, alloying and particle/fiber packing are optimized via controlled manufacturing. In fact these microstructural tunings can be done throughout a part to achieve functional gradation and optimization at a structural level. To predict the performance of particular microstructural configuration and thereby overall performance, constitutive models of materials with microstructure are needed. In this work we provide neural network architectures that provide effective homogenization models of materials with anisotropic components. These models satisfy equivariance and material symmetry principles inherently through a combination of equivariant and tensor basis operations. We demonstrate them on datasets of stochastic volume elements with different textures and phases where the material undergoes elastic and plastic deformation, and show that the these network architectures provide significant performance improvements. | 翻訳日:2024-05-05 18:04:17 公開日:2024-04-05 |
| # 地球系モデル降水量のダウンスケーリングとバイアス補正のための条件拡散モデル
Conditional diffusion models for downscaling & bias correction of Earth system model precipitation ( http://arxiv.org/abs/2404.14416v1 ) ライセンス: Link先を確認 | Michael Aich, Philipp Hess, Baoxiang Pan, Sebastian Bathiany, Yu Huang, Niklas Boers, | (参考訳) 気候変動は激しい降雨や洪水のような極端な気象現象を悪化させる。
これらの事象は、資産や生活に深刻な損失をもたらすため、正確な降水シミュレーションが不可欠である。
しかし、既存のアース・システム・モデル(ESM)は、特に極端な出来事において、小規模のダイナミクスの解決とバイアスに悩まされている。
従来の統計的バイアス補正とダウンスケーリング手法は空間構造の改善に乏しく、最近のディープラーニング手法では出力に対する制御性が欠如し、不安定な訓練に苦しむ。
本稿では,バイアス補正とダウンスケーリングを同時に行う機械学習フレームワークを提案する。
我々は、観測データに基づいて、教師付き方法で生成拡散モデルを訓練する。
我々は、観測データとESMデータを共有埋め込み空間にマッピングし、両者は互いに偏りがなく、条件拡散モデルを訓練してマッピングを反転させる。
トレーニングはESMとは無関係であるため,任意のESMフィールドの修正に使用することができる。
提案手法は, 統計的忠実度を保証し, 大規模空間パターンを保存し, 特に, 影響評価に欠かせない, 極端な事象や小規模な空間的特徴に関して, 既存の手法より優れる。
Climate change exacerbates extreme weather events like heavy rainfall and flooding. As these events cause severe losses of property and lives, accurate high-resolution simulation of precipitation is imperative. However, existing Earth System Models (ESMs) struggle with resolving small-scale dynamics and suffer from biases, especially for extreme events. Traditional statistical bias correction and downscaling methods fall short in improving spatial structure, while recent deep learning methods lack controllability over the output and suffer from unstable training. Here, we propose a novel machine learning framework for simultaneous bias correction and downscaling. We train a generative diffusion model in a supervised way purely on observational data. We map observational and ESM data to a shared embedding space, where both are unbiased towards each other and train a conditional diffusion model to reverse the mapping. Our method can be used to correct any ESM field, as the training is independent of the ESM. Our approach ensures statistical fidelity, preserves large-scale spatial patterns and outperforms existing methods especially regarding extreme events and small-scale spatial features that are crucial for impact assessments. | 翻訳日:2024-04-28 11:16:37 公開日:2024-04-05 |
| # 汎用AIネイティブRANのためのマルチタスク学習
Multi-Task Learning as enabler for General-Purpose AI-native RAN ( http://arxiv.org/abs/2404.15197v1 ) ライセンス: Link先を確認 | Hasan Farooq, Julien Forgeat, Shruti Bothe, Kristijonas Cyras, Md Moin, | (参考訳) 6G以降のネットワークで想定されるデータ駆動型AIネイティブアーキテクチャの実現は、最終的には、セカンダリキャリア予測や位置決め、チャネル予測といった下流タスクを駆動するネットワークエッジに分散された複数の機械学習(ML)ワークロードにつながる可能性がある。
リソース制約のある計算ノードeg、ベースステーション(BS)を共有する、エッジ分散の独立した複数のワークロードの独立したライフサイクル管理は、より密集したデプロイメントでスケールする課題である。
本研究では、汎用AIネイティブ無線アクセスネットワーク(RAN)におけるマルチタスク学習(MTL)アプローチの有効性について検討する。
この調査は4つのRANタスクに焦点を当てている。
(i)二次キャリア予測
(ii)ユーザ位置予測
三 屋内リンク分類、及び
(4)ライン・オブ・ザ・リンク分類。
モデルアーキテクチャ,損失と勾配のバランス戦略,分散学習トポロジ,データ空間,タスクグループ化など,MLLの多面的設計面を考慮した現実的なシミュレーションによる性能評価を行った。
シミュレーションからの定量化と洞察から考える4つのRANタスクについて
(i)不確実性に基づく重み付けによるカスタマイズゲート制御によるエキスパートアーキテクチャの採用により、MLLは、すべてにおいて、あるいは単一タスク学習(STL)と同等のパフォーマンスを達成できる。
2 MTL設定におけるLoS分類タスクは、他のタスクに役立つが、そのパフォーマンスは劣化する
三 スパーストレーニングデータにおいては、単一のグローバルMTLモデルのトレーニングが有用であるが、MTL性能はSTLと同等である。
(四)各タスクに最適なグループペアリングのセットが存在し、
(v) 部分フェデレーションは, MTL設定におけるフルモデルフェデレーションよりもはるかに優れている。
The realization of data-driven AI-native architecture envisioned for 6G and beyond networks can eventually lead to multiple machine learning (ML) workloads distributed at the network edges driving downstream tasks like secondary carrier prediction, positioning, channel prediction etc. The independent life-cycle management of these edge-distributed independent multiple workloads sharing a resource-constrained compute node e.g., base station (BS) is a challenge that will scale with denser deployments. This study explores the effectiveness of multi-task learning (MTL) approaches in facilitating a general-purpose AI native Radio Access Network (RAN). The investigation focuses on four RAN tasks: (i) secondary carrier prediction, (ii) user location prediction, (iii) indoor link classification, and (iv) line-of-sight link classification. We validate the performance using realistic simulations considering multi-faceted design aspects of MTL including model architecture, loss and gradient balancing strategies, distributed learning topology, data sparsity and task groupings. The quantification and insights from simulations reveal that for the four RAN tasks considered (i) adoption of customized gate control-based expert architecture with uncertainty-based weighting makes MTL perform either best among all or at par with single task learning (STL) (ii) LoS classification task in MTL setting helps other tasks but its own performance is degraded (iii) for sparse training data, training a single global MTL model is helpful but MTL performance is on par with STL (iv) optimal set of group pairing exists for each task and (v) partial federation is much better than full model federation in MTL setting. | 翻訳日:2024-04-28 11:06:36 公開日:2024-04-05 |
| # 基礎モデルにおけるロスレス・ニアロスレス圧縮
Lossless and Near-Lossless Compression for Foundation Models ( http://arxiv.org/abs/2404.15198v1 ) ライセンス: Link先を確認 | Moshik Hershcovitch, Leshem Choshen, Andrew Wood, Ilias Enmouri, Peter Chin, Swaminathan Sundararaman, Danny Harnik, | (参考訳) モデルのサイズとデプロイメントの規模が拡大するにつれ、ネットワークとストレージの容量の増大がインフラストラクチャの負担になる。
モデルのサイズを減らすことについては、膨大な文献があるが、より伝統的なタイプの圧縮(モデルを小さな形式に圧縮し、圧縮を元のサイズ、すなわち損失のない圧縮に戻すアルゴリズムと結合する)を調査する。
驚くべきことに、そのような損失のない圧縮は、一般的なモデルにおいてネットワークとストレージの大幅な削減をもたらす可能性がある。
モデル圧縮性の原因を調査し,モデルに適した圧縮変種を導入し,圧縮性グループに分類する。
また, モデル精度にはほとんど影響を与えず, 圧縮性が低いモデルでも, より小型化が図れるような, 調整可能な損失圧縮手法も導入する。
我々はこれらの手法がHuggingFaceのような大きなモデルハブからダウンロードされたネットワークトラフィックの1ヶ月あたりExaByte以上を節約できると見積もっている。
With the growth of model sizes and scale of their deployment, their sheer size burdens the infrastructure requiring more network and more storage to accommodate these. While there is a vast literature about reducing model sizes, we investigate a more traditional type of compression -- one that compresses the model to a smaller form and is coupled with a decompression algorithm that returns it to its original size -- namely lossless compression. Somewhat surprisingly, we show that such lossless compression can gain significant network and storage reduction on popular models, at times reducing over $50\%$ of the model size. We investigate the source of model compressibility, introduce compression variants tailored for models and categorize models to compressibility groups. We also introduce a tunable lossy compression technique that can further reduce size even on the less compressible models with little to no effect on the model accuracy. We estimate that these methods could save over an ExaByte per month of network traffic downloaded from a large model hub like HuggingFace. | 翻訳日:2024-04-28 11:06:36 公開日:2024-04-05 |
| # 注目型マルチインスタンス学習ネットワークを用いた低速度加速度と位置信号に基づく移動モード認識
Transportation mode recognition based on low-rate acceleration and location signals with an attention-based multiple-instance learning network ( http://arxiv.org/abs/2404.15323v1 ) ライセンス: Link先を確認 | Christos Siargkas, Vasileios Papapanagiotou, Anastasios Delopoulos, | (参考訳) 交通モード認識(TMR)は、人間の活動認識(HAR)の重要な構成要素であり、交通システム内での人々の移動の理解と識別に焦点を当てている。
一般的には、慣性、位置、または両方のタイプの信号を活用することに基づいており、現代のスマートフォンデバイスによってキャプチャされる。
各タイプには、輸送モード(TM)に依存する利点(有効性の向上など)と欠点(電池消費の増加など)がある。
2つのタイプを組み合わせることは、非常に異なるサンプリングレートのような大きな違いを示すため、難しい。
本稿では,TMRタスクに着目し,この2種類の信号を効果的かつロバストな分類器に組み合わせる手法を提案する。
我々のネットワークには、アクセラレーションと位置情報を個別に処理するための2つのサブネットワークがあり、それぞれの信号に対して異なるウィンドウサイズを使用する。
2つのサブネットワークは、2種類の信号を同じ空間に埋め込んで、注意に基づくマルチインスタンス学習分類器を適用してTMを認識するように設計されている。
両信号のサンプリングレートが非常に低いので, 電池消費を抑えることができる。
提案手法を公開データセット上で評価し,他のよく知られたアルゴリズムと比較する。
Transportation mode recognition (TMR) is a critical component of human activity recognition (HAR) that focuses on understanding and identifying how people move within transportation systems. It is commonly based on leveraging inertial, location, or both types of signals, captured by modern smartphone devices. Each type has benefits (such as increased effectiveness) and drawbacks (such as increased battery consumption) depending on the transportation mode (TM). Combining the two types is challenging as they exhibit significant differences such as very different sampling rates. This paper focuses on the TMR task and proposes an approach for combining the two types of signals in an effective and robust classifier. Our network includes two sub-networks for processing acceleration and location signals separately, using different window sizes for each signal. The two sub-networks are designed to also embed the two types of signals into the same space so that we can then apply an attention-based multiple-instance learning classifier to recognize TM. We use very low sampling rates for both signal types to reduce battery consumption. We evaluate the proposed methodology on a publicly available dataset and compare against other well known algorithms. | 翻訳日:2024-04-28 10:56:51 公開日:2024-04-05 |
| # 太陽放射センサファームのシミュレーションに基づく予測モデルの構築
Advanced simulation-based predictive modelling for solar irradiance sensor farms ( http://arxiv.org/abs/2404.15324v1 ) ライセンス: Link先を確認 | José L. Risco-Martín, Ignacio-Iker Prado-Rujas, Javier Campoy, María S. Pérez, Katzalin Olcoz, | (参考訳) 太陽エネルギーが従来のエネルギー源に置き換わるにつれて、グリッドの安定性と効率を確保するために信頼性の高い予測モデルの必要性がますます重要になる。
しかし、これらのモデルの管理は改善される必要があり、太陽施設の配置と制御を行うための新しいツールや技術が必要である。
この研究は、太陽放射センサファームのリアルタイム監視、管理、予測のために設計された、クラウドベースのデータ効率分析統合(CAIDE)と呼ばれる新しいフレームワークを紹介している。
CAIDEは、マルチセンサファームを同時に管理し、M&S(well-grounded Modeling and Simulation)手法を用いて、予測モデルをリアルタイムで改善するように設計されている。
このフレームワークは、モデルベースシステムエンジニアリング(MBSE)とIoT(Internet of Things)インフラストラクチャを活用し、動的環境におけるソーラープラントの展開と分析をサポートする。
システムは、誤った結果が得られたときにモデルを適応し、再訓練し、予測が正確で最新であることを保証する。
さらに、CAIDEはシーケンシャル、並列、分散アーキテクチャで実行でき、スケーラビリティを保証できる。
CAIDEの有効性は、集中管理システムに接続された複数の太陽放射センサファームからなる複雑なシナリオで実証される。
以上の結果から,CAIDEは太陽発電の管理・予測にスケーラブルで有効であり,予測モデルの精度をリアルタイムで向上していることがわかった。
この枠組みは、太陽光発電の展開と再生可能エネルギー源の将来に重要な意味を持っている。
As solar power continues to grow and replace traditional energy sources, the need for reliable forecasting models becomes increasingly important to ensure the stability and efficiency of the grid. However, the management of these models still needs to be improved, and new tools and technologies are required to handle the deployment and control of solar facilities. This work introduces a novel framework named Cloud-based Analysis and Integration for Data Efficiency (CAIDE), designed for real-time monitoring, management, and forecasting of solar irradiance sensor farms. CAIDE is designed to manage multiple sensor farms simultaneously while improving predictive models in real-time using well-grounded Modeling and Simulation (M&S) methodologies. The framework leverages Model Based Systems Engineering (MBSE) and an Internet of Things (IoT) infrastructure to support the deployment and analysis of solar plants in dynamic environments. The system can adapt and re-train the model when given incorrect results, ensuring that forecasts remain accurate and up-to-date. Furthermore, CAIDE can be executed in sequential, parallel, and distributed architectures, assuring scalability. The effectiveness of CAIDE is demonstrated in a complex scenario composed of several solar irradiance sensor farms connected to a centralized management system. Our results show that CAIDE is scalable and effective in managing and forecasting solar power production while improving the accuracy of predictive models in real time. The framework has important implications for the deployment of solar plants and the future of renewable energy sources. | 翻訳日:2024-04-28 10:56:51 公開日:2024-04-05 |
| # ドナーのDedeerralとReturnの挙動--操作による回帰不連続設計からの部分的同定
Donor's Deferral and Return Behavior: Partial Identification from a Regression Discontinuity Design with Manipulation ( http://arxiv.org/abs/1910.02170v3 ) ライセンス: Link先を確認 | Evan Rosenman, Karthik Rajkumar, Romain Gauriot, Robert Slonim, | (参考訳) ボランティア労働者は、そのコストよりも慈善活動の利益を一時的に減らすことができる。
そのような場合、組織はボランティアの寄付を後日延期することを望んでいるかもしれない。
献血の適格性基準の不連続を突破し, 献血者の遅延が将来のボランティア活動を減少させることを示す。
この設定では、医療スタッフがドナーの報告されたヘモグロビンレベルを閾値で操作し、寄付を促進する。
このような操作は、標準的な回帰不連続設計を無効にする。
この問題を回避するために,操作が存在する部分的識別境界を求める手法を提案する。
本手法は,動作変数の操作と離散化を行う様々な回帰不連続設定に適用可能である。
Volunteer labor can temporarily yield lower benefits to charities than its costs. In such instances, organizations may wish to defer volunteer donations to a later date. Exploiting a discontinuity in blood donations' eligibility criteria, we show that deferring donors reduces their future volunteerism. In our setting, medical staff manipulates donors' reported hemoglobin levels over a threshold to facilitate donation. Such manipulation invalidates standard regression discontinuity design. To circumvent this issue, we propose a procedure for obtaining partial identification bounds where manipulation is present. Our procedure is applicable in various regression discontinuity settings where the running variable is manipulated and discrete. | 翻訳日:2024-04-21 20:14:16 公開日:2024-04-05 |
| # ジェネレーティブAI検索におけるセンシティブなユーザクエリの分類と分析
Taxonomy and Analysis of Sensitive User Queries in Generative AI Search ( http://arxiv.org/abs/2404.08672v1 ) ライセンス: Link先を確認 | Hwiyeol Jo, Taiwoo Park, Nayoung Choi, Changbong Kim, Ohjoon Kwon, Donghyeon Jeon, Hyunwoo Lee, Eui-Hyeon Lee, Kyoungho Shin, Sun Suk Lim, Kyungmi Kim, Jihye Lee, Sun Kim, | (参考訳) 生産的LLMをサービスに統合する産業の間では関心が高まりつつあるが、大規模LLMベースの対話サービスの立ち上げと運用において、限られた経験と資源不足が障壁となっている。
本稿では,全国規模の検索エンジン内で生成型AIモデルを開発・運用した経験を,ユーザクエリの感度に特化して紹介する。
本稿では、センシティブな検索クエリのための分類法を提案し、我々のアプローチの概要と、実際のユーザからのセンシティブなクエリに関する包括的な分析報告を示す。
Although there has been a growing interest among industries to integrate generative LLMs into their services, limited experiences and scarcity of resources acts as a barrier in launching and servicing large-scale LLM-based conversational services. In this paper, we share our experiences in developing and operating generative AI models within a national-scale search engine, with a specific focus on the sensitiveness of user queries. We propose a taxonomy for sensitive search queries, outline our approaches, and present a comprehensive analysis report on sensitive queries from actual users. | 翻訳日:2024-04-21 19:54:47 公開日:2024-04-05 |
| # 科学的テキストに応用したLLMと人的情報源の分類のための感性分析とランダム森林
Sentiment analysis and random forest to classify LLM versus human source applied to Scientific Texts ( http://arxiv.org/abs/2404.08673v1 ) ライセンス: Link先を確認 | Javier J. Sanchez-Medina, | (参考訳) ChatGPT v.4のローンチ以降、この人工知能を動力とするプラットフォームと、科学的および技術的テキストを含むあらゆる種類のテキストの自動生成に関する、いくつかの類似した機能に関する、世界的な議論が活発に行われている。
これは、教育や学術的な手続きが将来、私たちが読んだ多くの文章が人間(学者、学者など)によって書かれないという事実に適応されるべきかどうかという多くの機関で、少なくとも完全には反映されている。
本研究では,自動テキスト生成エンジンや人間からのテキストを特徴工学的独立変数の情報源としてセンチメント分析に基づいて分類し,ランダムフォレスト分類アルゴリズムを用いて学習する手法を提案する。
4つの異なる感情レキシコンを使用して、生成された多くの新機能を機械学習ランダムな森林方法論に供給し、そのようなモデルをトレーニングした。
結果は、人間がテキストのソースであるはずの環境において、これが詐欺を検知するための有望な研究ラインであることに非常に説得力があるように思える。
After the launch of ChatGPT v.4 there has been a global vivid discussion on the ability of this artificial intelligence powered platform and some other similar ones for the automatic production of all kinds of texts, including scientific and technical texts. This has triggered a reflection in many institutions on whether education and academic procedures should be adapted to the fact that in future many texts we read will not be written by humans (students, scholars, etc.), at least, not entirely. In this work it is proposed a new methodology to classify texts coming from an automatic text production engine or a human, based on Sentiment Analysis as a source for feature engineering independent variables and then train with them a Random Forest classification algorithm. Using four different sentiment lexicons, a number of new features where produced, and then fed to a machine learning random forest methodology, to train such a model. Results seem very convincing that this may be a promising research line to detect fraud, in such environments where human are supposed to be the source of texts. | 翻訳日:2024-04-21 19:54:47 公開日:2024-04-05 |
| # 異なるプロンプトが認知症ケア質問に対する GPT-4 の質に及ぼす影響
Effects of Different Prompts on the Quality of GPT-4 Responses to Dementia Care Questions ( http://arxiv.org/abs/2404.08674v1 ) ライセンス: Link先を確認 | Zhuochun Li, Bo Xie, Robin Hilsabeck, Alyssa Aguirre, Ning Zou, Zhimeng Luo, Daqing He, | (参考訳) Evidenceは、異なるプロンプトが大きな言語モデル(LLM)を誘導し、様々な品質で応答を生成することを示唆している。
しかし、医療領域の応答品質に対するプロンプトの影響についてはほとんど分かっていない。
本研究は,認知症介護という特定の医療領域に焦点をあてて,このギャップに対処するものである。
我々はまず,(1)システムプロンプト(SP)と(2)初期化プロンプト,(3)タスクプロンプト(TP)の3つの要素からなる革新的なプロンプトテンプレートを開発した。
次に,認知症介護者の課題に関する複雑で現実的な質問を含む3つのソーシャルメディア投稿を,記憶喪失と混乱,攻撃,運転の3分野に選定した。
そして、これらのポストを12のプロンプトでGPT-4に入力し、1ポストあたり12のレスポンスを生成し、合計36のレスポンスを生成しました。
応答長の潜在的な差異を検討するために,36の応答の単語数を比較した。
経験豊富な認知症診療医2名を対象に,評価尺度を5つの指標(事実,解釈,応用,合成,包括性(スコア範囲0-5,より高いスコアはより高い品質を示す)で評価した。
Evidence suggests that different prompts lead large language models (LLMs) to generate responses with varying quality. Yet, little is known about prompts' effects on response quality in healthcare domains. In this exploratory study, we address this gap, focusing on a specific healthcare domain: dementia caregiving. We first developed an innovative prompt template with three components: (1) system prompts (SPs) featuring 4 different roles; (2) an initialization prompt; and (3) task prompts (TPs) specifying different levels of details, totaling 12 prompt combinations. Next, we selected 3 social media posts containing complicated, real-world questions about dementia caregivers' challenges in 3 areas: memory loss and confusion, aggression, and driving. We then entered these posts into GPT-4, with our 12 prompts, to generate 12 responses per post, totaling 36 responses. We compared the word count of the 36 responses to explore potential differences in response length. Two experienced dementia care clinicians on our team assessed the response quality using a rating scale with 5 quality indicators: factual, interpretation, application, synthesis, and comprehensiveness (scoring range: 0-5; higher scores indicate higher quality). | 翻訳日:2024-04-21 19:54:47 公開日:2024-04-05 |
| # 触媒発見における分子モデリングのための軽量幾何学的深層学習
Lightweight Geometric Deep Learning for Molecular Modelling in Catalyst Discovery ( http://arxiv.org/abs/2404.10003v1 ) ライセンス: Link先を確認 | Patrick Geitner, | (参考訳) 風や太陽といった再生可能エネルギー源を大規模に採用するには、エネルギー貯蔵のための新しい技術が必要である。
適切な触媒を発見する能力は、エネルギー貯蔵をより低コストでスケーラブルにするために不可欠である。
Open Catalyst Projectは、グラフニューラルネットワーク(GNN)の進歩を適用して、触媒発見の進歩を加速し、計算的に負担のかかる密度汎関数理論(DFT)アプローチを置き換えることを目的としている。
現在のアプローチでは、GNNを10億以上のパラメータにスケールアップすることで、世界中の機械学習実践者の大多数が、問題に到達できないようにしている。
本研究は,このタスクに軽量なアプローチを用いることで得られるパフォーマンスと洞察を評価することを目的としている。
幾何学的および対称的なメッセージパッシングのようなロバストな設計パターンを実装することで、吸着面相互作用の原子間力を予測するために0.0748のMAEに達したGNNモデルをトレーニングすることができ、トレーニング可能なパラメータのほんの数だけを使用しながら、SchNetやDimeNet++のような確立したモデルアーキテクチャと競合する。
New technology for energy storage is necessary for the large-scale adoption of renewable energy sources like wind and solar. The ability to discover suitable catalysts is crucial for making energy storage more cost-effective and scalable. The Open Catalyst Project aims to apply advances in graph neural networks (GNNs) to accelerate progress in catalyst discovery, replacing Density Functional Theory-based (DFT) approaches that are computationally burdensome. Current approaches involve scaling GNNs to over 1 billion parameters, pushing the problem out of reach for a vast majority of machine learning practitioner around the world. This study aims to evaluate the performance and insights gained from using more lightweight approaches for this task that are more approachable for smaller teams to encourage participation from individuals from diverse backgrounds. By implementing robust design patterns like geometric and symmetric message passing, we were able to train a GNN model that reached a MAE of 0.0748 in predicting the per-atom forces of adsorbate-surface interactions, rivaling established model architectures like SchNet and DimeNet++ while using only a fraction of trainable parameters. | 翻訳日:2024-04-21 19:45:03 公開日:2024-04-05 |
| # 著者の正当性:人間生成テキストを検証するための著者の一体性フレームワーク
Authenticity in Authorship: The Writer's Integrity Framework for Verifying Human-Generated Text ( http://arxiv.org/abs/2404.10781v1 ) ライセンス: Link先を確認 | Sanad Aburass, Maha Abu Rumman, | (参考訳) 著者の一体性」フレームワークは、学術、研究、出版の領域において、人間の生成したテキストの正当性を維持するためのパラダイムシフトを導入する。
この革新的なシステムは、現在のAI検出ツールの欠点を回避し、製品ではなく書き込みプロセスを監視し、人間の著者の行動フットプリントを捉える。
ここでは、フレームワーク、その開発、および実証結果の総合的な検証について紹介する。
我々は、人間のようなテキストをエミュレートできる高度なAIモデルに直面して、学術的完全性と知的財産権の維持におけるその役割を強調し、人間の知的作業の検証に革命をもたらす可能性を強調します。
本稿は、利用の容易さとプライバシーに関する潜在的なユーザの懸念に対処し、IT企業が効果的にフレームワークをマネタイズするためのビジネスモデルを概説する。
ライセンス、パートナーシップ、サブスクリプションを通じて、企業は大学、出版社、独立系ライターを対象とし、オリジナルの思考と努力を文章コンテンツで確実に保存することができる。
このフレームワークはオープンソースで、https://github.com/sanadv/Integrity.github.ioで入手できる。
The "Writer's Integrity" framework introduces a paradigm shift in maintaining the sanctity of human-generated text in the realms of academia, research, and publishing. This innovative system circumvents the shortcomings of current AI detection tools by monitoring the writing process, rather than the product, capturing the distinct behavioral footprint of human authorship. Here, we offer a comprehensive examination of the framework, its development, and empirical results. We highlight its potential in revolutionizing the validation of human intellectual work, emphasizing its role in upholding academic integrity and intellectual property rights in the face of sophisticated AI models capable of emulating human-like text. This paper also discusses the implementation considerations, addressing potential user concerns regarding ease of use and privacy, and outlines a business model for tech companies to monetize the framework effectively. Through licensing, partnerships, and subscriptions, companies can cater to universities, publishers, and independent writers, ensuring the preservation of original thought and effort in written content. This framework is open source and available here, https://github.com/sanadv/Integrity.github.io | 翻訳日:2024-04-21 19:45:03 公開日:2024-04-05 |
| # ベストレスポンスシェイピング
Best Response Shaping ( http://arxiv.org/abs/2404.06519v1 ) ライセンス: Link先を確認 | Milad Aghajohari, Tim Cooijmans, Juan Agustin Duque, Shunichi Akatsuka, Aaron Courville, | (参考訳) 従来の手法が相互協力の促進に苦しむ部分競争環境における多エージェント深層強化学習の課題について検討する。
LOLAとPOLAのエージェントは、相手のルックアヘッド最適化ステップを通じて、相互性に基づく協調政策を区別することで学習する。
しかし、これらの技術には重要な制限がある。
彼らはいくつかの最適化ステップを考慮するので、そのリターンを最適化するために多くのステップを踏む学習相手がそれらを活用できるかもしれない。
そこで本研究では,Best Response Shaping (BRS) という新たなアプローチを導入する。
複雑なゲームに対するエージェントのポリシーを条件付けするために,エージェントの動作に基づく特定の環境状態の表現を抽出する質問応答(QA)法によって促進される状態認識型微分可能な条件付け機構を提案する。
提案手法を実証的に検証するために,モンテカルロ木探索(MCTS)の対戦相手に対して改良された性能を示す。
本研究は, 一部競争環境におけるマルチエージェントRLの適用性を拡大し, 一般ゲームにおける社会福祉の向上に向けた新たな道筋を提供する。
We investigate the challenge of multi-agent deep reinforcement learning in partially competitive environments, where traditional methods struggle to foster reciprocity-based cooperation. LOLA and POLA agents learn reciprocity-based cooperative policies by differentiation through a few look-ahead optimization steps of their opponent. However, there is a key limitation in these techniques. Because they consider a few optimization steps, a learning opponent that takes many steps to optimize its return may exploit them. In response, we introduce a novel approach, Best Response Shaping (BRS), which differentiates through an opponent approximating the best response, termed the "detective." To condition the detective on the agent's policy for complex games we propose a state-aware differentiable conditioning mechanism, facilitated by a question answering (QA) method that extracts a representation of the agent based on its behaviour on specific environment states. To empirically validate our method, we showcase its enhanced performance against a Monte Carlo Tree Search (MCTS) opponent, which serves as an approximation to the best response in the Coin Game. This work expands the applicability of multi-agent RL in partially competitive environments and provides a new pathway towards achieving improved social welfare in general sum games. | 翻訳日:2024-04-11 16:28:25 公開日:2024-04-05 |
| # 大規模言語モデルを用いた物理事象分類
Physics Event Classification Using Large Language Models ( http://arxiv.org/abs/2404.05752v1 ) ライセンス: Link先を確認 | Cristiano Fanelli, James Giroux, Patrick Moran, Hemalata Nayak, Karthik Suresh, Eric Walter, | (参考訳) 2023年のAI4EICハッカソンは、アメリカ・カトリック大学の第3回AI4EICワークショップの頂点となった。
このワークショップは、物理学、データサイエンス、計算機科学の研究者を集めて、Electron Ion Collider(EIC)のための人工知能(AI)と機械学習(ML)の最新の開発について議論した。
ワークショップの最終日に行われたハッカソンでは、大きな言語モデルであるChatGPT-3.5を動力とするチャットボットを使って、2値の分類器中性子と光子を訓練し、そのシミュレーションデータをtextsc{GlueX} Barrel Calorimeterから取得した。
世界中の最大4チームからなる6チームがこの激しい教育と研究イベントに参加した。
この記事では、ハッカソンの課題、使用するリソースと方法論、そしてAI/MLで最も最先端のツールを使用して物理データを分析した結果と洞察を紹介する。
The 2023 AI4EIC hackathon was the culmination of the third annual AI4EIC workshop at The Catholic University of America. This workshop brought together researchers from physics, data science and computer science to discuss the latest developments in Artificial Intelligence (AI) and Machine Learning (ML) for the Electron Ion Collider (EIC), including applications for detectors, accelerators, and experimental control. The hackathon, held on the final day of the workshop, involved using a chatbot powered by a Large Language Model, ChatGPT-3.5, to train a binary classifier neutrons and photons in simulated data from the \textsc{GlueX} Barrel Calorimeter. In total, six teams of up to four participants from all over the world took part in this intense educational and research event. This article highlights the hackathon challenge, the resources and methodology used, and the results and insights gained from analyzing physics data using the most cutting-edge tools in AI/ML. | 翻訳日:2024-04-10 18:58:15 公開日:2024-04-05 |
| # 密度・大気圧サージ予測のためのスパース・イン・シチュアデータのインシミレーション
Implicit Assimilation of Sparse In Situ Data for Dense & Global Storm Surge Forecasting ( http://arxiv.org/abs/2404.05758v1 ) ライセンス: Link先を確認 | Patrick Ebel, Brandon Victor, Peter Naylor, Gabriele Meoni, Federico Serva, Rochelle Schneider, | (参考訳) ハリケーンや海岸の洪水は、最も壊滅的な自然災害の一つである。
どちらも、それぞれ原因と影響として、嵐の急上昇と密接に関連している。
しかし、特に干潟のない場所や場所を標的にした場合、短期的な暴風の予報は困難であることが判明した。
さらに、最近の研究は、短期・中期の天気予報を改善したが、生の非同化データの取り扱いは依然として簡単ではない。
本稿では,両課題に対処し,低潮域におけるスパルスと粗大な海洋状態の再解析を暗黙的に同化して,暴風の予報を行うことを実証する。
我々は、事前の取り組みに基づいて、グローバルデータセットをキュレートし、嵐の高密度な予測を学習し、検証する。
これまでの作業は既知のゲージに限られていたが、我々のアプローチは未掘削の場所にまで拡張され、世界的な暴風雨予報への道が開かれた。
Hurricanes and coastal floods are among the most disastrous natural hazards. Both are intimately related to storm surges, as their causes and effects, respectively. However, the short-term forecasting of storm surges has proven challenging, especially when targeting previously unseen locations or sites without tidal gauges. Furthermore, recent work improved short and medium-term weather forecasting but the handling of raw unassimilated data remains non-trivial. In this paper, we tackle both challenges and demonstrate that neural networks can implicitly assimilate sparse in situ tide gauge data with coarse ocean state reanalysis in order to forecast storm surges. We curate a global dataset to learn and validate the dense prediction of storm surges, building on preceding efforts. Other than prior work limited to known gauges, our approach extends to ungauged sites, paving the way for global storm surge forecasting. | 翻訳日:2024-04-10 18:58:15 公開日:2024-04-05 |
| # 格子データに対する多変量トレンドフィルタリング
Multivariate Trend Filtering for Lattice Data ( http://arxiv.org/abs/2112.14758v2 ) ライセンス: Link先を確認 | Veeranjaneyulu Sadhanala, Yu-Xiang Wang, Addison J. Hu, Ryan J. Tibshirani, | (参考訳) 設計点が$d$次元の格子を形成する場合、Kronecker trend filtering(KTF)と呼ばれるトレンドフィルタリングの多変量バージョンについて検討する。
KTFは単変数トレンドフィルタリング(Steidl et al , 2006; Kim et al , 2009; Tibshirani, 2014)の自然な拡張であり、ペナルティ項が各座標方向に沿って推定されるパラメータの絶対(高次)差を和る最小二乗問題を最小化することによって定義される。
対応するペナルティ演算子は、一変量トレンドフィルタリングペナルティ演算子のクロネッカー積(Kronecker product)で書くことができ、したがってクロネッカートレンドフィルタリング(Kronecker trend filtering)と呼ばれる。
同様に KTF は、基底関数が分解因数関数のテンソル積である$\ell_1$-penalized basis regression problem や、単変数トレンドフィルタリングの根底をなす分数多項式 (discrete spline) 基底の観点から見ることができる。
本論文はSadhanala et al(2016, 2017)の結果の統一と拡張である。
我々は$k^{\mathrm{th}}$ order Kronecker trend filtering in $d$ dimensions, for every $k \geq 0$ and $d \geq 1$。
このことは、不均一な滑らかな関数を推定する線形スムーダに対するKTFの優位性や、(高次元から滑らかな側で)線形スムーダが完全に整合しない境界過去の$d=2(k+1)$での相転移など、多くの興味深い現象を浮き彫りにしている。
我々はまた、Tibshirani (2020) の離散スプラインに関する最近の結果、特に離散スプライン補間結果を利用して、KTF推定値を定数時間(格子 $n$ の大きさに依存しない)で任意の非格子位置まで拡張することができる。
We study a multivariate version of trend filtering, called Kronecker trend filtering or KTF, for the case in which the design points form a lattice in $d$ dimensions. KTF is a natural extension of univariate trend filtering (Steidl et al., 2006; Kim et al., 2009; Tibshirani, 2014), and is defined by minimizing a penalized least squares problem whose penalty term sums the absolute (higher-order) differences of the parameter to be estimated along each of the coordinate directions. The corresponding penalty operator can be written in terms of Kronecker products of univariate trend filtering penalty operators, hence the name Kronecker trend filtering. Equivalently, one can view KTF in terms of an $\ell_1$-penalized basis regression problem where the basis functions are tensor products of falling factorial functions, a piecewise polynomial (discrete spline) basis that underlies univariate trend filtering. This paper is a unification and extension of the results in Sadhanala et al. (2016, 2017). We develop a complete set of theoretical results that describe the behavior of $k^{\mathrm{th}}$ order Kronecker trend filtering in $d$ dimensions, for every $k \geq 0$ and $d \geq 1$. This reveals a number of interesting phenomena, including the dominance of KTF over linear smoothers in estimating heterogeneously smooth functions, and a phase transition at $d=2(k+1)$, a boundary past which (on the high dimension-to-smoothness side) linear smoothers fail to be consistent entirely. We also leverage recent results on discrete splines from Tibshirani (2020), in particular, discrete spline interpolation results that enable us to extend the KTF estimate to any off-lattice location in constant-time (independent of the size of the lattice $n$). | 翻訳日:2024-04-10 06:04:02 公開日:2024-04-05 |
| # 二級・多級分類における公正性と不公平性:定量化・計算・バウンディング
Fairness and Unfairness in Binary and Multiclass Classification: Quantifying, Calculating, and Bounding ( http://arxiv.org/abs/2206.03234v2 ) ライセンス: Link先を確認 | Sivan Sabato, Eran Treister, Elad Yom-Tov, | (参考訳) 本稿では,不公平性の新しい解釈可能な尺度を提案し,不公平性と不公平性以外の分類器の公平性について定量的に分析する。
分類器の条件付き乱雑行列が知られている場合に、この測度がどのように計算されるかを示す。
さらに,混乱行列が得られなかったり,推定できない場合に,その公平性を判断するための分類器の監査手法を提案する。
本手法は,分類者の所有者によって提供されたり,自由に利用可能なデータから収集されたりして,集計統計のみに基づく分類者の不公平さを低くする。
等化オッズ基準を用い、これを多クラスの場合に一般化する。
提案手法の有効性と適用範囲を実証した多種多様なアプリケーションを示すデータセットに関する実験を報告する。
本論文で提案する手順の実装と,実験を実行するためのコードとして,https://github.com/sivansabato/unfairnessに記載する。
We propose a new interpretable measure of unfairness, that allows providing a quantitative analysis of classifier fairness, beyond a dichotomous fair/unfair distinction. We show how this measure can be calculated when the classifier's conditional confusion matrices are known. We further propose methods for auditing classifiers for their fairness when the confusion matrices cannot be obtained or even estimated. Our approach lower-bounds the unfairness of a classifier based only on aggregate statistics, which may be provided by the owner of the classifier or collected from freely available data. We use the equalized odds criterion, which we generalize to the multiclass case. We report experiments on data sets representing diverse applications, which demonstrate the effectiveness and the wide range of possible uses of the proposed methodology. An implementation of the procedures proposed in this paper and as the code for running the experiments are provided in https://github.com/sivansabato/unfairness. | 翻訳日:2024-04-10 06:04:02 公開日:2024-04-05 |
| # Dissecting Distribution (複数形 Dissecting Distributions)
Dissecting Distribution Inference ( http://arxiv.org/abs/2212.07591v2 ) ライセンス: Link先を確認 | Anshuman Suri, Yifu Lu, Yanjin Chen, David Evans, | (参考訳) 分散推論攻撃は、機械学習モデルのトレーニングに使用されるデータの統計的特性を推測することを目的としている。
これらの攻撃は驚くほど強力であるが、分布予測のリスクに影響を与える要因はよく理解されておらず、ブラックボックスの脅威シナリオであってもトレーニング環境の完全な知識のような強固で非現実的な仮定に依存することがしばしば示されている。
分布予測リスクの理解を深めるため,ほとんどの環境において最もよく知られたホワイトボックス攻撃よりも優れるブラックボックス攻撃を開発した。
この新たな攻撃を用いて,ブラックボックスアクセスにおける敵の知識に関する様々な仮定を緩和しながら,分布推定リスクを評価した。
最後に,従来提案されていた防衛の有効性を評価し,新たな防衛手法を導入する。
ノイズベースの防御は効果がないように見えるが、単純な再サンプリング防御は極めて有効である。
コードはhttps://github.com/iamgroot42/dissecting_distribution_inferenceで入手できる。
A distribution inference attack aims to infer statistical properties of data used to train machine learning models. These attacks are sometimes surprisingly potent, but the factors that impact distribution inference risk are not well understood and demonstrated attacks often rely on strong and unrealistic assumptions such as full knowledge of training environments even in supposedly black-box threat scenarios. To improve understanding of distribution inference risks, we develop a new black-box attack that even outperforms the best known white-box attack in most settings. Using this new attack, we evaluate distribution inference risk while relaxing a variety of assumptions about the adversary's knowledge under black-box access, like known model architectures and label-only access. Finally, we evaluate the effectiveness of previously proposed defenses and introduce new defenses. We find that although noise-based defenses appear to be ineffective, a simple re-sampling defense can be highly effective. Code is available at https://github.com/iamgroot42/dissecting_distribution_inference | 翻訳日:2024-04-10 05:46:40 公開日:2024-04-05 |
| # 医療領域における言語間調音マイニング
Cross-lingual Argument Mining in the Medical Domain ( http://arxiv.org/abs/2301.10527v2 ) ライセンス: Link先を確認 | Anar Yeginbergen, Rodrigo Agerri, | (参考訳) 現在、臨床医の意思決定は、膨大な量の構造化されていないテキストデータを扱うことにますます依存しているため、医療分野は人工知能関連のアプリケーションでますます注目を集めている。
この文脈では、Argument Mining (AM) はテキスト内の議論的コンポーネントを特定し、それらの関係を分類することで、テキストデータを有意義に構造化するのに役立つ。
しかし,一般の自然言語処理,特に医療用テキスト処理では,人為的なタスクが問題となっているため,計算論の作業の大部分は英語にのみ焦点をあてている。
本稿では,アノテートされたデータがないスペイン語などの言語に対して,医療用テキストでAMを実行するためのいくつかの戦略について検討する。
我々の研究は、アノテーション(データ転送)を英語から特定のターゲット言語に自動で翻訳・投影することは、手作業による介入を伴わずに注釈付きデータを生成する効果的な方法であることを示している。
さらに,従来の他のシーケンスラベリングタスクの成果とは対照的に,多言語事前学習言語モデル(モデル-トランスファー)のクロスリンガル転送能力に基づいて,データ転送がメソッドよりも優れていることを示す。
最後に、スペイン語における自動生成データを用いて、元の英語単言語設定の結果を改善することにより、完全な自動データ拡張戦略を実現する方法を示す。
Nowadays the medical domain is receiving more and more attention in applications involving Artificial Intelligence as clinicians decision-making is increasingly dependent on dealing with enormous amounts of unstructured textual data. In this context, Argument Mining (AM) helps to meaningfully structure textual data by identifying the argumentative components in the text and classifying the relations between them. However, as it is the case for man tasks in Natural Language Processing in general and in medical text processing in particular, the large majority of the work on computational argumentation has been focusing only on the English language. In this paper, we investigate several strategies to perform AM in medical texts for a language such as Spanish, for which no annotated data is available. Our work shows that automatically translating and projecting annotations (data-transfer) from English to a given target language is an effective way to generate annotated data without costly manual intervention. Furthermore, and contrary to conclusions from previous work for other sequence labelling tasks, our experiments demonstrate that data-transfer outperforms methods based on the crosslingual transfer capabilities of multilingual pre-trained language models (model-transfer). Finally, we show how the automatically generated data in Spanish can also be used to improve results in the original English monolingual setting, providing thus a fully automatic data augmentation strategy. | 翻訳日:2024-04-10 05:46:40 公開日:2024-04-05 |
| # ニューラルシンボリック強化大型マルチモーダルモデルによる文脈外誤情報の解釈可能検出
Interpretable Detection of Out-of-Context Misinformation with Neural-Symbolic-Enhanced Large Multimodal Model ( http://arxiv.org/abs/2304.07633v2 ) ライセンス: Link先を確認 | Yizhou Zhang, Loc Trinh, Defu Cao, Zijun Cui, Yan Liu, | (参考訳) 近年では、世論の操作を目的とした誤報の持続的な進化を目撃している。
主に偽造画像やテキスト、ビデオに頼っている従来の噂や偽ニュース編集者とは異なり、現在の誤報作成者は、画像やキャプションのミスマッチなど、コンテクスト以外のマルチメディアコンテンツを使って、大衆や偽ニュースの検出システムを騙す傾向にある。
この新たなタイプの誤報は、検出だけでなく、個々のモダリティが真の情報に十分近いため、明確化の難しさも増す。
この課題に対処するために,本論文では,不一致のペアと相互の矛盾を同時に識別する,解釈可能なクロスモーダル・デコンテクスト化検出を実現する方法について検討する。
提案モデルではまず,文のモダリティ情報をキャプションの抽象的意味表現に基づく一組のファクトクエリに象徴的に分解し,そのクエリと画像のペアを事前学習した大規模視覚言語モデルに転送し,誤情報を検出するのに役立つ「証拠」を選択する。
大規模な実験により,提案手法により,この課題における最先端モデルと同じ精度を維持しつつ,より解釈可能な予測を行うことが可能であることが示唆された。
Recent years have witnessed the sustained evolution of misinformation that aims at manipulating public opinions. Unlike traditional rumors or fake news editors who mainly rely on generated and/or counterfeited images, text and videos, current misinformation creators now more tend to use out-of-context multimedia contents (e.g. mismatched images and captions) to deceive the public and fake news detection systems. This new type of misinformation increases the difficulty of not only detection but also clarification, because every individual modality is close enough to true information. To address this challenge, in this paper we explore how to achieve interpretable cross-modal de-contextualization detection that simultaneously identifies the mismatched pairs and the cross-modal contradictions, which is helpful for fact-check websites to document clarifications. The proposed model first symbolically disassembles the text-modality information to a set of fact queries based on the Abstract Meaning Representation of the caption and then forwards the query-image pairs into a pre-trained large vision-language model select the ``evidences" that are helpful for us to detect misinformation. Extensive experiments indicate that the proposed methodology can provide us with much more interpretable predictions while maintaining the accuracy same as the state-of-the-art model on this task. | 翻訳日:2024-04-10 05:36:49 公開日:2024-04-05 |
| # 工学的散逸による安定な量子関連多体状態
Stable Quantum-Correlated Many Body States through Engineered Dissipation ( http://arxiv.org/abs/2304.13878v2 ) ライセンス: Link先を確認 | X. Mi, A. A. Michailidis, S. Shabani, K. C. Miao, P. V. Klimov, J. Lloyd, E. Rosenberg, R. Acharya, I. Aleiner, T. I. Andersen, M. Ansmann, F. Arute, K. Arya, A. Asfaw, J. Atalaya, J. C. Bardin, A. Bengtsson, G. Bortoli, A. Bourassa, J. Bovaird, L. Brill, M. Broughton, B. B. Buckley, D. A. Buell, T. Burger, B. Burkett, N. Bushnell, Z. Chen, B. Chiaro, D. Chik, C. Chou, J. Cogan, R. Collins, P. Conner, W. Courtney, A. L. Crook, B. Curtin, A. G. Dau, D. M. Debroy, A. Del Toro Barba, S. Demura, A. Di Paolo, I. K. Drozdov, A. Dunsworth, C. Erickson, L. Faoro, E. Farhi, R. Fatemi, V. S. Ferreira, L. F. Burgos E. Forati, A. G. Fowler, B. Foxen, E. Genois, W. Giang, C. Gidney, D. Gilboa, M. Giustina, R. Gosula, J. A. Gross, S. Habegger, M. C. Hamilton, M. Hansen, M. P. Harrigan, S. D. Harrington, P. Heu, M. R. Hoffmann, S. Hong, T. Huang, A. Huff, W. J. Huggins, L. B. Ioffe, S. V. Isakov, J. Iveland, E. Jeffrey, Z. Jiang, C. Jones, P. Juhas, D. Kafri, K. Kechedzhi, T. Khattar, M. Khezri, M. Kieferova, S. Kim, A. Kitaev, A. R. Klots, A. N. Korotkov, F. Kostritsa, J. M. Kreikebaum, D. Landhuis, P. Laptev, K. -M. Lau, L. Laws, J. Lee, K. W. Lee, Y. D. Lensky, B. J. Lester, A. T. Lill, W. Liu, A. Locharla, F. D. Malone, O. Martin, J. R. McClean, M. McEwen, A. Mieszala, S. Montazeri, A. Morvan, R. Movassagh, W. Mruczkiewicz, M. Neeley, C. Neill, A. Nersisyan, M. Newman, J. H. Ng, A. Nguyen, M. Nguyen, M. Y. Niu, T. E. OBrien, A. Opremcak, A. Petukhov, R. Potter, L. P. Pryadko, C. Quintana, C. Rocque, N. C. Rubin, N. Saei, D. Sank, K. Sankaragomathi, K. J. Satzinger, H. F. Schurkus, C. Schuster, M. J. Shearn, A. Shorter, N. Shutty, V. Shvarts, J. Skruzny, W. C. Smith, R. Somma, G. Sterling, D. Strain, M. Szalay, A. Torres, G. Vidal, B. Villalonga, C. V. Heidweiller, T. White, B. W. K. Woo, C. Xing, Z. J. Yao, P. Yeh, J. Yoo, G. Young, A. Zalcman, Y. Zhang, N. Zhu, N. Zobrist, H. Neven, R. Babbush, D. Bacon, S. Boixo, J. Hilton, E. Lucero, A. Megrant, J. Kelly, Y. Chen, P. Roushan, V. Smelyanskiy, D. A. Abanin, | (参考訳) 工学的な散逸型貯水池は、高温超伝導や量子磁気の量子シミュレーションに有用な相関した定常状態に向けて、多体量子システムを操る可能性がある。
最大49個の超伝導量子ビットを用いて, 共振補助量子ビットとの結合により, 横場イジングモデルの低エネルギー状態を構築した。
一次元では、臨界点における長距離量子相関と18量子ビットに対する基底状態の忠実度が0.86であるのが観察された。
2つの次元において、最も近い隣人を超えて広がる相互情報を発見した。
最後に, 貯水池を異なる化学的ポテンシャルでエミュレートする補助体にシステムを結合させることにより, 量子ハイゼンベルクモデルにおける輸送について検討した。
本研究は,ノイズ量子プロセッサ上での多体状態の絡み合った生成のための,ユニタリ進化のスケーラブルな代替手段として,工学的散逸を確立した。
Engineered dissipative reservoirs have the potential to steer many-body quantum systems toward correlated steady states useful for quantum simulation of high-temperature superconductivity or quantum magnetism. Using up to 49 superconducting qubits, we prepared low-energy states of the transverse-field Ising model through coupling to dissipative auxiliary qubits. In one dimension, we observed long-range quantum correlations and a ground-state fidelity of 0.86 for 18 qubits at the critical point. In two dimensions, we found mutual information that extends beyond nearest neighbors. Lastly, by coupling the system to auxiliaries emulating reservoirs with different chemical potentials, we explored transport in the quantum Heisenberg model. Our results establish engineered dissipation as a scalable alternative to unitary evolution for preparing entangled many-body states on noisy quantum processors. | 翻訳日:2024-04-10 05:36:49 公開日:2024-04-05 |
| # Ghostbuster: 大きな言語モデルで書かれたテキストゴーストを検出する
Ghostbuster: Detecting Text Ghostwritten by Large Language Models ( http://arxiv.org/abs/2305.15047v3 ) ライセンス: Link先を確認 | Vivek Verma, Eve Fleisig, Nicholas Tomlin, Dan Klein, | (参考訳) 本稿では,AI生成テキストを検出する最先端システムであるGhostbusterを紹介する。
提案手法は、文書をより弱い言語モデルに渡すことで、それらの特徴の組み合わせを構造化した検索を実行し、選択した特徴の分類器を訓練して、文書がAI生成されているかどうかを予測する。
重要なのは、Ghostbusterはターゲットモデルからトークンの確率にアクセスする必要がないため、ブラックボックスモデルや未知のモデルバージョンによって生成されたテキストを検出するのに有用である。
我々のモデルと合わせて、学生エッセイ、創造的執筆、ニュース記事の分野における検出ベンチマークとして、人間とAIが生成するテキストのデータセットを新たに3つリリースする。
我々は、Ghostbusterを、新しいRoBERTaベースラインと同様に、TectGPTやGPTZeroなど、さまざまな既存の検出器と比較する。
Ghostbusterは、ドメイン間で評価された場合、99.0 F1を達成する。
また、書き込みドメイン(+7.5 F1)、戦略(+2.1 F1)、言語モデル(+4.4 F1)をまたいだ一般化において、これまでのすべてのアプローチよりも優れていた。
また,本システムは,様々な摂動やパラフレージング攻撃に対して頑健さを解析し,非ネイティブな英語話者による文書上での性能評価を行った。
We introduce Ghostbuster, a state-of-the-art system for detecting AI-generated text. Our method works by passing documents through a series of weaker language models, running a structured search over possible combinations of their features, and then training a classifier on the selected features to predict whether documents are AI-generated. Crucially, Ghostbuster does not require access to token probabilities from the target model, making it useful for detecting text generated by black-box models or unknown model versions. In conjunction with our model, we release three new datasets of human- and AI-generated text as detection benchmarks in the domains of student essays, creative writing, and news articles. We compare Ghostbuster to a variety of existing detectors, including DetectGPT and GPTZero, as well as a new RoBERTa baseline. Ghostbuster achieves 99.0 F1 when evaluated across domains, which is 5.9 F1 higher than the best preexisting model. It also outperforms all previous approaches in generalization across writing domains (+7.5 F1), prompting strategies (+2.1 F1), and language models (+4.4 F1). We also analyze the robustness of our system to a variety of perturbations and paraphrasing attacks and evaluate its performance on documents written by non-native English speakers. | 翻訳日:2024-04-10 05:27:02 公開日:2024-04-05 |
| # 不溶性蒸留--要約・パラフレージングのための低品質モデルから高品質データセット・モデルへ
Impossible Distillation: from Low-Quality Model to High-Quality Dataset & Model for Summarization and Paraphrasing ( http://arxiv.org/abs/2305.16635v3 ) ライセンス: Link先を確認 | Jaehun Jung, Peter West, Liwei Jiang, Faeze Brahman, Ximing Lu, Jillian Fisher, Taylor Sorensen, Yejin Choi, | (参考訳) 本稿では,これらの課題を遂行できない低品質の教師から高品質なデータセットとモデルを蒸留する,言い換えと文要約の新しいフレームワークであるImpossible Distillationを提案する。
極大規模教師モデル(例, GPT3)やタスク固有アーキテクチャ(例, GPT3)に依存した先行研究とは異なり、パラフレーズがLM分布の近位部分空間を占有する事前学習されたLM(例, GPT2)に内在するパラフレーズの近さを仮説化し検証する。
これらの部分空間から世代を同定して蒸留することにより、インポッシブル蒸留は、GPT2スケールのLMでも高品質なデータセットとモデルを生成する。
制約なし/構文制御されたパラフレーズ生成と文要約にまたがる複数のベンチマークにおいて,本手法の評価を行った。
770Mパラメータを持つ我々のモデルは、ChatGPTから蒸留されたモデルや、時にはChatGPT自体よりも高いベースラインを一貫して上回ります。
また,1.5B LMの蒸留データセットは最大13倍の多様性と忠実度を示した。
We present Impossible Distillation, a novel framework for paraphrasing and sentence summarization, that distills a high-quality dataset and model from a low-quality teacher that itself cannot perform these tasks. Unlike prior works that rely on an extreme-scale teacher model (e.g., GPT3) or task-specific architecture, we hypothesize and verify the paraphrastic proximity intrinsic to pre-trained LMs (e.g., GPT2), where paraphrases occupy a proximal subspace in the LM distribution. By identifying and distilling generations from these subspaces, Impossible Distillation produces a high-quality dataset and model even from GPT2-scale LMs. We evaluate our method on multiple benchmarks spanning unconstrained / syntax-controlled paraphrase generation and sentence summarization. Our model with 770M parameters consistently outperforms strong baselines, including models distilled from ChatGPT, and sometimes, even ChatGPT itself. Also, we find that our distilled dataset from 1.5B LMs exhibits higher diversity and fidelity than up to 13 times larger datasets. | 翻訳日:2024-04-10 05:17:18 公開日:2024-04-05 |
| # 非負の低ランク半定計画法による統計的K平均クラスタリング
Statistically Optimal K-means Clustering via Nonnegative Low-rank Semidefinite Programming ( http://arxiv.org/abs/2305.18436v4 ) ライセンス: Link先を確認 | Yubo Zhuang, Xiaohui Chen, Yun Yang, Richard Y. Zhang, | (参考訳) K$-meansクラスタリングは、大規模なデータセットのパターンを識別する機械学習手法として広く使用されている。
半有限計画法(SDP)緩和法は, 統計的最適性の強い保証を享受する$K$-means最適化問題を解くために最近提案されているが, SDPソルバの実装の禁止コストは, これらの保証を実用的なデータセットに到達できないものにしている。
対照的に、非負行列分解(NMF)は、機械学習実践者が広く使用している単純なクラスタリングアルゴリズムである。
本稿では,SDP の非負の低ランク制約を非凸Burer-Monteiro 分解法を用いて緩和した$K$-means の定式化を解くことで,NMF ライクなアルゴリズムについて述べる。
結果として得られるアルゴリズムは、最先端のNMFアルゴリズムと同じくらい単純でスケーラブルであり、SDPと同じ強力な統計的最適性保証も享受している。
実験では,既存の最先端技術と比較して,アルゴリズムの誤クラスタ化誤差が著しく小さいことを観察した。
$K$-means clustering is a widely used machine learning method for identifying patterns in large datasets. Semidefinite programming (SDP) relaxations have recently been proposed for solving the $K$-means optimization problem that enjoy strong statistical optimality guarantees, but the prohibitive cost of implementing an SDP solver renders these guarantees inaccessible to practical datasets. By contrast, nonnegative matrix factorization (NMF) is a simple clustering algorithm that is widely used by machine learning practitioners, but without a solid statistical underpinning nor rigorous guarantees. In this paper, we describe an NMF-like algorithm that works by solving a nonnegative low-rank restriction of the SDP relaxed $K$-means formulation using a nonconvex Burer--Monteiro factorization approach. The resulting algorithm is just as simple and scalable as state-of-the-art NMF algorithms, while also enjoying the same strong statistical optimality guarantees as the SDP. In our experiments, we observe that our algorithm achieves substantially smaller mis-clustering errors compared to the existing state-of-the-art. | 翻訳日:2024-04-10 05:17:18 公開日:2024-04-05 |
| # CHORUS: 統一されたデータ発見と探索のための基盤モデル
CHORUS: Foundation Models for Unified Data Discovery and Exploration ( http://arxiv.org/abs/2306.09610v3 ) ライセンス: Link先を確認 | Moe Kayali, Anton Lykov, Ilias Fountalis, Nikolaos Vasiloglou, Dan Olteanu, Dan Suciu, | (参考訳) データ発見と探索のタスクに基礎モデルを適用します。
基礎モデルには大きな言語モデル(LLM)が含まれており、トレーニングとは無関係な様々なタスクにおいて有望なパフォーマンスを示す。
これらのモデルは、データ発見およびデータ探索領域に非常に適用可能であることを示す。
慎重に使用すると、テーブルクラス検出、列型アノテーション、結合カラム予測という3つの代表的なタスクにおいて優れた機能を持つ。
これら3つのタスクにおいて、基礎モデルに基づくアプローチはタスク固有のモデルよりも優れており、最先端技術であることを示す。
さらに,本手法は人間の熟練したタスク性能を超越することが多い。
いくつかの基礎モデルに対する一般化可能性や、出力に対する非決定性の影響など、このアプローチの基本的特徴について検討する。
全体として、これは、異なるデータ管理タスクを基礎モデルの下で統一できる将来的な方向性を示唆している。
We apply foundation models to data discovery and exploration tasks. Foundation models include large language models (LLMs) that show promising performance on a range of diverse tasks unrelated to their training. We show that these models are highly applicable to the data discovery and data exploration domain. When carefully used, they have superior capability on three representative tasks: table-class detection, column-type annotation and join-column prediction. On all three tasks, we show that a foundation-model-based approach outperforms the task-specific models and so the state of the art. Further, our approach often surpasses human-expert task performance. We investigate the fundamental characteristics of this approach including generalizability to several foundation models and the impact of non-determinism on the outputs. All in all, this suggests a future direction in which disparate data management tasks can be unified under foundation models. | 翻訳日:2024-04-10 05:17:18 公開日:2024-04-05 |
| # TRAQ: コンフォーマル予測による信頼性の高い検索質問の回答
TRAQ: Trustworthy Retrieval Augmented Question Answering via Conformal Prediction ( http://arxiv.org/abs/2307.04642v2 ) ライセンス: Link先を確認 | Shuo Li, Sangdon Park, Insup Lee, Osbert Bastani, | (参考訳) オープンドメインの質問応答に適用すると、大きな言語モデル(LLM)は、デマされた事実に基づいた誤った応答を頻繁に生成し、$\textit{hallucinations}$と呼ばれる。
Retrieval augmented generation(RAG)は幻覚を避けるための有望な戦略であるが、その正確性を保証するものではない。
この課題に対処するため、RAGの統計的正当性保証を初めて提供するTrustworthy Retrieval Augmented Question Answering($\textit{TRAQ}$)を提案する。
TRAQは、高い確率で意味論的に正しい応答を含むことが保証される予測セットを構築する統計的手法である共形予測を用いる。
さらに、TRAQはベイズ最適化を利用して構築された集合のサイズを最小化する。
広範囲な実験的評価において,TRAQは平均16.2%の精度で予測セットサイズを減少させつつ,所望の正確性を保証することを実証した。
実装は$\href{https://github.com/shuoli90/TRAQ.git}{TRAQ}$で利用可能である。
When applied to open-domain question answering, large language models (LLMs) frequently generate incorrect responses based on made-up facts, which are called $\textit{hallucinations}$. Retrieval augmented generation (RAG) is a promising strategy to avoid hallucinations, but it does not provide guarantees on its correctness. To address this challenge, we propose the Trustworthy Retrieval Augmented Question Answering, or $\textit{TRAQ}$, which provides the first end-to-end statistical correctness guarantee for RAG. TRAQ uses conformal prediction, a statistical technique for constructing prediction sets that are guaranteed to contain the semantically correct response with high probability. Additionally, TRAQ leverages Bayesian optimization to minimize the size of the constructed sets. In an extensive experimental evaluation, we demonstrate that TRAQ provides the desired correctness guarantee while reducing prediction set size by 16.2% on average compared to an ablation. The implementation is available at $\href{https://github.com/shuoli90/TRAQ.git}{TRAQ}$. | 翻訳日:2024-04-10 05:07:30 公開日:2024-04-05 |
| # ワイルフェルミオンに基づく情報の流れ制御装置と高エネルギー粒子の電磁相互作用に関する興味深い発言
A novel device for controlling the flow of information based on Weyl fermions and some interesting remarks regarding the electromagnetic interactions of high energy particles ( http://arxiv.org/abs/2307.06489v4 ) ライセンス: Link先を確認 | Georgios N. Tsigaridas, Aristides I. Kechriniotis, Christos A. Tsonos, Konstantinos K. Delibasis, | (参考訳) 本研究では,ワイルフェルミオンを用いて情報の流れを制御する新しい装置を提案する。
本研究では, 粒子の運動方向に垂直な電場を印加することにより, いくつかの異なるチャネル上でのワイルフェルミオンの流れを完全に制御できることを示す。
このようにして、各チャネル上のワイル電流の有無に応じて、情報を論理ビットとして送信することができる。
また,パラメータの典型的な値に対して,この装置の応答時間は非常に低く,100ペタビット/秒という極めて高い速度で情報の流れを制御可能であることを示す。
あるいは、この装置は電界センサーとしても機能する。
さらに,ワイルフェルミオンを適切な磁場を用いて効率よく導出できることを実証した。
最後に、高エネルギー粒子の電磁相互作用について、特に興味深い論点について論じる。
In this work we propose a novel device for controlling the flow of information using Weyl fermions. Based on a previous work of our group, we show that it is possible to fully control the flow of Weyl fermions on several different channels, by applying an electric field perpendicular to the direction of motion of the particles on each channel. In this way, we can transmit information as logical bits, depending on the existence or not of a Weyl current on each channel. We also show that the response time of this device is exceptionally low, less than 1 ps, for typical values of its parameters, allowing the control of the flow of information at extremely high rates, of the order of 100 Petabits per second. Alternatively, this device could also operate as an electric field sensor. In addition, we demonstrate that Weyl fermions can be efficiently guided through the proposed device using appropriate magnetic fields. Finally, we discuss some particularly interesting remarks regarding the electromagnetic interactions of high energy particles. | 翻訳日:2024-04-10 05:07:30 公開日:2024-04-05 |
| # ライダービュー合成と3次元再構成のための過渡的ニューラルラジアンス場
Transient Neural Radiance Fields for Lidar View Synthesis and 3D Reconstruction ( http://arxiv.org/abs/2307.09555v2 ) ライセンス: Link先を確認 | Anagh Malik, Parsa Mirdehghan, Sotiris Nousias, Kiriakos N. Kutulakos, David B. Lindell, | (参考訳) ニューラルレイディアンス場(NeRF)は,マルチビュー画像からシーンの外観や形状をモデル化するためのユビキタスなツールとなっている。
最近の研究は、NeRFフレームワークにおけるライダーや深度センサーのさらなる監視方法の活用も検討している。
しかし、従来のカメラ画像のレンダリングに重点を置いており、ライダー由来の点雲データを補助監督として使用しているため、ライダーの基盤となる画像形成モデルが組み込まれていない。
本稿では,光子数ヒストグラムを1光子ライダーシステムで測定した生の時間分解光子数ヒストグラムを入力として一過性NeRFを描画する手法を提案する。
従来のNeRFとは異なり、この手法は、ライダーの測定をレンダリングし、ピコ秒の時間スケールで過渡的な光輸送現象を捉えるために、体積レンダリング方程式の時間分解版に依存する。
試作した単光子ライダーを用いて, 模擬・捕捉された過渡的マルチビュースキャンの1次データセットについて評価を行った。
全体として、我々の研究は、NeRFを一過性の時間スケールで新しい次元のイメージングをもたらし、新しいビューから一過性のイメージのレンダリングを可能にした。
さらに,本手法は,入力視点の少ない場合の雲点監視と比較して,幾何や従来の外観の改善を図っている。
過渡性NeRFは、自律運転、ロボット工学、リモートセンシングにおける下流タスクの生ライダー計測をシミュレートするアプリケーションに特に有用である。
Neural radiance fields (NeRFs) have become a ubiquitous tool for modeling scene appearance and geometry from multiview imagery. Recent work has also begun to explore how to use additional supervision from lidar or depth sensor measurements in the NeRF framework. However, previous lidar-supervised NeRFs focus on rendering conventional camera imagery and use lidar-derived point cloud data as auxiliary supervision; thus, they fail to incorporate the underlying image formation model of the lidar. Here, we propose a novel method for rendering transient NeRFs that take as input the raw, time-resolved photon count histograms measured by a single-photon lidar system, and we seek to render such histograms from novel views. Different from conventional NeRFs, the approach relies on a time-resolved version of the volume rendering equation to render the lidar measurements and capture transient light transport phenomena at picosecond timescales. We evaluate our method on a first-of-its-kind dataset of simulated and captured transient multiview scans from a prototype single-photon lidar. Overall, our work brings NeRFs to a new dimension of imaging at transient timescales, newly enabling rendering of transient imagery from novel views. Additionally, we show that our approach recovers improved geometry and conventional appearance compared to point cloud-based supervision when training on few input viewpoints. Transient NeRFs may be especially useful for applications which seek to simulate raw lidar measurements for downstream tasks in autonomous driving, robotics, and remote sensing. | 翻訳日:2024-04-10 05:07:30 公開日:2024-04-05 |
| # eavesdropperの古典的影による監視量子力学の学習可能性遷移
Learnability transitions in monitored quantum dynamics via eavesdropper's classical shadows ( http://arxiv.org/abs/2307.15011v3 ) ライセンス: Link先を確認 | Matteo Ippoliti, Vedika Khemani, | (参考訳) 観測された量子力学 - 測定と交わるユニタリ進化 - は、最近、平衡から離れた量子多体系における相構造のためのリッチドメインとして出現した。
ここでは、古典的な測定結果にアクセスできるが、量子多体系にはアクセスできない盗聴者の観点から、モニタリングされたダイナミクスを考察する。
量子システムから古典的な計測記録(情報パワー)への情報フローの測定は、測定誘起相転移(MIPT)に対応して相転移することを示す。
この遷移は、監視された力学と任意の古典的な計算資源の完全な古典的な記述を与えられたとき、システムの未知の初期量子状態の特性を学習できる盗聴器(in)性を決定する。
この学習可能性遷移を、盗聴者がこの問題に適用可能な古典的シャドウプロトコルを定義することで具体化し、MIPTが様々なシャドウ推定タスクのサンプル複雑性の遷移として現れ、低測定フェーズでは困難になることを示す。
パウリ期待値(MIPTが典型的なパウリ作用素の最適学習可能性の点として現れる)、多体忠実度、および$U(1)$-symmetric dynamicsにおける大域電荷である。
我々の研究は、学習可能性の傘の下でMIPTの異なる表現を統一し、古典的な影を通して、この概念を一般的な運用上の意味を与える。
Monitored quantum dynamics -- unitary evolution interspersed with measurements -- has recently emerged as a rich domain for phase structure in quantum many-body systems away from equilibrium. Here we study monitored dynamics from the point of view of an eavesdropper who has access to the classical measurement outcomes, but not to the quantum many-body system. We show that a measure of information flow from the quantum system to the classical measurement record -- the informational power -- undergoes a phase transition in correspondence with the measurement-induced phase transition (MIPT). This transition determines the eavesdropper's (in)ability to learn properties of an unknown initial quantum state of the system, given a complete classical description of the monitored dynamics and arbitrary classical computational resources. We make this learnability transition concrete by defining classical shadows protocols that the eavesdropper may apply to this problem, and show that the MIPT manifests as a transition in the sample complexity of various shadow estimation tasks, which become harder in the low-measurement phase. We focus on three applications of interest: Pauli expectation values (where we find the MIPT appears as a point of optimal learnability for typical Pauli operators), many-body fidelity, and global charge in $U(1)$-symmetric dynamics. Our work unifies different manifestations of the MIPT under the umbrella of learnability and gives this notion a general operational meaning via classical shadows. | 翻訳日:2024-04-10 04:57:43 公開日:2024-04-05 |
| # K-band: K-space サブセット上の確率勾配Descent による自己教師型MRI再構成
K-band: Self-supervised MRI Reconstruction via Stochastic Gradient Descent over K-space Subsets ( http://arxiv.org/abs/2308.02958v2 ) ライセンス: Link先を確認 | Frederic Wang, Han Qi, Alfredo De Goyeneche, Reinhard Heckel, Michael Lustig, Efrat Shimron, | (参考訳) ディープラーニング(DL)手法は逆問題の解決には強力だが,高品質なトレーニングデータへの依存が大きなハードルとなっている。
これは高次元(ダイナミック/ボルメトリー)磁気共鳴イメージング(MRI)において重要であり、高解像度の完全サンプルk空間データの取得は現実的ではない。
我々はkバンドと呼ばれる新しい数学的枠組みを導入し、部分的かつ限定的なk空間データのみを用いてDLモデルを訓練する。
具体的には、k-空間部分集合上の確率勾配降下(SGD)によるトレーニングを導入する。
各トレーニングイテレーションでは、完全にサンプリングされたk空間を勾配の計算に使用するのではなく、小さなk空間の部分のみを使用する。
この概念は異なるサンプリング戦略と互換性があり、ここではk-空間の「バンド」の方法を示す。
我々は,2つの簡単な条件が満たされたとき,完全に教師された設定で計算された勾配を統計的に近似することが解析的に証明された。
i) 限定分解能軸は、新しいスキャン毎にランダムに一様に選択されるので、k-空間はトレーニングセット全体にわたって完全にカバーされ、
(II) 損失関数をここで解析的に導出したマスクで重み付けし, 高分解能細部を高精度に再現する。
生MRIデータを用いた数値実験により、kバンドは限定分解能データで訓練された他の2つの方法よりも優れており、高分解能データで訓練された最先端(SoTA)法と互換性があることが示された。
そのため、kバンドは、限られた解像度のデータのみを使用したトレーニングの利点を生かして、SoTAの性能を得る。
この作業は、高速な獲得と自己教師付き再構築を伴い、理論的な保証を提供する、実践的で実装が容易な自己教師型トレーニングフレームワークを導入する。
Although deep learning (DL) methods are powerful for solving inverse problems, their reliance on high-quality training data is a major hurdle. This is significant in high-dimensional (dynamic/volumetric) magnetic resonance imaging (MRI), where acquisition of high-resolution fully sampled k-space data is impractical. We introduce a novel mathematical framework, dubbed k-band, that enables training DL models using only partial, limited-resolution k-space data. Specifically, we introduce training with stochastic gradient descent (SGD) over k-space subsets. In each training iteration, rather than using the fully sampled k-space for computing gradients, we use only a small k-space portion. This concept is compatible with different sampling strategies; here we demonstrate the method for k-space "bands", which have limited resolution in one dimension and can hence be acquired rapidly. We prove analytically that our method stochastically approximates the gradients computed in a fully-supervised setup, when two simple conditions are met: (i) the limited-resolution axis is chosen randomly-uniformly for every new scan, hence k-space is fully covered across the entire training set, and (ii) the loss function is weighed with a mask, derived here analytically, which facilitates accurate reconstruction of high-resolution details. Numerical experiments with raw MRI data indicate that k-band outperforms two other methods trained on limited-resolution data and performs comparably to state-of-the-art (SoTA) methods trained on high-resolution data. k-band hence obtains SoTA performance, with the advantage of training using only limited-resolution data. This work hence introduces a practical, easy-to-implement, self-supervised training framework, which involves fast acquisition and self-supervised reconstruction and offers theoretical guarantees. | 翻訳日:2024-04-10 04:57:43 公開日:2024-04-05 |
| # 障害により抑制された化学ダイナミクスに対する集団分極効果
Collective Polaritonic Effects on Chemical Dynamics Suppressed by Disorder ( http://arxiv.org/abs/2308.03954v4 ) ライセンス: Link先を確認 | Juan B. Pérez-Sánchez, Federico Mellini, Noel C. Giebink, Joel Yuen-Zhou, | (参考訳) タンニン化方程式 (d-CUT-E) を用いて, 分子偏光子の超高速量子力学をシミュレートする強力な形式論, 乱れた集合力学, 乱れた集合力学, 乱れた集合力学, 乱れた集合力学を, 空洞モードに結合する。
注目すべきは、このダイナミクスを、$\sim N_{bins}$電子状態を持つ単一の \textit{ Effective} 分子を包含する空洞で捉えることができ、そこで、$N_{bins}\ll N$は障害分布を識別するビンの数である。
d-CUT-Eを用いて、線形光学スペクトルから評価される強い結合は、偏光子化学の指標として不十分である。
高度に乱れたアンサンブルでは、ブロードバンド励起による総反応生成はキャビティの外と同一であるが、狭帯域励起は反応前に準備された初期状態の違いによってのみ異なる反応生成を生成する。
We present a powerful formalism, disordered collective dynamics using truncated equations (d-CUT-E), to simulate the ultrafast quantum dynamics of molecular polaritons in the collective strong coupling regime, where a disordered ensemble of $N\gg10^{6}$ molecules couples to a cavity mode. Notably, we can capture this dynamics with a cavity hosting a single \textit{effective} molecule with $\sim N_{bins}$ electronic states, where $N_{bins}\ll N$ is the number of bins discretizing the disorder distribution. Using d-CUT-E we conclude that strong coupling, as evaluated from linear optical spectra, can be a poor proxy for polariton chemistry. For highly disordered ensembles, total reaction yield upon broadband excitation is identical to that outside of the cavity, while narrowband excitation produces distinct reaction yields solely due to differences in the initial states prepared prior to the reaction. | 翻訳日:2024-04-10 04:57:43 公開日:2024-04-05 |
| # インテリジェンスの理論
A Theory of Intelligences ( http://arxiv.org/abs/2308.12411v2 ) ライセンス: Link先を確認 | Michael E. Hochberg, | (参考訳) 知性は、目標を達成する能力を表す人間の構成である。
この幅広さから、知能は無数に定義され、様々な方法で研究され、多くの測度を用いて表現されてきた。
知性を理解するには理論と定量化が必要です。
私は、物理学から生物学、人間、AIに至るまで、あらゆるシステムに適用可能なフレームワーク、すなわち知性理論(TIS)を開発しています。
TISはインテリジェンスを計算に例え、情報を識別し、関連付け、統合する。
インテリジェンスは多くのレベルとスケールで運用され、TISはこれらを、目標を達成するための解決、計画、最適化に焦点を当てた、擬似的なマクロなフレームワークに分解する。
特に、インテリジェンスは、情報単位や、目標の難易度に対する単位で表すことができ、後者はシステム(個人またはベンチマーク)能力に対する複雑性として定義される。
インテリジェンスとその構成要素に関する一般的な方程式と、インテリジェンス特性の進化のための単純な表現について述べる。
ここで開発された措置は、情報のステップワイドな変換のために異なる知能の側面を測定するのに役立つかもしれない。
環境、技術、社会、集団といったプロキシは、知性の一般的な理論と、知性、特に人間における進化的遷移に不可欠である、と私は論じます。
TISの検証可能な予測で締めくくり、いくつかの憶測を提示します。
Intelligence is a human construct to represent the ability to achieve goals. Given this wide berth, intelligence has been defined countless times, studied in a variety of ways and represented using numerous measures. Understanding intelligence ultimately requires theory and quantification, both of which have proved elusive. I develop a framework -- the Theory of Intelligences (TIS) -- that applies across all systems from physics, to biology, humans and AI. TIS likens intelligence to a calculus, differentiating, correlating and integrating information. Intelligence operates at many levels and scales and TIS distils these into a parsimonious macroscopic framework centered on solving, planning and their optimization to accomplish goals. Notably, intelligence can be expressed in informational units or in units relative to goal difficulty, the latter defined as complexity relative to system (individual or benchmarked) ability. I present general equations for intelligence and its components, and a simple expression for the evolution of intelligence traits. The measures developed here could serve to gauge different facets of intelligence for any step-wise transformation of information. I argue that proxies such as environment, technology, society and collectives are essential to a general theory of intelligence and to possible evolutionary transitions in intelligence, particularly in humans. I conclude with testable predictions of TIS and offer several speculations. | 翻訳日:2024-04-10 04:47:47 公開日:2024-04-05 |
| # 散逸型ニューラル力学系を学習する
Learning Dissipative Neural Dynamical Systems ( http://arxiv.org/abs/2309.16032v2 ) ライセンス: Link先を確認 | Yuezhu Xu, S. Sivaranjani, | (参考訳) 散逸的に知られている未知の非線形力学系を考える。
本研究の目的は, モデル内の拡散特性を保ちながら, この系を近似したニューラル力学モデルを学習することである。
一般に、ニューラルネットワークトレーニング中に拡散性の制約を課すことは、既知のテクニックが存在しない難しい問題である。
本研究では,2段階の散逸性ニューラル・ダイナミクス・システムモデルを学習する問題に対処する。
まず、システムの力学を近似した、制約のない神経力学モデルを学ぶ。
次に、神経力学モデルの重みを摂動させて解離性を確保するのに十分な条件を導出し、続いてバイアスの摂動により非線形系の軌道に対するモデルの適合性を維持する。
これらの2つの摂動問題を独立に解き、非線形系を密接に近似しながら散逸することが保証される神経力学モデルが得られることを示す。
Consider an unknown nonlinear dynamical system that is known to be dissipative. The objective of this paper is to learn a neural dynamical model that approximates this system, while preserving the dissipativity property in the model. In general, imposing dissipativity constraints during neural network training is a hard problem for which no known techniques exist. In this work, we address the problem of learning a dissipative neural dynamical system model in two stages. First, we learn an unconstrained neural dynamical model that closely approximates the system dynamics. Next, we derive sufficient conditions to perturb the weights of the neural dynamical model to ensure dissipativity, followed by perturbation of the biases to retain the fit of the model to the trajectories of the nonlinear system. We show that these two perturbation problems can be solved independently to obtain a neural dynamical model that is guaranteed to be dissipative while closely approximating the nonlinear system. | 翻訳日:2024-04-10 04:37:55 公開日:2024-04-05 |
| # RF-ULM:高周波波面から学んだ超音波局在顕微鏡
RF-ULM: Ultrasound Localization Microscopy Learned from Radio-Frequency Wavefronts ( http://arxiv.org/abs/2310.01545v4 ) ライセンス: Link先を確認 | Christopher Hahne, Georges Chabouh, Arthur Chavignon, Olivier Couture, Raphael Sznitman, | (参考訳) 超音波局在顕微鏡(ultrasound Localization Microscopy, ULM)では、高分解能画像の達成は、一連のビームフォーミングフレームにわたるコントラスト剤粒子の正確な局在化に依存している。
しかし,本研究では,遅延・サマービームフォーミングの過程がラジオ周波数(RF)チャネルデータの可逆的低減につながる一方で,ローカライゼーションに対する影響は未解明のままである。
RF波面内に埋め込まれたリッチなコンテキスト情報は、その双曲的な形状とフェーズを含み、ローカライゼーションシナリオに挑戦するディープニューラルネットワーク(DNN)を導くための大きな約束を提供する。
このデータをフル活用するために,RFチャネルデータ中の散乱体を直接ローカライズする手法を提案する。
我々のアプローチは、学習した特徴チャネルシャッフル、非最大抑圧、信頼性と正確なウェーブフロントローカライゼーションのための半グローバル畳み込みブロックを用いたカスタム超解像DNNである。
さらに、Bモード座標空間へのシームレスな写像を容易にする幾何学的点変換を導入する。
ビームフォーミングがULMに与える影響を理解するため,本手法の有効性をState-Of-The-Art(SOTA)技術との比較により検証した。
そこで本研究では,波面局在DNNによる生体内実験を行い,実世界の実用性を強調した。
RF-ULMは、合成データセットと実データセットの領域シフトをブリッジし、精度と複雑さの点で大きな優位性をもたらす。
我々の発見の恩恵を受けるために、私たちのコードと関連するSOTAメソッドはhttps://github.com/hahnec/rf-ulm.comで公開されています。
In Ultrasound Localization Microscopy (ULM), achieving high-resolution images relies on the precise localization of contrast agent particles across a series of beamformed frames. However, our study uncovers an enormous potential: The process of delay-and-sum beamforming leads to an irreversible reduction of Radio-Frequency (RF) channel data, while its implications for localization remain largely unexplored. The rich contextual information embedded within RF wavefronts, including their hyperbolic shape and phase, offers great promise for guiding Deep Neural Networks (DNNs) in challenging localization scenarios. To fully exploit this data, we propose to directly localize scatterers in RF channel data. Our approach involves a custom super-resolution DNN using learned feature channel shuffling, non-maximum suppression, and a semi-global convolutional block for reliable and accurate wavefront localization. Additionally, we introduce a geometric point transformation that facilitates seamless mapping to the B-mode coordinate space. To understand the impact of beamforming on ULM, we validate the effectiveness of our method by conducting an extensive comparison with State-Of-The-Art (SOTA) techniques. We present the inaugural in vivo results from a wavefront-localizing DNN, highlighting its real-world practicality. Our findings show that RF-ULM bridges the domain shift between synthetic and real datasets, offering a considerable advantage in terms of precision and complexity. To enable the broader research community to benefit from our findings, our code and the associated SOTA methods are made available at https://github.com/hahnec/rf-ulm. | 翻訳日:2024-04-10 04:28:07 公開日:2024-04-05 |
| # 汎用ハイブリッド量子コンピューティング資源の効率的な生成のための機械学習
Machine learning for efficient generation of universal hybrid quantum computing resources ( http://arxiv.org/abs/2310.03130v2 ) ライセンス: Link先を確認 | Amanuel Anteneh, Olivier Pfister, | (参考訳) 我々は,光子数分解検出法によりサンプリングされた時間多重光回路である計測ベース量子プロセッサ上での深部強化学習の数値シミュレーションを行い,これを平均成功率98%で生成し,他の同様の提案をはるかに上回る結果を得た。
We present numerical simulations of deep reinforcement learning on a measurement-based quantum processor--a time-multiplexed optical circuit sampled by photon-number-resolving detection--and find it generates squeezed cat states with an average success rate of 98%, far outperforming all other similar proposals. | 翻訳日:2024-04-10 04:28:07 公開日:2024-04-05 |
| # SWE-bench: 言語モデルは現実のGitHubの問題を解決することができるか?
SWE-bench: Can Language Models Resolve Real-World GitHub Issues? ( http://arxiv.org/abs/2310.06770v2 ) ライセンス: Link先を確認 | Carlos E. Jimenez, John Yang, Alexander Wettig, Shunyu Yao, Kexin Pei, Ofir Press, Karthik Narasimhan, | (参考訳) 言語モデルは、効果的に評価する能力を上回っていますが、将来の発展のためには、その能力のフロンティアを研究することが不可欠です。
私たちは、現実世界のソフトウェアエンジニアリングが、次世代の言語モデルを評価するためのリッチで持続可能で挑戦的なテストベッドであることに気付きました。
この目的のために、SWE-benchを紹介します。SWE-benchは、実際のGitHub問題から引き出された2,294ドルのソフトウェアエンジニアリング問題と、12ドルのポピュラーなPythonレポジトリに対するプルリクエストで構成される評価フレームワークです。
解決すべき問題の説明とともにコードベースが与えられると、言語モデルはコードベースを編集して問題に対処する。
SWE-benchの問題を解決するには、複数の関数、クラス、ファイルの同時変更の理解と調整、実行環境とのインタラクションのためのモデル呼び出し、非常に長いコンテキストの処理、従来のコード生成タスクを超えて複雑な推論を実行する必要がある。
我々の評価は、最先端のプロプライエタリモデルと微調整モデルSWE-Llamaの両方が、最も単純な問題のみを解決可能であることを示している。
最高のパフォーマンスモデルであるClaude 2は、たった1.96$%の問題を解決することができる。
SWEベンチの進歩は、より実用的でインテリジェントで自律的なLMに向けたステップを表している。
Language models have outpaced our ability to evaluate them effectively, but for their future development it is essential to study the frontier of their capabilities. We find real-world software engineering to be a rich, sustainable, and challenging testbed for evaluating the next generation of language models. To this end, we introduce SWE-bench, an evaluation framework consisting of $2,294$ software engineering problems drawn from real GitHub issues and corresponding pull requests across $12$ popular Python repositories. Given a codebase along with a description of an issue to be resolved, a language model is tasked with editing the codebase to address the issue. Resolving issues in SWE-bench frequently requires understanding and coordinating changes across multiple functions, classes, and even files simultaneously, calling for models to interact with execution environments, process extremely long contexts and perform complex reasoning that goes far beyond traditional code generation tasks. Our evaluations show that both state-of-the-art proprietary models and our fine-tuned model SWE-Llama can resolve only the simplest issues. The best-performing model, Claude 2, is able to solve a mere $1.96$% of the issues. Advances on SWE-bench represent steps towards LMs that are more practical, intelligent, and autonomous. | 翻訳日:2024-04-10 04:28:07 公開日:2024-04-05 |
| # D^{(2)}_3$スピン鎖の開境界条件と共形場理論のセクター
Open boundary conditions of the $D^{(2)}_3$ spin chain and sectors of conformal field theories ( http://arxiv.org/abs/2310.18499v2 ) ライセンス: Link先を確認 | Pete Rigas, | (参考訳) 我々は6頂点モデルと接続する$D^{(2)}_3$スピン鎖の開境界条件と反強磁性ポッツモデルについて検討する。
適切な転移行列を定式化することにより、積分可能で開ハミルトニアンが得られるので、基礎となる共形体論の異なる領域をハミルトニアンの固有値から分類することができる。
We study open boundary conditions for the $D^{(2)}_3$ spin chain, which shares connections with the six-vertex model, under staggering, and also to the antiferromagnetic Potts model. By formulating a suitable transfer matrix, we obtain an integrable, open Hamiltonian, hence allowing for us to classify different regions of the underlying conformal field theory from eigenvalues of the Hamiltonian. | 翻訳日:2024-04-10 02:35:24 公開日:2024-04-05 |
| # プロセッサのない機械学習:非線形電子メタマテリアルにおける創発的学習
Machine Learning Without a Processor: Emergent Learning in a Nonlinear Electronic Metamaterial ( http://arxiv.org/abs/2311.00537v2 ) ライセンス: Link先を確認 | Sam Dillavou, Benjamin D Beyer, Menachem Stern, Andrea J Liu, Marc Z Miskin, Douglas J Durian, | (参考訳) 標準的なディープラーニングアルゴリズムでは、大きな非線形ネットワークを区別する必要がある。
電子学習メタマテリアルは、アナログ機械学習のための高速で効率的でフォールトトレラントなハードウェアを提供するが、既存の実装は線形であり、その能力を著しく制限している。
これらのシステムは、人工ニューラルネットワークと脳とは大きく異なるため、非線形要素を組み込む可能性や実用性は研究されていない。
ここでは、トランジスタに基づく非線形抵抗素子を自己調整したアナログ電子ネットワークである非線形学習メタマテリアルを紹介する。
我々は,XORや非線形回帰を含む線形システムでは不可能なタスクをコンピュータなしで学習できることを実証した。
非線形学習メタマテリアルは、ニューラルネットワークのスペクトルバイアスと同様、順序(平均、傾斜、曲率)におけるトレーニングエラーのモードを減少させる。
回路は損傷に対して堅牢であり、数秒で再訓練可能であり、各トランジスタにまたがるピコジュールのみを散逸させながら、マイクロ秒で学習タスクを実行する。
これは、センサー、ロボットコントローラー、医療機器などのエッジシステムにおける高速で低消費電力のコンピューティングと、創発的学習の実行と研究のための大規模製造可能性の巨大な可能性を示唆している。
Standard deep learning algorithms require differentiating large nonlinear networks, a process that is slow and power-hungry. Electronic learning metamaterials offer potentially fast, efficient, and fault-tolerant hardware for analog machine learning, but existing implementations are linear, severely limiting their capabilities. These systems differ significantly from artificial neural networks as well as the brain, so the feasibility and utility of incorporating nonlinear elements have not been explored. Here we introduce a nonlinear learning metamaterial -- an analog electronic network made of self-adjusting nonlinear resistive elements based on transistors. We demonstrate that the system learns tasks unachievable in linear systems, including XOR and nonlinear regression, without a computer. We find our nonlinear learning metamaterial reduces modes of training error in order (mean, slope, curvature), similar to spectral bias in artificial neural networks. The circuitry is robust to damage, retrainable in seconds, and performs learned tasks in microseconds while dissipating only picojoules of energy across each transistor. This suggests enormous potential for fast, low-power computing in edge systems like sensors, robotic controllers, and medical devices, as well as manufacturability at scale for performing and studying emergent learning. | 翻訳日:2024-04-10 02:25:39 公開日:2024-04-05 |
| # 反復的パラメータアライメントを用いた分岐領域間のクロスサイロフェデレーション学習
Cross-Silo Federated Learning Across Divergent Domains with Iterative Parameter Alignment ( http://arxiv.org/abs/2311.04818v3 ) ライセンス: Link先を確認 | Matt Gorbett, Hossein Shirazi, Indrakshi Ray, | (参考訳) プライベートソースに分散したデータの集合的知識から学ぶことは、一般化機能を強化したニューラルネットワークを提供することができる。
リモートクライアント間で機械学習モデルを協調的にトレーニングするフェデレーション学習は、中央サーバのオーケストレーションを通じてクライアントモデルを組み合わせることで、これを実現する。
しかし、現在のアプローチには2つの限界がある。
一 クライアントドメインが十分に異なるとき、収束に苦しむこと。
二 現在の集約技術は、各クライアントに対して同一のグローバルモデルを作成します。
本研究では,一つのグローバルモデルを学ぶのではなく,共通の目的のために最適化されたNモデルを学ぶ。
これを実現するために、ピアツーピアトポロジで共有されるモデルパラメータに重み付き距離最小化を適用する。
結果のフレームワークであるイテレーティブパラメータアライメント(Iterative Parameter Alignment)は、クロスサイロ設定に自然に適用され、以下の特性を持つ。
一 参加者ごとに一意の解決策であって、各モデルを連合にグローバルに収束させる選択肢があるもの
(II) 協調学習環境において, 相手同士の公平性を付与するオプションの早期学習機構について検討した。
これらの特徴は、異なるデータセットでトレーニングされたピアモデルから反復的に学習するフレキシブルな新しいフレームワークを共同で提供する。
この技術は、最先端のアプローチと比較して、様々なデータパーティションにおける競合的な結果が得られることがわかった。
さらに、既存のアプローチが苦労している領域(例えば、ピア間での解離クラス)に頑健であることを示す。
Learning from the collective knowledge of data dispersed across private sources can provide neural networks with enhanced generalization capabilities. Federated learning, a method for collaboratively training a machine learning model across remote clients, achieves this by combining client models via the orchestration of a central server. However, current approaches face two critical limitations: i) they struggle to converge when client domains are sufficiently different, and ii) current aggregation techniques produce an identical global model for each client. In this work, we address these issues by reformulating the typical federated learning setup: rather than learning a single global model, we learn N models each optimized for a common objective. To achieve this, we apply a weighted distance minimization to model parameters shared in a peer-to-peer topology. The resulting framework, Iterative Parameter Alignment, applies naturally to the cross-silo setting, and has the following properties: (i) a unique solution for each participant, with the option to globally converge each model in the federation, and (ii) an optional early-stopping mechanism to elicit fairness among peers in collaborative learning settings. These characteristics jointly provide a flexible new framework for iteratively learning from peer models trained on disparate datasets. We find that the technique achieves competitive results on a variety of data partitions compared to state-of-the-art approaches. Further, we show that the method is robust to divergent domains (i.e. disjoint classes across peers) where existing approaches struggle. | 翻訳日:2024-04-10 02:25:39 公開日:2024-04-05 |
| # 微細調整によるGPT-4のRLHF保護除去
Removing RLHF Protections in GPT-4 via Fine-Tuning ( http://arxiv.org/abs/2311.05553v3 ) ライセンス: Link先を確認 | Qiusi Zhan, Richard Fang, Rohan Bindu, Akul Gupta, Tatsunori Hashimoto, Daniel Kang, | (参考訳) 大規模言語モデル(LLM)の能力が向上するにつれ、両用の可能性も高まっている。
有害な出力を減らすため、LLMの製造と販売業者は、人間からのフィードバックによる強化学習(RLHF)を使用している。
LLMベンダーはますます、最も強力なモデルの微調整を可能にしている。
しかし、同時に行われた研究により、微調整がRLHF保護を除去できることが示されている。
現在利用可能な最も強力なモデル(GPT-4)は、微調整攻撃の影響を受けにくいだろう。
細調整により、攻撃者は340のサンプルと95%の成功率でRLHF保護を除去できる。
これらのトレーニング例は、より弱いモデルで自動的に生成できる。
さらに、RLHF保護の除去は、非検閲出力の有用性を低下させるものではないことを示し、我々の微調整戦略がトレーニングデータを生成するために弱いモデルを用いても有用性を低下させないことを示す。
以上の結果から,LLMの保護に関するさらなる研究の必要性が示唆された。
As large language models (LLMs) have increased in their capabilities, so does their potential for dual use. To reduce harmful outputs, produces and vendors of LLMs have used reinforcement learning with human feedback (RLHF). In tandem, LLM vendors have been increasingly enabling fine-tuning of their most powerful models. However, concurrent work has shown that fine-tuning can remove RLHF protections. We may expect that the most powerful models currently available (GPT-4) are less susceptible to fine-tuning attacks. In this work, we show the contrary: fine-tuning allows attackers to remove RLHF protections with as few as 340 examples and a 95% success rate. These training examples can be automatically generated with weaker models. We further show that removing RLHF protections does not decrease usefulness on non-censored outputs, providing evidence that our fine-tuning strategy does not decrease usefulness despite using weaker models to generate training data. Our results show the need for further research on protections on LLMs. | 翻訳日:2024-04-10 02:25:39 公開日:2024-04-05 |
| # 連鎖推論における知覚的セマンティックショートカット:モデルが幻覚なしでどこまで進むことができるか?
Deceptive Semantic Shortcuts on Reasoning Chains: How Far Can Models Go without Hallucination? ( http://arxiv.org/abs/2311.09702v3 ) ライセンス: Link先を確認 | Bangzheng Li, Ben Zhou, Fei Wang, Xingyu Fu, Dan Roth, Muhao Chen, | (参考訳) 大規模言語モデル(LLM)の最近の進歩と、多くのベンチマークにおける高いパフォーマンスにもかかわらず、最近の研究はLLMが幻覚や不誠実な推論に悩まされていることを明らかにしている。
本研究はセマンティックアソシエーションによって誘発される特定の種類の幻覚の研究である。
具体的には、LLMが正しい推論経路に従うのではなく、プロンプト内の特定のキーワード/エンタリティバイアスからショートカットをどの程度取るかを検討する。
この現象を定量化するために,EureQAと呼ばれる新しい探索手法とベンチマークを提案する。
まず LLM が完全確実性で正しく答える質問から始め、重要なエンティティを証拠文で再帰的に隠蔽し、モデルに質問に答える前に、一連の証拠に従ってマスクされたエンティティを見つけるよう求めます。
証拠を構築する際には、意図的な意味的手がかり (entities) を置き換えて、正しい答えに直結するのではなく、連鎖のような推論プロセスを必要とするような注意深い手がかり (evidence) で正しい答えを導き出す。
注意散らしの手掛かりを省略する代わりに、モデルが正しい推論チェーンに従うことができるかどうかを評価する。
既存のLSMは正しい推論経路を辿り、欲張りのショートカットに抵抗するために必要な能力が欠如していることが判明した。
注意散らしのセマンティック・アソシエーションは、しばしばモデル幻覚を引き起こすことが示され、これは現在のLSM推論の有効性に疑問を呈する強い証拠である。
Despite the recent advancement in large language models (LLMs) and their high performances across numerous benchmarks, recent research has unveiled that LLMs suffer from hallucinations and unfaithful reasoning. This work studies a specific type of hallucination induced by semantic associations. Specifically, we investigate to what extent LLMs take shortcuts from certain keyword/entity biases in the prompt instead of following the correct reasoning path. To quantify this phenomenon, we propose a novel probing method and benchmark called EureQA. We start from questions that LLMs will answer correctly with utmost certainty, and mask the important entity with evidence sentence recursively, asking models to find masked entities according to a chain of evidence before answering the question. During the construction of the evidence, we purposefully replace semantic clues (entities) that may lead to the correct answer with distractor clues (evidence) that will not directly lead to the correct answer but require a chain-like reasoning process. We evaluate if models can follow the correct reasoning chain instead of short-cutting through distractor clues. We find that existing LLMs lack the necessary capabilities to follow correct reasoning paths and resist the attempt of greedy shortcuts. We show that the distractor semantic associations often lead to model hallucination, which is strong evidence that questions the validity of current LLM reasoning. | 翻訳日:2024-04-10 02:15:45 公開日:2024-04-05 |
| # 悪魔は細かな詳細の中にいる: 細かな理解のためにオープン語彙オブジェクト検出器を評価する
The devil is in the fine-grained details: Evaluating open-vocabulary object detectors for fine-grained understanding ( http://arxiv.org/abs/2311.17518v2 ) ライセンス: Link先を確認 | Lorenzo Bianchi, Fabio Carrara, Nicola Messina, Claudio Gennaro, Fabrizio Falchi, | (参考訳) 大規模視覚言語モデルの最近の進歩は、推論中にオブジェクトクラスを自由テキスト形式で定義するオープン語彙シナリオにおける視覚的オブジェクト検出を可能にした。
本稿では,オープン語彙オブジェクト検出の最先端手法を探索し,オブジェクトとその部分の微細な特性がどの程度理解されているかを明らかにすることを目的とする。
そこで本研究では、動的語彙生成に基づく評価プロトコルを導入し、モデルがハードネガティブなクラスの存在下でオブジェクトに対して正確な粒度記述を検出し、識別し、割り当てするかどうかを検証する。
難易度を高め、色、パターン、材料といった異なる特性を探索するベンチマークスイートにコントリビュートしています。
提案プロトコルを用いて最先端のオープンボキャブラリオブジェクト検出器を複数評価し,標準のオープンボキャブラリベンチマークに照らされた既存のほとんどのソリューションが,より微細なオブジェクトの詳細を正確に把握し識別するのに苦労していることを見出した。
本稿は、現在の方法論の限界を強調し、発見された欠点を克服するための有望な研究方向性を探求することによって、結論を導いた。
データとコードはhttps://lorebianchi98.github.io/FG-OVD/で入手できる。
Recent advancements in large vision-language models enabled visual object detection in open-vocabulary scenarios, where object classes are defined in free-text formats during inference. In this paper, we aim to probe the state-of-the-art methods for open-vocabulary object detection to determine to what extent they understand fine-grained properties of objects and their parts. To this end, we introduce an evaluation protocol based on dynamic vocabulary generation to test whether models detect, discern, and assign the correct fine-grained description to objects in the presence of hard-negative classes. We contribute with a benchmark suite of increasing difficulty and probing different properties like color, pattern, and material. We further enhance our investigation by evaluating several state-of-the-art open-vocabulary object detectors using the proposed protocol and find that most existing solutions, which shine in standard open-vocabulary benchmarks, struggle to accurately capture and distinguish finer object details. We conclude the paper by highlighting the limitations of current methodologies and exploring promising research directions to overcome the discovered drawbacks. Data and code are available at https://lorebianchi98.github.io/FG-OVD/. | 翻訳日:2024-04-10 02:06:00 公開日:2024-04-05 |
| # 大規模言語モデルで幻覚と誤認を識別する分別型プログラムによるプロンプト
Prompting with Divide-and-Conquer Program Makes Large Language Models Discerning to Hallucination and Deception ( http://arxiv.org/abs/2402.05359v4 ) ライセンス: Link先を確認 | Yizhou Zhang, Lun Du, Defu Cao, Qiang Fu, Yan Liu, | (参考訳) LLM(Large Language Models)のような基礎的なモデルは、多数のアプリケーションによって大きな関心を集めている。
既存の研究は、Chain-of-Thoughtsのような適切なプロンプト設計が、様々な分野でLLMの強力な能力を解き放つことを示している。
しかし、算術計算や記事レベルの偽ニュース検出など、反復的なサブタスクや偽装コンテンツを含むタスクを扱う場合、既存のプロンプト戦略は、表現力の不足や幻覚によって引き起こされる中間的エラーに悩まされる。
このような中間誤差に対してLLMをより明瞭にするために,Divide-and-Conquerプログラムを用いてLCMを誘導し,優れた表現力を確保し,タスクの分解,サブタスクの分解,分解処理を分離する手法を提案する。
理論解析により, 固定深度変圧器の表現力を拡張するために LLM を誘導できることが判明した。
実験の結果,提案手法は,中間的誤りや大きな整数乗算,幻覚検出,誤情報検出などの誤認内容に悩まされるタスクにおいて,通常の実行戦略よりも優れた性能を達成できることが示唆された。
Foundation models, such as Large language Models (LLMs), have attracted significant amount of interest due to their large number of applications. Existing works show that appropriate prompt design, such as Chain-of-Thoughts, can unlock LLM's powerful capacity in diverse areas. However, when handling tasks involving repetitive sub-tasks and/or deceptive contents, such as arithmetic calculation and article-level fake news detection, existing prompting strategies either suffers from insufficient expressive power or intermediate errors triggered by hallucination. To make LLM more discerning to such intermediate errors, we propose to guide LLM with a Divide-and-Conquer program that simultaneously ensures superior expressive power and disentangles task decomposition, sub-task resolution, and resolution assembly process. Theoretic analysis reveals that our strategy can guide LLM to extend the expressive power of fixed-depth Transformer. Experiments indicate that our proposed method can achieve better performance than typical prompting strategies in tasks bothered by intermediate errors and deceptive contents, such as large integer multiplication, hallucination detection and misinformation detection. | 翻訳日:2024-04-10 01:16:32 公開日:2024-04-05 |
| # チューニングイン:限られたデータを用いた臨床施設における音声分類器の性能分析
Tuning In: Analysis of Audio Classifier Performance in Clinical Settings with Limited Data ( http://arxiv.org/abs/2402.10100v3 ) ライセンス: Link先を確認 | Hamza Mahdi, Eptehal Nashnoush, Rami Saab, Arjun Balachandar, Rishit Dagli, Lucas X. Perri, Houman Khosravani, | (参考訳) 本研究では,実世界の予測データ収集を反映した小さなデータセットの制約を伴って,臨床環境での音声分類のためのディープラーニングモデルを評価する。
我々は、DenseNetやConvNeXtなどのCNNを、VT、SWIN、ASTなどのトランスフォーマーモデルとともに分析し、YAMNetやVGGishといった事前訓練されたオーディオモデルと比較する。
本手法は,特定の臨床データを微調整する前に,大規模データセットで事前トレーニングを行うことの利点を強調した。
脳卒中患者の音声データセットを前向きに収集した。
各種前処理技術について検討し,RGBおよびグレースケールのスペクトログラム変換が事前学習から学習した事前学習に基づいて,モデル性能に異なる影響を及ぼすことを示した。
以上の結果から,CNNは,DenseNet-ContrastiveモデルやASTモデルなど,小さなデータセットコンテキストでトランスフォーマーモデルに適合または超過可能であることが示唆された。
本研究は、音響分類におけるモデル選択、事前学習、前処理による段階的限界利得の重要性を強調し、オーディオ分類に依存する臨床診断に有用な知見を提供する。
This study assesses deep learning models for audio classification in a clinical setting with the constraint of small datasets reflecting real-world prospective data collection. We analyze CNNs, including DenseNet and ConvNeXt, alongside transformer models like ViT, SWIN, and AST, and compare them against pre-trained audio models such as YAMNet and VGGish. Our method highlights the benefits of pre-training on large datasets before fine-tuning on specific clinical data. We prospectively collected two first-of-their-kind patient audio datasets from stroke patients. We investigated various preprocessing techniques, finding that RGB and grayscale spectrogram transformations affect model performance differently based on the priors they learn from pre-training. Our findings indicate CNNs can match or exceed transformer models in small dataset contexts, with DenseNet-Contrastive and AST models showing notable performance. This study highlights the significance of incremental marginal gains through model selection, pre-training, and preprocessing in sound classification; this offers valuable insights for clinical diagnostics that rely on audio classification. | 翻訳日:2024-04-10 01:06:46 公開日:2024-04-05 |
| # 図形情報のない社会バイアスの緩和のためのプロトタイプ表現の活用
Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information ( http://arxiv.org/abs/2403.09516v3 ) ライセンス: Link先を確認 | Shadi Iskander, Kira Radinsky, Yonatan Belinkov, | (参考訳) 社会的バイアスを緩和するには、典型的には、各データサンプルに関連付けられた社会的グループを特定する必要がある。
本稿では,言語モデルにおける社会的バイアスに対処する新しいアプローチであるDAFairを提案する。
明示的な人口統計ラベルに依存する従来の方法とは異なり、我々のアプローチはそのような情報を必要としない。
代わりに、事前定義された原型的人口統計テキストを活用し、微調整プロセス中に正規化用語を組み込んで、モデルの表現におけるバイアスを軽減する。
2つのタスクと2つのモデルにまたがる実験結果から,ラベル付きデータに依存しない従来の手法と比較して,提案手法の有効性が示された。
さらに,人口統計アノテートデータに制限があるため,本手法は一般的なデバイアス・アプローチより優れている。
Mitigating social biases typically requires identifying the social groups associated with each data sample. In this paper, we present DAFair, a novel approach to address social bias in language models. Unlike traditional methods that rely on explicit demographic labels, our approach does not require any such information. Instead, we leverage predefined prototypical demographic texts and incorporate a regularization term during the fine-tuning process to mitigate bias in the model's representations. Our empirical results across two tasks and two models demonstrate the effectiveness of our method compared to previous approaches that do not rely on labeled data. Moreover, with limited demographic-annotated data, our approach outperforms common debiasing approaches. | 翻訳日:2024-04-10 00:37:15 公開日:2024-04-05 |
| # キャッシングによる長寿命マルチエージェントパスの探索
Caching-Augmented Lifelong Multi-Agent Path Finding ( http://arxiv.org/abs/2403.13421v3 ) ライセンス: Link先を確認 | Yimin Tang, Zhenghong Yu, Yi Zheng, T. K. Satish Kumar, Jiaoyang Li, Sven Koenig, | (参考訳) マルチエージェントパス探索(MAPF: Multi-Agent Path Finding)は、複数のロボットの衝突のない経路を見つけることを含む、様々な用途において重要である。
Lifelong MAPFは、最初のターゲットが完成したらすぐにターゲットをエージェントに割り当てるが、現実の倉庫計画のより正確な近似を提供する。
本稿では,ライフロングMAPFの性能向上を目的とした,Caching-Augmented Lifelong MAPF (CAL-MAPF) という新しいメカニズムを提案する。
我々は、一時的アイテム記憶と置換のためのキャッシュと呼ばれる新しいタイプのマップグリッドを開発し、プランニングソリューションの安定性を改善するためのロック機構を作成しました。
タスクアサインラ(TA)は、CAL-MAPFがエージェントにターゲット位置を割り当て、異なる状況でエージェントの状態を制御するように設計されている。
CAL-MAPFはキャッシュ置換ポリシーと入力タスク分布を用いて評価されている。
実験によりCAL-MAPFの性能に顕著な3つの要因を同定した: 適切な入力タスク分布、高いキャッシュヒット率、スムーズなトラフィック。
一般に、CAL-MAPFは特定のタスク分布、マップおよびエージェント構成におけるパフォーマンス改善の可能性を実証している。
Multi-Agent Path Finding (MAPF), which involves finding collision-free paths for multiple robots, is crucial in various applications. Lifelong MAPF, where targets are reassigned to agents as soon as they complete their initial targets, offers a more accurate approximation of real-world warehouse planning. In this paper, we present a novel mechanism named Caching-Augmented Lifelong MAPF (CAL-MAPF), designed to improve the performance of Lifelong MAPF. We have developed a new type of map grid called cache for temporary item storage and replacement, and created a locking mechanism to improve the planning solution's stability. A task assigner (TA) is designed for CAL-MAPF to allocate target locations to agents and control agent status in different situations. CAL-MAPF has been evaluated using various cache replacement policies and input task distributions. We have identified three main factors significantly impacting CAL-MAPF performance through experimentation: suitable input task distribution, high cache hit rate, and smooth traffic. In general, CAL-MAPF has demonstrated potential for performance improvements in certain task distributions, map and agent configurations. | 翻訳日:2024-04-10 00:37:15 公開日:2024-04-05 |
| # 自己指導型学習のためのデータ多様性の事前学習について
On Pretraining Data Diversity for Self-Supervised Learning ( http://arxiv.org/abs/2403.13808v2 ) ライセンス: Link先を確認 | Hasan Abed Al Kader Hammoud, Tuhin Das, Fabio Pizzati, Philip Torr, Adel Bibi, Bernard Ghanem, | (参考訳) 我々は,より多様なデータセットを用いたトレーニングが,固定された計算予算下での自己教師付き学習(SSL)のパフォーマンスに与える影響について検討する。
以上の結果から,事前学習データの多様性の増大はSSLの性能を向上させるが,下流データへの分布距離が最小である場合に限る。
特に、Webクローリングや拡散生成データといった手法によって達成された、非常に大きな事前学習データ多様性であっても、分散シフトは依然として課題である。
実験では,ImageNetやYFCC100Mといった大規模データセットを用いた7つのSSL手法を総合的に検討した。
コードとトレーニングされたモデルはhttps://github.com/hammoudhasan/DiversitySSLで利用可能になる。
We explore the impact of training with more diverse datasets, characterized by the number of unique samples, on the performance of self-supervised learning (SSL) under a fixed computational budget. Our findings consistently demonstrate that increasing pretraining data diversity enhances SSL performance, albeit only when the distribution distance to the downstream data is minimal. Notably, even with an exceptionally large pretraining data diversity achieved through methods like web crawling or diffusion-generated data, among other ways, the distribution shift remains a challenge. Our experiments are comprehensive with seven SSL methods using large-scale datasets such as ImageNet and YFCC100M amounting to over 200 GPU days. Code and trained models will be available at https://github.com/hammoudhasan/DiversitySSL . | 翻訳日:2024-04-10 00:37:15 公開日:2024-04-05 |
| # トランスを用いたIoTアプリケーションのための自動変調認識の強化
Enhancing Automatic Modulation Recognition for IoT Applications Using Transformers ( http://arxiv.org/abs/2403.15417v2 ) ライセンス: Link先を確認 | Narges Rashvand, Kenneth Witham, Gabriel Maldonado, Vinit Katariya, Nishanth Marer Prabhu, Gunar Schirner, Hamed Tabkhi, | (参考訳) 自動変調認識(AMR)は、IoTエコシステムにおけるエッジデバイス内の操作を最適化するための重要なタスクである、受信信号内の変調タイプを正確に識別するために不可欠である。
本稿では,自然言語処理のためのトランスフォーマーネットワークを活用し,効率的なAMRの課題に対処する革新的な手法を提案する。
当社のトランスフォーマーネットワークアーキテクチャは、IoTデバイス上でのリアルタイムエッジコンピューティングの考え方に基づいて設計されています。
RF信号の適切な埋め込みを作成するための4つのトークン化技術が提案され、特にIoTシナリオでしばしば発生するモデルサイズに関する制限を克服することに焦点を当てている。
実験の結果,提案手法は高度な深層学習技術より優れており,高い認識精度が得られた。
特に、我々のモデルは、RML2016で65.75、CSPB.ML.2018+データセットで65.80の精度を実現している。
Automatic modulation recognition (AMR) is vital for accurately identifying modulation types within incoming signals, a critical task for optimizing operations within edge devices in IoT ecosystems. This paper presents an innovative approach that leverages Transformer networks, initially designed for natural language processing, to address the challenges of efficient AMR. Our transformer network architecture is designed with the mindset of real-time edge computing on IoT devices. Four tokenization techniques are proposed and explored for creating proper embeddings of RF signals, specifically focusing on overcoming the limitations related to the model size often encountered in IoT scenarios. Extensive experiments reveal that our proposed method outperformed advanced deep learning techniques, achieving the highest recognition accuracy. Notably, our model achieves an accuracy of 65.75 on the RML2016 and 65.80 on the CSPB.ML.2018+ dataset. | 翻訳日:2024-04-10 00:27:26 公開日:2024-04-05 |
| # オープン環境におけるオブジェクト検出器:課題、解決策、展望
Object Detectors in the Open Environment: Challenges, Solutions, and Outlook ( http://arxiv.org/abs/2403.16271v3 ) ライセンス: Link先を確認 | Siyuan Liang, Wei Wang, Ruoyu Chen, Aishan Liu, Boxi Wu, Ee-Chien Chang, Xiaochun Cao, Dacheng Tao, | (参考訳) 基礎モデルの出現に伴い、深層学習に基づくオブジェクト検出器は、クローズドセットのシナリオで実用的なユーザビリティを示してきた。
しかし、現実世界のタスクでは、オブジェクト検出器は、しばしばオープンな環境で動作し、モデル学習に影響を与える重要な要因(例えば、データ分散、目的)が頻繁に変化している。
オープン環境のダイナミックで複雑な性質は、オブジェクト検出器に新しくて恐ろしい挑戦をもたらす。
残念ながら、現在のオープン環境におけるオブジェクト検出器の研究は、それらの特徴、課題、およびそれに対応するソリューションの包括的な分析を欠いている。
本稿では,オープン環境における物体検出装置の総合的なレビューと解析を行うことにより,このギャップを埋めることを目的とする。
当初我々は、既存の検出パイプラインにおける重要な構造コンポーネントの制限を特定し、データ/ターゲットの変化の次元に基づいて、4つの四分法(領域外、カテゴリ外、堅牢な学習、漸進的な学習)を含むオープン環境オブジェクト検出挑戦フレームワークを提案しました。
提案するフレームワークにおける課題の4つごとに,その概要と課題の体系的な説明と分析を行い,対応するソリューションを体系的にレビューし,複数の広く採用されているデータセットに対してその性能をベンチマークする。
また,オープンな問題と今後の研究への潜在的道筋についても議論する。
本研究の目的は、オープン環境オブジェクト検出器に関連する課題と解決策について、新しく、包括的で体系的な理解を提供することであり、現実のシナリオにおけるより堅牢なアプリケーションの開発を促進することである。
この調査に関連するプロジェクトはhttps://github.com/LiangSiyuan21/OEOD_Survey.comにある。
With the emergence of foundation models, deep learning-based object detectors have shown practical usability in closed set scenarios. However, for real-world tasks, object detectors often operate in open environments, where crucial factors (e.g., data distribution, objective) that influence model learning are often changing. The dynamic and intricate nature of the open environment poses novel and formidable challenges to object detectors. Unfortunately, current research on object detectors in open environments lacks a comprehensive analysis of their distinctive characteristics, challenges, and corresponding solutions, which hinders their secure deployment in critical real-world scenarios. This paper aims to bridge this gap by conducting a comprehensive review and analysis of object detectors in open environments. We initially identified limitations of key structural components within the existing detection pipeline and propose the open environment object detector challenge framework that includes four quadrants (i.e., out-of-domain, out-of-category, robust learning, and incremental learning) based on the dimensions of the data / target changes. For each quadrant of challenges in the proposed framework, we present a detailed description and systematic analysis of the overarching goals and core difficulties, systematically review the corresponding solutions, and benchmark their performance over multiple widely adopted datasets. In addition, we engage in a discussion of open problems and potential avenues for future research. This paper aims to provide a fresh, comprehensive, and systematic understanding of the challenges and solutions associated with open-environment object detectors, thus catalyzing the development of more solid applications in real-world scenarios. A project related to this survey can be found at https://github.com/LiangSiyuan21/OEOD_Survey. | 翻訳日:2024-04-10 00:27:26 公開日:2024-04-05 |
| # FairCLIP:ビジョンランゲージ学習における公平さ
FairCLIP: Harnessing Fairness in Vision-Language Learning ( http://arxiv.org/abs/2403.19949v2 ) ライセンス: Link先を確認 | Yan Luo, Min Shi, Muhammad Osama Khan, Muhammad Muneeb Afzal, Hao Huang, Shuaihang Yuan, Yu Tian, Luo Song, Ava Kouhana, Tobias Elze, Yi Fang, Mengyu Wang, | (参考訳) 公平性は、ディープラーニング、特に医療において重要な関心事であり、これらのモデルが診断や治療決定に影響を及ぼす。
視覚のみの領域ではフェアネスが研究されているが、医療用視覚言語(VL)モデルのフェアネスは、フェアネスを研究するための医療用VLデータセットが不足しているため、未探索のままである。
この研究ギャップを埋めるために、VLファンデーションモデル内でのフェアネスの詳細な検証を容易にするために、詳細な人口統計特性、地味ラベル、臨床ノートを提供する最初のフェアビジョン言語医療データセットであるHarvard-FairVLMedを導入する。
Harvard-FairVLMedを用いて、4つの異なる保護属性に対して、自然ドメインと医療ドメインの両方で事前訓練された2つの広く使用されているVLモデル(CLIPとBLIP2)の総合的公正性分析を行う。
以上の結果から,アジア,男性,非ヒスパニック,スペインがそれぞれ,人種,性別,民族,言語という保護された属性のサブグループとして好まれる,すべてのVLモデルに有意な偏見が認められた。
これらのバイアスを軽減するために,各人口集団に対応する分布とサンプル分布とのシンクホーン距離を削減し,性能と公平性の良好なトレードオフを実現するための,最適輸送に基づくFairCLIPを提案する。
この種の最初のVLデータセットとして、Harvard-FairVLMedは、倫理的に認識され、臨床的に有効である機械学習モデルの開発における進歩を触媒する可能性を秘めている。
私たちのデータセットとコードはhttps://ophai.hms.harvard.edu/datasets/harvard-fairvlmed10kで公開されています。
Fairness is a critical concern in deep learning, especially in healthcare, where these models influence diagnoses and treatment decisions. Although fairness has been investigated in the vision-only domain, the fairness of medical vision-language (VL) models remains unexplored due to the scarcity of medical VL datasets for studying fairness. To bridge this research gap, we introduce the first fair vision-language medical dataset Harvard-FairVLMed that provides detailed demographic attributes, ground-truth labels, and clinical notes to facilitate an in-depth examination of fairness within VL foundation models. Using Harvard-FairVLMed, we conduct a comprehensive fairness analysis of two widely-used VL models (CLIP and BLIP2), pre-trained on both natural and medical domains, across four different protected attributes. Our results highlight significant biases in all VL models, with Asian, Male, Non-Hispanic, and Spanish being the preferred subgroups across the protected attributes of race, gender, ethnicity, and language, respectively. In order to alleviate these biases, we propose FairCLIP, an optimal-transport-based approach that achieves a favorable trade-off between performance and fairness by reducing the Sinkhorn distance between the overall sample distribution and the distributions corresponding to each demographic group. As the first VL dataset of its kind, Harvard-FairVLMed holds the potential to catalyze advancements in the development of machine learning models that are both ethically aware and clinically effective. Our dataset and code are available at https://ophai.hms.harvard.edu/datasets/harvard-fairvlmed10k. | 翻訳日:2024-04-10 00:16:23 公開日:2024-04-05 |
| # FairRAG:フェアリトリーバル拡張によるフェアヒューマンジェネレーション
FairRAG: Fair Human Generation via Fair Retrieval Augmentation ( http://arxiv.org/abs/2403.19964v3 ) ライセンス: Link先を確認 | Robik Shrestha, Yang Zou, Qiuyu Chen, Zhiheng Li, Yusheng Xie, Siqi Deng, | (参考訳) 既存のテキスト・画像生成モデルは、トレーニングデータに内在する社会的バイアスを反映または増幅する。
これは、モデルが特定の人口集団に偏っている人間の画像生成に特に関係している。
この問題を解決するための既存の試みは、事前訓練されたモデルの固有の制限によって妨げられ、人口多様性を著しく改善することができない。
本研究では,Fair Retrieval Augmented Generation (FairRAG)について紹介する。FairRAGは,外部画像データベースから取得した参照画像に対して,事前学習した生成モデルを条件付けし,人間の生成における公平性を改善するフレームワークである。
FairRAGは、参照画像をテキスト空間に投影する軽量リニアモジュールによる条件付けを可能にする。
公平性を高めるために、FairRAGは単純なyet- Effective debiasing戦略を適用し、生成過程において多様な人口集団の画像を提供する。
大規模な実験により、FairRAGは人口多様性、画像テキストアライメント、画像の忠実度において既存の手法よりも優れており、推論中に最小の計算オーバーヘッドが生じることが示された。
Existing text-to-image generative models reflect or even amplify societal biases ingrained in their training data. This is especially concerning for human image generation where models are biased against certain demographic groups. Existing attempts to rectify this issue are hindered by the inherent limitations of the pre-trained models and fail to substantially improve demographic diversity. In this work, we introduce Fair Retrieval Augmented Generation (FairRAG), a novel framework that conditions pre-trained generative models on reference images retrieved from an external image database to improve fairness in human generation. FairRAG enables conditioning through a lightweight linear module that projects reference images into the textual space. To enhance fairness, FairRAG applies simple-yet-effective debiasing strategies, providing images from diverse demographic groups during the generative process. Extensive experiments demonstrate that FairRAG outperforms existing methods in terms of demographic diversity, image-text alignment, and image fidelity while incurring minimal computational overhead during inference. | 翻訳日:2024-04-10 00:16:23 公開日:2024-04-05 |
| # 大規模言語モデルはいかにして社会的に補助的な人間とロボットの相互作用を可能にするか:簡単な調査
How Can Large Language Models Enable Better Socially Assistive Human-Robot Interaction: A Brief Survey ( http://arxiv.org/abs/2404.00938v2 ) ライセンス: Link先を確認 | Zhonghao Shi, Ellen Landrum, Amy O' Connell, Mina Kian, Leticia Pinto-Alva, Kaleen Shrestha, Xiaoyuan Zhu, Maja J Matarić, | (参考訳) 社会支援ロボット(SAR)は、高齢者、自閉症スペクトラム障害(ASD)児、精神健康上の課題を抱える個人など、特別なニーズを持つ利用者に対して、パーソナライズされた認知影響支援を提供することで大きな成功を収めている。
SARに関する大規模な研究は、精神保健専門家が提供したクリニックベースの介入を補完する在宅サポートを提供することの可能性を示し、これらの介入をより効果的かつアクセスしやすいものにする。
しかし、SARを介するインタラクションや介入が人間レベルの社会的知性と有効性に到達するのを妨げる、いくつかの大きな技術的課題がある。
大規模言語モデル(LLM)の最近の進歩により、SARの現在の能力を大幅に拡張できる新しい応用の可能性が高まっている。
しかし、LSMの導入は、まだ遭遇していない新たなリスクと倫理的懸念を導入し、これらのより高度なシステムを安全にデプロイするには慎重に対処する必要がある。
本研究は,SAR技術におけるLLMの利用に関する簡単な調査を行い,SARの次の3つの主要な技術的課題にLLMを適用する可能性とリスクについて考察することを目的とする。
1) 自然言語対話
2) マルチモーダル理解
3)ロボット政策としてのLSM
Socially assistive robots (SARs) have shown great success in providing personalized cognitive-affective support for user populations with special needs such as older adults, children with autism spectrum disorder (ASD), and individuals with mental health challenges. The large body of work on SAR demonstrates its potential to provide at-home support that complements clinic-based interventions delivered by mental health professionals, making these interventions more effective and accessible. However, there are still several major technical challenges that hinder SAR-mediated interactions and interventions from reaching human-level social intelligence and efficacy. With the recent advances in large language models (LLMs), there is an increased potential for novel applications within the field of SAR that can significantly expand the current capabilities of SARs. However, incorporating LLMs introduces new risks and ethical concerns that have not yet been encountered, and must be carefully be addressed to safely deploy these more advanced systems. In this work, we aim to conduct a brief survey on the use of LLMs in SAR technologies, and discuss the potentials and risks of applying LLMs to the following three major technical challenges of SAR: 1) natural language dialog; 2) multimodal understanding; 3) LLMs as robot policies. | 翻訳日:2024-04-10 00:06:38 公開日:2024-04-05 |
| # 材料力学の量子インフォームドシミュレーション:DFTB+MBDフレームワーク
Quantum-informed simulations for mechanics of materials: DFTB+MBD framework ( http://arxiv.org/abs/2404.04216v1 ) ライセンス: Link先を確認 | Zhaoxiang Shen, Raúl I. Sosa, Stéphane P. A. Bordas, Alexandre Tkatchenko, Jakub Lengiewicz, | (参考訳) 材料のマクロな挙動は、複数の長さと時間スケールで発生する相互作用によって決定される。
アプリケーションによっては、これらの振る舞いを記述、予測、理解するためには、電子的および原子的スケールからの洞察に依存するモデルが必要である。
このような場合、これらのスケールでの古典的な単純化された近似は不十分であり、量子ベースモデリングが必要である。
本稿では, 材料工学に関連するシステムの力学特性を量子効果によってどのように変化させるかを検討する。
我々は,量子第一原理に基づく2つの計算効率の良いモデル,密度汎関数タイト結合 (DFTB) と多体分散 (MBD) を組み合わせた高忠実度モデリングフレームワークを基礎とした。
MBDモデルは非共有のファンデルワールス相互作用を正確に記述するために用いられる。
様々なベンチマークアプリケーションを通じて、このフレームワークの機能と単純化されたモデリングの限界を実証する。
この作業で提示されたすべてのコード、データセット、サンプルを含むオープンソースリポジトリを提供する。
このレポジトリは,量子力学的忠実度を用いた大規模・マルチスケールの効率的なモデリングにおける今後の研究を支援するための,実用的なツールキットとして機能する。
The macroscopic behaviors of materials are determined by interactions that occur at multiple lengths and time scales. Depending on the application, describing, predicting, and understanding these behaviors require models that rely on insights from electronic and atomic scales. In such cases, classical simplified approximations at those scales are insufficient, and quantum-based modeling is required. In this paper, we study how quantum effects can modify the mechanical properties of systems relevant to materials engineering. We base our study on a high-fidelity modeling framework that combines two computationally efficient models rooted in quantum first principles: Density Functional Tight Binding (DFTB) and many-body dispersion (MBD). The MBD model is applied to accurately describe non-covalent van der Waals interactions. Through various benchmark applications, we demonstrate the capabilities of this framework and the limitations of simplified modeling. We provide an open-source repository containing all codes, datasets, and examples presented in this work. This repository serves as a practical toolkit that we hope will support the development of future research in effective large-scale and multiscale modeling with quantum-mechanical fidelity. | 翻訳日:2024-04-09 23:46:55 公開日:2024-04-05 |
| # AuditGPT: ChatGPTによるスマートコントラクトの監査
AuditGPT: Auditing Smart Contracts with ChatGPT ( http://arxiv.org/abs/2404.04306v1 ) ライセンス: Link先を確認 | Shihao Xia, Shuai Shao, Mengting He, Tingting Yu, Linhai Song, Yiying Zhang, | (参考訳) Ethereum上で動作するスマートコントラクトを管理するために、複数のEthereum Request for Comment(ERC)標準が開発され、スマートコントラクトの動作をガイドする一連のルールが含まれている。
ERCルールの違反は深刻なセキュリティ問題と財政的損失を引き起こし、ERCに従うスマートコントラクトを検証することの重要性を示している。
このような検証の今日の実践は、個々の契約を手動で監査するか、専門家が開発した限定的なプログラム分析ツールを使用するかで、どちらもERCのルール違反を特定するのに効果的ではない。
本稿では,大規模言語モデル(LLM)を活用してERCルールをスマートコントラクトに対して自動かつ包括的に検証するAuditGPTというツールを提案する。
AuditGPTを構築するために、我々はまず、4つの人気のあるERCで規定されている222のERCルールについて実証的研究を行い、それらの内容、セキュリティへの影響、自然言語での仕様、そしてそれらのソリデーティにおける実装について理解した。
本研究では,大規模で複雑な監査プロセスを小さな管理可能なタスクに分割してAuditGPTを構築し,各ERCルールタイプに特化した設計プロンプトを作成し,LLMの監査性能を向上させる。
評価において、AuditGPTは、418のERC規則違反を指摘し、18の偽陽性のみを報告し、その有効性と正確性を示している。
さらにAuditGPTは、セキュリティ専門家が提供する監査サービスを、有効性、正確性、コストで打ち負かし、最先端のスマートコントラクト監査プラクティスに対する進歩を実証している。
To govern smart contracts running on Ethereum, multiple Ethereum Request for Comment (ERC) standards have been developed, each containing a set of rules to guide the behaviors of smart contracts. Violating the ERC rules could cause serious security issues and financial loss, signifying the importance of verifying smart contracts follow ERCs. Today's practices of such verification are to either manually audit each single contract or use expert-developed, limited-scope program-analysis tools, both of which are far from being effective in identifying ERC rule violations. This paper presents a tool named AuditGPT that leverages large language models (LLMs) to automatically and comprehensively verify ERC rules against smart contracts. To build AuditGPT, we first conduct an empirical study on 222 ERC rules specified in four popular ERCs to understand their content, their security impacts, their specification in natural language, and their implementation in Solidity. Guided by the study, we construct AuditGPT by separating the large, complex auditing process into small, manageable tasks and design prompts specialized for each ERC rule type to enhance LLMs' auditing performance. In the evaluation, AuditGPT successfully pinpoints 418 ERC rule violations and only reports 18 false positives, showcasing its effectiveness and accuracy. Moreover, AuditGPT beats an auditing service provided by security experts in effectiveness, accuracy, and cost, demonstrating its advancement over state-of-the-art smart-contract auditing practices. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # ビッグモデル時代の視覚的知識 : 振り返りと展望
Visual Knowledge in the Big Model Era: Retrospect and Prospect ( http://arxiv.org/abs/2404.04308v1 ) ライセンス: Link先を確認 | Wenguan Wang, Yi Yang, Yunhe Pan, | (参考訳) 視覚知識は、認知心理学に深く根ざした、簡潔で包括的で解釈可能な方法で視覚概念とその関係をカプセル化できる知識表現の新しい形態である。
視覚世界に関する知識は、人間の認知と知性にとって欠かせない要素として認識されているため、視覚知識は、機械知性を確立する上で重要な役割を担っていると考えられる。
人工知能(AI)技術の最近の進歩により、大規模なAIモデル(または基礎モデル)は、広義のデータから多義パターンを暗黙の知識として抽出し、それらを無数の数値パラメータに抽象化する強力なツールとして登場した。
この波の中で視覚知識を付与するAIマシンを創出するために、我々は、大型モデル時代における視覚知識の起源と発展を調査し、大型モデル時代における視覚知識の機会とユニークな役割をアクセントするタイムリーなレビューを提示する。
Visual knowledge is a new form of knowledge representation that can encapsulate visual concepts and their relations in a succinct, comprehensive, and interpretable manner, with a deep root in cognitive psychology. As the knowledge about the visual world has been identified as an indispensable component of human cognition and intelligence, visual knowledge is poised to have a pivotal role in establishing machine intelligence. With the recent advance of Artificial Intelligence (AI) techniques, large AI models (or foundation models) have emerged as a potent tool capable of extracting versatile patterns from broad data as implicit knowledge, and abstracting them into an outrageous amount of numeric parameters. To pave the way for creating visual knowledge empowered AI machines in this coming wave, we present a timely review that investigates the origins and development of visual knowledge in the pre-big model era, and accentuates the opportunities and unique role of visual knowledge in the big model era. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # 強化学習による変調不安定の抑制
Suppressing Modulation Instability with Reinforcement Learning ( http://arxiv.org/abs/2404.04310v1 ) ライセンス: Link先を確認 | Nikolay Kalmykov, Rishat Zagidullin, Oleg Rogov, Sergey Rykovanov, Dmitry V. Dylov, | (参考訳) 変調不安定性(Modulation instability)は、非線形媒体において自発的なパターン形成の現象であり、しばしば予測不可能な振る舞いと興味の信号の劣化につながる。
非線形系のポテンシャルの時間変調パラメータを最適化することにより, 不安定なモードを抑えるための強化学習に基づく手法を提案する。
我々は,本手法を1次元および2次元のケースで検証し,味付けされた不安定性を保証するために,身体的に有意な報酬関数の新たなクラスを提案する。
Modulation instability is a phenomenon of spontaneous pattern formation in nonlinear media, oftentimes leading to an unpredictable behaviour and a degradation of a signal of interest. We propose an approach based on reinforcement learning to suppress the unstable modes by optimizing the parameters for the time modulation of the potential in the nonlinear system. We test our approach in 1D and 2D cases and propose a new class of physically-meaningful reward functions to guarantee tamed instability. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # 動的閾値を持つ畳み込みオートエンコーダを用いたリアルタイム異常検出
A Real-time Anomaly Detection Using Convolutional Autoencoder with Dynamic Threshold ( http://arxiv.org/abs/2404.04311v1 ) ライセンス: Link先を確認 | Sarit Maitra, Sukanya Kundu, Aishwarya Shankar, | (参考訳) 現代の消費者レベルのエネルギーの大部分は、リアルタイムのスマート計測システムによって生成される。
これらはしばしば異常を含んでおり、シリーズの進化の信頼できる推定を妨げている。
この研究は統計と畳み込みオートエンコーダを動的しきい値で組み合わせたハイブリッドモデリング手法を導入する。
閾値はマハラノビス距離と移動平均に基づいて決定される。
スマート計測システムから収集した実生活エネルギー消費データを用いてテストされている。
このソリューションには、高度な監視システムに接続するリアルタイムのメーターレベルの異常検知システムが含まれている。
これにより、異常なデータの動きを検出し、早期に警告を発することで、かなりの貢献をする。
早期発見とトラブルシューティングは、組織や消費者に経済的に利益をもたらし、災害の発生を防止する。
The majority of modern consumer-level energy is generated by real-time smart metering systems. These frequently contain anomalies, which prevent reliable estimates of the series' evolution. This work introduces a hybrid modeling approach combining statistics and a Convolutional Autoencoder with a dynamic threshold. The threshold is determined based on Mahalanobis distance and moving averages. It has been tested using real-life energy consumption data collected from smart metering systems. The solution includes a real-time, meter-level anomaly detection system that connects to an advanced monitoring system. This makes a substantial contribution by detecting unusual data movements and delivering an early warning. Early detection and subsequent troubleshooting can financially benefit organizations and consumers and prevent disasters from occurring. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # ニューラルネットワークにおける半空間特徴学習
Half-Space Feature Learning in Neural Networks ( http://arxiv.org/abs/2404.04312v1 ) ライセンス: Link先を確認 | Mahesh Lorik Yadav, Harish Guruprasad Ramaswamy, Chandrashekar Lakshminarayanan, | (参考訳) 現在、ニューラルネットワークの特徴学習には2つの極端な視点がある。
二 ニューラルネットワークが単にカーネルメソッド(ラ・NTK)を実装するだけで、そのため特徴が学習されないこと。
(ii) ニューラルネットワークは、データに適した複雑な階層的特徴を表現(そして学習)することができる。
この論文では、どちらの解釈も斬新な視点で正しいとは考えにくいと論じている。
ニューラルネットワークは専門家の混在と見なすことができ、各専門家は隠されたユニットのシーケンスを通した(層の長さの)パスに対応する。
我々は、この代替解釈を用いて、深い線形ネットワークとReLUネットワークの中間に位置するDeep Linearly Gated Network (DLGN)と呼ばれるモデルを動機付ける。
深い線形ネットワークとは異なり、DLGNは非線形特徴(後に線形結合される)を学習でき、ReLUネットワークとは異なりこれらの特徴は究極的には単純であり、各特徴は入力空間内の(層数)ハーフスペースの交叉としてコンパクトに記述された領域の指標関数である。
この視点は、サリエンシ/アクティベーション/グラディエントマップに基づいたニューロンの局所的な可視化とは異なり、機能の包括的なグローバルな可視化を可能にする。
DLGNにおける特徴学習は起こり、そのメカニズムは、対象関数の滑らかな領域を含む入力空間のハーフスペースを学習することである。
DLGNの構造のため、後層のニューロンは基本的に前層のニューロンと同じであり、いずれも半空間を表すが、勾配降下のダイナミクスは後層のニューロンに異なるクラスタリングを与える。
我々は、ReLUネットワークも似たような特徴学習行動を持っていると仮定する。
There currently exist two extreme viewpoints for neural network feature learning -- (i) Neural networks simply implement a kernel method (a la NTK) and hence no features are learned (ii) Neural networks can represent (and hence learn) intricate hierarchical features suitable for the data. We argue in this paper neither interpretation is likely to be correct based on a novel viewpoint. Neural networks can be viewed as a mixture of experts, where each expert corresponds to a (number of layers length) path through a sequence of hidden units. We use this alternate interpretation to motivate a model, called the Deep Linearly Gated Network (DLGN), which sits midway between deep linear networks and ReLU networks. Unlike deep linear networks, the DLGN is capable of learning non-linear features (which are then linearly combined), and unlike ReLU networks these features are ultimately simple -- each feature is effectively an indicator function for a region compactly described as an intersection of (number of layers) half-spaces in the input space. This viewpoint allows for a comprehensive global visualization of features, unlike the local visualizations for neurons based on saliency/activation/gradient maps. Feature learning in DLGNs is shown to happen and the mechanism with which this happens is through learning half-spaces in the input space that contain smooth regions of the target function. Due to the structure of DLGNs, the neurons in later layers are fundamentally the same as those in earlier layers -- they all represent a half-space -- however, the dynamics of gradient descent impart a distinct clustering to the later layer neurons. We hypothesize that ReLU networks also have similar feature learning behaviour. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # JobFormer:Semantic-Enhanced Transformerを使用したスキル対応求人勧告
JobFormer: Skill-Aware Job Recommendation with Semantic-Enhanced Transformer ( http://arxiv.org/abs/2404.04313v1 ) ライセンス: Link先を確認 | Zhihao Guan, Jia-Qi Yang, Yang Yang, Hengshu Zhu, Wenjie Li, Hui Xiong, | (参考訳) ジョブレコメンデーションは、プロアクティブな人材募集において不可欠な役割を担っているキャリアの軌道と整合した求職記述(JD)を潜在的な人材に提供することを目的としている。
実世界の管理シナリオでは、利用可能なJD-ユーザレコードは、常にJD、ユーザプロファイル、クリックデータから構成される。
既存の高度なレコメンデーション手法を直接適用することは可能だが,JD自体の情報不足や,JDとユーザプロファイルの自然な不均一なギャップを考慮し,効果的なレコメンデーションには依然として課題がある。
これらの課題に対処するため、我々は、JDを解析し、パーソナライズされたジョブレコメンデーションを完全化する設計されたセマンティック・エンハンスド・トランスフォーマーに基づく、新しいスキルアウェア・レコメンデーションモデルを提案した。
具体的には、まず各JDの相対的項目をモデル化し、次に、局所的なアテンション機構を備えたエンコーダを採用して、JDタプルからのジョブ内およびジョブ間の依存関係をよりよくマイニングする。
さらに、スキル・アウェア・レコメンデーションのための2段階の学習戦略を採用し、スキル・ディストリビューションを利用して、リコール段階におけるJD表現学習をガイドし、その後、ランキング段階における最終予測にユーザプロファイルを組み合わせる。
その結果、JDを学習するためのコンテキスト意味表現をリッチに組み込むことができ、スキル認識による推薦はクリックスルー率(CTR)予測に有効なJD-ユーザ共同表現を提供する。
ジョブレコメンデーション手法の優れた性能を検証するため,大規模な実世界のデータセットと公開データセットを徹底的に分析し,その有効性と解釈可能性を示す。
Job recommendation aims to provide potential talents with suitable job descriptions (JDs) consistent with their career trajectory, which plays an essential role in proactive talent recruitment. In real-world management scenarios, the available JD-user records always consist of JDs, user profiles, and click data, in which the user profiles are typically summarized as the user's skill distribution for privacy reasons. Although existing sophisticated recommendation methods can be directly employed, effective recommendation still has challenges considering the information deficit of JD itself and the natural heterogeneous gap between JD and user profile. To address these challenges, we proposed a novel skill-aware recommendation model based on the designed semantic-enhanced transformer to parse JDs and complete personalized job recommendation. Specifically, we first model the relative items of each JD and then adopt an encoder with the local-global attention mechanism to better mine the intra-job and inter-job dependencies from JD tuples. Moreover, we adopt a two-stage learning strategy for skill-aware recommendation, in which we utilize the skill distribution to guide JD representation learning in the recall stage, and then combine the user profiles for final prediction in the ranking stage. Consequently, we can embed rich contextual semantic representations for learning JDs, while skill-aware recommendation provides effective JD-user joint representation for click-through rate (CTR) prediction. To validate the superior performance of our method for job recommendation, we present a thorough empirical analysis of large-scale real-world and public datasets to demonstrate its effectiveness and interpretability. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # Faraday:スマートグリッドのための合成スマートメータージェネレータ
Faraday: Synthetic Smart Meter Generator for the smart grid ( http://arxiv.org/abs/2404.04314v1 ) ライセンス: Link先を確認 | Sheng Chai, Gus Chadney, | (参考訳) スマートメーターデータへのアクセスは、電気自動車(EV)やヒートポンプといった低炭素技術によって供給される柔軟性に支えられ、再生可能エネルギーによって駆動される、電化されたグリッドへの迅速かつ成功的な移行に不可欠である。
しかし、消費者プライバシ保護のため、調査やモデリング目的で利用できるデータはほとんどない。
多くの人は、規制の変更によって生のデータセットをアンロックするよう求めているが、このアプローチには時間がかかりすぎると信じている。
合成データは、プライバシー問題を克服することで、これらの課題に対処する。
本稿では,英国におけるエネルギー供給業者から3億以上のスマートメーターデータ読取を訓練した変分オートエンコーダ(VAE)ベースのモデルであるFaradayについて,プロパティタイプや低炭素技術(LCT)の所有権などの情報を提供する。
本モデルは,これらのラベルに条件付き家庭用レベルの合成負荷プロファイルを生成し,その出力を実際のサブステーション読影値と比較し,将来のエネルギーグリッドのモデル化に関心のあるグリッドモデラーによる実世界の応用にどのように利用できるかを示す。
Access to smart meter data is essential to rapid and successful transitions to electrified grids, underpinned by flexibility delivered by low carbon technologies, such as electric vehicles (EV) and heat pumps, and powered by renewable energy. Yet little of this data is available for research and modelling purposes due consumer privacy protections. Whilst many are calling for raw datasets to be unlocked through regulatory changes, we believe this approach will take too long. Synthetic data addresses these challenges directly by overcoming privacy issues. In this paper, we present Faraday, a Variational Auto-encoder (VAE)-based model trained over 300 million smart meter data readings from an energy supplier in the UK, with information such as property type and low carbon technologies (LCTs) ownership. The model produces household-level synthetic load profiles conditioned on these labels, and we compare its outputs against actual substation readings to show how the model can be used for real-world applications by grid modellers interested in modelling energy grids of the future. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # 幾何回転による擬直交ファインチューニングのパラメータ
Parameter Efficient Quasi-Orthogonal Fine-Tuning via Givens Rotation ( http://arxiv.org/abs/2404.04316v1 ) ライセンス: Link先を確認 | Xinyu Ma, Xu Chu, Zhibang Yang, Yang Lin, Xin Gao, Junfeng Zhao, | (参考訳) より強力な性能とPLM(Pretrained Language Models)の大規模化により、微調整におけるパラメータ効率の促進は、様々な下流タスクに効果的かつ効率的に適応するための重要な必要性となっている。
微調整法の代表行は直交微調整(Orthogonal Fine-tuning, OFT)であり、予め訓練された知識を保存するためにパラメータ空間内の角距離を厳格に保存する。
経験的効果にもかかわらず、OFT は $\mathcal{O}(d^2)$ のパラメータ効率が低く、下流適応の限界がある。
本稿では,ギフト回転にインスパイアされた準ギブンズオルソゴン微調整(qGOFT)を提案し,この問題に対処した。
最初に$\mathcal{O}(d)$ givens 回転を使い、証明可能な同値で$SO(d)$ の任意の直交変換を達成し、パラメータの複雑さを $\mathcal{O}(d^2)$ から $\mathcal{O}(d)$ に還元する。
次に,ソフト直交正規化の下でのフレキシブルノルムと相対角調整を導入し,下流のセマンティック偏差の適応性を高める。
各種タスクおよびPLMに関する広範囲な実験により,本手法の有効性が検証された。
With the increasingly powerful performances and enormous scales of Pretrained Language Models (PLMs), promoting parameter efficiency in fine-tuning has become a crucial need for effective and efficient adaptation to various downstream tasks. One representative line of fine-tuning methods is Orthogonal Fine-tuning (OFT), which rigorously preserves the angular distances within the parameter space to preserve the pretrained knowledge. Despite the empirical effectiveness, OFT still suffers low parameter efficiency at $\mathcal{O}(d^2)$ and limited capability of downstream adaptation. Inspired by Givens rotation, in this paper, we proposed quasi-Givens Orthogonal Fine-Tuning (qGOFT) to address the problems. We first use $\mathcal{O}(d)$ Givens rotations to accomplish arbitrary orthogonal transformation in $SO(d)$ with provable equivalence, reducing parameter complexity from $\mathcal{O}(d^2)$ to $\mathcal{O}(d)$. Then we introduce flexible norm and relative angular adjustments under soft orthogonality regularization to enhance the adaptation capability of downstream semantic deviations. Extensive experiments on various tasks and PLMs validate the effectiveness of our methods. | 翻訳日:2024-04-09 23:37:10 公開日:2024-04-05 |
| # DeepLINK-T:ノックオフとLSTMを用いた時系列データのディープラーニング推論
DeepLINK-T: deep learning inference for time series data using knockoffs and LSTM ( http://arxiv.org/abs/2404.04317v1 ) ライセンス: Link先を確認 | Wenxuan Zuo, Zifan Zhu, Yuxuan Du, Yi-Chun Yeh, Jed A. Fuhrman, Jinchi Lv, Yingying Fan, Fengzhu Sun, | (参考訳) 高次元時系列データは、様々な実世界のアプリケーションで広く使われている。
そのような応用の多くは、高次元の時系列共変量を持つ回帰問題としてモデル化することができる。
ディープラーニングは、これらの回帰モデルに適合するためのポピュラーで強力なツールです。
しかし、解釈可能かつ再現可能なディープラーニングモデルの開発は困難であり、未調査のままである。
本研究では,時間系列データ(DeepLINK-T)に対するノックオフを用いた深層学習推論(Deep Learning Inference)を提案する。
DeepLINK-Tは、深層学習とノックオフ推論を組み合わせることで、時系列モデルの特徴選択におけるFDRを制御する。
時系列の共変量における時間変化の潜在因子構造を活用することで、時間と機能間の依存関係に対処する。
DeepLINK-Tの3つの重要な材料
1)時系列のノックオフ変数を生成するためのLong Short-Term Memory(LSTM)オートエンコーダ。
2)オリジナル変数とノックオフ変数の両方を用いたLSTM予測ネットワーク
3) FDR制御による可変選択のためのノックオフフレームワークの適用。
DeepLINK-Tの性能評価のための大規模なシミュレーション研究が行われ、FDRを効果的に制御し、非時系列データと比較して高次元長手時系列データに優れた特徴選択能力を示す。
DeepLINK-Tは、3つのメダゲノミクスデータセットに適用され、実用性と有効性を検証し、現実世界の応用におけるその可能性を裏付ける。
High-dimensional longitudinal time series data is prevalent across various real-world applications. Many such applications can be modeled as regression problems with high-dimensional time series covariates. Deep learning has been a popular and powerful tool for fitting these regression models. Yet, the development of interpretable and reproducible deep-learning models is challenging and remains underexplored. This study introduces a novel method, Deep Learning Inference using Knockoffs for Time series data (DeepLINK-T), focusing on the selection of significant time series variables in regression while controlling the false discovery rate (FDR) at a predetermined level. DeepLINK-T combines deep learning with knockoff inference to control FDR in feature selection for time series models, accommodating a wide variety of feature distributions. It addresses dependencies across time and features by leveraging a time-varying latent factor structure in time series covariates. Three key ingredients for DeepLINK-T are 1) a Long Short-Term Memory (LSTM) autoencoder for generating time series knockoff variables, 2) an LSTM prediction network using both original and knockoff variables, and 3) the application of the knockoffs framework for variable selection with FDR control. Extensive simulation studies have been conducted to evaluate DeepLINK-T's performance, showing its capability to control FDR effectively while demonstrating superior feature selection power for high-dimensional longitudinal time series data compared to its non-time series counterpart. DeepLINK-T is further applied to three metagenomic data sets, validating its practical utility and effectiveness, and underscoring its potential in real-world applications. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 偏光プロンプト核融合チューニングによるロバスト深さ向上
Robust Depth Enhancement via Polarization Prompt Fusion Tuning ( http://arxiv.org/abs/2404.04318v1 ) ライセンス: Link先を確認 | Kei Ikemura, Yiming Huang, Felix Heide, Zhaoxiang Zhang, Qifeng Chen, Chenyang Lei, | (参考訳) 既存の深度センサーは不完全であり、透明物体や反射物体の存在など、困難なシナリオにおいて不正確な深度値を提供する可能性がある。
本研究では,様々な深度センサによる不正確な深度測定を改善するために偏光イメージングを利用する汎用フレームワークを提案する。
従来の偏光法に基づく深度向上法は、純粋な物理式を単一センサに利用することに集中していた。
対照的に,本手法はまず,偏光データとセンサ深度マップから高密度で完全な深度マップを推定するためにニューラルネットワークを訓練する学習ベースの戦略を採用する。
そこで本研究では,大規模データセット上で事前学習したRGBベースのモデルを有効活用するための極性化プロンプト・フュージョン・チューニング(PPFT)戦略を提案する。
提案手法は, 既存の深度向上ベースラインと比較して, 良好に動作することを示す。
コードとデモはhttps://lastbasket.github.io/PPFT/.comで公開されている。
Existing depth sensors are imperfect and may provide inaccurate depth values in challenging scenarios, such as in the presence of transparent or reflective objects. In this work, we present a general framework that leverages polarization imaging to improve inaccurate depth measurements from various depth sensors. Previous polarization-based depth enhancement methods focus on utilizing pure physics-based formulas for a single sensor. In contrast, our method first adopts a learning-based strategy where a neural network is trained to estimate a dense and complete depth map from polarization data and a sensor depth map from different sensors. To further improve the performance, we propose a Polarization Prompt Fusion Tuning (PPFT) strategy to effectively utilize RGB-based models pre-trained on large-scale datasets, as the size of the polarization dataset is limited to train a strong model from scratch. We conducted extensive experiments on a public dataset, and the results demonstrate that the proposed method performs favorably compared to existing depth enhancement baselines. Code and demos are available at https://lastbasket.github.io/PPFT/. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # SpaceTracker:3D空間における2D画像の追跡
SpatialTracker: Tracking Any 2D Pixels in 3D Space ( http://arxiv.org/abs/2404.04319v1 ) ライセンス: Link先を確認 | Yuxi Xiao, Qianqian Wang, Shangzhan Zhang, Nan Xue, Sida Peng, Yujun Shen, Xiaowei Zhou, | (参考訳) ビデオで高密度で長距離のピクセルの動きを再現することは、難しい問題だ。
難易度の一部は3次元から2次元への投影過程から生じ、2次元運動領域における閉塞と不連続をもたらす。
2次元運動は複雑にできるが、基礎となる3次元運動は単純で低次元であることが多いと仮定する。
本研究では,画像投影による問題を軽減するために,3次元空間における点軌道の推定を提案する。
提案手法はSpatialTrackerと呼ばれ, 単眼深度推定器を用いて2次元画素を3次元に上げ, 3次元平面表現を用いて各フレームの3次元コンテンツを効率よく表現し, トランスフォーマーを用いて反復的な更新を行い, 3次元軌跡を推定する。
3Dでのトラッキングにより、ピクセルを異なる剛性部分にクラスタ化する剛性埋め込みを同時に学習しながら、ARAP(as-rigid-as-possible)制約を活用することができます。
広範囲な評価により, 航空機外回転のような難易度の高いシナリオにおいて, 定性的かつ定量的に, 最先端の追跡性能を達成できることが示唆された。
Recovering dense and long-range pixel motion in videos is a challenging problem. Part of the difficulty arises from the 3D-to-2D projection process, leading to occlusions and discontinuities in the 2D motion domain. While 2D motion can be intricate, we posit that the underlying 3D motion can often be simple and low-dimensional. In this work, we propose to estimate point trajectories in 3D space to mitigate the issues caused by image projection. Our method, named SpatialTracker, lifts 2D pixels to 3D using monocular depth estimators, represents the 3D content of each frame efficiently using a triplane representation, and performs iterative updates using a transformer to estimate 3D trajectories. Tracking in 3D allows us to leverage as-rigid-as-possible (ARAP) constraints while simultaneously learning a rigidity embedding that clusters pixels into different rigid parts. Extensive evaluation shows that our approach achieves state-of-the-art tracking performance both qualitatively and quantitatively, particularly in challenging scenarios such as out-of-plane rotation. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 量子スピン鎖と対称関数
Quantum Spin Chains and Symmetric Functions ( http://arxiv.org/abs/2404.04322v1 ) ライセンス: Link先を確認 | Marcos Crichigno, Anupam Prakash, | (参考訳) 量子スピン鎖がヒルベルト空間に自然にエンコードする問題を考える。
量子スピン鎖はよりリッチな系であり、結合論、群論、代数幾何学の様々な問題に対する解を自然に符号化していることが判明した。
XXハイゼンベルクスピン鎖の場合、これらはスキュー・コストカ数、対称群のスキュー文字、リトルウッド・リチャードソン係数によって与えられる。
このように、これはフォミンとグリーンによって定式化された「量子化」対称函数の理論のフェルミオン表現によって明らかにされ、量子スピン鎖のヒルベルト空間からこのデータを抽出する作用素を構築するための強力な枠組みを提供する。
さらに、これらの作用素は、量子スピン鎖のベート基底によって対角化される。
量子スピン鎖は「量子可積分系」の例である。
これは、永久体をコードするボソンや、決定体をコードするフェルミオンと幾分類似している。
このことは、量子コンピュータの潜在的に興味深いターゲットとして、量子可積分系やそれらに関連するコンビネータ系を考えることを指している。
We consider the question of what quantum spin chains naturally encode in their Hilbert space. It turns out that quantum spin chains are rather rich systems, naturally encoding solutions to various problems in combinatorics, group theory, and algebraic geometry. In the case of the XX Heisenberg spin chain these are given by skew Kostka numbers, skew characters of the symmetric group, and Littlewood-Richardson coefficients. As we show, this is revealed by a fermionic representation of the theory of "quantized" symmetric functions formulated by Fomin and Greene, which provides a powerful framework for constructing operators extracting this data from the Hilbert space of quantum spin chains. Furthermore, these operators are diagonalized by the Bethe basis of the quantum spin chain. Underlying this is the fact that quantum spin chains are examples of "quantum integrable systems." This is somewhat analogous to bosons encoding permanents and fermions encoding determinants. This points towards considering quantum integrable systems, and the combinatorics associated with them, as potentially interesting targets for quantum computers. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 大規模言語モデルを用いた仮説生成
Hypothesis Generation with Large Language Models ( http://arxiv.org/abs/2404.04326v1 ) ライセンス: Link先を確認 | Yangqiaoyu Zhou, Haokun Liu, Tejes Srivastava, Hongyuan Mei, Chenhao Tan, | (参考訳) 新たな仮説の効果的な生成は、科学的進歩に欠かせない。
これまでのところ、研究者はデータ分析と思考(ユーレカモーメントとしても知られる)に苦しむことによって仮説生成を支えてきた。
本稿では,大言語モデル(LLM)の仮説生成の可能性について検討する。
データに基づく仮説生成(ラベル付き例)に焦点を当てる。
LLMが任意に長いコンテキストを扱えるようにするために、少数の例から初期仮説を生成し、仮説の質を改善するために反復的に更新する。
マルチアームの盗賊にインスパイアされた我々は、更新プロセスにおけるエクスプロイト探索のトレードオフを通知する報酬関数を設計する。
我々のアルゴリズムは、分類タスクにおいて数発のプロンプトよりもはるかに優れた予測性能を実現し、合成データセットで精度を31.7%向上し、3つの実世界のデータセットで13.9%、3.3%、24.9%向上する仮説を生成することができる。
また、2つの挑戦的な現実世界のデータセットにおいて、教師あり学習を12.8%、11.2%で上回った。
さらに、生成した仮説は、人間の検証理論を裏付けるだけでなく、タスクに対する新たな洞察も明らかにする。
Effective generation of novel hypotheses is instrumental to scientific progress. So far, researchers have been the main powerhouse behind hypothesis generation by painstaking data analysis and thinking (also known as the Eureka moment). In this paper, we examine the potential of large language models (LLMs) to generate hypotheses. We focus on hypothesis generation based on data (i.e., labeled examples). To enable LLMs to handle arbitrarily long contexts, we generate initial hypotheses from a small number of examples and then update them iteratively to improve the quality of hypotheses. Inspired by multi-armed bandits, we design a reward function to inform the exploitation-exploration tradeoff in the update process. Our algorithm is able to generate hypotheses that enable much better predictive performance than few-shot prompting in classification tasks, improving accuracy by 31.7% on a synthetic dataset and by 13.9%, 3.3% and, 24.9% on three real-world datasets. We also outperform supervised learning by 12.8% and 11.2% on two challenging real-world datasets. Furthermore, we find that the generated hypotheses not only corroborate human-verified theories but also uncover new insights for the tasks. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 周期的に駆動されるフェルミオンに対するフラグメンテーションのシグナチャ
Signatures of fragmentation for periodically driven fermions ( http://arxiv.org/abs/2404.04328v1 ) ライセンス: Link先を確認 | Somsubhra Ghosh, Indranil Paul, K. Sengupta, | (参考訳) 本研究では, 周期駆動を受ける1次元(1次元)フェルミオンに対する高温前強ヒルベルト空間断片化(HSF)のサインについて検討した。
Physの結果を拡張します。
レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・レヴ・
130, 120401 (2023) は、多くの実験的なドライブプロトコルに対して、そのような断片化の可能性を示すものである。
さらに, フェルミオン鎖がハーフフィリングから取り除かれた場合のHSFの持続性を示す。
これらの分析は、以前に報告された断片化現象の堅牢性を示している。
また、駆動鎖のフロケ・ハミルトニアン(Floquet Hamiltonian)を交互に導出し、より高次項のジェネリックネスト型可換体構造についての洞察を得る。
最後に、駆動鎖の密度密度-時間外相関器(OTOC)を、その第1次フロケ・ハミルトニアンがフラグメンテーションを示す特別な駆動周波数付近で研究する。
これらのOTOCは、開き境界条件を持つチェーンに対して、特別な駆動周波数で異なる周期的アンスクランブル情報を示すことを示し、したがって、そのようなアンスクランブルは、予熱HSFのマーカーとして機能する。
このような周期的アンスクラミングの背後にあるHSFの役割を近似解析的に説明し、そのような駆動鎖における強いHSFのシグネチャを検出する実験について議論する。
We study the possible signatures of prethermal strong Hilbert space fragmentation (HSF) for one-dimensional (1D) fermions subjected to a periodic drive. We extend the results of Phys. Rev. Lett. 130, 120401 (2023) to show the possibility of such fragmentation for a large class of experimentally relevant drive protocols. Moreover, we demonstrate the persistence of HSF when the fermion chain is taken away from half-filling. Both these analysis indicate the robustness of the fragmentation phenomenon reported earlier. We also provide an alternate derivation of the Floquet Hamiltonian of the driven chain which yields insight into the generic nested commutator structure of its higher order terms. Finally, we study the density-density out-of-time-correlators (OTOC) of the driven chain both away and near the special drive frequencies at which its first order Floquet Hamiltonian exhibits fragmentation. We show that these OTOCs, for a chain with open boundary condition, exhibit a distinct periodic unscrambling of information at special drive frequencies; such unscrambling can therefore serve as a marker of prethermal HSF. We provide an approximate analytic explanation of the role of HSF behind such periodic unscrambling and discuss experiments which can detect signatures of strong HSF in such driven chains. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 大規模言語モデルにおけるスコープの曖昧さ
Scope Ambiguities in Large Language Models ( http://arxiv.org/abs/2404.04332v1 ) ライセンス: Link先を確認 | Gaurav Kamath, Sebastian Schuster, Sowmya Vajjala, Siva Reddy, | (参考訳) 重複するスコープを持つ複数の意味演算子を含む文は、しばしばスコープ曖昧性として知られる解釈の曖昧さを生み出す。
これらの曖昧さは、言語処理における意味構造と世界知識の間の相互作用に関する豊富な洞察を提供する。
それにもかかわらず、現代の大規模言語モデルがどのようにそれらを扱うかについてはほとんど研究されていない。
本稿では,GPT-2,GPT-3/3.5,Llama 2,GPT-4といった自己回帰言語モデルの異なるバージョンが,対象不明瞭な文をどのように扱うかを検討し,これを人間の判断と比較する。
そこで本研究では,約1000の文を共同で含む新しいデータセットについて紹介する。
これらのデータセットを用いて、いくつかのモデルが示す証拠を見つける
一 これらの文の意味あいまいさに敏感で、人間の判断に相応しいパターンを呈し、
(二)高い精度(場合によっては90%以上)で人為的な読み出しを識別することに成功した。
Sentences containing multiple semantic operators with overlapping scope often create ambiguities in interpretation, known as scope ambiguities. These ambiguities offer rich insights into the interaction between semantic structure and world knowledge in language processing. Despite this, there has been little research into how modern large language models treat them. In this paper, we investigate how different versions of certain autoregressive language models -- GPT-2, GPT-3/3.5, Llama 2 and GPT-4 -- treat scope ambiguous sentences, and compare this with human judgments. We introduce novel datasets that contain a joint total of almost 1,000 unique scope-ambiguous sentences, containing interactions between a range of semantic operators, and annotated for human judgments. Using these datasets, we find evidence that several models (i) are sensitive to the meaning ambiguity in these sentences, in a way that patterns well with human judgments, and (ii) can successfully identify human-preferred readings at a high level of accuracy (over 90% in some cases). | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 多次元ボゾン化による2次元フェルミ液体と非フェルミ液体の障害作用素
Disorder operators in 2D Fermi and non-Fermi liquids through multidimensional bosonization ( http://arxiv.org/abs/2404.04334v1 ) ライセンス: Link先を確認 | Kang-Le Cai, Meng Cheng, | (参考訳) 障害作用素は、量子多体系の非局所観測変数の一種であり、領域内の対称性電荷の変動を測定する。
障害オペレーターは、局所的な測定によってアクセスが困難である多体状態のグローバルな側面を明らかにすることができることが示されている。
2次元フェルミおよび非フェルミ液体状態におけるU(1)対称性の障害作用素について,多次元ボゾン化形式を用いて検討した。
領域$A$に対して、等方性相互作用を持つフェルミ液体中の電荷障害パラメータの対数は、領域$A$の線形サイズである$l_A$として漸近的にスケールする。
フェルミ液体理論のランダウパラメータの観点から比例係数を計算する。
次に、非フェルミ液体状態を実現する無空ボソニック場に結合したフェルミ表面のモデルについて検討する。
フェルミオン密度を臨界スカラーに結合する単純なスピンレスモデルでは、量子臨界点において電荷障害作用素のスケーリング挙動は、$l_A \ln^2 l_A$に劇的に変更される。
また、複合フェルミ液体状態も考慮し、電荷障害作用素は$l_A$であると主張する。
Disorder operators are a type of non-local observables for quantum many-body systems, measuring the fluctuations of symmetry charges inside a region. It has been shown that disorder operators can reveal global aspects of many-body states that are otherwise difficult to access through local measurements. We study disorder operator for U(1) (charge or spin) symmetry in 2D Fermi and non-Fermi liquid states, using the multidimensional bosonization formalism. For a region $A$, the logarithm of the charge disorder parameter in a Fermi liquid with isotropic interactions scales asympototically as $l_A\ln l_A$, with $l_A$ being the linear size of the region $A$. We calculate the proportionality coefficient in terms of Landau parameters of the Fermi liquid theory. We then study models of Fermi surface coupled to gapless bosonic fields realizing non-Fermi liquid states. In a simple spinless model, where the fermion density is coupled to a critical scalar, we find that at the quantum critical point, the scaling behavior of the charge disorder operators is drastically modified to $l_A \ln^2 l_A$. We also consider the composite Fermi liquid state and argue that the charge disorder operator scales as $l_A$. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 形式的文脈のレポジトリ
A Repository for Formal Contexts ( http://arxiv.org/abs/2404.04344v1 ) ライセンス: Link先を確認 | Tom Hanika, Robert Jäschke, | (参考訳) データは常に、形式的概念分析の適用性に関する理論的発展と調査の中心にある。
したがって、多くのデータセットが学術論文やソフトウェアツールで繰り返し使われ、事実上の標準データセットとして機能することは驚くべきことではない。
しかし、データセットの分布は、研究分野の持続可能な発展に影響を及ぼす。
FCAデータセットを提供し、記述し、既に知られている分析結果とリンクする中心的な場所がない。
本稿では、FCAデータセットの普及状況を分析し、中央FCAリポジトリの要件を提示し、その課題を明らかにする。
Data is always at the center of the theoretical development and investigation of the applicability of formal concept analysis. It is therefore not surprising that a large number of data sets are repeatedly used in scholarly articles and software tools, acting as de facto standard data sets. However, the distribution of the data sets poses a problem for the sustainable development of the research field. There is a lack of a central location that provides and describes FCA data sets and links them to already known analysis results. This article analyses the current state of the dissemination of FCA data sets, presents the requirements for a central FCA repository, and highlights the challenges for this. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # ウェアラブルセンサを用いたME/CFSおよび長大ウイルス病重症度判定システムと方法
System and Method to Determine ME/CFS and Long COVID Disease Severity Using a Wearable Sensor ( http://arxiv.org/abs/2404.04345v1 ) ライセンス: Link先を確認 | Yifei Sun, Suzanne D. Vernon, Shad Roundy, | (参考訳) 目的: 筋萎縮性脳脊髄炎・慢性疲労症候群(ME/CFS)またはLong COVID(Long COVID)患者の重症度を客観的に測定するために, 単一ウェアラブルセンサから算出した簡易パラメータを提案する。
私たちはこのパラメータをUpTimeと呼びます。
方法: 前の研究は、人が直立する時間、つまり床に足を置く垂直な下肢と定義される時間は、ME/CFSの重症度と強く相関していることを示した。
足首に装着した1つの商業慣性測定器(IMU)を用いて、直立時間(UpTime)とステップ/デイ数(Steps/Day)の1日あたりの時間の割合を計算する。
また,Long COVIDはME/CFSと症状を共有しているため,この方法を用いてLong COVIDの重症度を判定する。
55名の被験者を3つのコホート、健康管理、ME/CFS、Long COVIDに分けて臨床試験を行った。
被験者は7日間、足首にIMUを装着した。
UpTimeとSteps/Dayは毎日計算され、コホートと比較された。
結果:UpTimeは、ME/CFS(\mathbf{p = 0.00004}$)とLong COVID(\mathbf{p = 0.01185}$)とを効果的に区別する。
Steps/DayはME/CFS(\mathbf{p = 0.01}$)のコントロールと被験者を区別したが、Long COVID(\mathbf{p = 0.3}$)のコントロールと被験者を区別しなかった。
結論:UpTimeはME/CFSとLong COVID Severityの客観的指標である。
UpTimeは、臨床研究および治療治験における客観的な結果尺度として使用できる。
意義:UpTime を用いた ME/CFS と Long COVID 病重症度の客観的評価は,これらの治療の効果を測定しやすくすることで治療の進展を促す可能性がある。
Objective: We present a simple parameter, calculated from a single wearable sensor, that can be used to objectively measure disease severity in people with myalgic encephalomyelitis/chronic fatigue syndrome (ME/CFS) or Long COVID. We call this parameter UpTime. Methods: Prior research has shown that the amount of time a person spends upright, defined as lower legs vertical with feet on the floor, correlates strongly with ME/CFS disease severity. We use a single commercial inertial measurement unit (IMU) attached to the ankle to calculate the percentage of time each day that a person spends upright (i.e., UpTime) and number of Steps/Day. As Long COVID shares symptoms with ME/CFS, we also apply this method to determine Long COVID disease severity. We performed a trial with 55 subjects broken into three cohorts, healthy controls, ME/CFS, and Long COVID. Subjects wore the IMU on their ankle for a period of 7 days. UpTime and Steps/Day were calculated each day and results compared between cohorts. Results: UpTime effectively distinguishes between healthy controls and subjects diagnosed with ME/CFS ($\mathbf{p = 0.00004}$) and between healthy controls and subjects diagnosed with Long COVID ($\mathbf{p = 0.01185}$). Steps/Day did distinguish between controls and subjects with ME/CFS ($\mathbf{p = 0.01}$) but did not distinguish between controls and subjects with Long COVID ($\mathbf{p = 0.3}$). Conclusion: UpTime is an objective measure of ME/CFS and Long COVID severity. UpTime can be used as an objective outcome measure in clinical research and treatment trials. Significance: Objective assessment of ME/CFS and Long COVID disease severity using UpTime could spur development of treatments by enabling the effect of those treatments to be easily measured. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # コアラ:キーフレームコンディション長ビデオLLM
Koala: Key frame-conditioned long video-LLM ( http://arxiv.org/abs/2404.04346v1 ) ライセンス: Link先を確認 | Reuben Tan, Ximeng Sun, Ping Hu, Jui-hsien Wang, Hanieh Deilamsalehy, Bryan A. Plummer, Bryan Russell, Kate Saenko, | (参考訳) 長時間のビデオ質問応答は、短期活動を認識し、それらのきめ細かい関係を推論する難しいタスクである。
最先端のビデオであるLarge Language Models (vLLMs)は、新しいタスクの創発的な機能を示すため、実現可能なソリューションとして期待されている。
しかし、数百万秒の短いビデオで訓練されているにもかかわらず、vLLMは数分のビデオを理解できず、正確な質問に答えることができない。
この制限に対処するために、より長いビデオに一般化するために、学習可能な時空間クエリを導入し、事前学習したvLLMに適応する、軽量で自己管理的なアプローチ、Key frame-conditioned long video-LLM (Koala)を提案する。
提案手法では,ショート・ビデオ・モーメントとロング・ビデオ・モーメントの理解のために,スパース・ビデオ・キーフレームから計算した視覚トークンを条件とした2つの新しいトークン化手法を提案する。
提案手法をHowTo100Mで学習し、その効果をゼロショット長ビデオ理解ベンチマークで示し、すべてのタスクにおいて3～6%の精度で最先端の大規模モデルより優れていることを示す。
意外なことに、我々のアプローチは、訓練済みのvLLMが長いビデオを理解するのに役立つだけでなく、短期的な行動認識における精度を向上させることを実証的に示す。
Long video question answering is a challenging task that involves recognizing short-term activities and reasoning about their fine-grained relationships. State-of-the-art video Large Language Models (vLLMs) hold promise as a viable solution due to their demonstrated emergent capabilities on new tasks. However, despite being trained on millions of short seconds-long videos, vLLMs are unable to understand minutes-long videos and accurately answer questions about them. To address this limitation, we propose a lightweight and self-supervised approach, Key frame-conditioned long video-LLM (Koala), that introduces learnable spatiotemporal queries to adapt pretrained vLLMs for generalizing to longer videos. Our approach introduces two new tokenizers that condition on visual tokens computed from sparse video key frames for understanding short and long video moments. We train our proposed approach on HowTo100M and demonstrate its effectiveness on zero-shot long video understanding benchmarks, where it outperforms state-of-the-art large models by 3 - 6% in absolute accuracy across all tasks. Surprisingly, we also empirically show that our approach not only helps a pretrained vLLM to understand long videos but also improves its accuracy on short-term action recognition. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 複雑な比較における人的支援--大規模における自動情報比較
Assisting humans in complex comparisons: automated information comparison at scale ( http://arxiv.org/abs/2404.04351v1 ) ライセンス: Link先を確認 | Truman Yuen, Graham A. Watt, Yuri Lawryshyn, | (参考訳) 生成型大規模言語モデルは、知識領域をまたいだ効率的な分析を可能にし、情報比較において人間の専門家と競合する。
しかし,LLMの情報比較への応用は,大きなコンテキストにわたる情報の維持や,モデルのトークン制限の克服が困難であるため,スケーラビリティ上の課題に直面している。
これらの課題に対処するため、我々は、情報比較を大規模に自動化する新しい抽象要約システムASC$^2$Endを開発した。
本システムでは,セマンティックテキスト類似性比較を用いてエビデンス支援分析を生成する。
我々は,抽象要約や検索拡張生成などの実証されたデータ処理戦略を利用して,トークンの制限を克服し,モデル推論中に関連する情報を保持する。
プロンプトはゼロショット戦略を用いて設計され、モデル推論を改善した。
ROUGEスコアを用いて抽象的な要約を評価し,調査結果から得られた比較品質を評価した。
ASC$^2$Endシステムで評価されたモデルは、システムの期待される性能に関する洞察を提供する望ましい結果を示す。
ASC$^2$Endは、コンテキスト長と検索の制限を克服し、知識領域をまたいだ大規模で正確な自動情報比較を可能にする新しいシステムとツールである。
Generative Large Language Models enable efficient analytics across knowledge domains, rivalling human experts in information comparisons. However, the applications of LLMs for information comparisons face scalability challenges due to the difficulties in maintaining information across large contexts and overcoming model token limitations. To address these challenges, we developed the novel Abstractive Summarization \& Criteria-driven Comparison Endpoint (ASC$^2$End) system to automate information comparison at scale. Our system employs Semantic Text Similarity comparisons for generating evidence-supported analyses. We utilize proven data-handling strategies such as abstractive summarization and retrieval augmented generation to overcome token limitations and retain relevant information during model inference. Prompts were designed using zero-shot strategies to contextualize information for improved model reasoning. We evaluated abstractive summarization using ROUGE scoring and assessed the generated comparison quality using survey responses. Models evaluated on the ASC$^2$End system show desirable results providing insights on the expected performance of the system. ASC$^2$End is a novel system and tool that enables accurate, automated information comparison at scale across knowledge domains, overcoming limitations in context length and retrieval. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 拡散モデルにおけるPixel-wise RL:リッチフィードバックによる強化学習
Pixel-wise RL on Diffusion Models: Reinforcement Learning from Rich Feedback ( http://arxiv.org/abs/2404.04356v1 ) ライセンス: Link先を確認 | Mo Kordzanganeh, Danial Keshvary, Nariman Arian, | (参考訳) 遅延拡散モデルは合成画像生成の最先端技術である。
これらのモデルを人間の好みに合わせるためには、強化学習を用いたモデルのトレーニングが不可欠である。
黒など。
2024年、al 2024はデノナイジング拡散政策最適化(DDPO)を導入し、最終的な報酬を伴うマルコフ連鎖としてモデル化することで、世代を反復的にデノナイジングする性質を考慮に入れた。
報酬は、画像全体のモデルの性能を決定する単一の値であるので、モデルは非常にまばらな報酬の風景をナビゲートしなければなりません。
本研究では,各画素に対してフィードバックを得られるPXPO(Pixel-wise Policy Optimisation, Pixel-wise Policy Optimisation, Pixel-wise Policy Optimisation, PXPO)アルゴリズムを提示することでDDPOを拡張する。
Latent diffusion models are the state-of-the-art for synthetic image generation. To align these models with human preferences, training the models using reinforcement learning on human feedback is crucial. Black et. al 2024 introduced denoising diffusion policy optimisation (DDPO), which accounts for the iterative denoising nature of the generation by modelling it as a Markov chain with a final reward. As the reward is a single value that determines the model's performance on the entire image, the model has to navigate a very sparse reward landscape and so requires a large sample count. In this work, we extend the DDPO by presenting the Pixel-wise Policy Optimisation (PXPO) algorithm, which can take feedback for each pixel, providing a more nuanced reward to the model. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 絡み合ったスピン場の12次元リー代数
12-dimensional Lie Algebra of Entangled Spin Fields ( http://arxiv.org/abs/2404.04359v1 ) ライセンス: Link先を確認 | Alexandru-Gabriel Mitrut, | (参考訳) この論文で証明された
i) 質量$\mathsf{m}$と質量$\mathsf{2m}$の2つの絡み合ったプロカ場を持つ質量$\mathsf{m}$に対するディラック方程式の同値性
(ii)方程式を提案し、
(iii) 絡み合ったスピン場に対する12次元リー代数。
In this paper was proved (i) the equivalence of Dirac equation for mass $\mathsf{m}$ with two entangled Proca fields of mass $\mathsf{2m}$ and (ii) is proposed an equation and (iii) an 12-dimensional Lie algebra for the entangled spin fields. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # プライベートオンデバイスアプリケーションのためのデータ合成のためのプロンプト公開大言語モデル
Prompt Public Large Language Models to Synthesize Data for Private On-device Applications ( http://arxiv.org/abs/2404.04360v1 ) ライセンス: Link先を確認 | Shanshan Wu, Zheng Xu, Yanxiang Zhang, Yuanbo Zhang, Daniel Ramage, | (参考訳) 公開データの事前学習は、差分プライバシー(DP)を用いた連邦学習(FL)の性能向上に有効な方法である。
本稿では,DP と FL でトレーニングしたデバイス上での言語モデルにおいて,公開データに基づいてトレーニングした大規模言語モデル (LLM) が事前学習データの質を向上する方法について検討する。
我々は、LLMプロンプトを慎重に設計し、既存の公開データをフィルタリングし変換し、実際のユーザデータ配信に類似した新しいデータを生成する。
Gboard(Google Keyboard, 製品用モバイルキーボードアプリケーション)の実際のユーザデータに対して, 標準の公開データセット上で事前学習したベースラインモデルと比較して, 単語予測精度が19.0%, 22.8%向上した。
さらに,本手法は,数百万台のモバイルデバイス上でのDP FL微調整において,ベースラインに匹敵する評価精度を達成し,本手法の最終モデルは実運用A/Bテストにおいてベースラインよりも優れていた。
実験では, プライベートデータにアクセスしなくても, プライベートデータに近いデータを合成する上でのLCMの強みを実証し, 分散ギャップをさらに軽減するための今後の研究方向を提案する。
Pre-training on public data is an effective method to improve the performance for federated learning (FL) with differential privacy (DP). This paper investigates how large language models (LLMs) trained on public data can improve the quality of pre-training data for the on-device language models trained with DP and FL. We carefully design LLM prompts to filter and transform existing public data, and generate new data to resemble the real user data distribution. The model pre-trained on our synthetic dataset achieves relative improvement of 19.0% and 22.8% in next word prediction accuracy compared to the baseline model pre-trained on a standard public dataset, when evaluated over the real user data in Gboard (Google Keyboard, a production mobile keyboard application). Furthermore, our method achieves evaluation accuracy better than or comparable to the baseline during the DP FL fine-tuning over millions of mobile devices, and our final model outperforms the baseline in production A/B testing. Our experiments demonstrate the strengths of LLMs in synthesizing data close to the private distribution even without accessing the private data, and also suggest future research directions to further reduce the distribution gap. | 翻訳日:2024-04-09 23:27:22 公開日:2024-04-05 |
| # 大規模言語モデルを用いたニュースにおける政治的実体感の解読--ゼロショットとFewショットの戦略
Deciphering Political Entity Sentiment in News with Large Language Models: Zero-Shot and Few-Shot Strategies ( http://arxiv.org/abs/2404.04361v1 ) ライセンス: Link先を確認 | Alapan Kuila, Sudeshna Sarkar, | (参考訳) 感性分析は世論の理解において重要な役割を担い、特にニュース記事の実体の描写が世論に影響を及ぼす政治領域において重要な役割を担っている。
本稿では,大規模言語モデル(LLM)が政治ニュース記事からエンティティ固有の感情を予測する上で,有効性について検討する。
ゼロショットと少数ショットの戦略を活用することで、ニュースコンテンツにおける政治団体に対する感情を識別するLLMの能力を探求する。
本手法が感情予測精度を向上するかどうかを評価するため,思考の連鎖(COT)アプローチを数ショットのインコンテキスト学習において合理的に拡張した手法を用いて評価を行った。
感情ラベル付きデータセットを用いた評価では、LCMは、エンティティ固有の感情を捉える上で、細調整されたBERTモデルよりも優れていることが示されている。
文脈内での学習はモデル性能を著しく向上させる一方、自己整合性メカニズムは感情予測の一貫性を高める。
有望な結果にもかかわらず,COTプロンプト法の有効性の矛盾を観測した。
全体としては、政治ニュース分野におけるエンティティ中心の感情分析におけるLCMの可能性を強調し、適切なプロンプト戦略とモデルアーキテクチャの重要性を強調した。
Sentiment analysis plays a pivotal role in understanding public opinion, particularly in the political domain where the portrayal of entities in news articles influences public perception. In this paper, we investigate the effectiveness of Large Language Models (LLMs) in predicting entity-specific sentiment from political news articles. Leveraging zero-shot and few-shot strategies, we explore the capability of LLMs to discern sentiment towards political entities in news content. Employing a chain-of-thought (COT) approach augmented with rationale in few-shot in-context learning, we assess whether this method enhances sentiment prediction accuracy. Our evaluation on sentiment-labeled datasets demonstrates that LLMs, outperform fine-tuned BERT models in capturing entity-specific sentiment. We find that learning in-context significantly improves model performance, while the self-consistency mechanism enhances consistency in sentiment prediction. Despite the promising results, we observe inconsistencies in the effectiveness of the COT prompting method. Overall, our findings underscore the potential of LLMs in entity-centric sentiment analysis within the political news domain and highlight the importance of suitable prompting strategies and model architectures. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # Idea-2-3D: インターリーブマルチモーダル入力から3次元モデル生成を可能にする協調LMMエージェント
Idea-2-3D: Collaborative LMM Agents Enable 3D Model Generation from Interleaved Multimodal Inputs ( http://arxiv.org/abs/2404.04363v1 ) ライセンス: Link先を確認 | Junhao Chen, Xiang Li, Xiaojun Ye, Chao Li, Zhaoxin Fan, Hao Zhao, | (参考訳) 本稿では,IDEAから3Dコンテンツを生成する,新しい3DAIGC設定を提案する。
IDEAの定義は、テキスト、画像、および3Dモデルを含むマルチモーダル入力の合成である。
我々の知る限り、この挑戦的で魅力的な3DAIGC設定はこれまで研究されていない。
この目的を達成するために,大規模マルチモデルモデル(LMM)に基づく3つのエージェントと,それを呼び出すための既存のアルゴリズムツールからなる,Idean-2-3Dという新しいフレームワークを提案する。
具体的には、これらの3つのLMMベースのエージェントは、即時生成、モデル選択、フィードバックリフレクションといった仕事をするよう促される。
彼らは相互の協力と批判の両方を伴うサイクルで働きます。
このサイクルは人間の介入なしに完全に自動で行われる。
するとフレームワークはテキストプロンプトを出力し、3Dモデルを生成し、入力IDEAとうまく一致させる。
これまでの方法では達成できないような印象的な3DAIGC結果を示します。
定量的比較のために,多数の最先端3DAIGCモデルを用いてキャプションベースベースラインを構築し,Idean-2-3Dの優れた性能を示す。
94.2%のケースでは、Idean-2-3Dはユーザーの要求を満たしており、ベースラインの2.3倍のIDEAと3Dモデルとの一致度を示している。
さらに93.5%のケースでは、ユーザーはIdean-2-3Dがベースラインよりも優れていることに同意した。
コード、データ、モデルは公開されます。
In this paper, we pursue a novel 3D AIGC setting: generating 3D content from IDEAs. The definition of an IDEA is the composition of multimodal inputs including text, image, and 3D models. To our knowledge, this challenging and appealing 3D AIGC setting has not been studied before. We propose the novel framework called Idea-2-3D to achieve this goal, which consists of three agents based upon large multimodel models (LMMs) and several existing algorithmic tools for them to invoke. Specifically, these three LMM-based agents are prompted to do the jobs of prompt generation, model selection and feedback reflection. They work in a cycle that involves both mutual collaboration and criticism. Note that this cycle is done in a fully automatic manner, without any human intervention. The framework then outputs a text prompt to generate 3D models that well align with input IDEAs. We show impressive 3D AIGC results that are beyond any previous methods can achieve. For quantitative comparisons, we construct caption-based baselines using a whole bunch of state-of-the-art 3D AIGC models and demonstrate Idea-2-3D out-performs significantly. In 94.2% of cases, Idea-2-3D meets users' requirements, marking a degree of match between IDEA and 3D models that is 2.3 times higher than baselines. Moreover, in 93.5% of the cases, users agreed that Idea-2-3D was better than baselines. Codes, data and models will made publicly available. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # 客観性は明らかか? - KhrennikovとQBistへの回答
Is Intersubjectivity Proven? A Reply to Khrennikov and to QBists ( http://arxiv.org/abs/2404.04367v1 ) ライセンス: Link先を確認 | Herve Zwirn, | (参考訳) 最近の2つの論文において、クレンニコフは、彼は「大沢の射影定理」(Ozawa intersubjectivity theorem) と呼ぶものを用いて、相互射影性は量子力学において必ずしも検証されていると主張し、QB主義を批判し、より一般的に観賞的であるすべての解釈を批判する。
以前の2つのQBist論文と一致して、Khrennikovの証明が有効でない理由を説明します。
In two recent papers Khrennikov uses what he calls Ozawa intersubjectivity theorem to claim that intersubjectivity is necessarily verified in quantum mechanics and to criticize QBism and more generally all interpretations that are perspectival. In agreement with two previous QBist papers, I explain here why Khrennikov proof is not valid but in contrast with one of these papers, I criticize the way intersubjectivity is dealt with in QBism. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # 集積マイクロ共振器とアルカリ原子蒸気の強い相互作用--単一原子・単一光子操作に向けて
Strong interactions between integrated microresonators and alkali atomic vapors: towards single-atom, single-photon operation ( http://arxiv.org/abs/2404.04372v1 ) ライセンス: Link先を確認 | Roy Zektzer, Xiyuan Lu, Khoi Tuan Hoang, Rahul Shrestha, Sharoon Austin, Feng Zhou, Ashish Chanana, Glenn Holland, Daron Westly, Paul Lett, Alexey V. Gorshkov, Kartik Srinivasan, | (参考訳) キャビティ量子電磁力学(Cavity quantum electrodynamics, CQED)は、量子計算、通信、気象学の異なるアーキテクチャにおける基礎的な構成要素である。
原子と空洞の間の強い相互作用は、量子ゲートとソースに必要な単一の光子操作を可能にする。
結晶中の低温原子、量子ドット、色中心は、単一の光子操作を示す系のうちの1つであるが、それらはかなりの物理的基盤を必要とする。
一方、原子蒸気は実験的なインフラが限られており、実験室外での展開がずっと容易であるが、複数の原子との相互作用が短くなるため、量子操作を妨害する可能性がある。
この問題に対する解決策は、光と光の相互作用が強化され、操作の体積が小さく、高速な単原子・単光子操作が可能となるナノフォトニックキャビティにある。
本研究では,原子型マイクロリング共振器(ACMRR)とRb原子の異なる大きさのアンサンブルとの相互作用について検討する。
高品質な因子 (Q > 4 x 10^5) ACMRR と相互作用する ~50 個の原子のアンサンブル間の強い結合が示され、多原子協調性C ~ 5.5 が得られる。
数個の(<3)原子に対して原子-光子相互作用のシグネチャを観測し続け、そこでは1つのキャビティ・フォトンレベルの飽和を観察する。
キャビティチューニングと安定化を可能にする集積型熱光学ヒーターを含む我々のプラットフォームの開発は、単一光子と単一原子との相互作用の観測を可能にする。
Cavity quantum electrodynamics (cQED), the interaction of a two-level system with a high quality factor (Q) cavity, is a foundational building block in different architectures for quantum computation, communication, and metrology. The strong interaction between the atom and the cavity enables single photon operation which is required for quantum gates and sources. Cold atoms, quantum dots, and color centers in crystals are amongst the systems that have shown single photon operations, but they require significant physical infrastructure. Atomic vapors, on the other hand, require limited experimental infrastructure and are hence much easier to deploy outside a laboratory, but they produce an ensemble of moving atoms that results in short interaction times involving multiple atoms, which can hamper quantum operations. A solution to this issue can be found in nanophotonic cavities, where light-matter interaction is enhanced and the volume of operation is small, so that fast single-atom, single-photon operations are enabled. In this work, we study the interaction of an atomically-clad microring resonator (ACMRR) with different-sized ensembles of Rb atoms. We demonstrate strong coupling between an ensemble of ~50 atoms interacting with a high-quality factor (Q > 4 x 10^5) ACMRR, yielding a many-atom cooperativity C ~ 5.5. We continue to observe signatures of atom-photon interaction for a few (< 3) atoms, for which we observe saturation at the level of one intracavity photon. Further development of our platform, which includes integrated thermo-optic heaters to enable cavity tuning and stabilization, should enable the observation of interactions between single photons and single atoms. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # 情報処理の起源
The Origin of Information Handling ( http://arxiv.org/abs/2404.04374v1 ) ライセンス: Link先を確認 | Amahury Jafet López-Díaz, Hiroki Sayama, Carlos Gershenson, | (参考訳) 生命の起源を説明する上での大きな課題は、単に分子動力学から自然と自然に情報制御系がどのように出現するかを説明することである。
これまでのところ、情報制御がいかに開始したのか、そして生命における原始的な制御機構がどのように進化し、ますます洗練されていくのかは、誰も明らかにしていない。
化学計算が生命関連化学の存在を必要としないことを示す最近の実験結果に基づいて,情報処理(計算)から情報記憶(記憶),情報伝達(通信)まで,化学オートマトンによる情報処理の起源と初期進化を解明する。
初期の複雑な構造の存在を前提とする他の理論とは対照的に、私たちの物語は、相互作用がより強力な分子機械の出現につながる自複製子から始まる。
化学計算における原始遷移を正確に記述することにより、上記のギャップを説明でき、他の計算モデルに変換できるので、複数の空間的・時間的スケールで生物現象を探索することができる。
原稿の最後には、我々の理論(in vitroとsilicoの両方)を実験的に検証するなど、アイデアを拡張するいくつかの方法を提案する。
A major challenge when describing the origin of life is to explain how instructional information control systems emerge naturally and spontaneously from mere molecular dynamics. So far, no one has clarified how information control emerged ab initio and how primitive control mechanisms in life might have evolved, becoming increasingly refined. Based on recent experimental results showing that chemical computation does not require the presence of life-related chemistry, we elucidate the origin and early evolution of information handling by chemical automata, from information processing (computation) to information storage (memory) and information transmission (communication). In contrast to other theories that assume the existence of initial complex structures, our narrative starts from trivial self-replicators whose interaction leads to the arising of more powerful molecular machines. By describing precisely the primordial transitions in chemistry-based computation, our metaphor is capable of explaining the above-mentioned gaps and can be translated to other models of computation, which allow us to explore biological phenomena at multiple spatial and temporal scales. At the end of our manuscript, we propose some ways to extend our ideas, including experimental validation of our theory (both in vitro and in silico). | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # 深部ニューラルネットワークにおけるリプシッツ定数の構成推定
Compositional Estimation of Lipschitz Constants for Deep Neural Networks ( http://arxiv.org/abs/2404.04375v1 ) ライセンス: Link先を確認 | Yuezhu Xu, S. Sivaranjani, | (参考訳) リプシッツ定数は、ニューラルネットワークの堅牢性を証明し、摂動や敵攻撃を入力し、ニューラルネットワークコントローラを持つシステムの安定性と安全性を保証する上で重要な役割を果たす。
したがって、ニューラルネットワークのリプシッツ定数の厳密な境界の推定は、よく研究されたトピックである。
しかし、典型的なアプローチは、より深いネットワークにおいて計算コストが著しく増大する大規模な行列検証問題を解決することである。
本稿では,大行列検証問題をより小さなサブプロブレムに正確に分解することで,ディープフィードフォワードニューラルネットワークに対するリプシッツ定数を推定するための構成的アプローチを提案する。
さらに、最も一般的なニューラルネットワークアクティベーション機能に適用可能なクローズドフォームソリューションを入手し、オンライン制御設定にデプロイされたニューラルネットワークの高速な堅牢性と安定性証明を可能にします。
最後に,本手法が計算時間を大幅に短縮すると同時に,最先端の手法によって達成された手法に非常に近いリプシッツ境界が得られることを示す。
The Lipschitz constant plays a crucial role in certifying the robustness of neural networks to input perturbations and adversarial attacks, as well as the stability and safety of systems with neural network controllers. Therefore, estimation of tight bounds on the Lipschitz constant of neural networks is a well-studied topic. However, typical approaches involve solving a large matrix verification problem, the computational cost of which grows significantly for deeper networks. In this letter, we provide a compositional approach to estimate Lipschitz constants for deep feedforward neural networks by obtaining an exact decomposition of the large matrix verification problem into smaller sub-problems. We further obtain a closed-form solution that applies to most common neural network activation functions, which will enable rapid robustness and stability certificates for neural networks deployed in online control settings. Finally, we demonstrate through numerical experiments that our approach provides a steep reduction in computation time while yielding Lipschitz bounds that are very close to those achieved by state-of-the-art approaches. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # ClickDiffusion:インタラクティブな精密画像編集のためのLLMのハーネス化
ClickDiffusion: Harnessing LLMs for Interactive Precise Image Editing ( http://arxiv.org/abs/2404.04376v1 ) ライセンス: Link先を確認 | Alec Helbling, Seongmin Lee, Polo Chau, | (参考訳) 近年,自然言語による画像生成と操作のための強力なシステムを提案する。
しかし、テキストだけでは画像変換の多くの共通クラスを正確に特定することは困難である。
例えば、ユーザーは、いくつかの類似した犬と一緒に画像中の特定の犬の位置と繁殖を変更したいかもしれない。
このタスクは自然言語だけでは非常に困難であり、ターゲット犬を曖昧にし、目的地を記述するためには、複雑に複雑なプロンプトを書く必要がある。
ClickDiffusionは、自然言語命令とユーザからの視覚フィードバックを直接操作インタフェースで組み合わせた、正確な画像操作と生成のためのシステムである。
我々は、画像とマルチモーダル命令の両方をテキスト表現にシリアライズすることにより、LLMを活用して画像のレイアウトや外観を正確に変換できることを実証した。
コードはhttps://github.com/poloclub/ClickDiffusion.comで公開されている。
Recently, researchers have proposed powerful systems for generating and manipulating images using natural language instructions. However, it is difficult to precisely specify many common classes of image transformations with text alone. For example, a user may wish to change the location and breed of a particular dog in an image with several similar dogs. This task is quite difficult with natural language alone, and would require a user to write a laboriously complex prompt that both disambiguates the target dog and describes the destination. We propose ClickDiffusion, a system for precise image manipulation and generation that combines natural language instructions with visual feedback provided by the user through a direct manipulation interface. We demonstrate that by serializing both an image and a multi-modal instruction into a textual representation it is possible to leverage LLMs to perform precise transformations of the layout and appearance of an image. Code available at https://github.com/poloclub/ClickDiffusion. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # LOSS-SLAM:軽量オープンセットセマンティックローカライゼーションとマッピング
LOSS-SLAM: Lightweight Open-Set Semantic Simultaneous Localization and Mapping ( http://arxiv.org/abs/2404.04377v1 ) ライセンス: Link先を確認 | Kurran Singh, Tim Magoun, John J. Leonard, | (参考訳) オブジェクトの観点で世界を理解するロボットを開発することは、より高いレベルの自律性に向けた重要なビルディングブロックである。
視覚における基礎モデルの成功は、世界のほぼ全ての物体を分類し識別する能力を生み出した。
しかし、そのようなオブジェクトを利用してロボットをローカライズし、世界のオープンセットのセマンティックマップを構築することは、オープンな研究課題である。
本研究では、オブジェクトを識別、ローカライズ、エンコーディングするシステムと、オープンセットのセマンティックな同時ローカライズおよびマッピング(SLAM)を実行する確率的グラフィカルモデルとを密結合する。
提案した軽量オブジェクト符号化は,既存のオープンセット法やクローズドセット法,幾何学的手法よりも高精度なオブジェクトベースSLAMを実現する上で,既存のオープンセットマッピング法よりも計算オーバーヘッドが低いことを示す。
Enabling robots to understand the world in terms of objects is a critical building block towards higher level autonomy. The success of foundation models in vision has created the ability to segment and identify nearly all objects in the world. However, utilizing such objects to localize the robot and build an open-set semantic map of the world remains an open research question. In this work, a system of identifying, localizing, and encoding objects is tightly coupled with probabilistic graphical models for performing open-set semantic simultaneous localization and mapping (SLAM). Results are presented demonstrating that the proposed lightweight object encoding can be used to perform more accurate object-based SLAM than existing open-set methods, closed-set methods, and geometric methods while incurring a lower computational overhead than existing open-set mapping methods. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # サイバー物理システムのための再構成可能でスケーラブルなハニーネット
Reconfigurable and Scalable Honeynet for Cyber-Physical Systems ( http://arxiv.org/abs/2404.04385v1 ) ライセンス: Link先を確認 | Luís Sousa, José Cecílio, Pedro Ferreira, Alan Oliveira, | (参考訳) インダストリアル・コントロール・システムズ(ICS)は、暖房、換気、空調システムから全国的な電力網まで、現代の産業活動のバックボーンを構成する。
重要なインフラにおいて重要な役割を担っていることから、セキュリティ対策を強化し、このドメイン内の潜在的なサイバー脅威の理解を深める努力が続けられている。
これらの課題に対処するために、ICSに攻撃を検出し理解することを目的としたHoneypotsとHoneynetsの多くの実装が採用されている。
このアプローチは、サイバー物理システムのためのスケーラブルで再構成可能なハニーネットを作ることに集中することで、従来の方法と異なる。
また、ハニーネットに対する攻撃を自動生成してテストし、検証する。
スケーラブルで再構成可能なHoneynetと自動攻撃生成ツールの開発により、このシステムはサイバー物理ハニーネットの攻撃を検出し分類するためのトレーニングアルゴリズムのデータセットを作成する基盤となることも期待されている。
Industrial Control Systems (ICS) constitute the backbone of contemporary industrial operations, ranging from modest heating, ventilation, and air conditioning systems to expansive national power grids. Given their pivotal role in critical infrastructure, there has been a concerted effort to enhance security measures and deepen our comprehension of potential cyber threats within this domain. To address these challenges, numerous implementations of Honeypots and Honeynets intended to detect and understand attacks have been employed for ICS. This approach diverges from conventional methods by focusing on making a scalable and reconfigurable honeynet for cyber-physical systems. It will also automatically generate attacks on the honeynet to test and validate it. With the development of a scalable and reconfigurable Honeynet and automatic attack generation tools, it is also expected that the system will serve as a basis for producing datasets for training algorithms for detecting and classifying attacks in cyber-physical honeynets. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # 部分解による潜在的説明パターンのマイニング
Mining Potentially Explanatory Patterns via Partial Solutions ( http://arxiv.org/abs/2404.04388v1 ) ライセンス: Link先を確認 | GianCarlo Catalano, Alexander E. I. Brownlee, David Cairns, John McCall, Russell Ainslie, | (参考訳) 遺伝的アルゴリズムは多くの複雑な最適化問題を解く能力を確立した。
優れたソリューションが生み出されても、ユーザによる問題に対する理解は必ずしも改善されないため、結果に対する信頼性の欠如につながる可能性がある。
この問題を緩和するために、説明容易性は、アルゴリズムによって得られた知識をユーザに提供することで、ユーザに洞察を提供することを目的としている。
本稿では,組合せ最適化問題に対する解法の説明可能性を改善するために,部分解を提案する。
部分解は、集団を分析することによって得られる有益な特徴を表し、説明可能性のためにユーザに提示されるだけでなく、新しいソリューションを生成するための明示的なモデルも提供する。
本稿では,高適合性,単純性,原子性のバランスをとるために選択された部分解の集合を組み立てるアルゴリズムを提案する。
標準ベンチマークによる実験の結果,提案アルゴリズムは,探索性能に影響を与えることなく,合理的な計算コストで説明可能性を向上させる部分解を見つけることができることがわかった。
Genetic Algorithms have established their capability for solving many complex optimization problems. Even as good solutions are produced, the user's understanding of a problem is not necessarily improved, which can lead to a lack of confidence in the results. To mitigate this issue, explainability aims to give insight to the user by presenting them with the knowledge obtained by the algorithm. In this paper we introduce Partial Solutions in order to improve the explainability of solutions to combinatorial optimization problems. Partial Solutions represent beneficial traits found by analyzing a population, and are presented to the user for explainability, but also provide an explicit model from which new solutions can be generated. We present an algorithm that assembles a collection of Partial Solutions chosen to strike a balance between high fitness, simplicity and atomicity. Experiments with standard benchmarks show that the proposed algorithm is able to find Partial Solutions which improve explainability at reasonable computational cost without affecting search performance. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # 微調整と量子化によるLDM脆弱性の増大
Increased LLM Vulnerabilities from Fine-tuning and Quantization ( http://arxiv.org/abs/2404.04392v1 ) ライセンス: Link先を確認 | Divyanshu Kumar, Anurakt Kumar, Sahil Agarwal, Prashanth Harshangi, | (参考訳) 大規模言語モデル(LLM)は非常に人気があり、チャットボットや自動タスク補完エージェントなど、多くのドメインでユースケースが発見されている。
しかし、LDMは、ジェイルブレイク、インジェクション攻撃、プライバシー漏洩攻撃など、さまざまなタイプの攻撃に対して脆弱である。
基礎的なLLMは、悪意のある有害なコンテンツを生成しないことを学ぶために、敵意とアライメントのトレーニングを行っている。
特殊なユースケースでは、これらの基礎的なLCMはより優れた性能と効率のために微調整または量子化される。
LLMの脆弱性に対する微調整や量子化などの下流タスクの影響について検討する。
Mistral、Llama、MosaicMLなどの基盤モデルと、それらの微調整バージョンをテストしています。
我々の研究は、微調整と量子化によってジェイルブレイク抵抗が大幅に減少し、LSMの脆弱性が増大することを示している。
最後に,LLMの脆弱性を低減するための外部ガードレールの有用性を示す。
Large Language Models (LLMs) have become very popular and have found use cases in many domains, such as chatbots, auto-task completion agents, and much more. However, LLMs are vulnerable to different types of attacks, such as jailbreaking, prompt injection attacks, and privacy leakage attacks. Foundational LLMs undergo adversarial and alignment training to learn not to generate malicious and toxic content. For specialized use cases, these foundational LLMs are subjected to fine-tuning or quantization for better performance and efficiency. We examine the impact of downstream tasks such as fine-tuning and quantization on LLM vulnerability. We test foundation models like Mistral, Llama, MosaicML, and their fine-tuned versions. Our research shows that fine-tuning and quantization reduces jailbreak resistance significantly, leading to increased LLM vulnerabilities. Finally, we demonstrate the utility of external guardrails in reducing LLM vulnerabilities. | 翻訳日:2024-04-09 21:28:04 公開日:2024-04-05 |
| # Counting Like Transformer: 時間数論理をSoftmax Transformerにコンパイルする
Counting Like Transformers: Compiling Temporal Counting Logic Into Softmax Transformers ( http://arxiv.org/abs/2404.04393v1 ) ライセンス: Link先を確認 | Andy Yang, David Chiang, | (参考訳) 変圧器の表現性に関する形式的境界の導出と、既知のアルゴリズムを実装するために構築された変圧器の研究はどちらも、変圧器の計算能力をよりよく理解するための効果的な方法である。
両端に向かって、時空カウントロジック $\textbf{K}_\text{t}$[#] と RASP の変種 $\textbf{C-RASP}$ を紹介します。
それらが互いに等価であることを示し、それらが共に、有界な入力サイズを持つ将来のマスキング型ソフトアテンショントランスの形式的表現性に最もよく知られた下界であることを示す。
すべての$\textbf{K}_\text{t}$[#]式をこれらの変換子にコンパイルできることを示す。
ケーススタディとして、greedyデコーディングを使用して、$\textbf{K}_\text{t}$[#]で正式に指定されたプロパティを持つ文しか生成できない、単純なトランスフォーマー言語モデルを構築するために、$\textbf{C-RASP}$を使用する方法を示す。
Deriving formal bounds on the expressivity of transformers, as well as studying transformers that are constructed to implement known algorithms, are both effective methods for better understanding the computational power of transformers. Towards both ends, we introduce the temporal counting logic $\textbf{K}_\text{t}$[#] alongside the RASP variant $\textbf{C-RASP}$. We show they are equivalent to each other, and that together they are the best-known lower bound on the formal expressivity of future-masked soft attention transformers with unbounded input size. We prove this by showing all $\textbf{K}_\text{t}$[#] formulas can be compiled into these transformers. As a case study, we demonstrate on paper how to use $\textbf{C-RASP}$ to construct simple transformer language models that, using greedy decoding, can only generate sentences that have given properties formally specified in $\textbf{K}_\text{t}$[#]. | 翻訳日:2024-04-09 21:28:03 公開日:2024-04-05 |
| # オンライン会議における参加者のエンゲージメントの分析 : 非教師なしリモート光胸腺撮影と行動特性
Analyzing Participants' Engagement during Online Meetings Using Unsupervised Remote Photoplethysmography with Behavioral Features ( http://arxiv.org/abs/2404.04394v1 ) ライセンス: Link先を確認 | Alexander Vedernikov, Zhaodong Sun, Virpi-Liisa Kykyri, Mikko Pohjola, Miriam Nokia, Xiaobai Li, | (参考訳) エンゲージメント測定は、医療、教育、広告、サービスに応用される。
生理的特徴と行動的特徴の使用は可能であるが、従来の生理的測定の不実用性は接触センサーの必要性によって生じる。
心拍変動(HRV)特徴の導出における接触センサの代替として,非教師なし遠隔光胸腺造影(rPPG)の有用性を実証し,これらを行動特徴と融合させてオンライングループミーティングにおけるエンゲージメントを測定した。
第一に、ソーシャルワーカー間のオンラインインタラクションのユニークなエンゲージメントデータセットは、仮想ミーティングのダイナミクスに関する洞察を提供する、きめ細かいエンゲージメントラベルで収集される。
第2に、ビデオ会議からの正確なrPPG信号を教師なしで再構成するために、事前学習したrPPGモデルをカスタマイズし、HRV特徴量の計算を可能にする。
第3に,2～4分間の長い観測窓を用いた場合の顕著な拡張とともに,短い観測窓を用いたHRV特徴量からのエンゲージメント推定の可能性を示す。
第4に、行動手がかりの有効性を評価し、生理的データと融合することにより、エンゲージメント推定性能をさらに向上させる。
HRVの特徴のみを使用すると、94%の精度が達成され、接触センサーや地上の真理信号が不要になる。
行動手がかりの組み入れにより、精度は96%に向上する。
顔画像解析は正確なエンゲージメントの測定を提供し、将来の応用に有用である。
Engagement measurement finds application in healthcare, education, advertisement, and services. The use of physiological and behavioral features is viable, but the impracticality of traditional physiological measurement arises due to the need for contact sensors. We demonstrate the feasibility of unsupervised remote photoplethysmography (rPPG) as an alternative for contact sensors in deriving heart rate variability (HRV) features, then fusing these with behavioral features to measure engagement in online group meetings. Firstly, a unique Engagement Dataset of online interactions among social workers is collected with granular engagement labels, offering insight into virtual meeting dynamics. Secondly, a pre-trained rPPG model is customized to reconstruct accurate rPPG signals from video meetings in an unsupervised manner, enabling the calculation of HRV features. Thirdly, the feasibility of estimating engagement from HRV features using short observation windows, with a notable enhancement when using longer observation windows of two to four minutes, is demonstrated. Fourthly, the effectiveness of behavioral cues is evaluated and fused with physiological data, which further enhances engagement estimation performance. An accuracy of 94% is achieved when only HRV features are used, eliminating the need for contact sensors or ground truth signals. The incorporation of behavioral cues raises the accuracy to 96%. Facial video analysis offers precise engagement measurement, beneficial for future applications. | 翻訳日:2024-04-09 21:28:03 公開日:2024-04-05 |
| # 確率論的複合ベジエ曲線を用いた多段階軌道予測のための合成接地真実分布の生成
Generating Synthetic Ground Truth Distributions for Multi-step Trajectory Prediction using Probabilistic Composite Bézier Curves ( http://arxiv.org/abs/2404.04397v1 ) ライセンス: Link先を確認 | Ronny Hug, Stefan Becker, Wolfgang Hübner, Michael Arens, | (参考訳) 適切なデータ基盤は、ニューラルネットワークに基づく確率的軌道予測モデルのトレーニングと評価において最も重要な側面の1つを与える。
この点において、現在のベンチマークデータセットの共通の欠点は、サンプル軌跡の集合に対する制限と、実際の基底真理分布の欠如であり、モデル評価にワッサーシュタイン距離のようなより表現力のあるエラーメトリクスの使用を防止することである。
そこで本研究では,全軌道上の確率分布から基底真理データを生成可能な合成確率的B\'ezier曲線に基づく合成データセット生成手法を提案する。
これにより任意の後続分布の計算が可能となる。
本稿では, 生成した地中真実分布データを用いて, 模範的軌道予測モデルの評価を行う。
An appropriate data basis grants one of the most important aspects for training and evaluating probabilistic trajectory prediction models based on neural networks. In this regard, a common shortcoming of current benchmark datasets is their limitation to sets of sample trajectories and a lack of actual ground truth distributions, which prevents the use of more expressive error metrics, such as the Wasserstein distance for model evaluation. Towards this end, this paper proposes a novel approach to synthetic dataset generation based on composite probabilistic B\'ezier curves, which is capable of generating ground truth data in terms of probability distributions over full trajectories. This allows the calculation of arbitrary posterior distributions. The paper showcases an exemplary trajectory prediction model evaluation using generated ground truth distribution data. | 翻訳日:2024-04-09 21:28:03 公開日:2024-04-05 |
| # 時間差異種変圧器を用いた縦目標最小損失推定
Longitudinal Targeted Minimum Loss-based Estimation with Temporal-Difference Heterogeneous Transformer ( http://arxiv.org/abs/2404.04399v1 ) ライセンス: Link先を確認 | Toru Shirakawa, Yi Li, Yulun Wu, Sky Qiu, Yuxuan Li, Mingduo Zhao, Hiroyasu Iso, Mark van der Laan, | (参考訳) 本稿では, 長期目標最小損失推定法(Deep LTMLE)を提案する。
本手法では,時間差学習を用いて学習した異種型埋め込みを用いたトランスフォーマーアーキテクチャを用いる。
変圧器を用いて初期推定を行った後、ターゲット最小損失ベース推定(TMLE)フレームワークに従って、機械学習アルゴリズムに共通するバイアスを統計的に補正した。
さらに, この手法は, 漸近的統計理論に基づく95%信頼区間の提供を可能にすることで, 統計的推測を容易にする。
シミュレーションの結果,既存の手法,特に複雑で長い時間軸シナリオよりも優れた性能を示した。
この手法は、漸近的に効率的な推定器の性能と一致する小さなサンプル、短周期の文脈で有効である。
実際の心血管疫学コホート研究において,本手法を応用して,標準血圧と集中血圧管理戦略に対する反ファクトリアル平均値の推定を行った。
We propose Deep Longitudinal Targeted Minimum Loss-based Estimation (Deep LTMLE), a novel approach to estimate the counterfactual mean of outcome under dynamic treatment policies in longitudinal problem settings. Our approach utilizes a transformer architecture with heterogeneous type embedding trained using temporal-difference learning. After obtaining an initial estimate using the transformer, following the targeted minimum loss-based likelihood estimation (TMLE) framework, we statistically corrected for the bias commonly associated with machine learning algorithms. Furthermore, our method also facilitates statistical inference by enabling the provision of 95% confidence intervals grounded in asymptotic statistical theory. Simulation results demonstrate our method's superior performance over existing approaches, particularly in complex, long time-horizon scenarios. It remains effective in small-sample, short-duration contexts, matching the performance of asymptotically efficient estimators. To demonstrate our method in practice, we applied our method to estimate counterfactual mean outcomes for standard versus intensive blood pressure management strategies in a real-world cardiovascular epidemiology cohort study. | 翻訳日:2024-04-09 21:28:03 公開日:2024-04-05 |
| # メトロ乗客流れモデリングのための低ランクロバスト部分空間テンソルクラスタリング
Low-Rank Robust Subspace Tensor Clustering for Metro Passenger Flow Modeling ( http://arxiv.org/abs/2404.04403v1 ) ライセンス: Link先を確認 | Jiuyun Hu, Ziyue Li, Chen Zhang, Fugee Tsung, Hao Yan, | (参考訳) テンソルクラスタリングは、特に時空間モード(例えば、駅や道路セグメント)と時間モード(例えば、週の日時や日時)をクラスタ化できるため、時空間モデリングにおいて重要なトピックとなっている。
我々のモチベーションの例としては、駅間の類似点がよく見られる地下鉄の乗客フローモデリングがある。
しかし、課題はテンソルの自然に高次元性、および異常の存在の可能性にある。
これは、次元減少、クラスタリング、および異常分解の3つのタスクが互いに相互に関連しており、それらを別の方法で処理することで、準最適性能が得られるためである。
そこで本研究では,高次元テンソルに対する外乱次元の低減とクラスタリングを同時に行うために,テンソルをベースとした部分空間クラスタリングと異常分解手法を設計する。
これを実現するために、タッカー分解、スパース異常分解、サブスペースクラスタリングを組み合わせた、新しい低ランクロバストなサブスペースクラスタリング分解モデルを提案する。
パラメータを更新するために,ブロック座標Descentに基づく効率的なアルゴリズムを提案する。
試行錯誤実験により, ハードケースにおけるベンチマーク手法よりも25%以上のクラスタリング精度で, 提案手法の有効性が証明された。
3つのタスクの相互関係もアブレーション研究によって分析され、相互関係の仮定が検証される。
さらに、実際の乗客フローデータに基づく駅群クラスタリングのケーススタディを行い、非常に貴重な知見を得た。
Tensor clustering has become an important topic, specifically in spatio-temporal modeling, due to its ability to cluster spatial modes (e.g., stations or road segments) and temporal modes (e.g., time of the day or day of the week). Our motivating example is from subway passenger flow modeling, where similarities between stations are commonly found. However, the challenges lie in the innate high-dimensionality of tensors and also the potential existence of anomalies. This is because the three tasks, i.e., dimension reduction, clustering, and anomaly decomposition, are inter-correlated to each other, and treating them in a separate manner will render a suboptimal performance. Thus, in this work, we design a tensor-based subspace clustering and anomaly decomposition technique for simultaneously outlier-robust dimension reduction and clustering for high-dimensional tensors. To achieve this, a novel low-rank robust subspace clustering decomposition model is proposed by combining Tucker decomposition, sparse anomaly decomposition, and subspace clustering. An effective algorithm based on Block Coordinate Descent is proposed to update the parameters. Prudent experiments prove the effectiveness of the proposed framework via the simulation study, with a gain of +25% clustering accuracy than benchmark methods in a hard case. The interrelations of the three tasks are also analyzed via ablation studies, validating the interrelation assumption. Moreover, a case study in the station clustering based on real passenger flow data is conducted, with quite valuable insights discovered. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 教師なし学習のための動的スイッチ層
Dynamic Switch Layers For Unsupervised Learning ( http://arxiv.org/abs/2404.04405v1 ) ライセンス: Link先を確認 | Haiguang Li, Usama Pervaiz, Michał Matuszak, Robert Kamara, Gilles Roux, Trausti Thormundsson, Joseph Antognini, | (参考訳) オンデバイス機械学習(ODML)は、リソース制約のあるデバイスにおけるインテリジェントなアプリケーションを可能にする。
しかし、消費電力は大きな課題となり、モデルの精度とモデルの複雑さを制限する電力効率のトレードオフを強いることになる。
以前に確立されたGated Compression (GC) レイヤは、関心のシグナルを欠いたサンプルを選択的にゲーティングすることで、モデル性能を犠牲にすることなく電力効率を向上するソリューションを提供する。
しかし、地上の真理ラベルに依存しているため、GC層は教師付きタスクに制限される。
この作業では、動的スイッチ層(DSL)を導入し、GC層の利点を教師なしの学習シナリオに拡張し、ラベル付きデータを必要とせずに電力効率を維持する。
DSLはGCアーキテクチャの上に構築され、動的な経路選択を活用し、データ固有の構造に対応するためにモデルの複雑さを適用します。
我々は、DSLをSoundStreamアーキテクチャに統合し、軽量パスを介して80%のサンプルをルーティングすることで、処理量12.3倍の削減とモデルサイズ20.9倍の削減を実現していることを示す。
これにより、デバイス上の推論遅延を最大26.5%削減し、モデルのパフォーマンスに影響を与えることなく、最大21.4%の電力効率を改善することができる。
On-device machine learning (ODML) enables intelligent applications on resource-constrained devices. However, power consumption poses a major challenge, forcing a trade-off between model accuracy and power efficiency that often limits model complexity. The previously established Gated Compression (GC) layers offer a solution, enabling power efficiency without sacrificing model performance by selectively gating samples that lack signals of interest. However, their reliance on ground truth labels limits GC layers to supervised tasks. This work introduces the Dynamic Switch Layer (DSL), extending the benefits of GC layers to unsupervised learning scenarios, and maintaining power efficiency without the need for labeled data. The DSL builds upon the GC architecture, leveraging a dynamic pathway selection, and adapting model complexity in response to the innate structure of the data. We integrate the DSL into the SoundStream architecture and demonstrate that by routing up to 80% of samples through a lightweight pass we achieve a 12.3x reduction in the amount of computation performed and a 20.9x reduction in model size. This reduces the on-device inference latency by up to 26.5% and improves power efficiency by up to 21.4% without impacting model performance. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 中性原子を持つ量子状態の工学
Engineering quantum states with neutral atoms ( http://arxiv.org/abs/2404.04411v1 ) ライセンス: Link先を確認 | Jan Balewski, Milan Kornjaca, Katherine Klymko, Siva Darbha, Mark R. Hirsbrunner, Pedro Lopes, Fangli Liu, Daan Camps, | (参考訳) QuEra Computingが開発したアナログ量子シミュレーションプラットフォームであるAquilaは、256個の中性原子の位置とコヒーレントな進化の制御をサポートする。
本研究では,ブロック状態から遠く離れたベル状態の絡み合いを発生させるアナログ量子シミュレータのために設計された新しい実験プロトコルについて述べる。
また,測定結果の忠実度向上における読み出し誤差軽減手法の有効性についても検討した。
すべての実験はQuEraからAquila上で実行され、AWS Braketインターフェースによって促進された。
実験結果は理論予測や数値シミュレーションと密接に一致している。
この研究から得られた知見は、複雑な量子シミュレーションと計算を扱うAquilaの能力を示し、また、プログラム可能なアナログハードウェアプラットフォームを使用する量子情報処理と物理学における新しい研究の道を開いた。
Aquila, an analog quantum simulation platform developed by QuEra Computing, supports control of the position and coherent evolution of up to 256 neutral atoms. This study details novel experimental protocols designed for analog quantum simulators that generate Bell state entanglement far away from the blockade regime, construct a Z2 state with a defect induced by an ancilla, and optimize the driving fields schedule to prepare excited states with enhanced fidelity. We additionally evaluate the effectiveness of readout error mitigation techniques in improving the fidelity of measurement results. All experiments were executed on Aquila from QuEra and facilitated by the AWS Braket interface. Our experimental results closely align with theoretical predictions and numerical simulations. The insights gained from this study showcase Aquila's capabilities in handling complex quantum simulations and computations, and also pave the way for new avenues of research in quantum information processing and physics that employ programmable analog hardware platforms. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # NES Video-Music Database: ゲームプレイによるシンボリックビデオゲームのデータセット
The NES Video-Music Database: A Dataset of Symbolic Video Game Music Paired with Gameplay Videos ( http://arxiv.org/abs/2404.04420v1 ) ライセンス: Link先を確認 | Igor Cardoso, Rubens O. Moraes, Lucas N. Ferreira, | (参考訳) ニューラルモデルは、音楽生成の最も一般的なアプローチの1つですが、ゲームデータから直接音楽を学ぶのに適した、標準的な大きなデータセットはありません。
この研究ギャップに対処するために,389のNESゲームから98,940本のゲームプレイビデオを含むNES-VMDBという新しいデータセットを導入し,それぞれがオリジナルのサウンドトラックをシンボリックフォーマット(MIDI)でペアリングする。
NES-VMDBはニンテンドーエンタテインメント・システム・ミュージック・データベース(NES-MDB)上に構築されており、397のNESゲームから5,278曲を収録している。
われわれのアプローチでは、オリジナルデータセットの389のゲームの長編ビデオを収集し、15秒のクリップにスライスし、各クリップから音声を抽出する。
その後、NES-MDBデータセットの対応する部分を自動的に識別するために、音声フィンガープリントアルゴリズム(Shazamに似ている)を適用した。
さらに,制御可能な音楽変換器に基づくベースライン手法を導入し,ゲームプレイクリップを条件としたNES音楽を生成する。
提案手法を客観的な測定値を用いて評価した結果, 条件付きCMTは非条件付きCMTに比べて音楽的構造的品質を向上することがわかった。
さらに,生成した作品のゲームジャンルを予測するために,ニューラル分類器を用いた。
その結果,CMTジェネレータはゲームプレイビデオとゲームジャンルの相関関係を学習できることがわかった。
Neural models are one of the most popular approaches for music generation, yet there aren't standard large datasets tailored for learning music directly from game data. To address this research gap, we introduce a novel dataset named NES-VMDB, containing 98,940 gameplay videos from 389 NES games, each paired with its original soundtrack in symbolic format (MIDI). NES-VMDB is built upon the Nintendo Entertainment System Music Database (NES-MDB), encompassing 5,278 music pieces from 397 NES games. Our approach involves collecting long-play videos for 389 games of the original dataset, slicing them into 15-second-long clips, and extracting the audio from each clip. Subsequently, we apply an audio fingerprinting algorithm (similar to Shazam) to automatically identify the corresponding piece in the NES-MDB dataset. Additionally, we introduce a baseline method based on the Controllable Music Transformer to generate NES music conditioned on gameplay clips. We evaluated this approach with objective metrics, and the results showed that the conditional CMT improves musical structural quality when compared to its unconditional counterpart. Moreover, we used a neural classifier to predict the game genre of the generated pieces. Results showed that the CMT generator can learn correlations between gameplay videos and game genres, but further research has to be conducted to achieve human-level performance. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # PhysAvatar:視覚観察から3Dアバターの物理を学ぶ
PhysAvatar: Learning the Physics of Dressed 3D Avatars from Visual Observations ( http://arxiv.org/abs/2404.04421v1 ) ライセンス: Link先を確認 | Yang Zheng, Qingqing Zhao, Guandao Yang, Wang Yifan, Donglai Xiang, Florian Dubost, Dmitry Lagun, Thabo Beeler, Federico Tombari, Leonidas Guibas, Gordon Wetzstein, | (参考訳) フォトリアリスティックアバターのモデリングとレンダリングは多くのアプリケーションにおいて重要な役割を担っている。
しかし、視覚的な観察から3Dアバターを作る既存の方法では、服を着た人間の再構築に苦労している。
逆レンダリングと逆物理を組み合わせた新しいフレームワークであるPhysAvatarを導入し、多視点ビデオデータから人間の形状と外観を、衣服の物理パラメータとともに自動的に推定する。
この目的のために,時空間メッシュトラッキングのためのメッシュ整列4Dガウス手法と,物理的にベースとした逆レンダラーを採用し,本質的な材料特性を推定する。
PhysAvatarは物理シミュレータを統合して、勾配に基づく最適化を原理的に用いた衣服の物理パラメータを推定する。
これらの新しい能力により、PhysAvatarは、トレーニングデータに見られない動きや照明条件の下で、ゆるい服を着たアバターの高品質なノベルビューレンダリングを作成することができる。
これは、物理に基づく逆レンダリングをループ内の物理で行うことによって、フォトリアリスティックなデジタル人間をモデル化するための大きな進歩となる。
プロジェクトのWebサイトは以下の通り。
Modeling and rendering photorealistic avatars is of crucial importance in many applications. Existing methods that build a 3D avatar from visual observations, however, struggle to reconstruct clothed humans. We introduce PhysAvatar, a novel framework that combines inverse rendering with inverse physics to automatically estimate the shape and appearance of a human from multi-view video data along with the physical parameters of the fabric of their clothes. For this purpose, we adopt a mesh-aligned 4D Gaussian technique for spatio-temporal mesh tracking as well as a physically based inverse renderer to estimate the intrinsic material properties. PhysAvatar integrates a physics simulator to estimate the physical parameters of the garments using gradient-based optimization in a principled manner. These novel capabilities enable PhysAvatar to create high-quality novel-view renderings of avatars dressed in loose-fitting clothes under motions and lighting conditions not seen in the training data. This marks a significant advancement towards modeling photorealistic digital humans using physically based inverse rendering with physics in the loop. Our project website is at: https://qingqing-zhao.github.io/PhysAvatar | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # エネルギー緩和センシング方式によるフォノン媒介超電導量子検出器のエネルギー閾値の推定
Estimating the Energy Threshold of Phonon-mediated Superconducting Qubit Detectors Operated in an Energy-Relaxation Sensing Scheme ( http://arxiv.org/abs/2404.04423v1 ) ライセンス: Link先を確認 | R. Linehan, I. Hernandez, D. J. Temples, S. Q. Dang, D. Baxter, L. Hsu, E. Figueroa-Feliciano, R. Khatiwada, K. Anyang, D. Bowring, G. Bratrud, G. Cancelo, A. Chou, R. Gualtieri, K. Stifter, S. Sussman, | (参考訳) 近年,10GeV/c$^{2}$以上の質量スケールでのWIMPダークマターの確定検出の欠如により,より軽いダークマター候補の探索を目的とした低閾値検出器技術の開発が進められている。
クーパー対を破るセンサーを用いた検出器は、ほとんどの超伝導体でクーパー対を破るのに必要な低(meVスケール)エネルギーのために、この検出のための有望な道として登場した。
中でも超伝導量子ビットに基づくデバイスは、クーパー対が壊れた場合の感度が観察されるため、検知する上で興味深い候補である。
我々は、エンドツーエンドのG4CMPベースのシミュレーションフレームワークを開発し、ゲートベースの「エネルギー緩和」読み出し方式で動作している量子ビットデバイスの性能評価に利用した。
この読み出し方式では、クォービットはフォノンセンサとして機能し、短期性能パラメータに対して$\simeq$0.4 eVまでのエネルギー閾値を持つ。
In recent years, the lack of a conclusive detection of WIMP dark matter at the 10 GeV/c$^{2}$ mass scale and above has encouraged development of low-threshold detector technology aimed at probing lighter dark matter candidates. Detectors based on Cooper-pair-breaking sensors have emerged as a promising avenue for this detection due to the low (meV-scale) energy required for breaking a Cooper pair in most superconductors. Among them, devices based on superconducting qubits are interesting candidates for sensing due to their observed sensitivity to broken Cooper pairs. We have developed an end-to-end G4CMP-based simulation framework and have used it to evaluate performance metrics of qubit-based devices operating in a gate-based "energy relaxation" readout scheme, akin to those used in recent studies of qubit sensitivity to ionizing radiation. We find that for this readout scheme, the qubit acts as a phonon sensor with an energy threshold ranging down to $\simeq$0.4 eV for near-term performance parameters. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # Bayesian Additive Regression Networks
Bayesian Additive Regression Networks ( http://arxiv.org/abs/2404.04425v1 ) ライセンス: Link先を確認 | Danielle Van Boxel, | (参考訳) 回帰タスクのための小さなニューラルネットワークのアンサンブルをトレーニングするためにベイジアン付加回帰木(BART)の原則を適用した。
マルコフ・チェイン・モンテカルロを用いて、1つの隠れた層を持つニューラルネットワークの後部分布をサンプリングする。
これらのアンサンブルを作成するために、ギブスサンプリングを適用し、各ネットワークを残りのターゲット値に対して更新する(すなわち、他のネットワークの効果を減じる)。
いくつかのベンチマーク回帰問題に対して、この手法の有効性を実証し、等価な浅層ニューラルネットワーク、BART、および通常の最小二乗と比較する。
私たちのBayesian Additive Regression Networks(BARN)はより一貫性があり、より正確な結果を提供します。
テストデータベンチマークでは、BARNの平均ルート平均平方誤差は5～20%低かった。
しかし、このエラー性能は計算時間を長くするコストがかかる。
BARNは、競合するメソッドが1秒かそれ以下の時間で処理される場合もあります。
しかし、クロスバリデーションハイパーパラメータチューニングのないBARNは、チューニングされた他の方法とほぼ同じ計算時間を要する。
しかし、BARNは一般的にはより正確である。
We apply Bayesian Additive Regression Tree (BART) principles to training an ensemble of small neural networks for regression tasks. Using Markov Chain Monte Carlo, we sample from the posterior distribution of neural networks that have a single hidden layer. To create an ensemble of these, we apply Gibbs sampling to update each network against the residual target value (i.e. subtracting the effect of the other networks). We demonstrate the effectiveness of this technique on several benchmark regression problems, comparing it to equivalent shallow neural networks, BART, and ordinary least squares. Our Bayesian Additive Regression Networks (BARN) provide more consistent and often more accurate results. On test data benchmarks, BARN averaged between 5 to 20 percent lower root mean square error. This error performance does come at the cost, however, of greater computation time. BARN sometimes takes on the order of a minute where competing methods take a second or less. But, BARN without cross-validated hyperparameter tuning takes about the same amount of computation time as tuned other methods. Yet BARN is still typically more accurate. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # PhysPT:モノクロビデオから人間のダイナミクスを推定するための物理対応事前学習トランス
PhysPT: Physics-aware Pretrained Transformer for Estimating Human Dynamics from Monocular Videos ( http://arxiv.org/abs/2404.04430v1 ) ライセンス: Link先を確認 | Yufei Zhang, Jeffrey O. Kephart, Zijun Cui, Qiang Ji, | (参考訳) 現在の方法では、モノクロビデオから3次元の人間の動きを推定する上で有望な進歩が見られるが、運動推定は主に運動学を考えるため、物理的に非現実的であることが多い。
本稿では、運動量に基づく運動推定を改善し、運動力を推定する物理対応事前学習変換器(PhysPT)を提案する。
PhysPTはTransformerエンコーダ/デコーダのバックボーンを利用して、自己管理的な方法で人間のダイナミクスを効果的に学習する。
さらに、人間の動きを司る物理学の原則も取り入れている。
具体的には,物理に基づく身体表現と接触力モデルを構築した。
我々はこれらを利用して、新しい物理学にインスパイアされたトレーニング損失(すなわち、力損失、接触損失、オイラーラグランジュ損失)を課し、PhysPTが人体とそれが経験する力の物理的特性を捉えることを可能にする。
実験により、一度訓練されたPhysPTは、運動学に基づく推定に直接適用でき、身体的可視性を著しく向上し、良好な運動力を生み出すことが示されている。
さらに、これらの物理的に意味のある量によって、人間の行動認識という重要な下流タスクの精度が向上することを示す。
While current methods have shown promising progress on estimating 3D human motion from monocular videos, their motion estimates are often physically unrealistic because they mainly consider kinematics. In this paper, we introduce Physics-aware Pretrained Transformer (PhysPT), which improves kinematics-based motion estimates and infers motion forces. PhysPT exploits a Transformer encoder-decoder backbone to effectively learn human dynamics in a self-supervised manner. Moreover, it incorporates physics principles governing human motion. Specifically, we build a physics-based body representation and contact force model. We leverage them to impose novel physics-inspired training losses (i.e., force loss, contact loss, and Euler-Lagrange loss), enabling PhysPT to capture physical properties of the human body and the forces it experiences. Experiments demonstrate that, once trained, PhysPT can be directly applied to kinematics-based estimates to significantly enhance their physical plausibility and generate favourable motion forces. Furthermore, we show that these physically meaningful quantities translate into improved accuracy of an important downstream task: human action recognition. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 空間的多様性に基づくプルーニングによるロバスト・ファウショット・アンサンブル学習
Robust Few-Shot Ensemble Learning with Focal Diversity-Based Pruning ( http://arxiv.org/abs/2404.04434v1 ) ライセンス: Link先を確認 | Selim Furkan Tekin, Fatih Ilhan, Tiansheng Huang, Sihao Hu, Ka-Ho Chow, Margaret L. Loper, Ling Liu, | (参考訳) 本稿では,焦点多様性に最適化された複数ショットのアンサンブル学習手法であるFusionShotについて述べる。
論文は3つのオリジナルコントリビューションがある。
まず,3つの代替核融合チャネルを作成することにより,複数の小銃モデル(FS)をアンサンブルするための小銃学習の特徴について検討する。
第二に、より多数のベースモデルのアンサンブルが、より小さなサイズのサブアンサンブルよりも優れていると仮定するのではなく、最も効率的なアンサンブル・チーム戦略を学ぶために焦点誤差の多様性の概念を導入する。
提案手法は,低アンサンブル誤り多様性を持つ候補アンサンブルを効果的にプルークアウトし,最高アンサンブル誤り度の高い上位$K$FSアンサンブルを推奨する。
最後に,多種多様なアンサンブル融合のための多種多様な重み付けを学習する学習対組合せアルゴリズムを設計することにより,アンサンブル数ショット予測の複雑な非線形パターンを捉える。
FusionShotが推奨するトップKアンサンブルは、新しいタスク(異なる分布とトレーニングの未知)において代表的なSOTA数アンサンブルよりも優れており、クロスドメイン設定と逆設定の両方で既存の数アンサンブルよりも優位であることを示している。
再現性のために、FusionShotでトレーニングされたモデル、結果、コードはhttps://github.com/sftekin/fusionshotで公開されている。
This paper presents FusionShot, a focal diversity optimized few-shot ensemble learning approach for boosting the robustness and generalization performance of pre-trained few-shot models. The paper makes three original contributions. First, we explore the unique characteristics of few-shot learning to ensemble multiple few-shot (FS) models by creating three alternative fusion channels. Second, we introduce the concept of focal error diversity to learn the most efficient ensemble teaming strategy, rather than assuming that an ensemble of a larger number of base models will outperform those sub-ensembles of smaller size. We develop a focal-diversity ensemble pruning method to effectively prune out the candidate ensembles with low ensemble error diversity and recommend top-$K$ FS ensembles with the highest focal error diversity. Finally, we capture the complex non-linear patterns of ensemble few-shot predictions by designing the learn-to-combine algorithm, which can learn the diverse weight assignments for robust ensemble fusion over different member models. Extensive experiments on representative few-shot benchmarks show that the top-K ensembles recommended by FusionShot can outperform the representative SOTA few-shot models on novel tasks (different distributions and unknown at training), and can prevail over existing few-shot learners in both cross-domain settings and adversarial settings. For reproducibility purposes, FusionShot trained models, results, and code are made available at https://github.com/sftekin/fusionshot | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # AIの知識と推論 - 科学研究における専門家の創造性をエミュレートする
AI Knowledge and Reasoning: Emulating Expert Creativity in Scientific Research ( http://arxiv.org/abs/2404.04436v1 ) ライセンス: Link先を確認 | Anirban Mukherjee, Hannah Hanwen Chang, | (参考訳) 我々は、現代のAIが複雑な科学的取り組みにおいて、専門家の創造性をエミュレートできるかどうか検討する。
我々は,AIのトレーニング遮断後に公開されたオリジナルの研究論文を活用し,事前の暴露を確実にし,ロート記憶の懸念を緩和し,事前のトレーニングを行う新しい手法を紹介する。
AIは、発見を再実行し、再実行された研究の結果を予測し、報告された結果に対する予測精度を評価する。
589年の分析は、28ヶ月にわたる4つの主要な心理学雑誌に発表され、AIが専門研究の理解、帰納的推論、そして人間の主題に関する専門知識と創造性の顕在的アライメント-認知的指標を評価する能力を示した。
これらの知見は、知識に基づく創造性を必要とする役割が、テクノロジーの代替によってますます受容されるようになり、学術を変革する汎用AIの可能性を示している。
We investigate whether modern AI can emulate expert creativity in complex scientific endeavors. We introduce novel methodology that utilizes original research articles published after the AI's training cutoff, ensuring no prior exposure, mitigating concerns of rote memorization and prior training. The AI are tasked with redacting findings, predicting outcomes from redacted research, and assessing prediction accuracy against reported results. Analysis on 589 published studies in four leading psychology journals over a 28-month period, showcase the AI's proficiency in understanding specialized research, deductive reasoning, and evaluating evidentiary alignment--cognitive hallmarks of human subject matter expertise and creativity. These findings suggest the potential of general-purpose AI to transform academia, with roles requiring knowledge-based creativity become increasingly susceptible to technological substitution. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 帰納的ニューラル表現を用いた非負行列因子化の再考
Rethinking Non-Negative Matrix Factorization with Implicit Neural Representations ( http://arxiv.org/abs/2404.04439v1 ) ライセンス: Link先を確認 | Krishna Subramani, Paris Smaragdis, Takuya Higuchi, Mehrez Souden, | (参考訳) 非負行列因子化(Non- negative Matrix Factorization、NMF)は、定期的にサンプリングされたデータ、すなわち行列に格納できるデータを分析する強力な手法である。
オーディオでは、ショート・タイム・フーリエ変換のような時間周波数(TF)表現を使用する多くのアプリケーションに繋がった。
しかし、これらのアプリケーションを定数-Q変換やウェーブレット、正弦波解析モデルのような不規則に空間化されたTF表現に拡張することは、これらの表現を直接行列形式に格納できないため不可能である。
本稿では、NMFを連続関数(固定ベクトルの代わりに)で定式化し、NMFが定期的にサンプリングされる必要のないより広い種類の信号クラスに拡張可能であることを示す。
Non-negative Matrix Factorization (NMF) is a powerful technique for analyzing regularly-sampled data, i.e., data that can be stored in a matrix. For audio, this has led to numerous applications using time-frequency (TF) representations like the Short-Time Fourier Transform. However extending these applications to irregularly-spaced TF representations, like the Constant-Q transform, wavelets, or sinusoidal analysis models, has not been possible since these representations cannot be directly stored in matrix form. In this paper, we formulate NMF in terms of continuous functions (instead of fixed vectors) and show that NMF can be extended to a wider variety of signal classes that need not be regularly sampled. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 大規模言語モデルのレンズを通して自律エージェントを探索する: レビュー
Exploring Autonomous Agents through the Lens of Large Language Models: A Review ( http://arxiv.org/abs/2404.04442v1 ) ライセンス: Link先を確認 | Saikat Barua, | (参考訳) 大規模言語モデル(LLM)は人工知能を変革し、自律エージェントがさまざまなドメインで多様なタスクを実行できるようにしている。
これらのエージェントは、ヒューマンライクなテキスト理解と生成に熟練しており、カスタマーサービスからヘルスケアへとセクターに革命をもたらす可能性がある。
しかし、それらは多目的性、人的価値のアライメント、幻覚、評価といった課題に直面している。
プロンプト、推論、ツール利用、コンテキスト内学習といった技術は、その能力を高めるために研究されている。
AgentBench、WebArena、ToolLLMといった評価プラットフォームは、複雑なシナリオでこれらのエージェントを評価する堅牢な方法を提供します。
これらの進歩により、よりレジリエントで有能な自律エージェントが開発され、私たちのデジタル生活に不可欠なものになり、電子メールの応答から病気の診断に至るまでのタスクを支援することが期待されている。
LLMが最前線にいるAIの未来は、有望だ。
Large Language Models (LLMs) are transforming artificial intelligence, enabling autonomous agents to perform diverse tasks across various domains. These agents, proficient in human-like text comprehension and generation, have the potential to revolutionize sectors from customer service to healthcare. However, they face challenges such as multimodality, human value alignment, hallucinations, and evaluation. Techniques like prompting, reasoning, tool utilization, and in-context learning are being explored to enhance their capabilities. Evaluation platforms like AgentBench, WebArena, and ToolLLM provide robust methods for assessing these agents in complex scenarios. These advancements are leading to the development of more resilient and capable autonomous agents, anticipated to become integral in our digital lives, assisting in tasks from email responses to disease diagnosis. The future of AI, with LLMs at the forefront, is promising. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 実感的なFew-Shot関係抽出に向けて:新しいメタデータセットと評価
Towards Realistic Few-Shot Relation Extraction: A New Meta Dataset and Evaluation ( http://arxiv.org/abs/2404.04445v1 ) ライセンス: Link先を確認 | Fahmida Alam, Md Asiful Islam, Robert Vacareanu, Mihai Surdeanu, | (参考訳) 我々は,NYT29 (Takanobu et al, 2019; Nayak and Ng, 2020) とWIKIDATA (Sorokin and Gurevych, 2017) の2つの既存の教師付き関係抽出データセットとTACREDデータセット(Sabo et al, 2021)から派生した2つのデータセットを含む,少数ショット関係抽出のためのメタデータセットを紹介する。
重要なことに、これらのいくつかのデータセットはすべて、現実的な仮定の下で生成された。例えば、テスト関係は、モデルが以前見たであろう関係とは異なる。
この大きな資源を用いて,近年の6つの連写関係抽出手法を総合的に評価し,どの手法も明確な勝者にはならないことを観察する。
さらに、このタスクの全体的な性能は低く、将来の研究のかなりの必要性を示している。
将来の研究のために、すべてのバージョンのデータ、すなわち教師付きおよび少数ショットをリリースする。
We introduce a meta dataset for few-shot relation extraction, which includes two datasets derived from existing supervised relation extraction datasets NYT29 (Takanobu et al., 2019; Nayak and Ng, 2020) and WIKIDATA (Sorokin and Gurevych, 2017) as well as a few-shot form of the TACRED dataset (Sabo et al., 2021). Importantly, all these few-shot datasets were generated under realistic assumptions such as: the test relations are different from any relations a model might have seen before, limited training data, and a preponderance of candidate relation mentions that do not correspond to any of the relations of interest. Using this large resource, we conduct a comprehensive evaluation of six recent few-shot relation extraction methods, and observe that no method comes out as a clear winner. Further, the overall performance on this task is low, indicating substantial need for future research. We release all versions of the data, i.e., both supervised and few-shot, for future research. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 漏洩計器による境界因果効果
Bounding Causal Effects with Leaky Instruments ( http://arxiv.org/abs/2404.04446v1 ) ライセンス: Link先を確認 | David S. Watson, Jordan Penn, Lee M. Gunderson, Gecia Bravo-Hermsdorff, Afsaneh Mastouri, Ricardo Silva, | (参考訳) 機器変数(IVs)は、観測されていないコンバウンディングの存在下で因果効果を推定するための人気で強力なツールである。
しかし、古典的なアプローチは$\textit{exclusion criterion}$のような強い仮定に頼っている。
この仮定は実際は失敗することが多い。
IV法が排他基準に満たないデータに不適切に適用された場合、推定因果効果はひどくバイアスを受ける可能性がある。
そこで本研究では,$\textit{partial}$の線形モデルに対して,排他的基準をある程度の制限で破ることのできる$\textit{leaky instrument}$を付与する新しい解を提案する。
情報漏洩の共通な形態で平均処理効果を確実にシャープに制限する凸最適化目標を導出し,得られた推定の不確かさを定量化するための推論手順を実装した。
提案手法をシミュレーションデータを用いた実験で実証し, 現状に対して良好に動作することを示す。
Instrumental variables (IVs) are a popular and powerful tool for estimating causal effects in the presence of unobserved confounding. However, classical approaches rely on strong assumptions such as the $\textit{exclusion criterion}$, which states that instrumental effects must be entirely mediated by treatments. This assumption often fails in practice. When IV methods are improperly applied to data that do not meet the exclusion criterion, estimated causal effects may be badly biased. In this work, we propose a novel solution that provides $\textit{partial}$ identification in linear models given a set of $\textit{leaky instruments}$, which are allowed to violate the exclusion criterion to some limited degree. We derive a convex optimization objective that provides provably sharp bounds on the average treatment effect under some common forms of information leakage, and implement inference procedures to quantify the uncertainty of resulting estimates. We demonstrate our method in a set of experiments with simulated data, where it performs favorably against the state of the art. | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # コヒーレント光生成の量子力学的側面:コヒーレンス限界と多重ベクトル中間子
Quantum mechanical aspects of coherent photoproduction: the limits of coherence, and multiple vector mesons ( http://arxiv.org/abs/2404.04450v1 ) ライセンス: Link先を確認 | Spencer R. Klein, | (参考訳) 量子力学は、超末梢衝突(UPC)におけるコヒーレント光生成の中心である。
この記事では、これらの量子力学のルーツに由来するUPCの驚くべき側面について論じる。
Good-Walker(GW)パラダイムは、コヒーレントな光生成と、その基底状態にある標的核を結びつける。
これは、コヒーレンスが個々の核子の位置と運動量移動に依存する半古典的な図と対照的である。
GW法とは異なり、半古典的図像は、核分裂を伴うコヒーレント光生成の観測データと、周辺衝突におけるコヒーレント光生成の観測データと一致している。
半古典的なアプローチは、荷電中間子のコヒーレント光生成など、より幅広いコヒーレントなUPC反応を可能にする。
量子力学は、単一イオン対の相互作用による複数のベクトル中間子のコヒーレント光生成の鍵でもある。
ベクトル中間子は共通の影響パラメータを共有しており、単一の中間子よりもリッチな干渉パターンを示すことができる。
前方急速では、複数の同一ベクトル中間子を生成する断面が超放射性により強化される。
十分な統計量があれば、マルチ中間子事象は刺激された崩壊を観測する機会を与えるかもしれない。
※
Quantum mechanics is central to coherent photoproduction in ultra-peripheral collisions (UPCs). This writeup will discuss some surprising aspects of UPCs that stem from these quantum mechanical roots. The Good-Walker (GW) paradigm, which connects coherent photoproduction with the target nucleus remaining in its ground state. This contrasts with a semi-classical picture, where coherence depends on the positions of the individual nucleons and the momentum transfer. Unlike the GW approach, the semiclassical picture is consistent with the observed data on coherent photoproduction with nuclear breakup, and with coherent photoproduction in peripheral collisions. The semiclassical approach allows for a wider variety of coherent UPC reactions, such as coherent photoproduction of charged mesons, including some non $q\overline q$ exotica. Quantum mechanics is also key to the coherent photoproduction of multiple vector mesons by the interactions of a single ion pair. The vector mesons share a common impact parameter, and so can exhibit richer interference patterns than single mesons. At forward rapidities, the cross sections to produce multiple identical vector mesons are enhanced due to superradiance. With enough statistics, multi-meson events may provide an opportunity to observe stimulated decays.} | 翻訳日:2024-04-09 21:18:18 公開日:2024-04-05 |
| # 領域適応と一般化における視覚変換器:ロバスト性に関する研究
Vision Transformers in Domain Adaptation and Generalization: A Study of Robustness ( http://arxiv.org/abs/2404.04452v1 ) ライセンス: Link先を確認 | Shadi Alijani, Jamil Fayyad, Homayoun Najjaran, | (参考訳) ディープラーニングモデルはしばしば、トレーニングと検証フェーズで使用されるものとデータ分散が異なるシナリオで評価される。
この不一致は、目標分布に展開されたモデルの性能を正確に予測する上での課題である。
ドメイン適応と一般化は、そのようなシフトに対処するための効果的な戦略として広く認識され、信頼性の高い性能が保証される。
コンピュータビジョンタスクに視覚トランスフォーマーを適用した最近の有望な成果は、自己認識機構の進歩と相まって、分散シフトの処理におけるロバスト性と一般化の有意義な可能性を実証している。
研究コミュニティの関心が高まり,ドメイン適応とドメイン一般化シナリオにおけるビジョントランスフォーマーの展開について検討した。
ドメイン適応法では、機能レベル、インスタンスレベル、モデルレベル、ハイブリッドアプローチ、およびドメイン適応を強化するための多様な戦略に関する他の分類を分類する。
同様に、ドメインの一般化については、マルチドメイン学習、メタラーニング、正規化技術、データ拡張戦略の研究を分類する。
我々は、視覚変換器を統合することで、分散シフトに対処するために研究者が行った様々なアプローチについて、研究における多様な戦略を更に分類する。
これらのカテゴリをまとめる包括的なテーブルを含めることは、我々の研究の際立った特徴であり、研究者にとって貴重な洞察を提供する。
これらの知見は、特に重要な安全性と意思決定シナリオにおいて、現実世界のアプリケーションにとって重要な、分散シフトの管理におけるビジョントランスフォーマーの汎用性を強調している。
Deep learning models are often evaluated in scenarios where the data distribution is different from those used in the training and validation phases. The discrepancy presents a challenge for accurately predicting the performance of models once deployed on the target distribution. Domain adaptation and generalization are widely recognized as effective strategies for addressing such shifts, thereby ensuring reliable performance. The recent promising results in applying vision transformers in computer vision tasks, coupled with advancements in self-attention mechanisms, have demonstrated their significant potential for robustness and generalization in handling distribution shifts. Motivated by the increased interest from the research community, our paper investigates the deployment of vision transformers in domain adaptation and domain generalization scenarios. For domain adaptation methods, we categorize research into feature-level, instance-level, model-level adaptations, and hybrid approaches, along with other categorizations with respect to diverse strategies for enhancing domain adaptation. Similarly, for domain generalization, we categorize research into multi-domain learning, meta-learning, regularization techniques, and data augmentation strategies. We further classify diverse strategies in research, underscoring the various approaches researchers have taken to address distribution shifts by integrating vision transformers. The inclusion of comprehensive tables summarizing these categories is a distinct feature of our work, offering valuable insights for researchers. These findings highlight the versatility of vision transformers in managing distribution shifts, crucial for real-world applications, especially in critical safety and decision-making scenarios. | 翻訳日:2024-04-09 21:08:32 公開日:2024-04-05 |
| # AdamW: $\ell_\infty$ Norm Constrained Optimization
Implicit Bias of AdamW: $\ell_\infty$ Norm Constrained Optimization ( http://arxiv.org/abs/2404.04454v1 ) ライセンス: Link先を確認 | Shuo Xie, Zhiyuan Li, | (参考訳) ウェイト崩壊を分離したAdam(AdamW)は、言語モデリングタスクにおける優れた性能で広く評価されており、一般化と最適化の点でAdamを$\ell_2$正規化で上回っている。
しかし、この利点は理論的にはよく理解されていない。
直感的には$\ell_2$正規化は$\ell_2$正規化損失を最適化するが、AdamWが特定の目的を最適化するかどうかは不明である。
本研究では,AdamWが暗黙的に制約付き最適化を行うことを示すことにより,AdamWのメリットを理解するために前進する。
より具体的には、AdamWが部分和が発散する任意の非増加学習率スケジュールと収束する場合、パラメータの$\ell_\infty$ノルムがウェイト崩壊係数の逆数で有界であるという制約の下で、元の損失のKKT点に収束しなければならない。
この結果は、Adam を SignGD の滑らかなバージョンと見なすことができ、これは$\ell_\infty$ノルムに対して正規化された最も急降下であり、重量減衰を伴う正規化された最も急降下とフランク=ウルフの間の驚くべき関係である。
Adam with decoupled weight decay, also known as AdamW, is widely acclaimed for its superior performance in language modeling tasks, surpassing Adam with $\ell_2$ regularization in terms of generalization and optimization. However, this advantage is not theoretically well-understood. One challenge here is that though intuitively Adam with $\ell_2$ regularization optimizes the $\ell_2$ regularized loss, it is not clear if AdamW optimizes a specific objective. In this work, we make progress toward understanding the benefit of AdamW by showing that it implicitly performs constrained optimization. More concretely, we show in the full-batch setting, if AdamW converges with any non-increasing learning rate schedule whose partial sum diverges, it must converge to a KKT point of the original loss under the constraint that the $\ell_\infty$ norm of the parameter is bounded by the inverse of the weight decay factor. This result is built on the observation that Adam can be viewed as a smoothed version of SignGD, which is the normalized steepest descent with respect to $\ell_\infty$ norm, and a surprising connection between normalized steepest descent with weight decay and Frank-Wolfe. | 翻訳日:2024-04-09 21:08:32 公開日:2024-04-05 |
| # 治験におけるゼロショット多言語話者の検証
Zero-Shot Multi-Lingual Speaker Verification in Clinical Trials ( http://arxiv.org/abs/2404.01981v2 ) ライセンス: Link先を確認 | Ali Akram, Marija Stanojevic, Malikeh Ehghaghi, Jekaterina Novikova, | (参考訳) 多くの臨床医、患者、データ収集環境が臨床試験に関与しているため、優れた品質のデータを集めることは大きな課題である。
臨床試験では、患者の音声データに基づいて、認知や精神の健康障害を検出し、モニターする。
我々は,これらの音声記録を用いて,登録患者の身元を確認し,同じ臨床試験で複数回登録しようとする個人を特定し,排除することを提案する。
臨床研究は様々な国で行われているため、さらなる開発努力を伴わずに多様な言語で話者検証を行うシステムを構築することが不可欠である。
我々は、英語、ドイツ語、デンマーク語、スペイン語、アラビア語を母語とする言語障害者を対象に、事前訓練したTitaNet, ECAPA-TDNN, SpeakerNetモデルの評価を行った。
これらの結果から,ヨーロッパ語では2.7%,アラビア語では8.26%であった。
これは、様々な言語や方言で使用できる認知的および精神的な臨床試験のための、より汎用的で効率的な話者検証システムを開発するための重要なステップであり、複数の言語のための話者検証システムを開発するのに必要な労力を大幅に削減する。
また,実験に関わった音声タスクと話者数がどのように影響するかを評価し,その種類がモデル性能に影響を及ぼすことを示す。
Due to the substantial number of clinicians, patients, and data collection environments involved in clinical trials, gathering data of superior quality poses a significant challenge. In clinical trials, patients are assessed based on their speech data to detect and monitor cognitive and mental health disorders. We propose using these speech recordings to verify the identities of enrolled patients and identify and exclude the individuals who try to enroll multiple times in the same trial. Since clinical studies are often conducted across different countries, creating a system that can perform speaker verification in diverse languages without additional development effort is imperative. We evaluate pre-trained TitaNet, ECAPA-TDNN, and SpeakerNet models by enrolling and testing with speech-impaired patients speaking English, German, Danish, Spanish, and Arabic languages. Our results demonstrate that tested models can effectively generalize to clinical speakers, with less than 2.7% EER for European Languages and 8.26% EER for Arabic. This represents a significant step in developing more versatile and efficient speaker verification systems for cognitive and mental health clinical trials that can be used across a wide range of languages and dialects, substantially reducing the effort required to develop speaker verification systems for multiple languages. We also evaluate how speech tasks and number of speakers involved in the trial influence the performance and show that the type of speech tasks impacts the model performance. | 翻訳日:2024-04-09 11:18:23 公開日:2024-04-05 |
| # 一次元液滴搭載環境における分散衝撃波
Dispersive shock waves in a one-dimensional droplet-bearing environment ( http://arxiv.org/abs/2404.02998v2 ) ライセンス: Link先を確認 | Sathyanarayanan Chandramouli, Simeon I. Mistakidis, Garyfallia C. Katsimiga, Panayotis G. Kevrekidis, | (参考訳) 本研究では, ステップ状初期条件の助けを借りて, 量子液滴軸受環境に発生する分散衝撃波の制御可能な生成を実証する。
続く流体力学特異点の分散正則化は、平均場反発と魅力的な量子ゆらぎの競合によって生じる。
この相互作用は、音の実速と想像速度によってそれぞれ指定されるデフォーカス(双曲)と集中(楕円)の流体力学現象の優位性を示す。
具体的には、Gross-Pitaevskiiモデルの拡張対称性は、ここで用いられるリーマン問題の2つの密度と相対速度を含む3パラメータの族に導かれる。
驚くべきことに、分散衝撃波は双曲から楕円のしきい値を越えて持続する一方、レアファクテーション波、走行する分散衝撃波、(反)キンク、および液滴波列などの追加の波動パターンが出現する。
これらの特徴の分類と特徴づけは、ウィットハム変調理論を展開させることによって達成される。
この結果から, 多数の未探索コヒーレントに伝播する波形を, 魅力的な相互作用を持つ混合物中で明らかにし, 現状の実験で検出できる可能性が示唆された。
We demonstrate the controllable generation of distinct types of dispersive shock-waves emerging in a quantum droplet bearing environment with the aid of step-like initial conditions. Dispersive regularization of the ensuing hydrodynamic singularities occurs due to the competition between meanfield repulsion and attractive quantum fluctuations. This interplay delineates the dominance of defocusing (hyperbolic) and focusing (elliptic) hydrodynamic phenomena respectively being designated by real and imaginary speed of sound. Specifically, the symmetries of the extended Gross-Pitaevskii model lead to a three-parameter family, encompassing two densities and a relative velocity, of the underlying Riemann problem utilized herein. Surprisingly, dispersive shock waves persist across the hyperbolic-to-elliptic threshold, while a plethora of additional wave patterns arise, such as rarefaction waves, traveling dispersive shock waves, (anti)kinks and droplet wavetrains. The classification and characterization of these features is achieved by deploying Whitham modulation theory. Our results pave the way for unveiling a multitude of unexplored coherently propagating waveforms in such attractively interacting mixtures and should be detectable by current experiments. | 翻訳日:2024-04-09 11:18:23 公開日:2024-04-05 |
| # ガウスモデルに基づくクラスタリングにおける外乱の探索
Finding Outliers in Gaussian Model-Based Clustering ( http://arxiv.org/abs/1907.01136v5 ) ライセンス: Link先を確認 | Katharine M. Clark, Paul D. McNicholas, | (参考訳) クラスタリング(英: Clustering)または教師なし分類(英: unsupervised classification)は、しばしば外れ者によって悩まされるタスクである。
しかし、クラスタリングにおけるアウトレーヤの処理には多くの作業があります。
外層識別アルゴリズムは、外層包摂性、外層トリミング、および \textit{post hoc}外層識別法という3つの広いカテゴリに分類される傾向にあり、前者2つは外層数の事前特定を必要とすることが多い。
サンプルマハラノビス距離がβ分布であるという事実は、部分有限ガウス混合モデルの対数分布を近似的に導くために用いられる。
その後、サブセットの対数類似度が基準分布に従属するまでは、外れ値と見なされる部分集合の対数類似度に応じて最小可算点を除去するアルゴリズムが提案される。
この結果、OCLUSTと呼ばれるトリミング法が、本質的に外乱数の数を推定する。
Clustering, or unsupervised classification, is a task often plagued by outliers. Yet there is a paucity of work on handling outliers in clustering. Outlier identification algorithms tend to fall into three broad categories: outlier inclusion, outlier trimming, and \textit{post hoc} outlier identification methods, with the former two often requiring pre-specification of the number of outliers. The fact that sample Mahalanobis distance is beta-distributed is used to derive an approximate distribution for the log-likelihoods of subset finite Gaussian mixture models. An algorithm is then proposed that removes the least plausible points according to the subset log-likelihoods, which are deemed outliers, until the subset log-likelihoods adhere to the reference distribution. This results in a trimming method, called OCLUST, that inherently estimates the number of outliers. | 翻訳日:2024-04-09 00:53:45 公開日:2024-04-05 |
| # 離散クロック構成を用いた時間依存ハミルトニアンシミュレーション
Time Dependent Hamiltonian Simulation Using Discrete Clock Constructions ( http://arxiv.org/abs/2203.11353v2 ) ライセンス: Link先を確認 | Jacob Watkins, Nathan Wiebe, Alessandro Roggero, Dean Lee, | (参考訳) 時間独立ハミルトニアンと比較して、一般量子ハミルトニアン$H(t)$の力学は進化作用素における時間順序の存在によって複雑である。
デジタル量子シミュレーションの文脈では、この困難さは時間依存シミュレーションのための時間依存シミュレーションアルゴリズムの直接的な適応を防ぐ。
しかし、力学系の理論には「時計」自由度を加えることで時間秩序をなくす枠組みがある。
本研究では,時間依存力学を時間依存系として符号化する計算フレームワークを提案する。
その結果,デジタルハミルトニアンシミュレーションの2つの進歩が得られた。
まず、拡張クロックシステム上で量子化を実行することに基づく時間依存シミュレーションアルゴリズムを作成し、それを用いて、順序付けられた指数関数のトロッター化を超える時間依存ハミルトニアンに対する最初の量子化に基づくアプローチを提供する。
第2に、時間順指数に対する多積公式の自然な一般化を定義し、これらの公式に基づいてアルゴリズムを提案し、解析する。
同様の精度の他のアルゴリズムとは異なり、多積法は可換スケーリングを達成するため、この手法は物理的に局所的な時間依存ハミルトニアンの既存の手法よりも優れている。
我々の研究は、時間依存と時間依存シミュレーションの相違を減らし、時間依存ハミルトンの最適量子シミュレーションへのステップを示す。
Compared with time independent Hamiltonians, the dynamics of generic quantum Hamiltonians $H(t)$ are complicated by the presence of time ordering in the evolution operator. In the context of digital quantum simulation, this difficulty prevents a direct adaptation of time independent simulation algorithms for time dependent simulation. However, there exists a framework within the theory of dynamical systems which eliminates time ordering by adding a "clock" degree of freedom. In this work, we provide a computational framework, based on this reduction, for encoding time dependent dynamics as time independent systems. As a result, we make two advances in digital Hamiltonian simulation. First, we create a time dependent simulation algorithm based on performing qubitization on the augmented clock system, and in doing so, provide the first qubitization-based approach to time dependent Hamiltonians that goes beyond Trotterization of the ordered exponential. Second, we define a natural generalization of multiproduct formulas for time-ordered exponentials, then propose and analyze an algorithm based on these formulas. Unlike other algorithms of similar accuracy, the multiproduct approach achieves commutator scaling, meaning that this method outperforms existing methods for physically-local time dependent Hamiltonians. Our work reduces the disparity between time dependent and time independent simulation and indicates a step towards optimal quantum simulation of time dependent Hamiltonians. | 翻訳日:2024-04-09 00:53:45 公開日:2024-04-05 |
| # 量子アニールを用いたマルチディスククラッチ最適化
Multi-disk clutch optimization using quantum annealing ( http://arxiv.org/abs/2208.05916v2 ) ライセンス: Link先を確認 | John D. Malcolm, Alexander Roth, Mladjan Radic, Pablo Martin-Ramiro, Jon Oillarburu, Borja Aizpurua, Roman Orus, Samuel Mugel, | (参考訳) 本研究では,クラッチ製造において重要な実用的関連性を持つ組合せ問題を解くために,新しい量子アルゴリズムを開発した。
量子最適化が製造業における実際の産業応用においてどのように役割を果たせるかを示す。
D-Wave Systemsが提供する量子アニールを用いて、量子および量子古典ハイブリッドソルバの性能を分析し、決定論的およびランダムアルゴリズムの古典的ベンチマークソルバと比較する。
量子技術の継続的な進化は、将来のさらなる関連性への期待を示し、製造業における革命的な可能性を強調している。
In this work, we develop a new quantum algorithm to solve a combinatorial problem with significant practical relevance occurring in clutch manufacturing. It is demonstrated how quantum optimization can play a role in real industrial applications in the manufacturing sector. Using the quantum annealer provided by D-Wave Systems, we analyze the performance of the quantum and quantum-classical hybrid solvers and compare them to deterministic- and random-algorithm classical benchmark solvers. The continued evolution of the quantum technology, indicating an expectation for even greater relevance in the future is discussed and the revolutionary potential it could have in the manufacturing sector is highlighted. | 翻訳日:2024-04-09 00:53:45 公開日:2024-04-05 |
| # メタパスコンテキストと適応重み付き負のサンプルを用いた不均一グラフ比較学習
Heterogeneous Graph Contrastive Learning with Meta-path Contexts and Adaptively Weighted Negative Samples ( http://arxiv.org/abs/2212.13847v3 ) ライセンス: Link先を確認 | Jianxiang Yu, Qingqing Ge, Xiang Li, Aoying Zhou, | (参考訳) 異種グラフコントラスト学習は近年広く注目されている。
既存のメソッドでは、オブジェクト間のセマンティックな関係をキャプチャするオブジェクト型のシーケンスであるメタパスを使用して、コントラッシブなビューを構築する。
しかし、そのほとんどは、メタパスによって2つのオブジェクトが接続される方法を記述するリッチなメタパスコンテキスト情報を無視している。
さらに、モデルの性能に悪影響を及ぼす可能性のある負のサンプルを区別することができない。
本稿ではメタパスコンテキストと重み付き負のサンプルの両方を考慮したMEOWを提案する。
具体的には、MEOWは、粗いビューとコントラストのためのきめ細かいビューを構築する。
前者はどのオブジェクトがメタパスで接続されているかを反映し、後者はメタパスコンテキストを使用し、オブジェクトがどのように接続されているかの詳細を特徴付ける。
そこで我々は,InfoNCEの損失を理論的に解析し,負サンプルの勾配計算の限界を認識した。
負のサンプルをよりよく識別するために、ノードクラスタリングに基づいてそれらの重み付けを強く評価し、プロトタイプのコントラスト学習を用いて同一クラスタ内のノードの密着な埋め込みを抽出する。
さらに,ノード表現を改善するために,負サンプルの軟値重みを適応的に学習する変種モデルAdaMEOWを提案する。
最後に,他の最先端手法に対するMEOWとAdaMEOWの優位性を示すため,広範な実験を行った。
Heterogeneous graph contrastive learning has received wide attention recently. Some existing methods use meta-paths, which are sequences of object types that capture semantic relationships between objects, to construct contrastive views. However, most of them ignore the rich meta-path context information that describes how two objects are connected by meta-paths. Further, they fail to distinguish negative samples, which could adversely affect the model performance. To address the problems, we propose MEOW, which considers both meta-path contexts and weighted negative samples. Specifically, MEOW constructs a coarse view and a fine-grained view for contrast. The former reflects which objects are connected by meta-paths, while the latter uses meta-path contexts and characterizes details on how the objects are connected. Then, we theoretically analyze the InfoNCE loss and recognize its limitations for computing gradients of negative samples. To better distinguish negative samples, we learn hard-valued weights for them based on node clustering and use prototypical contrastive learning to pull close embeddings of nodes in the same cluster. In addition, we propose a variant model AdaMEOW that adaptively learns soft-valued weights of negative samples to further improve node representation. Finally, we conduct extensive experiments to show the superiority of MEOW and AdaMEOW against other state-of-the-art methods. | 翻訳日:2024-04-09 00:53:45 公開日:2024-04-05 |
| # イオンと単一光子を閉じ込めた検証可能なブラインド量子コンピューティング
Verifiable blind quantum computing with trapped ions and single photons ( http://arxiv.org/abs/2305.02936v3 ) ライセンス: Link先を確認 | P. Drmota, D. P. Nadlinger, D. Main, B. C. Nichol, E. M. Ainley, D. Leichtle, A. Mantri, E. Kashefi, R. Srinivas, G. Araneda, C. J. Ballance, D. M. Lucas, | (参考訳) 検証可能なブラインド量子コンピューティングの最初のハイブリッド物質-光子実装について報告する。
我々は、ファイバー光量子リンクを介してネットワーク化された、閉じ込められたイオン量子サーバとクライアント側フォトニック検出システムを使用する。
メモリキュービットと決定論的エンタングゲートの可用性は、選択後不要なインタラクティブなプロトコルを可能にする。
プライバシを1キュービットあたりのリーク古典ビット~0.03で定量化する。
この実験は、クラウドで完全に検証された量子コンピューティングへの道を示す。
We report the first hybrid matter-photon implementation of verifiable blind quantum computing. We use a trapped-ion quantum server and a client-side photonic detection system networked via a fibre-optic quantum link. The availability of memory qubits and deterministic entangling gates enables interactive protocols without post-selection - key requirements for any scalable blind server, which previous realisations could not provide. We quantify the privacy at <~0.03 leaked classical bits per qubit. This experiment demonstrates a path to fully verified quantum computing in the cloud. | 翻訳日:2024-04-09 00:53:45 公開日:2024-04-05 |
| # SVDinsTN:正規化モデリングの観点からの効率的な構造探索のためのテンソルネットワークパラダイム
SVDinsTN: A Tensor Network Paradigm for Efficient Structure Search from Regularized Modeling Perspective ( http://arxiv.org/abs/2305.14912v5 ) ライセンス: Link先を確認 | Yu-Bang Zheng, Xi-Le Zhao, Junhua Zeng, Chao Li, Qibin Zhao, Heng-Chao Li, Ting-Zhu Huang, | (参考訳) テンソルネットワーク(TN)表現はコンピュータビジョンと機械学習の強力な技術である。
TN構造探索(TN-SS)は、コンパクトな表現を実現するためにカスタマイズされた構造を探すことを目的としている。
最近の「サンプル評価」に基づく手法では、広範囲な構造の収集をサンプリングし、それらを一つずつ評価する必要があるため、計算コストは極めて高い。
この問題を解決するために,SVD-インスパイアされたTN分解(SVDinsTN)と呼ばれる新しいTNパラダイムを提案する。
具体的には、完全に接続されたTNの各エッジに対角係数を挿入することにより、SVDinsTNはTNコアと対角因子を同時に計算し、コンパクトなTN構造を明らかにする。
理論的には,提案手法の収束保証を証明する。
実験の結果,提案手法は最先端のTN-SS法と比較して約100～1000倍の高速化を実現し,表現能力は同等であることがわかった。
Tensor network (TN) representation is a powerful technique for computer vision and machine learning. TN structure search (TN-SS) aims to search for a customized structure to achieve a compact representation, which is a challenging NP-hard problem. Recent "sampling-evaluation"-based methods require sampling an extensive collection of structures and evaluating them one by one, resulting in prohibitively high computational costs. To address this issue, we propose a novel TN paradigm, named SVD-inspired TN decomposition (SVDinsTN), which allows us to efficiently solve the TN-SS problem from a regularized modeling perspective, eliminating the repeated structure evaluations. To be specific, by inserting a diagonal factor for each edge of the fully-connected TN, SVDinsTN allows us to calculate TN cores and diagonal factors simultaneously, with the factor sparsity revealing a compact TN structure. In theory, we prove a convergence guarantee for the proposed method. Experimental results demonstrate that the proposed method achieves approximately 100 to 1000 times acceleration compared to the state-of-the-art TN-SS methods while maintaining a comparable level of representation ability. | 翻訳日:2024-04-09 00:53:45 公開日:2024-04-05 |
| # デジタルアナログ量子コンピューティングにおける量子アニーリングの強化
Enhancing Quantum Annealing in Digital-Analog Quantum Computing ( http://arxiv.org/abs/2306.02059v2 ) ライセンス: Link先を確認 | Tadashi Kadowaki, | (参考訳) デジタルアナログ量子コンピューティング(DAQC)は、実用的な量子コンピュータを構築する際の課題に対処するための有望なアプローチを提供する。
デジタル量子回路とアナログ量子回路の間で資源を効率的に割り当てることにより、DAQCは最適な性能を達成するための道を開く。
本稿では,量子アニールの性能向上を目的としたアルゴリズムを提案する。
この方法は量子ゲートを用いて最終アニール状態の良さを推定し、組合せ最適化問題の基底状態を求める。
本稿では,量子アニール回路をDAQCフレームワークに統合するための2つの戦略について検討する。
前者の戦略では性能は向上しないが,後者は焼鈍時間の範囲内で性能を向上させる。
性能向上を示すアルゴリズムは、異なる量子アニール設定から2つの状態の内積の想像的部分を利用する。
この測度は古典的なコスト関数のエネルギーだけでなく、量子力学の軌道も反映している。
本研究では、量子回路を用いた量子データ処理が、量子情報を捨てる古典的なデータ処理より優れていることを示す。
Digital-analog quantum computing (DAQC) offers a promising approach to addressing the challenges of building a practical quantum computer. By efficiently allocating resources between digital and analog quantum circuits, DAQC paves the way for achieving optimal performance. We propose an algorithm designed to enhance the performance of quantum annealing. This method employs a quantum gate to estimate the goodness of the final annealing state and find the ground state of combinatorial optimization problems. We explore two strategies for integrating the quantum annealing circuit into the DAQC framework: (1) for state preparation, and (2) for embedding within the quantum gate. While the former strategy does not yield performance improvements, we discover that the latter enhances performance within a specific range of annealing time. Algorithms demonstrating enhanced performance utilize the imaginary part of the inner product of two states from different quantum annealing settings. This measure reflects not only the energy of the classical cost function but also the trajectory of the quantum dynamics. This study provides an example of how processing quantum data using a quantum circuit can outperform classical data processing, which discards quantum information. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # PROGrasp: オブジェクトグラスピングのための実用的人間ロボットコミュニケーション
PROGrasp: Pragmatic Human-Robot Communication for Object Grasping ( http://arxiv.org/abs/2309.07759v4 ) ライセンス: Link先を確認 | Gi-Cheon Kang, Junghyun Kim, Jaein Kim, Byoung-Tak Zhang, | (参考訳) 対話型オブジェクトグラスピング(IOG)は、人間とロボットの自然言語による対話を通じて、望ましいオブジェクトを識別し、把握するタスクである。
現在のIOGシステムは、人間が最初に対象のオブジェクトのカテゴリ(例えばボトル)を指定すると仮定している。
目的達成のためにコンテキストに依存して意図を伝達する実践的手法に触発されて,新たなIOGタスクであるPragmatic-IOGと,それに対応するデータセットであるIntention-oriented Multi-modal Dialogue (IM-Dial)を導入する。
提案するタスクシナリオでは,まずロボットに意図指向の発話(例:「喉が渇いている」)を付与する。
ロボットは、人間のユーザと対話することで、対象物を識別する。
タスク設定に基づいて,ユーザの意図を解釈し,対象物であるPROGrasp(Pragmatic Object Grasping)をピックアップするロボットシステムを提案する。
PROGraspは、視覚的なグラウンドニング、質問、オブジェクトの把握、そして最も重要なのは、プラグマティック推論の解答解釈のためのモジュールを組み込むことで、Pragmatic-IOGを実行する。
ProGraspはオフライン(ターゲットオブジェクト発見)やオンライン(物理ロボットアーム付きIOG)の設定で有効であることを示す実験結果が得られた。
コードとデータはhttps://github.com/gicheonkang/prograsp.comで公開されている。
Interactive Object Grasping (IOG) is the task of identifying and grasping the desired object via human-robot natural language interaction. Current IOG systems assume that a human user initially specifies the target object's category (e.g., bottle). Inspired by pragmatics, where humans often convey their intentions by relying on context to achieve goals, we introduce a new IOG task, Pragmatic-IOG, and the corresponding dataset, Intention-oriented Multi-modal Dialogue (IM-Dial). In our proposed task scenario, an intention-oriented utterance (e.g., "I am thirsty") is initially given to the robot. The robot should then identify the target object by interacting with a human user. Based on the task setup, we propose a new robotic system that can interpret the user's intention and pick up the target object, Pragmatic Object Grasping (PROGrasp). PROGrasp performs Pragmatic-IOG by incorporating modules for visual grounding, question asking, object grasping, and most importantly, answer interpretation for pragmatic inference. Experimental results show that PROGrasp is effective in offline (i.e., target object discovery) and online (i.e., IOG with a physical robot arm) settings. Code and data are available at https://github.com/gicheonkang/prograsp. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # シュミット球上の経路によって誘導されるiSWAP型幾何学ゲート
iSWAP-type geometric gates induced by paths on Schmidt sphere ( http://arxiv.org/abs/2310.10515v2 ) ライセンス: Link先を確認 | Max Johansson Saarijärvi, Erik Sjöqvist, | (参考訳) 我々はシュミット球面上の経路に純粋に関連付けられた幾何学位相に基づくiSWAP型量子ゲートを提案する [Phys. Rev. A 62, 022109 (2000)]。
これらの幾何学的シュミットゲートは、クォービット対を任意の次数に絡めることができ、特に、シュミット球面上の基底点の適切な選択により、積状態から極大に絡み合った状態を生成することができる。
逆工学によりシュミット球面上の純粋な経路を生成するハミルトニアンを同定し、得られたハミルトニアンがトランスモン量子ビット系で実装可能であることを明示する。
幾何シュミットゲートは、動的位相の消滅を特徴とし、ブロッホ球上で起こる幾何学的単一量子ゲートと相補的である。
We propose iSWAP-type quantum gates based on geometric phases purely associated with paths on the Schmidt sphere [Phys. Rev. A 62, 022109 (2000)]. These geometric Schmidt gates can entangle qubit pairs to an arbitrary degree; in particular, they can create maximally entangled states from product states by an appropriate choice of base point on the Schmidt sphere. We identify Hamiltonians that generate pure paths on the Schmidt sphere by reverse engineering and demonstrate explicitly that the resulting Hamiltonians can be implemented in systems of transmon qubits. The geometric Schmidt gates are characterized by vanishing dynamical phases and are complementary to geometric single-qubit gates that take place on the Bloch sphere. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 集積量子チップにおける相関ノイズに対するロバスト量子ゲート
Robust Quantum Gates against Correlated Noise in Integrated Quantum Chips ( http://arxiv.org/abs/2401.01810v2 ) ライセンス: Link先を確認 | Kangyuan Yi, Yong-Ju Hai, Kai Luo, Ji Chu, Libo Zhang, Yuxuan Zhou, Yao Song, Song Liu, Tongxing Yan, Xiu-Hao Deng, Yuanzhen Chen, Dapeng Yu, | (参考訳) 量子回路がより統合され複雑になるにつれて、それまで重要ではなかった追加のエラー源が出現し始める。
その結果、プリスタントな条件下でベンチマークされた量子ゲートの忠実さは、現実的な回路での性能を予測できない。
この問題を克服するためには、分離された忠実性以外に、関連するエラーモデルに対するロバスト性を改善する必要がある。
本稿では,超伝導量子回路におけるロバストな量子ゲートの実験的実現を,様々なゲートエラーの診断と修正のための幾何学的枠組みに基づいて報告する。
量子プロセストモグラフィとランダム化ベンチマークを用いて、大規模量子回路におけるコヒーレントエラーの共通源である準静電ノイズと空間相関ノイズに対して、ロバストな単一量子ビットゲートを実証する。
また,本手法を非定常雑音に適用し,ロバストな2量子ゲートを実現する。
我々の研究は、ノイズ耐性複素量子回路を実現するための汎用的なツールボックスを提供する。
As quantum circuits become more integrated and complex, additional error sources that were previously insignificant start to emerge. Consequently, the fidelity of quantum gates benchmarked under pristine conditions falls short of predicting their performance in realistic circuits. To overcome this problem, we must improve their robustness against pertinent error models besides isolated fidelity. Here we report the experimental realization of robust quantum gates in superconducting quantum circuits based on a geometric framework for diagnosing and correcting various gate errors. Using quantum process tomography and randomized benchmarking, we demonstrate robust single-qubit gates against quasi-static noise and spatially-correlated noise in a broad range of strengths, which are common sources of coherent errors in large-scale quantum circuit. We also apply our method to non-static noises and to realize robust two-qubit gates. Our work provides a versatile toolbox for achieving noise-resilient complex quantum circuits. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 摂動-ロバスト最適化のためのリスク感性拡散
Risk-Sensitive Diffusion for Perturbation-Robust Optimization ( http://arxiv.org/abs/2402.02081v2 ) ライセンス: Link先を確認 | Yangming Li, Max Ruiz Luyten, Mihaela van der Schaar, | (参考訳) スコアベース生成モデル(SGM)の本質は、スコアベースモデルをスコア関数に最適化することである。
しかし,ノイズのあるサンプルはスコア関数ではなく,別の目的関数を発生させることで,モデルが誤って最適化されることを示す。
この問題に対処するために、まず、各ノイズサンプルがリスクベクトルとペアリングされ、データ品質(例えば、ノイズレベル)を示す新しい設定について検討する。
この設定は現実世界の応用、特に医療やセンサーのデータにおいて非常に一般的である。
次に、リスクベクトルによってパラメータ化された確率微分方程式(SDE)の一種であるリスク感受性SDEを紹介する。
このツールでは摂動不安定性(perturbation instability)と呼ばれる尺度を最小化することを目的としており、これは雑音サンプルの最適化に対する負の影響を定量化するために定義される。
ノイズのあるサンプルがガウス摂動によって引き起こされる場合のみ、ゼロ不安定測度が達成可能であることを証明します。
非ガウスの場合には、ノイズサンプルの誤認を最小限に抑える最適係数も提供する。
リスクに敏感なSDEを実際に適用するために,リスクに敏感なバージョンに広く用いられている拡散モデルを拡張し,計算に効率的なリスクのない損失を導出する。
また、我々の定理の有効性を確認するために数値実験を行い、SGMが最適化のためにノイズの多いサンプルに対して頑健であることを示す。
The essence of score-based generative models (SGM) is to optimize a score-based model towards the score function. However, we show that noisy samples incur another objective function, rather than the one with score function, which will wrongly optimize the model. To address this problem, we first consider a new setting where every noisy sample is paired with a risk vector, indicating the data quality (e.g., noise level). This setting is very common in real-world applications, especially for medical and sensor data. Then, we introduce risk-sensitive SDE, a type of stochastic differential equation (SDE) parameterized by the risk vector. With this tool, we aim to minimize a measure called perturbation instability, which we define to quantify the negative impact of noisy samples on optimization. We will prove that zero instability measure is only achievable in the case where noisy samples are caused by Gaussian perturbation. For non-Gaussian cases, we will also provide its optimal coefficients that minimize the misguidance of noisy samples. To apply risk-sensitive SDE in practice, we extend widely used diffusion models to their risk-sensitive versions and derive a risk-free loss that is efficient for computation. We also have conducted numerical experiments to confirm the validity of our theorems and show that they let SGM be robust to noisy samples for optimization. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 非局所量子計算におけるランク下界
Rank lower bounds on non-local quantum computation ( http://arxiv.org/abs/2402.18647v2 ) ライセンス: Link先を確認 | Vahid Asadi, Eric Culf, Alex May, | (参考訳) 非局所量子計算(NLQC)は、2つの量子システム間の相互作用を1つの同時通信と共有絡み合いに置き換える。
NLQCの2つのクラス、$f$-routingと$f$-BB84を研究し、これは古典的な情報理論の暗号と量子位置の検証に関係している。
両設定の絡み合いに対する最初の非自明な下界を与えるが、完全正当性を持つ下界プロトコルに制限される。
この設定の中で、与えられた函数 $f(x,y)$ に対してこれらのタスクを完備化する任意の絡み合った状態のシュミット階に対する下界を、$f(x,y)=0$ のときの成分が 0 である行列 $g(x,y)$ のランクの観点で与え、それ以外は厳密に正である。
これはまた、非決定論的量子通信の複雑さが$f(x,y)$であるという点でシュミット階数に低い境界をもたらす。
情報理論暗号において研究されている秘密の条件開示と$f$-routingの関係から,CDSのランダム性複雑性を下げるための新しい手法が得られた。
A non-local quantum computation (NLQC) replaces an interaction between two quantum systems with a single simultaneous round of communication and shared entanglement. We study two classes of NLQC, $f$-routing and $f$-BB84, which are of relevance to classical information theoretic cryptography and quantum position-verification. We give the first non-trivial lower bounds on entanglement in both settings, but are restricted to lower bounding protocols with perfect correctness. Within this setting, we give a lower bound on the Schmidt rank of any entangled state that completes these tasks for a given function $f(x,y)$ in terms of the rank of a matrix $g(x,y)$ whose entries are zero when $f(x,y)=0$, and strictly positive otherwise. This also leads to a lower bound on the Schmidt rank in terms of the non-deterministic quantum communication complexity of $f(x,y)$. Because of a relationship between $f$-routing and the conditional disclosure of secrets (CDS) primitive studied in information theoretic cryptography, we obtain a new technique for lower bounding the randomness complexity of CDS. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 多光子ハイゼンベルク制限干渉計の実験的研究--不完全性の影響
Experimental investigation of a multi-photon Heisenberg-limited interferometric scheme: the effect of imperfections ( http://arxiv.org/abs/2402.19079v2 ) ライセンス: Link先を確認 | Shakib Daryanoosh, Geoff J. Pryde, Howard M. Wiseman, Sergei Slussarenko, | (参考訳) 干渉位相推定は、変位、速度、材料特性などの量を正確に測定するための重要なツールである。
古典的資源で達成可能な測定の不確実性に対する低い境界は、1/\sqrt{N}$と漸近的にスケールするショットノイズ極限(SNL)によって設定される。
実験は[S]です。
Daryanoosh et al , Nat。
Commun
${\bf 9}$, 4606 (2018)] は、特定の測定手法と組み合わせて絡み合った双光子状態を用いて、$N=3$光子パスを持つ ab-初期位相推定において、最終的な精度限界、正確なハイゼンベルク極限(HL)を達成する方法を示した。
HLのSNLに対する優位性は、使用するリソースの数が増えるにつれて増大する。
ここでは、最適な$N=7$三重項状態を生成するためのスキームを提示し、実験的に実装する。
生成状態の質と位相推定の可能性について実験的に理論的に検討する。
パラメトリックダウンコンバージョンで生成した状態において,光学モードミスマッチや高次高次多光子項などの非常に小さな実験的欠陥により, HL位相推定のための準備された三重項状態の有用性が著しく低下することを示した。
Interferometric phase estimation is an essential tool for precise measurements of quantities such as displacement, velocity and material properties. The lower bound on measurement uncertainty achievable with classical resources is set by the shot-noise limit (SNL) that scales asymptotically as $1/\sqrt{N}$, where $N$ is the number of resources used. The experiment of [S. Daryanoosh et al., Nat. Commun. ${\bf 9}$, 4606 (2018)] showed how to achieve the ultimate precision limit, the exact Heisenberg limit (HL), in ab-initio phase estimation with $N=3$ photon-passes, using an entangled biphoton state in combination with particular measurement techniques. The advantage of the HL over the SNL increases with the number of resources used. Here we present, and implement experimentally, a scheme for generation of the optimal $N=7$ triphoton state. We study experimentally and theoretically the generated state quality and its potential for phase estimation. We show that the expected usefulness of the prepared triphoton state for HL phase estimation is significantly degraded by even quite small experimental imperfections, such as optical mode mismatch and unwanted higher-order multi-photon terms in the states produced in parametric down-conversion. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 健康のための機械学習の最近の進歩、応用、オープンチャレンジ:ML4H 2023 Symposiumにおける研究総括からの考察
Recent Advances, Applications, and Open Challenges in Machine Learning for Health: Reflections from Research Roundtables at ML4H 2023 Symposium ( http://arxiv.org/abs/2403.01628v2 ) ライセンス: Link先を確認 | Hyewon Jeong, Sarah Jabbour, Yuzhe Yang, Rahul Thapta, Hussein Mozannar, William Jongwon Han, Nikita Mehandru, Michael Wornow, Vladislav Lialin, Xin Liu, Alejandro Lozano, Jiacheng Zhu, Rafal Dariusz Kocielnik, Keith Harrigian, Haoran Zhang, Edward Lee, Milos Vukadinovic, Aparna Balagopalan, Vincent Jeanselme, Katherine Matton, Ilker Demirel, Jason Fries, Parisa Rashidi, Brett Beaulieu-Jones, Xuhai Orson Xu, Matthew McDermott, Tristan Naumann, Monica Agrawal, Marinka Zitnik, Berk Ustun, Edward Choi, Kristen Yeom, Gamze Gursoy, Marzyeh Ghassemi, Emma Pierson, George Chen, Sanjat Kanjilal, Michael Oberst, Linying Zhang, Harvineet Singh, Tom Hartvigsen, Helen Zhou, Chinasa T. Okolo, | (参考訳) 第3回ML4Hシンポジウムは2023年12月10日にルイジアナ州ニューオーリンズで開催された。
シンポジウムには、参加者と上級研究者の議論を促進するための研究ラウンドテーブルセッションが含まれており、これは \ac{ML4H} コミュニティの時間的および関連するトピックである。
ML4H 2022では、昨年の仮想ラウンドテーブルの成功によって、11の個人ラウンドテーブルと4の仮想ラウンドテーブルを編成しました。
カンファレンスでは17人のシニアチェアと19人のジュニアチェアが参加した。
各ラウンドテーブルセッションには、招待されたシニアチェア(フィールドでかなりの経験を持つ)、ジュニアチェア(議論を促進する責任がある)、セッションのトピックに関心のあるさまざまなバックグラウンドからの参加者が含まれていた。
ここでは、最近の進歩、アプリケーション、各トピックに対するオープンな課題を含む、これらのラウンドテーブルの議論から、組織プロセスとテイクアウトのコンパイルについて詳述する。
すべてのラウンドテーブルで学んだ要約と教訓で締めくくります。
この文書は総合的なレビュー論文として機能し、この分野の研究者が貢献した医療のための機械学習の最近の進歩を要約する。
The third ML4H symposium was held in person on December 10, 2023, in New Orleans, Louisiana, USA. The symposium included research roundtable sessions to foster discussions between participants and senior researchers on timely and relevant topics for the \ac{ML4H} community. Encouraged by the successful virtual roundtables in the previous year, we organized eleven in-person roundtables and four virtual roundtables at ML4H 2022. The organization of the research roundtables at the conference involved 17 Senior Chairs and 19 Junior Chairs across 11 tables. Each roundtable session included invited senior chairs (with substantial experience in the field), junior chairs (responsible for facilitating the discussion), and attendees from diverse backgrounds with interest in the session's topic. Herein we detail the organization process and compile takeaways from these roundtable discussions, including recent advances, applications, and open challenges for each topic. We conclude with a summary and lessons learned across all roundtables. This document serves as a comprehensive review paper, summarizing the recent advancements in machine learning for healthcare as contributed by foremost researchers in the field. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 超伝導 Gottesman-Kitaev-Preskill Qubits の論理ゲートと読み出し
Logical Gates and Read-Out of Superconducting Gottesman-Kitaev-Preskill Qubits ( http://arxiv.org/abs/2403.02396v2 ) ライセンス: Link先を確認 | Mackenzie H. Shaw, Andrew C. Doherty, Arne L. Grimsmo, | (参考訳) Gottesman-Kitaev-Preskill (GKP) コードは、ガウス資源とGKP Pauli-eigenstateの準備が普遍量子コンピューティングを達成するのに十分なため、フォールトトレラント量子コンピューティングへのエキサイティングなルートである。
本研究では,超伝導回路において能動誤差補正を施したGKP符号において,クリフォードゲートと状態読み出しを行うための実用的な提案を行う。
本稿では,単一キュービットゲートを物理的に実装せずにクリフォード回路を動作させる手法を提案する。
超伝導回路では、必要な2ビットゲートはすべて1つのハードウェアで実装できる。
本稿では,GKP Cliffordゲートの誤り拡散特性を解析し,各ゲートの実装に伴うデコーダの変更によって,ゲートの不忠実度を桁違いに低減する方法について述べる。
さらに,数値とよく一致するGKP符号に対する損失とデフォーカスの影響を推定する簡易解析手法を開発した。
最後に, ホモダイン測定の不効率が論理状態の読み出しに与える影響を考察し, ちょうど$75\%の効率を仮定して630$ nsで0.1\%の誤差率で測定を行う方式を提案する。
The Gottesman-Kitaev-Preskill (GKP) code is an exciting route to fault-tolerant quantum computing since Gaussian resources and GKP Pauli-eigenstate preparation are sufficient to achieve universal quantum computing. In this work, we provide a practical proposal to perform Clifford gates and state read-out in GKP codes implemented with active error correction in superconducting circuits. We present a method of performing Clifford circuits without physically implementing any single-qubit gates, reducing the potential for them to spread errors in the system. In superconducting circuits, all the required two-qubit gates can be implemented with a single piece of hardware. We analyze the error-spreading properties of GKP Clifford gates and describe how a modification in the decoder following the implementation of each gate can reduce the gate infidelity by multiple orders of magnitude. Moreover, we develop a simple analytical technique to estimate the effect of loss and dephasing on GKP codes that matches well with numerics. Finally, we consider the effect of homodyne measurement inefficiencies on logical state read-out and present a scheme that implements a measurement with a $0.1\%$ error rate in $630$ ns assuming an efficiency of just~$75\%$. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 多分野PDEのためのコドメイン注意神経オペレータの事前学習
Pretraining Codomain Attention Neural Operators for Solving Multiphysics PDEs ( http://arxiv.org/abs/2403.12553v2 ) ライセンス: Link先を確認 | Md Ashiqur Rahman, Robert Joseph George, Mogab Elleithy, Daniel Leibovici, Zongyi Li, Boris Bonev, Colin White, Julius Berner, Raymond A. Yeh, Jean Kossaifi, Kamyar Azizzadenesheli, Anima Anandkumar, | (参考訳) 既存のニューラルネットワークアーキテクチャは、複雑なジオメトリー、物理変数間の相互作用、高解像度のトレーニングデータの欠如などにより、結合偏微分方程式(PDE)で多重物理問題を解く際の課題に直面している。
このような問題に対処するために、コドメインやチャネル空間に沿った機能をトークン化し、自己教師付き学習や複数のPDEシステムの事前学習を可能にするコドメイン注意ニューラルネットワーク(CoDA-NO)を提案する。
具体的には、位置符号化、自己アテンション、正規化層を関数空間に拡張する。
CoDA-NOは1つのモデルで異なるPDEシステムの表現を学習することができる。
我々は,CoDA-NOの可能性を,複数システム上で多物理PDEを学習するためのバックボーンとして評価する。
流体流動シミュレーションや流体構造相互作用などの限られたデータを含む複雑な下流タスクにおいて,CoDA-NOは,数ショット学習タスクにおける既存手法を36 %以上上回る性能を示した。
コードはhttps://github.com/ashiq24/CoDA-NOで公開されている。
Existing neural operator architectures face challenges when solving multiphysics problems with coupled partial differential equations (PDEs), due to complex geometries, interactions between physical variables, and the lack of large amounts of high-resolution training data. To address these issues, we propose Codomain Attention Neural Operator (CoDA-NO), which tokenizes functions along the codomain or channel space, enabling self-supervised learning or pretraining of multiple PDE systems. Specifically, we extend positional encoding, self-attention, and normalization layers to the function space. CoDA-NO can learn representations of different PDE systems with a single model. We evaluate CoDA-NO's potential as a backbone for learning multiphysics PDEs over multiple systems by considering few-shot learning settings. On complex downstream tasks with limited data, such as fluid flow simulations and fluid-structure interactions, we found CoDA-NO to outperform existing methods on the few-shot learning task by over $36\%$. The code is available at https://github.com/ashiq24/CoDA-NO. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 危険機能のためのフロンティアモデルの評価
Evaluating Frontier Models for Dangerous Capabilities ( http://arxiv.org/abs/2403.13793v2 ) ライセンス: Link先を確認 | Mary Phuong, Matthew Aitchison, Elliot Catt, Sarah Cogan, Alexandre Kaskasoli, Victoria Krakovna, David Lindner, Matthew Rahtz, Yannis Assael, Sarah Hodkinson, Heidi Howard, Tom Lieberum, Ramana Kumar, Maria Abi Raad, Albert Webson, Lewis Ho, Sharon Lin, Sebastian Farquhar, Marcus Hutter, Gregoire Deletang, Anian Ruoss, Seliem El-Sayed, Sasha Brown, Anca Dragan, Rohin Shah, Allan Dafoe, Toby Shevlane, | (参考訳) 新しいAIシステムによって引き起こされるリスクを理解するためには、何ができて何ができないのかを理解する必要がある。
事前の作業に基づいて,新しい "危険な能力" 評価プログラムを導入し,Gemini 1.0 モデルで試行する。
評価対象は,(1)説得と騙し,(2)サイバーセキュリティ,(3)自己増殖,(4)自己推論の4分野である。
評価したモデルに強力な危険な能力を示す証拠は見つからないが、早期の警告サインにフラグを立てている。
我々の目標は、将来のモデルに備えて、危険な能力評価の厳格な科学を前進させることです。
To understand the risks posed by a new AI system, we must understand what it can and cannot do. Building on prior work, we introduce a programme of new "dangerous capability" evaluations and pilot them on Gemini 1.0 models. Our evaluations cover four areas: (1) persuasion and deception; (2) cyber-security; (3) self-proliferation; and (4) self-reasoning. We do not find evidence of strong dangerous capabilities in the models we evaluated, but we flag early warning signs. Our goal is to help advance a rigorous science of dangerous capability evaluation, in preparation for future models. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 連続観測による浮遊ナノ粒子の運動状態下におけるスクイーズ
Squeezing below the ground state of motion of a continuously monitored levitating nanoparticle ( http://arxiv.org/abs/2403.18790v2 ) ライセンス: Link先を確認 | Qiongyuan Wu, Diana A. Chisholm, Rafael Muffato, Tiberius Georgescu, Jack Homans, Hendrik Ulbricht, Matteo Carlesso, Mauro Paternostro, | (参考訳) Squeezingは、量子情報処理と量子センシングにとって重要なリソースである。
浮遊ナノメカニクスでは、質量粒子のトラップ周波数の時間的制御により、運動の収縮状態を生成することができる。
しかし、達成可能なスクイージングの量は、通常、有害な環境効果に悩まされる。
我々は、トラップ電位の注意深く時間制御を組み込んで、測定バックアクションを含む最も関連するノイズ源を十分に考慮することにより、機械的スクイーズを行う手法の性能を解析する。
我々の提案は、実験的な最先端に近いものであり、量子状態工学にとって貴重なツールである。
Squeezing is a crucial resource for quantum information processing and quantum sensing. In levitated nanomechanics, squeezed states of motion can be generated via temporal control of the trapping frequency of a massive particle. However, the amount of achievable squeezing typically suffers from detrimental environmental effects. We analyze the performance of a scheme that, by embedding careful time-control of trapping potentials and fully accounting for the most relevant sources of noise -- including measurement backaction -- achieves significant levels of mechanical squeezing. The feasibility of our proposal, which is close to experimental state-of-the-art, makes it a valuable tool for quantum state engineering. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # ほぼ全ての量子チャネルが対角化可能
Almost All Quantum Channels Are Diagonalizable ( http://arxiv.org/abs/2403.19643v2 ) ライセンス: Link先を確認 | Frederik vom Ende, | (参考訳) すべての量子チャネル、ユニタリチャネル、正のトレース保存写像、リンドブラディアン(GKSL生成子)、およびすべての時間依存マルコフチャネルを含む。
したがって、これらの集合の任意の元は、常に同じ集合の対角化可能な元を任意の精度で近似することができる。
We prove the statement "The collection of all elements of $\mathcal S$ which have only simple eigenvalues is dense in $\mathcal S$" for different sets $\mathcal S$, including: all quantum channels, the unital channels, the positive trace-preserving maps, all Lindbladians (GKSL-generators), and all time-dependent Markovian channels. Therefore any element from each of these sets can always be approximated by diagonalizable elements of the same set to arbitrary precision. | 翻訳日:2024-04-09 00:47:36 公開日:2024-04-05 |
| # 量子マルコフ過程の992$分割と混合時間
The $χ^2$-divergence and Mixing times of quantum Markov processes ( http://arxiv.org/abs/1005.2358v3 ) ライセンス: Link先を確認 | K. Temme, M. J. Kastoryano, M. B. Ruskai, M. M. Wolf, F. Verstraete, | (参考訳) 我々は、$\chi^2$-divergenceの量子バージョンを導入し、それらの性質を詳細に分析し、量子マルコフ過程の混合時間の研究に応用する。
古典マルコフ連鎖の[1-3]に示されるアプローチに類似したアプローチは、量子過程の定常状態からトレース距離を束縛する。
収束速度に束縛された厳密なスペクトルは、時間離散および時間連続量子マルコフ過程に対して与えられる。
さらに、完全正の写像の作用の下での$\chi^2$-divergenceの収縮挙動を調査し、トレースノルムの収縮と対比する。
この文脈では、異なる量子詳細バランスの異なるバージョンを分析し、最後に、単位量子マルコフ過程の収束速度に縛られる幾何学的コンダクタンスを与える。
We introduce quantum versions of the $\chi^2$-divergence, provide a detailed analysis of their properties, and apply them in the investigation of mixing times of quantum Markov processes. An approach similar to the one presented in [1-3] for classical Markov chains is taken to bound the trace-distance from the steady state of a quantum processes. A strict spectral bound to the convergence rate can be given for time-discrete as well as for time-continuous quantum Markov processes. Furthermore the contractive behavior of the $\chi^2$-divergence under the action of a completely positive map is investigated and contrasted to the contraction of the trace norm. In this context we analyse different versions of quantum detailed balance and, finally, give a geometric conductance bound to the convergence rate for unital quantum Markov processes. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # クラース階数が小さい完全正の写像による量子チャネルの近似
Approximating quantum channels by completely positive maps with small Kraus rank ( http://arxiv.org/abs/1711.00697v3 ) ライセンス: Link先を確認 | Cécilia Lancien, Andreas Winter, | (参考訳) 量子チャネルをできるだけ少数のクラウス演算子で近似する問題を研究する(任意の入力状態に対して、2つのチャネルの出力状態が互いに近接している必要があるという意味で)。
我々の主な結果は、ある入力ヒルベルト空間上の任意の量子チャネル写像状態 $\mathrm{A}$ から、ある出力ヒルベルト空間 $\mathrm{B}$ 上の状態へ、d =max(|\mathrm{A}|,|\mathrm{B}|)$ で次数 $d\log d$ Kraus operator で圧縮できるので、$|\mathrm{A}||\mathrm{B}|$ よりはるかに少ない。
チャネルの出力がすべて非常に混合されている場合、$d$を注文するように改善することができる。
この結果の最適性やいくつかの結果について議論する。
We study the problem of approximating a quantum channel by one with as few Kraus operators as possible (in the sense that, for any input state, the output states of the two channels should be close to one another). Our main result is that any quantum channel mapping states on some input Hilbert space $\mathrm{A}$ to states on some output Hilbert space $\mathrm{B}$ can be compressed into one with order $d\log d$ Kraus operators, where $d=\max(|\mathrm{A}|,|\mathrm{B}|)$, hence much less than $|\mathrm{A}||\mathrm{B}|$. In the case where the channel's outputs are all very mixed, this can be improved to order $d$. We discuss the optimality of this result as well as some consequences. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 視覚的残差予測のためのコンテキストエンコーダ・デコーダネットワーク
Contextual Encoder-Decoder Network for Visual Saliency Prediction ( http://arxiv.org/abs/1902.06634v4 ) ライセンス: Link先を確認 | Alexander Kroner, Mario Senden, Kurt Driessens, Rainer Goebel, | (参考訳) 自然画像中の健全な領域を予測するには、シーンに存在する物体を検出する必要がある。
この課題に対するロバストな表現を開発するには、複数の空間スケールで高レベルな視覚的特徴を抽出し、文脈情報で拡張する必要がある。
しかし、人間の固定地図の説明を目的とした既存のモデルは、そのようなメカニズムを明示的に含まない。
本稿では,大規模な画像分類タスクに基づいて事前学習した畳み込みニューラルネットワークに基づくアプローチを提案する。
アーキテクチャはエンコーダ・デコーダ構造を形成し、複数の畳み込み層を持つモジュールを含む。
さらに,得られた表現をグローバルなシーン情報と組み合わせて,視覚的満足度を正確に予測する。
提案手法の有効性を,提案手法の有効性を5つのデータセットと選択した例で示す。
最先端のアプローチと比較して、このネットワークは軽量な画像分類バックボーンに基づいており、複雑な自然のシーンにまたがる人間の定着を推定するために、(仮想)ロボットシステムのような限られた計算資源を持つアプリケーションに適した選択肢を提供する。
Predicting salient regions in natural images requires the detection of objects that are present in a scene. To develop robust representations for this challenging task, high-level visual features at multiple spatial scales must be extracted and augmented with contextual information. However, existing models aimed at explaining human fixation maps do not incorporate such a mechanism explicitly. Here we propose an approach based on a convolutional neural network pre-trained on a large-scale image classification task. The architecture forms an encoder-decoder structure and includes a module with multiple convolutional layers at different dilation rates to capture multi-scale features in parallel. Moreover, we combine the resulting representations with global scene information for accurately predicting visual saliency. Our model achieves competitive and consistent results across multiple evaluation metrics on two public saliency benchmarks and we demonstrate the effectiveness of the suggested approach on five datasets and selected examples. Compared to state of the art approaches, the network is based on a lightweight image classification backbone and hence presents a suitable choice for applications with limited computational resources, such as (virtual) robotic systems, to estimate human fixations across complex natural scenes. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 対称ラプラシア逆行列を用いた混合機械の推算
Estimating Mixed-Memberships Using the Symmetric Laplacian Inverse Matrix ( http://arxiv.org/abs/2012.09561v2 ) ライセンス: Link先を確認 | Huan Qing, Jingli Wang, | (参考訳) 混合会員コミュニティ検出は難しい問題である。
本稿では,混合メンバシップを検出するために,合成ラプラシア逆行列のスペクトルクラスタリング法であるMixed-SLIMを提案する。
提案したアルゴリズムとその正規化バージョンについて,軽度条件下での予測誤差に関する理論的バウンダリを提供する。
一方,提案手法を拡張して大規模ネットワークを実際に処理する手法も提案する。
これらのMixed-SLIM法は,コミュニティ検出と混合コミュニティ検出の両問題に対して,シミュレーションにおける最先端の手法および有意な経験的データセットよりも優れていた。
Mixed membership community detection is a challenging problem. In this paper, to detect mixed memberships, we propose a new method Mixed-SLIM which is a spectral clustering method on the symmetrized Laplacian inverse matrix under the degree-corrected mixed membership model. We provide theoretical bounds for the estimation error on the proposed algorithm and its regularized version under mild conditions. Meanwhile, we provide some extensions of the proposed method to deal with large networks in practice. These Mixed-SLIM methods outperform state-of-art methods in simulations and substantial empirical datasets for both community detection and mixed membership community detection problems. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 局所条件付きアトラスを用いた三次元表面多様体のモデリング
Modeling 3D Surface Manifolds with a Locally Conditioned Atlas ( http://arxiv.org/abs/2102.05984v2 ) ライセンス: Link先を確認 | Przemysław Spurek, Sebastian Winczowski, Maciej Zięba, Tomasz Trzciński, Kacper Kania, Marcin Mazur, | (参考訳) 最近提案された3次元オブジェクト再構成法は,表面を近似した平面パッチの集合であるアトラスを用いたメッシュを表現する。
しかし、再構成された物体の表面には不連続性が含まれており、最終的なメッシュの品質を低下させるため、現実のシナリオでのそれらの応用は限られている。
これは主に個々のパッチの独立処理によって引き起こされるものであり、本研究では、パッチ頂点周辺の局所的な一貫性を維持することにより、この制限を緩和することを仮定する。
そこで我々は3次元オブジェクトを階層的に生成モデルで表現するためのフレームワークであるLoCondAを紹介した。
第一に、モデルは物体の点雲を球体にマッピングする。
第二に、球面事前の活用により、球面および対象対象物上で局所的に一貫した写像を強制する。
このようにして、その球面上のメッシュクワッドをサンプリングし、オブジェクトの多様体に投影することができる。
LoCondAでは、縫合するクワッドを維持しながら、トポロジカルに多様なオブジェクトを生成できる。
提案手法は,コンペティタに匹敵する品質のメッシュを生成しながら,構造的に一貫性のある再構築を実現する。
Recently proposed 3D object reconstruction methods represent a mesh with an atlas - a set of planar patches approximating the surface. However, their application in a real-world scenario is limited since the surfaces of reconstructed objects contain discontinuities, which degrades the quality of the final mesh. This is mainly caused by independent processing of individual patches, and in this work, we postulate to mitigate this limitation by preserving local consistency around patch vertices. To that end, we introduce a Locally Conditioned Atlas (LoCondA), a framework for representing a 3D object hierarchically in a generative model. Firstly, the model maps a point cloud of an object into a sphere. Secondly, by leveraging a spherical prior, we enforce the mapping to be locally consistent on the sphere and on the target object. This way, we can sample a mesh quad on that sphere and project it back onto the object's manifold. With LoCondA, we can produce topologically diverse objects while maintaining quads to be stitched together. We show that the proposed approach provides structurally coherent reconstructions while producing meshes of quality comparable to the competitors. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 符号付き距離境界からポリゴンを抽出する高速アルゴリズムの理論的および実証的解析
Theoretical and Empirical Analysis of a Fast Algorithm for Extracting Polygons from Signed Distance Bounds ( http://arxiv.org/abs/2111.05778v2 ) ライセンス: Link先を確認 | Nenad Markuš, Mirko Sužnjević, | (参考訳) 近年,3次元形状モデリングのユニークな性質から,符号付き距離境界表現への新たな関心が高まっている。
ディープラーニングベースのバウンダリは特にそうだ。
しかし、ほとんどのコンピュータグラフィックスアプリケーションでポリゴンを扱うことは有益である。
そこで本稿では,符号付き距離境界をポリゴンメッシュに変換する漸近的に高速な手法を提案する。
これは球追跡(またはレイマーチング)の原理とマーチングキューブのような伝統的な多角化技法を組み合わせることで達成される。
我々は、このアプローチが$O(N^2\log N)$計算複雑性であり、$N^3$セルを持つ多角化格子であることを示す理論的および実験的証拠を提供する。
このアルゴリズムは、プリミティブな形状のセットと、機械学習(およびニューラルネットワークとして表される)によって点雲から生成される符号付き距離境界の両方でテストされる。
そのスピード、実装の単純さ、ポータビリティを考えると、モデリングの段階でも、ストレージの形状圧縮においても有用である、と我々は主張する。
コードはここにある。 https://github.com/nenadmarkus/gridhopping
Recently there has been renewed interest in signed distance bound representations due to their unique properties for 3D shape modelling. This is especially the case for deep learning-based bounds. However, it is beneficial to work with polygons in most computer-graphics applications. Thus, in this paper we introduce and investigate an asymptotically fast method for transforming signed distance bounds into polygon meshes. This is achieved by combining the principles of sphere tracing (or ray marching) with traditional polygonization techniques, such as Marching Cubes. We provide theoretical and experimental evidence that this approach is of the $O(N^2\log N)$ computational complexity for a polygonization grid with $N^3$ cells. The algorithm is tested on both a set of primitive shapes as well as signed distance bounds generated from point clouds by machine learning (and represented as neural networks). Given its speed, implementation simplicity and portability, we argue that it could prove useful during the modelling stage as well as in shape compression for storage. The code is available here: https://github.com/nenadmarkus/gridhopping | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 混合メンバーシップ分布自由モデル
Mixed membership distribution-free model ( http://arxiv.org/abs/2112.04389v5 ) ライセンス: Link先を確認 | Huan Qing, Jingli Wang, | (参考訳) 重なり合う重み付きネットワークにおいて、ノードが複数のコミュニティに属し、エッジ重みが有限実数となるようなコミュニティ検出の問題を考える。
このような複雑なネットワークをモデル化するために,MMDF(Mixed Memberity Distribution-free)モデルを提案する。
MMDFはエッジ重みの分布制約を持たず、よく知られた混合会員確率ブロックモデルを含むいくつかの過去のモデルの一般化と見なすことができる。
特に,我々のモデルから,コミュニティ構造が遅れた符号付きネットワークを重畳して生成することも可能である。
このモデルでは,収束率を理論的に保証した効率的なスペクトルアルゴリズムを用いて,コミュニティメンバーシップを推定する。
また,重み付き重み付きネットワークの重み付きコミュニティ検出の品質を評価するために,ファジィ重み付きモジュラリティを提案する。
次に、ファジィ重み付きモジュラリティを利用して、重み付きネットワークのコミュニティ数を決定する方法を提案する。
混合メンバシップ分布自由モデルとファジィ重み付きモジュラリティの有用性を示すため,数値シミュレーションと実データ応用を行った。
We consider the problem of community detection in overlapping weighted networks, where nodes can belong to multiple communities and edge weights can be finite real numbers. To model such complex networks, we propose a general framework - the mixed membership distribution-free (MMDF) model. MMDF has no distribution constraints of edge weights and can be viewed as generalizations of some previous models, including the well-known mixed membership stochastic blockmodels. Especially, overlapping signed networks with latent community structures can also be generated from our model. We use an efficient spectral algorithm with a theoretical guarantee of convergence rate to estimate community memberships under the model. We also propose the fuzzy weighted modularity to evaluate the quality of community detection for overlapping weighted networks with positive and negative edge weights. We then provide a method to determine the number of communities for weighted networks by taking advantage of our fuzzy weighted modularity. Numerical simulations and real data applications are carried out to demonstrate the usefulness of our mixed membership distribution-free model and our fuzzy weighted modularity. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 最適絡み込みスワッピング木を用いた効率的な量子ネットワーク通信
Efficient Quantum Network Communication using Optimized Entanglement-Swapping Trees ( http://arxiv.org/abs/2112.11002v2 ) ライセンス: Link先を確認 | Mohammad Ghaderibaneh, Caitao Zhan, Himanshu Gupta, C. R. Ramakrishnan, | (参考訳) 量子状態におけるNo-cloning定理は多くの古典的手法を適用できないため、量子ネットワーク通信は困難である。
長距離通信では、量子状態のテレポーテーションが唯一有効な通信方法であり、量子ビットの絡み合ったペア(EP)の事前分布を必要とする。
リモートノード間のEPの確立は、基盤となる物理プロセスの成功率の低いため、大きな遅延を引き起こす可能性がある。
私たちの研究の焦点は、EP生成遅延を最小限に抑える効率的な技術を開発することです。
従来の研究は、絡み合い経路の選択に重点を置いており、逆に、絡み合い生成構造のより正確な表現として、木を交換する絡み合いを選択する。
与えられたキャパシティと忠実度制約の下で,一対のノードに対して最適なスワップツリーを選択する動的プログラミングアルゴリズムを開発した。
一般的な設定では,木をスワッピングする集合を計算するための効率的な反復アルゴリズムを開発する。
本稿では,提案手法が従来手法よりも桁違いに優れており,長距離エンタングルメント生成に有効であることを示すシミュレーション結果を示す。
Quantum network communication is challenging, as the No-cloning theorem in quantum regime makes many classical techniques inapplicable. For long-distance communication, the only viable communication approach is teleportation of quantum states, which requires a prior distribution of entangled pairs (EPs) of qubits. Establishment of EPs across remote nodes can incur significant latency due to the low probability of success of the underlying physical processes. The focus of our work is to develop efficient techniques that minimize EP generation latency. Prior works have focused on selecting entanglement paths; in contrast, we select entanglement swapping trees--a more accurate representation of the entanglement generation structure. We develop a dynamic programming algorithm to select an optimal swapping-tree for a single pair of nodes, under the given capacity and fidelity constraints. For the general setting, we develop an efficient iterative algorithm to compute a set of swapping trees. We present simulation results which show that our solutions outperform the prior approaches by an order of magnitude and are viable for long-distance entanglement generation. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # コントラスト的UCB:オンライン強化学習における効果的なコントラスト的自己監督学習
Contrastive UCB: Provably Efficient Contrastive Self-Supervised Learning in Online Reinforcement Learning ( http://arxiv.org/abs/2207.14800v2 ) ライセンス: Link先を確認 | Shuang Qiu, Lingxiao Wang, Chenjia Bai, Zhuoran Yang, Zhaoran Wang, | (参考訳) 特徴表現を抽出する能力を考えると、対照的な自己教師型学習は、(深層)強化学習(RL)の実践にうまく統合され、様々な応用における効率的な政策学習につながっている。
その壮大な経験的成功にもかかわらず、RLに対する対照的な学習の理解はいまだ解明されていない。
このようなギャップを狭めるために、低ランク遷移を持つマルコフ決定過程(MDP)とマルコフゲーム(MG)のクラスにおいて、RLがコントラスト学習によってどのように強化されるかを検討する。
両モデルに対して、コントラスト損失を最小限に抑えて、低ランクモデルの正しい特徴表現を抽出することを提案する。
さらに, オンライン環境下では, MDP や MG のオンラインRL アルゴリズムと対照的な損失を伴って, 新たな高信頼境界 (UCB) 型アルゴリズムを提案する。
さらに,本アルゴリズムが真の表現を復元し,MDPとMGの最適方針とナッシュ平衡を学習する際のサンプル効率を同時に達成することの理論的証明を行う。
また,UCBに基づくRLのコントラスト学習法の有効性を実証するための実証的研究を行った。
我々の知識を最大限に活用するために、表現学習にコントラスト学習を取り入れた最初の証明可能なオンラインRLアルゴリズムを提供する。
私たちのコードはhttps://github.com/Baichenjia/Contrastive-UCB.comで公開されています。
In view of its power in extracting feature representation, contrastive self-supervised learning has been successfully integrated into the practice of (deep) reinforcement learning (RL), leading to efficient policy learning in various applications. Despite its tremendous empirical successes, the understanding of contrastive learning for RL remains elusive. To narrow such a gap, we study how RL can be empowered by contrastive learning in a class of Markov decision processes (MDPs) and Markov games (MGs) with low-rank transitions. For both models, we propose to extract the correct feature representations of the low-rank model by minimizing a contrastive loss. Moreover, under the online setting, we propose novel upper confidence bound (UCB)-type algorithms that incorporate such a contrastive loss with online RL algorithms for MDPs or MGs. We further theoretically prove that our algorithm recovers the true representations and simultaneously achieves sample efficiency in learning the optimal policy and Nash equilibrium in MDPs and MGs. We also provide empirical studies to demonstrate the efficacy of the UCB-based contrastive learning method for RL. To the best of our knowledge, we provide the first provably efficient online RL algorithm that incorporates contrastive learning for representation learning. Our codes are available at https://github.com/Baichenjia/Contrastive-UCB. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 強化学習とテンソルネットワークの組み合わせと動的大規模偏差への応用
Combining Reinforcement Learning and Tensor Networks, with an Application to Dynamical Large Deviations ( http://arxiv.org/abs/2209.14089v2 ) ライセンス: Link先を確認 | Edward Gillman, Dominic C. Rose, Juan P. Garrahan, | (参考訳) 本稿では、動的最適化タスクを解くために、テンソルネットワーク(TN)と強化学習(RL)を統合するフレームワークを提案する。
我々は,RL問題に対するモデルフリーアプローチであるアクター批判法を考察し,そのポリシーと値関数の近似としてTNを導入する。
我々の「テンソルネットワークを用いたアクター批判法」(ACTeN)は、大規模かつ分解可能な状態と作用空間の問題に特に適している。
ACTeNの適用可能性の図示として、眼鏡の東モデルと非対称単純排他プロセス(ASEP)の2つのパラダイム的確率モデルにおいて、希少な軌跡をサンプリングする指数関数的に難しいタスクを解く。
既存のRL法とさらなる統合の可能性があり、ここで導入されたアプローチは物理学の応用とマルチエージェントのRL問題をより一般的に実現することを約束している。
We present a framework to integrate tensor network (TN) methods with reinforcement learning (RL) for solving dynamical optimisation tasks. We consider the RL actor-critic method, a model-free approach for solving RL problems, and introduce TNs as the approximators for its policy and value functions. Our "actor-critic with tensor networks" (ACTeN) method is especially well suited to problems with large and factorisable state and action spaces. As an illustration of the applicability of ACTeN we solve the exponentially hard task of sampling rare trajectories in two paradigmatic stochastic models, the East model of glasses and the asymmetric simple exclusion process (ASEP), the latter being particularly challenging to other methods due to the absence of detailed balance. With substantial potential for further integration with the vast array of existing RL methods, the approach introduced here is promising both for applications in physics and to multi-agent RL problems more generally. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 光修飾状態を用いた固体の光冷却における温度限界の克服
Overcoming temperature limits in the optical cooling of solids using light-dressed states ( http://arxiv.org/abs/2209.14693v3 ) ライセンス: Link先を確認 | Luisa Toledo Tude, Conor N. Murphy, Paul R. Eastham, | (参考訳) 現在, 固体のレーザー冷却温度は50～100Kであり, 狭い電子多様体と明るい光遷移を持つダイヤモンド色中心などの欠陥を用いてこれを克服する手法を提案する。
これは、フォノン遷移の集合を拡張し、調整可能なエネルギーを持つ強磁場で形成された着飾った状態を利用する。
これにより冷却パワーが向上し、不均一な拡張効果が減少する。
シリコン空孔とゲルマニウム空孔に対するこれらの効果を理論的に実証し,背景吸収,フォノン支援放出,非放射崩壊の役割について考察した。
Laser cooling of solids currently has a temperature floor of 50 - 100 K. We propose a method that could overcome this using defects, such as diamond color centers, with narrow electronic manifolds and bright optical transitions. It exploits the dressed states formed in strong fields which extend the set of phonon transitions and have tunable energies. This allows an enhancement of the cooling power and diminishes the effect of inhomogeneous broadening. We demonstrate these effects theoretically for the silicon-vacancy and the germanium-vacancy, and discuss the role of background absorption, phonon-assisted emission, and non-radiative decay. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # Unruh-DeWitt量子コンピュータの設計制約
Design Constraints for Unruh-DeWitt Quantum Computers ( http://arxiv.org/abs/2210.12552v3 ) ライセンス: Link先を確認 | Eric W. Aspling, John A. Marohn, Michael J. Lawler, | (参考訳) Unruh-DeWitt粒子検出器モデルは、量子ビットと量子場の間の非ゼロチャネル容量を持つ量子情報チャネルの実証に成功した。
これらの検出器モデルは、ほぼ完全なチャネル容量を持つ実験的に実現可能なUnruh-DeWitt量子コンピュータに必要なフレームワークを提供する。
本研究では,Unruh-DeWitt検出器の実験室設定として,ゲート制御されたLuttinger液との結合を有するスピン量子ビットを提案する。
また、グラフェンリボン、HgTe量子井戸の量子スピンホール相におけるエッジ状態、遷移金属ジアルコゲナイド中の最近発見された量子異常ホール相など、いくつかの実験シナリオも提示する。
理論的には、ボゾン化により、Unruh-DeWitt検出器が量子計算を実行でき、ルッティンガー液体を介して量子ビット間の完全な量子通信チャネルを作成できることを示す。
以上の結果から,全連接続型量子コンピュータへの道のりと,凝縮物質物理学による量子場における量子情報の実験的研究が示唆された。
The Unruh-DeWitt particle detector model has found success in demonstrating quantum information channels with non-zero channel capacity between qubits and quantum fields. These detector models provide the necessary framework for experimentally realizable Unruh-DeWitt Quantum Computers with near-perfect channel capacity. We propose spin qubits with gate-controlled coupling to Luttinger liquids as a laboratory setting for Unruh-DeWitt detectors and general design constraints that underpin their feasibility in this and other settings. We also present several experimental scenarios including graphene ribbons, edges states in the quantum spin Hall phase of HgTe quantum wells, and the recently discovered quantum anomalous Hall phase in transition metal dichalcogenides. Theoretically, through bosonization, we show that Unruh-DeWitt detectors can carry out Quantum Computations and when they can make perfect quantum communication channels between qubits via the Luttinger liquid. Our results point the way toward an all-to-all connected solid state quantum computer and the experimental study of quantum information in quantum fields via condensed matter physics. | 翻訳日:2024-04-08 21:09:03 公開日:2024-04-05 |
| # 重畳重畳重畳ネットワークにおけるコミュニティ検出のための新しいモデル
Bipartite mixed membership distribution-free model. A novel model for community detection in overlapping bipartite weighted networks ( http://arxiv.org/abs/2211.00912v3 ) ライセンス: Link先を確認 | Huan Qing, Jingli Wang, | (参考訳) 重なり合うユニパートイト非重み付きネットワークに対する混合メンバシップのモデル化と推定は近年よく研究されている。
しかし、我々の知る限り、より一般的な場合、重なり合う二部重み付きネットワークのモデルはない。
このギャップを埋めるために、新しいモデルBiMMDF(Bipartite Mixed Membership Distribution-Free)を導入する。
我々のモデルでは、ノードのメンバシップに関連するブロック構造が期待されている限り、隣接行列は任意の分布に従うことができる。
特に、BiMMDFは重なり合うバイパートイト符号ネットワークをモデル化することができ、一般的な混合会員確率ブルコクモデルを含む、多くの先行モデルの拡張である。
理論的に一貫した推定を保証した効率的なアルゴリズムをBiMMDFに適合させる。
次に,分布の異なるBiMMDFの分離条件を得る。
さらに,スパースネットワークにおけるエッジの欠落についても検討する。
BiMMDFの利点は、広範囲な合成ネットワークと8つの現実世界ネットワークで実証されている。
Modeling and estimating mixed memberships for overlapping unipartite un-weighted networks has been well studied in recent years. However, to our knowledge, there is no model for a more general case, the overlapping bipartite weighted networks. To close this gap, we introduce a novel model, the Bipartite Mixed Membership Distribution-Free (BiMMDF) model. Our model allows an adjacency matrix to follow any distribution as long as its expectation has a block structure related to node membership. In particular, BiMMDF can model overlapping bipartite signed networks and it is an extension of many previous models, including the popular mixed membership stochastic blcokmodels. An efficient algorithm with a theoretical guarantee of consistent estimation is applied to fit BiMMDF. We then obtain the separation conditions of BiMMDF for different distributions. Furthermore, we also consider missing edges for sparse networks. The advantage of BiMMDF is demonstrated in extensive synthetic networks and eight real-world networks. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # Opti-CAM: 解釈可能性のためのサリエンシマップの最適化
Opti-CAM: Optimizing saliency maps for interpretability ( http://arxiv.org/abs/2301.07002v3 ) ライセンス: Link先を確認 | Hanwei Zhang, Felipe Torres, Ronan Sicre, Yannis Avrithis, Stephane Ayache, | (参考訳) クラスアクティベーションマップ(CAM)に基づく手法は、特徴写像の線形結合をサリエンシマップとして利用することにより、畳み込みニューラルネットワークの予測を簡易に解釈するメカニズムを提供する。
対照的に、マスクベースの手法は、画像空間内で直接唾液マップを最適化するか、別のネットワークをトレーニングして学習する。
本稿では、CAMベースのアイデアとマスキングベースのアプローチを組み合わせたOpti-CAMを紹介する。
我々のサリエンシマップは特徴写像の線形結合であり、画像毎の重み付けを最適化し、与えられたクラスに対するマスキング画像のロジットを最大化する。
また、属性メソッドの最も一般的な評価指標の2つに、根本的な欠陥を修正します。
いくつかのデータセットでは、Opti-CAMは最も関連性の高い分類基準に従って、他のCAMベースのアプローチよりも優れている。
局所化と分類器解釈性が必ずしも一致していないことを示す実証的証拠を提供する。
Methods based on class activation maps (CAM) provide a simple mechanism to interpret predictions of convolutional neural networks by using linear combinations of feature maps as saliency maps. By contrast, masking-based methods optimize a saliency map directly in the image space or learn it by training another network on additional data. In this work we introduce Opti-CAM, combining ideas from CAM-based and masking-based approaches. Our saliency map is a linear combination of feature maps, where weights are optimized per image such that the logit of the masked image for a given class is maximized. We also fix a fundamental flaw in two of the most common evaluation metrics of attribution methods. On several datasets, Opti-CAM largely outperforms other CAM-based approaches according to the most relevant classification metrics. We provide empirical evidence supporting that localization and classifier interpretability are not necessarily aligned. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # より少ない:n-gram周波数遅延による単語レベルのテキスト逆アタックの理解
Less is More: Understanding Word-level Textual Adversarial Attack via n-gram Frequency Descend ( http://arxiv.org/abs/2302.02568v3 ) ライセンス: Link先を確認 | Ning Lu, Shengcai Liu, Zhirui Zhang, Qi Wang, Haifeng Liu, Ke Tang, | (参考訳) 単語レベルのテキスト敵対攻撃は、自然言語処理(NLP)モデルにおいて顕著な効果を示した。
彼らの成功にもかかわらず、その効果の根本原因と敵例(AE)の基本的特徴はいまだに不明である。
本研究の目的は,$n$-gramの周波数パターンを調べることで,単語レベルの攻撃を解釈することである。
包括的実験の結果,約90%のケースにおいて,単語レベルの攻撃は,$n$-gramの頻度が減少する事例の発生につながることが明らかとなった。
この発見は、モデルの堅牢性を高めるための簡単な戦略を示唆している。
この戦略の実現可能性を検討するために,従来の損失勾配に代わる$n$-gramの周波数情報を用いて,対人訓練における摂動例を生成する。
実験結果から, 周波数に基づくアプローチは, モデルロバスト性を改善するための勾配に基づくアプローチと相容れないことが示唆された。
本研究は,単語レベルのテキストの敵対的攻撃を理解するための,新しい,より直感的な視点を提供し,モデルロバスト性を改善するための新たな方向性を提案する。
Word-level textual adversarial attacks have demonstrated notable efficacy in misleading Natural Language Processing (NLP) models. Despite their success, the underlying reasons for their effectiveness and the fundamental characteristics of adversarial examples (AEs) remain obscure. This work aims to interpret word-level attacks by examining their $n$-gram frequency patterns. Our comprehensive experiments reveal that in approximately 90\% of cases, word-level attacks lead to the generation of examples where the frequency of $n$-grams decreases, a tendency we term as the $n$-gram Frequency Descend ($n$-FD). This finding suggests a straightforward strategy to enhance model robustness: training models using examples with $n$-FD. To examine the feasibility of this strategy, we employed the $n$-gram frequency information, as an alternative to conventional loss gradients, to generate perturbed examples in adversarial training. The experiment results indicate that the frequency-based approach performs comparably with the gradient-based approach in improving model robustness. Our research offers a novel and more intuitive perspective for understanding word-level textual adversarial attacks and proposes a new direction to improve model robustness. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # 精神物理学実験における三部体絡み状態の検出条件
Conditions on detecting tripartite entangled state in psychophysical experiments ( http://arxiv.org/abs/2303.07446v3 ) ライセンス: Link先を確認 | Lea Gassab, Ali Pedram, Özgür E. Müstecaplıoğlu, | (参考訳) 本稿では,人間の視覚系の量子絡み合った光に対する感度について検討する。
精神物理学的な実験を通じて多部交絡状態が知覚される可能性について検討した。
我々の焦点は、二部交絡状態から始まり、人間による二部交絡知覚に偽陽性の付加的なノイズを考慮し、文献との比較研究を行う。
その後、我々は同様の研究を高次元の単純性のために三部構造に限定する。
ヒトによる光検出をモデル化するために、加算雑音を含むフォック数状態において、コヒーレントに増幅された光子に対して決定される確率を用いる。
以上の結果から, バイパートライトとトリパートライトの両眼との絡み合いの検出は, 特定の付加雑音レベルと視覚閾値に対して可能であることが示唆された。
最後に、いくつかの代替増幅法について議論する。
This paper explores the sensitivity of the human visual system to quantum entangled light. We examine the possibility of human subjects perceiving multipartite entangled state through psychophysical experiments. Our focus begins with a bipartite entangled state to make a comparative study with the literature by taking into account additive noise for false positive on bipartite entanglement perception by humans. After that, we limit our similar investigation to a tripartite entangled state for simplicity in higher dimensions. To model the photodetection by humans, we employ the probability of seeing determined for coherently amplified photons in Fock number states, including an additive noise. Our results indicate that detecting bipartite and tripartite entanglement with the human eye is possible for a certain range of additive noise levels and visual thresholds. Finally, we discuss several alternative amplification methods. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # 2レベルボソニックモデルの励起状態量子相転移の縮退と系力学への影響
Degeneracy in excited-state quantum phase transitions of two-level bosonic models and its influence on system dynamics ( http://arxiv.org/abs/2303.16551v2 ) ライセンス: Link先を確認 | J. Khalouf-Rivera, Qian Wang, Lea F. Santos, J. E. García Ramos, M. Carvajal, F. Pérez-Bernal, | (参考訳) 励起状態量子相転移(ESQPT)は、集合多体量子系のスペクトル特性に強く影響を与え、異なる量子相における縮退パターンを変化させる。
レベルの退化はシステムの力学に影響を及ぼす。
我々は、$u(n+1)$(n+1)$(n)$(n+1)$(n$)が自由度全体の数である)2レベルボソンモデルのサイズの縮退依存性を分析する。
これらのモデルのESQPT臨界エネルギーの下において、異なる対称性セクターに属する隣り合うレベル間のエネルギーギャップは、システムサイズが増加するにつれてゼロに近いものとなる。
このギャップが1つの集合的自由度を持つ系に対して指数関数的にゼロになる理由を報告し説明するが、代数的には1以上の自由度を持つモデルで説明する。
その結果、時間外相関器の無限時間平均は、$n=1$の有限系においてESQPT順序パラメータであるが、$n>1$の系では、平均場極限における順序パラメータとしてのみ機能することを示した。
Excited-state quantum phase transitions (ESQPTs) strongly influence the spectral properties of collective many-body quantum systems, changing degeneracy patterns in different quantum phases. Level degeneracies, in turn, affect the system's dynamics. We analyze the degeneracy dependence on the size of two-level boson models with a $u(n+1)$ dynamical algebra, where $n$ is the number of collective degrees of freedom. Below the ESQPT critical energy of these models, the energy gap between neighboring levels that belong to different symmetry sectors gets close to zero as the system size increases. We report and explain why this gap goes to zero exponentially for systems with one collective degree of freedom, but algebraically in models with more than one degree of freedom. As a consequence, we show that the infinite-time average of out-of-time-order correlators is an ESQPT order parameter in finite systems with $n=1$, but in systems with $n>1$, this average only works as an order parameter in the mean-field limit. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # AnnoLLM: クラウドソースアノテーションを改善するために大規模な言語モデルを作る
AnnoLLM: Making Large Language Models to Be Better Crowdsourced Annotators ( http://arxiv.org/abs/2303.16854v2 ) ライセンス: Link先を確認 | Xingwei He, Zhenghao Lin, Yeyun Gong, A-Long Jin, Hang Zhang, Chen Lin, Jian Jiao, Siu Ming Yiu, Nan Duan, Weizhu Chen, | (参考訳) 多くの自然言語処理(NLP)タスクは、高性能で機械学習モデルをトレーニングするためのラベル付きデータに依存している。
しかし、特にタスクが大量のデータや特別なドメインを必要とする場合、データアノテーションは時間がかかり費用がかかる。
近年, GPT-3.5 シリーズモデルでは, 様々な NLP タスクにおいて, ショット数が少なく, ゼロショットが可能であることが示されている。
本稿では, GPT-3.5 のような大規模言語モデル (LLM) が十分なガイダンスを与えて実例を示す際に, 優れたクラウドソースアノテータとして機能することを示す。
そこで,LLMを用いたアノテーションシステムAnnoLLMを提案する。
具体的には,まず LLM に対して,その具体例に具体的真理回答/ラベルが割り当てられた理由を説明する。
そこで,本研究では,自己生成的説明を用いて数発のチェーン・オブ・シークレットを構築し,ラベルのないデータをLCMで注釈付けする。
ユーザ入力とキーワード関連性評価,BoolQ,WiCの3つのタスクに対する実験結果から,AnnoLLMがクラウドソースアノテータに匹敵する性能を示した。
さらに,AnnoLLMを用いた対話型情報検索データセットを構築した。
このデータセットは、会話テキストの関連する文書を検索できる検索モデルの開発を容易にするように設計されている。
人間の評価によってデータセットの高品質が検証された。
Many natural language processing (NLP) tasks rely on labeled data to train machine learning models with high performance. However, data annotation is time-consuming and expensive, especially when the task involves a large amount of data or requires specialized domains. Recently, GPT-3.5 series models have demonstrated remarkable few-shot and zero-shot ability across various NLP tasks. In this paper, we first claim that large language models (LLMs), such as GPT-3.5, can serve as an excellent crowdsourced annotator when provided with sufficient guidance and demonstrated examples. Accordingly, we propose AnnoLLM, an annotation system powered by LLMs, which adopts a two-step approach, explain-then-annotate. Concretely, we first prompt LLMs to provide explanations for why the specific ground truth answer/label was assigned for a given example. Then, we construct the few-shot chain-of-thought prompt with the self-generated explanation and employ it to annotate the unlabeled data with LLMs. Our experiment results on three tasks, including user input and keyword relevance assessment, BoolQ, and WiC, demonstrate that AnnoLLM surpasses or performs on par with crowdsourced annotators. Furthermore, we build the first conversation-based information retrieval dataset employing AnnoLLM. This dataset is designed to facilitate the development of retrieval models capable of retrieving pertinent documents for conversational text. Human evaluation has validated the dataset's high quality. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # デュアルリファイン: 反復型エピポーラサンプリングによる自己監督深度とポース推定と平衡に向かってのリファイン化
DualRefine: Self-Supervised Depth and Pose Estimation Through Iterative Epipolar Sampling and Refinement Toward Equilibrium ( http://arxiv.org/abs/2304.03560v2 ) ライセンス: Link先を確認 | Antyanta Bangunharcana, Ahmed Magd, Kyung-Soo Kim, | (参考訳) 自己教師付き多フレーム深度推定は、隣接フレーム間の画素対応のマッチングコストを計算し、幾何学的情報をネットワークに注入することで高い精度を達成する。
これらの画素対応候補は、フレーム間の相対的なポーズ推定に基づいて計算される。
正確なポーズ予測は、エピポーラ幾何学に影響を及ぼすため、正確なマッチングコスト計算に不可欠である。
さらに、改良された深さ推定は、代わりにポーズ推定を整列するために使用することができる。
従来のSfM(Structure-from-motion)の原理に着想を得たDualRefineモデルを提案する。
我々の新しい更新パイプラインは、深度推定を反復的に洗練するディープ均衡モデルフレームワークと、エピポーラ幾何学に基づく局所マッチングコストの計算による特徴マップの隠れ状態を利用する。
重要なことに、各ステップのポーズ更新を計算するために、精巧な深さ推定と特徴マップを使用しました。
このポーズ推定の更新は、精製過程において、エピポーラ幾何学を徐々に変化させる。
KITTIデータセットの実験結果から, 自己教師付きベースラインを超える競合深度予測とオドメトリー予測性能が示された。
Self-supervised multi-frame depth estimation achieves high accuracy by computing matching costs of pixel correspondences between adjacent frames, injecting geometric information into the network. These pixel-correspondence candidates are computed based on the relative pose estimates between the frames. Accurate pose predictions are essential for precise matching cost computation as they influence the epipolar geometry. Furthermore, improved depth estimates can, in turn, be used to align pose estimates. Inspired by traditional structure-from-motion (SfM) principles, we propose the DualRefine model, which tightly couples depth and pose estimation through a feedback loop. Our novel update pipeline uses a deep equilibrium model framework to iteratively refine depth estimates and a hidden state of feature maps by computing local matching costs based on epipolar geometry. Importantly, we used the refined depth estimates and feature maps to compute pose updates at each step. This update in the pose estimates slowly alters the epipolar geometry during the refinement process. Experimental results on the KITTI dataset demonstrate competitive depth prediction and odometry prediction performance surpassing published self-supervised baselines. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # EVREAL:イベントベースビデオ再構成のための総合ベンチマークと分析スイート
EVREAL: Towards a Comprehensive Benchmark and Analysis Suite for Event-based Video Reconstruction ( http://arxiv.org/abs/2305.00434v2 ) ライセンス: Link先を確認 | Burak Ercan, Onur Eker, Aykut Erdem, Erkut Erdem, | (参考訳) イベントカメラは、非同期と独立のピクセルを内蔵した新しいタイプの視覚センサーであり、高ダイナミックレンジや最小のモーションボケのような従来のフレームベースのカメラよりも利点がある。
しかし、その出力は人間にとって容易には理解できないため、イベントストリームからの強度画像の再構成は、イベントベースのビジョンにおいて基本的なタスクとなる。
近年の深層学習に基づく手法は,イベントからの映像再構成において有望であることを示しているが,この問題はまだ完全には解決されていない。
異なるアプローチの比較を容易にするため、標準化された評価プロトコルと多様なテストデータセットが不可欠である。
本稿では,統一評価手法を提案し,EVREALと呼ばれるオープンソースのフレームワークを導入し,様々なイベントベースビデオ再構成手法を総合的にベンチマークし分析する。
EVREALを用いて、イベントベースのビデオ再構成のための最先端の手法を詳細に分析し、これらの手法の様々な設定、挑戦シナリオ、下流タスクにおける性能に関する貴重な洞察を提供する。
Event cameras are a new type of vision sensor that incorporates asynchronous and independent pixels, offering advantages over traditional frame-based cameras such as high dynamic range and minimal motion blur. However, their output is not easily understandable by humans, making the reconstruction of intensity images from event streams a fundamental task in event-based vision. While recent deep learning-based methods have shown promise in video reconstruction from events, this problem is not completely solved yet. To facilitate comparison between different approaches, standardized evaluation protocols and diverse test datasets are essential. This paper proposes a unified evaluation methodology and introduces an open-source framework called EVREAL to comprehensively benchmark and analyze various event-based video reconstruction methods from the literature. Using EVREAL, we give a detailed analysis of the state-of-the-art methods for event-based video reconstruction, and provide valuable insights into the performance of these methods under varying settings, challenging scenarios, and downstream tasks. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # CryptoVampire: 完全なシンボリック攻撃暗号モデルのための自動推論
CryptoVampire: Automated Reasoning for the Complete Symbolic Attacker Cryptographic Model ( http://arxiv.org/abs/2305.12173v2 ) ライセンス: Link先を確認 | Simon Jeanteur, Laura Kovács, Matteo Maffei, Michael Rawson, | (参考訳) 暗号プロトコルは、プロトコル標準でさえ、ますます増加する攻撃のリストで見られるように、設計と証明が困難である。
シンボリック・モデル(英語版)は、暗号化スキームの代数的性質を抽象化し、攻撃を見逃すような理想化されたモデルに対して、そのようなプロトコルの自動的なセキュリティ証明を可能にする。
計算モデルは厳密な保証を与えるが、現時点では対話的な証明と/または制限されたプロトコルのクラスのみをサポートする。
有望なアプローチは、BC論理で定式化された計算完全記号攻撃(CCSA)によって与えられる。
BC Logicは、最近開発されたインタラクティブな定理証明器であるSquirrelによってサポートされている。
我々はCryptoVampire暗号プロトコル検証を初めて導入し、BC論理におけるトレース特性の証明を完全に自動化した。
主要な技術的貢献は、プロトコルプロパティの1次(FO)形式化と、サブターム関係の調整されたハンドリングである。
我々は高階論理(HO)における対話的証明の負担を克服し、FO推論のみを用いて暗号プロトコルの健全性を自動的に確立する。
理論面では、全FO論理を暗号公理で制限し、HO BC論理の表現性を失うことにより、音質を損なわないことを保証する。
実用面では、CryptoVampireはFO飽和アルゴリズムとヒューリスティックスを用いた専用の証明技術を統合しており、基礎となる証明エンジンとして最先端のヴァンパイアFO定理証明を活用できる。
実験結果から,CryptoVampireがスタンドアロンの検証器として有効であること,およびSquirrelの自動化サポートの観点から確認した。
Cryptographic protocols are hard to design and prove correct, as witnessed by the ever-growing list of attacks even on protocol standards. Symbolic models of cryptography enable automated formal security proofs of such protocols against an idealized model, which abstracts away from the algebraic properties of cryptographic schemes and thus misses attacks. Computational models yield rigorous guarantees but support at present only interactive proofs and/or restricted classes of protocols. A promising approach is given by the computationally complete symbolic attacker (CCSA), formalized in the BC Logic, which aims at bridging and getting the best of the two worlds, obtaining cryptographic guarantees by symbolic analysis. The BC Logic is supported by a recently developed interactive theorem prover, Squirrel, which enables machine-checked interactive security proofs, as opposed to automated ones, thus requiring expert knowledge. We introduce the CryptoVampire cryptographic protocol verifier, which for the first time fully automates proofs of trace properties in the BC Logic. The key technical contribution is a first-order (FO) formalization of protocol properties with tailored handling of subterm relations. We overcome the burden of interactive proving in higher-order (HO) logic and automatically establish soundness of cryptographic protocols using only FO reasoning. On the theoretical side, we restrict full FO logic with cryptographic axioms to ensure that, by losing the expressivity of the HO BC Logic, we do not lose soundness. On the practical side, CryptoVampire integrates dedicated proof techniques using FO saturation algorithms and heuristics, which enable leveraging the state-of-the-art Vampire FO theorem prover as the underlying proving engine. Our experimental results show CryptoVampire's effectiveness of as a standalone verifier and in terms of automation support for Squirrel. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # 非クリフォードゲートの少ない量子状態の効率的な学習
Efficient Learning of Quantum States Prepared With Few Non-Clifford Gates ( http://arxiv.org/abs/2305.13409v4 ) ライセンス: Link先を確認 | Sabee Grewal, Vishnu Iyer, William Kretschmer, Daniel Liang, | (参考訳) クリフォードゲートと$O(\log n)$非クリフォードゲートで用意された量子状態を効率的に学習するアルゴリズムのペアを与える。
具体的には、$n$-qubit state $|\psi\rangle$を少なくとも$t$非クリフォードゲートで準備するために、我々のアルゴリズムは$\mathsf{poly}(n,2^t,1/\varepsilon)$ time and copy of $|\psi\rangle$ to learn $|\psi\rangle$ to trace distance at most $\varepsilon$を使用する。
このタスクの最初のアルゴリズムはより効率的であるが、$|\psi\rangle$の2つのコピーにわたる絡み合った測定が必要である。
第2のアルゴリズムは、実行時の多項式係数とサンプルの複雑さのコストで単一コピーの測定のみを使用する。
我々のアルゴリズムは一般に、十分に大きな安定化器次元を持つ任意の状態を学び、量子状態が2^k$パウリ作用素のアーベル群によって安定化された場合、$k$の安定化器次元を持つ。
また、独立性のある安定化器次元の効率的な特性試験アルゴリズムも開発している。
We give a pair of algorithms that efficiently learn a quantum state prepared by Clifford gates and $O(\log n)$ non-Clifford gates. Specifically, for an $n$-qubit state $|\psi\rangle$ prepared with at most $t$ non-Clifford gates, our algorithms use $\mathsf{poly}(n,2^t,1/\varepsilon)$ time and copies of $|\psi\rangle$ to learn $|\psi\rangle$ to trace distance at most $\varepsilon$. The first algorithm for this task is more efficient, but requires entangled measurements across two copies of $|\psi\rangle$. The second algorithm uses only single-copy measurements at the cost of polynomial factors in runtime and sample complexity. Our algorithms more generally learn any state with sufficiently large stabilizer dimension, where a quantum state has stabilizer dimension $k$ if it is stabilized by an abelian group of $2^k$ Pauli operators. We also develop an efficient property testing algorithm for stabilizer dimension, which may be of independent interest. | 翻訳日:2024-04-08 20:59:44 公開日:2024-04-05 |
| # 多視点超音波画像による心疾患の検出
Detecting Heart Disease from Multi-View Ultrasound Images via Supervised Attention Multiple Instance Learning ( http://arxiv.org/abs/2306.00003v3 ) ライセンス: Link先を確認 | Zhe Huang, Benjamin S. Wessler, Michael C. Hughes, | (参考訳) 大動脈狭窄症 (Aortic stenosis, AS) は変性弁の状態であり、かなりの死亡率と死亡率を引き起こす。
この状態は診断され、治療されない。
臨床的には、ASは経胸壁心エコー検査の専門的レビューで診断され、心臓の多数の超音波画像を生成する。
これらの図のいくつかだけが大動脈弁を示している。
ASのスクリーニングを自動化するためには、深層ネットワークは、ヒトの専門家が大動脈弁の視界を識別し、関連する画像を集約して研究レベルの診断を生成する能力の模倣を学ぶ必要がある。
従来のAS検出手法では、画像間の非フレキシブル平均に依存するため、精度が不十分であった。
さらに,市販の注目型マルチインスタンス学習 (MIL) では性能が低かった。
2つの重要な方法論的革新とともに、新しいエンドツーエンドのMILアプローチに貢献する。
まず、教師付きアテンション技術は、学習されたアテンションメカニズムをガイドし、関連する視点を優先する。
第二に、新しい自己指導型事前学習戦略は、従来の文献のように個々の画像ではなく、研究全体の表現に対照的な学習を適用している。
オープンアクセスデータセットと外部検証セットの実験により、我々の手法はモデルサイズを小さくしながら高い精度が得られることが示された。
Aortic stenosis (AS) is a degenerative valve condition that causes substantial morbidity and mortality. This condition is under-diagnosed and under-treated. In clinical practice, AS is diagnosed with expert review of transthoracic echocardiography, which produces dozens of ultrasound images of the heart. Only some of these views show the aortic valve. To automate screening for AS, deep networks must learn to mimic a human expert's ability to identify views of the aortic valve then aggregate across these relevant images to produce a study-level diagnosis. We find previous approaches to AS detection yield insufficient accuracy due to relying on inflexible averages across images. We further find that off-the-shelf attention-based multiple instance learning (MIL) performs poorly. We contribute a new end-to-end MIL approach with two key methodological innovations. First, a supervised attention technique guides the learned attention mechanism to favor relevant views. Second, a novel self-supervised pretraining strategy applies contrastive learning on the representation of the whole study instead of individual images as commonly done in prior literature. Experiments on an open-access dataset and an external validation set show that our approach yields higher accuracy while reducing model size. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 複雑なデータセットのスケーリング法則と普遍的統計構造
The Underlying Scaling Laws and Universal Statistical Structure of Complex Datasets ( http://arxiv.org/abs/2306.14975v3 ) ライセンス: Link先を確認 | Noam Levi, Yaron Oz, | (参考訳) 実世界の複雑なデータセットと人工的に生成されたデータセットの両方に現れる普遍的特性について検討する。
我々のアプローチは、データを物理系に類似させ、統計物理学やランダム行列理論(RMT)のツールを用いて、その基盤となる構造を明らかにすることである。
特徴-特徴共分散行列に着目し、その局所的および大域的固有値統計を解析する。
私たちの主な観察は次の通りです。
一 実世界のデータと比較して、非相関な正規分布データに対して、その固有値の大半が示すパワーロースケーリングは、非常に異なる。
(II)このスケーリングの挙動は、長距離相関を持つガウスデータを生成することによって、完全にモデル化することができる。
(iii) 生成データセットと実世界のデータセットは、RTTの観点からは、可積分系ではなくカオス系と同じ普遍性クラスにある。
(4) RMTの予測統計行動は, 従来の実世界のトレーニングに使用されていたデータよりも, データセットサイズにおける経験的共分散行列に対して, すでに顕著に小さく, 集団パワー則スケーリング行動の近似に要するサンプル数に関連付けられる。
(v)シャノンエントロピーは局所RTT構造と固有値スケーリングと相関し、非相関データセットに比べて強い相関データセットでは著しく小さく、分布エントロピーに到達するのにサンプルが少ない。
これらの結果は、十分なサンプルサイズで、自然画像データセットのグラム行列は、単純な共分散構造を持つウィッシャート確率行列によってうまく近似することができ、ニューラルネットワークのダイナミクスとデータグラム行列に依存する一般化に関する厳密な研究への扉を開くことができることを示している。
We study universal traits which emerge both in real-world complex datasets, as well as in artificially generated ones. Our approach is to analogize data to a physical system and employ tools from statistical physics and Random Matrix Theory (RMT) to reveal their underlying structure. We focus on the feature-feature covariance matrix, analyzing both its local and global eigenvalue statistics. Our main observations are: (i) The power-law scalings that the bulk of its eigenvalues exhibit are vastly different for uncorrelated normally distributed data compared to real-world data, (ii) this scaling behavior can be completely modeled by generating Gaussian data with long range correlations, (iii) both generated and real-world datasets lie in the same universality class from the RMT perspective, as chaotic rather than integrable systems, (iv) the expected RMT statistical behavior already manifests for empirical covariance matrices at dataset sizes significantly smaller than those conventionally used for real-world training, and can be related to the number of samples required to approximate the population power-law scaling behavior, (v) the Shannon entropy is correlated with local RMT structure and eigenvalues scaling, is substantially smaller in strongly correlated datasets compared to uncorrelated ones, and requires fewer samples to reach the distribution entropy. These findings show that with sufficient sample size, the Gram matrix of natural image datasets can be well approximated by a Wishart random matrix with a simple covariance structure, opening the door to rigorous studies of neural network dynamics and generalization which rely on the data Gram matrix. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # トポロジカル配位グラフェンジグザグナノリボンの相図と交叉相 : 局在効果の役割
Phase Diagram and Crossover Phases of Topologically Ordered Graphene Zigzag Nanoribbons: Role of Localization Effects ( http://arxiv.org/abs/2307.04352v3 ) ライセンス: Link先を確認 | Hoang Anh Le, In Hwan Lee, Young Heon Kim, S. -R. Eric Yang, | (参考訳) 我々は, ジグザググラフェンナノリボンの相図を現場での反発, ドーピング, 障害強度の関数として計算した。
トポロジカル秩序相は、非普遍的なトポロジ的絡み合いエントロピーを持つ新しい乱れ相であるクロスオーバー相へトポロジカル位相遷移する。
トポロジカル秩序は、局所化効果とオンサイト反発の競合によって破壊される。
その結果, 強いオンサイト反発およびドーピングがジグザグエッジ間の非局所的相関を弱めることがわかった。
クロスオーバー相の1つでは、$\frac{e^-}{2}$分の電荷もスピン電荷分離も欠如していたが、ジグザグエッジ間の電荷移動相関は可能であった。
他の交叉相は$\frac{e^-}{2}$分数電荷を含むが、電荷移動相関は存在しない。
低ドープジグザグリボンでは、電子局在化とオンサイト反発の相互作用が準退化したギャップエッジ状態の空間的分離に寄与し、電荷分数化を量子ゆらぎから保護する。
これらすべての効果において、混合キラルギャップエッジ状態は重要な役割を果たす。
非トポロジー的な強い乱れと強い反発相の性質も観察されている。
位相図の各位相は異なるジグザグエッジ構造を持つ。
さらに,非ドープトポロジカル秩序ジグザグリボンのジグザグエッジ間の印加電圧下でのソリトン分電荷のトンネル化を検討した。
We computed the phase diagram of the zigzag graphene nanoribbons as a function of on-site repulsion, doping, and disorder strength. The topologically ordered phase undergoes topological phase transitions into crossover phases, which are new disordered phases with a nonuniversal topological entanglement entropy with significant variance. The topological order is destroyed by competition between localization effects and on-site repulsion. We found that strong on-site repulsion and/or doping weakens the nonlocal correlations between the opposite zigzag edges. In one of the crossover phases, both $\frac{e^-}{2}$ fractional charges and spin-charge separation were absent; however, charge-transfer correlations between the zigzag edges were possible. Another crossover phase contains $\frac{e^-}{2}$ fractional charges, but no charge transfer correlations. In low-doped zigzag ribbons the interplay between electron localization and on-site repulsion contributes to the spatial separation of quasi-degenerate gap-edge states and protects the charge fractionalization against quantum fluctuations. In all these effects, mixed chiral gap-edge states play an important role. The properties of nontopological strongly disordered and strongly repulsive phases are also observed. Each phase of the phase diagram has a different zigzag-edge structure. Additionally, we investigated the tunneling of solitonic fractional charges under an applied voltage between the zigzag edges of undoped topologically ordered zigzag ribbons, and found that it may lead to a zero-bias tunneling anomaly. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 言語間画像キャプションのための埋め込み不均一アテンション変換器
Embedded Heterogeneous Attention Transformer for Cross-lingual Image Captioning ( http://arxiv.org/abs/2307.09915v2 ) ライセンス: Link先を確認 | Zijie Song, Zhenzhen Hu, Yuanen Zhou, Ye Zhao, Richang Hong, Meng Wang, | (参考訳) 言語横断画像キャプションは,マルチメディア分析において,言語横断障害とモーダル横断障害の両方に対処する必要がある課題である。
このタスクにおける重要な問題は、画像と異なる言語間のグローバルなマッチングとローカルなマッチングをモデル化することである。
トランスアーキテクチャに基づく既存のクロスモーダル埋め込み手法は、特に多様な言語を扱う場合、画像領域とモノリンガル語との局所的なマッチングを監督する。
これらの制約を克服するために、異種ネットワークを用いて、画像と異なる言語間のドメイン間関係と局所的対応を確立するための組込み異種注意変換器(EHAT)を提案する。
EHATは、Masked Heterogeneous Cross-attention (MHCA)、Heterogeneous Attention Reasoning Network (HARN)、Heterogeneous Co-attention (HCA)を含む。
HARNはコアネットワークとして機能し、視覚的境界ボックス表現機能を利用して、2つの言語から単語の特徴を接続し、異種マップを学習することで、ドメイン間の関係を捉える。
MHCAとHCAは、特殊なヘテロジニアスアテンション機構を通じてエンコーダのクロスドメイン統合を促進し、単一のモデルが2つの言語でキャプションを生成することを可能にする。
MSCOCOデータセットを用いた英語と中国語のキャプション生成手法の評価を行った。
実験の結果,従来のモノリンガル法に比べて優れた性能を示した。
提案するEHATフレームワークは,多言語画像のキャプションの課題を効果的に解決し,多言語画像解析と理解の改善に寄与する。
Cross-lingual image captioning is a challenging task that requires addressing both cross-lingual and cross-modal obstacles in multimedia analysis. The crucial issue in this task is to model the global and the local matching between the image and different languages. Existing cross-modal embedding methods based on the transformer architecture oversee the local matching between the image region and monolingual words, especially when dealing with diverse languages. To overcome these limitations, we propose an Embedded Heterogeneous Attention Transformer (EHAT) to establish cross-domain relationships and local correspondences between images and different languages by using a heterogeneous network. EHAT comprises Masked Heterogeneous Cross-attention (MHCA), Heterogeneous Attention Reasoning Network (HARN), and Heterogeneous Co-attention (HCA). The HARN serves as the core network and it captures cross-domain relationships by leveraging visual bounding box representation features to connect word features from two languages and to learn heterogeneous maps. MHCA and HCA facilitate cross-domain integration in the encoder through specialized heterogeneous attention mechanisms, enabling a single model to generate captions in two languages. We evaluate our approach on the MSCOCO dataset to generate captions in English and Chinese, two languages that exhibit significant differences in their language families. The experimental results demonstrate the superior performance of our method compared to existing advanced monolingual methods. Our proposed EHAT framework effectively addresses the challenges of cross-lingual image captioning, paving the way for improved multilingual image analysis and understanding. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 変分後量子ニューラルネットワーク
Post-variational quantum neural networks ( http://arxiv.org/abs/2307.10560v2 ) ライセンス: Link先を確認 | Po-Wei Huang, Patrick Rebentrost, | (参考訳) ノイズの多い中間スケール量子(NISQ)時代のハイブリッド量子古典計算は、変分アルゴリズムによって不規則なプラトー問題を示し、勾配に基づく最適化手法の難解な収束を引き起こす。
本稿では、量子コンピュータから古典的コンピュータへ可変パラメータをシフトする「変分戦略」について論じ、量子モデルを最適化する際のアンサンブル戦略を選択する。
個々の量子回路を構築するための様々な戦略と設計原則について論じ、その結果のアンサンブルを凸プログラミングで最適化することができる。
さらに、変分後量子ニューラルネットワークのアーキテクチャ設計について論じ、そのようなニューラルネットワーク全体の推定誤差の伝搬を解析する。
最後に、我々のアーキテクチャ設計を用いた経験的に、変分後の量子ニューラルネットワークは、変分アルゴリズムや2層ニューラルネットワークに匹敵する性能よりも優れた結果をもたらす可能性があることを示す。
Hybrid quantum-classical computing in the noisy intermediate-scale quantum (NISQ) era with variational algorithms can exhibit barren plateau issues, causing difficult convergence of gradient-based optimization techniques. In this paper, we discuss "post-variational strategies", which shift tunable parameters from the quantum computer to the classical computer, opting for ensemble strategies when optimizing quantum models. We discuss various strategies and design principles for constructing individual quantum circuits, where the resulting ensembles can be optimized with convex programming. Further, we discuss architectural designs of post-variational quantum neural networks and analyze the propagation of estimation errors throughout such neural networks. Finally, we show that empirically, post-variational quantum neural networks using our architectural designs can potentially provide better results than variational algorithms and performance comparable to that of two-layer neural networks. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # InstantAvatar:表面レンダリングによる高能率3次元頭部再構成
InstantAvatar: Efficient 3D Head Reconstruction via Surface Rendering ( http://arxiv.org/abs/2308.04868v3 ) ライセンス: Link先を確認 | Antonio Canela, Pol Caselles, Ibrar Malik, Eduard Ramon, Jaime García, Jordi Sánchez-Riera, Gil Triginer, Francesc Moreno-Noguer, | (参考訳) 近年のフルヘッド再構築の進歩は、単一シーンを表現するために、異なる表面やボリュームレンダリングを通じて、ニューラルネットワークを最適化することで得られる。
これらの技術は前例のない精度を達成するが、高価な最適化プロセスを必要とするため、数分、あるいは数時間かかる。
本研究では,コモディティハードウェア上で数秒で,数枚の画像からフルヘッドアバターを復元する手法であるInstantAvatarを紹介する。
再建過程を高速化するために,ボクセルグリッド型ニューラルネットワーク表現と表面レンダラーを組み合わせたシステムを提案する。
特に、これらの2つの手法の単純な組み合わせは、有効な解に収束しない不安定な最適化をもたらす。
この制限を克服するために,ボクセルグリッドに基づくアーキテクチャを用いて,3次元ヘッドサイン付き距離関数の事前分布を学習する新しい統計モデルを提案する。
この先行モデルの使用は、他の設計選択と組み合わせて、100倍のスピードアップで最先端の精度で3Dヘッド再構成を実現するシステムに繋がる。
Recent advances in full-head reconstruction have been obtained by optimizing a neural field through differentiable surface or volume rendering to represent a single scene. While these techniques achieve an unprecedented accuracy, they take several minutes, or even hours, due to the expensive optimization process required. In this work, we introduce InstantAvatar, a method that recovers full-head avatars from few images (down to just one) in a few seconds on commodity hardware. In order to speed up the reconstruction process, we propose a system that combines, for the first time, a voxel-grid neural field representation with a surface renderer. Notably, a naive combination of these two techniques leads to unstable optimizations that do not converge to valid solutions. In order to overcome this limitation, we present a novel statistical model that learns a prior distribution over 3D head signed distance functions using a voxel-grid based architecture. The use of this prior model, in combination with other design choices, results into a system that achieves 3D head reconstructions with comparable accuracy as the state-of-the-art with a 100x speed-up. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 自律運転を考慮した歩行者軌道予測手法の評価
Evaluating Pedestrian Trajectory Prediction Methods with Respect to Autonomous Driving ( http://arxiv.org/abs/2308.05194v3 ) ライセンス: Link先を確認 | Nico Uhlemann, Felix Fent, Markus Lienkamp, | (参考訳) 本稿では,自律システムにおける要求に沿う重要な側面である,単一軌跡生成の文脈における歩行者軌跡予測の最先端性を評価する。
評価は、平均変位誤差(ADE)と最終変位誤差(FDE)を報告した広く使われているETH/UCYデータセット上で行われる。
同時に,観測された動作履歴が予測性能に与える影響について,アブレーション研究を行った。
種々のエージェントに直面した場合の各アプローチのスケーラビリティを評価するために、各モデルの推測時間を測定する。
定量的分析の後、得られた予測は質的な方法で比較され、現在のアプローチの強みと弱みについて洞察を与える。
その結果、定速度モデル(CVM)は、ほとんどの場合において、全体的なダイナミクスを適切に近似するが、観察される一般的な歩行者行動の反映として追加の機能を組み込む必要があることが示された。
そこで本研究では,歩行者軌道予測アルゴリズムの今後の発展を導く目的で,データ駆動型解析手法を提案する。
In this paper, we assess the state of the art in pedestrian trajectory prediction within the context of generating single trajectories, a critical aspect aligning with the requirements in autonomous systems. The evaluation is conducted on the widely-used ETH/UCY dataset where the Average Displacement Error (ADE) and the Final Displacement Error (FDE) are reported. Alongside this, we perform an ablation study to investigate the impact of the observed motion history on prediction performance. To evaluate the scalability of each approach when confronted with varying amounts of agents, the inference time of each model is measured. Following a quantitative analysis, the resulting predictions are compared in a qualitative manner, giving insight into the strengths and weaknesses of current approaches. The results demonstrate that although a constant velocity model (CVM) provides a good approximation of the overall dynamics in the majority of cases, additional features need to be incorporated to reflect common pedestrian behavior observed. Therefore, this study presents a data-driven analysis with the intent to guide the future development of pedestrian trajectory prediction algorithms. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # LLMを用いたゼロショットとFewショットのプロンプト:バングラ感度解析のための微調整モデルとの比較
Zero- and Few-Shot Prompting with LLMs: A Comparative Study with Fine-tuned Models for Bangla Sentiment Analysis ( http://arxiv.org/abs/2308.10783v2 ) ライセンス: Link先を確認 | Md. Arid Hasan, Shudipta Das, Afiyat Anjum, Firoj Alam, Anika Anjum, Avijit Sarker, Sheak Rashed Haider Noori, | (参考訳) デジタル世界の急速な拡大は、感情分析をマーケティング、政治、カスタマーサービス、ヘルスケアなど、さまざまな分野における重要なツールへと押し上げている。
広く話される言語に対する感情分析には大きな進歩があったが、Banglaのような低リソース言語は、リソースの制約のためにほとんど研究されていない。
さらに、様々なアプリケーションにおけるLLM(Large Language Models)の最近の前例のない性能は、低リソース言語の文脈でそれらを評価する必要性を強調している。
本研究では,33,606件のニュースツイートとFacebookコメントを含む手動注釈付きデータセットを提案する。
また,Flan-T5,GPT-4,Bloomzなど,複数の言語モデルを用いたゼロショットと少数ショットのインコンテキスト学習についても検討し,微調整モデルとの比較分析を行った。
以上の結果から,モノリンガルトランスフォーマーに基づくモデルは,ゼロおよび少数ショットシナリオにおいても,他のモデルよりも一貫して優れていたことが示唆された。
引き続き探究を促進するため、このデータセットと研究ツールを広く研究コミュニティに公開するつもりです。
The rapid expansion of the digital world has propelled sentiment analysis into a critical tool across diverse sectors such as marketing, politics, customer service, and healthcare. While there have been significant advancements in sentiment analysis for widely spoken languages, low-resource languages, such as Bangla, remain largely under-researched due to resource constraints. Furthermore, the recent unprecedented performance of Large Language Models (LLMs) in various applications highlights the need to evaluate them in the context of low-resource languages. In this study, we present a sizeable manually annotated dataset encompassing 33,606 Bangla news tweets and Facebook comments. We also investigate zero- and few-shot in-context learning with several language models, including Flan-T5, GPT-4, and Bloomz, offering a comparative analysis against fine-tuned models. Our findings suggest that monolingual transformer-based models consistently outperform other models, even in zero and few-shot scenarios. To foster continued exploration, we intend to make this dataset and our research tools publicly available to the broader research community. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # CSM-H-R:相互運用可能なインテリジェントシステムのための推論自動化とプライバシ保護を支援するコンテキストモデリングフレームワーク
CSM-H-R: A Context Modeling Framework in Supporting Reasoning Automation for Interoperable Intelligent Systems and Privacy Protection ( http://arxiv.org/abs/2308.11066v3 ) ライセンス: Link先を確認 | Songhui Yue, Xiaoyan Hong, Randy K. Smith, | (参考訳) 大規模にインテリジェントなシステムにまたがるハイレベルコンテキスト(HLC)の自動化は、コンテキストデータの蓄積の増大、複数のソース(センサ、インテリジェントシステムなど)からのデータの融合の傾向、コンテキストベースの意思決定プロセスの本質的な複雑さとダイナミズムのために必須である。
これらの課題を緩和するために、モデリングフェーズにおけるオントロジーと状態とをプログラム的に組み合わせ、意味のあるHLCを認識する能力を実現するための新しい階層オントロジー・状態モデリング(HOSM)フレームワークCSM-H-Rを提案する。
H(階層)とR(関係とtRansition)の次元を取り入れて、コンテキストの動的な側面に対処することで、コンテキストステートマシン(CSM)エンジンに関するこれまでの作業のモデルを構築します。
フレームワークの設計は、インテリジェントシステムとCSMを扱うコンポーネント間のコンテキストの共有と相互運用、階層、関係、遷移の管理をサポートする。
IntellElevatorとIntellRestaurantのケーススタディは、スマートキャンパス環境における2つのインテリジェントな応用である。
HLC推論をベクトルおよび行列計算に変換するためのフレームワーク実験のプロトタイプ実装では、高度な確率モデルを用いてインテリジェントシステムの統合における次のレベルの自動化を実現する可能性を示し、一方、インデクシングと情報相関の低減による匿名化により、アプリケーション領域におけるプライバシ保護のサポートが達成される。
フレームワークの実装はhttps://github.com/songhui01/CSM-H-Rで公開されている。
The automation of High-Level Context (HLC) reasoning across intelligent systems at scale is imperative because of the unceasing accumulation of contextual data, the trend of the fusion of data from multiple sources (e.g., sensors, intelligent systems), and the intrinsic complexity and dynamism of context-based decision-making processes. To mitigate the challenges posed by these issues, we propose a novel Hierarchical Ontology-State Modeling (HOSM) framework CSM-H-R, which programmatically combines ontologies and states at the modeling phase and runtime phase for attaining the ability to recognize meaningful HLC. It builds on the model of our prior work on the Context State Machine (CSM) engine by incorporating the H (Hierarchy) and R (Relationship and tRansition) dimensions to take care of the dynamic aspects of context. The design of the framework supports the sharing and interoperation of context among intelligent systems and the components for handling CSMs and the management of hierarchy, relationship, and transition. Case studies are developed for IntellElevator and IntellRestaurant, two intelligent applications in a smart campus setting. The prototype implementation of the framework experiments on translating the HLC reasoning into vector and matrix computing and presents the potential of using advanced probabilistic models to reach the next level of automation in integrating intelligent systems; meanwhile, privacy protection support is achieved in the application domain by anonymization through indexing and reducing information correlation. An implementation of the framework is available at https://github.com/songhui01/CSM-H-R. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 準安定マルコフ開量子系
Unravelling Metastable Markovian Open Quantum Systems ( http://arxiv.org/abs/2308.14107v2 ) ライセンス: Link先を確認 | Calum A. Brown, Katarzyna Macieszczak, Robert L. Jack, | (参考訳) 準安定マルコフ開量子系の力学を解析し、その平均力学を確率軌道に展開する。
量子リセットプロセスを用いてメタスタブル現象論の例を示し、メタスタビリティが古典型である単純な3状態モデルと、メタスタブルデコヒーレンス自由部分空間を特徴とする2ビットモデルを含む。
3状態モデルでは、軌道は古典的な準安定現象論、すなわち異なる相への高速な緩和とそれらの間の緩やかな遷移を示す。
これにより、古典的メタスタビリティと量子的メタスタビリティの間の既存の対応が拡張される。
量子相に対するコミッタの計算と、それらの間の稀な遷移の機構を可能にする。
2量子モデルの場合、デコヒーレンスフリーな部分空間は、量子状態が連続的な遅い進化を持つ遅い多様体として無声軌道に現れる。
これは、この量子効果の古典的な(非可解な)アナログを提供する。
本稿では,これらの結果の一般的な意味を論じ,メタスタブルシステムにおける量子軌道解析における量子リセットプロセスの有用性を明らかにする。
We analyse the dynamics of metastable Markovian open quantum systems by unravelling their average dynamics into stochastic trajectories. We use quantum reset processes as examples to illustrate metastable phenomenology, including a simple three-state model whose metastability is of classical type, and a two-qubit model that features a metastable decoherence free subspace. In the three-state model, the trajectories exhibit classical metastable phenomenology: fast relaxation into distinct phases and slow transitions between them. This extends the existing correspondence between classical and quantum metastability. It enables the computation of committors for the quantum phases, and the mechanisms of rare transitions between them. For the two-qubit model, the decoherence-free subspace appears in the unravelled trajectories as a slow manifold on which the quantum state has a continuous slow evolution. This provides a classical (non-metastable) analogue of this quantum effect. We discuss the general implications of these results, and we highlight the useful role of quantum reset processes for analysis of quantum trajectories in metastable systems. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 潜在確率力学系による早期警告指標
Early warning indicators via latent stochastic dynamical systems ( http://arxiv.org/abs/2309.03842v3 ) ライセンス: Link先を確認 | Lingyu Feng, Ting Gao, Wang Xiao, Jinqiao Duan, | (参考訳) 脳疾患、自然災害、工学的信頼性など、多くの現実世界の応用において、複雑なシステムや高次元観測データにおける急激な動的遷移の早期警戒指標の検出が不可欠である。
この目的のために、我々は、低次元多様体の潜在進化力学をキャプチャする有向異方性拡散写像(direct anisotropic diffusion map)という新しいアプローチを開発する。
次に、3つの効果的な警告信号(Onsager-Machlup Indicator、Sample Entropy Indicator、Transition Probability Indicator)を潜在座標と潜在確率力学系から導出する。
本手法を脳波(EEG)データに適用する。
我々の早期警戒指標は状態遷移中の先端を検出することができることがわかった。
このフレームワークは、潜在力学を実世界のデータでブリッジするだけでなく、複雑な高次元時系列の自動ラベリングの可能性も示している。
Detecting early warning indicators for abrupt dynamical transitions in complex systems or high-dimensional observation data is essential in many real-world applications, such as brain diseases, natural disasters, and engineering reliability. To this end, we develop a novel approach: the directed anisotropic diffusion map that captures the latent evolutionary dynamics in the low-dimensional manifold. Then three effective warning signals (Onsager-Machlup Indicator, Sample Entropy Indicator, and Transition Probability Indicator) are derived through the latent coordinates and the latent stochastic dynamical systems. To validate our framework, we apply this methodology to authentic electroencephalogram (EEG) data. We find that our early warning indicators are capable of detecting the tipping point during state transition. This framework not only bridges the latent dynamics with real-world data but also shows the potential ability for automatic labeling on complex high-dimensional time series. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 一般化レインボー微分プライバシー
Generalized Rainbow Differential Privacy ( http://arxiv.org/abs/2309.05871v2 ) ライセンス: Link先を確認 | Yuzhou Gu, Ziqi Zhou, Onur Günlü, Rafael G. L. D'Oliveira, Parastoo Sadeghi, Muriel Médard, Rafael F. Schaefer, | (参考訳) 偏微分プライバシーと呼ばれるランダムなグラフカラー化により,DP機構を設計するための新しい枠組みについて検討する。
このフレームワークでは、データセットはグラフのノードであり、2つの隣接するデータセットはエッジで接続される。
グラフの各データセットは、メカニズムの出力を優先的に順序付けしており、これらの順序付けは虹と呼ばれる。
異なる虹色は、接続されたデータセットのグラフを異なる領域に分割する。
そのような領域の境界におけるDP機構が固定され、すべての同じレインボー境界データセットに対して同一に振る舞う場合、(境界条件が有効である限り)一意の最適$(\epsilon,\delta)$-DP機構が存在し、閉形式で表現できることを示す。
提案手法は,任意の有限色および$(\epsilon,\delta)$-DPに対して適用される支配順序とDPの興味深い関係に基づいており,従来の3色のみに適用される場合と$(\epsilon,\delta)$-DPの場合は$\epsilon$-DPに対してのみ適用可能である。
我々は、最適DP機構が存在しない非均一境界条件の例を与えることによって、同次境界条件の仮定を正当化する。
We study a new framework for designing differentially private (DP) mechanisms via randomized graph colorings, called rainbow differential privacy. In this framework, datasets are nodes in a graph, and two neighboring datasets are connected by an edge. Each dataset in the graph has a preferential ordering for the possible outputs of the mechanism, and these orderings are called rainbows. Different rainbows partition the graph of connected datasets into different regions. We show that if a DP mechanism at the boundary of such regions is fixed and it behaves identically for all same-rainbow boundary datasets, then a unique optimal $(\epsilon,\delta)$-DP mechanism exists (as long as the boundary condition is valid) and can be expressed in closed-form. Our proof technique is based on an interesting relationship between dominance ordering and DP, which applies to any finite number of colors and for $(\epsilon,\delta)$-DP, improving upon previous results that only apply to at most three colors and for $\epsilon$-DP. We justify the homogeneous boundary condition assumption by giving an example with non-homogeneous boundary condition, for which there exists no optimal DP mechanism. | 翻訳日:2024-04-08 20:49:52 公開日:2024-04-05 |
| # 自己説明による学習
Learning by Self-Explaining ( http://arxiv.org/abs/2309.08395v2 ) ライセンス: Link先を確認 | Wolfgang Stammer, Felix Friedrich, David Steinmann, Manuel Brack, Hikaru Shindo, Kristian Kersting, | (参考訳) 現在のAI研究は、主にモデル検査の手段として説明を扱う。
しかし、これはエージェントの学習過程における自己説明の利点を記述する人間の心理学からの発見を無視する。
そこで我々は,自己説明による学習(LSX)と呼ばれる画像分類の文脈において,新たなアプローチを導入する。
LSXは、自己修復型AIと人間誘導型説明機械学習の側面を利用する。
基礎となる考え方は、学習者が本来の予測タスクを最適化することに加えて、内部批判モデルからの説明的フィードバックに基づいてさらに最適化されることである。
直感的には、学習者の説明は、内部批判者がこれらの説明から同じタスクを遂行できるならば「有用」と見なされる。
本稿では,LSX の重要な構成要素について概説し,これに基づいて3つの異なる例のインスタンス化による広範囲な実験的評価を行う。
この結果から,モデル一般化の観点からの自己説明による学習による改善,共起要因の影響の低減,タスク関連および忠実なモデル説明の提供,などが示唆された。
全体として、我々の研究はAIモデルの学習段階における自己説明の可能性を示す証拠を提供する。
Current AI research mainly treats explanations as a means for model inspection. Yet, this neglects findings from human psychology that describe the benefit of self-explanations in an agent's learning process. Motivated by this, we introduce a novel approach in the context of image classification, termed Learning by Self-Explaining (LSX). LSX utilizes aspects of self-refining AI and human-guided explanatory machine learning. The underlying idea is that a learner model, in addition to optimizing for the original predictive task, is further optimized based on explanatory feedback from an internal critic model. Intuitively, a learner's explanations are considered "useful" if the internal critic can perform the same task given these explanations. We provide an overview of important components of LSX and, based on this, perform extensive experimental evaluations via three different example instantiations. Our results indicate improvements via Learning by Self-Explaining on several levels: in terms of model generalization, reducing the influence of confounding factors, and providing more task-relevant and faithful model explanations. Overall, our work provides evidence for the potential of self-explaining within the learning phase of an AI model. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # 製品状態は、大きな$p$に対して量子$p$スピンモデルを最適化する
Product states optimize quantum $p$-spin models for large $p$ ( http://arxiv.org/abs/2309.11709v3 ) ライセンス: Link先を確認 | Eric R. Anschuetz, David Gamarnik, Bobak T. Kiani, | (参考訳) 量子$p$-局所スピングラスランダムハミルトニアンの最大エネルギーを推定する問題は、広く研究されている古典スピングラスモデルの量子アナログである。
E^*(p)$(適切な正規化)極大エネルギーを多数の量子ビットの極限の$n$で表すと、$E^*(p)$ approach $\sqrt{2\log 6}$が$p$の増加として現れる。
この値は、古典的なスピングラスの設定において広く研究されている、非常に単純なランダムエネルギーモデル(Random Energy Model)の最大エネルギーとして解釈される。
我々の最も顕著で(間違いなく)驚くべき結果は、生成状態であり、従って絡み合っていない準最大エネルギー状態の存在を証明している。
具体的には、任意の$E^*(p)$に対して、高い確率で$n\to\infty$として、十分な大きな定数$p$でエネルギー$geq E$の積状態が存在することを証明している。
さらに驚くべきことに、これはパウリ固有状態のテンソル積に制限された場合でもなお真実である。
私たちの近似は、モノガミー・オブ・アングルメントスタイルの引数から知られているものを超えています -- この正規化において、最もよいのは、$n$で近似誤差が増大することです。
我々の結果は、ランダムな局所ハミルトニアンの極低温状態が無視できない絡み合いを示すべきという物理学における一般的な信念に挑戦するだけでなく、古典的なアルゴリズムは、大きな局所性を持つハミルトニアンを最適化する量子アルゴリズムと同じくらい効果的であることを示す。
我々の結果はランダム性の選択に関して堅牢であり、リンデバーグの補間法を用いてスパースランダムハミルトニアンの場合に適用できる。
主結果の証明は、関連する分割関数の期待されたトレースを推定し、次に第二モーメント法を用いて、その漸近を積状態の極端エネルギーとマッチングすることによって得られる。
We consider the problem of estimating the maximal energy of quantum $p$-local spin glass random Hamiltonians, the quantum analogues of widely studied classical spin glass models. Denoting by $E^*(p)$ the (appropriately normalized) maximal energy in the limit of a large number of qubits $n$, we show that $E^*(p)$ approaches $\sqrt{2\log 6}$ as $p$ increases. This value is interpreted as the maximal energy of a much simpler so-called Random Energy Model, widely studied in the setting of classical spin glasses. Our most notable and (arguably) surprising result proves the existence of near-maximal energy states which are product states, and thus not entangled. Specifically, we prove that with high probability as $n\to\infty$, for any $E<E^*(p)$ there exists a product state with energy $\geq E$ at sufficiently large constant $p$. Even more surprisingly, this remains true even when restricting to tensor products of Pauli eigenstates. Our approximations go beyond what is known from monogamy-of-entanglement style arguments -- the best of which, in this normalization, achieve approximation error growing with $n$. Our results not only challenge prevailing beliefs in physics that extremely low-temperature states of random local Hamiltonians should exhibit non-negligible entanglement, but they also imply that classical algorithms can be just as effective as quantum algorithms in optimizing Hamiltonians with large locality -- though performing such optimization is still likely a hard problem. Our results are robust with respect to the choice of the randomness (disorder) and apply to the case of sparse random Hamiltonian using Lindeberg's interpolation method. The proof of the main result is obtained by estimating the expected trace of the associated partition function, and then matching its asymptotics with the extremal energy of product states using the second moment method. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # LatticeGen: クラウド上のプライバシ認識生成のためのLatticeで生成されたテキストを隠蔽する協調フレームワーク
LatticeGen: A Cooperative Framework which Hides Generated Text in a Lattice for Privacy-Aware Generation on Cloud ( http://arxiv.org/abs/2309.17157v5 ) ライセンス: Link先を確認 | Mengke Zhang, Tianxing He, Tianle Wang, Lu Mi, Fatemehsadat Mireshghallah, Binyi Chen, Hao Wang, Yulia Tsvetkov, | (参考訳) クラウド上の大規模言語モデル(LLM)で生成を誘導する現在のユーザサーバインタラクションパラダイムでは、サーバが生成プロセスを完全に制御し、生成したテキストを自分自身に保持したいユーザのための選択肢がゼロになる。
我々は,ユーザがサンプリング操作を制御する間,サーバが依然としてほとんどの計算処理を行う協調的なフレームワークであるLatticeGenを提案する。
鍵となる考え方は、真の生成シーケンスがユーザによるノイズトークンと混在し、ノイズ格子に隠されていることである。
疑似悪意のあるサーバからの攻撃の可能性と、ユーザがそれに対して防御できる方法を考慮し、繰り返しビーム探索攻撃と混合ノイズスキームを提案する。
実験では、LatticeGenを使ってプロンプトとジェネレーションの両方を保護します。
ノイズ格子は生成品質を劣化させるが、LatticeGenは強力な攻撃の下で真の世代を顕著に保護する(BERTScoreが測定したように、セマンティックの50%以上が隠されている)。
In the current user-server interaction paradigm of prompted generation with large language models (LLM) on cloud, the server fully controls the generation process, which leaves zero options for users who want to keep the generated text to themselves. We propose LatticeGen, a cooperative framework in which the server still handles most of the computation while the user controls the sampling operation. The key idea is that the true generated sequence is mixed with noise tokens by the user and hidden in a noised lattice. Considering potential attacks from a hypothetically malicious server and how the user can defend against it, we propose the repeated beam-search attack and the mixing noise scheme. In our experiments we apply LatticeGen to protect both prompt and generation. It is shown that while the noised lattice degrades generation quality, LatticeGen successfully protects the true generation to a remarkable degree under strong attacks (more than 50% of the semantic remains hidden as measured by BERTScore). | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # ソフトウェアエンジニアはGitHubをどのように使うのか? 人工物とインパクトの実証的研究
How do Software Engineering Researchers Use GitHub? An Empirical Study of Artifacts & Impact ( http://arxiv.org/abs/2310.01566v2 ) ライセンス: Link先を確認 | Kamel Alrashedy, Ahmed Binjahlan, | (参考訳) GitHubは、分散コラボレーションや人気ベースのランキングなどのソーシャルコーディングの機会を提供する。
ソフトウェアエンジニアリングの研究者も参加し、研究成果物(ツール、複製パッケージ、データセット)をリポジトリにホストしている。
しかし、GitHub-linkを使った最初の論文から10年経っても、実際にそのようなリポジトリの運命についてはほとんど分かっていない。
リサーチレポジトリは、開発者コミュニティや他の研究者の関心を集めていますか?
もしそうなら、何回、なぜ(そうでない)?
GitHubの取り組みは、研究の影響で報われるのか?
要するに、著者が研究にかかわるソーシャルコーディングにどう関わっているのか、そしてどのように関わっているのかを問う。
まず、トップSE研究会場で1万件の論文から始まり、3449のGitHub(およびZenodo)リンクを手作業で注釈付けし、309の論文関連リポジトリを詳細に研究しました。
人気と影響力は広く分布しており、一部は出版会場と強く相関している。
これらはしばしば、タイムリーなレスポンシビリティとアップキープという観点で著者の投資によって大きく知らされた。
人気のあるリポジトリは、よく引用された論文と密接に連携し、幅広い影響を与えることが多い。
この結果から, 持続的な貢献を必要とする研究製品に関する研究インセンティブや報酬構造の再考の必要性が示唆された。
Millions of developers share their code on open-source platforms like GitHub, which offer social coding opportunities such as distributed collaboration and popularity-based ranking. Software engineering researchers have joined in as well, hosting their research artifacts (tools, replication package & datasets) in repositories, an action often marked as part of the publications contribution. Yet a decade after the first such paper-with-GitHub-link, little is known about the fate of such repositories in practice. Do research repositories ever gain the interest of the developer community, or other researchers? If so, how often and why (not)? Does effort invested on GitHub pay off with research impact? In short: we ask whether and how authors engage in social coding related to their research. We conduct a broad empirical investigation of repositories from published work, starting with ten thousand papers in top SE research venues, hand-annotating their 3449 GitHub (and Zenodo) links, and studying 309 paper-related repositories in detail. We find a wide distribution in popularity and impact, some strongly correlated with publication venue. These were often heavily informed by the authors investment in terms of timely responsiveness and upkeep, which was often remarkably subpar by GitHubs standards, if not absent altogether. Yet we also offer hope: popular repositories often go hand-in-hand with well-citepd papers and achieve broad impact. Our findings suggest the need to rethink the research incentives and reward structure around research products requiring such sustained contributions. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # パロットマインド:テンプレート・コンテント構造を持つ事前学習された大規模言語モデルの複雑なタスク推論の説明に向けて
Parrot Mind: Towards Explaining the Complex Task Reasoning of Pretrained Large Language Models with Template-Content Structure ( http://arxiv.org/abs/2310.05452v2 ) ライセンス: Link先を確認 | Haotong Yang, Fanxu Meng, Zhouchen Lin, Muhan Zhang, | (参考訳) 事前訓練された大規模言語モデル(LLM)は、複数のサブステップを含む複雑なプロセスを必要とするタスクであっても、推論タスクを解決する特別な能力を示している。
しかしながら、全てのタスクの膨大な生成空間を考えると、事前訓練されたモデルがどのように推論能力を学ぶかは未解決の問題である。
まず、この構造が指数的レベルから線形レベルまで可能な空間を減少させることで、限定的な学習データでLLMが多くの複雑な推論問題を解くことができる理由を説明する鍵となる。
さらに、この構造を階層的ケースに一般化することにより、モデルがタスク構成を達成でき、さらに線形から対数的な学習に必要な空間を減らし、複数のステップを含む複雑な推論を効果的に学習できることを実証する。
我々は、我々のT-C構造の例と形式理論の両方を提供する。
また, いくつかのLLMにおけるT-C構造の存在と, その推論の有効性を実験的に検証した。
The pre-trained large language models (LLMs) have shown their extraordinary capacity to solve reasoning tasks, even on tasks that require a complex process involving multiple sub-steps. However, given the vast possible generation space of all the tasks, how the pretrained model learns the reasoning ability remains an open question. We firstly propose that an intrinsic structural constraint on the generated sequence of language-based reasoning -- we called it template-content structure (T-C structure) -- is the key to explain why LLMs can solve a large number of complex reasoning problems with limited training data by showing this structure can reduce the possible space from exponential level to linear level. Furthermore, by generalizing this structure to the hierarchical case, we demonstrate that models can achieve task composition, further reducing the space needed to learn from linear to logarithmic, thereby effectively learning on complex reasoning involving multiple steps. We provide both examples and formal theory of our T-C structure. We also experimentally validate the existence of the T-C structure in some current LLMs and its effectiveness for reasoning. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # MO-YOLO: YOLOとデコーダを用いたエンドツーエンド多目的追跡手法
MO-YOLO: End-to-End Multiple-Object Tracking Method with YOLO and Decoder ( http://arxiv.org/abs/2310.17170v3 ) ライセンス: Link先を確認 | Liao Pan, Yang Feng, Wu Di, Liu Bo, Zhang Xingle, | (参考訳) マルチオブジェクトトラッキング(MOT)の分野では、最近のTransformerベースのMOTRのようなエンドツーエンドモデルは、DanceTrackerのようなデータセットでは例外的なパフォーマンスを示している。
しかし、これらのモデルの計算要求は、訓練と展開において困難を呈している。
GPTのような成功したモデルからインスピレーションを得たMO-YOLOは、効率的で計算力に富んだエンドツーエンドMOTモデルである。
MO-YOLOはYou Only Look Once (YOLO)とRT-DETRの原則を統合し、デコーダのみのアプローチを採用する。
RT-DETRのデコーダとYOLOv8のアーキテクチャコンポーネントを活用することで、MO-YOLOは高速で、トレーニング時間も短く、MOT性能も優れている。
ダンストラックでは、MO-YOLOはMOTRのパフォーマンスに匹敵するだけでなく、毎秒2倍のフレーム(MOTR 9.5 FPS、MO-YOLO 19.6 FPS)を達成している。
さらに、MO-YOLOはMOTRと比較してトレーニング時間を大幅に短縮し、ハードウェアの要求を小さくする。
本研究は,性能向上と資源効率の向上を重視した,効率的なエンドツーエンドMOTのための有望なパラダイムを提案する。
In the field of multi-object tracking (MOT), recent Transformer based end-to-end models like MOTR have demonstrated exceptional performance on datasets such as DanceTracker. However, the computational demands of these models present challenges in training and deployment. Drawing inspiration from successful models like GPT, we present MO-YOLO, an efficient and computationally frugal end-to-end MOT model. MO-YOLO integrates principles from You Only Look Once (YOLO) and RT-DETR, adopting a decoder-only approach. By leveraging the decoder from RT-DETR and architectural components from YOLOv8, MO-YOLO achieves high speed, shorter training times, and proficient MOT performance. On the Dancetrack, MO-YOLO not only matches MOTR's performance but also surpasses it, achieving over twice the frames per second (MOTR 9.5 FPS, MO-YOLO 19.6 FPS). Furthermore, MO-YOLO demonstrates significantly reduced training times and lower hardware requirements compared to MOTR. This research introduces a promising paradigm for efficient end-to-end MOT, emphasizing enhanced performance and resource efficiency. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # A/Bテストにおけるデータトレーニングループによる干渉の軽減:重み付きトレーニングアプローチ
Tackling Interference Induced by Data Training Loops in A/B Tests: A Weighted Training Approach ( http://arxiv.org/abs/2310.17496v5 ) ライセンス: Link先を確認 | Nian Si, | (参考訳) 現代のレコメンデーションシステムでは、標準的なパイプラインは、履歴データの機械学習モデルをトレーニングし、ユーザの振る舞いを予測し、リコメンデーションを継続的に改善する。
しかし、これらのデータトレーニングループは、制御と処理アルゴリズムによって生成されたデータが、潜在的に異なる分布で結合されたA/Bテストで干渉を起こすことができる。
これらの課題に対処するために、重み付けトレーニングと呼ばれる新しいアプローチを導入する。
このアプローチでは、処理データまたは制御データのいずれかに現れる各データポイントの確率を予測し、モデルトレーニング中に重み付けされた損失を適用するために、モデルをトレーニングする。
本手法は, トレーニング分布の変化を起こさない全ての推定器において, 最小分散を達成できることを実証する。
シミュレーション研究を通じて、他の手法と比較して、アプローチのバイアスと分散の低さを実証する。
In modern recommendation systems, the standard pipeline involves training machine learning models on historical data to predict user behaviors and improve recommendations continuously. However, these data training loops can introduce interference in A/B tests, where data generated by control and treatment algorithms, potentially with different distributions, are combined. To address these challenges, we introduce a novel approach called weighted training. This approach entails training a model to predict the probability of each data point appearing in either the treatment or control data and subsequently applying weighted losses during model training. We demonstrate that this approach achieves the least variance among all estimators that do not cause shifts in the training distributions. Through simulation studies, we demonstrate the lower bias and variance of our approach compared to other methods. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # 効率的な拡散モデルのための欠落U
The Missing U for Efficient Diffusion Models ( http://arxiv.org/abs/2310.20092v4 ) ライセンス: Link先を確認 | Sergio Calvo-Ordonez, Chun-Wun Cheng, Jiahao Huang, Lipei Zhang, Guang Yang, Carola-Bibiane Schonlieb, Angelica I Aviles-Rivero, | (参考訳) 拡散確率モデル(Diffusion Probabilistic Models)は、生成モデリングにおいて重要なツールであり、複雑なデータ分布の生成を可能にする。
この生成モデルのファミリは、画像合成、ビデオ生成、分子設計といったタスクにおいて記録破りのパフォーマンスをもたらす。
それらの能力にもかかわらず、その効率、特に逆過程では、収束速度が遅いことと計算コストが高いため、依然として課題である。
本稿では,よりパラメータ効率が高く,より高速な収束を示す拡散モデルのための新しいデノナイジングネットワークを設計するために,連続力学システムを活用するアプローチを提案する。
DDPM(Denoising Diffusion Probabilistic Models)を用いた実験では,約4分の1のパラメータと,DDPMの標準U-Netと比較してFLOP(Floating Point Operations)の$\sim$30\%で動作する。
さらに, このモデルでは, 等条件で測定した場合, ベースラインよりも推定が早い。
また,提案した逆過程が高速である理由に関する数学的直観や,下流タスクにおける経験的トレードオフに関する数学的議論も提供する。
最後に,本手法は既存の性能向上技術と互換性があり,効率,品質,速度のさらなる向上を可能にすると論じる。
Diffusion Probabilistic Models stand as a critical tool in generative modelling, enabling the generation of complex data distributions. This family of generative models yields record-breaking performance in tasks such as image synthesis, video generation, and molecule design. Despite their capabilities, their efficiency, especially in the reverse process, remains a challenge due to slow convergence rates and high computational costs. In this paper, we introduce an approach that leverages continuous dynamical systems to design a novel denoising network for diffusion models that is more parameter-efficient, exhibits faster convergence, and demonstrates increased noise robustness. Experimenting with Denoising Diffusion Probabilistic Models (DDPMs), our framework operates with approximately a quarter of the parameters, and $\sim$ 30\% of the Floating Point Operations (FLOPs) compared to standard U-Nets in DDPMs. Furthermore, our model is notably faster in inference than the baseline when measured in fair and equal conditions. We also provide a mathematical intuition as to why our proposed reverse process is faster as well as a mathematical discussion of the empirical tradeoffs in the denoising downstream task. Finally, we argue that our method is compatible with existing performance enhancement techniques, enabling further improvements in efficiency, quality, and speed. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # CapsFusion: スケールでのイメージテキストデータの再考
CapsFusion: Rethinking Image-Text Data at Scale ( http://arxiv.org/abs/2310.20550v3 ) ライセンス: Link先を確認 | Qiying Yu, Quan Sun, Xiaosong Zhang, Yufeng Cui, Fan Zhang, Yue Cao, Xinlong Wang, Jingjing Liu, | (参考訳) 大規模なマルチモーダルモデルは、ゼロショット方式で多様なマルチモーダルタスクを実行する驚くべき一般化能力を示す。
大規模なWebベースの画像テキストペアは、この成功に基本的に寄与するが、過度なノイズに悩まされる。
近年の研究では、キャプションモデルによって合成された代替キャプションを使用し、顕著なベンチマーク性能を実現している。
しかし,本実験では,最初のベンチマーク成功によってほとんど明らかになっていない合成キャプションを用いたモデルにおいて,スケーラビリティ障害と世界知識喪失の問題が顕著に示された。
より詳しく調べると、根本原因を過剰に単純化された言語構造と既存の合成キャプションにおける知識の欠如として同定する。
高品質でスケーラブルなマルチモーダル事前学習データを提供するために,Web ベースの画像テキストペアと合成キャプションの両方から情報を統合・洗練するために,大規模言語モデルを活用する高度なフレームワーク CapsFusion を提案する。
大規模な実験により、CapsFusionキャプションは、モデル性能(例えば、COCOとNoCapsにおけるCIDErスコアの改善18.8と18.3)、サンプル効率(ベースラインよりも11～16倍少ない計算)、世界知識深度、拡張性において、既存のキャプションよりも大幅に優れていることが示された。
これらの効率性、効率性、スケーラビリティの利点は、CapsFusionを将来のLMMトレーニングのスケーリング候補として位置づけている。
Large multimodal models demonstrate remarkable generalist ability to perform diverse multimodal tasks in a zero-shot manner. Large-scale web-based image-text pairs contribute fundamentally to this success, but suffer from excessive noise. Recent studies use alternative captions synthesized by captioning models and have achieved notable benchmark performance. However, our experiments reveal significant Scalability Deficiency and World Knowledge Loss issues in models trained with synthetic captions, which have been largely obscured by their initial benchmark success. Upon closer examination, we identify the root cause as the overly-simplified language structure and lack of knowledge details in existing synthetic captions. To provide higher-quality and more scalable multimodal pretraining data, we propose CapsFusion, an advanced framework that leverages large language models to consolidate and refine information from both web-based image-text pairs and synthetic captions. Extensive experiments show that CapsFusion captions exhibit remarkable all-round superiority over existing captions in terms of model performance (e.g., 18.8 and 18.3 improvements in CIDEr score on COCO and NoCaps), sample efficiency (requiring 11-16 times less computation than baselines), world knowledge depth, and scalability. These effectiveness, efficiency and scalability advantages position CapsFusion as a promising candidate for future scaling of LMM training. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # コントラスト言語におけるホロスティックな3次元表現の抽出-画像3次元事前学習
Sculpting Holistic 3D Representation in Contrastive Language-Image-3D Pre-training ( http://arxiv.org/abs/2311.01734v2 ) ライセンス: Link先を確認 | Yipeng Gao, Zeyu Wang, Wei-Shi Zheng, Cihang Xie, Yuyin Zhou, | (参考訳) コントラスト学習は3次元オープンワールド理解のための有望なパラダイムとして登場し、ポイントクラウド表現を画像とテキストの埋め込み空間に個別に整合させる。
本論文では,コントラスト型言語画像3D事前学習における全体像表現の表現を目的とした,シンプルで効果的なMixCon3Dを提案する。
点クラウドのみとは対照的に、相補的な視点、例えば、点クラウドを用いた多視点レンダリング画像から、3次元オブジェクトレベルの表現を開発する。
次に、MixCon3Dは言語3Dのコントラスト学習を行い、現実世界の3Dオブジェクトを包括的に表現し、テキストアライメントを強化する。
さらに,3次元コントラスト学習パラダイムのための各種学習レシピを徹底的に研究し,性能の向上を図った。
3つの代表的なベンチマークで行った大規模な実験により,提案手法はベースラインよりも大幅に改善され,挑戦的な1,156カテゴリのObjaverse-LVISデータセットを5.7%上回った。
MixCon3Dの汎用性は、テキストから3Dの検索やポイントクラウドキャプションといったアプリケーションで示されており、さまざまなシナリオにおいてその有効性を証明している。
コードはhttps://github.com/UCSC-VLAA/MixCon3Dで公開されている。
Contrastive learning has emerged as a promising paradigm for 3D open-world understanding, i.e., aligning point cloud representation to image and text embedding space individually. In this paper, we introduce MixCon3D, a simple yet effective method aiming to sculpt holistic 3D representation in contrastive language-image-3D pre-training. In contrast to point cloud only, we develop the 3D object-level representation from complementary perspectives, e.g., multi-view rendered images with the point cloud. Then, MixCon3D performs language-3D contrastive learning, comprehensively depicting real-world 3D objects and bolstering text alignment. Additionally, we pioneer the first thorough investigation of various training recipes for the 3D contrastive learning paradigm, building a solid baseline with improved performance. Extensive experiments conducted on three representative benchmarks reveal that our method significantly improves over the baseline, surpassing the previous state-of-the-art performance on the challenging 1,156-category Objaverse-LVIS dataset by 5.7%. The versatility of MixCon3D is showcased in applications such as text-to-3D retrieval and point cloud captioning, further evidencing its efficacy in diverse scenarios. The code is available at https://github.com/UCSC-VLAA/MixCon3D. | 翻訳日:2024-04-08 20:40:00 公開日:2024-04-05 |
| # Chat-UniVi: 画像とビデオの理解を備えた大規模言語モデルを実現する統一視覚表現
Chat-UniVi: Unified Visual Representation Empowers Large Language Models with Image and Video Understanding ( http://arxiv.org/abs/2311.08046v3 ) ライセンス: Link先を確認 | Peng Jin, Ryuichi Takanobu, Wancai Zhang, Xiaochun Cao, Li Yuan, | (参考訳) 大規模言語モデルは、幅広いオープンエンドタスクにおいて印象的な普遍性を示し、マルチモーダルな会話を包含するようにそのユーティリティを拡張した。
しかし,既存の手法では画像理解と映像理解の両方を効果的に扱うことが困難であり,特に視覚的トークンが限られている。
本研究では,統合された視覚表現を通じて,画像やビデオを含む会話を解釈し,関与することができる統一視覚言語モデルChat-UniViを紹介する。
具体的には、画像やビデオを一様に表現するために、動的視覚トークンのセットを用いる。
この表現フレームワークは、限られた数の視覚トークンを効率的に利用し、画像に必要な空間的詳細とビデオに必要な包括的な時間的関係を同時にキャプチャする。
さらに,マルチスケール表現を活用し,高レベルのセマンティック概念と低レベルの視覚的詳細の両方を知覚することができる。
特にChat-UniViは、画像とビデオの両方を含む混合データセットでトレーニングされている。
大規模な実験結果から、Chat-UniViは画像やビデオ専用に設計された既存の手法よりも一貫して優れています。
コードはhttps://github.com/PKU-YuanGroup/Chat-UniViで入手できる。
Large language models have demonstrated impressive universal capabilities across a wide range of open-ended tasks and have extended their utility to encompass multimodal conversations. However, existing methods encounter challenges in effectively handling both image and video understanding, particularly with limited visual tokens. In this work, we introduce Chat-UniVi, a Unified Vision-language model capable of comprehending and engaging in conversations involving images and videos through a unified visual representation. Specifically, we employ a set of dynamic visual tokens to uniformly represent images and videos. This representation framework empowers the model to efficiently utilize a limited number of visual tokens to simultaneously capture the spatial details necessary for images and the comprehensive temporal relationship required for videos. Moreover, we leverage a multi-scale representation, enabling the model to perceive both high-level semantic concepts and low-level visual details. Notably, Chat-UniVi is trained on a mixed dataset containing both images and videos, allowing direct application to tasks involving both mediums without requiring any modifications. Extensive experimental results demonstrate that Chat-UniVi consistently outperforms even existing methods exclusively designed for either images or videos. Code is available at https://github.com/PKU-YuanGroup/Chat-UniVi. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # 野生のAI生成顔を見つける
Finding AI-Generated Faces in the Wild ( http://arxiv.org/abs/2311.08577v3 ) ライセンス: Link先を確認 | Gonzalo J. Aniano Porcile, Jack Gindi, Shivansh Mundra, James R. Verbus, Hany Farid, | (参考訳) AIベースの画像生成は急速に改善され続けており、視覚的欠陥が少なく、ますます現実的なイメージを生み出している。
AI生成画像は偽のオンラインプロフィールを作成するために使われており、スパム、詐欺、偽情報キャンペーンに使われている。
操作された、あるいは合成されたコンテンツを検知する一般的な問題は、注目されているので、ここでは、実際の顔とAI生成された顔とを区別するより狭いタスクに焦点を当てる。
これは、不正なオンラインアカウントを偽のユーザープロフィール写真で扱う場合に特に当てはまる。
顔のみに焦点を合わせることで、よりレジリエントで汎用的なアーティファクトを検出し、様々なGANおよび拡散ベース合成エンジンからAI生成顔を検出し、画像解像度(128×128ピクセル以下)と品質を横断できることを示す。
AI-based image generation has continued to rapidly improve, producing increasingly more realistic images with fewer obvious visual flaws. AI-generated images are being used to create fake online profiles which in turn are being used for spam, fraud, and disinformation campaigns. As the general problem of detecting any type of manipulated or synthesized content is receiving increasing attention, here we focus on a more narrow task of distinguishing a real face from an AI-generated face. This is particularly applicable when tackling inauthentic online accounts with a fake user profile photo. We show that by focusing on only faces, a more resilient and general-purpose artifact can be detected that allows for the detection of AI-generated faces from a variety of GAN- and diffusion-based synthesis engines, and across image resolutions (as low as 128 x 128 pixels) and qualities. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # 半効率的な半高速抽出要約のためのプロンプトに基づく擬似ラベル方式
Prompt-based Pseudo-labeling Strategy for Sample-Efficient Semi-Supervised Extractive Summarization ( http://arxiv.org/abs/2311.09559v2 ) ライセンス: Link先を確認 | Gaurav Sahu, Olga Vechtomova, Issam H. Laradji, | (参考訳) 半教師付き学習(SSL)は、ラベル付きデータが不足し、ラベルなしデータが豊富であるシナリオで広く使われているテクニックである。
SSLは画像とテキストの分類に人気があるが、抽出テキスト要約のタスクでは比較的過小評価されている。
標準SSL法は、まず分類モデルを訓練し、次に分類器の信頼値を使用してその後の訓練サイクルで擬似ラベルを選択するが、評価のための特定のチューニングが欠如しているため、擬似ラベルの精度を測定するには適していない。
この問題に対処するために,LLMを用いたプロンプトベースの擬似ラベル方式を提案する。
提案手法には,擬似ラベルの品質向上のためのレザベリング機構も含まれている。
本手法は、TweetSumm、WikiHow、ArXiv/PubMedの3つのテキスト要約データセット上で評価する。
擬似ラベルを生成するプロンプトベースのLLMは,すべてのデータセットにおいて,ROUGE-1,ROUGE-2,ROUGE-Lの既存のSSLメソッドよりも優れていることを示す。
さらに、ラベル付きデータの100%をラベル付きデータの16.67%しか使用しない完全教師付き手法として、競合G-Evalスコア(GPT-4による評価)を実現する。
Semi-supervised learning (SSL) is a widely used technique in scenarios where labeled data is scarce and unlabeled data is abundant. While SSL is popular for image and text classification, it is relatively underexplored for the task of extractive text summarization. Standard SSL methods follow a teacher-student paradigm to first train a classification model and then use the classifier's confidence values to select pseudo-labels for the subsequent training cycle; however, such classifiers are not suitable to measure the accuracy of pseudo-labels as they lack specific tuning for evaluation, which leads to confidence values that fail to capture the semantics and correctness of the generated summary. To address this problem, we propose a prompt-based pseudo-labeling strategy with LLMs that picks unlabeled examples with more accurate pseudo-labels than using just the classifier's probability outputs. Our approach also includes a relabeling mechanism that improves the quality of pseudo-labels. We evaluate our method on three text summarization datasets: TweetSumm, WikiHow, and ArXiv/PubMed. We empirically show that a prompting-based LLM that scores and generates pseudo-labels outperforms existing SSL methods on ROUGE-1, ROUGE-2, and ROUGE-L scores on all the datasets. Furthermore, our method achieves competitive G-Eval scores (evaluation with GPT-4) as a fully supervised method that uses 100% of the labeled data with only 16.67% of the labeled data. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # TaCo:LLMにおける低リソース言語への翻訳支援連鎖プロセスによる言語間変換の強化
TaCo: Enhancing Cross-Lingual Transfer for Low-Resource Languages in LLMs through Translation-Assisted Chain-of-Thought Processes ( http://arxiv.org/abs/2311.10797v2 ) ライセンス: Link先を確認 | Bibek Upadhayay, Vahid Behzadan, | (参考訳) 多言語LLMの作成は大きな課題となる。
新しい言語を採用するためのLLMの事前訓練や微調整は明らかに非常にコストがかかる。
さらに、ベンチマークデータセットやマルチランガル設定でモデルパフォーマンスを測定するために使用されるメトリクスに関する制限がある。
本稿では,上記の2つの課題に対する費用対効果の解決法を提案する。
まず,Alpaca-52K,Dolly-15K,Vicuna Benchmarkを132言語に翻訳する多言語インストラクション・チューニングデータセット(MITS)を紹介する。
第2に,学習過程を通じて新しい言語でLLMを命令・チューニングするチェーン・オブ・シント・プロセスの翻訳を利用する「emph{TaCo: Translation-Assisted Cross-Linguality}」という新しい手法を提案する。
提案手法を低リソース言語3言語と高リソース言語1言語で提案したTaCo法を用いて,命令調整型Guanaco-33Bモデルを用いて実験を行った。
提案手法は,Vicuna Benchmark データセットの低リソース言語に対して 8 % のスコアで GPT-4 を圧縮し,命令チューニングのみと比較して性能を2倍にすることを示す。
さらにTaCoは、低リソース言語でも多言語LLMを作成することを約束している。
我々は、データセットとモデルアダプタを公開しました。これは、研究コミュニティがこれらのリソースを利用して、多言語LLMの開発を進めることを奨励します。
Creating multilingual LLMs poses a significant challenge. Pretraining or fine-tuning LLMs to adopt new languages is evidently very costly. Furthermore, there exist limitations concerning benchmark datasets and the metrics used to measure model performance in multilingual settings. This paper proposes cost-effective solutions to both aforementioned challenges. Firstly, we introduce the Multilingual Instruction-Tuning Dataset (MITS), comprised of Alpaca-52K, Dolly-15K, and Vicuna Benchmark translations into 132 languages. Secondly, we propose a new method called \emph{TaCo: Translation-Assisted Cross-Linguality}, which utilizes translations in a chain-of-thought process to instruction-tune LLMs on new languages through a curriculum-learning process. As a proof of concept, we experimented with the instruction-tuned Guanaco-33B model, performing further instruction tuning using our proposed TaCo method in three low-resource languages and one high-resource language. Our results indicate that the TaCo method impresses GPT-4 with an 82\% score for a low-resource language in the Vicuna Benchmark dataset, doubling the performance in contrast to instruction tuning alone. Furthermore, TaCo shows promise in creating multilingual LLMs, even for low-resource languages. We have released our datasets and model adapters\footnote{https://github.com/UNHSAILLab/TaCo} , encouraging the research community to utilize these resources to advance work on multilingual LLMs. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # 多分解能データに対する個人化動的モデルとモバイルヘルスへの応用
Individualized Dynamic Model for Multi-resolutional Data with Application to Mobile Health ( http://arxiv.org/abs/2311.12392v3 ) ライセンス: Link先を確認 | Jiuchen Zhang, Fei Xue, Qi Xu, Jung-Ah Lee, Annie Qu, | (参考訳) モバイル健康は、スマートフォンやウェアラブルデバイスの人気とパワーのために、個人の健康状態を追跡する上で大きな成功を収めている。
これはまた、個人から収集された不規則な多変量測定により、モバイルの健康に至るところで発生する不均一で多分解能データを扱う際にも大きな課題をもたらした。
本稿では,不規則なマルチレゾリューション時系列データに対する個人化動的潜在因子モデルを提案する。
提案手法の1つの大きな利点は、多重解像度データを潜在空間にマッピングすることで、複数の不規則時系列と複数の主題を統合する能力である。
さらに,提案した動的潜伏因子モデルを用いて不均一な長手情報を取得する。
我々の理論は、B-スプライン近似法における積分補間誤差と収束率に制限を与える。
シミュレーションとスマートウォッチデータへの適用は,既存手法と比較して,提案手法の優れた性能を示すものである。
Mobile health has emerged as a major success for tracking individual health status, due to the popularity and power of smartphones and wearable devices. This has also brought great challenges in handling heterogeneous, multi-resolution data which arise ubiquitously in mobile health due to irregular multivariate measurements collected from individuals. In this paper, we propose an individualized dynamic latent factor model for irregular multi-resolution time series data to interpolate unsampled measurements of time series with low resolution. One major advantage of the proposed method is the capability to integrate multiple irregular time series and multiple subjects by mapping the multi-resolution data to the latent space. In addition, the proposed individualized dynamic latent factor model is applicable to capturing heterogeneous longitudinal information through individualized dynamic latent factors. Our theory provides a bound on the integrated interpolation error and the convergence rate for B-spline approximation methods. Both the simulation studies and the application to smartwatch data demonstrate the superior performance of the proposed method compared to existing methods. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # 材料のマルチモーダル学習
Multimodal Learning for Materials ( http://arxiv.org/abs/2312.00111v2 ) ライセンス: Link先を確認 | Viggo Moro, Charlotte Loh, Rumen Dangovski, Ali Ghorashi, Andrew Ma, Zhuo Chen, Peter Y. Lu, Thomas Christensen, Marin Soljačić, | (参考訳) 人工知能は、計算材料科学を変革し、材料特性の予測を改善し、新しい物質の発見を加速している。
近年,資料データリポジトリが急速に普及している。
この成長は、より多くの材料だけでなく、関連する特性の多様性と量も含む。
既存の材料科学における機械学習の取り組みは、主に単一モダリティのタスク、すなわち材料と単一の物理的性質の関係に焦点を当てており、リッチでマルチモーダルな素材特性の集合を生かしていない。
本稿では,材料の基礎モデルの自己教師型マルチモーダルトレーニングを可能にする,材料のためのマルチモーダル学習(MultiMat)について紹介する。
複数の軸上のMaterial Projectデータベースからのデータを用いて、我々のフレームワークの可能性を示す。
(i)MultiMatは、材料特性予測タスクの最先端のパフォーマンスを達成する。
(二)MultiMatは、遅延空間類似性による新規かつ正確な材料発見を可能にし、所望の特性を有する安定した材料をスクリーニングすることができる。
3)MultiMatは、新しい科学的洞察を提供する可能性のある解釈可能な創発的特徴を符号化する。
Artificial intelligence is transforming computational materials science, improving the prediction of material properties, and accelerating the discovery of novel materials. Recently, publicly available material data repositories have grown rapidly. This growth encompasses not only more materials, but also a greater variety and quantity of their associated properties. Existing machine learning efforts in materials science focus primarily on single-modality tasks, i.e., relationships between materials and a single physical property, thus not taking advantage of the rich and multimodal set of material properties. Here, we introduce Multimodal Learning for Materials (MultiMat), which enables self-supervised multi-modality training of foundation models for materials. We demonstrate our framework's potential using data from the Materials Project database on multiple axes: (i) MultiMat achieves state-of-the-art performance for challenging material property prediction tasks; (ii) MultiMat enables novel and accurate material discovery via latent space similarity, enabling screening for stable materials with desired properties; and (iii) MultiMat encodes interpretable emergent features that may provide novel scientific insights. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # どちらを使うべきか : 自己監督型心電図表現学習における拡張の実証的研究
Which Augmentation Should I Use? An Empirical Investigation of Augmentations for Self-Supervised Phonocardiogram Representation Learning ( http://arxiv.org/abs/2312.00502v3 ) ライセンス: Link先を確認 | Aristotelis Ballas, Vasileios Papapanagiotou, Christos Diou, | (参考訳) 近年の研究活動が増加しているにもかかわらず、深層学習モデルは医学などいくつかの現実世界では広く受け入れられていない。
高品質な注釈付きデータの不足は、しばしば堅牢で一般化可能なモデルの開発を妨げる。
Contrastive Self-Supervised Learning (SSL)は、ラベル付きデータの不足に対する潜在的な解決策を提供する。
しかし、学習過程における適切な変換の選択は自明な作業ではなく、ネットワークが意味のある情報を抽出する能力を破壊している。
本研究では,1次元心電図(PCG)分類におけるコントラスト学習の最適化を提案する。
我々は、幅広いオーディオベース拡張の広範な比較評価を行い、下流タスクにわたる複数のデータセットのモデルを評価し、各拡張の影響について報告する。
トレーニング分布によっては、完全教師付きモデルの有効性が最大32%低下し、SSLモデルは最大10%低下し、場合によっては改善される。
我々は、対照的なSSL事前トレーニングが、医療専門家による時間的および労働集約的なアノテーションプロセスに頼ることなく、見つからないOODデータに一般化可能な堅牢な分類器を提供することを支援することを議論し、実験的に実証した。
さらに,提案した評価プロトコルは,モデルトレーニングにおけるその効果の大きさを計算することにより,ロバストPCG信号処理における最も有望かつ適切な拡張に光を当てる。
最後に、新しいアプローチを開発するためのオープンソースのコードベースに加えて、PCG分類のための堅牢なモデルを作成するためのロードマップを研究者や実践者に提供します。
Despite the recent increase in research activity, deep-learning models have not yet been widely accepted in several real-world settings, such as medicine. The shortage of high-quality annotated data often hinders the development of robust and generalizable models, which do not suffer from degraded effectiveness when presented with out-of-distribution (OOD) datasets. Contrastive Self-Supervised Learning (SSL) offers a potential solution to labeled data scarcity, as it takes advantage of unlabeled data to increase model effectiveness and robustness. However, the selection of appropriate transformations during the learning process is not a trivial task and even breaks down the ability of the network to extract meaningful information. In this research, we propose uncovering the optimal augmentations for applying contrastive learning in 1D phonocardiogram (PCG) classification. We perform an extensive comparative evaluation of a wide range of audio-based augmentations, evaluate models on multiple datasets across downstream tasks, and report on the impact of each augmentation. We demonstrate that depending on its training distribution, the effectiveness of a fully-supervised model can degrade up to 32%, while SSL models only lose up to 10% or even improve in some cases. We argue and experimentally demonstrate that, contrastive SSL pretraining can assist in providing robust classifiers which can generalize to unseen, OOD data, without relying on time- and labor-intensive annotation processes by medical experts. Furthermore, the proposed evaluation protocol sheds light on the most promising and appropriate augmentations for robust PCG signal processing, by calculating their effect size on model training. Finally, we provide researchers and practitioners with a roadmap towards producing robust models for PCG classification, in addition to an open-source codebase for developing novel approaches. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # SPOT:自己回帰変換器を用いた物体中心学習のためのパッチ順変換による自己学習
SPOT: Self-Training with Patch-Order Permutation for Object-Centric Learning with Autoregressive Transformers ( http://arxiv.org/abs/2312.00648v3 ) ライセンス: Link先を確認 | Ioannis Kakogeorgiou, Spyros Gidaris, Konstantinos Karantzalos, Nikos Komodakis, | (参考訳) 教師なしのオブジェクト中心学習は、シーンを解釈可能なオブジェクトエンティティ(スロット)に分解することを目的としている。
Slotベースのオートエンコーダは、このタスクの顕著な方法である。
それらの重要な側面には、エンコーダにオブジェクト固有のスロットを生成するよう誘導すること、デコーダが再構築時にそれらを利用するようにすることが含まれる。
この作品には2つの新しいテクニックが紹介されている。
一 デコーダからエンコーダに優れたスロットベースのアテンションマスクを蒸留し、オブジェクトセグメンテーションを強化するアテンションベースのセルフトレーニングアプローチ
(II) 自己回帰変換器の革新的なパッチ順置換戦略により, 再構成におけるスロットベクトルの役割が強化される。
これらの戦略の有効性を実験的に示す。
この組み合わせアプローチは、特に複雑な実世界の画像において、教師なしオブジェクトセグメンテーションにおいて、以前のスロットベースのオートエンコーダ手法を大幅に上回っている。
実装コードはhttps://github.com/gkakogeorgiou/spot で公開しています。
Unsupervised object-centric learning aims to decompose scenes into interpretable object entities, termed slots. Slot-based auto-encoders stand out as a prominent method for this task. Within them, crucial aspects include guiding the encoder to generate object-specific slots and ensuring the decoder utilizes them during reconstruction. This work introduces two novel techniques, (i) an attention-based self-training approach, which distills superior slot-based attention masks from the decoder to the encoder, enhancing object segmentation, and (ii) an innovative patch-order permutation strategy for autoregressive transformers that strengthens the role of slot vectors in reconstruction. The effectiveness of these strategies is showcased experimentally. The combined approach significantly surpasses prior slot-based autoencoder methods in unsupervised object segmentation, especially with complex real-world images. We provide the implementation code at https://github.com/gkakogeorgiou/spot . | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # 開語彙オブジェクト6Dポーズ推定
Open-vocabulary object 6D pose estimation ( http://arxiv.org/abs/2312.00690v3 ) ライセンス: Link先を確認 | Jaime Corsetti, Davide Boscaini, Changjae Oh, Andrea Cavallaro, Fabio Poiesi, | (参考訳) 対象物を特定するためにテキストプロンプトを使用するオープン語彙オブジェクト6Dのポーズ推定を新たに導入する。
既存のアプローチとは対照的に、私たちの設定では
(i)利害対象は、テキストプロンプトのみで指定する。
(ii)推論にはオブジェクトモデル(例、CAD、ビデオシーケンス)は不要で、
(iii)異なるシーンの2つのRGBD視点から、オブジェクトを画像化する。
そこで本研究では,視覚言語モデルを用いてシーンから関心対象を抽出し,その相対的な6次元ポーズを推定する手法を提案する。
提案手法の鍵となるのは,プロンプトによって提供されるオブジェクトレベルの情報を局所的な画像特徴と融合させることで,新しい概念に一般化できる特徴空間を実現することである。
我々は,2つの一般的なデータセットであるREAL275とToyota-Lightに基づく新しいベンチマークに対するアプローチを検証する。
その結果,本手法は,物体の相対的な6次元ポーズを異なる場面で推定する上で,手作り手法と最近のディープラーニングベースラインの両方に優れることがわかった。
コードとデータセットはhttps://jcorsetti.github.io/oryon.comで入手できる。
We introduce the new setting of open-vocabulary object 6D pose estimation, in which a textual prompt is used to specify the object of interest. In contrast to existing approaches, in our setting (i) the object of interest is specified solely through the textual prompt, (ii) no object model (e.g., CAD or video sequence) is required at inference, and (iii) the object is imaged from two RGBD viewpoints of different scenes. To operate in this setting, we introduce a novel approach that leverages a Vision-Language Model to segment the object of interest from the scenes and to estimate its relative 6D pose. The key of our approach is a carefully devised strategy to fuse object-level information provided by the prompt with local image features, resulting in a feature space that can generalize to novel concepts. We validate our approach on a new benchmark based on two popular datasets, REAL275 and Toyota-Light, which collectively encompass 34 object instances appearing in four thousand image pairs. The results demonstrate that our approach outperforms both a well-established hand-crafted method and a recent deep learning-based baseline in estimating the relative 6D pose of objects in different scenes. Code and dataset are available at https://jcorsetti.github.io/oryon. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # ニューラルサインアクター:テキストからの3次元手話生成のための拡散モデル
Neural Sign Actors: A diffusion model for 3D sign language production from text ( http://arxiv.org/abs/2312.02702v2 ) ライセンス: Link先を確認 | Vasileios Baltatzis, Rolandos Alexandros Potamias, Evangelos Ververas, Guanxiong Sun, Jiankang Deng, Stefanos Zafeiriou, | (参考訳) 手話 (SL) は難聴者および難聴者コミュニティの主要なコミュニケーション手段である。
SL認識と翻訳のための深層学習手法は有望な結果を得た。
しかし、手話生成(SLP)は、生成された動きが現実的で正確な意味を持つ必要があるため、課題となる。
ほとんどのSLP法は2Dデータに依存しており、現実性を妨げる。
本研究では,拡散に基づくSLPモデルを用いて,4次元署名アバターとその対応するテキスト書き起こしの大規模データセットを訓練する。
提案手法は,SMPL-X体骨格上に定義された新規および解剖学的に誘導されたグラフニューラルネットワークを用いて,非拘束領域の談話から3Dアバターの動的配列を生成することができる。
定量的および定性的な実験により,提案手法が従来のSLP法よりもかなり優れていることを示す。
この研究は、現実的なニューラルサインアバターに向けて重要な一歩を踏み出し、聴覚と聴覚のコミュニティ間のコミュニケーションギャップを埋める。
Sign Languages (SL) serve as the primary mode of communication for the Deaf and Hard of Hearing communities. Deep learning methods for SL recognition and translation have achieved promising results. However, Sign Language Production (SLP) poses a challenge as the generated motions must be realistic and have precise semantic meaning. Most SLP methods rely on 2D data, which hinders their realism. In this work, a diffusion-based SLP model is trained on a curated large-scale dataset of 4D signing avatars and their corresponding text transcripts. The proposed method can generate dynamic sequences of 3D avatars from an unconstrained domain of discourse using a diffusion process formed on a novel and anatomically informed graph neural network defined on the SMPL-X body skeleton. Through quantitative and qualitative experiments, we show that the proposed method considerably outperforms previous methods of SLP. This work makes an important step towards realistic neural sign avatars, bridging the communication gap between Deaf and hearing communities. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # ヴィジュアル・プログラム蒸留 : ヴィジュアル・ランゲージ・モデルへの蒸留ツールとプログラム推論
Visual Program Distillation: Distilling Tools and Programmatic Reasoning into Vision-Language Models ( http://arxiv.org/abs/2312.03052v2 ) ライセンス: Link先を確認 | Yushi Hu, Otilia Stretcu, Chun-Ta Lu, Krishnamurthy Viswanathan, Kenji Hata, Enming Luo, Ranjay Krishna, Ariel Fuxman, | (参考訳) 右の楽器を誰が発明したのか?」のような複雑な視覚的タスクを解くには、空間の理解、楽器の認識、事前の知識の獲得といったスキルの合成が必要となる。
最近の研究は、大きな言語モデル(LLM)を用いてタスクを特殊な視覚モデルを呼び出す実行可能なプログラムに分解することで、将来性を示す。
しかし、生成されたプログラムはエラーを起こしやすく、必要なステップを省略し、スプリアスを含む。
さらに、複数のモデルをロードし、高いレイテンシと計算コストを発生させる必要がある。
本稿では,視覚言語モデル(VLM)を1つのフォワードパスで複雑な視覚タスクを解くことができる命令チューニングフレームワークである,視覚プログラム蒸留(VPD)を提案する。
VPDはLSMの推論能力を蒸留し、複数の候補プログラムをサンプリングし、そのプログラムを実行して正しいプログラムを特定する。
それぞれの正しいプログラムを推論ステップの言語記述に変換し、VLMに蒸留する。
大規模な実験により、VPDはVLMの数え、空間的関係を理解し、構成的に推論する能力を改善することが示されている。
MMBench,OK-VQA,A-OKVQA,TallyQA,POPE,Hateful Memesなど,複雑なビジョンタスクにおける最先端のパフォーマンスを実現する。
人間のアノテータによる評価では、VPDがモデル応答の事実性と一貫性を改善することも確認されている。
最後に、コンテンツモデレーションの実験により、VPDは限られたデータを持つ現実世界のアプリケーションへの適応にも役立ちます。
Solving complex visual tasks such as "Who invented the musical instrument on the right?" involves a composition of skills: understanding space, recognizing instruments, and also retrieving prior knowledge. Recent work shows promise by decomposing such tasks using a large language model (LLM) into an executable program that invokes specialized vision models. However, generated programs are error-prone: they omit necessary steps, include spurious ones, and are unable to recover when the specialized models give incorrect outputs. Moreover, they require loading multiple models, incurring high latency and computation costs. We propose Visual Program Distillation (VPD), an instruction tuning framework that produces a vision-language model (VLM) capable of solving complex visual tasks with a single forward pass. VPD distills the reasoning ability of LLMs by using them to sample multiple candidate programs, which are then executed and verified to identify a correct one. It translates each correct program into a language description of the reasoning steps, which are then distilled into a VLM. Extensive experiments show that VPD improves the VLM's ability to count, understand spatial relations, and reason compositionally. Our VPD-trained PaLI-X outperforms all prior VLMs, achieving state-of-the-art performance across complex vision tasks, including MMBench, OK-VQA, A-OKVQA, TallyQA, POPE, and Hateful Memes. An evaluation with human annotators also confirms that VPD improves model response factuality and consistency. Finally, experiments on content moderation demonstrate that VPD is also helpful for adaptation to real-world applications with limited data. | 翻訳日:2024-04-08 18:45:22 公開日:2024-04-05 |
| # ローカライゼーションがすべて評価する - オンラインマッピングデータセットにおけるデータ漏洩と修正方法
Localization Is All You Evaluate: Data Leakage in Online Mapping Datasets and How to Fix It ( http://arxiv.org/abs/2312.06420v2 ) ライセンス: Link先を確認 | Adam Lilja, Junsheng Fu, Erik Stenborg, Lars Hammarstrand, | (参考訳) オンラインマッピングの課題は、ライダーやカメラからの現在のセンサ観測を用いて、事前に構築された地図に頼ることなく、ローカルマップを予測することである。
State-of-the-artメソッドは教師付き学習に基づいており、主にnuScenesとArgoverse 2の2つのデータセットを使用して訓練されている。
しかしながら、これらのデータセットは、トレーニング、バリデーション、テストセット間で同じ地理的位置を再考する。
具体的には、80ドル以上のnuScenesと40ドル以上のArgoverse 2バリデーションとテストサンプルは、トレーニングサンプルから5ドル以下である。
テスト時には、トレーニングデータから構築された暗黙マップの暗黙マップ内でのローカライズが、不明瞭な場所への外挿よりも効果的に評価される。
当然,このデータ漏洩により性能が膨らみ,地理的に不整合なデータ分割が提案され,目に見えない環境での真の性能が明らかにされる。
実験の結果,適切なデータ分割をトレーニングし,評価すると,45ドル以上のmAPが低下する結果が得られた。
さらに、事前の設計選択の再評価により、元の分割に基づく結論から様々な結論が得られている。
特に, 昇降法と補助作業(例えば, 深度管理)が性能に与える影響は, 従来認識されていたよりも有意に小さく, あるいは異なる軌跡をたどる。
Splitsはhttps://github.com/LiljaAdam/geographical-splitsで見ることができる。
The task of online mapping is to predict a local map using current sensor observations, e.g. from lidar and camera, without relying on a pre-built map. State-of-the-art methods are based on supervised learning and are trained predominantly using two datasets: nuScenes and Argoverse 2. However, these datasets revisit the same geographic locations across training, validation, and test sets. Specifically, over $80$% of nuScenes and $40$% of Argoverse 2 validation and test samples are less than $5$ m from a training sample. At test time, the methods are thus evaluated more on how well they localize within a memorized implicit map built from the training data than on extrapolating to unseen locations. Naturally, this data leakage causes inflated performance numbers and we propose geographically disjoint data splits to reveal the true performance in unseen environments. Experimental results show that methods perform considerably worse, some dropping more than $45$ mAP, when trained and evaluated on proper data splits. Additionally, a reassessment of prior design choices reveals diverging conclusions from those based on the original split. Notably, the impact of lifting methods and the support from auxiliary tasks (e.g., depth supervision) on performance appears less substantial or follows a different trajectory than previously perceived. Splits can be found at https://github.com/LiljaAdam/geographical-splits | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # QuickQuakeBuildings: 地震後SAR-Optical Dataset for Quick damaged-building Detection
QuickQuakeBuildings: Post-earthquake SAR-Optical Dataset for Quick Damaged-building Detection ( http://arxiv.org/abs/2312.06587v2 ) ライセンス: Link先を確認 | Yao Sun, Yi Wang, Michael Eineder, | (参考訳) 地震後の衛星画像から素早くかつ自動で建物を損傷する検出は重要であるが、ロバストなアルゴリズムを開発するのに必要なトレーニングデータが不足しているため困難である。
このレターでは, 地震被害を受けた建物を, SAR(Synthetic Aperture Radar)と光学画像から検出するための最初のデータセットを提示する。
2023年トルコ・シリア地震の後に得られた衛星画像とアノテーションを利用して、SARと光学データの両方のコアギスターされた建物の足跡と衛星画像パッチのデータセットを提供し、400万以上の建物を包含する。
損傷した建物検出のタスクはバイナリ画像分類問題として定式化され、極端なクラス不均衡による異常検出問題としても扱われる。
比較基準としてベースライン手法と結果を提供する。
研究者はこのデータセットを使ってアルゴリズムの開発を迅速化し、将来の出来事に対応して損傷した建物を迅速に検出する。
データセットとコードと詳細な説明と視覚化は、 \url{https://github.com/ya0-sun/PostEQ-SARopt-BuildingDamage}で公開されている。
Quick and automated earthquake-damaged building detection from post-event satellite imagery is crucial, yet it is challenging due to the scarcity of training data required to develop robust algorithms. This letter presents the first dataset dedicated to detecting earthquake-damaged buildings from post-event very high resolution (VHR) Synthetic Aperture Radar (SAR) and optical imagery. Utilizing open satellite imagery and annotations acquired after the 2023 Turkey-Syria earthquakes, we deliver a dataset of coregistered building footprints and satellite image patches of both SAR and optical data, encompassing more than four thousand buildings. The task of damaged building detection is formulated as a binary image classification problem, that can also be treated as an anomaly detection problem due to extreme class imbalance. We provide baseline methods and results to serve as references for comparison. Researchers can utilize this dataset to expedite algorithm development, facilitating the rapid detection of damaged buildings in response to future events. The dataset and codes together with detailed explanations and visualization are made publicly available at \url{https://github.com/ya0-sun/PostEQ-SARopt-BuildingDamage}. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # 不確かさに注意すべき概念記述の推定
Estimation of Concept Explanations Should be Uncertainty Aware ( http://arxiv.org/abs/2312.08063v2 ) ライセンス: Link先を確認 | Vihari Piratla, Juyeon Heo, Katherine M. Collins, Sukriti Singh, Adrian Weller, | (参考訳) モデル説明は予測モデルの解釈とデバッグに有用である。
概念説明(Concept Explanations)と呼ばれる特定の概念について研究し、人間の理解可能な概念を用いてモデルを解釈することを目的としている。
簡単な解釈で人気があるが、概念的な説明は騒々しいことが知られている。
このようなノイズに繋がる推定パイプラインにおける様々な不確実性源を特定することで作業を開始します。
次に,これらの問題に対処する不確実性を考慮したベイズ推定手法を提案する。
本研究では,提案手法によって計算された説明が,ラベル効率も高いとともに,列車時の選択に頑健であることを示す理論的解析と経験的評価を行った。
さらに,本手法は,実データモデルとオフザシェルフモデルを用いて,数千銀行間の関係概念を復元し,そのスケーラビリティを実証する。
我々は、不確実性を考慮した概念説明の質の向上により、より信頼性の高いモデル解釈の候補となると信じている。
コードについてはhttps://github.com/vps-anonconfs/uace.comで公開しています。
Model explanations can be valuable for interpreting and debugging predictive models. We study a specific kind called Concept Explanations, where the goal is to interpret a model using human-understandable concepts. Although popular for their easy interpretation, concept explanations are known to be noisy. We begin our work by identifying various sources of uncertainty in the estimation pipeline that lead to such noise. We then propose an uncertainty-aware Bayesian estimation method to address these issues, which readily improved the quality of explanations. We demonstrate with theoretical analysis and empirical evaluation that explanations computed by our method are robust to train-time choices while also being label-efficient. Further, our method proved capable of recovering relevant concepts amongst a bank of thousands, in an evaluation with real-datasets and off-the-shelf models, demonstrating its scalability. We believe the improved quality of uncertainty-aware concept explanations make them a strong candidate for more reliable model interpretation. We release our code at https://github.com/vps-anonconfs/uace. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # CenterGrasp:同時形状再構成と6-DoFグラフ推定のためのオブジェクト認識命令表現学習
CenterGrasp: Object-Aware Implicit Representation Learning for Simultaneous Shape Reconstruction and 6-DoF Grasp Estimation ( http://arxiv.org/abs/2312.08240v2 ) ライセンス: Link先を確認 | Eugenio Chisari, Nick Heppert, Tim Welschehold, Wolfram Burgard, Abhinav Valada, | (参考訳) 信頼性の高い物体の把握は、自律ロボットにとって重要な能力である。
しかし、多くの既存の把握手法は、対象を明示的にモデル化することなく、一般的なクラッタ除去に焦点をあてているため、視覚的局所幾何学にのみ依存する。
対象認識と全体的把握を組み合わせた新しいフレームワークであるCenterGraspを紹介する。
CenterGraspは、形を符号化する前に一般的なオブジェクトを学習し、連続的な潜伏空間で有効な把握を行う。
RGB-D画像エンコーダは、最近の進歩を活用して、オブジェクトを検出し、ポーズと潜在コードを推測し、デコーダによってシーンの各オブジェクトの形状と把握を予測する。
シミュレーションおよび実世界の乱雑なシーンについて広範な実験を行い、強いシーン再構成と6-DoFのグルーピング位置推定性能を示す。
最先端と比較すると、CenterGraspは形状復元で38.5mm、把握成功で平均33ポイント向上している。
コードとトレーニングされたモデルをhttp://centergrasp.cs.uni-freiburg.deで公開しています。
Reliable object grasping is a crucial capability for autonomous robots. However, many existing grasping approaches focus on general clutter removal without explicitly modeling objects and thus only relying on the visible local geometry. We introduce CenterGrasp, a novel framework that combines object awareness and holistic grasping. CenterGrasp learns a general object prior by encoding shapes and valid grasps in a continuous latent space. It consists of an RGB-D image encoder that leverages recent advances to detect objects and infer their pose and latent code, and a decoder to predict shape and grasps for each object in the scene. We perform extensive experiments on simulated as well as real-world cluttered scenes and demonstrate strong scene reconstruction and 6-DoF grasp-pose estimation performance. Compared to the state of the art, CenterGrasp achieves an improvement of 38.5 mm in shape reconstruction and 33 percentage points on average in grasp success. We make the code and trained models publicly available at http://centergrasp.cs.uni-freiburg.de. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # キラル量子輸送の不変測度
An invariant measure of chiral quantum transport ( http://arxiv.org/abs/2312.11266v2 ) ライセンス: Link先を確認 | Klaus Ziegler, | (参考訳) キラルハミルトニアンに対する輸送相関器の不変測度について検討し,その特性を解析する。
不変測度のヤコビアン(Jacobian)は、ランダム位相の函数である。
次に、位相積分の前後における不変測度を区別する。
前者の場合、フェルミオンの量子拡散と粒子保存に関連する一様ゼロモードを発見した。
位相積分の後、トランスポート・コレレータは古典的拡散とバックフォールドランダムウォークという2種類の進化過程を明らかにする。
どちらが他方を支配しているかは、基礎となるキラルハミルトニアンの詳細に依存し、古典的拡散や拡散の抑制につながる可能性がある。
We study the invariant measure of the transport correlator for a chiral Hamiltonian and analyze its properties. The Jacobian of the invariant measure is a function of random phases. Then we distinguish the invariant measure before and after the phase integration. In the former case we found quantum diffusion of fermions and a uniform zero mode that is associated with particle conservation. After the phase integration the transport correlator reveals two types of evolution processes, namely classical diffusion and back-folded random walks. Which one dominates the other depends on the details of the underlying chiral Hamiltonian and may lead either to classical diffusion or to the suppression of diffusion. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # SADA(Semantic adversarial unsupervised domain adapt for Temporal Action Localization)
SADA: Semantic adversarial unsupervised domain adaptation for Temporal Action Localization ( http://arxiv.org/abs/2312.13377v2 ) ライセンス: Link先を確認 | David Pujol-Perich, Albert Clapés, Sergio Escalera, | (参考訳) 時間的アクションローカライゼーション(TAL)は複雑なタスクであり、特に現実世界のアプリケーションにおいて、新しい(目に見えない)ドメインを一般化しようとする場合に、関連する課題を引き起こす。
これらのシナリオは現実的であるにもかかわらず、文献ではしばしば無視され、これらのソリューションを重要なパフォーマンス劣化にさらしている。
本研究では,SADA(Semantic Adversarial Unsupervised Domain Adaptation)と呼ぶ,非教師付きドメイン適応(Unsupervised Domain Adaptation, UDA)のスパースTALへのアプローチを初めて導入することによって,この問題に対処する。
我々は,(1)現実的なスパース行動検出ベンチマークを用いたドメイン適応モデルの開発を開拓し,(2)局所的なクラス分布に敏感で,よりきめ細かい適応を確保できる新たな逆方向の損失を導入し,(2)包括的に複数のドメインシフトを評価するEpicKitchens100とCharadesEgoに基づく,新しいベンチマークセットを提示することで,グローバルな分散アライメント手法の限界に対処する。
以上の結果から,SADAは完全教師付きおよび代替UDA手法と比較してドメイン間の適応性を向上し,最大6.14%mAPの性能向上を実現した。
Temporal Action Localization (TAL) is a complex task that poses relevant challenges, particularly when attempting to generalize on new -- unseen -- domains in real-world applications. These scenarios, despite realistic, are often neglected in the literature, exposing these solutions to important performance degradation. In this work, we tackle this issue by introducing, for the first time, an approach for Unsupervised Domain Adaptation (UDA) in sparse TAL, which we refer to as Semantic Adversarial unsupervised Domain Adaptation (SADA). Our contributions are threefold: (1) we pioneer the development of a domain adaptation model that operates on realistic sparse action detection benchmarks; (2) we tackle the limitations of global-distribution alignment techniques by introducing a novel adversarial loss that is sensitive to local class distributions, ensuring finer-grained adaptation; and (3) we present a novel set of benchmarks based on EpicKitchens100 and CharadesEgo, that evaluate multiple domain shifts in a comprehensive manner. Our experiments indicate that SADA improves the adaptation across domains when compared to fully supervised state-of-the-art and alternative UDA methods, attaining a performance boost of up to 6.14% mAP. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # PlatoNeRF:シングルビュー2バウンスライダーによるプラトン洞窟の3次元再構成
PlatoNeRF: 3D Reconstruction in Plato's Cave via Single-View Two-Bounce Lidar ( http://arxiv.org/abs/2312.14239v2 ) ライセンス: Link先を確認 | Tzofi Klinghoffer, Xiaoyu Xiang, Siddharth Somasundaram, Yuchen Fan, Christian Richardt, Ramesh Raskar, Rakesh Ranjan, | (参考訳) 単一視点からの3次元再構成は、単眼視からの曖昧さと閉鎖領域に関する情報の欠如により困難である。
ニューラルレイディアンス場(NeRF)は、ビュー合成や3D再構成に人気があるが、一般的にはマルチビュー画像に依存している。
既存のNeRFを用いた単視3D再構成法は、物理的に正確ではないかもしれない閉鎖領域の幻覚的な視界に先行するデータや、周囲の光や低アルベドの背景を検出できないRGBカメラで観測される影に頼っている。
単一光子アバランシェダイオードで捉えた飛行時間データを用いてこれらの制限を克服する。
本手法は、ライダー過渡データを用いて、NeRFを用いた2バウンス光路をモデル化する。
ライダーによって測定されたNeRFと2バウンス光の利点を利用して、制御された環境光やシーンアルベドに依存することなく、可視・隠蔽形状を再構築できることを実証する。
さらに,センサ空間分解能と時間分解能の制約下での一般化を実証した。
我々は,携帯電話やタブレット,ヘッドセットなどのコンシューマデバイス上では,単光子ライダーが普及するにつれ,我々の方法が有望な方向であると信じている。
3D reconstruction from a single-view is challenging because of the ambiguity from monocular cues and lack of information about occluded regions. Neural radiance fields (NeRF), while popular for view synthesis and 3D reconstruction, are typically reliant on multi-view images. Existing methods for single-view 3D reconstruction with NeRF rely on either data priors to hallucinate views of occluded regions, which may not be physically accurate, or shadows observed by RGB cameras, which are difficult to detect in ambient light and low albedo backgrounds. We propose using time-of-flight data captured by a single-photon avalanche diode to overcome these limitations. Our method models two-bounce optical paths with NeRF, using lidar transient data for supervision. By leveraging the advantages of both NeRF and two-bounce light measured by lidar, we demonstrate that we can reconstruct visible and occluded geometry without data priors or reliance on controlled ambient lighting or scene albedo. In addition, we demonstrate improved generalization under practical constraints on sensor spatial- and temporal-resolution. We believe our method is a promising direction as single-photon lidars become ubiquitous on consumer devices, such as phones, tablets, and headsets. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # サイバーセキュリティにおける説明可能な機械学習のためのテンソルネットワーク
Tensor Networks for Explainable Machine Learning in Cybersecurity ( http://arxiv.org/abs/2401.00867v3 ) ライセンス: Link先を確認 | Borja Aizpurua, Samuel Palmer, Roman Orus, | (参考訳) 本稿では,テンソルネットワークが機械学習アルゴリズムの説明可能性向上にどのように役立つかを示す。
具体的には, 行列生成状態(MPS)に基づく教師なしクラスタリングアルゴリズムを開発し, 現実の敵生成脅威知能のユースケースに適用する。
我々の調査は、MPSがオートエンコーダやGANといった従来のディープラーニングモデルと性能的に競合する一方で、よりリッチなモデル解釈能力を提供していることを証明している。
我々のアプローチは、機能的確率、フォン・ノイマン・エントロピー、および相互情報の抽出を自然に促進し、異常の分類のための説得力のある物語を提供し、前例のないレベルの透明性と解釈可能性を促進する。
In this paper we show how tensor networks help in developing explainability of machine learning algorithms. Specifically, we develop an unsupervised clustering algorithm based on Matrix Product States (MPS) and apply it in the context of a real use-case of adversary-generated threat intelligence. Our investigation proves that MPS rival traditional deep learning models such as autoencoders and GANs in terms of performance, while providing much richer model interpretability. Our approach naturally facilitates the extraction of feature-wise probabilities, Von Neumann Entropy, and mutual information, offering a compelling narrative for classification of anomalies and fostering an unprecedented level of transparency and interpretability, something fundamental to understand the rationale behind artificial intelligence decisions. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # Few-Shot Class-Incremental Learningのための分布型特徴再現による学習プロンプト
Learning Prompt with Distribution-Based Feature Replay for Few-Shot Class-Incremental Learning ( http://arxiv.org/abs/2401.01598v2 ) ライセンス: Link先を確認 | Zitong Huang, Ze Chen, Zhixing Chen, Erjin Zhou, Xinxing Xu, Rick Siow Mong Goh, Yong Liu, Wangmeng Zuo, Chunmei Feng, | (参考訳) FSCIL(Few-shot Class-Incremental Learning)は、遭遇した古いクラスを忘れずに、非常に限られたトレーニングデータに基づいて、新しいクラスを継続的に学習することを目的としている。
既存の研究は純粋視覚ネットワークのみに頼っていたが,本論文ではビジョン・ランゲージモデル(例えばCLIP)を活用してFSCILを解くとともに,分散型特徴再現(LP-DiF)を用いた学習プロンプト(Learning Prompt)という,シンプルで効果的なフレームワークを提案する。
ゼロショット評価にCLIPを用いるだけで、最も影響力のある手法を著しく上回ります。
次に、アクシデントチューニング技術が適用能力をさらに向上させ、各セッションから特定の知識を継続的に取得できるようにする。
新しいセッションでは,学習可能なプロンプトが古い知識を忘れないようにするため,擬似機能的リプレイ手法を提案する。
具体的には,対角的共分散行列を用いて特徴レベルのガウス分布を維持することにより,各クラスの古い知識を保存し,トレーニング画像のイメージ特徴とVAEから生成された合成特徴から推定する。
新しいセッションに進むと、擬似特徴を従来の分布からサンプリングし、現在のセッションのトレーニングイメージと組み合わせてプロンプトを最適化し、古い知識を保持しながら新しい知識を学習できるようにする。
CIFAR100、mini-ImageNet、CUB-200の3つの主要なベンチマークの実験と、さらに難しい2つのベンチマーク、すなわち、SUN-397とCUB-200$^*$で提案された実験は、FSCILにおける新しい最先端(SOTA)を実現するLP-DiFの優位性を示している。
コードはhttps://github.com/1170300714/LP-DiFで公開されている。
Few-shot Class-Incremental Learning (FSCIL) aims to continuously learn new classes based on very limited training data without forgetting the old ones encountered. Existing studies solely relied on pure visual networks, while in this paper we solved FSCIL by leveraging the Vision-Language model (e.g., CLIP) and propose a simple yet effective framework, named Learning Prompt with Distribution-based Feature Replay (LP-DiF). We observe that simply using CLIP for zero-shot evaluation can substantially outperform the most influential methods. Then, prompt tuning technique is involved to further improve its adaptation ability, allowing the model to continually capture specific knowledge from each session. To prevent the learnable prompt from forgetting old knowledge in the new session, we propose a pseudo-feature replay approach. Specifically, we preserve the old knowledge of each class by maintaining a feature-level Gaussian distribution with a diagonal covariance matrix, which is estimated by the image features of training images and synthesized features generated from a VAE. When progressing to a new session, pseudo-features are sampled from old-class distributions combined with training images of the current session to optimize the prompt, thus enabling the model to learn new knowledge while retaining old knowledge. Experiments on three prevalent benchmarks, i.e., CIFAR100, mini-ImageNet, CUB-200, and two more challenging benchmarks, i.e., SUN-397 and CUB-200$^*$ proposed in this paper showcase the superiority of LP-DiF, achieving new state-of-the-art (SOTA) in FSCIL. Code is publicly available at https://github.com/1170300714/LP-DiF. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # 非同期計算ネットワークを用いたフェデレーション学習とグラフニューラルによる交通流予測
Predicting Traffic Flow with Federated Learning and Graph Neural with Asynchronous Computations Network ( http://arxiv.org/abs/2401.02723v2 ) ライセンス: Link先を確認 | Muhammad Yaqub, Shahzad Ahmad, Malik Abdul Manan, Imran Shabir Chuhan, | (参考訳) リアルタイム交通流予測は、インテリジェントトランスポーテーションシステム(ITS)の領域において重要な意味を持つ。
予測精度と計算効率のバランスをとるという課題は重要な課題である。
本稿では,FLAGCN(Federated Learning and Asynchronous Graph Convolutional Network)と呼ばれる新しいディープラーニング手法を提案する。
本フレームワークでは,リアルタイムトラフィックフロー予測の精度と効率を高めるために,非同期グラフ畳み込みネットワークとフェデレーション学習の原理を取り入れている。
FLAGCNモデルは、空間時間グラフ畳み込み技術を用いて、トラフィックデータ内の時空間依存性を効果的に非同期に処理する。
本研究は,この深層学習モデルに関連する計算要求を効率的に処理するために,グラフFLと呼ばれるグラフフェデレーション学習技術を用いた。
このアプローチは、トレーニングプロセスを容易にするように設計されています。
2つの異なるトラフィックデータセットの試験により得られた実験結果は、FLAGCNの利用により、高いレベルの予測精度を維持しながら、トレーニング期間と推論期間の両方を最適化できることを示した。
FLAGCNは、RMSEの最大6.85%、MAPEの20.45%の削減を達成し、既存のモデルよりも大幅に改善された。
Real-time traffic flow prediction holds significant importance within the domain of Intelligent Transportation Systems (ITS). The task of achieving a balance between prediction precision and computational efficiency presents a significant challenge. In this article, we present a novel deep-learning method called Federated Learning and Asynchronous Graph Convolutional Network (FLAGCN). Our framework incorporates the principles of asynchronous graph convolutional networks with federated learning to enhance the accuracy and efficiency of real-time traffic flow prediction. The FLAGCN model employs a spatial-temporal graph convolution technique to asynchronously address spatio-temporal dependencies within traffic data effectively. To efficiently handle the computational requirements associated with this deep learning model, this study used a graph federated learning technique known as GraphFL. This approach is designed to facilitate the training process. The experimental results obtained from conducting tests on two distinct traffic datasets demonstrate that the utilization of FLAGCN leads to the optimization of both training and inference durations while maintaining a high level of prediction accuracy. FLAGCN outperforms existing models with significant improvements by achieving up to approximately 6.85% reduction in RMSE, 20.45% reduction in MAPE, compared to the best-performing existing models. | 翻訳日:2024-04-08 18:35:30 公開日:2024-04-05 |
| # REE-HDSC:Suriname Curacaoの歴史データベースにおける抽出された実体の認識
REE-HDSC: Recognizing Extracted Entities for the Historical Database Suriname Curacao ( http://arxiv.org/abs/2401.02972v2 ) ライセンス: Link先を確認 | Erik Tjong Kim Sang, | (参考訳) 本プロジェクト REE-HDSC について述べるとともに,手書き文字認識(HTR)ソフトウェアで生成したテキストから自動的に抽出される名前付きエンティティの品質向上に向けた取り組みについて概説する。
6段階の処理パイプラインを記述し、キュラカオの市民登録簿から19世紀と20世紀の死亡証明書を処理してテストする。
パイプライン抽出の精度は高いが,人物名抽出の精度は低い。
次に、HTRモデルを名前付きでトレーニングし、後処理を行い、不正な名前を識別・削除することで、名前の精度が向上することを示す。
We describe the project REE-HDSC and outline our efforts to improve the quality of named entities extracted automatically from texts generated by hand-written text recognition (HTR) software. We describe a six-step processing pipeline and test it by processing 19th and 20th century death certificates from the civil registry of Curacao. We find that the pipeline extracts dates with high precision but that the precision of person name extraction is low. Next we show how name precision extraction can be improved by retraining HTR models with names, post-processing and by identifying and removing incorrect names. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 思考の連鎖、木、グラフの謎化
Demystifying Chains, Trees, and Graphs of Thoughts ( http://arxiv.org/abs/2401.14295v3 ) ライセンス: Link先を確認 | Maciej Besta, Florim Memedi, Zhenyu Zhang, Robert Gerstenberger, Guangyuan Piao, Nils Blach, Piotr Nyczyk, Marcin Copik, Grzegorz Kwaśniewski, Jürgen Müller, Lukas Gianinazzi, Ales Kubicek, Hubert Niewiadomski, Aidan O'Mahony, Onur Mutlu, Torsten Hoefler, | (参考訳) 自然言語処理(NLP)の分野は近年大きく進歩しており、革新的なプロンプト技術による大規模言語モデル(LLM)のパフォーマンス向上に特化している。
これらのうち、構造と組み合わされた素早いエンジニアリングは有望なパラダイムとして現れており、図のような構造によってLLM推論全体を導出するChain-of-Thought、Tree of Thoughts、Graph of Thoughtsといった設計がされている。
多くの例で説明されているように、このパラダイムは論理的、数学的推論から計画的、創造的執筆まで、多くのタスクを解くLLMの能力を著しく向上させる。
そこで我々は, この成長分野の理解を深め, 今後の発展への道を開くために, LLM推論を効果的かつ効率的に行うための一般的な青写真を作成する。
そこで我々は,実行パイプラインの詳細な解析を行い,異なる概念を明確にし,明確に定義する。
次に、構造強化LPM推論スキームの最初の分類法を構築する。
我々は,活用構造の基本クラスを同定することに集中し,これらの構造,それらの構造を用いて実行されるアルゴリズム,その他多くのことを解析する。
これらの構造を推論トポロジー(英語版)と呼び、それらの表現は LLM の文脈に含まれるため、空間の次数へと変化する。
本研究は,提案した分類法を用いて既存のプロンプト方式と比較し,特定の設計選択が性能とコストの異なるパターンにどのように寄与するかを論じる。
また、理論的基盤、知識ベースなどのLLMエコシステムの他の部分との関係、関連する研究課題についても概説する。
私たちの仕事は、将来の急進的なエンジニアリング技術の進歩に役立ちます。
The field of natural language processing (NLP) has witnessed significant progress in recent years, with a notable focus on improving large language models' (LLM) performance through innovative prompting techniques. Among these, prompt engineering coupled with structures has emerged as a promising paradigm, with designs such as Chain-of-Thought, Tree of Thoughts, or Graph of Thoughts, in which the overall LLM reasoning is guided by a structure such as a graph. As illustrated with numerous examples, this paradigm significantly enhances the LLM's capability to solve numerous tasks, ranging from logical or mathematical reasoning to planning or creative writing. To facilitate the understanding of this growing field and pave the way for future developments, we devise a general blueprint for effective and efficient LLM reasoning schemes. For this, we conduct an in-depth analysis of the prompt execution pipeline, clarifying and clearly defining different concepts. We then build the first taxonomy of structure-enhanced LLM reasoning schemes. We focus on identifying fundamental classes of harnessed structures, and we analyze the representations of these structures, algorithms executed with these structures, and many others. We refer to these structures as reasoning topologies, because their representation becomes to a degree spatial, as they are contained within the LLM context. Our study compares existing prompting schemes using the proposed taxonomy, discussing how certain design choices lead to different patterns in performance and cost. We also outline theoretical underpinnings, relationships between prompting and other parts of the LLM ecosystem such as knowledge bases, and the associated research challenges. Our work will help to advance future prompt engineering techniques. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # ハイパーエッジ相互作用を考慮したハイパーグラフニューラルネットワーク
Hyperedge Interaction-aware Hypergraph Neural Network ( http://arxiv.org/abs/2401.15587v2 ) ライセンス: Link先を確認 | Rongping Ye, Xiaobing Pei, Haoran Yang, Ruiqi Wang, | (参考訳) ハイパーグラフは、多くの実世界のデータセットで高次関係をモデリングするための効果的なモデリング手法を提供する。
このような複雑な関係を捉えるために、ハイパーグラフ構造を学ぶためにいくつかのハイパーグラフニューラルネットワークが提案されている。
しかし、既存のほとんどの手法はハイパーエッジとノード間の情報伝達に重点を置いており、ハイパーエッジ間の相互作用を無視している。
本稿では、畳み込み過程におけるハイパーエッジ間の相互作用をキャプチャするハイパーエッジインタラクション対応ハイパーグラフニューラルネットワークであるHeIHNNを提案し、ハイパーエッジとノード間の情報フローを強化する新しいメカニズムを提案する。
具体的には、ハイパーエッジ間の相互作用をハイパーグラフ畳み込みに統合し、3段階の情報伝達プロセスを構築する。
ノードからハイパーエッジへの情報を伝達した後、ハイパーエッジレベルの畳み込みを導入し、ハイパーエッジ埋め込みを更新する。
最後に、ハイパーエッジ間のインタラクションから豊富な情報をキャプチャする埋め込みを使用して、ノードの埋め込みを更新する。
さらに,ノードとハイパーエッジ間の情報伝達段階におけるハイパーエッジ・アウトレイラ除去機構を導入し,学習した埋め込みを用いてハイパーグラフ構造を動的に調整し,アウトレイラを効果的に除去する。
実世界のデータセットで実施された大規模な実験は、最先端の手法と比較してHeIHNNの競合性能を示している。
Hypergraphs provide an effective modeling approach for modeling high-order relationships in many real-world datasets. To capture such complex relationships, several hypergraph neural networks have been proposed for learning hypergraph structure, which propagate information from nodes to hyperedges and then from hyperedges back to nodes. However, most existing methods focus on information propagation between hyperedges and nodes, neglecting the interactions among hyperedges themselves. In this paper, we propose HeIHNN, a hyperedge interaction-aware hypergraph neural network, which captures the interactions among hyperedges during the convolution process and introduce a novel mechanism to enhance information flow between hyperedges and nodes. Specifically, HeIHNN integrates the interactions between hyperedges into the hypergraph convolution by constructing a three-stage information propagation process. After propagating information from nodes to hyperedges, we introduce a hyperedge-level convolution to update the hyperedge embeddings. Finally, the embeddings that capture rich information from the interaction among hyperedges will be utilized to update the node embeddings. Additionally, we introduce a hyperedge outlier removal mechanism in the information propagation stages between nodes and hyperedges, which dynamically adjusts the hypergraph structure using the learned embeddings, effectively removing outliers. Extensive experiments conducted on real-world datasets show the competitive performance of HeIHNN compared with state-of-the-art methods. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 数学的推論のための大規模言語モデル:進展と課題
Large Language Models for Mathematical Reasoning: Progresses and Challenges ( http://arxiv.org/abs/2402.00157v3 ) ライセンス: Link先を確認 | Janice Ahn, Rishu Verma, Renze Lou, Di Liu, Rui Zhang, Wenpeng Yin, | (参考訳) 数学的推論は、人間の知能の基本的な認知能力を評価するための基礎となる。
近年,数学問題の自動解法を目的とした大規模言語モデル(LLM)の開発が顕著に進んでいる。
しかし、数学的な問題の種類は様々であり、LLM指向の手法は様々なデータセットや設定で評価されている。
この多様性は、この急成長する分野における真の進歩と障害を識別することを困難にしている。
この調査は4つの重要な次元に対処する試みである。
一 調査した各種数学上の問題及びそれに対応するデータセットを総合的に調査すること。
二 数学的問題解決のために提案されたLLM指向技術のスペクトルの検討
三 数学の解法における LLM に影響する要因及び問題の概要
四 この領域内の持続的課題の解明
我々の知る限りでは、この調査は数学の領域におけるLLMの展望に関する最初の広範な調査の1つであり、この急速に発展する分野における現在の状況、成果、今後の課題に関する総合的な視点を提供するものである。
Mathematical reasoning serves as a cornerstone for assessing the fundamental cognitive capabilities of human intelligence. In recent times, there has been a notable surge in the development of Large Language Models (LLMs) geared towards the automated resolution of mathematical problems. However, the landscape of mathematical problem types is vast and varied, with LLM-oriented techniques undergoing evaluation across diverse datasets and settings. This diversity makes it challenging to discern the true advancements and obstacles within this burgeoning field. This survey endeavors to address four pivotal dimensions: i) a comprehensive exploration of the various mathematical problems and their corresponding datasets that have been investigated; ii) an examination of the spectrum of LLM-oriented techniques that have been proposed for mathematical problem-solving; iii) an overview of factors and concerns affecting LLMs in solving math; and iv) an elucidation of the persisting challenges within this domain. To the best of our knowledge, this survey stands as one of the first extensive examinations of the landscape of LLMs in the realm of mathematics, providing a holistic perspective on the current state, accomplishments, and future challenges in this rapidly evolving field. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 確率的正規化によるプラグアンドプレイ画像復元
Plug-and-Play image restoration with Stochastic deNOising REgularization ( http://arxiv.org/abs/2402.01779v2 ) ライセンス: Link先を確認 | Marien Renaud, Jean Prost, Arthur Leclaire, Nicolas Papadakis, | (参考訳) Plug-and-Playアルゴリズム(PnP)は、物理モデルとディープニューラルネットワークを組み合わせることで画像逆問題に対処する反復アルゴリズムのクラスである。
印象的な画像復元結果が得られたとしても、これらのアルゴリズムは、繰り返しに沿ってノイズが少なく、ノイズが少ない画像に対して、非標準的なデノイザの使用に依存しており、ディフュージョンモデル(DM)に基づく最近のアルゴリズムとは対照的である。
そこで我々はSNORE(Stochastic Denoising Regularization)と呼ばれる新しいPnPフレームワークを提案する。
これは明示的な確率正則化に基づいており、不測の逆問題を解決する確率勾配降下アルゴリズムが導かれる。
このアルゴリズムの収束解析とその熱処理拡張を提供する。
実験により,SNOREは定量的かつ定性的に,タスクの退色および着色に関する最先端の手法と競合することが証明された。
Plug-and-Play (PnP) algorithms are a class of iterative algorithms that address image inverse problems by combining a physical model and a deep neural network for regularization. Even if they produce impressive image restoration results, these algorithms rely on a non-standard use of a denoiser on images that are less and less noisy along the iterations, which contrasts with recent algorithms based on Diffusion Models (DM), where the denoiser is applied only on re-noised images. We propose a new PnP framework, called Stochastic deNOising REgularization (SNORE), which applies the denoiser only on images with noise of the adequate level. It is based on an explicit stochastic regularization, which leads to a stochastic gradient descent algorithm to solve ill-posed inverse problems. A convergence analysis of this algorithm and its annealing extension is provided. Experimentally, we prove that SNORE is competitive with respect to state-of-the-art methods on deblurring and inpainting tasks, both quantitatively and qualitatively. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 拡散モデルに基づく180年間の東アジア気候復興のための確率的ダウンスケーリング
Diffusion Model-based Probabilistic Downscaling for 180-year East Asian Climate Reconstruction ( http://arxiv.org/abs/2402.06646v2 ) ライセンス: Link先を確認 | Fenghua Ling, Zeyu Lu, Jing-Jia Luo, Lei Bai, Swadhin K. Behera, Dachao Jin, Baoxiang Pan, Huidong Jiang, Toshio Yamagata, | (参考訳) 地球が「グローバル沸騰」の時代に入るにつれ、地域の気候変動を理解することが不可欠になる。
ローカライズされた洞察を提供する効果的なダウンスケーリング手法は、このターゲットにとって不可欠である。
計算的に要求される地域力学モデルや統計的ダウンスケーリングフレームワークを含む伝統的なアプローチは、ダウンスケーリングの不確実性の影響を受けやすいことが多い。
本稿では,拡散確率ダウンスケーリングモデル(DPDM)を気象分野に導入することにより,これらの制約に対処する。
このモデルは、データを 1{\deg} から 0.1{\deg} に効率的に変換することができる。
決定論的ダウンスケーリング方式と比較して、より正確な局所的詳細を持つだけでなく、確率分布サンプリングに基づいて多数のアンサンブル部材を生成し、ダウンスケーリングの不確実性を評価することができる。
さらに,このモデルを適用して,過去何世紀にもわたって局地的な気候変化を理解するための,より詳細な視点を提供する,東アジアにおける月180年間の表層変数のデータセットを生成する。
As our planet is entering into the "global boiling" era, understanding regional climate change becomes imperative. Effective downscaling methods that provide localized insights are crucial for this target. Traditional approaches, including computationally-demanding regional dynamical models or statistical downscaling frameworks, are often susceptible to the influence of downscaling uncertainty. Here, we address these limitations by introducing a diffusion probabilistic downscaling model (DPDM) into the meteorological field. This model can efficiently transform data from 1{\deg} to 0.1{\deg} resolution. Compared with deterministic downscaling schemes, it not only has more accurate local details, but also can generate a large number of ensemble members based on probability distribution sampling to evaluate the uncertainty of downscaling. Additionally, we apply the model to generate a 180-year dataset of monthly surface variables in East Asia, offering a more detailed perspective for understanding local scale climate change over the past centuries. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 生成モデル学習のための自己補正自己消費ループ
Self-Correcting Self-Consuming Loops for Generative Model Training ( http://arxiv.org/abs/2402.07087v2 ) ライセンス: Link先を確認 | Nate Gillman, Michael Freeman, Daksh Aggarwal, Chia-Hong Hsu, Calvin Luo, Yonglong Tian, Chen Sun, | (参考訳) 合成データがより高品質になり、インターネット上で増殖するにつれて、機械学習モデルは、人間と機械が生成したデータの混合に基づいて、ますます訓練されている。
表現学習に合成データを使うことが成功したにもかかわらず、生成モデルトレーニングに合成データを使用することで、一定の条件が満たさない限り、トレーニングの不安定性や崩壊につながる可能性のある「自己消費ループ」が生成される。
本稿は,自己消費型生成モデルトレーニングの安定化を目的とする。
我々の理論的結果は、データ点を真のデータ分布下でより高い確率でマッピングする理想化された補正関数を導入することにより、自己消費ループを指数関数的に安定させることができることを示している。
次に、専門家の知識(シミュレータでプログラムされた物理の法則など)に依存した自己補正関数を提案し、理想化された修正器を自動かつ大規模に近似することを目指す。
本研究では,人間の動作合成作業における自己修正自己消費ループの有効性を実証的に検証し,実データに対する合成データの比率が100%である場合でも,モデル崩壊の回避に成功していることを示す。
As synthetic data becomes higher quality and proliferates on the internet, machine learning models are increasingly trained on a mix of human- and machine-generated data. Despite the successful stories of using synthetic data for representation learning, using synthetic data for generative model training creates "self-consuming loops" which may lead to training instability or even collapse, unless certain conditions are met. Our paper aims to stabilize self-consuming generative model training. Our theoretical results demonstrate that by introducing an idealized correction function, which maps a data point to be more likely under the true data distribution, self-consuming loops can be made exponentially more stable. We then propose self-correction functions, which rely on expert knowledge (e.g. the laws of physics programmed in a simulator), and aim to approximate the idealized corrector automatically and at scale. We empirically validate the effectiveness of self-correcting self-consuming loops on the challenging human motion synthesis task, and observe that it successfully avoids model collapse, even when the ratio of synthetic data to real data is as high as 100%. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 大規模言語モデルのための機械アンラーニングの再考
Rethinking Machine Unlearning for Large Language Models ( http://arxiv.org/abs/2402.08787v3 ) ライセンス: Link先を確認 | Sijia Liu, Yuanshun Yao, Jinghan Jia, Stephen Casper, Nathalie Baracaldo, Peter Hase, Xiaojun Xu, Yuguang Yao, Hang Li, Kush R. Varshney, Mohit Bansal, Sanmi Koyejo, Yang Liu, | (参考訳) LLMアンラーニングと呼ばれる大規模言語モデル(LLM)の領域における機械学習(MU)について検討する。
このイニシアチブは、本質的な知識生成の完全性を維持しつつ、因果関係のない情報に影響を与えないまま、望ましくないデータの影響(機密情報、違法情報など)と関連するモデル機能を排除することを目的としている。
我々は、LLMのライフサイクル管理において、LLMのアンラーニングが重要な要素となり、安全で安全で信頼性の高いだけでなく、完全な再トレーニングを必要とせずに、資源効率の高い生成AIを開発する上で、不可欠な基盤となる可能性があると想定している。
概念的定式化や方法論,メトリクス,アプリケーションから,LLMにおける未学習の風景をナビゲートする。
特に,既存のLLMアンラーニング研究,例えば,未学習のスコープ,データ-モデル相互作用,多面的有効性評価など,見過ごされがちな側面を強調した。
また、LLMアンラーニングと、モデル編集、影響関数、モデル説明、対人訓練、強化学習などの関連分野の関連性も描いている。
さらに,LLMアンラーニングのための効果的なアセスメントフレームワークについて概説し,著作権とプライバシ保護,社会工学的害軽減への応用について検討する。
We explore machine unlearning (MU) in the domain of large language models (LLMs), referred to as LLM unlearning. This initiative aims to eliminate undesirable data influence (e.g., sensitive or illegal information) and the associated model capabilities, while maintaining the integrity of essential knowledge generation and not affecting causally unrelated information. We envision LLM unlearning becoming a pivotal element in the life-cycle management of LLMs, potentially standing as an essential foundation for developing generative AI that is not only safe, secure, and trustworthy, but also resource-efficient without the need of full retraining. We navigate the unlearning landscape in LLMs from conceptual formulation, methodologies, metrics, and applications. In particular, we highlight the often-overlooked aspects of existing LLM unlearning research, e.g., unlearning scope, data-model interaction, and multifaceted efficacy assessment. We also draw connections between LLM unlearning and related areas such as model editing, influence functions, model explanation, adversarial training, and reinforcement learning. Furthermore, we outline an effective assessment framework for LLM unlearning and explore its applications in copyright and privacy safeguards and sociotechnical harm reduction. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # アーキテクチャからアプリケーションへ:ニューラル量子状態のレビュー
From Architectures to Applications: A Review of Neural Quantum States ( http://arxiv.org/abs/2402.09402v2 ) ライセンス: Link先を確認 | Hannah Lange, Anka Van de Walle, Atiye Abedinnia, Annabelle Bohrdt, | (参考訳) ヒルベルト空間次元の指数的成長とシステムサイズにより、量子多体系のシミュレーションは今日まで永続的な課題である。
本稿では,ニューラルネットワークのパラメータ化に必要な指数的に多くの係数を格納するのではなく,ネットワークパラメータの項で状態を圧縮することで,指数的スケーリングを克服するニューラルネットワーク量子状態(NQS)のシミュレーションのための,比較的新しい変分状態のクラスを概説する。
量子状態の力学をシミュレートするNQSアプローチと同様に、一般に使われているNQSアーキテクチャとその様々な応用を、基底状態と励起状態、有限温度および開系状態のシミュレーションに導入する。
さらに,NQSを量子状態トモグラフィーの文脈で論じる。
Due to the exponential growth of the Hilbert space dimension with system size, the simulation of quantum many-body systems has remained a persistent challenge until today. Here, we review a relatively new class of variational states for the simulation of such systems, namely neural quantum states (NQS), which overcome the exponential scaling by compressing the state in terms of the network parameters rather than storing all exponentially many coefficients needed for an exact parameterization of the state. We introduce the commonly used NQS architectures and their various applications for the simulation of ground and excited states, finite temperature and open system states as well as NQS approaches to simulate the dynamics of quantum states. Furthermore, we discuss NQS in the context of quantum state tomography. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # KCUSUMを用いたリアルタイム適応サンプリング変更点検出アルゴリズムの評価
An Evaluation of Real-time Adaptive Sampling Change Point Detection Algorithm using KCUSUM ( http://arxiv.org/abs/2402.10291v2 ) ライセンス: Link先を確認 | Vijayalakshmi Saravanan, Perry Siehien, Shinjae Yoo, Hubertus Van Dam, Thomas Flynn, Christopher Kelly, Khaled Z Ibrahim, | (参考訳) 科学的シミュレーションからリアルタイムデータストリームの急激な変化を検出することは、正確で効率的なアルゴリズムの展開を要求する難しい課題である。
ライブデータストリームにおける変化点の特定には、特に高ボリュームのデータシナリオにおいて、その統計特性における偏差について、入ってくる観測を継続的に精査することが含まれる。
急激な変化検出と誤報の最小化のバランスを維持することは不可欠である。
この目的のための既存のアルゴリズムの多くは、その可能性を制限する既知の確率分布に依存している。
本研究では,従来のCUSUM法の非パラメトリック拡張であるKernel-based Cumulative Sum (KCUSUM)アルゴリズムを紹介する。
KCUSUMは、入ってくるサンプルを参照サンプルと直接比較することで自身を分割し、最大平均離散(MMD)非パラメトリックフレームワークに基礎を置く統計を計算する。
このアプローチは、KCUSUMの永続性を、真空中のタンパク質の原子軌道のような参照サンプルのみが利用できるシナリオにまで拡張する。
さらに、MDD固有のランダムウォーク構造を利用することで、予測遅延や平均実行時の誤警報といった様々なユースケースにおけるKCUSUMの性能を理論的に解析することができる。
最後に,NWChem CODARやタンパク質折り畳みデータなどの科学シミュレーションによる実世界のユースケースについて論じ,オンライン変化点検出におけるKCUSUMの有効性を実証した。
Detecting abrupt changes in real-time data streams from scientific simulations presents a challenging task, demanding the deployment of accurate and efficient algorithms. Identifying change points in live data stream involves continuous scrutiny of incoming observations for deviations in their statistical characteristics, particularly in high-volume data scenarios. Maintaining a balance between sudden change detection and minimizing false alarms is vital. Many existing algorithms for this purpose rely on known probability distributions, limiting their feasibility. In this study, we introduce the Kernel-based Cumulative Sum (KCUSUM) algorithm, a non-parametric extension of the traditional Cumulative Sum (CUSUM) method, which has gained prominence for its efficacy in online change point detection under less restrictive conditions. KCUSUM splits itself by comparing incoming samples directly with reference samples and computes a statistic grounded in the Maximum Mean Discrepancy (MMD) non-parametric framework. This approach extends KCUSUM's pertinence to scenarios where only reference samples are available, such as atomic trajectories of proteins in vacuum, facilitating the detection of deviations from the reference sample without prior knowledge of the data's underlying distribution. Furthermore, by harnessing MMD's inherent random-walk structure, we can theoretically analyze KCUSUM's performance across various use cases, including metrics like expected delay and mean runtime to false alarms. Finally, we discuss real-world use cases from scientific simulations such as NWChem CODAR and protein folding data, demonstrating KCUSUM's practical effectiveness in online change point detection. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # 未確認構造生成のためのトランスフォーマーと組み合わされた新規なVAE分子生成モデル
A novel molecule generative model of VAE combined with Transformer for unseen structure generation ( http://arxiv.org/abs/2402.11950v2 ) ライセンス: Link先を確認 | Yasuhiro Yoshikai, Tadahaya Mizuno, Shumpei Nemoto, Hiroyuki Kusuhara, | (参考訳) 近年,深層学習を用いた分子生成が薬物発見において活発に研究されている。
この分野では、TransformerとVAEは強力なモデルとして広く使われているが、それらの構造的ミスマッチと性能的ミスマッチのために組み合わせて使われることは滅多にない。
本研究では, この2つのモデルを組み合わせて, 多様な分子の処理における構造とパラメータの最適化を行うモデルを提案する。
提案モデルでは, 既存の分子生成モデルに匹敵する性能を示し, 未知の構造を持つ分子生成モデルにおいて, はるかに優れた性能を示す。
このVAEモデルのもう1つの利点は、潜伏表現から分子を生成することであり、したがって分子の性質は容易に予測または条件付けでき、実際に、このモデルの潜伏表現が分子特性をうまく予測できることである。
アブレーション研究では、新しい分子を生成する際に、言語モデルのような他の生成モデルよりもVAEの利点が示唆された。
また、潜在表現は再構成を失うことなく ~32 次元変数に短縮することができ、既存の表現よりもはるかに小さな分子記述子やモデルが存在する可能性が示唆された。
本研究は, 仮想スクリーニングのための多種多様な化合物を含む仮想化学ライブラリーを提供し, 効率的なスクリーニングを実現することを目的としている。
Recently, molecule generation using deep learning has been actively investigated in drug discovery. In this field, Transformer and VAE are widely used as powerful models, but they are rarely used in combination due to structural and performance mismatch of them. This study proposes a model that combines these two models through structural and parameter optimization in handling diverse molecules. The proposed model shows comparable performance to existing models in generating molecules, and showed by far superior performance in generating molecules with unseen structures. Another advantage of this VAE model is that it generates molecules from latent representation, and therefore properties of molecules can be easily predicted or conditioned with it, and indeed, we show that the latent representation of the model successfully predicts molecular properties. Ablation study suggested the advantage of VAE over other generative models like language model in generating novel molecules. It also indicated that the latent representation can be shortened to ~32 dimensional variables without loss of reconstruction, suggesting the possibility of a much smaller molecular descriptor or model than existing ones. This study is expected to provide a virtual chemical library containing a wide variety of compounds for virtual screening and to enable efficient screening. | 翻訳日:2024-04-08 18:25:45 公開日:2024-04-05 |
| # マインド・ザ・エグジット・プル・ギャップ:標準レンズカメラの基礎を再考する
Mind the Exit Pupil Gap: Revisiting the Intrinsics of a Standard Plenoptic Camera ( http://arxiv.org/abs/2402.12891v2 ) ライセンス: Link先を確認 | Tim Michels, Daniel Mäckelmann, Reinhard Koch, | (参考訳) 望遠カメラの一般的な用途には、深度再構成と後撮影の再焦点がある。
これらは、カメラ側の光場とシーンの光のキャリブレーションを必要とする。
この目的のための多くの手法が、レンズカメラの主レンズとマイクロレンズのための薄いレンズモデルに基づいて開発されている。
我々の研究は、これらのモデル、特に標準レンズカメラ(SPC)画像の復号過程において、主レンズ出口の瞳孔がしばしば見過ごされる役割に対処する。
我々は、デコードされた光場に対する再焦点距離と再サンプリングパラメータの接続を正式に推論し、出口の瞳孔が考慮されない場合に発生する誤差を解析する。
さらに、過去の研究は、出口の瞳孔の役割について再考され、すべての理論的結果がレイトレーシングに基づくシミュレーションによって検証される。
シミュレーションと実験データとともに評価されたSPC設計のパブリックリリースにより、我々は、レンズカメラ光学のより正確でニュアンスな理解に寄与することを目指している。
Among the common applications of plenoptic cameras are depth reconstruction and post-shot refocusing. These require a calibration relating the camera-side light field to that of the scene. Numerous methods with this goal have been developed based on thin lens models for the plenoptic camera's main lens and microlenses. Our work addresses the often-overlooked role of the main lens exit pupil in these models and specifically in the decoding process of standard plenoptic camera (SPC) images. We formally deduce the connection between the refocusing distance and the resampling parameter for the decoded light field and provide an analysis of the errors that arise when the exit pupil is not considered. In addition, previous work is revisited with respect to the exit pupil's role and all theoretical results are validated through a ray-tracing-based simulation. With the public release of the evaluated SPC designs alongside our simulation and experimental data we aim to contribute to a more accurate and nuanced understanding of plenoptic camera optics. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # 英語が中央言語でなければ、より優れた多言語LLMが必要か?
Could We Have Had Better Multilingual LLMs If English Was Not the Central Language? ( http://arxiv.org/abs/2402.13917v2 ) ライセンス: Link先を確認 | Ryandito Diandaru, Lucky Susanto, Zilu Tang, Ayu Purwarianti, Derry Wijaya, | (参考訳) 大規模言語モデル(LLM)は、トレーニング対象の言語に対して強力な機械翻訳能力を示す。
しかし、特に訓練中に直接遭遇しない言語に関して、学習データサイズ以外の要因が翻訳性能に与える影響は議論の的となっている。
我々の研究は、Llama2の翻訳能力について論じている。
言語的特徴距離と機械翻訳スコアの線形関係をモデル化することにより、英語以外のLLMにより良い中央言語が存在するかどうかを自問する。
実験の結果,7B Llama2 モデルは,これまでに見たすべての言語に翻訳すると 10 BLEU 以上になることがわかった。
目に見えない言語への翻訳の改善のほとんどは、命令のチューニングやショット数の増加ではなく、モデルサイズをスケールアップすることによる。
さらに, 相関分析の結果, 機械翻訳スコアと強く相関する言語的要因は構文的類似性だけではないことがわかった。
興味深いことに、特定の状況下では、トレーニングデータが少ないにもかかわらず、いくつかの言語(スウェーデン語、カタルーニャ語など)が英語に匹敵する相関関係を示した。
これらの洞察は、LLMの一般的な景観に挑戦し、英語以外の言語を中心にしたモデルが、多言語アプリケーションのためのより効率的な基盤を提供する可能性があることを示唆している。
Large Language Models (LLMs) demonstrate strong machine translation capabilities on languages they are trained on. However, the impact of factors beyond training data size on translation performance remains a topic of debate, especially concerning languages not directly encountered during training. Our study delves into Llama2's translation capabilities. By modeling a linear relationship between linguistic feature distances and machine translation scores, we ask ourselves if there are potentially better central languages for LLMs other than English. Our experiments show that the 7B Llama2 model yields above 10 BLEU when translating into all languages it has seen, which rarely happens for languages it has not seen. Most translation improvements into unseen languages come from scaling up the model size rather than instruction tuning or increasing shot count. Furthermore, our correlation analysis reveals that syntactic similarity is not the only linguistic factor that strongly correlates with machine translation scores. Interestingly, we discovered that under specific circumstances, some languages (e.g. Swedish, Catalan), despite having significantly less training data, exhibit comparable correlation levels to English. These insights challenge the prevailing landscape of LLMs, suggesting that models centered around languages other than English could provide a more efficient foundation for multilingual applications. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # イベントカメラのための状態空間モデル
State Space Models for Event Cameras ( http://arxiv.org/abs/2402.15584v2 ) ライセンス: Link先を確認 | Nikola Zubić, Mathias Gehrig, Davide Scaramuzza, | (参考訳) 今日、イベントカメラデータを処理する最先端のディープニューラルネットワークは、イベントの時間的ウィンドウを、グリッドのような密度の高い入力表現に変換する。
そのため、トレーニングされたものよりも高い推論周波数(すなわち、より小さい時間窓)でデプロイされた場合の一般化性は低い。
我々は、イベントベースのビジョンに学習可能な時間スケールパラメータを持つ状態空間モデル(SSM)を導入することで、この問題に対処する。
この設計は、異なる周波数でネットワークを再トレーニングすることなく、様々な周波数に適応する。
さらに, 高周波数でモデルを展開する場合, エイリアス効果に対処する2つの手法について検討する。
我々は、RNNおよびTransformerアーキテクチャに基づく既存手法に対するアプローチを、Gen1および1 Mpxイベントカメラデータセットを含む様々なベンチマークで包括的に評価する。
以上の結果から,SSMモデルではトレーニングが33%高速化され,トレーニング入力よりも高い周波数でテストした場合の性能劣化が最小限に抑えられることがわかった。
従来のRNNとTransformerモデルは20mAP以上の性能低下を示し、SSMは3.31mAPの低下を示し、イベントベースの視覚タスクにおけるSSMの有効性を強調している。
Today, state-of-the-art deep neural networks that process event-camera data first convert a temporal window of events into dense, grid-like input representations. As such, they exhibit poor generalizability when deployed at higher inference frequencies (i.e., smaller temporal windows) than the ones they were trained on. We address this challenge by introducing state-space models (SSMs) with learnable timescale parameters to event-based vision. This design adapts to varying frequencies without the need to retrain the network at different frequencies. Additionally, we investigate two strategies to counteract aliasing effects when deploying the model at higher frequencies. We comprehensively evaluate our approach against existing methods based on RNN and Transformer architectures across various benchmarks, including Gen1 and 1 Mpx event camera datasets. Our results demonstrate that SSM-based models train 33% faster and also exhibit minimal performance degradation when tested at higher frequencies than the training input. Traditional RNN and Transformer models exhibit performance drops of more than 20 mAP, with SSMs having a drop of 3.31 mAP, highlighting the effectiveness of SSMs in event-based vision tasks. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # 微粒な視覚・セマンティック相互作用を用いた一般化可能な全スライド画像分類
Generalizable Whole Slide Image Classification with Fine-Grained Visual-Semantic Interaction ( http://arxiv.org/abs/2402.19326v2 ) ライセンス: Link先を確認 | Hao Li, Ying Chen, Yifei Chen, Wenxian Yang, Bowen Ding, Yuchen Han, Liansheng Wang, Rongshan Yu, | (参考訳) 全体スライド画像(WSI)分類は、しばしば多重インスタンス学習(MIL)問題として定式化される。
近年,視覚言語モデル (VLM) はWSI分類において顕著な性能を示した。
しかし,既存の手法では,病原体画像の複雑な視覚的外観をとらえるには不十分であり,様々な下流タスクにおけるモデルの一般化を阻害する粗粒状病原体記述を活用している。
加えて、高分解能 WSI の処理には計算コストがかかる。
本稿では,WSI分類のための"Fine-fine Visual-Semantic Interaction" (FiVE) フレームワークを提案する。
局所的な視覚パターンと微細な病理的意味論の相互作用を活用することにより、モデルの一般化性を高めるように設計されている。
特に,厳密に設計されたクエリでは,まず大きな言語モデルを用いて,さまざまな非標準化された生レポートから詳細な病的記述を抽出する。
出力記述は、訓練に使用されるきめ細かいラベルに再構成される。
タスク固有きめ細かなセマンティックス(TFS)モジュールを導入することで、WSIにおいて重要な視覚情報をキャプチャし、表現学習を強化し、一般化能力を著しく強化する。
さらに,組織スライスに病理視覚パターンが冗長に分散していることを考えると,トレーニング中の視覚のサブセットをサンプリングする。
本手法は, TCGA Lung Cancer データセットの精度を9.19%以上向上し, 高い一般化性, 強い転移性を示す。
コードは、https://github.com/ls1rius/WSI_FiVE.comで入手できる。
Whole Slide Image (WSI) classification is often formulated as a Multiple Instance Learning (MIL) problem. Recently, Vision-Language Models (VLMs) have demonstrated remarkable performance in WSI classification. However, existing methods leverage coarse-grained pathogenetic descriptions for visual representation supervision, which are insufficient to capture the complex visual appearance of pathogenetic images, hindering the generalizability of models on diverse downstream tasks. Additionally, processing high-resolution WSIs can be computationally expensive. In this paper, we propose a novel "Fine-grained Visual-Semantic Interaction" (FiVE) framework for WSI classification. It is designed to enhance the model's generalizability by leveraging the interaction between localized visual patterns and fine-grained pathological semantics. Specifically, with meticulously designed queries, we start by utilizing a large language model to extract fine-grained pathological descriptions from various non-standardized raw reports. The output descriptions are then reconstructed into fine-grained labels used for training. By introducing a Task-specific Fine-grained Semantics (TFS) module, we enable prompts to capture crucial visual information in WSIs, which enhances representation learning and augments generalization capabilities significantly. Furthermore, given that pathological visual patterns are redundantly distributed across tissue slices, we sample a subset of visual instances during training. Our method demonstrates robust generalizability and strong transferability, dominantly outperforming the counterparts on the TCGA Lung Cancer dataset with at least 9.19% higher accuracy in few-shot experiments. The code is available at: https://github.com/ls1rius/WSI_FiVE. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # これらすべてを使用する1つのモデル:補完的なデータセットによるセグメンテーションモデルのトレーニング
One model to use them all: Training a segmentation model with complementary datasets ( http://arxiv.org/abs/2402.19340v2 ) ライセンス: Link先を確認 | Alexander C. Jenke, Sebastian Bodenstedt, Fiona R. Kolbinger, Marius Distler, Jürgen Weitz, Stefanie Speidel, | (参考訳) 手術シーンを理解することは、コンピュータ支援手術システムにとって、インテリジェントな補助機能を提供するために不可欠である。
このシーン理解の方法の1つはシーンセグメンテーションであり、フレームの各ピクセルが分類され、それによって見える構造や組織が識別される。
外科シーンの完全セグメンテーションの進歩は機械学習を用いてなされている。
しかしながら、そのようなモデルは、関連するすべてのオブジェクトクラスの例を含む、大量の注釈付きトレーニングデータを必要とします。
このような完全なアノテートデータセットは、フレーム内のすべてのピクセルを医療専門家によってアノテートする必要があるため、作成が困難である。
本研究では,補完アノテーションを提供する複数の部分アノテーション付きデータセットを1つのモデルに組み合わせ,シーンセグメンテーションの改善と,利用可能な複数のデータセットの利用を可能にする手法を提案する。
本手法は,情報の最大化に相互排他的特性を活用することで,利用可能なデータを補完ラベルと組み合わせることを目的としている。
具体的には、他のクラスの陽性アノテーションを負のサンプルとして使用し、バイナリアノテーションの背景画素を除外することを提案する。
我々はDreesden surgery anatomy DatasetでDeepLabV3をトレーニングし,2分節解剖構造を複数サブセットする手法を評価した。
我々の手法は6つのクラスを1つのモデルにうまく組み合わせ、Dice Score全体の4.4%増加させました。
胃と大腸の混同を24%減らすことができた。
この結果から,複数のデータセット上でモデルをトレーニングできる可能性が示唆された。
これにより、将来的な作業が1つの大きな、完全にセグメント化されたデータセットの必要性を緩和する道を開く。
Understanding a surgical scene is crucial for computer-assisted surgery systems to provide any intelligent assistance functionality. One way of achieving this scene understanding is via scene segmentation, where every pixel of a frame is classified and therefore identifies the visible structures and tissues. Progress on fully segmenting surgical scenes has been made using machine learning. However, such models require large amounts of annotated training data, containing examples of all relevant object classes. Such fully annotated datasets are hard to create, as every pixel in a frame needs to be annotated by medical experts and, therefore, are rarely available. In this work, we propose a method to combine multiple partially annotated datasets, which provide complementary annotations, into one model, enabling better scene segmentation and the use of multiple readily available datasets. Our method aims to combine available data with complementary labels by leveraging mutual exclusive properties to maximize information. Specifically, we propose to use positive annotations of other classes as negative samples and to exclude background pixels of binary annotations, as we cannot tell if they contain a class not annotated but predicted by the model. We evaluate our method by training a DeepLabV3 on the publicly available Dresden Surgical Anatomy Dataset, which provides multiple subsets of binary segmented anatomical structures. Our approach successfully combines 6 classes into one model, increasing the overall Dice Score by 4.4% compared to an ensemble of models trained on the classes individually. By including information on multiple classes, we were able to reduce confusion between stomach and colon by 24%. Our results demonstrate the feasibility of training a model on multiple datasets. This paves the way for future work further alleviating the need for one large, fully segmented datasets. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # Causal Mode Multiplexer: 異常なマルチスペクトルペデストリアン検出のための新しいフレームワーク
Causal Mode Multiplexer: A Novel Framework for Unbiased Multispectral Pedestrian Detection ( http://arxiv.org/abs/2403.01300v2 ) ライセンス: Link先を確認 | Taeheon Kim, Sebin Shin, Youngjoon Yu, Hak Gu Kim, Yong Man Ro, | (参考訳) RGBTマルチスペクトル歩行者検出は、昼夜操作を必要とする安全クリティカルなアプリケーションのための有望なソリューションとして登場した。
しかし、多スペクトル歩行者検出器がデータセットの統計的バイアスを学ぶため、モダリティバイアス問題は未解決のままである。
具体的には、マルチスペクトル歩行者検出におけるデータセットは、主にROTO(日)とRXTO(夜)のデータに分散しており、ほとんどの歩行者ラベルは、その熱的特徴と統計的に一致している。
その結果、マルチスペクトル歩行者検出器は、ROTXデータのようなこの統計的相関を超える例において、一般化能力の低下を示した。
この問題に対処するために,マルチスペクトル入力と予測の因果関係を効果的に学習する新しい因果モード多重化(CMM)フレームワークを提案する。
さらに,マルチスペクトル歩行者検出におけるモダリティバイアスを評価するために,新しいデータセット(ROTX-MP)を構築した。
ROTX-MPは主に、以前のデータセットに表示されていないROTXの例を含んでいる。
提案するCMMフレームワークは,既存のデータセット(KAIST, CVC-14, FLIR)と新しいROTX-MPによく適用可能であることを示す。
今後の研究のために、新しいデータセットを一般公開します。
RGBT multispectral pedestrian detection has emerged as a promising solution for safety-critical applications that require day/night operations. However, the modality bias problem remains unsolved as multispectral pedestrian detectors learn the statistical bias in datasets. Specifically, datasets in multispectral pedestrian detection mainly distribute between ROTO (day) and RXTO (night) data; the majority of the pedestrian labels statistically co-occur with their thermal features. As a result, multispectral pedestrian detectors show poor generalization ability on examples beyond this statistical correlation, such as ROTX data. To address this problem, we propose a novel Causal Mode Multiplexer (CMM) framework that effectively learns the causalities between multispectral inputs and predictions. Moreover, we construct a new dataset (ROTX-MP) to evaluate modality bias in multispectral pedestrian detection. ROTX-MP mainly includes ROTX examples not presented in previous datasets. Extensive experiments demonstrate that our proposed CMM framework generalizes well on existing datasets (KAIST, CVC-14, FLIR) and the new ROTX-MP. We will release our new dataset to the public for future research. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # Dynamic AdapterがPrompt Tuningと出会う: ポイントクラウド分析のためのパラメータ効率のよいトランスファー学習
Dynamic Adapter Meets Prompt Tuning: Parameter-Efficient Transfer Learning for Point Cloud Analysis ( http://arxiv.org/abs/2403.01439v2 ) ライセンス: Link先を確認 | Xin Zhou, Dingkang Liang, Wei Xu, Xingkui Zhu, Yihan Xu, Zhikang Zou, Xiang Bai, | (参考訳) ポイントクラウド分析は、事前訓練されたモデルのポイントクラウドの転送によって、優れたパフォーマンスを実現している。
しかし、モデル適応のための既存のメソッドは通常、全てのモデルパラメータ、すなわち完全な微調整パラダイムを更新する。
本稿では,タスク性能とパラメータ効率のトレードオフを考慮した,ポイントクラウド解析のためのパラメータ効率変換学習を提案する。
この目標を達成するために、デフォルトの事前訓練されたモデルのパラメータを凍結し、ダウンストリームタスクに対するトークンの重要度を考慮して各トークンの動的スケールを生成するDynamic Adapterを提案する。
さらに、動的アダプタとPrompt Tuning(DAPT)をシームレスに統合し、内部のPromptを構築し、対話のためのインスタンス固有の特徴をキャプチャします。
5つの挑戦的なデータセットで実施された大規模な実験により、提案されたDAPTは、トレーニング可能なパラメータを著しく削減し、それぞれ95%と35%のGPUメモリをトレーニングしながら、フルチューニングしたデータセットよりも優れたパフォーマンスを実現していることが示された。
コードはhttps://github.com/LMD0311/DAPTで入手できる。
Point cloud analysis has achieved outstanding performance by transferring point cloud pre-trained models. However, existing methods for model adaptation usually update all model parameters, i.e., full fine-tuning paradigm, which is inefficient as it relies on high computational costs (e.g., training GPU memory) and massive storage space. In this paper, we aim to study parameter-efficient transfer learning for point cloud analysis with an ideal trade-off between task performance and parameter efficiency. To achieve this goal, we freeze the parameters of the default pre-trained models and then propose the Dynamic Adapter, which generates a dynamic scale for each token, considering the token significance to the downstream task. We further seamlessly integrate Dynamic Adapter with Prompt Tuning (DAPT) by constructing Internal Prompts, capturing the instance-specific features for interaction. Extensive experiments conducted on five challenging datasets demonstrate that the proposed DAPT achieves superior performance compared to the full fine-tuning counterparts while significantly reducing the trainable parameters and training GPU memory by 95% and 35%, respectively. Code is available at https://github.com/LMD0311/DAPT. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # EAGLE: オブジェクト中心の教師なしセマンティックセマンティックセグメンテーションのための固有集約学習
EAGLE: Eigen Aggregation Learning for Object-Centric Unsupervised Semantic Segmentation ( http://arxiv.org/abs/2403.01482v4 ) ライセンス: Link先を確認 | Chanyoung Kim, Woojung Han, Dayun Ju, Seong Jae Hwang, | (参考訳) セマンティックセグメンテーションは、本来は広いピクセルレベルの注釈付きデータに依存しており、教師なしの方法論の出現につながっている。
その中では、教師なしセマンティックセグメンテーション(USS)に自己教師付きビジョントランスフォーマーを活用することで、表現力のある深い特徴で着実に進歩している。
しかし、複雑なオブジェクトでイメージをセグメンテーションする際、重要な課題は、パッチレベルの機能に明示的なオブジェクトレベルのセマンティックエンコーディングがないことである。
この技術的な制限は、しばしば多様な構造を持つ複素対象の十分でない部分化につながる。
このギャップに対処するために、教師なしセマンティックセグメンテーションのためのオブジェクト指向表現学習を強調する新しいアプローチであるEAGLEを提案する。
具体的には、深部画像の特徴と色親和性のセマンティック類似性行列から導かれる固有ベイジを通じて、意味的および構造的手がかりを提供するスペクトル技術であるEiCueを紹介する。
さらに,EiCueにオブジェクト中心のコントラスト損失を組み込むことで,画像内および画像間のオブジェクト間整合性でオブジェクトレベルの表現を学習し,セマンティックな精度を向上させる。
COCO-Stuff、Cityscapes、Potsdam-3データセットに関する大規模な実験は、複雑なシーンにわたる正確で一貫したセマンティックセグメンテーションを備えたEAGLEの最先端のUSS結果を示している。
Semantic segmentation has innately relied on extensive pixel-level annotated data, leading to the emergence of unsupervised methodologies. Among them, leveraging self-supervised Vision Transformers for unsupervised semantic segmentation (USS) has been making steady progress with expressive deep features. Yet, for semantically segmenting images with complex objects, a predominant challenge remains: the lack of explicit object-level semantic encoding in patch-level features. This technical limitation often leads to inadequate segmentation of complex objects with diverse structures. To address this gap, we present a novel approach, EAGLE, which emphasizes object-centric representation learning for unsupervised semantic segmentation. Specifically, we introduce EiCue, a spectral technique providing semantic and structural cues through an eigenbasis derived from the semantic similarity matrix of deep image features and color affinity from an image. Further, by incorporating our object-centric contrastive loss with EiCue, we guide our model to learn object-level representations with intra- and inter-image object-feature consistency, thereby enhancing semantic accuracy. Extensive experiments on COCO-Stuff, Cityscapes, and Potsdam-3 datasets demonstrate the state-of-the-art USS results of EAGLE with accurate and consistent semantic segmentation across complex scenes. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # Pearl: レビュー駆動のペルソナ知識基底会話推奨データセット
Pearl: A Review-driven Persona-Knowledge Grounded Conversational Recommendation Dataset ( http://arxiv.org/abs/2403.04460v3 ) ライセンス: Link先を確認 | Minjin Kim, Minju Kim, Hana Kim, Beong-woo Kwak, Soyeon Chun, Hyunseo Kim, SeongKu Kang, Youngjae Yu, Jinyoung Yeo, Dongha Lee, | (参考訳) 会話レコメンデータシステムは、特に会話入力に対する多様な推論を可能にする大規模言語モデル(LLM)の発展とともに、コミュニティへの関心が高まっている新興分野である。
進歩にもかかわらず、フィールドには探索する多くの側面があります。
現在利用可能な会話レコメンデーション用の公開データセットには、特定のユーザの好みやレコメンデーションの説明がなく、高品質なレコメンデーションを妨げている。
このような課題に対処するために,ペルソナと知識を付加したLLMシミュレータを用いて合成した,PEARLという対話型推薦データセットを提案する。
実世界のレビューから詳細なペルソナと知識を取得し,57k以上の対話を伴う大規模データセットを構築した。
実験の結果, PEARLにおける発話には, より具体的なユーザの嗜好が含まれ, 対象領域の専門知識を示し, 従来のデータセットよりも対話コンテキストに関連性のあるレコメンデーションを提供することがわかった。
Conversational recommender system is an emerging area that has garnered an increasing interest in the community, especially with the advancements in large language models (LLMs) that enable diverse reasoning over conversational input. Despite the progress, the field has many aspects left to explore. The currently available public datasets for conversational recommendation lack specific user preferences and explanations for recommendations, hindering high-quality recommendations. To address such challenges, we present a novel conversational recommendation dataset named PEARL, synthesized with persona- and knowledge-augmented LLM simulators. We obtain detailed persona and knowledge from real-world reviews and construct a large-scale dataset with over 57k dialogues. Our experimental results demonstrate that utterances in PEARL include more specific user preferences, show expertise in the target domain, and provide recommendations more relevant to the dialogue context than those in prior datasets. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # RadarDistill:LiDAR特徴量からの知識蒸留によるレーダベース物体検出性能の向上
RadarDistill: Boosting Radar-based Object Detection Performance via Knowledge Distillation from LiDAR Features ( http://arxiv.org/abs/2403.05061v2 ) ライセンス: Link先を確認 | Geonho Bang, Kwangjin Choi, Jisong Kim, Dongsuk Kum, Jun Won Choi, | (参考訳) レーダデータの固有ノイズとスパース特性は、3次元物体検出に有効な表現を見つける上での課題となる。
本稿では,新しい知識蒸留(KD)手法であるRadarDistillを提案し,LiDARデータを利用してレーダデータの表現を改善する。
RadarDistillは、CMA(Cross-Modality Alignment)、AFD(Activation-based Feature Distillation)、PFD(Product-based Feature Distillation)の3つの主要コンポーネントを使用して、LiDARの望ましい特徴をレーダー特徴に伝達することに成功した。
CMAは、複数のダイレーション演算を用いてレーダー特性の密度を高め、LiDARからレーダーへの非効率な知識伝達の課題に効果的に対処する。
AFDは、活性化強度が予め定義された閾値を超える領域に特化して、LiDAR特徴の領域に基づいて知識を選択的に転送する。
PFDも同様にレーダーネットワークを誘導し、オブジェクトの提案の中でLiDARネットワークから機能を選択的に模倣する。
nuScenesデータセットとの比較分析により、RadarDistillは、レーダーのみのオブジェクト検出タスクにおいて、20.5%のmAP、43.7%のNDSで、最先端(SOTA)性能を達成することが示された。
また、RadarDistillは、カメラレーダ融合モデルの性能を大幅に改善する。
The inherent noisy and sparse characteristics of radar data pose challenges in finding effective representations for 3D object detection. In this paper, we propose RadarDistill, a novel knowledge distillation (KD) method, which can improve the representation of radar data by leveraging LiDAR data. RadarDistill successfully transfers desirable characteristics of LiDAR features into radar features using three key components: Cross-Modality Alignment (CMA), Activation-based Feature Distillation (AFD), and Proposal-based Feature Distillation (PFD). CMA enhances the density of radar features by employing multiple layers of dilation operations, effectively addressing the challenge of inefficient knowledge transfer from LiDAR to radar. AFD selectively transfers knowledge based on regions of the LiDAR features, with a specific focus on areas where activation intensity exceeds a predefined threshold. PFD similarly guides the radar network to selectively mimic features from the LiDAR network within the object proposals. Our comparative analyses conducted on the nuScenes datasets demonstrate that RadarDistill achieves state-of-the-art (SOTA) performance for radar-only object detection task, recording 20.5% in mAP and 43.7% in NDS. Also, RadarDistill significantly improves the performance of the camera-radar fusion model. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # OMH: 教師なしセマンティックセグメンテーションのための最適整合階層による構造的疎結合
OMH: Structured Sparsity via Optimally Matched Hierarchy for Unsupervised Semantic Segmentation ( http://arxiv.org/abs/2403.06546v2 ) ライセンス: Link先を確認 | Baran Ozaydin, Tong Zhang, Deblina Bhattacharjee, Sabine Süsstrunk, Mathieu Salzmann, | (参考訳) 教師なしセマンティックセグメンテーション (USS Semantic Segmentation) は、事前に定義されたラベルに頼ることなく、画像のセグメンテーションを行う。
既存の手法では、自己教師付きモデルとクラスタリングの特定の先行機能を利用する。
しかしながら、彼らのクラスタリングの目的は、トレーニング中の機能の最適化に関与していません。
さらに、USSの明確なクラス定義が欠如しているため、結果のセグメントはクラスタリングの目的とうまく一致しない可能性がある。
本稿では,OMH (Optimally Matched Hierarchy) と呼ばれる新しい手法を提案する。
提案手法のコアは,特徴空間に構造的空間を付与することにある。
この空間構造は階層構造(OMH)に由来する。
これを実現するために,並列クラスタ間のソフトだがスパースな階層構造をOptimal Transportを通して学習する。
我々のOMHは既存のUSS法と比較して教師なしセグメンテーション性能がよい。
我々はOMHの利点を多岐にわたる実験で実証した。
コードを公開します。
Unsupervised Semantic Segmentation (USS) involves segmenting images without relying on predefined labels, aiming to alleviate the burden of extensive human labeling. Existing methods utilize features generated by self-supervised models and specific priors for clustering. However, their clustering objectives are not involved in the optimization of the features during training. Additionally, due to the lack of clear class definitions in USS, the resulting segments may not align well with the clustering objective. In this paper, we introduce a novel approach called Optimally Matched Hierarchy (OMH) to simultaneously address the above issues. The core of our method lies in imposing structured sparsity on the feature space, which allows the features to encode information with different levels of granularity. The structure of this sparsity stems from our hierarchy (OMH). To achieve this, we learn a soft but sparse hierarchy among parallel clusters through Optimal Transport. Our OMH yields better unsupervised segmentation performance compared to existing USS methods. Our extensive experiments demonstrate the benefits of OMH when utilizing our differentiable paradigm. We will make our code publicly available. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # スケーリング法則の謎を解き明かす:パート1
Unraveling the Mystery of Scaling Laws: Part I ( http://arxiv.org/abs/2403.06563v3 ) ライセンス: Link先を確認 | Hui Su, Zhi Tian, Xiaoyu Shen, Xunliang Cai, | (参考訳) 法則のスケーリングは、モデルサイズ、データセットサイズ、トレーニングで使用される計算リソースなどの損失と変数の間のパワー-ルールの相関を示す。
これらの原則はモデル事前学習の様々な側面を最適化する上で重要な役割を担い、最終的にGPT-4、Llama、Geminiといった大規模言語モデルの成功に寄与する。
しかし、OpenAIの当初のスケーリング法論文は、正確なスケーリング法則を導出するために必要な完全な詳細を明らかにしておらず、その結論は15億のパラメータを含むモデルのみに基づいている。
その後の研究では、これらの詳細を明らかにして、より大きなモデルにスケールしようとするが、学習率、コンテキスト長、バッチサイズといった重要な要素のトレーニング依存性を無視することが多く、テスト損失軌跡を予測するための信頼性の高い公式の確立に失敗した。
本稿では,従来のOpenAI論文で提案されたスケーリング法則の定式化が,モデルサイズを最大33億までスケールする場合においても有効であることが確認されるが,これらの公式の定数係数は実験装置によって大きく異なる。
1M~60Mのパラメータしか持たないモデルでトレーニングすることで,有効な因子を慎重に同定し,拡張法則の全ての定数項を推定するための透過的,ステップバイステップの指示を与える。
これらの推定式を用いて,(1)最小限のテスト損失の最小化,(2)特定の損失を達成するために必要な最小限のトレーニングステップと処理トークン,(3)任意の損失値で最適時間/計算トレードオフを持つクリティカルバッチサイズ,(4)任意のバッチサイズを持つ完全テスト損失軌跡など,トレーニング前に最大33Bパラメータのモデルに対して,様々な属性を正確に予測する能力を示す。
Scaling law principles indicate a power-law correlation between loss and variables such as model size, dataset size, and computational resources utilized during training. These principles play a vital role in optimizing various aspects of model pre-training, ultimately contributing to the success of large language models such as GPT-4, Llama and Gemini. However, the original scaling law paper by OpenAI did not disclose the complete details necessary to derive the precise scaling law formulas, and their conclusions are only based on models containing up to 1.5 billion parameters. Though some subsequent works attempt to unveil these details and scale to larger models, they often neglect the training dependency of important factors such as the learning rate, context length and batch size, leading to their failure to establish a reliable formula for predicting the test loss trajectory. In this technical report, we confirm that the scaling law formulations proposed in the original OpenAI paper remain valid when scaling the model size up to 33 billion, but the constant coefficients in these formulas vary significantly with the experiment setup. We meticulously identify influential factors and provide transparent, step-by-step instructions to estimate all constant terms in scaling-law formulas by training on models with only 1M~60M parameters. Using these estimated formulas, we showcase the capability to accurately predict various attributes for models with up to 33B parameters before their training, including (1) the minimum possible test loss; (2) the minimum required training steps and processed tokens to achieve a specific loss; (3) the critical batch size with an optimal time/computation trade-off at any loss value; and (4) the complete test loss trajectory with arbitrary batch size. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # クラウドカウントのための単一ドメインの一般化
Single Domain Generalization for Crowd Counting ( http://arxiv.org/abs/2403.09124v2 ) ライセンス: Link先を確認 | Zhuoxuan Peng, S. -H. Gary Chan, | (参考訳) その有望な結果により、密度マップの回帰は画像に基づく群集カウントに広く採用されている。
しかしこのアプローチは、目に見えないシナリオ、いわゆる"ドメインシフト"問題からのデータでテストした場合、パフォーマンスの深刻な低下に悩まされることが多い。
そこで本研究では,集団カウントのための単一領域一般化(SDG)について検討する。
既存のSDGアプローチは主に画像分類とセグメンテーションのためのもので、その回帰性やラベルの曖昧さ(不明瞭なピクセルレベルの基底真理)のため、我々の場合へ拡張することは困難である。
本稿では,狭い音源分布においても有効なSDG手法であるMPCountを提案する。
MPCountは密度マップの回帰のために様々な密度値を格納し、1つのメモリバンク、コンテンツエラーマスク、アテンション一貫性損失によってドメイン不変の特徴を再構築する。
イメージをグリッドに分割することで、ラベルのあいまいさを軽減する補助タスクとしてパッチワイズ分類を採用する。
異なるデータセットに関する広範な実験を通じて、MPCountは、狭いソース分布を特徴とするトレーニングデータに観察されない様々なシナリオの下で、最先端の手法と比較して、カウント精度を著しく改善することが示されている。
コードはhttps://github.com/Shimmer93/MPCount.comから入手できる。
Due to its promising results, density map regression has been widely employed for image-based crowd counting. The approach, however, often suffers from severe performance degradation when tested on data from unseen scenarios, the so-called "domain shift" problem. To address the problem, we investigate in this work single domain generalization (SDG) for crowd counting. The existing SDG approaches are mainly for image classification and segmentation, and can hardly be extended to our case due to its regression nature and label ambiguity (i.e., ambiguous pixel-level ground truths). We propose MPCount, a novel effective SDG approach even for narrow source distribution. MPCount stores diverse density values for density map regression and reconstructs domain-invariant features by means of only one memory bank, a content error mask and attention consistency loss. By partitioning the image into grids, it employs patch-wise classification as an auxiliary task to mitigate label ambiguity. Through extensive experiments on different datasets, MPCount is shown to significantly improve counting accuracy compared to the state of the art under diverse scenarios unobserved in the training data characterized by narrow source distribution. Code is available at https://github.com/Shimmer93/MPCount. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # 因子グラフにおける交換可能な因子の効率的な検出
Efficient Detection of Exchangeable Factors in Factor Graphs ( http://arxiv.org/abs/2403.10167v2 ) ライセンス: Link先を確認 | Malte Luttermann, Johann Machemer, Marcel Gehrke, | (参考訳) ドメインサイズに関するトラクタブルな確率的推論を可能にするために、リフトされた確率的推論は確率的グラフィカルモデルにおいて対称性を利用する。
しかし、2つの因子が等価なセマンティクスを符号化しているかどうかを確認することは、計算コストが高い。
本稿では,因子グラフにおける交換可能な因子を検出する問題を効率的に解決する。
特に,交換可能因子(DEFT)検出アルゴリズムを導入し,実際に2つの因子が交換可能かどうかの計算労力を大幅に削減する。
これまでのアプローチでは、すべての$O(n!)$ permutations of a factor's argument list in the worst case (ここで$n$は係数の引数の数)を繰り返すが、DEFTは効率よく制限を識別し、置換数を劇的に減らし、経験的評価におけるDEFTの有効性を検証する。
To allow for tractable probabilistic inference with respect to domain sizes, lifted probabilistic inference exploits symmetries in probabilistic graphical models. However, checking whether two factors encode equivalent semantics and hence are exchangeable is computationally expensive. In this paper, we efficiently solve the problem of detecting exchangeable factors in a factor graph. In particular, we introduce the detection of exchangeable factors (DEFT) algorithm, which allows us to drastically reduce the computational effort for checking whether two factors are exchangeable in practice. While previous approaches iterate all $O(n!)$ permutations of a factor's argument list in the worst case (where $n$ is the number of arguments of the factor), we prove that DEFT efficiently identifies restrictions to drastically reduce the number of permutations and validate the efficiency of DEFT in our empirical evaluation. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # SCILLA:SurfaCe Implicit Learning for Large Urban Area, a volumetric hybrid solution
SCILLA: SurfaCe Implicit Learning for Large Urban Area, a volumetric hybrid solution ( http://arxiv.org/abs/2403.10344v2 ) ライセンス: Link先を確認 | Hala Djeghim, Nathan Piasco, Moussab Bennehar, Luis Roldão, Dzmitry Tsishkou, Désiré Sidibé, | (参考訳) ニューラルな暗黙的表面表現法は、最近、印象的な3D再構成結果を示している。
しかし、既存のソリューションは、大きな、束縛されていない、そして非常に詳細な性質のために、都市屋外のシーンを再構築するのに苦労している。
したがって、正確な再構築を実現するには、LiDAR、強力な幾何学的事前、長い訓練時間などの追加の監視データが必要である。
このような問題に対処するために,2次元画像から大規模運転シーンを再構成する新しいハイブリッド表面学習手法であるSCILLAを提案する。
SCILLAのハイブリッドアーキテクチャは、2つの異なる暗黙の場をモデル化している。
都市の屋外シナリオを正確に表現するために, 表面近傍のサンプル点に自己教師付き確率密度推定を頼り, 体積から表面表現へ徐々に遷移する新しいボリュームレンダリング戦略を導入する。
提案手法は, 符号付き距離場の適切な初期化を, 同時手法と比較して, シーン上の幾何学的事前に頼らずに実現できる。
4つの屋外運転データセットについて広範な実験を行うことで、SCILLAは、過去の最先端ソリューションに比べて2倍高速で、様々な都市シナリオにおいて、正確で詳細な3次元表面シーン表現を学習できることを示す。
Neural implicit surface representation methods have recently shown impressive 3D reconstruction results. However, existing solutions struggle to reconstruct urban outdoor scenes due to their large, unbounded, and highly detailed nature. Hence, to achieve accurate reconstructions, additional supervision data such as LiDAR, strong geometric priors, and long training times are required. To tackle such issues, we present SCILLA, a new hybrid implicit surface learning method to reconstruct large driving scenes from 2D images. SCILLA's hybrid architecture models two separate implicit fields: one for the volumetric density and another for the signed distance to the surface. To accurately represent urban outdoor scenarios, we introduce a novel volume-rendering strategy that relies on self-supervised probabilistic density estimation to sample points near the surface and transition progressively from volumetric to surface representation. Our solution permits a proper and fast initialization of the signed distance field without relying on any geometric prior on the scene, compared to concurrent methods. By conducting extensive experiments on four outdoor driving datasets, we show that SCILLA can learn an accurate and detailed 3D surface scene representation in various urban scenarios while being two times faster to train compared to previous state-of-the-art solutions. | 翻訳日:2024-04-08 18:16:01 公開日:2024-04-05 |
| # SWAG:外見条件ガウス像におけるスプラッティング
SWAG: Splatting in the Wild images with Appearance-conditioned Gaussians ( http://arxiv.org/abs/2403.10427v2 ) ライセンス: Link先を確認 | Hiba Dahmani, Moussab Bennehar, Nathan Piasco, Luis Roldao, Dzmitry Tsishkou, | (参考訳) 暗黙的なニューラル表現法は、未構造化画像から3Dシーンを学習する際、目覚ましい進歩を見せている。
より最近の3D Gaussian Splattingは、特に小規模およびオブジェクト中心のシナリオにおいて、より優れたレンダリング品質とトレーニング効率を備えた、はるかに高速な代替手段として登場した。
それでも、この手法は、非構造内データの性能の低下に悩まされている。
これを解決するために,非構造化画像コレクションを扱うために3次元ガウススプラッティングを拡張した。
我々は、レンダリングされた画像の光度変化を捉えるために、外観をモデル化することでこれを実現する。
さらに,シーンオブクローダの存在を教師なしで扱うために,過渡ガウシアンを訓練する新たなメカニズムを導入する。
多様な写真収集シーンの実験と屋外ランドマークのマルチパス取得実験により, 従来手法よりも効率よく, 最先端の成果が得られ, 提案手法の有効性が示された。
Implicit neural representation methods have shown impressive advancements in learning 3D scenes from unstructured in-the-wild photo collections but are still limited by the large computational cost of volumetric rendering. More recently, 3D Gaussian Splatting emerged as a much faster alternative with superior rendering quality and training efficiency, especially for small-scale and object-centric scenarios. Nevertheless, this technique suffers from poor performance on unstructured in-the-wild data. To tackle this, we extend over 3D Gaussian Splatting to handle unstructured image collections. We achieve this by modeling appearance to seize photometric variations in the rendered images. Additionally, we introduce a new mechanism to train transient Gaussians to handle the presence of scene occluders in an unsupervised manner. Experiments on diverse photo collection scenes and multi-pass acquisition of outdoor landmarks show the effectiveness of our method over prior works achieving state-of-the-art results with improved efficiency. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # WaterVG:テキスト誘導ビジョンとmmWaveレーダに基づく水路視覚接地
WaterVG: Waterway Visual Grounding based on Text-Guided Vision and mmWave Radar ( http://arxiv.org/abs/2403.12686v3 ) ライセンス: Link先を確認 | Runwei Guan, Liye Jia, Fengyufan Yang, Shanliang Yao, Erick Purwanto, Xiaohui Zhu, Eng Gee Lim, Jeremy Smith, Ka Lok Man, Xuming Hu, Yutao Yue, | (参考訳) ヒトの意図に基づく水路の認識は、水環境における無人表面車両(USV)の自律航法と運用において重要である。
視覚的グラウンドティングにインスパイアされ、人間のプロンプトに基づいてUSVベースの水路知覚のために設計された最初の視覚的グラウンドニングデータセットであるWaterVGを紹介した。
WaterVGには、複数のターゲットを記述するプロンプトが含まれており、バウンディングボックスやマスクを含むインスタンスレベルのアノテーションがある。
特に、WaterVGは34,987個の目標を持つ11,568個のサンプルを含んでおり、そのプロンプトは視覚とレーダーの両方の特徴を統合している。
テキスト誘導された2つのセンサーのパターンは、テキストプロンプトの細かい粒度と参照対象の視覚的特徴とレーダー的特徴とを装備する。
さらに, 適応レーダ重み付け (ARW) やマルチヘッドスリムクロスアテンション (MHSCA) を含む, 位相不均一モード (PHMF) モードをよく設計したマルチタスクモデルであるpotamoiを提案する。
正確には、ARWの抽出はレーダーの特徴を瞬時アライメントのために視覚と融合させる必要があった。
MHSCAは、非常に小さなパラメータ数とFLOPを持つ効率的な融合モジュールであり、視覚的グラウンドタスクで表現可能な2つの特徴を持つ2つのセンサーによって捕捉されたシナリオコンテキストをエレガントに融合する。
WaterVGの総合的な実験と評価が行われており、Patamoiは最先端のパフォーマンスを比較検討している。
The perception of waterways based on human intent is significant for autonomous navigation and operations of Unmanned Surface Vehicles (USVs) in water environments. Inspired by visual grounding, we introduce WaterVG, the first visual grounding dataset designed for USV-based waterway perception based on human prompts. WaterVG encompasses prompts describing multiple targets, with annotations at the instance level including bounding boxes and masks. Notably, WaterVG includes 11,568 samples with 34,987 referred targets, whose prompts integrates both visual and radar characteristics. The pattern of text-guided two sensors equips a finer granularity of text prompts with visual and radar features of referred targets. Moreover, we propose a low-power visual grounding model, Potamoi, which is a multi-task model with a well-designed Phased Heterogeneous Modality Fusion (PHMF) mode, including Adaptive Radar Weighting (ARW) and Multi-Head Slim Cross Attention (MHSCA). Exactly, ARW extracts required radar features to fuse with vision for prompt alignment. MHSCA is an efficient fusion module with a remarkably small parameter count and FLOPs, elegantly fusing scenario context captured by two sensors with linguistic features, which performs expressively on visual grounding tasks. Comprehensive experiments and evaluations have been conducted on WaterVG, where our Potamoi archives state-of-the-art performances compared with counterparts. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # インテリジェントシステムにおける安全臨界イベントの正確な予測可能性
Accurately Predicting Probabilities of Safety-Critical Rare Events for Intelligent Systems ( http://arxiv.org/abs/2403.13869v3 ) ライセンス: Link先を確認 | Ruoxuan Bai, Jingxuan Yang, Weiduo Gong, Yi Zhang, Qiujing Lu, Shuo Feng, | (参考訳) インテリジェントなシステムは私たちの日常生活にますます不可欠なものになっていますが、安全クリティカルな出来事は実践的な展開に重大な脅威をもたらします。
この課題に対処するためには、現在の状態から与えられた時間ステップ内で発生する安全クリティカル事象の確率を正確に予測する。
臨界の予測の複雑さは、希少事象に関連する高次元変数における希少事象による極端なデータ不均衡から生じる。
既存の方法は、過度に保守的であるか、安全クリティカルな出来事を見渡す傾向があるため、高い精度とリコール率の両方を達成するのに苦労し、適用性を著しく制限する傾向にある。
本研究は,安全クリティカルな自律システムの臨界度を評価するために,精度とリコール率を両立させる臨界予測モデルを開発することを目的とする。
本稿では,データセットを段階的に密度化するために設計された多段階学習フレームワークを提案する。
アプローチを検証するために,月面着陸機と二足歩行機という2つの事例で評価を行った。
その結果,本手法は従来の手法を超越し,知的システムにおける臨界度をより正確かつ信頼性の高い評価を行うことができた。
Intelligent systems are increasingly integral to our daily lives, yet rare safety-critical events present significant latent threats to their practical deployment. Addressing this challenge hinges on accurately predicting the probability of safety-critical events occurring within a given time step from the current state, a metric we define as 'criticality'. The complexity of predicting criticality arises from the extreme data imbalance caused by rare events in high dimensional variables associated with the rare events, a challenge we refer to as the curse of rarity. Existing methods tend to be either overly conservative or prone to overlooking safety-critical events, thus struggling to achieve both high precision and recall rates, which severely limits their applicability. This study endeavors to develop a criticality prediction model that excels in both precision and recall rates for evaluating the criticality of safety-critical autonomous systems. We propose a multi-stage learning framework designed to progressively densify the dataset, mitigating the curse of rarity across stages. To validate our approach, we evaluate it in two cases: lunar lander and bipedal walker scenarios. The results demonstrate that our method surpasses traditional approaches, providing a more accurate and dependable assessment of criticality in intelligent systems. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # 注意駆動推論: 大規模言語モデルの可能性を解き放つ
Attention-Driven Reasoning: Unlocking the Potential of Large Language Models ( http://arxiv.org/abs/2403.14932v2 ) ライセンス: Link先を確認 | Bingli Liao, Danilo Vasconcellos Vargas, | (参考訳) 大きな言語モデル(LLM)は目覚ましい能力を示しているが、その推論能力と基盤となるメカニズムはいまだによく分かっていない。
本稿では,注意機構の最適化によるLCMの推論を,追加のトレーニングデータなしで向上させる新しい手法を提案する。
非意味的トークンによる注意分布の非効率性を同定し、歪んだ分布を再バランスさせるアルゴリズムを提案し、よりニュアンスな知識を抽象化できるようにする。
我々の実験は、特に非STEM質問に対して、推論能力を大幅に改善したことを示した。
LLMの推論における注意パターンの役割に関する洞察を提供し、これらの能力を高める手法を提案し、より強力で汎用的な言語モデルを構築する。
Large Language Models (LLMs) have shown remarkable capabilities, but their reasoning abilities and underlying mechanisms remain poorly understood. We present a novel approach to enhance LLMs' reasoning through attention mechanism optimization, without additional training data. We identify inefficiencies in the attention distribution caused by non-semantic tokens and propose an algorithm to re-balance the skewed distribution, enabling the model to abstract more nuanced knowledge. Our experiments demonstrate significantly improved reasoning capabilities, particularly for non-STEM questions. We provide insights into the role of attention patterns in LLMs' reasoning and propose a method to enhance these abilities, paving the way for more powerful and versatile language models. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # SemEval-2024タスク8におけるMasonTigers: 機械生成テキスト検出におけるトランスフォーマーモデルの性能解析
MasonTigers at SemEval-2024 Task 8: Performance Analysis of Transformer-based Models on Machine-Generated Text Detection ( http://arxiv.org/abs/2403.14989v2 ) ライセンス: Link先を確認 | Sadiya Sayara Chowdhury Puspo, Md Nishat Raihan, Dhiman Goswami, Al Nahian Bin Emran, Amrita Ganguly, Ozlem Uzuner, | (参考訳) 本稿では,SemEval-2024 Task 8 - Multigenerator, Multi domain, and Multilingual Black-Box Machine-Generated Text DetectionのMasonTigersエントリについて述べる。
このタスクは、バイナリ人文対マシン生成テキスト分類(トラックA)、マルチウェイマシン生成テキスト分類(トラックB)、ヒューマン・マシン混合テキスト検出(トラックC)を含む。
本稿では,主に識別器変換器モデルのアンサンブルと,特定の事例における文変換器と統計的機械学習のアプローチを利用する。
また、トラックA,BにはFLAN-T5のゼロショットプロンプトと微調整が用いられる。
This paper presents the MasonTigers entry to the SemEval-2024 Task 8 - Multigenerator, Multidomain, and Multilingual Black-Box Machine-Generated Text Detection. The task encompasses Binary Human-Written vs. Machine-Generated Text Classification (Track A), Multi-Way Machine-Generated Text Classification (Track B), and Human-Machine Mixed Text Detection (Track C). Our best performing approaches utilize mainly the ensemble of discriminator transformer models along with sentence transformer and statistical machine learning approaches in specific cases. Moreover, zero-shot prompting and fine-tuning of FLAN-T5 are used for Track A and B. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # ChatGPTによるプログラミング教育の強化--Pythonコースにおける学生の知覚とインタラクションを事例として
Enhancing Programming Education with ChatGPT: A Case Study on Student Perceptions and Interactions in a Python Course ( http://arxiv.org/abs/2403.15472v3 ) ライセンス: Link先を確認 | Boxaun Ma, Li Chen, Shin'ichi Konomi, | (参考訳) ChatGPTは、特にプログラミングコースにおける支援ツールとして統合されており、デバッグ、コード生成、説明などの支援を提供することで、プログラミング教育の独特な課題に対処している。
ChatGPTの有効性を検証している既存の研究にもかかわらず、大学レベルのプログラミング教育におけるChatGPTの適用と、学生の相互作用と視点の詳細な理解は限定的のままである。
本稿では,8週間にわたる1年生向けのPythonプログラミングコースにおいて,ChatGPTが学習に与える影響について検討する。
調査,オープンエンド質問,学生-ChatGPTダイアログデータからの回答を分析して,ChatGPTの有用性を包括的に把握し,その利点と限界を学生が認識する。
本研究は,ChatGPTに対する肯定的な反応を明らかにし,プログラミング教育経験の向上におけるChatGPTの役割について考察する。
これらの発見は、教育におけるAIの可能性についての幅広い議論に寄与し、将来の研究と応用への道筋を示唆している。
The integration of ChatGPT as a supportive tool in education, notably in programming courses, addresses the unique challenges of programming education by providing assistance with debugging, code generation, and explanations. Despite existing research validating ChatGPT's effectiveness, its application in university-level programming education and a detailed understanding of student interactions and perspectives remain limited. This paper explores ChatGPT's impact on learning in a Python programming course tailored for first-year students over eight weeks. By analyzing responses from surveys, open-ended questions, and student-ChatGPT dialog data, we aim to provide a comprehensive view of ChatGPT's utility and identify both its advantages and limitations as perceived by students. Our study uncovers a generally positive reception toward ChatGPT and offers insights into its role in enhancing the programming education experience. These findings contribute to the broader discourse on AI's potential in education, suggesting paths for future research and application. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # 教育における学習・分析・人工知能の相互作用
The Interplay of Learning, Analytics, and Artificial Intelligence in Education ( http://arxiv.org/abs/2403.16081v2 ) ライセンス: Link先を確認 | Mutlu Cukurova, | (参考訳) 本稿では,AIと分析,学習プロセスの複雑な相互作用を強調し,学習と教育におけるAIの役割を多次元的に考察する。
ここでは、生成型AIで実証されたように、確率的ツールとしてのAIの広く普及している狭義の概念化に挑戦し、AIの代替概念化の重要性を論じる。
人工知能と人工情報処理の違い、AIアルゴリズムに固有の認知的多様性、そしてAIが人間の学習を理解するための道具としても役立つことを強調します。
AIを人間の知能のアナロジーと見なした教育研究における初期の学習科学とAIは、この観点から逸脱し、このつながりを再定義する必要が生じた。
本稿では、人間の認知の外部化、人間の思考プロセスに影響を与えるAIモデルの内部化、密に統合された人間-AIシステムによる人間の認知の拡張という、教育におけるAIのユニークな概念化について述べる。
現在の研究と実践の例は、3つの概念化の例として検討され、教育における各概念化の潜在的な価値と限界、そして、今日の生成型AIツールを取り巻く誇大宣伝で実証されているように、人間の認知の外部化に対する過大評価の危険性を強調している。
この論文は、AIについて人々を教育し、AIを有効にした世界に関係し続けるよう教育システムを革新することを含む、幅広い教育アプローチの擁護で締めくくっている。
This paper presents a multi dimensional view of AI's role in learning and education, emphasizing the intricate interplay between AI, analytics, and the learning processes. Here, I challenge the prevalent narrow conceptualization of AI as stochastic tools, as exemplified in generative AI, and argue for the importance of alternative conceptualisations of AI. I highlight the differences between human intelligence and artificial information processing, the cognitive diversity inherent in AI algorithms, and posit that AI can also serve as an instrument for understanding human learning. Early learning sciences and AI in Education research, which saw AI as an analogy for human intelligence, have diverged from this perspective, prompting a need to rekindle this connection. The paper presents three unique conceptualizations of AI in education: the externalization of human cognition, the internalization of AI models to influence human thought processes, and the extension of human cognition via tightly integrated human-AI systems. Examples from current research and practice are examined as instances of the three conceptualisations, highlighting the potential value and limitations of each conceptualisation for education, as well as the perils of overemphasis on externalising human cognition as exemplified in today's hype surrounding generative AI tools. The paper concludes with an advocacy for a broader educational approach that includes educating people about AI and innovating educational systems to remain relevant in an AI enabled world. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # GaussianCube:3次元生成モデルのための最適輸送を用いたガウス散乱の構造化
GaussianCube: Structuring Gaussian Splatting using Optimal Transport for 3D Generative Modeling ( http://arxiv.org/abs/2403.19655v2 ) ライセンス: Link先を確認 | Bowen Zhang, Yiji Cheng, Jiaolong Yang, Chunyu Wang, Feng Zhao, Yansong Tang, Dong Chen, Baining Guo, | (参考訳) 3次元ガウス散乱(GS)は3次元適合率とレンダリング速度の点でニューラルレイディアンス場よりも大幅に改善されている。
しかし、散在したガウス群によるこの非構造的表現は、生成的モデリングに重大な課題をもたらす。
この問題に対処するため,我々はGaussianCubeを紹介した。
我々はまず,自由ガウスの固定数を用いて高品質な適合結果が得られる改良された密度制約付きGSフィッティングアルゴリズムを提案し,その後,ガウスを最適輸送により事前に定義されたボクセルグリッドに再配置する。
構造的グリッド表現により、複雑な設計をせずに拡散生成モデリングにおいて、標準の3D U-Netをバックボーンとして使用できる。
ShapeNet と OmniObject3D で行った大規模な実験により,ガウスキューブを強力かつ多目的な3D表現として,定性的かつ定量的に再現できることを示す。
3D Gaussian Splatting (GS) have achieved considerable improvement over Neural Radiance Fields in terms of 3D fitting fidelity and rendering speed. However, this unstructured representation with scattered Gaussians poses a significant challenge for generative modeling. To address the problem, we introduce GaussianCube, a structured GS representation that is both powerful and efficient for generative modeling. We achieve this by first proposing a modified densification-constrained GS fitting algorithm which can yield high-quality fitting results using a fixed number of free Gaussians, and then re-arranging the Gaussians into a predefined voxel grid via Optimal Transport. The structured grid representation allows us to use standard 3D U-Net as our backbone in diffusion generative modeling without elaborate designs. Extensive experiments conducted on ShapeNet and OmniObject3D show that our model achieves state-of-the-art generation results both qualitatively and quantitatively, underscoring the potential of GaussianCube as a powerful and versatile 3D representation. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # 効率的な画像分解のための選択状態空間モデルによるリッチな特徴の学習
Learning Enriched Features via Selective State Spaces Model for Efficient Image Deblurring ( http://arxiv.org/abs/2403.20106v2 ) ライセンス: Link先を確認 | Hu Gao, Depeng Dang, | (参考訳) Image Deblurringは、高品質な画像を、それに対応するぼやけた画像から復元することを目的としている。
CNNとTransformersの出現は、大きな進歩をもたらした。
しかし、これらの手法は、長距離劣化摂動を排除し、計算効率を維持するというジレンマに直面することが多い。
選択状態空間モデル(SSM)は、線形複雑性を伴う長距離依存のモデリングにおいて有望であるが、局所画素の忘れやチャネルの冗長性といった問題にも遭遇する。
この問題に対処するために、選択状態空間モデルを利用して、リッチで正確な特徴を集約する効率的な画像デブロアリングネットワークを提案する。
具体的には,局所的不変性と非局所的情報の両方を効果的に捕捉・統合するために,局所的およびグローバルな情報ブロック(ALGBlock)を導入する。
ALGBlockは、ローカル機能とグローバル機能(CLGF)をキャプチャするモジュールと、機能集約モジュール(FA)の2つの主要なモジュールから構成されている。
CLGFモジュールは2つのブランチで構成されており、グローバルブランチは選択された状態空間モデルを介して長距離依存機能をキャプチャし、ローカルブランチは単純化されたチャネルアテンションを使用してローカル接続をモデル化し、ローカルピクセルの忘れとチャネル冗長性を低減している。
さらに,2つの枝の集合時の重みを補正し,局所的な部分のアクセント付けを行うFAモジュールを設計した。
実験により,提案手法は広く用いられているベンチマークにおいて,最先端の手法よりも優れていることが示された。
Image deblurring aims to restore a high-quality image from its corresponding blurred. The emergence of CNNs and Transformers has enabled significant progress. However, these methods often face the dilemma between eliminating long-range degradation perturbations and maintaining computational efficiency. While the selective state space model (SSM) shows promise in modeling long-range dependencies with linear complexity, it also encounters challenges such as local pixel forgetting and channel redundancy. To address this issue, we propose an efficient image deblurring network that leverages selective state spaces model to aggregate enriched and accurate features. Specifically, we introduce an aggregate local and global information block (ALGBlock) designed to effectively capture and integrate both local invariant properties and non-local information. The ALGBlock comprises two primary modules: a module for capturing local and global features (CLGF), and a feature aggregation module (FA). The CLGF module is composed of two branches: the global branch captures long-range dependency features via a selective state spaces model, while the local branch employs simplified channel attention to model local connectivity, thereby reducing local pixel forgetting and channel redundancy. In addition, we design a FA module to accentuate the local part by recalibrating the weight during the aggregation of the two branches for restoration. Experimental results demonstrate that the proposed method outperforms state-of-the-art approaches on widely used benchmarks. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # DVIS-DAQ:動的アンカークエリによるビデオセグメンテーションの改善
DVIS-DAQ: Improving Video Segmentation via Dynamic Anchor Queries ( http://arxiv.org/abs/2404.00086v2 ) ライセンス: Link先を確認 | Yikang Zhou, Tao Zhang, Shunping Ji, Shuicheng Yan, Xiangtai Li, | (参考訳) 現代のビデオセグメンテーション手法では、大規模な動きや過渡的閉塞にもかかわらず、オブジェクトクエリを用いてフレーム間アソシエーションを行い、連続的に現れるオブジェクトを追跡するのに満足な性能を示す。
しかし、それらはいずれも、背景と前景のクエリ間の大きな特徴ギャップを持つ特徴遷移を通じて、オブジェクトの出現と消失をモデル化しようとするために、現実世界でよく見られる、新しく出現し、消滅するオブジェクトに過小評価されている。
本稿では,潜在的な候補の特徴に基づいて,アンカークエリを動的に生成することにより,アンカーとターゲットクエリ間の遷移ギャップを短くする動的アンカークエリ(DAQ)を提案する。
さらに,クエリレベルのオブジェクトEmergence and Disappearance Simulation (EDS) 戦略を導入する。
最後に、提案したDAQとEDSをDVISと組み合わせてDVIS-DAQを得る。
大規模な実験により、DVIS-DAQは5つの主流ビデオセグメンテーションベンチマーク上で、新しい最先端(SOTA)性能を達成することが示された。
コードとモデルは \url{https://github.com/SkyworkAI/DAQ-VS} で公開されている。
Modern video segmentation methods adopt object queries to perform inter-frame association and demonstrate satisfactory performance in tracking continuously appearing objects despite large-scale motion and transient occlusion. However, they all underperform on newly emerging and disappearing objects that are common in the real world because they attempt to model object emergence and disappearance through feature transitions between background and foreground queries that have significant feature gaps. We introduce Dynamic Anchor Queries (DAQ) to shorten the transition gap between the anchor and target queries by dynamically generating anchor queries based on the features of potential candidates. Furthermore, we introduce a query-level object Emergence and Disappearance Simulation (EDS) strategy, which unleashes DAQ's potential without any additional cost. Finally, we combine our proposed DAQ and EDS with DVIS to obtain DVIS-DAQ. Extensive experiments demonstrate that DVIS-DAQ achieves a new state-of-the-art (SOTA) performance on five mainstream video segmentation benchmarks. Code and models are available at \url{https://github.com/SkyworkAI/DAQ-VS}. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # アクティブビジョンシステムの固有対向ロバスト性について
On Inherent Adversarial Robustness of Active Vision Systems ( http://arxiv.org/abs/2404.00185v2 ) ライセンス: Link先を確認 | Amitangshu Mukherjee, Timur Ibrayev, Kaushik Roy, | (参考訳) 現在のディープニューラルネットワークは、敵の例に弱いため、慎重に作り上げられたノイズを加えることで予測を変更できる。
人間の目はそのような入力に対して堅牢であるため、この脆弱性は1ショットで全てのピクセルを同じ重要性で処理することで、入力を処理する標準的な方法に由来する可能性がある。
対照的に神経科学は、人間の視覚システムは(1)複数の固定点(サケード)を切り替え、(2)周囲を一様でない外部分解能(探索)で処理することで、有能な特徴を区別することができることを示唆している。
本研究では,このようなアクティブビジョン機構を現在のディープラーニングシステムに統合することで,堅牢性の向上が期待できると考えている。
具体的には、ブラックボックス脅威モデルの下で、GFNetとFALconという2つのアクティブビジョン手法の本質的な堅牢性を実証的に実証する。
入力中の複数の異なる固定点から得られたサンプル化されたスリープを学習し、推論することにより、これらのアクティブな手法は、最先端の敵攻撃下での標準的なパッシブ畳み込みネットワークに比べて、(2-3)大きなロバスト性を達成することを示す。
さらに重要なことは、異なる固定点からの推論を行うと、アクティブな視覚メソッドが悪意のある入力に対して脆弱になることを示す、図解的で解釈可能な可視化分析を提供することである。
Current Deep Neural Networks are vulnerable to adversarial examples, which alter their predictions by adding carefully crafted noise. Since human eyes are robust to such inputs, it is possible that the vulnerability stems from the standard way of processing inputs in one shot by processing every pixel with the same importance. In contrast, neuroscience suggests that the human vision system can differentiate salient features by (1) switching between multiple fixation points (saccades) and (2) processing the surrounding with a non-uniform external resolution (foveation). In this work, we advocate that the integration of such active vision mechanisms into current deep learning systems can offer robustness benefits. Specifically, we empirically demonstrate the inherent robustness of two active vision methods - GFNet and FALcon - under a black box threat model. By learning and inferencing based on downsampled glimpses obtained from multiple distinct fixation points within an input, we show that these active methods achieve (2-3) times greater robustness compared to a standard passive convolutional network under state-of-the-art adversarial attacks. More importantly, we provide illustrative and interpretable visualization analysis that demonstrates how performing inference from distinct fixation points makes active vision methods less vulnerable to malicious inputs. | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # DE-HNN:回路ネットリスト表現のための効果的なニューラルモデル
DE-HNN: An effective neural model for Circuit Netlist representation ( http://arxiv.org/abs/2404.00477v2 ) ライセンス: Link先を確認 | Zhishang Luo, Truong Son Hy, Puoya Tabaghi, Donghyeon Koh, Michael Defferrard, Elahe Rezaei, Ryan Carey, Rhett Davis, Rajeev Jain, Yusu Wang, | (参考訳) チップ設計で使用される最適化ツールのランタイムは、設計の複雑さによって成長し、ボトルネックとなった1つの設計サイクルを通過するのに数日を要した。
設計者は、設計に対して素早くフィードバックを得られる高速なツールを望んでいる。
過去のデザインからのツールの入力と出力データを使用することで、ツールの実行よりもはるかに短い時間で設計結果を予測する機械学習モデルを構築することができる。
このようなモデルの精度は、通常、デジタル回路の要素とそれらがどのように接続されているかを記述したネットリストである設計データの表現に影響される。
グラフニューラルネットワークとともにネットリストのグラフ表現について,そのようなモデルについて検討した。
しかしながら、ネットリストの特徴は、多数のノードとノード間の長距離相互作用の重要性から、既存のグラフ学習フレームワークにいくつかの課題をもたらす。
これらの課題に対処するために、ネットリストを有向ハイパーグラフとして表現し、(直接)ハイパーグラフを効果的に学習するための指向同変ハイパーグラフニューラルネットワーク(DE-HNN)を提案する。
理論的には、我々のDE-HNNは、ある置換同変および有向超グラフに対して自然な不変性を満たす任意のノードまたはハイパーエッジ基底関数を普遍的に近似できることを示す。
提案したDEC-HNNと、(ハイパー)グラフとネットリストのための複数のSOTA(State-of-the-art)機械学習モデルを比較し、DEC-HNNが入力されたネットリストから直接、最適化された場所と経路のツールの結果を予測する上で、それらを著しく上回っていることを示す。
私たちのソースコードと使用するネットリストデータはhttps://github.com/YusuLab/chips.gitで公開されています。
The run-time for optimization tools used in chip design has grown with the complexity of designs to the point where it can take several days to go through one design cycle which has become a bottleneck. Designers want fast tools that can quickly give feedback on a design. Using the input and output data of the tools from past designs, one can attempt to build a machine learning model that predicts the outcome of a design in significantly shorter time than running the tool. The accuracy of such models is affected by the representation of the design data, which is usually a netlist that describes the elements of the digital circuit and how they are connected. Graph representations for the netlist together with graph neural networks have been investigated for such models. However, the characteristics of netlists pose several challenges for existing graph learning frameworks, due to the large number of nodes and the importance of long-range interactions between nodes. To address these challenges, we represent the netlist as a directed hypergraph and propose a Directional Equivariant Hypergraph Neural Network (DE-HNN) for the effective learning of (directed) hypergraphs. Theoretically, we show that our DE-HNN can universally approximate any node or hyperedge based function that satisfies certain permutation equivariant and invariant properties natural for directed hypergraphs. We compare the proposed DE-HNN with several State-of-the-art (SOTA) machine learning models for (hyper)graphs and netlists, and show that the DE-HNN significantly outperforms them in predicting the outcome of optimized place-and-route tools directly from the input netlists. Our source code and the netlists data used are publicly available at https://github.com/YusuLab/chips.git | 翻訳日:2024-04-08 18:06:16 公開日:2024-04-05 |
| # 94%がCIFAR-10で3.29秒間、シングルGPUで
94% on CIFAR-10 in 3.29 Seconds on a Single GPU ( http://arxiv.org/abs/2404.00498v2 ) ライセンス: Link先を確認 | Keller Jordan, | (参考訳) CIFAR-10は機械学習で最も広く使われているデータセットの1つであり、年間数千の研究プロジェクトを促進している。
CIFAR-10は3.29秒で94%,10.4秒で95%,46.3秒で96%に達する。
これらのトレーニング速度に寄与する要因の1つとして,水平転動増強のデランドマイズ版を提案する。
私たちのコードはhttps://github.com/KellerJordan/cifar10-airbench.comで公開されています。
CIFAR-10 is among the most widely used datasets in machine learning, facilitating thousands of research projects per year. To accelerate research and reduce the cost of experiments, we introduce training methods for CIFAR-10 which reach 94% accuracy in 3.29 seconds, 95% in 10.4 seconds, and 96% in 46.3 seconds, when run on a single NVIDIA A100 GPU. As one factor contributing to these training speeds, we propose a derandomized variant of horizontal flipping augmentation, which we show improves over the standard method in every case where flipping is beneficial over no flipping at all. Our code is released at https://github.com/KellerJordan/cifar10-airbench. | 翻訳日:2024-04-08 17:55:13 公開日:2024-04-05 |
| # コンピュータ適応テストに関する調査--機械学習の視点から
Survey of Computerized Adaptive Testing: A Machine Learning Perspective ( http://arxiv.org/abs/2404.00712v2 ) ライセンス: Link先を確認 | Qi Liu, Yan Zhuang, Haoyang Bi, Zhenya Huang, Weizhe Huang, Jiatong Li, Junhao Yu, Zirui Liu, Zirui Hu, Yuting Hong, Zachary A. Pardos, Haiping Ma, Mengxiao Zhu, Shijin Wang, Enhong Chen, | (参考訳) コンピュータ適応テスト(Computerized Adaptive Testing, CAT)は, 被験者の能力を評価するための, 効率よく調整された手法である。
教育、医療、スポーツ、社会学といった様々な分野に広く採用されているCATは、テストプラクティスに革命をもたらした。
従来の手法は心理測定と統計に頼っているが、大規模なテストの複雑さが増し、機械学習技術の統合が加速した。
本稿では,この適応テスト手法に対する新たな視点を提示し,機械学習に着目したCATに関する調査を行うことを目的とする。
CATの適応性の中心にあるテスト質問選択アルゴリズムを調べることで、我々はその機能に光を当てた。
さらに、認知診断モデル、質問銀行の構築、CAT内のテスト制御について調べ、機械学習がこれらのコンポーネントをどのように最適化できるかを探求する。
現在の手法、強度、限界、課題を分析して、堅牢で公正で効率的なCATシステムを開発する。
この調査は、心理測定駆動のCAT研究を機械学習でブリッジすることで、適応テストの未来に対するより包括的で学際的なアプローチを提唱する。
Computerized Adaptive Testing (CAT) provides an efficient and tailored method for assessing the proficiency of examinees, by dynamically adjusting test questions based on their performance. Widely adopted across diverse fields like education, healthcare, sports, and sociology, CAT has revolutionized testing practices. While traditional methods rely on psychometrics and statistics, the increasing complexity of large-scale testing has spurred the integration of machine learning techniques. This paper aims to provide a machine learning-focused survey on CAT, presenting a fresh perspective on this adaptive testing method. By examining the test question selection algorithm at the heart of CAT's adaptivity, we shed light on its functionality. Furthermore, we delve into cognitive diagnosis models, question bank construction, and test control within CAT, exploring how machine learning can optimize these components. Through an analysis of current methods, strengths, limitations, and challenges, we strive to develop robust, fair, and efficient CAT systems. By bridging psychometric-driven CAT research with machine learning, this survey advocates for a more inclusive and interdisciplinary approach to the future of adaptive testing. | 翻訳日:2024-04-08 17:55:13 公開日:2024-04-05 |
| # SnAG: スケーラブルで正確なビデオグラウンド
SnAG: Scalable and Accurate Video Grounding ( http://arxiv.org/abs/2404.02257v2 ) ライセンス: Link先を確認 | Fangzhou Mu, Sicheng Mo, Yin Li, | (参考訳) ビデオにおけるテキスト記述の時間的基盤は、視覚言語学習とビデオ理解において中心的な問題である。
既存の手法では、スケーラビリティよりも精度を優先することが多く、短いビデオ内に少数のテキストクエリを基盤として最適化されており、数百のクエリで長いビデオにスケールアップできない。
本稿では,ビデオグラウンドモデルのスケーラビリティに及ぼすクロスモーダル融合の影響について検討する。
本分析により,テキストクエリの多い長文ビデオのよりコスト効率の良い融合方式として,遅延融合が確立される。
さらに、効率的なトレーニングのための、新しいビデオ中心のサンプリングスキームがもたらされる。
これらの知見に基づき、スケーラブルで正確なビデオグラウンドティングのためのシンプルなベースラインであるSnAGを提示する。
ベルとホイッスルがなければ、SnAGは、挑戦的なMADデータセットに基づくロングフォームビデオの最先端技術であるCONEよりも43%正確で1.5倍高速で、短いビデオで非常に競争力のある結果が得られる。
Temporal grounding of text descriptions in videos is a central problem in vision-language learning and video understanding. Existing methods often prioritize accuracy over scalability -- they have been optimized for grounding only a few text queries within short videos, and fail to scale up to long videos with hundreds of queries. In this paper, we study the effect of cross-modal fusion on the scalability of video grounding models. Our analysis establishes late fusion as a more cost-effective fusion scheme for long-form videos with many text queries. Moreover, it leads us to a novel, video-centric sampling scheme for efficient training. Based on these findings, we present SnAG, a simple baseline for scalable and accurate video grounding. Without bells and whistles, SnAG is 43% more accurate and 1.5x faster than CONE, a state of the art for long-form video grounding on the challenging MAD dataset, while achieving highly competitive results on short videos. | 翻訳日:2024-04-08 17:55:13 公開日:2024-04-05 |
| # スパースランダムハイパーグラフにおける大規模独立集合の低次元硬さ
The Low-Degree Hardness of Finding Large Independent Sets in Sparse Random Hypergraphs ( http://arxiv.org/abs/2404.03842v1 ) ライセンス: Link先を確認 | Abhishek Dhawan, Yuzhou Wang, | (参考訳) 平均次数$d$の頂点上のエルドス=レーニ$r$ユニフォームハイパーグラフにおいて、大きな独立集合を求めるアルゴリズム的タスクについて検討する。
クリヴェレヴィチとスダコフは、最大独立集合は密度$\left(\frac{r\log d}{(r-1)d}\right)^{1/(r-1)}$であることを示した。
低次多項式アルゴリズムのクラスは、$\left(\frac{\log d}{(r-1)d}\right)^{1/(r-1)}$の独立した密度集合を見つけることができるが、それ以上は見つからない。
これはガマルニクとスーダン、ラーマンとヴィラグ、ワインのグラフに関する初期の結果を拡張し、一般化し、バルとベネットの質問に答える。
この統計計算のギャップがこの問題を補うと推測する。
さらに、このギャップの普遍性を$r$パーティイトハイパーグラフで調べる。
ハイパーグラフ $H=(V,E)$ が $r$-partite であるとき、分割 $V=V_1\cup\cdots\cup V_r$ が存在して、各エッジは各集合 $V_i$ からちょうど1つの頂点を含む。
各分割に$n$の頂点と平均次数$d$のランダムな$r$-partiteハイパーグラフにおいて、大きなバランスの取れた独立集合(各分割に同じ頂点数を含む独立集合)を見つけるという問題を考える。
最大平衡独立集合は密度$\left(\frac{r\log d}{(r-1)d}\right)^{1/(r-1)} を漸近的に持つことを証明している。
さらに、類似の低次計算しきい値が$\left(\frac{\log d}{(r-1)d}\right)^{1/(r-1)}$であることを証明する。
我々の結果は、パーキンスと二部グラフに関する2番目の著者の最近の業績を回復し、一般化する。
グラフケースは広く研究されているが、この研究はランダムなハイパーグラフ上の最適化問題の統計的-計算的ギャップを考える最初のものである。
以上の結果から,これらのギャップは,多くのモデルにまたがるより大きな均一性に対して持続することが示唆された。
バランスの取れた独立集合のギャップの幾分驚くべき側面は、下界を達成するアルゴリズムが単純な次数 1 多項式であることである。
We study the algorithmic task of finding large independent sets in Erdos-Renyi $r$-uniform hypergraphs on $n$ vertices having average degree $d$. Krivelevich and Sudakov showed that the maximum independent set has density $\left(\frac{r\log d}{(r-1)d}\right)^{1/(r-1)}$. We show that the class of low-degree polynomial algorithms can find independent sets of density $\left(\frac{\log d}{(r-1)d}\right)^{1/(r-1)}$ but no larger. This extends and generalizes earlier results of Gamarnik and Sudan, Rahman and Virag, and Wein on graphs, and answers a question of Bal and Bennett. We conjecture that this statistical-computational gap holds for this problem. Additionally, we explore the universality of this gap by examining $r$-partite hypergraphs. A hypergraph $H=(V,E)$ is $r$-partite if there is a partition $V=V_1\cup\cdots\cup V_r$ such that each edge contains exactly one vertex from each set $V_i$. We consider the problem of finding large balanced independent sets (independent sets containing the same number of vertices in each partition) in random $r$-partite hypergraphs with $n$ vertices in each partition and average degree $d$. We prove that the maximum balanced independent set has density $\left(\frac{r\log d}{(r-1)d}\right)^{1/(r-1)}$ asymptotically. Furthermore, we prove an analogous low-degree computational threshold of $\left(\frac{\log d}{(r-1)d}\right)^{1/(r-1)}$. Our results recover and generalize recent work of Perkins and the second author on bipartite graphs. While the graph case has been extensively studied, this work is the first to consider statistical-computational gaps of optimization problems on random hypergraphs. Our results suggest that these gaps persist for larger uniformities as well as across many models. A somewhat surprising aspect of the gap for balanced independent sets is that the algorithm achieving the lower bound is a simple degree-1 polynomial. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # エンサンブル蒸留による運動予測モデルのスケーリング
Scaling Motion Forecasting Models with Ensemble Distillation ( http://arxiv.org/abs/2404.03843v1 ) ライセンス: Link先を確認 | Scott Ettinger, Kratarth Goel, Avikalp Srivastava, Rami Al-Rfou, | (参考訳) モーション予測は、自律ロボットシステムにおいてますます重要なコンポーネントになりつつある。
計算予算は一般にリアルタイムシステムの精度を制限する。
本研究では,モデルアンサンブルと蒸留技術を組み合わせて,限られた計算予算を考慮した動き予測システムの改善手法を提案する。
ディープニューラルネットワークのアンサンブルの使用は、多くのアプリケーション領域における一般化精度を向上させることが示されている。
まず、最適化された単一モデルの大規模なアンサンブルを作成することで、大幅な性能向上を実証する。
そこで我々は,運動予測モデルの集合を,計算コストのごく一部で高い性能を維持する小さな学生モデルに蒸留する,一般化された枠組みを開発した。
本研究では,自律走行システムの実世界データを用いた動き予測の課題に焦点をあてる。
Waymo Open Motion Dataset(WOMD)とArgoverseのリーダーボードで非常に競合するアンサンブルモデルを開発した。
これらのアンサンブルから,計算コストのごく一部で高い性能を有する蒸留学生モデルを訓練する。
これらの実験は、限られた計算予算を持つロボットシステムの予測モデルの精度を向上させる効果的な方法として、アンサンブルからの蒸留を実証する。
Motion forecasting has become an increasingly critical component of autonomous robotic systems. Onboard compute budgets typically limit the accuracy of real-time systems. In this work we propose methods of improving motion forecasting systems subject to limited compute budgets by combining model ensemble and distillation techniques. The use of ensembles of deep neural networks has been shown to improve generalization accuracy in many application domains. We first demonstrate significant performance gains by creating a large ensemble of optimized single models. We then develop a generalized framework to distill motion forecasting model ensembles into small student models which retain high performance with a fraction of the computing cost. For this study we focus on the task of motion forecasting using real world data from autonomous driving systems. We develop ensemble models that are very competitive on the Waymo Open Motion Dataset (WOMD) and Argoverse leaderboards. From these ensembles, we train distilled student models which have high performance at a fraction of the compute costs. These experiments demonstrate distillation from ensembles as an effective method for improving accuracy of predictive models for robotic systems with limited compute budgets. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # Buck You:Zero-Knowledge LoginとSuonsored Transactions on Suiによる簡単なオンボードブロックチェーンアプリケーションの設計
Buck You: Designing Easy-to-Onboard Blockchain Applications with Zero-Knowledge Login and Sponsored Transactions on Sui ( http://arxiv.org/abs/2404.03845v1 ) ライセンス: Link先を確認 | Eason Chen, Zimo Xiao, Justa Liang, Damien Chen, Pierce Hung, Kostas Kryptos Chalkias, | (参考訳) 本稿では,Swiの最近のイノベーションであるZero Knowledge LoginとSponsored Transactionsの機能を実証するブロックチェーンアプリケーションを開発した。
Zero Knowledge Loginを使用すると、ユーザはOAuthアカウント(Google、Facebook、Twitchなど)でブロックチェーンウォレットを作成してアクセスすることができる。
さらに、SwiのStorage Rebate機能のおかげで、Sponsored Transactionsのスポンサーはスポンサーから利益を得ることができ、ウィンウィンで持続可能なサービスモデルを達成することができる。
Zero Knowledge LoginとSponsored Transactionsは、初心者ブロックチェーンユーザが直面する重要な課題、特にプライベートキーの管理と初期トランザクション手数料の預金を克服する上で、重要な役割を担っている。
ブロックチェーンのユーザエクスペリエンスにおけるこれらの課題に対処することによって、ブロックチェーンはよりアクセスしやすく、初心者のユーザを惹きつけ、日々の生活においてブロックチェーンアプリケーションを広く採用するための道を開くことができる。
In this paper, we developed a blockchain application to demonstrate the functionality of Sui's recent innovations: Zero Knowledge Login and Sponsored Transactions. Zero Knowledge Login allows users to create and access their blockchain wallets just with their OAuth accounts (e.g., Google, Facebook, Twitch), while Sponsored Transactions eliminate the need for users to prepare transaction fees, as they can delegate fees to sponsors' accounts. Additionally, thanks to Sui's Storage Rebate feature, sponsors in Sponsored Transactions can profit from the sponsorship, achieving a win-win and sustainable service model. Zero Knowledge Login and Sponsored Transactions are pivotal in overcoming key challenges novice blockchain users face, particularly in managing private keys and depositing initial transaction fees. By addressing these challenges in the user experience of blockchain, Sui makes the blockchain more accessible and engaging for novice users and paves the way for the broader adoption of blockchain applications in everyday life. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # バイオメディカルビジョンランゲージ・プレトレーニングによるフェデレーション・マルチモーダル学習における不均一性の軽減
Mitigating Heterogeneity in Federated Multimodal Learning with Biomedical Vision-Language Pre-training ( http://arxiv.org/abs/2404.03854v1 ) ライセンス: Link先を確認 | Zitao Shuai, Liyue Shen, | (参考訳) 視覚言語事前学習(VLP)は、マルチモーダル表現学習の効率的なスキームとして生まれてきたが、事前学習には大規模なマルチモーダルデータが必要であるため、特に医学的応用において障害となる。
データ制限を克服するために、フェデレートドラーニング(FL)は、データのプライバシーを保護しながら、バイオメディカルなVLPのためのデータセットをスケールアップする有望な戦略である。
しかし、クライアントデータは実世界のシナリオでは不均一であることが多く、不均一なクライアントデータに対する局所的な訓練がマルチモーダル表現学習を歪め、偏りのあるクロスモーダルアライメントにつながることが観察される。
この課題に対処するために、フェデレートされたVLPのためのフェデレーション分散ロバストガイダンスベース(FedRGB)学習フレームワークを提案する。
具体的には、特徴歪みを低減するためにガイダンスに基づく局所訓練手法を用い、分布に基づくmin-max最適化を用いて、偏りのないクロスモーダルアライメントを学習する。
実世界のデータセットを用いた実験により,データ不均一性を考慮したバイオメディカルVLPのための効率的なフェデレーション型マルチモーダル学習の促進に成功した。
Vision-language pre-training (VLP) has arised as an efficient scheme for multimodal representation learning, but it requires large-scale multimodal data for pre-training, making it an obstacle especially for biomedical applications. To overcome the data limitation, federated learning (FL) can be a promising strategy to scale up the dataset for biomedical VLP while protecting data privacy. However, client data are often heterogeneous in real-world scenarios, and we observe that local training on heterogeneous client data would distort the multimodal representation learning and lead to biased cross-modal alignment. To address this challenge, we propose Federated distributional Robust Guidance-Based (FedRGB) learning framework for federated VLP with robustness to data heterogeneity. Specifically, we utilize a guidance-based local training scheme to reduce feature distortions, and employ a distribution-based min-max optimization to learn unbiased cross-modal alignment. The experiments on real-world datasets show our method successfully promotes efficient federated multimodal learning for biomedical VLP with data heterogeneity. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # キャビティ量子電磁力学の量子ディジタルシミュレーション:超伝導およびトラップされたイオン量子検層からの考察
Quantum Digital Simulation of Cavity Quantum Electrodynamics: Insights from Superconducting and Trapped Ion Quantum Testbeds ( http://arxiv.org/abs/2404.03861v1 ) ライセンス: Link先を確認 | Alex H. Rubin, Brian Marinelli, Victoria A. Norman, Zainab Rizvi, Ashlyn D. Burch, Ravi K. Naik, John Mark Kreikebaum, Matthew N. H. Chow, Daniel S. Lobser, Melissa C. Revelle, Christopher G. Yale, Megan Ivory, David I. Santiago, Christopher Spitzer, Marina Krstic-Marinkovic, Susan M. Clark, Irfan Siddiqi, Marina Radulaski, | (参考訳) 量子コンピュータの先導的な応用は、大きなユニタリ量子システムの効率的なシミュレーションである。
この利点を、オープンなCavity Quantum Electrodynamics (CQED)システムの研究に拡張することで、多体量子光学デバイスの探索と設計に量子コンピュータを使用できる。
このようなデバイスは光量子通信、シミュレーション、計算に有望な応用がある。
本研究では,オープンなCQED物理を効率的に研究するための量子コンピュータの可能性を探究する。
我々のシミュレーションでは、損失の大きい空洞に結合したN$原子を含む一斉に励起されたTavis-Cummingsモデルの力学をマッピングする最近の量子アルゴリズムを用いている。
我々は,このアルゴリズムを2つのノイズの多い中間量子コンピュータ,超伝導プロセッサ,イオントラッププロセッサ上で実行し,N = 3$原子を含むオープンCQEDシステムの個体群動態をシミュレートした結果を報告する。
各ハードウェアプラットフォームにおけるゲートエラー,ノイズ,デコヒーレンスの影響を最小限に抑え,システムの正確な解と密接に一致する結果を得る。
これらの結果は、将来のシミュレーションアルゴリズムと新しい大規模量子プロセッサが組み合わさって、空洞量子力学を研究するための強力なツールとなることを確信する。
A leading application of quantum computers is the efficient simulation of large unitary quantum systems. Extending this advantage to the study of open Cavity Quantum Electrodynamics (CQED) systems could enable the use of quantum computers in the exploration and design of many-body quantum optical devices. Such devices have promising applications in optical quantum communication, simulation, and computing. In this work, we present an early exploration of the potential for quantum computers to efficiently investigate open CQED physics. Our simulations make use of a recent quantum algorithm that maps the dynamics of a singly excited open Tavis-Cummings model containing $N$ atoms coupled to a lossy cavity. We report the results of executing this algorithm on two noisy intermediate-scale quantum computers, a superconducting processor and a trapped ion processor, to simulate the population dynamics of an open CQED system featuring $N = 3$ atoms. By applying technology-specific transpilation and error mitigation techniques, we minimize the impact of gate errors, noise, and decoherence in each hardware platform, obtaining results which agree closely with the exact solution of the system. These results provide confidence that future simulation algorithms, combined with emerging large-scale quantum processors, can be a powerful tool for studying cavity quantum electrodynamics. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # 設計による検証 - 事前学習データから記述する言語モデルの調整
Verifiable by Design: Aligning Language Models to Quote from Pre-Training Data ( http://arxiv.org/abs/2404.03862v1 ) ライセンス: Link先を確認 | Jingyu Zhang, Marc Marone, Tianjian Li, Benjamin Van Durme, Daniel Khashabi, | (参考訳) 人類が大規模言語モデル(LLM)の流動的な世代を信頼するには、信頼された外部ソースに対する正当性を検証する必要がある。
近年の取り組みは、検索した文書の引用やポストホックの証明による検証性の向上をめざしている。
しかし、そのような引用は、その検証可能性をさらに複雑にする間違いをしがちである。
これらの制限に対処するために、我々は異なる哲学を用いて検証可能性のゴールに取り組む:我々は、事前学習データにおいて信頼された情報源から動詞を引用するモデルを開発することによって、検証プロセスを自明にする。
本研究では,記憶情報と事前学習データからの引用量を活用するためのLLMの整合性を示すQuote-Tuningを提案する。
Quote-Tuningは、効率的なメンバーシップ推論ツールを備えた大規模なコーパスに対する引用を定量化し、引用の量を暗黙の報酬信号として使用し、人間のアノテーションなしで引用のための合成選好データセットを構築する。
次に、選好最適化アルゴリズムを用いて、対象モデルを引用に整列する。
実験結果から,Quote-Tuningは,高品質事前学習文書から引用したLCM生成率を,応答品質を維持しつつ,未調整モデルと比較して55%から130%向上することがわかった。
さらなる実験では、Quote-Tuningがドメイン外データの引用を一般化し、異なるタスクに適用でき、真理性にさらなる利益をもたらすことが示されている。
Quote-Tuningは、引用量を増やすための面倒な方法として機能するだけでなく、LLMの信頼性を向上させるための道を開く。
For humans to trust the fluent generations of large language models (LLMs), they must be able to verify their correctness against trusted, external sources. Recent efforts aim to increase verifiability through citations of retrieved documents or post-hoc provenance. However, such citations are prone to mistakes that further complicate their verifiability. To address these limitations, we tackle the verifiability goal with a different philosophy: we trivialize the verification process by developing models that quote verbatim statements from trusted sources in pre-training data. We propose Quote-Tuning, which demonstrates the feasibility of aligning LLMs to leverage memorized information and quote from pre-training data. Quote-Tuning quantifies quoting against large corpora with efficient membership inference tools, and uses the amount of quotes as an implicit reward signal to construct a synthetic preference dataset for quoting, without any human annotation. Next, the target model is aligned to quote using preference optimization algorithms. Experimental results show that Quote-Tuning significantly increases the percentage of LLM generation quoted verbatim from high-quality pre-training documents by 55% to 130% relative to untuned models while maintaining response quality. Further experiments demonstrate that Quote-Tuning generalizes quoting to out-of-domain data, is applicable in different tasks, and provides additional benefits to truthfulness. Quote-Tuning not only serves as a hassle-free method to increase quoting but also opens up avenues for improving LLM trustworthiness through better verifiability. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # FFN-SkipLLM:Adaptive Feed Forward Skippingによる自動回帰デコーディングのための隠れGem
FFN-SkipLLM: A Hidden Gem for Autoregressive Decoding with Adaptive Feed Forward Skipping ( http://arxiv.org/abs/2404.03865v1 ) ライセンス: Link先を確認 | Ajay Jaiswal, Bodun Hu, Lu Yin, Yeonju Ro, Shiwei Liu, Tianlong Chen, Aditya Akella, | (参考訳) 自己回帰型大規模言語モデル(LLaMa, GPT)は、言語理解と生成において顕著な成功を収めている。
しかし、そのような印象的な機能は通常、相当なモデルサイズが伴い、自動回帰トークン・バイ・トークン生成において大きな課題が生じる。
生成時に発生する計算過負荷を軽減するため、いくつかの早期退避戦略とレイヤドロップ方式が提案されている。
Rough-L/BLUEのようなメトリクス上でのLLM層間の冗長性による有望な成功にもかかわらず、我々の慎重な知識集約評価は、生成の崩壊、誤った事実の幻覚、そして10～15%の層での自明な出口比においても顕著なパフォーマンス低下といった問題を明らかにします。
これらのエラーは主に、早期終了時の状態コピーによるKVキャッシュの非効率な処理に起因する。
本研究では, LLM層における計算コストの高いフィードフォワードブロックの飽和を観察し, 自己回帰型 LLM の高速スキップ戦略である FFN-SkipLLM を提案する。
より具体的には、FFN-SkipLLMは入力適応フィードフォワードスキッピング戦略であり、KVキャッシュを扱う必要のない知識集約型生成タスクのパフォーマンスを極端に変化させることなく、LLMのFFNブロックの25～30%をスキップすることができる。
MT-Bench、Factoid-QA、可変長テキスト要約などのベンチマークによる広範な実験とアブレーションは、我々のシンプルで使いやすい手法が自己回帰復号の高速化をいかに促進するかを示している。
Autoregressive Large Language Models (e.g., LLaMa, GPTs) are omnipresent achieving remarkable success in language understanding and generation. However, such impressive capability typically comes with a substantial model size, which presents significant challenges for autoregressive token-by-token generation. To mitigate computation overload incurred during generation, several early-exit and layer-dropping strategies have been proposed. Despite some promising success due to the redundancy across LLMs layers on metrics like Rough-L/BLUE, our careful knowledge-intensive evaluation unveils issues such as generation collapse, hallucination of wrong facts, and noticeable performance drop even at the trivial exit ratio of 10-15% of layers. We attribute these errors primarily to ineffective handling of the KV cache through state copying during early-exit. In this work, we observed the saturation of computationally expensive feed-forward blocks of LLM layers and proposed FFN-SkipLLM, which is a novel fine-grained skip strategy of autoregressive LLMs. More specifically, FFN-SkipLLM is an input-adaptive feed-forward skipping strategy that can skip 25-30% of FFN blocks of LLMs with marginal change in performance on knowledge-intensive generation tasks without any requirement to handle KV cache. Our extensive experiments and ablation across benchmarks like MT-Bench, Factoid-QA, and variable-length text summarization illustrate how our simple and ease-at-use method can facilitate faster autoregressive decoding. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # 離散空間におけるインフォームドMCMCサンプリングの次元自由緩和時間
Dimension-free Relaxation Times of Informed MCMC Samplers on Discrete Spaces ( http://arxiv.org/abs/2404.03867v1 ) ライセンス: Link先を確認 | Hyunwoong Chang, Quan Zhou, | (参考訳) マルコフ連鎖モンテカルロ法の高次元統計応用における収束解析はますます認知されている。
本稿では,ベイズモデル選択問題における最近の理論的発展を基礎として,離散空間上でのメトロポリス・ハスティングスアルゴリズムの一般混合時間境界を開発する。
我々は,問題次元に依存しない緩和時間を達成するために,情報化メトロポリス・ハスティングスアルゴリズムのクラスに十分な条件を確立する。
これらの条件は高次元統計理論に基づいており、多モーダルな後続分布が可能である。
我々は,多商品フロー法と単要素ドリフト条件解析という2つの独立した手法を用いて実験結果を得た。
我々の結果と証明技術は、離散パラメータ空間を持つ統計的問題の幅広いスペクトルに容易に適用できる。
Convergence analysis of Markov chain Monte Carlo methods in high-dimensional statistical applications is increasingly recognized. In this paper, we develop general mixing time bounds for Metropolis-Hastings algorithms on discrete spaces by building upon and refining some recent theoretical advancements in Bayesian model selection problems. We establish sufficient conditions for a class of informed Metropolis-Hastings algorithms to attain relaxation times that are independent of the problem dimension. These conditions are grounded in high-dimensional statistical theory and allow for possibly multimodal posterior distributions. We obtain our results through two independent techniques: the multicommodity flow method and single-element drift condition analysis; we find that the latter yields a tighter mixing time bound. Our results and proof techniques are readily applicable to a broad spectrum of statistical problems with discrete parameter spaces. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # Extract, Define, Canonicalize: 知識グラフ構築のためのLLMベースのフレームワーク
Extract, Define, Canonicalize: An LLM-based Framework for Knowledge Graph Construction ( http://arxiv.org/abs/2404.03868v1 ) ライセンス: Link先を確認 | Bowen Zhang, Harold Soh, | (参考訳) 本研究では,入力テキストから知識グラフ生成(KGC)を自動生成する手法に興味がある。
大規模言語モデル(LLMs)の進歩は、0/few-shotプロンプトを通じて、KGC、例えば、KGCに適用する最近の一連の研究を促している。
小さなドメイン固有のデータセットでの成功にもかかわらず、これらのモデルは、多くの現実世界のアプリケーションで共通するテキストまでスケールアップするのが困難に直面します。
主な問題は、KGスキーマがLLMプロンプトに含まれて有効な三つ子を生成する必要があることである。
この問題に対処するために,オープン情報抽出とスキーマ定義,ポストホック正準化という3段階のフレームワークであるExtract-Define-Canonicalize (EDC)を提案する。
EDCは、事前に定義されたターゲットスキーマが利用可能で、そうでない場合に適用される。
性能向上のために、入力テキストに関連するスキーマ要素を検索する訓練されたコンポーネントを導入する。
我々は、3つのKGCベンチマークにおいて、ECCがパラメータチューニングなしで高品質な三重項を抽出できることを示す。
In this work, we are interested in automated methods for knowledge graph creation (KGC) from input text. Progress on large language models (LLMs) has prompted a series of recent works applying them to KGC, e.g., via zero/few-shot prompting. Despite successes on small domain-specific datasets, these models face difficulties scaling up to text common in many real-world applications. A principal issue is that in prior methods, the KG schema has to be included in the LLM prompt to generate valid triplets; larger and more complex schema easily exceed the LLMs' context window length. To address this problem, we propose a three-phase framework named Extract-Define-Canonicalize (EDC): open information extraction followed by schema definition and post-hoc canonicalization. EDC is flexible in that it can be applied to settings where a pre-defined target schema is available and when it is not; in the latter case, it constructs a schema automatically and applies self-canonicalization. To further improve performance, we introduce a trained component that retrieves schema elements relevant to the input text; this improves the LLMs' extraction performance in a retrieval-augmented generation-like manner. We demonstrate on three KGC benchmarks that EDC is able to extract high-quality triplets without any parameter tuning and with significantly larger schemas compared to prior works. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # ゼロショットスケーラブルコラボレーションのための不均一なマルチエージェント強化学習
Heterogeneous Multi-Agent Reinforcement Learning for Zero-Shot Scalable Collaboration ( http://arxiv.org/abs/2404.03869v1 ) ライセンス: Link先を確認 | Xudong Guo, Daming Shi, Junjie Yu, Wenhui Fan, | (参考訳) マルチエージェントシステムの台頭、特にマルチエージェント強化学習(MARL)の成功は、自動運転車ネットワークのようなさまざまな領域で私たちの未来を変えつつある。
しかし、MARLは、特にゼロショットスケーラビリティの達成において大きな課題に直面しており、訓練済みのMARLモデルは、さまざまなエージェントで見えないタスクに直接適用することができる。
加えて、実世界のマルチエージェントシステムは、通常、異なる機能と戦略を持つエージェントを含むが、既存のスケーラブルなMARLメソッドは限られた不均一性しか持たない。
そこで本稿では,パラメータ共有型PPOベースのMARLネットワークに不均一性を組み込んだ,スケーラブルで不均一なプロキシポリシー最適化(SHPPO)という新しいMARLフレームワークを提案する。
まず潜伏ネットワークを利用して 各エージェントの戦略パターンを適応的に学習します
第2に,学習した潜伏変数によってパラメータが特別に生成される不均一な意思決定層を導入する。
我々のアプローチは、不均一層を除いて全てのパラメータが共有されるためスケーラブルであり、同時に個人間および時間的不均一性を得る。
我々は,現在最先端のバックボーンPPOベースのアルゴリズムをSHPPOとして実装し,そのアプローチはバックボーンとは無関係であり,パラメータ共有MARL法にシームレスに接続することができる。
SHPPOは、Starcraft Multi-Agent Challenge (SMAC)やGoogle Research Football (GRF)のような古典的なMARL環境でMAPPOやHAPPOのようなベースラインよりも優れたパフォーマンスを示し、拡張されたゼロショットのスケーラビリティを示し、視覚化によって学習された潜在表現がチームパフォーマンスに与える影響についての洞察を提供する。
The rise of multi-agent systems, especially the success of multi-agent reinforcement learning (MARL), is reshaping our future across diverse domains like autonomous vehicle networks. However, MARL still faces significant challenges, particularly in achieving zero-shot scalability, which allows trained MARL models to be directly applied to unseen tasks with varying numbers of agents. In addition, real-world multi-agent systems usually contain agents with different functions and strategies, while the existing scalable MARL methods only have limited heterogeneity. To address this, we propose a novel MARL framework named Scalable and Heterogeneous Proximal Policy Optimization (SHPPO), integrating heterogeneity into parameter-shared PPO-based MARL networks. we first leverage a latent network to adaptively learn strategy patterns for each agent. Second, we introduce a heterogeneous layer for decision-making, whose parameters are specifically generated by the learned latent variables. Our approach is scalable as all the parameters are shared except for the heterogeneous layer, and gains both inter-individual and temporal heterogeneity at the same time. We implement our approach based on the state-of-the-art backbone PPO-based algorithm as SHPPO, while our approach is agnostic to the backbone and can be seamlessly plugged into any parameter-shared MARL method. SHPPO exhibits superior performance over the baselines such as MAPPO and HAPPO in classic MARL environments like Starcraft Multi-Agent Challenge (SMAC) and Google Research Football (GRF), showcasing enhanced zero-shot scalability and offering insights into the learned latent representation's impact on team performance by visualization. | 翻訳日:2024-04-08 17:16:00 公開日:2024-04-05 |
| # カリフォルニアの生物多様性を保護するために、侵入性ポリニネーターApis Melliferaの同定とリガンド薬物発見のための畳み込みニューラルネットワークの最適化
Optimizing Convolutional Neural Networks for Identifying Invasive Pollinator Apis Mellifera and Finding a Ligand drug to Protect California's Biodiversity ( http://arxiv.org/abs/2404.03870v1 ) ライセンス: Link先を確認 | Arnav Swaroop, | (参考訳) 北アメリカでは、多くの種が環境に不可欠な種であり、ほとんどの原生植物の主要な受粉種である。
カリフォルニアの農業産業は、主にアーモンドの受粉のためにヨーロッパ産ミツバチ(Apis Mellifera)を輸入している。
残念なことに、これは自然の生態系を混乱させ、多くのミツバチ種が食糧不足に悩まされるという意図しない結果をもたらした。
外来種を保護するための最初のステップは、コンボリューショナルニューラルネットワーク(CNN)を用いて、一般的なミツバチ種と侵略性ミツバチ種を区別することである。
外来種を害することなく侵入コロニーを効率的に除去することは、殺虫剤が在来種に無数の病気を引き起こすため困難である。
我々のアプローチは、新しい女王の形成を阻止し、植民地の崩壊を引き起こします。
労働者は、受精と長寿を引き起こす物質であるロイヤルゼリーを分泌する。
小さな有機分子(配位子)は、ApisiminとMRJP1のタンパク質が結合して生成するオリゴマーを阻害する。
理想的なリガンドはこれらのタンパク質の1つだけが結合を阻害し、1つの受容体に高い親和性を持ち、もう1つの受容体に著しく低い親和性を持つ。
我々はCNNを最適化し、画像修正とクラスグループ化がモデル性能に与える影響を計測し、昆虫の亜種を区別する機械学習モデルを作成するためのフレームワークを提供した。
CNNは、侵略的なミツバチ種とネイティブなミツバチ種の区別において82%の精度を達成でき、3つのリガンドが有効であると同定されている。
我々の新しいアプローチは、カリフォルニアにおける侵入蜂の拡散を、識別と中立化によって抑制する有望な解決策を提供する。
In North America, there are many diverse species of native bees crucial for the environment, who are the primary pollinators of most native floral species. The Californian agriculture industry imports European honeybees (Apis Mellifera) primarily for pollinating almonds. Unfortunately, this has resulted in the unintended consequence of disrupting the native ecosystem and threatening many native bee species as they are outcompeted for food. Our first step for protecting the native species is identification with the use of a Convolutional Neural Network (CNN) to differentiate common native bee species from invasive ones. Removing invasive colonies efficiently without harming native species is difficult as pesticides cause myriad diseases in native species. Our approach seeks to prevent the formation of new queens, causing the colony's collapse. Workers secrete royal jelly, a substance that causes fertility and longevity; it is fed to future honeybee queens. Targeting the production of this substance is safe as no native species use it; small organic molecules (ligands) prevent the proteins Apisimin and MRJP1 from combining and producing an oligomer used to form the substance. Ideal ligands bind to only one of these proteins preventing them from joining together: they have a high affinity for one receptor and a significantly lower affinity for the other. We optimized the CNN to provide a framework for creating Machine Learning models that excel at differentiating between subspecies of insects by measuring the effects of image alteration and class grouping on model performance. The CNN is able to achieve an accuracy of 82% in differentiating between invasive and native bee species; 3 ligands have been identified as effective. Our new approach offers a promising solution to curb the spread of invasive bees within California through an identification and neutralization method. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # PrivShape: ユーザレベルのローカル差分プライバシーの下での時系列の形状の抽出
PrivShape: Extracting Shapes in Time Series under User-Level Local Differential Privacy ( http://arxiv.org/abs/2404.03873v1 ) ライセンス: Link先を確認 | Yulian Mao, Qingqing Ye, Haibo Hu, Qi Wang, Kai Huang, | (参考訳) 時系列は金融、医療、IoT、スマートシティに多くの応用がある。
これらのアプリケーションの多くでは、時系列は一般的に個人データを含むため、公開時にプライバシー侵害が発生する可能性がある。
近年、データプライバシを保護する最先端のアプローチとして、ローカルディファレンシャルプライバシ(LDP)が登場している。
しかし, LDP に基づくコレクションに関する既存の研究は時系列の形状を保存できない。
最近の研究であるPatternLDPはこの問題に対処しようとするが、時間列内の有限個の要素しか保護できない。
本稿では,PivShapeを提案する。PivShapeは,すべての要素を保護するための,ユーザレベル LDP に基づくトリエベース機構である。
PrivShapeはまず時系列を変換してその長さを減らし、次に三重展開と二重改良を採用して実用性を向上させる。
実世界のデータセットに関する広範な実験により、PrivShapeはオフラインでの使用に適応するとPatternLDPよりも優れ、頻繁な形状を効果的に抽出できることが実証された。
Time series have numerous applications in finance, healthcare, IoT, and smart city. In many of these applications, time series typically contain personal data, so privacy infringement may occur if they are released directly to the public. Recently, local differential privacy (LDP) has emerged as the state-of-the-art approach to protecting data privacy. However, existing works on LDP-based collections cannot preserve the shape of time series. A recent work, PatternLDP, attempts to address this problem, but it can only protect a finite group of elements in a time series due to {\omega}-event level privacy guarantee. In this paper, we propose PrivShape, a trie-based mechanism under user-level LDP to protect all elements. PrivShape first transforms a time series to reduce its length, and then adopts trie-expansion and two-level refinement to improve utility. By extensive experiments on real-world datasets, we demonstrate that PrivShape outperforms PatternLDP when adapted for offline use, and can effectively extract frequent shapes. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # VELLET: 認証と統合性を確保するための検証可能な組み込みワレット
VELLET: Verifiable Embedded Wallet for Securing Authenticity and Integrity ( http://arxiv.org/abs/2404.03874v1 ) ライセンス: Link先を確認 | Hiroki Watanabe, Kohei Ichihara, Takumi Aita, | (参考訳) ブロックチェーンエコシステム、特にWeb3とNon-Fungible Tokens(NFTs)の台頭により、ユーザやアプリケーションが大きく増加した。
しかし、この拡張は、アーリーアダプターとより広いユーザーベースを結びつける必要性によって挑戦されている。
このプロセスで顕著な困難は、ブロックチェーンウォレットの複雑なインターフェースである。
この問題に対処するため、将来性のある解決策として「埋め込み財布」のカテゴリが登場した。
これらのウォレットは、分散アプリケーション(Dapps)のフロントエンドにシームレスに統合され、ユーザのオンボードプロセスを簡素化し、より広くアクセスできるようにする。
しかし、私たちの洞察は、この単純化が使いやすさとセキュリティのトレードオフをもたらすことを示唆しています。
埋め込みウォレットは透明性と監査性に欠けており、フロントエンドによる不明瞭な取引と、詐欺やフィッシング攻撃のリスクが顕著になる。
本稿では,組込みウォレットの安全性を高めるための新しいプロトコルを提案する。
我々のVELLETプロトコルは、スマートコントラクト上で組込みウォレットの監査パスにマッチするウォレット検証を導入し、認証と整合性を検証するプロセスを導入しています。
VELLETプロトコルの実装アーキテクチャでは、分散ドメイン名サービスとして知られるEthereum Name Service(ENS)のText Record機能を使用して、スマートコントラクトの監査パスを管理するレポジトリとして機能することを提案する。
このアプローチは、新しいスマートコントラクト開発と運用コストの削減の必要性を実証し、概念実証を通じてコスト効果を証明している。
このプロトコルは、組み込みウォレットに関連するセキュリティリスクを低減し、その利便性がユーザのセキュリティと信頼を損なうことのないようにするための重要なステップである。
The blockchain ecosystem, particularly with the rise of Web3 and Non-Fungible Tokens (NFTs), has experienced a significant increase in users and applications. However, this expansion is challenged by the need to connect early adopters with a wider user base. A notable difficulty in this process is the complex interfaces of blockchain wallets, which can be daunting for those familiar with traditional payment methods. To address this issue, the category of "embedded wallets" has emerged as a promising solution. These wallets are seamlessly integrated into the front-end of decentralized applications (Dapps), simplifying the onboarding process for users and making access more widely available. However, our insights indicate that this simplification introduces a trade-off between ease of use and security. Embedded wallets lack transparency and auditability, leading to obscured transactions by the front end and a pronounced risk of fraud and phishing attacks. This paper proposes a new protocol to enhance the security of embedded wallets. Our VELLET protocol introduces a wallet verifier that can match the audit trail of embedded wallets on smart contracts, incorporating a process to verify authenticity and integrity. In the implementation architecture of the VELLET protocol, we suggest using the Text Record feature of the Ethereum Name Service (ENS), known as a decentralized domain name service, to serve as a repository for managing the audit trails of smart contracts. This approach has been demonstrated to reduce the necessity for new smart contract development and operational costs, proving cost-effective through a proof-of-concept. This protocol is a vital step in reducing security risks associated with embedded wallets, ensuring their convenience does not undermine user security and trust. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # 顔認識のための分布データの分類における公正度の向上
Increasing Fairness in Classification of Out of Distribution Data for Facial Recognition ( http://arxiv.org/abs/2404.03876v1 ) ライセンス: Link先を確認 | Gianluca Barone, Aashrit Cunchala, Rudy Nunez, | (参考訳) 標準分類理論は、テストセットとトレーニングセットにおける画像の分布が同一であると仮定する。
残念なことに、現実のシナリオは一般的に、トレーニングディストリビューション("in-distribution")のデータとは異なる、目に見えないデータ("out-of-distriion data")を特徴とします。
この問題は、未表現のグループからのデータが、トレーニングデータの均等な割合を表現せずにテストデータに現れるという社会正義の問題で最も多い。
この結果、モデルが確実に間違った決定と予測を返却する可能性がある。
ニューラルネットワークの性能は、分布外データの複数のデータセットで同時にトレーニングされたときに、分布外データの顔画像を改善することができるか?
本研究では,外周露光モデルを導入し,他の顔画像のデータセットが実装された際にモデルの性能がどう変化するかを検討する。
モデルの精度およびその他の指標は、アウトレイラ露光を適用し、トレーニング可能な重みパラメータを組み込んで、オフレイラ画像へのマシンの重み付けを強化し、異なるクラスラベルの重要性を再重み付けすることで向上することができる。
また,画像のソートや画像特徴による外れ値の決定が,平均画素値のソートよりも指標に影響を及ぼすかどうかについても検討した。
私たちの目標は、モデルをより正確にするだけでなく、より広い範囲の画像をスキャンすることで、より公平にすることでした。
また、バランスの取れた特徴を持つより公平なデータセットがモデルの精度に影響を及ぼすかどうかを確認するために、データセットを逆向きにテストしました。
Standard classification theory assumes that the distribution of images in the test and training sets are identical. Unfortunately, real-life scenarios typically feature unseen data ("out-of-distribution data") which is different from data in the training distribution("in-distribution"). This issue is most prevalent in social justice problems where data from under-represented groups may appear in the test data without representing an equal proportion of the training data. This may result in a model returning confidently wrong decisions and predictions. We are interested in the following question: Can the performance of a neural network improve on facial images of out-of-distribution data when it is trained simultaneously on multiple datasets of in-distribution data? We approach this problem by incorporating the Outlier Exposure model and investigate how the model's performance changes when other datasets of facial images were implemented. We observe that the accuracy and other metrics of the model can be increased by applying Outlier Exposure, incorporating a trainable weight parameter to increase the machine's emphasis on outlier images, and by re-weighting the importance of different class labels. We also experimented with whether sorting the images and determining outliers via image features would have more of an effect on the metrics than sorting by average pixel value. Our goal was to make models not only more accurate but also more fair by scanning a more expanded range of images. We also tested the datasets in reverse order to see whether a more fair dataset with balanced features has an effect on the model's accuracy. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # 橋の向こう:マルチGPUインターコネクションにおけるコンテントベースのカバーとサイドチャネルアタック
Beyond the Bridge: Contention-Based Covert and Side Channel Attacks on Multi-GPU Interconnect ( http://arxiv.org/abs/2404.03877v1 ) ライセンス: Link先を確認 | Yicheng Zhang, Ravan Nazaraliyev, Sankha Baran Dutta, Nael Abu-Ghazaleh, Andres Marquez, Kevin Barker, | (参考訳) NVLinkのような高速インターコネクトは、CPUとGPUの間の重要なリンクとして機能し、現代のマルチGPUシステムに不可欠なものである。
本研究は,相互接続の混雑による隠蔽およびサイドチャネル攻撃に対するマルチGPUシステムの脆弱性を浮き彫りにする。
相手は、特別な許可を必要とせず、NVLinkの混雑を監視することにより、被害者の行動に関する個人情報を推測することができる。
この知見を活かして、45.5kbpsの帯域幅と低いエラー率を持つ2つのGPUにまたがる隠蔽チャネルアタックを開発し、攻撃者が共有NVLinkインターコネクトを介してアプリケーションにフィンガープリントできるサイドチャネルアタックを導入する。
High-speed interconnects, such as NVLink, are integral to modern multi-GPU systems, acting as a vital link between CPUs and GPUs. This study highlights the vulnerability of multi-GPU systems to covert and side channel attacks due to congestion on interconnects. An adversary can infer private information about a victim's activities by monitoring NVLink congestion without needing special permissions. Leveraging this insight, we develop a covert channel attack across two GPUs with a bandwidth of 45.5 kbps and a low error rate, and introduce a side channel attack enabling attackers to fingerprint applications through the shared NVLink interconnect. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # ブレス=ワッサーシュタイン多様体上のフレシェ回帰に対するワッサーシュタイン F-テスト
Wasserstein F-tests for Fréchet regression on Bures-Wasserstein manifolds ( http://arxiv.org/abs/2404.03878v1 ) ライセンス: Link先を確認 | Haoshu Xu, Hongzhe Li, | (参考訳) 本稿では、無作為な共分散行列を用いた回帰解析の問題を結果とみなし、ブールス=ワッサーシュタイン多様体上のFr'echet回帰の枠組みにおけるユークリッド共変量について考察する。
このような回帰問題は単細胞ゲノミクスや神経科学に多くの応用があり、そこでは大きなサンプル集合上で共分散行列が測定される。
ブレス=ヴァッサーシュタイン多様体上の Fr'echet 回帰は、条件付き Fr'echet の平均が$x$であるような条件付き Fr'echet を推定するものとして定式化される。
非漸近的な $\sqrt{n}$-rate of convergence (最大$\log n$ factor) は、我々の推定器 $\hat{Q}_n(x)$ uniformly for $\left\|x\right\| \lesssim \sqrt{\log n}$ に対して得られる。
さらに、点の推定値 $\hat{Q}_n(x)$ に対する中心極限定理が得られ、共変量効果のテストに対する洞察を与える。
テスト統計学の零分布は独立なカイ二乗の重み付き和に収束することが示され、これは提案されたテストが漸近的に所望の意義レベルを持つことを意味する。
また、連続した代替品の列に対して試験の電力性能を実証する。
シミュレーションの結果,漸近分布の精度が示された。
提案手法は,遺伝子共発現ネットワークの変化を年齢とともに示す単一細胞遺伝子発現データセットに適用した。
This paper considers the problem of regression analysis with random covariance matrix as outcome and Euclidean covariates in the framework of Fr\'echet regression on the Bures-Wasserstein manifold. Such regression problems have many applications in single cell genomics and neuroscience, where we have covariance matrix measured over a large set of samples. Fr\'echet regression on the Bures-Wasserstein manifold is formulated as estimating the conditional Fr\'echet mean given covariates $x$. A non-asymptotic $\sqrt{n}$-rate of convergence (up to $\log n$ factors) is obtained for our estimator $\hat{Q}_n(x)$ uniformly for $\left\|x\right\| \lesssim \sqrt{\log n}$, which is crucial for deriving the asymptotic null distribution and power of our proposed statistical test for the null hypothesis of no association. In addition, a central limit theorem for the point estimate $\hat{Q}_n(x)$ is obtained, giving insights to a test for covariate effects. The null distribution of the test statistic is shown to converge to a weighted sum of independent chi-squares, which implies that the proposed test has the desired significance level asymptotically. Also, the power performance of the test is demonstrated against a sequence of contiguous alternatives. Simulation results show the accuracy of the asymptotic distributions. The proposed methods are applied to a single cell gene expression data set that shows the change of gene co-expression network as people age. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # 関節リレーショナルトリプル抽出のためのバイコンソリデーションモデル
A Bi-consolidating Model for Joint Relational Triple Extraction ( http://arxiv.org/abs/2404.03881v1 ) ライセンス: Link先を確認 | Xiaocheng Luo, Yanping Chen, Ruixue Tang, Ruizhang Huang, Yongbin Qin, | (参考訳) リレーショナルトリプルを抽出する現在の方法は、エンティティ認識に依存することなく、生文の可能なエンティティペアに基づいて直接予測を行う。
このタスクは、複数の関係三重項が文中に1つまたは2つの実体を共有するという深刻な意味的重なり合う問題に悩まされる。
三重関係に関連する識別的意味的特徴を学習することは弱い。
本稿では,2次元の文表現に基づいて,関係三重関係に関連する局所的・大域的意味的特徴を同時に強化することにより,この問題に対処するバイコンソリデーションモデルを提案する。
このモデルは局所的な凝縮成分と大域的な凝縮成分からなる。
第1のコンポーネントは画素差畳み込みを使用して、隣接する領域からの3重表現のセマンティック情報を高め、隣接する近隣のノイズを緩和する。
第2のコンポーネントは、チャネルアテンションと空間アテンションに基づく三重表現を強化し、文中のリモートセマンティック依存を学習する利点がある。
関係3重抽出における実体識別と関係型分類の両方の性能向上に有効である。
いくつかのパブリッシュデータセットで評価した後、競合するパフォーマンスを達成する。
解析実験は,関係3重抽出におけるモデルの有効性を実証し,他の自然言語処理タスクに対するモチベーションを与える。
Current methods to extract relational triples directly make a prediction based on a possible entity pair in a raw sentence without depending on entity recognition. The task suffers from a serious semantic overlapping problem, in which several relation triples may share one or two entities in a sentence. It is weak to learn discriminative semantic features relevant to a relation triple. In this paper, based on a two-dimensional sentence representation, a bi-consolidating model is proposed to address this problem by simultaneously reinforcing the local and global semantic features relevant to a relation triple. This model consists of a local consolidation component and a global consolidation component. The first component uses a pixel difference convolution to enhance semantic information of a possible triple representation from adjacent regions and mitigate noise in neighbouring neighbours. The second component strengthens the triple representation based a channel attention and a spatial attention, which has the advantage to learn remote semantic dependencies in a sentence. They are helpful to improve the performance of both entity identification and relation type classification in relation triple extraction. After evaluated on several publish datasets, it achieves competitive performance. Analytical experiments demonstrate the effectiveness of our model for relational triple extraction and give motivation for other natural language processing tasks. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # LiDAR-Guided Cross-Attention Fusion for Hyperspectral Band Selection and Image Classification
LiDAR-Guided Cross-Attention Fusion for Hyperspectral Band Selection and Image Classification ( http://arxiv.org/abs/2404.03883v1 ) ライセンス: Link先を確認 | Judy X Yang, Jun Zhou, Jing Wang, Hui Tian, Wee Chung Liew, | (参考訳) ハイパースペクトルとLiDARデータの融合は、活発な研究トピックである。
既存の融合法は、高スペクトル画像(HSI)処理においてバンド選択法が集中的に研究されているにもかかわらず、高スペクトル画像の高次元性と冗長性の問題を無視している。
本稿では、LiDARデータで導かれるHSI帯域の選択のためのトランスフォーマーアーキテクチャから、クロスアテンション機構を導入することで、この大きなギャップを解消する。
LiDARは高解像度の垂直構造情報を提供しており、異なるタイプの土地被覆を識別するのに有用である。
提案手法では,LiDARデータを用いて,HSIからキーを検索し,識別し,LiDARの有意な帯域を選択する。
この方法は、選択したHSIバンドがLiDARデータを最適に処理しながら、冗長性と計算要求を大幅に低減することを保証する。
HSIとLiDARの3つのデータセット(ヒューストン2013、トレント、MUUFL)で大規模な実験が行われた。
その結果,LiDAR特徴と融合した場合に,同定されたHSI帯域の分類精度が向上することを示すとともに,クロスアテンション機構の優位性を強調した。
また,LiDARと組み合わさったバンドの使用が,最先端の融合モデルの性能を上回ることを示した。
The fusion of hyperspectral and LiDAR data has been an active research topic. Existing fusion methods have ignored the high-dimensionality and redundancy challenges in hyperspectral images, despite that band selection methods have been intensively studied for hyperspectral image (HSI) processing. This paper addresses this significant gap by introducing a cross-attention mechanism from the transformer architecture for the selection of HSI bands guided by LiDAR data. LiDAR provides high-resolution vertical structural information, which can be useful in distinguishing different types of land cover that may have similar spectral signatures but different structural profiles. In our approach, the LiDAR data are used as the "query" to search and identify the "key" from the HSI to choose the most pertinent bands for LiDAR. This method ensures that the selected HSI bands drastically reduce redundancy and computational requirements while working optimally with the LiDAR data. Extensive experiments have been undertaken on three paired HSI and LiDAR data sets: Houston 2013, Trento and MUUFL. The results highlight the superiority of the cross-attention mechanism, underlining the enhanced classification accuracy of the identified HSI bands when fused with the LiDAR features. The results also show that the use of fewer bands combined with LiDAR surpasses the performance of state-of-the-art fusion models. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # SAAS:大規模言語モデルにおける数学的推論強化のための問題解決能力向上戦略
SAAS: Solving Ability Amplification Strategy for Enhanced Mathematical Reasoning in Large Language Models ( http://arxiv.org/abs/2404.03887v1 ) ライセンス: Link先を確認 | Hyeonwoo Kim, Gyoungjin Gim, Yungi Kim, Jihoo Kim, Byungju Kim, Wonseok Lee, Chanjun Park, | (参考訳) 本研究では,Large Language Models (LLM) の数学的推論と問題解決能力の向上を目的とした,新しい学習手法を提案する。
我々は,CoT(Chain-of-Thought)とPoT(Program-of-Thought)の学習を統合することに集中し,数学的推論能力の学習の優先順位付けが問題解決能力の増幅に役立つと仮定した。
したがって、CoTによる初期学習は、問題の解決に不可欠である。
そこで本研究では,CoT学習からPoT学習へ戦略的に移行する,SAAS(Solving Ability Amplification Strategy)という逐次学習手法を提案する。
いくつかのベンチマークによる広範な性能比較を含む実証研究により,SAASがSOTA(State-of-the-art)の性能を達成することを示す。
その結果, LLMにおける数学的推論の分野において, 逐次学習手法の有効性が著しく向上していることが示唆された。
This study presents a novel learning approach designed to enhance both mathematical reasoning and problem-solving abilities of Large Language Models (LLMs). We focus on integrating the Chain-of-Thought (CoT) and the Program-of-Thought (PoT) learning, hypothesizing that prioritizing the learning of mathematical reasoning ability is helpful for the amplification of problem-solving ability. Thus, the initial learning with CoT is essential for solving challenging mathematical problems. To this end, we propose a sequential learning approach, named SAAS (Solving Ability Amplification Strategy), which strategically transitions from CoT learning to PoT learning. Our empirical study, involving an extensive performance comparison using several benchmarks, demonstrates that our SAAS achieves state-of-the-art (SOTA) performance. The results underscore the effectiveness of our sequential learning approach, marking a significant advancement in the field of mathematical reasoning in LLMs. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # 政策最適化に基づくインテリジェントホームソーラーマネージメント
A proximal policy optimization based intelligent home solar management ( http://arxiv.org/abs/2404.03888v1 ) ライセンス: Link先を確認 | Kode Creer, Imitiaz Parvez, | (参考訳) スマートグリッドでは、プロシューマーが再生可能エネルギー源と蓄電装置を所有していると仮定して、未使用の電力を電力グリッドに戻すことができる。
ダイナミック電気市場における利益の最大化は、インテリジェントな計画を必要とする問題である。
そこで我々はPPO(Proximal Policy Optimization)に基づくフレームワークを提案する。
目的を最大化するために,PPOで効果的にモデル化された報酬に関する情報を利用することで,他のナイーブアルゴリズムよりも30倍以上の改善を達成できた。
これは、金融市場のような複雑な領域での行動計画に必要なタスクを実行するために強化学習アルゴリズムを取得することを約束している。
また,ソリトン波をベースとした縦長の埋め込み手法を導入し,ランダムな浮動小数点データ拡張による通常の埋め込みよりも優れることを示す。
In the smart grid, the prosumers can sell unused electricity back to the power grid, assuming the prosumers own renewable energy sources and storage units. The maximizing of their profits under a dynamic electricity market is a problem that requires intelligent planning. To address this, we propose a framework based on Proximal Policy Optimization (PPO) using recurrent rewards. By using the information about the rewards modeled effectively with PPO to maximize our objective, we were able to get over 30\% improvement over the other naive algorithms in accumulating total profits. This shows promise in getting reinforcement learning algorithms to perform tasks required to plan their actions in complex domains like financial markets. We also introduce a novel method for embedding longs based on soliton waves that outperformed normal embedding in our use case with random floating point data augmentation. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # LLMだけが推論できるのか?:タスクプランニングにおける小言語モデルの可能性
Can only LLMs do Reasoning?: Potential of Small Language Models in Task Planning ( http://arxiv.org/abs/2404.03891v1 ) ライセンス: Link先を確認 | Gawon Choi, Hyemin Ahn, | (参考訳) ロボット工学では、特に人間の命令を理解するために、LLM(Large Language Models)の使用が一般的になっている。
特に、LLMは高レベルのヒューマンコマンドのためのドメインに依存しないタスクプランナーとして利用される。
LLMはChain-of-Thought (CoT)推論が可能であるため、LLMはタスクプランナとなることができる。
しかし、現代ロボットは依然として複雑な動作を行うのに苦労しており、実際にロボットを配備できる領域は限られていると考える必要がある。
もし小さなLMが1つのドメイン内のチェーンを推論するように訓練できれば、小さなLMでさえロボットにとって良いタスクプランナーになるのだろうか?
より小さなLMをチェーンで推論するようにトレーニングするために,高レベルのコマンドと対応する実行可能な低レベルのステップからなる 'COST' を構築した。
データセットだけでなく、それを生成するためのプロンプトテンプレートもリリースしています。
GPT3.5 と GPT4 をタスクドメイン,テーブルトップ環境,キッチン環境において微調整した GPT2 と比較した結果,GPT2-medium は特定のドメインにおけるタスクプランニングにおいて GPT3.5 に匹敵することがわかった。
我々のデータセット、コード、さらに多くの出力サンプルはhttps://github.com/Gawon-Choi/small-LMs-Task-Planningで見ることができる。
In robotics, the use of Large Language Models (LLMs) is becoming prevalent, especially for understanding human commands. In particular, LLMs are utilized as domain-agnostic task planners for high-level human commands. LLMs are capable of Chain-of-Thought (CoT) reasoning, and this allows LLMs to be task planners. However, we need to consider that modern robots still struggle to perform complex actions, and the domains where robots can be deployed are limited in practice. This leads us to pose a question: If small LMs can be trained to reason in chains within a single domain, would even small LMs be good task planners for the robots? To train smaller LMs to reason in chains, we build `COmmand-STeps datasets' (COST) consisting of high-level commands along with corresponding actionable low-level steps, via LLMs. We release not only our datasets but also the prompt templates used to generate them, to allow anyone to build datasets for their domain. We compare GPT3.5 and GPT4 with the finetuned GPT2 for task domains, in tabletop and kitchen environments, and the result shows that GPT2-medium is comparable to GPT3.5 for task planning in a specific domain. Our dataset, code, and more output samples can be found in https://github.com/Gawon-Choi/small-LMs-Task-Planning | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # マンモグラフィにおける乳癌診断の強化:畳み込みニューラルネットワークと説明可能なAIの評価と統合
Enhancing Breast Cancer Diagnosis in Mammography: Evaluation and Integration of Convolutional Neural Networks and Explainable AI ( http://arxiv.org/abs/2404.03892v1 ) ライセンス: Link先を確認 | Maryam Ahmed, Tooba Bibi, Rizwan Ahmed Khan, Sidra Nasir, | (参考訳) 本研究は,CBIS-DDSMデータセットを用いた乳がんの診断に,畳み込みニューラルネットワーク(CNN)と説明可能な人工知能(XAI)を組み合わせた統合フレームワークを提案する。
細調整されたResNet50アーキテクチャを用いて,マンモグラフィ画像の良性・悪性カテゴリへの効果的な分化だけでなく,XAI手法,すなわちGrad-CAM,LIME,SHAPを用いて,医療従事者のCNN決定過程を解釈することで,深層学習モデルの「ブラックボックス」性にも対処する。
VGG-16, DenseNet, ResNetなどの事前学習ネットワークを用いたデータ前処理パイプラインと高度なデータ拡張技術を用いて, データセット制限に対処し, 転送学習を行った。
本研究の焦点は,モデル予測の解釈におけるXAIの有効性を評価することである。
このアプローチは、AI支援診断における信頼性と倫理的公正性を促進する上で、XAIにとって重要な役割を果たす。
本研究は,CNNとXAIが乳がんの診断方法の進歩に効果的に協力し,臨床現場における高度なAI技術のよりシームレスな統合を図ったものである。
この研究は、AI駆動による意思決定の解釈可能性を高めることによって、AIシステムと医療従事者とのコラボレーションを改善するための基礎を築き、最終的には患者のケアを豊かにする。
さらに、本研究の意義は、現在の方法論をはるかに超えて、マルチモーダルデータの統合と、臨床実践のニーズを満たすためのAI説明の洗練に関する今後の調査を提唱している。
The study introduces an integrated framework combining Convolutional Neural Networks (CNNs) and Explainable Artificial Intelligence (XAI) for the enhanced diagnosis of breast cancer using the CBIS-DDSM dataset. Utilizing a fine-tuned ResNet50 architecture, our investigation not only provides effective differentiation of mammographic images into benign and malignant categories but also addresses the opaque "black-box" nature of deep learning models by employing XAI methodologies, namely Grad-CAM, LIME, and SHAP, to interpret CNN decision-making processes for healthcare professionals. Our methodology encompasses an elaborate data preprocessing pipeline and advanced data augmentation techniques to counteract dataset limitations, and transfer learning using pre-trained networks, such as VGG-16, DenseNet and ResNet was employed. A focal point of our study is the evaluation of XAI's effectiveness in interpreting model predictions, highlighted by utilising the Hausdorff measure to assess the alignment between AI-generated explanations and expert annotations quantitatively. This approach plays a critical role for XAI in promoting trustworthiness and ethical fairness in AI-assisted diagnostics. The findings from our research illustrate the effective collaboration between CNNs and XAI in advancing diagnostic methods for breast cancer, thereby facilitating a more seamless integration of advanced AI technologies within clinical settings. By enhancing the interpretability of AI-driven decisions, this work lays the groundwork for improved collaboration between AI systems and medical practitioners, ultimately enriching patient care. Furthermore, the implications of our research extend well beyond the current methodologies, advocating for subsequent inquiries into the integration of multimodal data and the refinement of AI explanations to satisfy the needs of clinical practice. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # KGExplainer:知識グラフ補完のための連結サブグラフ説明の探索
KGExplainer: Towards Exploring Connected Subgraph Explanations for Knowledge Graph Completion ( http://arxiv.org/abs/2404.03893v1 ) ライセンス: Link先を確認 | Tengfei Ma, Xiang song, Wen Tao, Mufei Li, Jiani Zhang, Xiaoqin Pan, Jianxin Lin, Bosheng Song, xiangxiang Zeng, | (参考訳) 知識グラフ補完(KGC)は、Web上のレコメンデーションなど、様々なアプリケーションにとって重要なタスクである知識グラフ(KG)の固有の不完全性を緩和することを目的としている。
知識グラフ埋め込み(KGE)モデルは、KGCタスクにおいて優れた予測性能を示しているが、これらのモデルは、透明性と説明責任を欠いたブラックボックス方式でリンク不足を推測し、研究者が説明可能なモデルを開発するのを妨げている。
既存のKGEに基づく説明手法は、キーパスや孤立したエッジの探索に重点を置いている。
さらに、真実の欠如は、これらの説明方法が、探索された説明を定量的に評価するのに効果的でないことにつながる。
これらの制約を克服するために,KGExplainerを提案する。KGExplainerは,接続されたサブグラフの説明を識別し,定量的に評価するための評価器を蒸留するモデルに依存しない手法である。
KGExplainerは摂動に基づく欲求探索アルゴリズムを用いて、ターゲット予測の局所構造内の説明として重要な連結部分グラフを見つける。
KGExplainerは対象のKGEモデルから評価器を蒸留する。
評価器に説明を転送することにより,その忠実度を検証できる。
ベンチマークデータセットに関する大規模な実験は、KGExplainerが有望な改善をもたらし、人間の評価において83.3%の最適比率を達成することを示した。
Knowledge graph completion (KGC) aims to alleviate the inherent incompleteness of knowledge graphs (KGs), which is a critical task for various applications, such as recommendations on the web. Although knowledge graph embedding (KGE) models have demonstrated superior predictive performance on KGC tasks, these models infer missing links in a black-box manner that lacks transparency and accountability, preventing researchers from developing accountable models. Existing KGE-based explanation methods focus on exploring key paths or isolated edges as explanations, which is information-less to reason target prediction. Additionally, the missing ground truth leads to these explanation methods being ineffective in quantitatively evaluating explored explanations. To overcome these limitations, we propose KGExplainer, a model-agnostic method that identifies connected subgraph explanations and distills an evaluator to assess them quantitatively. KGExplainer employs a perturbation-based greedy search algorithm to find key connected subgraphs as explanations within the local structure of target predictions. To evaluate the quality of the explored explanations, KGExplainer distills an evaluator from the target KGE model. By forwarding the explanations to the evaluator, our method can examine the fidelity of them. Extensive experiments on benchmark datasets demonstrate that KGExplainer yields promising improvement and achieves an optimal ratio of 83.3% in human evaluation. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # Holon: バイオセミオティックスのためのサイバネティックインターフェース
Holon: a cybernetic interface for bio-semiotics ( http://arxiv.org/abs/2404.03894v1 ) ライセンス: Link先を確認 | Jon McCormack, Elliott Wilson, | (参考訳) 本稿では,自然環境と協調して音を聴く,130の自律型サイバネティック生物の集合体であるHolonについて述べる。
この作業はオーストラリアのメルボルンにある遺産登録のドックで水面に設置するために開発された。
作業を伝える概念的な問題と、実装の詳細な技術的概要が提示される。
個々のホロンは、動物のコミュニケーションの生物学的モデル(作曲家/ジェネレーター、コレクター/批評家、ディスラプター)にインスパイアされた3つのタイプからなる。
ホロンは、人間や非人間エージェントと協調して音響スペクトルの要素を統合し、占有する。
This paper presents an interactive artwork, "Holon", a collection of 130 autonomous, cybernetic organisms that listen and make sound in collaboration with the natural environment. The work was developed for installation on water at a heritage-listed dock in Melbourne, Australia. Conceptual issues informing the work are presented, along with a detailed technical overview of the implementation. Individual holons are of three types, inspired by biological models of animal communication: composer/generators, collector/critics and disruptors. Collectively, Holon integrates and occupies elements of the acoustic spectrum in collaboration with human and non-human agents. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # VoltaVision:電子部品分類のための伝達学習モデル
VoltaVision: A Transfer Learning model for electronic component classification ( http://arxiv.org/abs/2404.03898v1 ) ライセンス: Link先を確認 | Anas Mohammad Ishfaqul Muktadir Osmani, Taimur Rahman, Salekul Islam, | (参考訳) 本稿では,電子部品の分類における伝達学習の有効性について分析する。
Transfer Learningは、トレーニング済みのモデルを再利用して、スクラッチから学ぶのではなく、堅牢な分類器を構築する際の時間とリソースを節約する。
我々の研究はVoltaVisionと呼ばれる軽量CNNを導入し、その性能をより複雑なモデルと比較した。
我々は、類似したタスクから対象ドメインへの知識の転送が、一般的なデータセットでトレーニングされた最先端モデルよりも優れた結果をもたらすという仮説を検証した。
この作業のデータセットとコードはhttps://github.com/AnasIshfaque/VoltaVision.comで公開されています。
In this paper, we analyze the effectiveness of transfer learning on classifying electronic components. Transfer learning reuses pre-trained models to save time and resources in building a robust classifier rather than learning from scratch. Our work introduces a lightweight CNN, coined as VoltaVision, and compares its performance against more complex models. We test the hypothesis that transferring knowledge from a similar task to our target domain yields better results than state-of-the-art models trained on general datasets. Our dataset and code for this work are available at https://github.com/AnasIshfaque/VoltaVision. | 翻訳日:2024-04-08 17:06:15 公開日:2024-04-05 |
| # 非パラメトリック近代ホップフィールドモデル
Nonparametric Modern Hopfield Models ( http://arxiv.org/abs/2404.03900v1 ) ライセンス: Link先を確認 | Jerry Yao-Chieh Hu, Bo-Yu Chen, Dennis Wu, Feng Ruan, Han Liu, | (参考訳) 我々は、ディープラーニング互換の近代ホップフィールドモデルのための非パラメトリック構成を提案し、このフレームワークを利用して効率的な変種を創出する。
我々の重要な貢献は、最近のホップフィールドモデルにおける記憶の記憶と検索の過程を、クエリ-メモリペアの集合の非パラメトリック回帰問題として解釈することにある。
重要なことは、我々のフレームワークは、元の高密度なホップフィールドモデルから既知の結果を復元するだけでなく、より効率的なホップフィールドモデルに関する文献の空白を埋める。
このスパースモデルは、ホップフィールドエネルギー関数の詳細を知らなくても、変換器の注意、固定点収束、指数記憶容量との接続という、密度の高いアナログの魅力的な理論的特性を継承する。
さらに、線形、ランダムマスク付き、トップ$K、正のランダム特徴を持つホップフィールドモデルを含む、現代的なホップフィールドモデルのファミリーを拡張として構築することで、我々のフレームワークの汎用性を示す。
実験により,本フレームワークの有効性を,合成と現実の両方で検証した。
We present a nonparametric construction for deep learning compatible modern Hopfield models and utilize this framework to debut an efficient variant. Our key contribution stems from interpreting the memory storage and retrieval processes in modern Hopfield models as a nonparametric regression problem subject to a set of query-memory pairs. Crucially, our framework not only recovers the known results from the original dense modern Hopfield model but also fills the void in the literature regarding efficient modern Hopfield models, by introducing \textit{sparse-structured} modern Hopfield models with sub-quadratic complexity. We establish that this sparse model inherits the appealing theoretical properties of its dense analogue -- connection with transformer attention, fixed point convergence and exponential memory capacity -- even without knowing details of the Hopfield energy function. Additionally, we showcase the versatility of our framework by constructing a family of modern Hopfield models as extensions, including linear, random masked, top-$K$ and positive random feature modern Hopfield models. Empirically, we validate the efficacy of our framework in both synthetic and realistic settings. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # Deep Phase Coded Image Prior
Deep Phase Coded Image Prior ( http://arxiv.org/abs/2404.03906v1 ) ライセンス: Link先を確認 | Nimrod Shabtay, Eli Schwartz, Raja Giryes, | (参考訳) 位相符号化イメージング(英: Phase-coded imaging)は、画像キャプチャ中に挿入される深度キューを用いて、受動深度推定や拡張深度(EDOF)といったタスクに取り組むために設計された計算イメージング手法である。
深度推定やオールインフォーカス画像の現在のディープラーニングベースの手法のほとんどは、高品質な深度マップと、オールインフォーカス画像のインフィニティにおける最適なフォーカスポイントを備えたトレーニングデータセットを必要とする。
このようなデータセットは作成が困難で、通常は合成され、外部のグラフィックプログラムを必要とする。
そこで本研究では,DPCIP(Deep Phase Coded Image Prior)と呼ばれる新たな手法を提案する。
提案手法は特定のデータセットに依存しず,同じイメージングシステムを用いた先行監視手法を超越した手法である。
この改善は、暗黙的ニューラル表現(INR)とディープイメージ事前(DIP)に基づく問題定式化の利用によって達成される。
ゼロショット法により,新しい位相符号化システムに導入された深度マップとオールインフォーカス画像の精度の高い接地構造データを取得する障壁を克服する。
これにより、地中構造データ収集ではなく、主に撮像システムの開発に焦点が当てられる。
Phase-coded imaging is a computational imaging method designed to tackle tasks such as passive depth estimation and extended depth of field (EDOF) using depth cues inserted during image capture. Most of the current deep learning-based methods for depth estimation or all-in-focus imaging require a training dataset with high-quality depth maps and an optimal focus point at infinity for all-in-focus images. Such datasets are difficult to create, usually synthetic, and require external graphic programs. We propose a new method named "Deep Phase Coded Image Prior" (DPCIP) for jointly recovering the depth map and all-in-focus image from a coded-phase image using solely the captured image and the optical information of the imaging system. Our approach does not depend on any specific dataset and surpasses prior supervised techniques utilizing the same imaging system. This improvement is achieved through the utilization of a problem formulation based on implicit neural representation (INR) and deep image prior (DIP). Due to our zero-shot method, we overcome the barrier of acquiring accurate ground-truth data of depth maps and all-in-focus images for each new phase-coded system introduced. This allows focusing mainly on developing the imaging system, and not on ground-truth data collection. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 肺音・肺疾患分類のためのマルチタスク学習
Multi-Task Learning for Lung sound & Lung disease classification ( http://arxiv.org/abs/2404.03908v1 ) ライセンス: Link先を確認 | Suma K V, Deepali Koppad, Preethi Kumar, Neha A Kantikar, Surabhi Ramesh, | (参考訳) 近年, 深層学習技術の進歩により, 医療診断の効率と精度が著しく向上している。
本研究では,肺音と肺疾患の同時分類にマルチタスク学習(MTL)を用いた新しいアプローチを提案する。
提案モデルでは2D CNN, ResNet50, MobileNet, Densenetの4種類の深層学習モデルを用いて, 肺の音響記録から関連する特徴を抽出する。
ICBHI 2017 Respiratory Sound Databaseが現在の研究に採用された。
MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL、 MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTL, MTLの3。
実験の結果,肺音と肺疾患の同時分類におけるアプローチの有効性が示された。
本研究は,慢性閉塞性肺疾患患者の人口統計データを用いて,慢性閉塞性肺疾患のリスクレベル計算を行った。
この計算には、ロジスティック回帰(Logistic Regression)、SVM、ランダムフォレスト(Random Forest)という3つの機械学習アルゴリズムが使われている。
これらのMLアルゴリズムのうち、ランダムフォレスト分類器の精度は92\%であった。
この研究は、病理診断だけでなく、起こりうる原因や結果について患者に効果的に伝えるという医師の負担を大幅に軽減するのに役立つ。
In recent years, advancements in deep learning techniques have considerably enhanced the efficiency and accuracy of medical diagnostics. In this work, a novel approach using multi-task learning (MTL) for the simultaneous classification of lung sounds and lung diseases is proposed. Our proposed model leverages MTL with four different deep learning models such as 2D CNN, ResNet50, MobileNet and Densenet to extract relevant features from the lung sound recordings. The ICBHI 2017 Respiratory Sound Database was employed in the current study. The MTL for MobileNet model performed better than the other models considered, with an accuracy of74\% for lung sound analysis and 91\% for lung diseases classification. Results of the experimentation demonstrate the efficacy of our approach in classifying both lung sounds and lung diseases concurrently. In this study,using the demographic data of the patients from the database, risk level computation for Chronic Obstructive Pulmonary Disease is also carried out. For this computation, three machine learning algorithms namely Logistic Regression, SVM and Random Forest classifierswere employed. Among these ML algorithms, the Random Forest classifier had the highest accuracy of 92\%.This work helps in considerably reducing the physician's burden of not just diagnosing the pathology but also effectively communicating to the patient about the possible causes or outcomes. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 辞書を使わないNLI:Luxembourgishを応用した低リソース言語のためのゼロショットトピック分類
Forget NLI, Use a Dictionary: Zero-Shot Topic Classification for Low-Resource Languages with Application to Luxembourgish ( http://arxiv.org/abs/2404.03912v1 ) ライセンス: Link先を確認 | Fred Philippy, Shohreh Haddadan, Siwen Guo, | (参考訳) NLPでは、ゼロショット分類(ゼロショット分類、ゼロショット分類、ZSC)は、ターゲットクラスのラベル付き例を使わずに、ラベルをテキストデータに割り当てるタスクである。
ZSCの一般的な方法は、自然言語推論(NLI)データセット上で言語モデルを微調整し、入力された文書とターゲットラベルの間の関係を推測することである。
しかしこのアプローチは、特に限られたリソースを持つ言語において、いくつかの課題に直面している。
本稿では,辞書をZSCのデータソースとして活用する代替手法を提案する。
我々は、ルクセンブルクで話される低リソース言語であるLuxembourgishに注目し、様々な同義語、単語翻訳、例文を提供する辞書に基づく2つの新しいトピック関連分類データセットを構築した。
我々は、データセットのユーザビリティを評価し、NLIに基づく2つのトピック分類タスクをゼロショットで比較した。
本研究は,辞書ベースのデータセットを用いて,ZSCに対するNLIベースのアプローチに追従したモデルよりも優れていることを示す。
本研究では,1つの低リソース言語に焦点をあてる一方で,そのような辞書が利用できる他の言語にもアプローチの有効性が移行できると考えている。
In NLP, zero-shot classification (ZSC) is the task of assigning labels to textual data without any labeled examples for the target classes. A common method for ZSC is to fine-tune a language model on a Natural Language Inference (NLI) dataset and then use it to infer the entailment between the input document and the target labels. However, this approach faces certain challenges, particularly for languages with limited resources. In this paper, we propose an alternative solution that leverages dictionaries as a source of data for ZSC. We focus on Luxembourgish, a low-resource language spoken in Luxembourg, and construct two new topic relevance classification datasets based on a dictionary that provides various synonyms, word translations and example sentences. We evaluate the usability of our dataset and compare it with the NLI-based approach on two topic classification tasks in a zero-shot manner. Our results show that by using the dictionary-based dataset, the trained models outperform the ones following the NLI-based approach for ZSC. While we focus on a single low-resource language in this study, we believe that the efficacy of our approach can also transfer to other languages where such a dictionary is available. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # コンセプトウィーバー:テキスト-画像モデルにおけるマルチコンセプト融合の実現
Concept Weaver: Enabling Multi-Concept Fusion in Text-to-Image Models ( http://arxiv.org/abs/2404.03913v1 ) ライセンス: Link先を確認 | Gihyun Kwon, Simon Jenni, Dingzeyu Li, Joon-Young Lee, Jong Chul Ye, Fabian Caba Heilbron, | (参考訳) テキスト・ツー・イメージ生成モデルのカスタマイズには大きな進歩があったが、複数のパーソナライズされた概念を組み合わせた画像を生成することは依然として困難である。
本研究では,カスタマイズされたテキストと画像の拡散モデルを推論時に生成するConcept Weaverを紹介する。
具体的には、入力プロンプトのセマンティクスに沿ったテンプレートイメージを作成し、概念融合戦略を用いてテンプレートをパーソナライズする。
融合戦略は、ターゲット概念の外観を、その構造的詳細を維持しながらテンプレートイメージに組み込む。
提案手法は,他の手法と比較して,アイデンティティの忠実度が高い複数のカスタム概念を生成できることが示唆された。
さらに,2つ以上の概念をシームレスに処理し,異なる主題をブレンドすることなく,入力プロンプトの意味的意味を忠実に追従する手法を示す。
While there has been significant progress in customizing text-to-image generation models, generating images that combine multiple personalized concepts remains challenging. In this work, we introduce Concept Weaver, a method for composing customized text-to-image diffusion models at inference time. Specifically, the method breaks the process into two steps: creating a template image aligned with the semantics of input prompts, and then personalizing the template using a concept fusion strategy. The fusion strategy incorporates the appearance of the target concepts into the template image while retaining its structural details. The results indicate that our method can generate multiple custom concepts with higher identity fidelity compared to alternative approaches. Furthermore, the method is shown to seamlessly handle more than two concepts and closely follow the semantic meaning of the input prompt without blending appearances across different subjects. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 多層ネットワークにおける混合メンバシップの推定
Estimating mixed memberships in multi-layer networks ( http://arxiv.org/abs/2404.03916v1 ) ライセンス: Link先を確認 | Huan Qing, | (参考訳) 多層ネットワークにおけるコミュニティ検出は、現代のネットワーク分析の重要な領域として現れてきた。
しかし、従来のアプローチでは、ノードは単一のコミュニティにのみ属しており、ノードが同時に複数のコミュニティに属している実世界のネットワークの複雑な構造を捉えることができないと仮定することが多い。
この制限に対処するために、多層混合会員確率ブロックモデルにおいて、共通混合会員数を推定する新しいスペクトル法を提案する。
提案手法は, 隣接行列の和, 隣接行列の縮約和, 隣接行列の和の和の3つの集合行列の固有分解を利用する。
我々は,手法の整合性に関する厳密な理論的保証を確立する。
具体的には,ノード数および/または層数が多層混合確率ブロックモデルで増加するにつれて,ネットワーク間隔の緩やかな条件下でノード毎の誤差率を導出する。
理論的には, 隣接行列の和を利用する手法は, 多層ネットワークにおける混合メンバシップ推定法に比べて, 一般的には劣悪であることが明らかとなった。
理論的知見を実証的に検証するために,広範囲な数値実験を行った。
未知のコミュニティ情報を持つ実世界のマルチレイヤネットワークに対しては,混合コミュニティ検出の品質を定量化するための2つの新しいモジュール性指標を導入する。
最後に,実世界の多層ネットワークに適用することで,アルゴリズムとモジュール性メトリクスの実践的応用を実証し,有意義なコミュニティ構造抽出の有効性を実証する。
Community detection in multi-layer networks has emerged as a crucial area of modern network analysis. However, conventional approaches often assume that nodes belong exclusively to a single community, which fails to capture the complex structure of real-world networks where nodes may belong to multiple communities simultaneously. To address this limitation, we propose novel spectral methods to estimate the common mixed memberships in the multi-layer mixed membership stochastic block model. The proposed methods leverage the eigen-decomposition of three aggregate matrices: the sum of adjacency matrices, the debiased sum of squared adjacency matrices, and the sum of squared adjacency matrices. We establish rigorous theoretical guarantees for the consistency of our methods. Specifically, we derive per-node error rates under mild conditions on network sparsity, demonstrating their consistency as the number of nodes and/or layers increases under the multi-layer mixed membership stochastic block model. Our theoretical results reveal that the method leveraging the sum of adjacency matrices generally performs poorer than the other two methods for mixed membership estimation in multi-layer networks. We conduct extensive numerical experiments to empirically validate our theoretical findings. For real-world multi-layer networks with unknown community information, we introduce two novel modularity metrics to quantify the quality of mixed membership community detection. Finally, we demonstrate the practical applications of our algorithms and modularity metrics by applying them to real-world multi-layer networks, demonstrating their effectiveness in extracting meaningful community structures. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 生成言語モデルにおける文埋め込みの簡易化手法
Simple Techniques for Enhancing Sentence Embeddings in Generative Language Models ( http://arxiv.org/abs/2404.03921v1 ) ライセンス: Link先を確認 | Bowen Zhang, Kehua Chang, Chunping Li, | (参考訳) Sentence Embeddingは自然言語処理の領域における基本的なタスクであり、検索エンジン、エキスパートシステム、質問・回答プラットフォームで広範囲に応用されている。
LLaMAやMistralのような大規模言語モデルの継続的な進化により、文の埋め込みに関する研究は近年顕著なブレークスルーを達成している。
しかし、これらの進歩は主に微調整のシナリオにかかわっており、初期の段階では、文表現のための計算効率の良い直接推論手法を探求している。
この論文はこの研究ギャップを埋めようと努力している。
包括的実験を通じて、事前学習言語モデル(PLM)から文の埋め込みを導出するための明示的な一語制限の必要性を広く信じられている信念に挑戦する。
我々は,本手法が直接推論シナリオ下での生成モデルに有用であるが,識別モデルや生成PLMの微調整には必須でないことを示した。
この発見は、将来の研究で手動テンプレートの設計に新たな光を当てている。
この知見に基づいて, PLMの生埋め込みの表現力をさらに向上する2つの革新的急進的技術技術, 思考の連鎖と知識の強化を提案する。
各種のPLMタイプにまたがって有効性を確認し,その成功に寄与する要因を詳細に検討する。
Sentence Embedding stands as a fundamental task within the realm of Natural Language Processing, finding extensive application in search engines, expert systems, and question-and-answer platforms. With the continuous evolution of large language models such as LLaMA and Mistral, research on sentence embedding has recently achieved notable breakthroughs. However, these advancements mainly pertain to fine-tuning scenarios, leaving explorations into computationally efficient direct inference methods for sentence representation in a nascent stage. This paper endeavors to bridge this research gap. Through comprehensive experimentation, we challenge the widely held belief in the necessity of an Explicit One-word Limitation for deriving sentence embeddings from Pre-trained Language Models (PLMs). We demonstrate that this approach, while beneficial for generative models under direct inference scenario, is not imperative for discriminative models or the fine-tuning of generative PLMs. This discovery sheds new light on the design of manual templates in future studies. Building upon this insight, we propose two innovative prompt engineering techniques capable of further enhancing the expressive power of PLMs' raw embeddings: Pretended Chain of Thought and Knowledge Enhancement. We confirm their effectiveness across various PLM types and provide a detailed exploration of the underlying factors contributing to their success. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 視覚変換器の相関構造学習
Learning Correlation Structures for Vision Transformers ( http://arxiv.org/abs/2404.03924v1 ) ライセンス: Link先を確認 | Manjin Kim, Paul Hongsuck Seo, Cordelia Schmid, Minsu Cho, | (参考訳) 注目のキー-クエリ相互作用に自然に現れるリッチな相関パターンを活用する構造的自己注意(StructSA)と呼ばれる新しいアテンションメカニズムを導入する。
StructSAは、畳み込みによってキー-クエリ相関の時空間構造を認識してアテンションマップを生成し、それらを用いて、値特徴の局所的コンテキストを動的に集約する。
これは、シーンレイアウト、オブジェクトの動き、オブジェクト間の関係など、画像やビデオのリッチな構造パターンを効果的に活用する。
本研究では,StructSAをメインビルディングブロックとして用い,画像と映像の分類作業における構造的視覚変換器(StructViT)を開発し,ImageNet-1K, Kinetics-400, Something-Something V1 & V2, Diving-48, FineGymの最先端結果を実現する。
We introduce a new attention mechanism, dubbed structural self-attention (StructSA), that leverages rich correlation patterns naturally emerging in key-query interactions of attention. StructSA generates attention maps by recognizing space-time structures of key-query correlations via convolution and uses them to dynamically aggregate local contexts of value features. This effectively leverages rich structural patterns in images and videos such as scene layouts, object motion, and inter-object relations. Using StructSA as a main building block, we develop the structural vision transformer (StructViT) and evaluate its effectiveness on both image and video classification tasks, achieving state-of-the-art results on ImageNet-1K, Kinetics-400, Something-Something V1 & V2, Diving-48, and FineGym. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # LightOctree:軽量3D空間コヒーレントな室内照明推定
LightOctree: Lightweight 3D Spatially-Coherent Indoor Lighting Estimation ( http://arxiv.org/abs/2404.03925v1 ) ライセンス: Link先を確認 | Xuecan Wang, Shibang Xiao, Xiaohui Liang, | (参考訳) 一つのRGB画像から空間的コヒーレントな室内照明を推定するための軽量な解を提案する。
容積表現を用いた照明推定手法は,空間における光源のスパース分布を見逃し,高品質な結果を得るためには,かなりのメモリと計算資源を必要とする。
本稿では,3次元空間コヒーレント照明を実現するために,ボクセルオクツリーを用いた照明推定フレームワークを提案する。
さらに、プロセス全体を通して通常の体積表現を排除し、異なる周波数領域にまたがる特徴の保持を確保するために、微分可能なボクセルオクツリートレースレンダリング層が提案されている。
この削減は空間的使用量を大幅に減少させ、精度を大幅に向上させることなく浮動小数点演算を必要とする。
実験により,提案手法は従来手法に比べて最小限のコストで高品質なコヒーレント推定を実現することを示した。
We present a lightweight solution for estimating spatially-coherent indoor lighting from a single RGB image. Previous methods for estimating illumination using volumetric representations have overlooked the sparse distribution of light sources in space, necessitating substantial memory and computational resources for achieving high-quality results. We introduce a unified, voxel octree-based illumination estimation framework to produce 3D spatially-coherent lighting. Additionally, a differentiable voxel octree cone tracing rendering layer is proposed to eliminate regular volumetric representation throughout the entire process and ensure the retention of features across different frequency domains. This reduction significantly decreases spatial usage and required floating-point operations without substantially compromising precision. Experimental results demonstrate that our approach achieves high-quality coherent estimation with minimal cost compared to previous methods. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # Real-GDSR: Edge-Enhancing Residual NetworkによるDSMスーパーリゾリューション
Real-GDSR: Real-World Guided DSM Super-Resolution via Edge-Enhancing Residual Network ( http://arxiv.org/abs/2404.03930v1 ) ライセンス: Link先を確認 | Daniel Panangian, Ksenia Bittner, | (参考訳) 低解像度デジタルサーフェスモデル (DSM) はノイズやセンサの制限、データ取得条件の影響を受けやすい特性を特徴としているが、バイコビックのような単純な補間法では再現できなかった。
このため、合成データで訓練された超解像モデルは、実データでは効果的に機能しない。
実際の低解像度DSMと高解像度のDSMのペアでモデルをトレーニングすることも、情報の不足のため課題である。
一方、同じシーンの他の画像モダリティの存在は、大規模超解像に必要な情報を強化するのに有効である。
本稿では,REAL-GDSRという,現実世界のDSM超解像の複雑さに対処する新しい手法を提案する。
最初のステップは、残留する局所的な精錬ネットワークの利用である。
この戦略的なアプローチは、差(残差)ではなく、高さの値を直接予測し、ネットワーク内の大きな受容場を利用するように訓練された従来の手法とはかけ離れている。
第2のステップは拡散に基づく手法を導入し、世界規模で結果を向上し、スムージングとエッジ保存に重点を置いている。
提案手法の有効性を実証した。
実世界のDSM超解像(SR)の領域における最近の最先端技術と比較し、包括的評価を行う。
我々のアプローチは、定性的、定量的な評価によって証明されたように、これらの既存の手法を一貫して上回ります。
A low-resolution digital surface model (DSM) features distinctive attributes impacted by noise, sensor limitations and data acquisition conditions, which failed to be replicated using simple interpolation methods like bicubic. This causes super-resolution models trained on synthetic data does not perform effectively on real ones. Training a model on real low and high resolution DSMs pairs is also a challenge because of the lack of information. On the other hand, the existence of other imaging modalities of the same scene can be used to enrich the information needed for large-scale super-resolution. In this work, we introduce a novel methodology to address the intricacies of real-world DSM super-resolution, named REAL-GDSR, breaking down this ill-posed problem into two steps. The first step involves the utilization of a residual local refinement network. This strategic approach departs from conventional methods that trained to directly predict height values instead of the differences (residuals) and utilize large receptive fields in their networks. The second step introduces a diffusion-based technique that enhances the results on a global scale, with a primary focus on smoothing and edge preservation. Our experiments underscore the effectiveness of the proposed method. We conduct a comprehensive evaluation, comparing it to recent state-of-the-art techniques in the domain of real-world DSM super-resolution (SR). Our approach consistently outperforms these existing methods, as evidenced through qualitative and quantitative assessments. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 雑音線形問題に対する量子学習アルゴリズムについて
On quantum learning algorithms for noisy linear problems ( http://arxiv.org/abs/2404.03932v1 ) ライセンス: Link先を確認 | Minkyu Kim, Panjin Kim, | (参考訳) 量子アルゴリズムは、暗号ハード問題に関連する量子サンプルを用いてノイズの多い線形問題を解くことに成功している。
本稿では,従来の研究結果と同一の仮定で量子および古典的アルゴリズムを新たに提案する。
具体的には,[12]で実現不可能と思われる量子サンプルによる誤り問題を用いたリングラーニングを解く多項式時間量子アルゴリズムと,[12]で対応する量子アルゴリズムよりも効率のよい多項式時間古典アルゴリズムを提案する。
Quantum algorithms have shown successful results in solving noisy linear problems with quantum samples in which cryptographic hard problems are relevant. In this paper the previous results are investigated in detail, leading to new quantum and classical algorithms under the same assumptions as in the earlier works. To be specific, we present a polynomial-time quantum algorithm for solving the ring learning with errors problem with quantum samples which was deemed to be infeasible in [12], as well as polynomial-time classical algorithms that are more efficient than the corresponding quantum algorithms in solving the short integer solution problem with quantum samples and the learning with errors problem with size-reduced quantum samples. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 衛星画像時系列解析のための深層学習
Deep Learning for Satellite Image Time Series Analysis: A Review ( http://arxiv.org/abs/2404.03936v1 ) ライセンス: Link先を確認 | Lynn Miller, Charlotte Pelletier, Geoffrey I. Webb, | (参考訳) 地球観測(EO)衛星ミッションは、50年以上にわたって地球の状態とその陸地に関する詳細な画像を提供してきた。
NASAのランドサット、テラ、アクアなどの長期ミッション、最近ではESAのセンチネルミッションが数日ごとに世界中の画像を記録している。
単一画像はポイント・イン・タイムのデータを提供するが、同じ領域の繰り返し画像、または衛星画像時系列(SITS)は、植生や土地利用の変化状況に関する情報を提供する。
これらのSITSは、植物表現学のような動的プロセスや季節変化のモデル化に有用である。
農業、森林、水、災害管理、都市計画、鉱業など、土地と天然資源の管理の多くの面で潜在的に有利である。
しかし、衛星画像時系列(SITS)は複雑であり、時間次元、空間次元、スペクトル次元の情報を取り入れている。
したがって、深層学習手法は複雑な関係を解析できるため、しばしば展開される。
本稿では,SITSデータから環境,農業,その他の地球観測変数をモデル化する最先端の手法について,深層学習法を用いて概説する。
我々は、深層学習技術を用いて、時間情報を用いた地球観測モデルを強化することに関心のあるリモートセンシング専門家のためのリソースを提供することを目的としている。
Earth observation (EO) satellite missions have been providing detailed images about the state of the Earth and its land cover for over 50 years. Long term missions, such as NASA's Landsat, Terra, and Aqua satellites, and more recently, the ESA's Sentinel missions, record images of the entire world every few days. Although single images provide point-in-time data, repeated images of the same area, or satellite image time series (SITS) provide information about the changing state of vegetation and land use. These SITS are useful for modeling dynamic processes and seasonal changes such as plant phenology. They have potential benefits for many aspects of land and natural resource management, including applications in agricultural, forest, water, and disaster management, urban planning, and mining. However, the resulting satellite image time series (SITS) are complex, incorporating information from the temporal, spatial, and spectral dimensions. Therefore, deep learning methods are often deployed as they can analyze these complex relationships. This review presents a summary of the state-of-the-art methods of modelling environmental, agricultural, and other Earth observation variables from SITS data using deep learning methods. We aim to provide a resource for remote sensing experts interested in using deep learning techniques to enhance Earth observation models with temporal information. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # NMR実験における人工緩和
Artificial Relaxation in NMR Experiment ( http://arxiv.org/abs/2404.03937v1 ) ライセンス: Link先を確認 | Shingo Kukita, Haruki Kiya, Yasushi Kondo, | (参考訳) 環境騒音は量子系の緩和を引き起こし、演算の精度を低下させる。
環境騒音による緩和機構の適用は、量子技術の構築に不可欠である。
緩和は、システムから無限自由度(DoF)の環境への情報伝達の過程と見なすことができる。
このアイデアによれば、人工緩和のモデルがNMR実験で提案され、実証されている。
このモデルは緩和という中心的な考え方をうまく理解したが,「人工環境」のDoFがほとんどないため,緩和を記述するのに理想的ではない再帰的行動が観察された。
本稿では, 人工環境のアプローチを拡張し, 理論的, 実験的に, 理想的な緩和行動を実現するためには, どの程度のDoFが必要なのかを議論する。
私たちのアプローチは緩和の概念を深く理解するのに役立ちます。
Environmental noises cause the relaxation of quantum systems and decrease the precision of operations. Apprehending the relaxation mechanism via environmental noises is essential for building quantum technologies. Relaxations can be considered a process of information dissipation from the system into an environment with infinite degrees of freedom (DoF). According to this idea, a model of artificial relaxation has been proposed and demonstrated in NMR experiments. Although this model successfully understood the central idea of relaxation, we observed recursive behavior, which is non-ideal to describe relaxation, because of few DoF of the ``artificial environment''. In this paper, we extend the approach of the artificial environment and discuss, theoretically and experimentally, how many DoF of the environment are necessary for realizing ideal relaxation behavior. Our approach will help us thoroughly understand the concept of relaxation. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # 単語問題解法における文脈内学習によるデータ強化と比較評価
Data Augmentation with In-Context Learning and Comparative Evaluation in Math Word Problem Solving ( http://arxiv.org/abs/2404.03938v1 ) ライセンス: Link先を確認 | Gulsum Yigit, Mehmet Fatih Amasyali, | (参考訳) 数学語問題(MWP)は自然言語処理(NLP)における課題である。
本研究の目的は,MWPソルバにより多様なトレーニングセットを提供することであり,最終的には様々な数学問題を解く能力を向上させることである。
本稿では,同義語置換,ルールベース:質問置換,ルールベース:2つの英語MWPデータセット上での質問手法の反転など,問題テキストや方程式を変更することで,データ拡張のためのいくつかの手法を提案する。
本研究は,Llama-7b言語モデルを用いて,新しい文脈内学習拡張手法を導入することで拡張する。
このアプローチでは、数学問題テキストの書き直しを命令ベースのプロンプトで行う。
9つのベースラインモデルで性能評価を行い、拡張法がベースラインモデルより優れていることを示した。
さらに、様々な拡張手法によって生成された例の連結により、さらに性能が向上する。
Math Word Problem (MWP) solving presents a challenging task in Natural Language Processing (NLP). This study aims to provide MWP solvers with a more diverse training set, ultimately improving their ability to solve various math problems. We propose several methods for data augmentation by modifying the problem texts and equations, such as synonym replacement, rule-based: question replacement, and rule based: reversing question methodologies over two English MWP datasets. This study extends by introducing a new in-context learning augmentation method, employing the Llama-7b language model. This approach involves instruction-based prompting for rephrasing the math problem texts. Performance evaluations are conducted on 9 baseline models, revealing that augmentation methods outperform baseline models. Moreover, concatenating examples generated by various augmentation methods further improves performance. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # スマートメータデータの擬似化戦略は、ディープラーニングプロファイリング攻撃に対するロバストではない
Re-pseudonymization Strategies for Smart Meter Data Are Not Robust to Deep Learning Profiling Attacks ( http://arxiv.org/abs/2404.03948v1 ) ライセンス: Link先を確認 | Ana-Maria Cretu, Miruna Rusu, Yves-Alexandre de Montjoye, | (参考訳) スマートメーター(スマートメーター)は、家庭の電気とガス消費を計測する装置で、現在世界中の高速な速度で展開されている。
彼らが収集したデータは、気候変動との戦いを含む非常に有用なものです。
しかし、これらのデータとそれらから推測できる情報は、非常に敏感である。
再擬似化(re-pseudonymization)、すなわちランダムな識別子の頻繁な置換は、再識別のリスクを軽減しつつ、スマートメーターデータを共有するために広く用いられている。
ここでは, 再擬似化にもかかわらず, 大規模データセットにおいて, 家庭の消費記録を高精度にまとめることができることを示す。
本稿では,再擬似化スマートメーターデータに対する,最初のディープラーニングベースのプロファイリング攻撃を提案する。
我々の攻撃は、毎週の消費記録から特徴を抽出するために使用されるニューラルネットワークの埋め込みと、近隣の分類器とを組み合わせ、スマートメーター識別タスクに適合させる。
6つのニューラルネットワークアーキテクチャを埋め込みモデルとして評価する。
以上の結果から,トランスフォーマーおよびCNN-LSTMアーキテクチャは従来手法や他のアーキテクチャよりも大幅に優れており,電気・ガス消費記録に基づく5139世帯中73.4%の正確な世帯(54.5%は電気のみ)を同定できたことが示唆された。
さらに, 組込みモデルから抽出した特徴が, モデルのトレーニングに使用した機能とは相容れないユーザ群に移動した場合, 有効性を維持することを示す。
最後に,結果の堅牢性について広範囲に評価した。
また,本研究の結果から,繰り返し行われる再匿名化戦略の逆転を強く示唆し,実際に再識別を防止できる能力の制限を強く示唆した。
Smart meters, devices measuring the electricity and gas consumption of a household, are currently being deployed at a fast rate throughout the world. The data they collect are extremely useful, including in the fight against climate change. However, these data and the information that can be inferred from them are highly sensitive. Re-pseudonymization, i.e., the frequent replacement of random identifiers over time, is widely used to share smart meter data while mitigating the risk of re-identification. We here show how, in spite of re-pseudonymization, households' consumption records can be pieced together with high accuracy in large-scale datasets. We propose the first deep learning-based profiling attack against re-pseudonymized smart meter data. Our attack combines neural network embeddings, which are used to extract features from weekly consumption records and are tailored to the smart meter identification task, with a nearest neighbor classifier. We evaluate six neural networks architectures as the embedding model. Our results suggest that the Transformer and CNN-LSTM architectures vastly outperform previous methods as well as other architectures, successfully identifying the correct household 73.4% of the time among 5139 households based on electricity and gas consumption records (54.5% for electricity only). We further show that the features extracted by the embedding model maintain their effectiveness when transferred to a set of users disjoint from the one used to train the model. Finally, we extensively evaluate the robustness of our results. Taken together, our results strongly suggest that even frequent re-pseudonymization strategies can be reversed, strongly limiting their ability to prevent re-identification in practice. | 翻訳日:2024-04-08 16:44:14 公開日:2024-04-05 |
| # ゲーム内リアルタイムおよび仮想通貨トラッカーの概念設計
A Conceptual Design of In-Game Real and Virtual Currency Tracker ( http://arxiv.org/abs/2404.03951v1 ) ライセンス: Link先を確認 | Dennis Barzanoff, Amna Asif, | (参考訳) ゲーム業界は、バーチャル通貨をゲームデザイン体験に取り入れることで、膨大な収入を得ている。
ゲーム業界にとって利益を上げるための有用なアプローチであるとしても、一方向および双方向のバーチャル通貨は、プレイヤ間の不適切なゲーム行動や追加を誘発することができる。
市場は、ユーザーの経済的、行動的、心理的な搾取を避けるために、ゲームや顧客保護の規制を欠いている。
したがって、ゲームプレイヤの消費のバランスを保ち、ゲーム行動を改善するために、視覚的またはテキスト的インターフェース設計レコメンデーションを開発する必要がある。
本稿では,ゲーム内購入モジュールの概念を提示し,仮想通貨購入に関するリアルタイム支出をユーザが観察できるようにする。
The gaming industry is earning huge revenues from incorporating virtual currencies into the game design experience. Even if it is a useful approach for the game industry to boost up their earnings, the unidirectional and bidirectional in-game virtual currencies can invoke inadequate gaming behaviors and additions among players. The market lacks gaming and customer protection regulations to avoid the financial, behavioral, and psychological exploitation of users. Therefore, it is needed to develop visual or textual interface design recommendations that help the game players keep balance in their spending and improve their gaming behavior. This paper presents a conceptual design of an in-game purchasing module that allows the user to observe their real time spendings in relation to virtual currency buying. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # コード修正がソフトウェア品質指標に与える影響を理解するために
Towards Understanding the Impact of Code Modifications on Software Quality Metrics ( http://arxiv.org/abs/2404.03953v1 ) ライセンス: Link先を確認 | Thomas Karanikiotis, Andreas L. Symeonidis, | (参考訳) コンテキスト: ソフトウェア開発の世界では、高いソフトウェア品質を維持することが永続的な課題です。
しかしながら、この課題は、特定のコード修正が品質指標にどのように影響するかを包括的に理解していないために、しばしば妨げられます。
目的: この研究は、コード修正の影響を評価し、解釈しようとするアプローチを通じて、このギャップを埋めようとしている。
基礎となる仮説は、ソフトウェア品質のメトリクスに類似した変更を誘発するコード修正を、AI言語モデルを使用して効果的に記述可能な、個別のクラスタにグループ化することができる、というものである。
メソッド: この仮説を検証するために、人気のあるGitHubリポジトリからデータセットを構築し、分析し、個々のコード修正に分割しました。
各プロジェクトは、ソフトウェア品質のメトリクスを前も後もって評価した。
機械学習技術は、メトリクスの誘導的変化に基づいて、これらの変更をクラスタリングするために利用された。
同時に、各修正機能の記述を生成するために、AI言語モデルが採用された。
結果: 結果は異なるコード修正のクラスタを明らかにし、それぞれに簡潔な説明が伴い、ソフトウェア品質のメトリクスに対する全体的な影響を明らかにします。
結論: この研究は、コード変更とソフトウェア品質の複雑な関係を包括的に理解するための重要なステップであり、ソフトウェアメンテナンス戦略を変革し、より正確な品質予測モデルの開発を可能にする可能性があることを示唆している。
Context: In the realm of software development, maintaining high software quality is a persistent challenge. However, this challenge is often impeded by the lack of comprehensive understanding of how specific code modifications influence quality metrics. Objective: This study ventures to bridge this gap through an approach that aspires to assess and interpret the impact of code modifications. The underlying hypothesis posits that code modifications inducing similar changes in software quality metrics can be grouped into distinct clusters, which can be effectively described using an AI language model, thus providing a simple understanding of code changes and their quality implications. Method: To validate this hypothesis, we built and analyzed a dataset from popular GitHub repositories, segmented into individual code modifications. Each project was evaluated against software quality metrics pre and post-application. Machine learning techniques were utilized to cluster these modifications based on the induced changes in the metrics. Simultaneously, an AI language model was employed to generate descriptions of each modification's function. Results: The results reveal distinct clusters of code modifications, each accompanied by a concise description, revealing their collective impact on software quality metrics. Conclusions: The findings suggest that this research is a significant step towards a comprehensive understanding of the complex relationship between code changes and software quality, which has the potential to transform software maintenance strategies and enable the development of more accurate quality prediction models. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # マルコフ量子力学における感度の普遍時間スケーリング
Universal time scalings of sensitivity in Markovian quantum metrology ( http://arxiv.org/abs/2404.03954v1 ) ライセンス: Link先を確認 | Arpan Das, Wojciech Gorecki, Rafal Demkowicz-Dobrzanski, | (参考訳) 量子センシングシステムのマルコフ時間進化を仮定すると、最も一般的な量子制御プロトコルの下で、時間による最適感度スケーリングの一般的な特徴を与える。
我々は、推定パラメータが量子マスター方程式の散逸部分とハミルトン方程式の両方に影響を与えることを許す。
我々は,漸近時間と短時間の感度尺度に着目し,両体制間の遷移が現れる関連する時間スケールについて検討する。
これにより、単純な代数的条件(ハミルトニアン、ジャンプ作用素、およびそれらのパラメータ微分)を通じて、二次線型、二次2次、線型2次、線型2次時間スケーリングの4つのクラスを特徴づけることができる。
また、文献の中で最も厳密な感度の量的境界を求めるために、普遍的な数値的手法も提供する。
Assuming a Markovian time evolution of a quantum sensing system, we provide a general characterization of the optimal sensitivity scalings with time, under the most general quantum control protocols. We allow the estimated parameter to influence both the Hamiltonian as well as the dissipative part of the quantum master equation. We focus on the asymptotic-time as well as the short-time sensitivity scalings, and investigate the relevant time scales on which the transition between the two regimes appears. This allows us to characterize, via simple algebraic conditions (in terms of the Hamiltonian, the jump operators as well as their parameter derivatives), the four classes of metrological models that represent: quadratic-linear, quadratic-quadratic, linear-linear and linear-quadratic time scalings. We also provide universal numerical methods to obtain quantitative bounds on sensitivity that are the tightest that exist in the literature. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # 可視域における量子鍵分布系の脆弱性
Vulnerabilities of quantum key distribution systems in visible range ( http://arxiv.org/abs/2404.03956v1 ) ライセンス: Link先を確認 | Boris Nasedkin, Azat Ismagilov, Vladimir Chistiakov, Andrei Gaidash, Aleksandr Shimko, Alexei D. Kiselev, Anton Tcypkin, Vladimir Egorov, Anton Kozubov, | (参考訳) 1000-2100nmの範囲のスペクトルループホールは、量子鍵分布系における脆弱性の探索と除去を目的とした量子ハッキング研究の焦点となっている。
本研究は、400nmから800nmまでの短波長に焦点をあて、多数の光ファイバ部品の挿入損失スペクトルを実験的に研究し、その実装のポテンシャルを対策として評価する。
通信網におけるハッキング攻撃に対する対策として一般的に用いられる要素の効率は、可視範囲において著しく損なわれる可能性があることを示す。
この範囲で検出された脆弱性は、波長が減少すると効率が向上する誘導光屈折攻撃のようなハッキング戦略において、ますます重要な役割を担っていることが判明した。
Spectral loopholes in the 1000-2100 nm range have been the focus of attention of quantum hacking research aimed at searching and elimination of vulnerabilities in quantum key distribution systems. In this work, we concentrate on shorter wavelengths ranged from 400 nm up to 800 nm and experimentally study spectra of insertion losses for a number of fiber optical components to assess potentials for their implementation as countermeasures. We show that efficiency of the elements commonly used as countermeasures against hacking attacks in the telecom range can be significantly impaired in the visible range. It is found that the vulnerabilities detected in this range play an increasingly important role for hacking strategies such as the induced-photorefraction attack whose efficiency improves when the wavelength decreases. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # RaSim: 現実のアプリケーションのためのレンジ対応高忠実なRGB-Dデータシミュレーションパイプライン
RaSim: A Range-aware High-fidelity RGB-D Data Simulation Pipeline for Real-world Applications ( http://arxiv.org/abs/2404.03962v1 ) ライセンス: Link先を確認 | Xingyu Liu, Chenyangguang Zhang, Gu Wang, Ruida Zhang, Xiangyang Ji, | (参考訳) ロボットビジョンでは、デファクトパラダイムはシミュレーション環境で学び、実世界のアプリケーションに移行することである。
本研究は,RGB領域におけるこの問題に主眼を置きながら,深度データ合成に着目し,RGB-Dデータシミュレーションパイプライン(RaSim)を開発した。
特に、実世界のセンサーの撮像原理を模倣して高忠実度深度データを生成する。
データ多様性を豊かにする範囲対応レンダリング戦略も導入されている。
大規模な実験により、RaSimでトレーニングされたモデルは、下流のRGB-D知覚タスクで微調整や優れることなく、現実世界のシナリオに直接適用できることが示されている。
In robotic vision, a de-facto paradigm is to learn in simulated environments and then transfer to real-world applications, which poses an essential challenge in bridging the sim-to-real domain gap. While mainstream works tackle this problem in the RGB domain, we focus on depth data synthesis and develop a range-aware RGB-D data simulation pipeline (RaSim). In particular, high-fidelity depth data is generated by imitating the imaging principle of real-world sensors. A range-aware rendering strategy is further introduced to enrich data diversity. Extensive experiments show that models trained with RaSim can be directly applied to real-world scenarios without any finetuning and excel at downstream RGB-D perception tasks. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # 分子特性予測のためのトランスフォーマー:過去5年間の教訓
Transformers for molecular property prediction: Lessons learned from the past five years ( http://arxiv.org/abs/2404.03969v1 ) ライセンス: Link先を確認 | Afnan Sultan, Jochen Sieg, Miriam Mathea, Andrea Volkamer, | (参考訳) 分子特性予測(MPP)は、医薬品の発見、作物の保護、環境科学に不可欠である。
過去数十年にわたり、統計モデルや古典的機械学習における単純な物理的・化学的性質や分子指紋から高度なディープラーニングアプローチまで、様々な計算技術が開発されてきた。
本稿では,MPPへのトランスフォーマーモデルの適用に関する現在の研究から知見を抽出することを目的としている。
我々は、現在利用可能なモデルを分析し、MPP用のトランスフォーマーモデルを微調整し、トレーニング時に生じる重要な質問を探索する。
これらの質問には、事前学習データの選択とスケール、最適なアーキテクチャ選択、有望な事前学習目標が含まれている。
我々の分析では、まだ研究対象になっていない領域が強調され、この分野の理解を深めるためにさらなる調査を呼びかけている。
さらに、異なるモデルを比較する際の課題に対処し、標準化されたデータ分割とロバストな統計分析の必要性を強調した。
Molecular Property Prediction (MPP) is vital for drug discovery, crop protection, and environmental science. Over the last decades, diverse computational techniques have been developed, from using simple physical and chemical properties and molecular fingerprints in statistical models and classical machine learning to advanced deep learning approaches. In this review, we aim to distill insights from current research on employing transformer models for MPP. We analyze the currently available models and explore key questions that arise when training and fine-tuning a transformer model for MPP. These questions encompass the choice and scale of the pre-training data, optimal architecture selections, and promising pre-training objectives. Our analysis highlights areas not yet covered in current research, inviting further exploration to enhance the field's understanding. Additionally, we address the challenges in comparing different models, emphasizing the need for standardized data splitting and robust statistical analysis. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # SEME at SemEval-2024 Task 2: Comparisoning Masked and Generative Language Models on Natural Language Inference for Clinical Trials
SEME at SemEval-2024 Task 2: Comparing Masked and Generative Language Models on Natural Language Inference for Clinical Trials ( http://arxiv.org/abs/2404.03977v1 ) ライセンス: Link先を確認 | Mathilde Aguiar, Pierre Zweigenbaum, Nona Naderi, | (参考訳) 本稿では,SemEval-2024: Safe Biomedical Natural Language Inference for Clinical Trialsのタスク2について述べる。
The Multi-evidence Natural Language Inference for Clinical Trial Data (NLI4CT) are consist of a Textual Entailment (TE) task on the evaluation of the consistency and faithfulness of Natural Language Inference (NLI) model applied to Clinical Trial Reports (CTR)。
特にChain-Of-Thought と Contrastive Chain-Of-Thought を用いて,テンプレートを用いた大規模言語モデルの導入を促す。
2ショット設定でFlan-T5を大きくすることで、0.57のF1スコア、0.64のFithfulness、0.56のConsistencyを達成できます。
This paper describes our submission to Task 2 of SemEval-2024: Safe Biomedical Natural Language Inference for Clinical Trials. The Multi-evidence Natural Language Inference for Clinical Trial Data (NLI4CT) consists of a Textual Entailment (TE) task focused on the evaluation of the consistency and faithfulness of Natural Language Inference (NLI) models applied to Clinical Trial Reports (CTR). We test 2 distinct approaches, one based on finetuning and ensembling Masked Language Models and the other based on prompting Large Language Models using templates, in particular, using Chain-Of-Thought and Contrastive Chain-Of-Thought. Prompting Flan-T5-large in a 2-shot setting leads to our best system that achieves 0.57 F1 score, 0.64 Faithfulness, and 0.56 Consistency. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # ランダム置換集合論におけるランダムウォーク
Random Walk in Random Permutation Set Theory ( http://arxiv.org/abs/2404.03978v1 ) ライセンス: Link先を確認 | Jiefeng Zhou, Zhen Li, Yong Deng, | (参考訳) ランダムウォーク(英: Random walk)は、自然過程を分子レベルでモデル化するための説明可能なアプローチである。
ランダム置換集合論(RPST)は不確実性推論の枠組みとして機能し、デンプスター・シェーファー理論の適用性を拡張している。
最近の調査は、RPSTとランダムウォークとの有望な結びつきを示している。
本研究では,RPSTの特性に基づくランダムウォークモデルを構築し,モンテカルロによるランダムウォークのシミュレーションを行った。
その結果,RPSTによるランダムウォークはガウスのランダムウォークに類似した特性を示し,特定の制限スケーリング手順によってウィナーのプロセスに変換できることがわかった。
本研究は、RPSTとランダムウォーク理論の新たな関連性を確立し、RPSTの適用性を拡大するだけでなく、両アプローチの強みを組み合わせて問題解決能力を向上させる可能性を実証する。
Random walk is an explainable approach for modeling natural processes at the molecular level. The Random Permutation Set Theory (RPST) serves as a framework for uncertainty reasoning, extending the applicability of Dempster-Shafer Theory. Recent explorations indicate a promising link between RPST and random walk. In this study, we conduct an analysis and construct a random walk model based on the properties of RPST, with Monte Carlo simulations of such random walk. Our findings reveal that the random walk generated through RPST exhibits characteristics similar to those of a Gaussian random walk and can be transformed into a Wiener process through a specific limiting scaling procedure. This investigation establishes a novel connection between RPST and random walk theory, thereby not only expanding the applicability of RPST, but also demonstrating the potential for combining the strengths of both approaches to improve problem-solving abilities. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # 理想ボース・アインシュタイン凝縮体におけるリドベルク不純物の現象
Phenomenology of a Rydberg impurity in an ideal Bose Einstein condensate ( http://arxiv.org/abs/2404.03980v1 ) ライセンス: Link先を確認 | Aileen A. T. Durst, Matthew T. Eiles, | (参考訳) 理想のボース=アインシュタイン凝縮体に浸入し相互作用するリドベルク不純物の吸収スペクトルについて検討する。
長さスケールにおけるこの差は、希薄なボゾン環境における不純物原子の普遍的な側面に基づく仮定に挑戦する。
分析の結果,それぞれに固有のスペクトル応答を特徴とする3つのパラメータ構造が得られた。
低密度の体制では、リュドベルクの不純物は既知のボース・ポーラロンと同様、周囲の浴槽で服装されている。
中間密度に遷移すると、鋭い準粒子のピークによって与えられる不純物反応は、多様な分子構造の目印を持つ複雑なパターンへと断片化される。
最後に、高密度では、浴の統計的性質がその量子力学を支配しているため、普遍ガウス反応が現れる。
この分析を、等価に振る舞うイオン不純物の研究で補完する。
我々の探索は、不純物系における相互作用範囲、密度、多体挙動の相互作用に関する洞察を提供する。
We investigate the absorption spectrum of a Rydberg impurity immersed in and interacting with an ideal Bose-Einstein condensate. Here, the impurity-bath interaction can greatly exceed the mean interparticle distance; this discrepancy in length scales challenges the assumptions underlying the universal aspects of impurity atoms in dilute bosonic environments. Our analysis finds three distinct parameter regimes, each characterized by a unique spectral response. In the low-density regime, we find that the Rydberg impurity is dressed by the surrounding bath similarly to the known Bose polaron. Transitioning to intermediate densities, the impurity response, given by sharp quasiparticle peaks, fragments into an intricate pattern bearing the hallmarks of a diverse molecular structure. Finally, at high density, a universal Gaussian response emerges as the statistical nature of the bath dominates its quantum dynamics. We complement this analysis with a study of an ionic impurity, which behaves equivalently. Our exploration offers insights into the interplay between interaction range, density, and many-body behavior in impurity systems. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # ポンプのオンチップ時間操作によるスペクトル純度の影響
Effect on spectral purity due to on-chip temporal manipulation of the pump ( http://arxiv.org/abs/2404.03986v1 ) ライセンス: Link先を確認 | Lukas Rodda, Ben M. Burridge, Jorge Barreto, Imad I. Faruque, | (参考訳) フォトニック集積回路(PIC)は量子情報技術にとって有望な競合である。
光子のスペクトル純度は、PIC光子対源の重要な特性の1つである。
デュアルパルスポンプ操作技術[1]は、リング共振器光子対光源において99%の純度を示した。
そこで我々は,パルスを2倍,3倍,4倍のパルスに整形するPICを開発し,これらのポンプパルス配置が純度に及ぼす影響について検討した。
その結果、二重パルスよりも複雑な構成は比較的高い純度をもたらすのではなく、任意の純度の値を選択するための正確な制御を可能にすることがわかった。
Photonic Integrated Circuits (PIC)s are a promising contender for quantum information technologies. The spectral purity of photons is one of the key attributes of PIC photon-pair sources. The dual-pulse pump manipulation technique [1] showed >99% purity in ring-resonator photon-pair sources. Here, we have developed a PIC to shape a pulse into dual, triple and quadruple pulses and investigated the effect of these pump pulse configurations on the purity. Our results show that more complex configurations over dual-pulse do not result in comparatively higher purity but allow accurate control over choosing arbitrary values of the purity. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # Few-Shot Cross-Topic Stance Detection におけるモデル決定のロバスト性の検討
Investigating the Robustness of Modelling Decisions for Few-Shot Cross-Topic Stance Detection: A Preregistered Study ( http://arxiv.org/abs/2404.03987v1 ) ライセンス: Link先を確認 | Myrthe Reuver, Suzan Verberne, Antske Fokkens, | (参考訳) パースペクティブ・ディバース・ニュースレコメンダでは、2つのニュース記事が同じパースペクティブを表現することが不可欠である。
の視点を決定する一つの方法は、姿勢検出である。
本稿では,数発のスタンス検出のための運用選択の堅牢性について検討し,特にトピック間のスタンスをモデル化することに注目した。
本実験は姿勢検出に関する事前登録仮説を検証した。
具体的には、2つのスタンスタスク定義(Pro/ConとSame Side Stance)、2つのLLMアーキテクチャ(ビエンコーディングとクロスエンコーディング)、自然言語推論の知識の追加、および7つのスタンス検出データセットから100のサンプルをトレーニングしたRoBERTaモデルの比較を行う。
初期の研究から得られた仮説や主張のいくつかは確認できますが、もっと矛盾した結果をもたらすものもあります。
同じサイドスタンス定義がデータセット毎にパフォーマンスに与える影響は異なり、他のモデリング選択の影響を受けます。
トレーニングショットにおけるトレーニングトピックの数とパフォーマンスとの間には,何の関係も見つからなかった。
一般的に、クロスエンコーディングはバイエンコーディングに優れ、モデルにNLIトレーニングを追加することで大幅に改善されるが、これらの結果はすべてのデータセットで一貫性がない。
この結果から,「スタンス」概念のロバストなモデリング選択を見つけるためには,複数のデータセットと体系的なモデリング実験を含めることが不可欠であることが示唆された。
For a viewpoint-diverse news recommender, identifying whether two news articles express the same viewpoint is essential. One way to determine "same or different" viewpoint is stance detection. In this paper, we investigate the robustness of operationalization choices for few-shot stance detection, with special attention to modelling stance across different topics. Our experiments test pre-registered hypotheses on stance detection. Specifically, we compare two stance task definitions (Pro/Con versus Same Side Stance), two LLM architectures (bi-encoding versus cross-encoding), and adding Natural Language Inference knowledge, with pre-trained RoBERTa models trained with shots of 100 examples from 7 different stance detection datasets. Some of our hypotheses and claims from earlier work can be confirmed, while others give more inconsistent results. The effect of the Same Side Stance definition on performance differs per dataset and is influenced by other modelling choices. We found no relationship between the number of training topics in the training shots and performance. In general, cross-encoding out-performs bi-encoding, and adding NLI training to our models gives considerable improvement, but these results are not consistent across all datasets. Our results indicate that it is essential to include multiple datasets and systematic modelling experiments when aiming to find robust modelling choices for the concept `stance'. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # グラフ学習によるモデル動物園を用いたモデル選択
Model Selection with Model Zoo via Graph Learning ( http://arxiv.org/abs/2404.03988v1 ) ライセンス: Link先を確認 | Ziyu Li, Hilco van der Wilk, Danning Zhan, Megha Khosla, Alessandro Bozzon, Rihan Hai, | (参考訳) 事前訓練されたディープラーニング(DL)モデルは、公開リポジトリ、すなわちモデル動物園でアクセスしやすくなっている。
新しい予測タスクが与えられた場合、特に事前訓練されたモデルの数が大きければ、微調整に最適なモデルを見つけることは、計算集約的でコストがかかる。
適切な事前トレーニングされたモデルを選択することは、ResNet、Vit、Swinといったさまざまなモデルファミリからのモデルの多様性と、モデルとデータセット間の隠れた関係によって、非常に複雑です。
モデルとデータセットの基本的な情報を利用して、ターゲットデータセット上でのモデルパフォーマンスを示すスコアを計算する既存の方法は、本質的な関係を見落とし、モデル選択の有効性を制限する。
本研究では,モデル選択をグラフ学習問題として再構成する新しいフレームワークであるTransferGraphを紹介する。
TransferGraphは、モデルとデータセットから抽出された豊富なメタデータを使用してグラフを構築し、固有の関係をキャプチャする。
画像とテキストの両方を含む16の実際のデータセットにわたる総合的な実験を通じて、TransferGraphが本質的なモデルとデータセットの関係を捉え、予測されたパフォーマンスと実際の微調整結果との相関を、最先端の手法と比較して最大32%改善することを示す。
Pre-trained deep learning (DL) models are increasingly accessible in public repositories, i.e., model zoos. Given a new prediction task, finding the best model to fine-tune can be computationally intensive and costly, especially when the number of pre-trained models is large. Selecting the right pre-trained models is crucial, yet complicated by the diversity of models from various model families (like ResNet, Vit, Swin) and the hidden relationships between models and datasets. Existing methods, which utilize basic information from models and datasets to compute scores indicating model performance on target datasets, overlook the intrinsic relationships, limiting their effectiveness in model selection. In this study, we introduce TransferGraph, a novel framework that reformulates model selection as a graph learning problem. TransferGraph constructs a graph using extensive metadata extracted from models and datasets, while capturing their inherent relationships. Through comprehensive experiments across 16 real datasets, both images and texts, we demonstrate TransferGraph's effectiveness in capturing essential model-dataset relationships, yielding up to a 32% improvement in correlation between predicted performance and the actual fine-tuning results compared to the state-of-the-art methods. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # エッジ保存型確率ダウンサンプリングによるCT分割の効率化と高精度化に向けて
Towards Efficient and Accurate CT Segmentation via Edge-Preserving Probabilistic Downsampling ( http://arxiv.org/abs/2404.03991v1 ) ライセンス: Link先を確認 | Shahzad Ali, Yu Rim Lee, Soo Young Park, Won Young Tak, Soon Ki Jung, | (参考訳) 限られたリソースやネットワークトレーニングの迅速化を必要とするイメージやラベルのダウンサンプリングは、小さなオブジェクトと薄いバウンダリの損失につながる。
これにより、セグメンテーションネットワークのイメージを正確に解釈し、詳細なラベルを予測する能力が損なわれ、元の解像度での処理と比較して性能が低下する。
この状況は効率と精度のトレードオフを実証し、より高いダウンサンプリング要因はセグメンテーションの結果をさらに損なう。
ダウンサンプリング中の情報保存は,特に医用画像分割作業において重要である。
この課題に対処するために,エッジ保存型確率ダウンサンプリング (EPD) という新しい手法を提案する。
ローカルウィンドウ内のクラス不確実性を利用してソフトラベルを生成し、ウィンドウサイズがダウンサンプリング係数を規定する。
これにより、ネットワークは低解像度で品質予測を生成することができる。
画像に類似したアルゴリズムを用いて、隣り合う従来のダウンサンプリングよりもエッジの詳細を効果的に保存するだけでなく、イメージダウンサンプリングにおける双線形補間を超越し、全体的なパフォーマンスを向上させる。
従来の補間法と比較して, データを1/2, 1/4, 1/8にダウンサンプリングする場合, IoU (Intersection over Union) は 2.85%, 8.65%, 11.89% に有意に改善した。
Downsampling images and labels, often necessitated by limited resources or to expedite network training, leads to the loss of small objects and thin boundaries. This undermines the segmentation network's capacity to interpret images accurately and predict detailed labels, resulting in diminished performance compared to processing at original resolutions. This situation exemplifies the trade-off between efficiency and accuracy, with higher downsampling factors further impairing segmentation outcomes. Preserving information during downsampling is especially critical for medical image segmentation tasks. To tackle this challenge, we introduce a novel method named Edge-preserving Probabilistic Downsampling (EPD). It utilizes class uncertainty within a local window to produce soft labels, with the window size dictating the downsampling factor. This enables a network to produce quality predictions at low resolutions. Beyond preserving edge details more effectively than conventional nearest-neighbor downsampling, employing a similar algorithm for images, it surpasses bilinear interpolation in image downsampling, enhancing overall performance. Our method significantly improved Intersection over Union (IoU) to 2.85%, 8.65%, and 11.89% when downsampling data to 1/2, 1/4, and 1/8, respectively, compared to conventional interpolation methods. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # ディープラーニング性能向上のためのダイスロール:ディープニューラルネットワークにおけるランダム性手法の検討
Rolling the dice for better deep learning performance: A study of randomness techniques in deep neural networks ( http://arxiv.org/abs/2404.03992v1 ) ライセンス: Link先を確認 | Mohammed Ghaith Altarabichi, Sławomir Nowaczyk, Sepideh Pashami, Peyman Sheikholharam Mashhadi, Julia Handl, | (参考訳) 本稿では,様々なランダム化手法がディープニューラルネットワーク(DNN)に与える影響について検討する。
ウェイトノイズやドロップアウトのようなランダム化は、過度な適合を減らし、一般化を促進するのに役立つが、それらの相互作用は理解されていない。
この研究は、ランダムネス手法を4つのタイプに分類し、損失関数にノイズを加える方法と、勾配更新のランダムマスキングを提案する。
ハイパーパラメータ最適化にParticle Swarm Optimizer(PSO)を使用することで、MNIST、FASHION-MNIST、CIFAR10、CIFAR100データセットにわたる最適な構成を探索する。
30,000以上の構成が評価され、主なパフォーマンスコントリビュータとして、データ拡張と重み付け初期化ランダム性を明らかにしている。
相関解析は、異なる最適化者が異なるランダム化タイプを好むことを示している。
完全な実装とデータセットはGitHubで入手できる。
This paper investigates how various randomization techniques impact Deep Neural Networks (DNNs). Randomization, like weight noise and dropout, aids in reducing overfitting and enhancing generalization, but their interactions are poorly understood. The study categorizes randomness techniques into four types and proposes new methods: adding noise to the loss function and random masking of gradient updates. Using Particle Swarm Optimizer (PSO) for hyperparameter optimization, it explores optimal configurations across MNIST, FASHION-MNIST, CIFAR10, and CIFAR100 datasets. Over 30,000 configurations are evaluated, revealing data augmentation and weight initialization randomness as main performance contributors. Correlation analysis shows different optimizers prefer distinct randomization types. The complete implementation and dataset are available on GitHub. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # 格子上の移動ポテンシャル井戸における代数的局在-非局在相転移
Algebraic localization-delocalization phase transition in moving potential wells on a lattice ( http://arxiv.org/abs/2404.03993v1 ) ライセンス: Link先を確認 | Stefano Longhi, | (参考訳) 格子上を均一に移動するポテンシャル井戸や障壁の局在と散乱特性は、離散シュリンガー方程式のガリレオ不変性に違反するため、ドリフト速度に強く依存する。
ここでは、代数型の局所化-非局在化相転移のタイプは、いかなる種類の障害も必要とせず、パワーローポテンシャル井戸が格子上で高速にドリフトしたときに生じる。
代数指数 $\alpha$ が臨界値 $\alpha_c=1$ 動的非局在化よりも低い値に対して、$\alpha> \alpha_c$ 漸近局所化は漸近凍結力学に対応する。
臨界相遷移点 $\alpha_=\alpha_c=1$ ブロッホ振動に対応する振動ダイナミクスが見つかる。
合成メッシュ格子の光動力学に基づく予測代数的相転移の観測のための,実験的にアクセス可能なフォトニックプラットフォームを提案する。
The localization and scattering properties of potential wells or barriers uniformly moving on a lattice are strongly dependent on the drift velocity owing to violation of the Galilean invariance of the discrete Schr\"odinger equation. Here a type of localization-delocalization phase transition of algebraic type is unravelled, which does not require any kind of disorder and arises when a power-law potential well drifts fast on a lattice. While for an algebraic exponent $\alpha$ lower than the critical value $\alpha_c=1$ dynamical delocalization is observed, for $\alpha> \alpha_c$ asymptotic localization, corresponding to an asymptotic frozen dynamics, is instead realized. At the critical phase transition point $\alpha_=\alpha_c=1$ an oscillatory dynamics is found, corresponding to Bloch oscillations. An experimentally-accessible photonic platform for the observation of the predicted algebraic phase transition, based on light dynamics in synthetic mesh lattices, is suggested. | 翻訳日:2024-04-08 16:34:30 公開日:2024-04-05 |
| # Pros and Cons! ソフトウェア脆弱性に対するChatGPTの評価
Pros and Cons! Evaluating ChatGPT on Software Vulnerability ( http://arxiv.org/abs/2404.03994v1 ) ライセンス: Link先を確認 | Xin Yin, | (参考訳) 本稿では,ChatGPT などの対話型 LLM を公開データセットを用いて定量的に評価するためのパイプラインを提案する。
我々は5つの共通ソフトウェア脆弱性タスクをカバーするBig-Vulを用いてChatGPTの広範な技術的評価を行う。
このデータセットに基づいて,ChatGPTのマルチタスクおよびマルチ言語的側面を評価する。
既存の最先端手法は、ソフトウェア脆弱性検出において、ChatGPTよりも一般的に優れていることがわかった。
ChatGPTは、コンテキスト情報を提供する際の精度を改善するが、特定のCWEタイプの重度評価を正確に予測する際の制限がある。
さらにChatGPTは、特定のCWEタイプの脆弱性を特定できる能力を示しているが、そのパフォーマンスは異なるCWEタイプによって異なる。
ChatGPTは、コンテキスト情報の提供と提供の両面で、限られた脆弱性修復機能を示している。
最後に、ChatGPTは、様々なCWEタイプのCVE記述を生成する際の不均一な性能を示す。
全体として、ChatGPTはいくつかの面でうまく機能するが、コード脆弱性の微妙な違いと、その潜在的な可能性を十分に実現するために脆弱性を記述する能力を理解するためには、依然として改善が必要である。
評価フレームワークはChatGPTのソフトウェア脆弱性処理能力をさらに強化するための貴重な洞察を提供する。
This paper proposes a pipeline for quantitatively evaluating interactive LLMs such as ChatGPT using publicly available dataset. We carry out an extensive technical evaluation of ChatGPT using Big-Vul covering five different common software vulnerability tasks. We evaluate the multitask and multilingual aspects of ChatGPT based on this dataset. We found that the existing state-of-the-art methods are generally superior to ChatGPT in software vulnerability detection. Although ChatGPT improves accuracy when providing context information, it still has limitations in accurately predicting severity ratings for certain CWE types. In addition, ChatGPT demonstrates some ability in locating vulnerabilities for certain CWE types, but its performance varies among different CWE types. ChatGPT exhibits limited vulnerability repair capabilities in both providing and not providing context information. Finally, ChatGPT shows uneven performance in generating CVE descriptions for various CWE types, with limited accuracy in detailed information. Overall, though ChatGPT performs well in some aspects, it still needs improvement in understanding the subtle differences in code vulnerabilities and the ability to describe vulnerabilities in order to fully realize its potential. Our evaluation framework provides valuable insights for further enhancing ChatGPT' s software vulnerability handling capabilities. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 進捗と責任のバランスをとる:AIベースのシステムのサステナビリティ・トレードオフの合成
Balancing Progress and Responsibility: A Synthesis of Sustainability Trade-Offs of AI-Based Systems ( http://arxiv.org/abs/2404.03995v1 ) ライセンス: Link先を確認 | Apoorva Nalini Pradeep Kumar, Justus Bogner, Markus Funke, Patricia Lago, | (参考訳) 人工知能(AI)能力の最近の進歩は、AIをソフトウェアシステムに統合する企業の熱意を高めている。
AIは持続可能性のいくつかの次元に肯定的な影響を与えることができるが、その潜在的な負の影響によって、しばしば影が隠れている。
多くの研究は、サステナビリティ要因を分離して調査してきたが、AI導入のための意思決定において実践者が考慮すべき潜在的なサステナビリティのメリットやコストの包括的カバレッジは不十分である。
そこで我々は,AIをソフトウェアシステムに統合する文脈において,持続可能性に関連するトレードオフを合成することを目的としている。
私たちは、AIを統合することの持続可能性のメリットとコストを、実践者にとってより透明でアクセスしやすいものにしたいと考えています。
この研究はオランダの金融機関と共同で行われた。
われわれはまず,151件の研究論文をまとめてレビューを行った。
その後、6つの半構造化インタビューを行い、業界的な視点でデータを充実させた。
組み合わせた結果は、AIを統合することの潜在的な持続可能性のメリットとコストを示しています。
持続可能な利益に関するレビューから合成されたラベルは、16のテーマにまとめられ、「エネルギー管理」が最も頻繁に言及されている。
インタビューで11のテーマが特定され、上述のテーマは「失業の幸福」だった。
持続可能性コストに関して、レビューは7つのテーマを発見し、「デプロイ問題」が最も人気があり、続いて「倫理と社会」が続いた。
インタビューのテーマは「環境問題」だった。
我々の結果は、AIを採用することの潜在的な持続可能性への影響を理解するために、組織や実践者に貴重な洞察を与えます。
Recent advances in artificial intelligence (AI) capabilities have increased the eagerness of companies to integrate AI into software systems. While AI can be used to have a positive impact on several dimensions of sustainability, this is often overshadowed by its potential negative influence. While many studies have explored sustainability factors in isolation, there is insufficient holistic coverage of potential sustainability benefits or costs that practitioners need to consider during decision-making for AI adoption. We therefore aim to synthesize trade-offs related to sustainability in the context of integrating AI into software systems. We want to make the sustainability benefits and costs of integrating AI more transparent and accessible for practitioners. The study was conducted in collaboration with a Dutch financial organization. We first performed a rapid review that led to the inclusion of 151 research papers. Afterward, we conducted six semi-structured interviews to enrich the data with industry perspectives. The combined results showcase the potential sustainability benefits and costs of integrating AI. The labels synthesized from the review regarding potential sustainability benefits were clustered into 16 themes, with "energy management" being the most frequently mentioned one. 11 themes were identified in the interviews, with the top mentioned theme being "employee wellbeing". Regarding sustainability costs, the review discovered seven themes, with "deployment issues" being the most popular one, followed by "ethics & society". "Environmental issues" was the top theme from the interviews. Our results provide valuable insights to organizations and practitioners for understanding the potential sustainability implications of adopting AI. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 特徴選択のための高速遺伝的アルゴリズム --質的近似アプローチ
Fast Genetic Algorithm for feature selection -- A qualitative approximation approach ( http://arxiv.org/abs/2404.03996v1 ) ライセンス: Link先を確認 | Mohammed Ghaith Altarabichi, Sławomir Nowaczyk, Sepideh Pashami, Peyman Sheikholharam Mashhadi, | (参考訳) 進化的アルゴリズム(EA)は、一般的に高価なフィットネス関数の多くの評価を含むため、現実の環境で適用することがしばしば困難である。
例えば、評価には新しい機械学習モデルのトレーニングが含まれる可能性がある。
真の関数の近似(メタモデルまたはサロゲートとも呼ばれる)は、計算コストを軽減するためにそのようなアプリケーションで使用できる。
本稿では,大規模データセットのラッパー設定において,遺伝的アルゴリズム(GA)を特徴選択に用いることによって生じる計算問題に対処する,2段階のサロゲート支援進化的アプローチを提案する。
我々は,近似を用いた場合のEA計算の正確性を確保するために,必要な条件を捉えるために「近似有用性」を定義した。
この定義に基づいて,データインスタンスのアクティブな選択により,軽量な定性的メタモデルを構築する手法を提案する。
次に、メタモデルを使用して機能選択タスクを実行します。
この手法をGAベースのアルゴリズムCHC(Cross Generational Elitist selection, Heterogeneous Recombination and Cataclysmic mutation)に適用し、定性近似変種CHCQXを作成する。
我々はCHCQXがより高速に収束し、特に100K以上のインスタンスを持つ大規模データセットに対して、非常に高い精度(CHCと比較して)のサブセットソリューションを特徴付けることを示した。
また、進化計算(EC)パラダイムのもう1つの分野であるSwarm Intelligence(SI)に対して、PSOQX(Particle Swarm Optimization(PSO)法を定性的に近似したPSOQX)により、我々のアプローチの背後にある思考の適用性をより広く示す。
完全な実装を備えたGitHubリポジトリが利用可能だ。
Evolutionary Algorithms (EAs) are often challenging to apply in real-world settings since evolutionary computations involve a large number of evaluations of a typically expensive fitness function. For example, an evaluation could involve training a new machine learning model. An approximation (also known as meta-model or a surrogate) of the true function can be used in such applications to alleviate the computation cost. In this paper, we propose a two-stage surrogate-assisted evolutionary approach to address the computational issues arising from using Genetic Algorithm (GA) for feature selection in a wrapper setting for large datasets. We define 'Approximation Usefulness' to capture the necessary conditions to ensure correctness of the EA computations when an approximation is used. Based on this definition, we propose a procedure to construct a lightweight qualitative meta-model by the active selection of data instances. We then use a meta-model to carry out the feature selection task. We apply this procedure to the GA-based algorithm CHC (Cross generational elitist selection, Heterogeneous recombination and Cataclysmic mutation) to create a Qualitative approXimations variant, CHCQX. We show that CHCQX converges faster to feature subset solutions of significantly higher accuracy (as compared to CHC), particularly for large datasets with over 100K instances. We also demonstrate the applicability of the thinking behind our approach more broadly to Swarm Intelligence (SI), another branch of the Evolutionary Computation (EC) paradigm with results of PSOQX, a qualitative approximation adaptation of the Particle Swarm Optimization (PSO) method. A GitHub repository with the complete implementation is available. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # デモガイドによる多目的強化学習
Demonstration Guided Multi-Objective Reinforcement Learning ( http://arxiv.org/abs/2404.03997v1 ) ライセンス: Link先を確認 | Junlin Lu, Patrick Mannion, Karl Mason, | (参考訳) 多目的強化学習(MORL)は、複数の目的間のトレードオフを必要とする現実のシナリオに類似していることから、ますます関連性が高まっている。
多様なユーザの好みに合わせて、従来の強化学習はMORLの課題を増幅する。
MORLにおける訓練方針の難しさに対処するために,実証誘導多目的強化学習(DG-MORL)を導入する。
この新しいアプローチでは、事前のデモンストレーションを利用し、コーナーウェイトサポートを通じてユーザの好みに合わせて調整し、自己進化メカニズムを取り入れて、準最適デモを洗練させる。
我々の実証研究は、DG-MORLが既存のMORLアルゴリズムよりも優れていることを示した。
また、アルゴリズムのサンプル複雑性の上限も提供する。
Multi-objective reinforcement learning (MORL) is increasingly relevant due to its resemblance to real-world scenarios requiring trade-offs between multiple objectives. Catering to diverse user preferences, traditional reinforcement learning faces amplified challenges in MORL. To address the difficulty of training policies from scratch in MORL, we introduce demonstration-guided multi-objective reinforcement learning (DG-MORL). This novel approach utilizes prior demonstrations, aligns them with user preferences via corner weight support, and incorporates a self-evolving mechanism to refine suboptimal demonstrations. Our empirical studies demonstrate DG-MORL's superiority over existing MORL algorithms, establishing its robustness and efficacy, particularly under challenging conditions. We also provide an upper bound of the algorithm's sample complexity. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 物理にインスパイアされた合成水中画像データセット
Physics-Inspired Synthesized Underwater Image Dataset ( http://arxiv.org/abs/2404.03998v1 ) ライセンス: Link先を確認 | Reina Kaneko, Hiroshi Higashi, Yuichi Tanaka, | (参考訳) 本稿では,物理にインスパイアされた画像合成による水中画像処理の強化を目的とした,物理にインスパイアされた水中画像データセット(PHISWID)を紹介する。
水中画像強調への深層学習アプローチは一般的に広範囲なデータセットを必要とするが、きれいで劣化した水中画像を取得することは大きな課題である。
いくつかの水中画像データセットが物理学に基づく合成を用いて提案されているが、一般にアクセス可能なコレクションは不足している。
さらに、ほとんどの水中画像合成手法は大気中のシーンを再現するつもりはなく、不完全な拡張をもたらす。
PHISWIDは、色劣化だけでなく、海洋性雪、有機物の合成物、水中画像の明瞭さを著しく損なう砂粒子の影響も示している。
データセットはこれらの劣化を大気中のRGB-D画像に適用し、データセットのリアリズムと適用性を高める。
PHISWIDは、教師付き学習環境におけるディープニューラルネットワークのトレーニングや、ベンチマーク分析における画像品質の客観的評価に特に有用である。
以上の結果から,PHISWIDでトレーニングを行う場合の基本的U-Netアーキテクチャでさえ,水中画像強調において既存の手法よりも大幅に優れていたことが判明した。
我々はPHISWIDを公開し、水中イメージング技術の進歩に重要なリソースを提供する。
This paper introduces the physics-inspired synthesized underwater image dataset (PHISWID), a dataset tailored for enhancing underwater image processing through physics-inspired image synthesis. Deep learning approaches to underwater image enhancement typically demand extensive datasets, yet acquiring paired clean and degraded underwater ones poses significant challenges. While several underwater image datasets have been proposed using physics-based synthesis, a publicly accessible collection has been lacking. Additionally, most underwater image synthesis approaches do not intend to reproduce atmospheric scenes, resulting in incomplete enhancement. PHISWID addresses this gap by offering a set of paired ground-truth (atmospheric) and synthetically degraded underwater images, showcasing not only color degradation but also the often-neglected effects of marine snow, a composite of organic matter and sand particles that considerably impairs underwater image clarity. The dataset applies these degradations to atmospheric RGB-D images, enhancing the dataset's realism and applicability. PHISWID is particularly valuable for training deep neural networks in a supervised learning setting and for objectively assessing image quality in benchmark analyses. Our results reveal that even a basic U-Net architecture, when trained with PHISWID, substantially outperforms existing methods in underwater image enhancement. We intend to release PHISWID publicly, contributing a significant resource to the advancement of underwater imaging technology. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # フィンスラー・ラプラス・ベルトラミ演算子と形状解析への応用
Finsler-Laplace-Beltrami Operators with Application to Shape Analysis ( http://arxiv.org/abs/2404.03999v1 ) ライセンス: Link先を確認 | Simon Weber, Thomas Dagès, Maolin Gao, Daniel Cremers, | (参考訳) ラプラス・ベルトラミ作用素 (Laplace-Beltrami operator, LBO) はリーマン計量を備えた多様体の研究から生じる。
内在的な形状情報を捉え、熱拡散、測地線距離、多数の形状記述子を生じさせるため、しばしばスイス陸軍の幾何学処理ナイフと呼ばれる。
また、幾何学的深層学習において中心的な役割を果たす。
本研究では、リーマン多様体の一般化としてフィンスラー多様体を探索する。
我々はフィンスラー熱方程式を再検討し、フィンスラー熱カーネルとフィンスラー・ラプラス・ベルトラミ作用素(FLBO)を導出する。
実験により,提案するFLBOは従来のリーマン型LBOとALBOの代用として有用であることが確認された。
提案されたFinslerヒートカーネルとFLBOが、コンピュータビジョンコミュニティにおけるFinsler幾何学のさらなる探求を促すことを願っている。
The Laplace-Beltrami operator (LBO) emerges from studying manifolds equipped with a Riemannian metric. It is often called the Swiss army knife of geometry processing as it allows to capture intrinsic shape information and gives rise to heat diffusion, geodesic distances, and a multitude of shape descriptors. It also plays a central role in geometric deep learning. In this work, we explore Finsler manifolds as a generalization of Riemannian manifolds. We revisit the Finsler heat equation and derive a Finsler heat kernel and a Finsler-Laplace-Beltrami Operator (FLBO): a novel theoretically justified anisotropic Laplace-Beltrami operator (ALBO). In experimental evaluations we demonstrate that the proposed FLBO is a valuable alternative to the traditional Riemannian-based LBO and ALBOs for spatial filtering and shape correspondence estimation. We hope that the proposed Finsler heat kernel and the FLBO will inspire further exploration of Finsler geometry in the computer vision community. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # Approximate UMAPは、高次元データストリームの高速オンライン可視化を可能にする
Approximate UMAP allows for high-rate online visualization of high-dimensional data streams ( http://arxiv.org/abs/2404.04001v1 ) ライセンス: Link先を確認 | Peter Wassenaar, Pierre Guetschel, Michael Tangermann, | (参考訳) BCIの分野では、フィードバックの提供や高速なパラダイムプロトタイピングを導くために脳信号のイントロスペクションと解釈が望まれるが、信号の高ノイズレベルと次元性のために困難である。
ディープニューラルネットワークは、学習した特徴表現をUniform Manifold Approximation and Projection (UMAP)のような投影アルゴリズムを使用して、2次元または3次元のサブスペース視覚化に変換することで、しばしばイントロスペクションされる。
残念なことに、これらの手法は計算コストが高く、リアルタイムのデータストリームのプロジェクションは非自明な作業である。
本研究では,UMAP(a UMAP)と呼ばれる新しい変種を導入する。
リアルタイムのイントロスペクションのために高速なプロジェクションを生成することを目的としている。
実時間投影に適した手法として,標準UMAPとパラメトリックUMAPとを比較検討した。
その結果,UMAPの投影速度を桁違いに減少させ,同じトレーニング時間を維持しつつ,標準UMAPの投影空間を再現するプロジェクションを近似的に提供できることが示唆された。
In the BCI field, introspection and interpretation of brain signals are desired for providing feedback or to guide rapid paradigm prototyping but are challenging due to the high noise level and dimensionality of the signals. Deep neural networks are often introspected by transforming their learned feature representations into 2- or 3-dimensional subspace visualizations using projection algorithms like Uniform Manifold Approximation and Projection (UMAP). Unfortunately, these methods are computationally expensive, making the projection of data streams in real-time a non-trivial task. In this study, we introduce a novel variant of UMAP, called approximate UMAP (aUMAP). It aims at generating rapid projections for real-time introspection. To study its suitability for real-time projecting, we benchmark the methods against standard UMAP and its neural network counterpart parametric UMAP. Our results show that approximate UMAP delivers projections that replicate the projection space of standard UMAP while decreasing projection speed by an order of magnitude and maintaining the same training time. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 重み補間による連続学習
Continual Learning with Weight Interpolation ( http://arxiv.org/abs/2404.04002v1 ) ライセンス: Link先を確認 | Jędrzej Kozal, Jan Wasilewski, Bartosz Krawczyk, Michał Woźniak, | (参考訳) 継続的学習は現代の機械学習システムにとって根本的な課題であり、モデルが新しいタスクに適応し、以前のタスクからの知識を保持する必要がある。
この課題に対処するには、データストリームから学習し、時間とともに知識を蓄積できる効率的なアルゴリズムの開発が必要である。
本稿では,重み強化手法を用いた継続学習手法を提案する。
提案手法は,従来のモデルウェイトと新しいモデルウェイトを補間することで,破滅的忘れに対するロバスト性を向上し,新しい概念の到来後に出現する局所ミニマの探索を容易にするために2つのモデルを効果的にマージする。
さらに,本手法は既存のリハーサルベースのリプレイ手法を補完し,その精度を向上し,忘れる現象を軽減できることを示す。
さらに, 本手法は, 安定性・塑性トレードオフを制御するための直感的なメカニズムを提供する。
実験結果から,提案した重み強化手法により,最先端体験再生アルゴリズムの性能向上が図られた。
私たちのアルゴリズムはhttps://github.com/jedrzejkozal/weight-interpolation-clからダウンロードできます。
Continual learning poses a fundamental challenge for modern machine learning systems, requiring models to adapt to new tasks while retaining knowledge from previous ones. Addressing this challenge necessitates the development of efficient algorithms capable of learning from data streams and accumulating knowledge over time. This paper proposes a novel approach to continual learning utilizing the weight consolidation method. Our method, a simple yet powerful technique, enhances robustness against catastrophic forgetting by interpolating between old and new model weights after each novel task, effectively merging two models to facilitate exploration of local minima emerging after arrival of new concepts. Moreover, we demonstrate that our approach can complement existing rehearsal-based replay approaches, improving their accuracy and further mitigating the forgetting phenomenon. Additionally, our method provides an intuitive mechanism for controlling the stability-plasticity trade-off. Experimental results showcase the significant performance enhancement to state-of-the-art experience replay algorithms the proposed weight consolidation approach offers. Our algorithm can be downloaded from https://github.com/jedrzejkozal/weight-interpolation-cl. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # BuDDIE:マルチタスク情報抽出のためのビジネスドキュメントデータセット
BuDDIE: A Business Document Dataset for Multi-task Information Extraction ( http://arxiv.org/abs/2404.04003v1 ) ライセンス: Link先を確認 | Ran Zmigrod, Dongsheng Wang, Mathieu Sibue, Yulong Pei, Petr Babkin, Ivan Brugere, Xiaomo Liu, Nacho Navarro, Antony Papadimitriou, William Watson, Zhiqiang Ma, Armineh Nourbakhsh, Sameena Shah, | (参考訳) 視覚的にリッチな文書理解(VRDU)の分野は、マルチモーダルドメインにおいて、多くのよく研究されたNLPタスクを解決することを目的としている。
文書分類(DC)、キーエンティティ抽出(KEE)、エンティティリンク、視覚的質問応答(VQA)、エイリアスなど、VRDUの特定のタスクに関するいくつかのデータセットが存在する。
これらのデータセットは、請求書や領収書などのドキュメントを1つまたは2つの関連タスク(エンティティ抽出、エンティティリンクなど)をサポートするように、スパースアノテーションでカバーする。
残念なことに、ドキュメントやタスクの特定の1つにのみフォーカスすることは、ドキュメントがどのように野生で処理される必要があるかを表すものではなく、スタイルや要求の多様性が期待されている。
本稿では,DC,KEE,VQA用のリッチで高密度なアノテーションを含む,1,665個の実世界のビジネス文書のマルチタスクデータセットである BuDDIE (Business Document Dataset for Information extract) を紹介する。
当社のデータセットは、米国政府のウェブサイトから公開されているビジネスエンティティドキュメントで構成されています。
ドキュメントは構造化されており、そのスタイルやレイアウトは状態やタイプ(例えば、フォーム、証明書、レポートなど)によって異なる。
BuDDIEにはデータの多様性と品質の指標が提供され、各タスクのベースラインも提供しています。
我々のベースラインは、VRDUに対する従来のテキスト、マルチモーダル、および大規模言語モデルアプローチをカバーしています。
The field of visually rich document understanding (VRDU) aims to solve a multitude of well-researched NLP tasks in a multi-modal domain. Several datasets exist for research on specific tasks of VRDU such as document classification (DC), key entity extraction (KEE), entity linking, visual question answering (VQA), inter alia. These datasets cover documents like invoices and receipts with sparse annotations such that they support one or two co-related tasks (e.g., entity extraction and entity linking). Unfortunately, only focusing on a single specific of documents or task is not representative of how documents often need to be processed in the wild - where variety in style and requirements is expected. In this paper, we introduce BuDDIE (Business Document Dataset for Information Extraction), the first multi-task dataset of 1,665 real-world business documents that contains rich and dense annotations for DC, KEE, and VQA. Our dataset consists of publicly available business entity documents from US state government websites. The documents are structured and vary in their style and layout across states and types (e.g., forms, certificates, reports, etc.). We provide data variety and quality metrics for BuDDIE as well as a series of baselines for each task. Our baselines cover traditional textual, multi-modal, and large language model approaches to VRDU. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 理論から理解へ:差分プライバシーと$k$匿名性の比較研究
From Theory to Comprehension: A Comparative Study of Differential Privacy and $k$-Anonymity ( http://arxiv.org/abs/2404.04006v1 ) ライセンス: Link先を確認 | Saskia Nuñez von Voigt, Luise Mehner, Florian Tschorsch, | (参考訳) $\varepsilon$-differential privacyという概念は、個人に定量プライバシーを提供するという広く使われている概念である。
しかし、差分プライバシーメカニズムによって提供されるプライバシー保護のレベルを$\varepsilon$でどのように説明するかは不明だ。
本研究では,差分プライバシー機構によって提供されるプライバシー保護のユーザによる理解に焦点を当てた。
そこで本研究では,差分プライバシーによるプライバシ保護の説明方法として,(1)元の数学的定義,(2)$\varepsilon$の特定のプライバシリスクへの変換,(3)ランダム化応答手法を用いた説明の3つのバリエーションについて検討する。
我々は,これらの説明モデルを用いたユーザによるプライバシー保護の理解と,基本的理解度として$k$匿名性のプライバシー保護の理解を比較した。
本研究は,プライバシリスクモデルとランダム化応答ベースモデルにより,参加者の差分プライバシー保護に対する理解が向上することが示唆された。
さらに、われわれの結果は、$k$匿名性によって提供されるプライバシー保護がより理解しやすいことを確認する。
The notion of $\varepsilon$-differential privacy is a widely used concept of providing quantifiable privacy to individuals. However, it is unclear how to explain the level of privacy protection provided by a differential privacy mechanism with a set $\varepsilon$. In this study, we focus on users' comprehension of the privacy protection provided by a differential privacy mechanism. To do so, we study three variants of explaining the privacy protection provided by differential privacy: (1) the original mathematical definition; (2) $\varepsilon$ translated into a specific privacy risk; and (3) an explanation using the randomized response technique. We compare users' comprehension of privacy protection employing these explanatory models with their comprehension of privacy protection of $k$-anonymity as baseline comprehensibility. Our findings suggest that participants' comprehension of differential privacy protection is enhanced by the privacy risk model and the randomized response-based model. Moreover, our results confirm our intuition that privacy protection provided by $k$-anonymity is more comprehensible. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # ニューラルシンボリックビデオQA:リアルタイムビデオ質問応答のための合成時空間推論学習
Neural-Symbolic VideoQA: Learning Compositional Spatio-Temporal Reasoning for Real-world Video Question Answering ( http://arxiv.org/abs/2404.04007v1 ) ライセンス: Link先を確認 | Lili Liang, Guanglu Sun, Jin Qiu, Lizhong Zhang, | (参考訳) 合成時空間推論はビデオ質問応答(VideoQA)の分野において重要な課題である。
既存のアプローチは効果的な記号的推論構造を確立するのに苦労しており、これは構成時空間的疑問に答えるのに不可欠である。
この課題に対処するため,実世界のビデオQAタスクに特化して設計されたNeural-Symbolic VideoQA(NS-VideoQA)というニューラルシンボリックなフレームワークを提案する。
NS-VideoQAの独自性と優位性は2つある。
1)Scene Parser Network(SPN)を提案し,静的な動画像シーンをシンボル表現(SR)に変換し,人,物,関係,行動年代を構造化する。
2)シンボリック推論機械(SRM)は,トップダウン質問分解とボトムアップ合成推論のために設計されている。
具体的には、SRから最終解への内部的一貫した推論のために、多形プログラム実行子を構築する。
その結果、我々のNS-VideoQAは、実世界のビデオQAタスクにおける合成時空間的推論を改善するだけでなく、中間結果をトレースすることでステップバイステップのエラー解析を可能にする。
AGQA Decompベンチマークの実験により,提案したNS-VideoQAフレームワークの有効性が示された。
さらに、NS-VideoQAが構成的質問に答える際の内部整合性を示し、ビデオQAタスクの時空間的および論理的推論能力を大幅に向上させることが実証された。
Compositional spatio-temporal reasoning poses a significant challenge in the field of video question answering (VideoQA). Existing approaches struggle to establish effective symbolic reasoning structures, which are crucial for answering compositional spatio-temporal questions. To address this challenge, we propose a neural-symbolic framework called Neural-Symbolic VideoQA (NS-VideoQA), specifically designed for real-world VideoQA tasks. The uniqueness and superiority of NS-VideoQA are two-fold: 1) It proposes a Scene Parser Network (SPN) to transform static-dynamic video scenes into Symbolic Representation (SR), structuralizing persons, objects, relations, and action chronologies. 2) A Symbolic Reasoning Machine (SRM) is designed for top-down question decompositions and bottom-up compositional reasonings. Specifically, a polymorphic program executor is constructed for internally consistent reasoning from SR to the final answer. As a result, Our NS-VideoQA not only improves the compositional spatio-temporal reasoning in real-world VideoQA task, but also enables step-by-step error analysis by tracing the intermediate results. Experimental evaluations on the AGQA Decomp benchmark demonstrate the effectiveness of the proposed NS-VideoQA framework. Empirical studies further confirm that NS-VideoQA exhibits internal consistency in answering compositional questions and significantly improves the capability of spatio-temporal and logical inference for VideoQA tasks. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 共有制御に基づく臨界操作の検証
Validation of critical maneuvers based on shared control ( http://arxiv.org/abs/2404.04011v1 ) ライセンス: Link先を確認 | Mauricio Marcano, Joseba Sarabia, Asier Zubizarreta, Sergio Díaz, | (参考訳) 本稿では,自動走行システムにおける臨界操作に対する共有制御方式の有効性について述べる。
共有コントロールには、ドライバーと自動化のコラボレーションが含まれており、双方が運転タスクのさまざまなレベルで積極的に関与し協力することができる。
ドライバの関与はコントロールループに複雑さを増し、包括的な検証手法を必要とする。
提案手法は,低視認性シナリオの克服と横方向の回避行動という,2つの重要な操作に重点を置いている。
調停モジュールと共有制御アルゴリズムを備えたモジュラーアーキテクチャが実装され、主に車両の側面制御に焦点を当てている。
バリデーションは、仮想環境と対話する8人の実ドライバを含む、動的シミュレータを用いて実行される。
その結果, 共有制御戦略の有効性を, 共有制御支援に比較して示すとともに, 安全性とユーザ受け入れ性の向上が示された。
将来の作業は、重要な操作中に安全と運転者の快適性を高めるために、ドライブ・バイ・ワイヤシステムで共有制御を実装することである。
本研究は,自動走行システムにおける共有制御手法の開発と検証に寄与する。
This paper presents the validation of shared control strategies for critical maneuvers in automated driving systems. Shared control involves collaboration between the driver and automation, allowing both parties to actively engage and cooperate at different levels of the driving task. The involvement of the driver adds complexity to the control loop, necessitating comprehensive validation methodologies. The proposed approach focuses on two critical maneuvers: overtaking in low visibility scenarios and lateral evasive actions. A modular architecture with an arbitration module and shared control algorithms is implemented, primarily focusing on the lateral control of the vehicle. The validation is conducted using a dynamic simulator, involving 8 real drivers interacting with a virtual environment. The results demonstrate improved safety and user acceptance, indicating the effectiveness of the shared control strategies in comparison with no shared-control support. Future work involves implementing shared control in drive-by-wire systems to enhance safety and driver comfort during critical maneuvers. Overall, this research contributes to the development and validation of shared control approaches in automated driving systems. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 動的変異率アーカイブを用いたフレキシブル進化アルゴリズム
A Flexible Evolutionary Algorithm With Dynamic Mutation Rate Archive ( http://arxiv.org/abs/2404.04015v1 ) ライセンス: Link先を確認 | Martin S. Krejca, Carsten Witt, | (参考訳) 我々は、$k$-bitのフリップ突然変異を用いた進化的アルゴリズムにおける突然変異率を動的に維持するための、新しいフレキシブルなアプローチを提案する。
このアルゴリズムは、その後のステップで好まれる有望なレートのアーカイブに、成功した突然変異率を追加する。
試験に失敗した回数がしきい値を超えた場合のレートは終了し、現在アーカイブに存在しないレートは次の2つの方法で入力できる。
(i) 成功段階と組み合わされたレートに対するユーザ定義の最小選択確率
(II) 現在のビットフリップ近傍の後に有望なレートの値を増加させる停滞検出機構を用いて, 高い確率で探索した。
最小選択確率について、重み付き分布を含む様々な選択肢を提案する。
我々はOneMaxとJump関数の柔軟な進化アルゴリズムの厳密な実行時解析を行い、一般の単調関数、最小幅木、および有望な突然変異率のアーカイブから特に恩恵を受けるハードル幅の異なるハードルのような関数のクラスで実行時解析を行う。
いずれの場合も、実行時のバウンダリは、停滞検出と重み付き突然変異の両方において、最もよく知られた結果に近いか、さらに優れています。
We propose a new, flexible approach for dynamically maintaining successful mutation rates in evolutionary algorithms using $k$-bit flip mutations. The algorithm adds successful mutation rates to an archive of promising rates that are favored in subsequent steps. Rates expire when their number of unsuccessful trials has exceeded a threshold, while rates currently not present in the archive can enter it in two ways: (i) via user-defined minimum selection probabilities for rates combined with a successful step or (ii) via a stagnation detection mechanism increasing the value for a promising rate after the current bit-flip neighborhood has been explored with high probability. For the minimum selection probabilities, we suggest different options, including heavy-tailed distributions. We conduct rigorous runtime analysis of the flexible evolutionary algorithm on the OneMax and Jump functions, on general unimodal functions, on minimum spanning trees, and on a class of hurdle-like functions with varying hurdle width that benefit particularly from the archive of promising mutation rates. In all cases, the runtime bounds are close to or even outperform the best known results for both stagnation detection and heavy-tailed mutations. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 電力線パラメータ選択と簡易グリーディヒューリスティックに基づく目標集合選択問題の上位遺伝的アルゴリズム
Superior Genetic Algorithms for the Target Set Selection Problem Based on Power-Law Parameter Choices and Simple Greedy Heuristics ( http://arxiv.org/abs/2404.04018v1 ) ライセンス: Link先を確認 | Benjamin Doerr, Martin S. Krejca, Nguyen Vu, | (参考訳) 対象集合選択問題(TSS)は、これらの頂点から始まる影響拡散過程がグラフ全体に到達するように一連の頂点を求める。
このNP-hard問題に対する現在の最先端は、最近提案された3つのランダム化探索ヒューリスティック、すなわち、広範囲なパラメータチューニングから得られるバイアス付きランダムキー遺伝的アルゴリズム(BRKGA)、最大アントシステム(MMAS)、グラフ畳み込みネットワークを用いたQ-ラーニングを用いたMMASである。
BRKGAは2つの簡単な修正を施し,コストのかかるパラメータチューニングを伴わずに,より優れた結果が得られることを示す。
最初の修正は、各反復におけるBRKGAの全てのパラメータを、無作為な分布からランダムに選択することです。
パラメータレスBRKGAは、以前に使用したベンチマークで行った実験から、既に調整されたBRKGAと競合している。
次に、自然な欲求的ヒューリスティック、すなわちグラフ全体に到達するのに不要な小次頂点を何度も破棄する。
結果として得られるアルゴリズムは、最先端の全てのアルゴリズムを一貫して上回る。
この研究は、TSS問題に対して優れたアルゴリズムを提供することに加えて、ランダム化されたパラメータ選択と初等グリーディヒューリスティックスにより、複雑なアルゴリズムや高価なパラメータチューニングよりも優れた結果が得られることを示す。
The target set selection problem (TSS) asks for a set of vertices such that an influence spreading process started in these vertices reaches the whole graph. The current state of the art for this NP-hard problem are three recently proposed randomized search heuristics, namely a biased random-key genetic algorithm (BRKGA) obtained from extensive parameter tuning, a max-min ant system (MMAS), and a MMAS using Q-learning with a graph convolutional network. We show that the BRKGA with two simple modifications and without the costly parameter tuning obtains significantly better results. Our first modification is to simply choose all parameters of the BRKGA in each iteration randomly from a power-law distribution. The resulting parameterless BRKGA is already competitive with the tuned BRKGA, as our experiments on the previously used benchmarks show. We then add a natural greedy heuristic, namely to repeatedly discard small-degree vertices that are not necessary for reaching the whole graph. The resulting algorithm consistently outperforms all of the state-of-the-art algorithms. Besides providing a superior algorithm for the TSS problem, this work shows that randomized parameter choices and elementary greedy heuristics can give better results than complex algorithms and costly parameter tuning. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 良書は複雑な問題である: 文学的品質の異なるカテゴリにまたがる複雑度プロファイルを測る
Good Books are Complex Matters: Gauging Complexity Profiles Across Diverse Categories of Perceived Literary Quality ( http://arxiv.org/abs/2404.04022v1 ) ライセンス: Link先を確認 | Yuri Bizzoni, Pascale Feldkamp, Ida Marie Lassen, Mia Jacobsen, Mads Rosendahl Thomsen, Kristoffer Nielbo, | (参考訳) 本研究では,Norton Anthology, Penguin Classics series, and the Open Syllabus projectのタイトルを含むコーパスを活用し,同時代のベストセラーやノーベル文学賞受賞者,名誉文学賞受賞者などと対比して,文学的「品質」の異なるカテゴリが独自の言語プロファイルを表示することを示す分類手法を採用した。
分析の結果,他の品質カテゴリー(ベストセラーや人気タイトルなど)と異なる品質モデル(相互排他的ではない)に対応してグループを制御する場合と比較して,標準テキストやいわゆるハイブロウテキストは異なるテキストの特徴を示すことが明らかとなった。
我々は古典的な機械学習手法、すなわちランダムフォレストを用いて、品質小説を「コントロールグループ」と区別し、カテゴリ間の差別化において最大77\%のF1スコアを達成する。
品質カテゴリーは他の品質カテゴリと区別しやすい傾向があり、文学的品質特徴は識別可能であるが、品質プロキシを通して共有されることが示唆される。
In this study, we employ a classification approach to show that different categories of literary "quality" display unique linguistic profiles, leveraging a corpus that encompasses titles from the Norton Anthology, Penguin Classics series, and the Open Syllabus project, contrasted against contemporary bestsellers, Nobel prize winners and recipients of prestigious literary awards. Our analysis reveals that canonical and so called high-brow texts exhibit distinct textual features when compared to other quality categories such as bestsellers and popular titles as well as to control groups, likely responding to distinct (but not mutually exclusive) models of quality. We apply a classic machine learning approach, namely Random Forest, to distinguish quality novels from "control groups", achieving up to 77\% F1 scores in differentiating between the categories. We find that quality category tend to be easier to distinguish from control groups than from other quality categories, suggesting than literary quality features might be distinguishable but shared through quality proxies. | 翻訳日:2024-04-08 16:24:44 公開日:2024-04-05 |
| # 急性期脳梗塞患者におけるCTおよびCTA画像からの灌流マップ作成の枠組み : 縦断・横断的研究
Framework to generate perfusion map from CT and CTA images in patients with acute ischemic stroke: A longitudinal and cross-sectional study ( http://arxiv.org/abs/2404.04025v1 ) ライセンス: Link先を確認 | Chayanin Tangwiriyasakul, Pedro Borges, Stefano Moriconi, Paul Wright, Yee-Haur Mah, James Teo, Parashkev Nachev, Sebastien Ourselin, M. Jorge Cardoso, | (参考訳) ストロークは障害と死の主な原因である。
効果的な治療法は、早期かつ情報的血管造影を必要とする。
4D Perfusion Imaging は理想的だが,脳卒中後1時間以内にはほとんど利用できない。
そこで本研究では,CTおよびCTA画像から予測灌流マップ(PPM)を抽出する枠組みを提案する。
全18例において,PPMと4D-CTPから得られたT-maxマップとの空間的類似性(平均スピアマン相関=0.7893)は有意に高かった。
PPMとNIHSS(National Institutes of Health Stroke Scale)では,L/Rハンドモーター,視線,言語を2,110名の大コホートで評価した。
以上より, 当院では, 4D 灌流画像の代替として, 4D 灌流画像の撮影を可能とすれば, 入院後1時間以内に血液灌流を調査できる可能性が示唆された。
Stroke is a leading cause of disability and death. Effective treatment decisions require early and informative vascular imaging. 4D perfusion imaging is ideal but rarely available within the first hour after stroke, whereas plain CT and CTA usually are. Hence, we propose a framework to extract a predicted perfusion map (PPM) derived from CT and CTA images. In all eighteen patients, we found significantly high spatial similarity (with average Spearman's correlation = 0.7893) between our predicted perfusion map (PPM) and the T-max map derived from 4D-CTP. Voxelwise correlations between the PPM and National Institutes of Health Stroke Scale (NIHSS) subscores for L/R hand motor, gaze, and language on a large cohort of 2,110 subjects reliably mapped symptoms to expected infarct locations. Therefore our PPM could serve as an alternative for 4D perfusion imaging, if the latter is unavailable, to investigate blood perfusion in the first hours after hospital admission. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # MM-Gaussian:3D Gaussian-based Multi-modal Fusion for Localization and Reconstruction in Unbounded Scenes
MM-Gaussian: 3D Gaussian-based Multi-modal Fusion for Localization and Reconstruction in Unbounded Scenes ( http://arxiv.org/abs/2404.04026v1 ) ライセンス: Link先を確認 | Chenyang Wu, Yifan Duan, Xinran Zhang, Yu Sheng, Jianmin Ji, Yanyong Zhang, | (参考訳) ローカライゼーションとマッピングは、自動運転車やロボット工学といった様々なアプリケーションにとって重要なタスクである。
屋外環境がもたらす課題は、その非有界な特徴のため、特に複雑である。
本稿では,LiDARカメラを用いたマルチモーダル融合システムMM-Gaussianについて述べる。
当社のアプローチは,高画質かつ高速なレンダリングを実現するための優れた能力を示す,最近開発された3Dガウシアンにインスパイアされたものだ。
具体的には、ソリッドステートLiDARによって提供される幾何学的構造情報をフル活用し、非有界屋外シナリオにおける視覚的解のみに依存する場合に発生する不正確な深さの問題に対処する。
さらに,3次元ガウス点雲を画素レベルの勾配降下の助けを借りて,写真の色情報を完全に活用し,リアルなレンダリング効果を実現する。
システムのロバスト性をさらに強化するため,我々は再局在モジュールを設計し,局所化障害が発生した場合の正しい軌道への復帰を支援する。
複数のシナリオで実験を行い,本手法の有効性を実証した。
Localization and mapping are critical tasks for various applications such as autonomous vehicles and robotics. The challenges posed by outdoor environments present particular complexities due to their unbounded characteristics. In this work, we present MM-Gaussian, a LiDAR-camera multi-modal fusion system for localization and mapping in unbounded scenes. Our approach is inspired by the recently developed 3D Gaussians, which demonstrate remarkable capabilities in achieving high rendering quality and fast rendering speed. Specifically, our system fully utilizes the geometric structure information provided by solid-state LiDAR to address the problem of inaccurate depth encountered when relying solely on visual solutions in unbounded, outdoor scenarios. Additionally, we utilize 3D Gaussian point clouds, with the assistance of pixel-level gradient descent, to fully exploit the color information in photos, thereby achieving realistic rendering effects. To further bolster the robustness of our system, we designed a relocalization module, which assists in returning to the correct trajectory in the event of a localization failure. Experiments conducted in multiple scenarios demonstrate the effectiveness of our method. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # Willkommens-Merkel, Chaos-Johnson, Tore-Klose : ドイツ人名化合物の評価的意味のモデル化
Willkommens-Merkel, Chaos-Johnson, and Tore-Klose: Modeling the Evaluative Meaning of German Personal Name Compounds ( http://arxiv.org/abs/2404.04031v1 ) ライセンス: Link先を確認 | Annerose Eichel, Tana Deeg, André Blessing, Milena Belosevic, Sabine Arndt-Lappe, Sabine Schulte im Walde, | (参考訳) 本稿では、ウィルコメンス・メルケル(Welcome-Merkel)のようなドイツにおける個人名化合物(PNC)の未解明現象を総合的に計算する。
ニュース、ソーシャルメディア、政治談話でよく見られる PNC は、それぞれの個人名(アンジェラ・メルケルなど)と比較して、より肯定的または否定的な認識に反映される評価機能を示すと仮定される。
我々は,321個のPNCとその対応するフルネームを談話レベルでモデル化し,様々な計算手法を用いて計算可能な評価特性を有することを示す。
具体的には、PNCが人名よりも肯定的または否定的に評価されているかどうかを、二つのアプローチを適用して比較することにより評価する。
(一)有価律及び有価律
(ii)事前訓練言語モデル(PLM)
我々はさらに、我々のデータを個人、ドメイン特化、および言語外情報で豊かにし、複合化、修飾基数、ドメイン、政党のメンバーシップなどを含む要素が、PNCの評価方法に影響を与えることを明らかにした様々な回帰分析を行う。
We present a comprehensive computational study of the under-investigated phenomenon of personal name compounds (PNCs) in German such as Willkommens-Merkel ('Welcome-Merkel'). Prevalent in news, social media, and political discourse, PNCs are hypothesized to exhibit an evaluative function that is reflected in a more positive or negative perception as compared to the respective personal full name (such as Angela Merkel). We model 321 PNCs and their corresponding full names at discourse level, and show that PNCs bear an evaluative nature that can be captured through a variety of computational methods. Specifically, we assess through valence information whether a PNC is more positively or negatively evaluative than the person's name, by applying and comparing two approaches using (i) valence norms and (ii) pretrained language models (PLMs). We further enrich our data with personal, domain-specific, and extra-linguistic information and perform a range of regression analyses revealing that factors including compound and modifier valence, domain, and political party membership influence how a PNC is evaluated. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 身体的・抽象的プラウザビリティのデータセットと人体識別の源泉
A Dataset for Physical and Abstract Plausibility and Sources of Human Disagreement ( http://arxiv.org/abs/2404.04035v1 ) ライセンス: Link先を確認 | Annerose Eichel, Sabine Schulte im Walde, | (参考訳) 本稿では,英語における事象の物理的および抽象的妥当性を示す新しいデータセットを提案する。
ウィキペディアから抽出された自然発生文に基づいて、抽象度を浸透させ、摂動型擬似表現可能なイベントを自動生成する。
クラウドソーシングを用いて,フィルタとバランスの取れたサブセットをアノテートし,アノテーションの品質を確保するために広範囲のクリーン化を行う。
詳細な定量的分析では、アノテーションは不到達性よりも妥当性を優先し、不到達性事象についてより意見が一致しないことが示されている。
さらに、我々の可視性データセットは、具体性と同じ程度にイベントの抽象性をキャプチャする最初のものであり、イベントの抽象性は可視性評価に影響を及ぼす。
We present a novel dataset for physical and abstract plausibility of events in English. Based on naturally occurring sentences extracted from Wikipedia, we infiltrate degrees of abstractness, and automatically generate perturbed pseudo-implausible events. We annotate a filtered and balanced subset for plausibility using crowd-sourcing, and perform extensive cleansing to ensure annotation quality. In-depth quantitative analyses indicate that annotators favor plausibility over implausibility and disagree more on implausible events. Furthermore, our plausibility dataset is the first to capture abstractness in events to the same extent as concreteness, and we find that event abstractness has an impact on plausibility ratings: more concrete event participants trigger a perception of implausibility. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # InstructHumans: アニメーション化された3Dテクスチャをインストラクションで編集する
InstructHumans: Editing Animated 3D Human Textures with Instructions ( http://arxiv.org/abs/2404.04037v1 ) ライセンス: Link先を確認 | Jiayin Zhu, Linlin Yang, Angela Yao, | (参考訳) InstructHumansは命令駆動型ヒューマンテクスチャ編集のための新しいフレームワークである。
既存のテキストベースの編集方法は、Score Distillation Sampling (SDS) を用いて生成モデルからガイダンスを抽出する。
この研究は、このようなスコアを鼻で使うことは、ソースアバターとの整合性を損なうため、編集に有害であることを示している。
代わりに,SDSのサブタームを拡散時間ステップに選択的に組み込むSDS for Editing (SDS-E)を提案する。
さらに,SDS-Eを空間的滑らか度正規化と勾配に基づく視点サンプリングで拡張し,シャープで高忠実なディテールで高品質な編集を実現する。
InstructHumansは既存の3D編集方法よりも優れており、テキストの指示に忠実でありながら初期アバターと一致している。
プロジェクトページ: https://jyzhu.top/instruct-humans 。
We present InstructHumans, a novel framework for instruction-driven 3D human texture editing. Existing text-based editing methods use Score Distillation Sampling (SDS) to distill guidance from generative models. This work shows that naively using such scores is harmful to editing as they destroy consistency with the source avatar. Instead, we propose an alternate SDS for Editing (SDS-E) that selectively incorporates subterms of SDS across diffusion timesteps. We further enhance SDS-E with spatial smoothness regularization and gradient-based viewpoint sampling to achieve high-quality edits with sharp and high-fidelity detailing. InstructHumans significantly outperforms existing 3D editing methods, consistent with the initial avatar while faithful to the textual instructions. Project page: https://jyzhu.top/instruct-humans . | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # LDMシステムによる駐車シナリオの動的リスク評価手法
Dynamic Risk Assessment Methodology with an LDM-based System for Parking Scenarios ( http://arxiv.org/abs/2404.04040v1 ) ライセンス: Link先を確認 | Paola Natalia Cañas, Mikel García, Nerea Aranjuelo, Marcos Nieto, Aitor Iglesias, Igor Rodríguez, | (参考訳) 本稿では,駐車場におけるADAS(Advanced Driving Assistance Systems)アルゴリズムの動的リスク評価手法について述べる。
これには、車内外の状況に依存するダイナミックリスク方法論の定義、ADASベンチマーク目的のマルチセンサーによるリスクアセスメントデータセットの作成、車外および車内からのデータを融合してLDMベースのダイナミックリスクアセスメントシステム(DRAS)を構築するローカルダイナミックマップ(LDM)などが含まれる。
This paper describes the methodology for building a dynamic risk assessment for ADAS (Advanced Driving Assistance Systems) algorithms in parking scenarios, fusing exterior and interior perception for a better understanding of the scene and a more comprehensive risk estimation. This includes the definition of a dynamic risk methodology that depends on the situation from inside and outside the vehicle, the creation of a multi-sensor dataset of risk assessment for ADAS benchmarking purposes, and a Local Dynamic Map (LDM) that fuses data from the exterior and interior of the car to build an LDM-based Dynamic Risk Assessment System (DRAS). | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 言語間の知識伝達による新しい言語Llamaの教育
Teaching Llama a New Language Through Cross-Lingual Knowledge Transfer ( http://arxiv.org/abs/2404.04042v1 ) ライセンス: Link先を確認 | Hele-Andra Kuulmets, Taido Purason, Agnes Luhtaru, Mark Fishel, | (参考訳) 本稿では,エストニア語を中心に,事前学習型大言語モデル(LLM)を新たな低リソース言語に適用するための費用対効果について検討する。
Llama 2モデルを活用することで、言語間命令チューニングと追加のモノリンガル事前学習がもたらす影響について検討する。
この結果から, エストニア語における単言語事前学習と, 言語間学習による学習が比較的少ない場合でも, エストニア語による学習が著しく向上することが示唆された。
さらに、高品質な英語命令からエストニア語への言語間知識の伝達を実演し、コモンセンス推論とマルチターン会話能力の向上を実現した。
我々の最良のモデルは、エストニア人のための最初のオープンソースの命令追従 LLM である。
さらに,エストニア初の汎用タスク命令データセットであるAlpaca-estを公表した。
これらの貢献は、エストニアのオープンソース LLM 開発に向けた最初の進展を示すものである。
This paper explores cost-efficient methods to adapt pretrained Large Language Models (LLMs) to new lower-resource languages, with a specific focus on Estonian. Leveraging the Llama 2 model, we investigate the impact of combining cross-lingual instruction-tuning with additional monolingual pretraining. Our results demonstrate that even a relatively small amount of additional monolingual pretraining followed by cross-lingual instruction-tuning significantly enhances results on Estonian. Furthermore, we showcase cross-lingual knowledge transfer from high-quality English instructions to Estonian, resulting in improvements in commonsense reasoning and multi-turn conversation capabilities. Our best model, named \textsc{Llammas}, represents the first open-source instruction-following LLM for Estonian. Additionally, we publish Alpaca-est, the first general task instruction dataset for Estonia. These contributions mark the initial progress in the direction of developing open-source LLMs for Estonian. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # EPRステアリング不等式による量子力学と古典モデルの境界の解明
Revealing the Boundary between Quantum Mechanics and Classical Model by EPR-Steering Inequality ( http://arxiv.org/abs/2404.04048v1 ) ライセンス: Link先を確認 | Ruo-Chen Wang, Zhuo-Chen Li, Xing-Yan Fan, Xiang-Ru Xie, Hong-Hao Wei, Choo Hiap Oh, Jing-Ling Chen, | (参考訳) ワーナー状態(英: Werner state)は、量子力学と古典モデルの境界をテストするためのベンチマークである。
V_{\rm c}^{\rm E}=1/3$ エンタングルメントと分離可能なモデルの境界を特徴づける$V_{\rm c}^{\rm B}\approx 0.6595$ ベルの非局所性と局所隠れ変数(LHV)モデルの境界を特徴づける$V_{\rm c}^{\rm S}=1/2$ アインシュタイン-ポドルスキー-ローズン(EPR)ステアリングと局所隠れ状態(LHS)モデルの境界を特徴づける$V_{\rm c}^{\rm S}=1/2$ という2つの有名な臨界値がある。
これまでのところ、$V_{\rm c}^{\rm E}=1/3$の問題は、正部分変換基準を含む不等式によって完全に解決されている。
本研究では、エンタングルメントとベルの非局所性の間にある量子非局所性の形式であるEPRステアリングに焦点を当てる。
最適$N$設定線形EPRステアリングの不等式を提案することによって、2ビットワーナー状態に対して所望の値 $V_{\rm c}^{\rm S}=1/2$ を得ることができ、長年の問題を解くことができる。
In quantum information, the Werner state is a benchmark to test the boundary between quantum mechanics and classical models. There have been three well-known critical values for the two-qubit Werner state, i.e., $V_{\rm c}^{\rm E}=1/3$ characterizing the boundary between entanglement and separable model, $V_{\rm c}^{\rm B}\approx 0.6595$ characterizing the boundary between Bell's nonlocality and the local-hidden-variable (LHV) model, while $V_{\rm c}^{\rm S}=1/2$ characterizing the boundary between Einstein-Podolsky- Rosen (EPR) steering and the local-hidden-state (LHS) model. So far, the problem of $V_{\rm c}^{\rm E}=1/3$ has been completely solved by an inequality involving in the positive-partial-transpose criterion, while how to reveal the other two critical values by the inequality approach are still open. In this work, we focus on EPR steering, which is a form of quantum nonlocality intermediate between entanglement and Bell's nonlocality. By proposing the optimal $N$-setting linear EPR-steering inequalities, we have successfully obtained the desired value $V_{\rm c}^{\rm S}=1/2$ for the two-qubit Werner state, thus resolving the long-standing problem. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # リチウムイオン電池のサイクル寿命予測:機械学習など
Cycle Life Prediction for Lithium-ion Batteries: Machine Learning and More ( http://arxiv.org/abs/2404.04049v1 ) ライセンス: Link先を確認 | Joachim Schaeffer, Giacomo Galuppini, Jinwook Rhyu, Patrick A. Asinger, Robin Droop, Rolf Findeisen, Richard D. Braatz, | (参考訳) 電池は複雑な非線形老化を持つ動的システムであり、細胞設計、化学、製造、運転条件に大きく依存している。
電池サイクルの寿命予測と老化状態の推定は, 電池の研究開発, 試験, 電池の劣化に関する理解を深めるために重要である。
テスト以外にも、バッテリ管理システムは、安全な操作のためにリアルタイムモデルとオンボード診断および予後に依存している。
性能を最適化し、資源を最適に活用するためには、健康状態と電池の有効寿命を見積もることが重要である。
このチュートリアルは、第一原理、機械学習、ハイブリッドバッテリーモデルの概要から始まる。
次に、解釈可能な機械学習モデルを開発するための典型的なパイプラインを説明し、実験室のテストデータからサイクルライフサイクルの予測を行う。
本稿では,バッテリーの老朽化軌跡を解読するために必要なハイブリッドモデリングアプローチにおいて,機械学習モデルの課題を強調し,さらにデータを必要とするとともに,バッテリー劣化の物理に関するさらなる研究を行う。
チュートリアルは、一般化とさらなる研究の方向性に関する議論で終わる。
Batteries are dynamic systems with complicated nonlinear aging, highly dependent on cell design, chemistry, manufacturing, and operational conditions. Prediction of battery cycle life and estimation of aging states is important to accelerate battery R&D, testing, and to further the understanding of how batteries degrade. Beyond testing, battery management systems rely on real-time models and onboard diagnostics and prognostics for safe operation. Estimating the state of health and remaining useful life of a battery is important to optimize performance and use resources optimally. This tutorial begins with an overview of first-principles, machine learning, and hybrid battery models. Then, a typical pipeline for the development of interpretable machine learning models is explained and showcased for cycle life prediction from laboratory testing data. We highlight the challenges of machine learning models, motivating the incorporation of physics in hybrid modeling approaches, which are needed to decipher the aging trajectory of batteries but require more data and further work on the physics of battery degradation. The tutorial closes with a discussion on generalization and further research directions. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 非パラメトリックネットワークを利用した3Dシーンセグメンテーション
No Time to Train: Empowering Non-Parametric Networks for Few-shot 3D Scene Segmentation ( http://arxiv.org/abs/2404.04050v1 ) ライセンス: Link先を確認 | Xiangyang Zhu, Renrui Zhang, Bowei He, Ziyu Guo, Jiaming Liu, Han Xiao, Chaoyou Fu, Hao Dong, Peng Gao, | (参考訳) 大規模なデータセットへの依存を減らすため、3Dセグメンテーションにおける最近の研究は、数ショットの学習に頼っている。
現在の3次元ショットセグメンテーション手法は、まず「見えない」クラスで事前訓練を行い、次に「見えない」クラスで一般化性能を評価する。
しかし、事前トレーニングの段階は過剰な時間オーバーヘッドをもたらすだけでなく、"見えない"クラスにドメインギャップを生じさせる。
これらの課題に対処するために,Seg-NNとSeg-PNの非パラメトリックネットワークを提案する。
トレーニングなしで、Seg-NNは手作りのフィルタで密度の高い表現を抽出し、既存のパラメトリックモデルに匹敵する性能を達成する。
事前トレーニングの廃止により、Seg-NNはドメインギャップの問題を軽減することができ、かなりの時間を節約できる。
Seg-NNをベースとして、Seg-PNは、サポートセットとクエリセット間のインタラクションを強化する軽量なQUEry-Support Transferring (QUEST)モジュールのトレーニングのみを必要とする。
実験の結果、Seg-PNはS3DISデータセットとScanNetデータセットにおいて、従来の最先端手法を+4.19%、+7.71% mIoUで上回り、トレーニング時間を-90%削減し、その効果と効率性を示している。
To reduce the reliance on large-scale datasets, recent works in 3D segmentation resort to few-shot learning. Current 3D few-shot segmentation methods first pre-train models on 'seen' classes, and then evaluate their generalization performance on 'unseen' classes. However, the prior pre-training stage not only introduces excessive time overhead but also incurs a significant domain gap on 'unseen' classes. To tackle these issues, we propose a Non-parametric Network for few-shot 3D Segmentation, Seg-NN, and its Parametric variant, Seg-PN. Without training, Seg-NN extracts dense representations by hand-crafted filters and achieves comparable performance to existing parametric models. Due to the elimination of pre-training, Seg-NN can alleviate the domain gap issue and save a substantial amount of time. Based on Seg-NN, Seg-PN only requires training a lightweight QUEry-Support Transferring (QUEST) module, which enhances the interaction between the support set and query set. Experiments suggest that Seg-PN outperforms previous state-of-the-art method by +4.19% and +7.71% mIoU on S3DIS and ScanNet datasets respectively, while reducing training time by -90%, indicating its effectiveness and efficiency. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 極紫外レーザー場による高調波発生におけるアト秒ラビ振動
Attosecond Rabi Oscillations in High Harmonic Generation Resonantly Driven by Extreme Ultraviolet Laser Fields ( http://arxiv.org/abs/2404.04053v1 ) ライセンス: Link先を確認 | Alba de las Heras, Carlos Hernández-García, Javier Serrano, Aleksandar Prodanov, Dimitar Popmintchev, Tenio Popmintchev, Luis Plaja, | (参考訳) 強い極紫外(EUV)磁場によって駆動される高次高調波発生は、量子光学とアト秒科学を融合させ、高分解能撮像と分光のためのコヒーレントEUVと軟X線光の生成に魅力的な経路をもたらす。
我々はHe原子と強紫外パルスの相互作用における超高速共鳴ダイナミクスを理論的に検討した。
高駆動強度では、高調波スペクトルで観測可能なシグネチャを印加した記録速度のラビ発振を同定する。
すべての有界状態に対するクーロンポテンシャル障壁を抑制する場強度において、いくつかのラビサイクルにおけるアト秒2レベルダイナミクスの生存を実証する。
その結果、この強いEUVレーザー-原子相互作用は、2レベル境界遷移の共鳴結合が一般的となる新しい強磁場シナリオを明らかにし、従来の強磁場赤外線系における境界連続遷移の優位性とは対照的である。
これらの知見は、短波長の強磁場を持つ極端アト秒非線形光学に対して興味深い視点を定めている。
High-order harmonic generation driven by intense extreme ultraviolet (EUV) fields merges quantum optics and attosecond science, giving rise to an appealing route for the generation of coherent EUV and soft X-ray light for high-resolution imaging and spectroscopies. We theoretically investigate ultrafast resonant dynamics during the interaction of He atoms with strong extreme ultraviolet pulses. At high driving intensities, we identify record fast attosecond Rabi oscillations imprinting observable signatures in the high harmonic spectrum. At field strengths suppressing the Coulomb potential barrier for all the bounded states, we demonstrate the survival of the attosecond two-level dynamics for several Rabi cycles. Consequently, this intense EUV laser-atom interaction reveals a new strong-field scenario where the resonant coupling of two-level bound-bound transitions prevails, contrasting with the dominance of bound-continuum transitions in the conventional strong-field infrared regimes. These findings set an interesting perspective for extreme attosecond nonlinear optics with intense short-wavelength fields. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # スコアアイデンティティ蒸留:1ステップ生成のための予混合拡散モデルの指数的高速蒸留
Score identity Distillation: Exponentially Fast Distillation of Pretrained Diffusion Models for One-Step Generation ( http://arxiv.org/abs/2404.04057v1 ) ライセンス: Link先を確認 | Mingyuan Zhou, Huangjie Zheng, Zhendong Wang, Mingzhang Yin, Hai Huang, | (参考訳) Score Identity Distillation (SiD) は、事前学習した拡散モデルの生成能力を1ステップ生成器に蒸留する革新的なデータフリー手法である。
SiDは、蒸留中のFr'echet開始距離(FID)を指数的に高速に減少させるだけでなく、元の教師拡散モデルのFID性能に近づいたり、超えたりする。
半単純分布として前方拡散過程を再構成することにより、3つのスコア関連アイデンティティを活用して革新的な損失機構を創出する。
この機構は、独自の合成画像を用いてジェネレータを訓練することにより、高速なFID削減を実現する。
4つのベンチマークデータセットで評価すると、SiDアルゴリズムは蒸留中の高いイテレーション効率を示し、生成品質の観点から1段階か2段階か、データフリーか、あるいはトレーニングデータに依存しているか、競合する蒸留アプローチを超越する。
この成果は、拡散蒸留における効率と有効性のためのベンチマークを再定義するだけでなく、拡散ベース生成の幅広い分野にも及んでいる。
PyTorchの実装はGitHubで公開されています。
We introduce Score identity Distillation (SiD), an innovative data-free method that distills the generative capabilities of pretrained diffusion models into a single-step generator. SiD not only facilitates an exponentially fast reduction in Fr\'echet inception distance (FID) during distillation but also approaches or even exceeds the FID performance of the original teacher diffusion models. By reformulating forward diffusion processes as semi-implicit distributions, we leverage three score-related identities to create an innovative loss mechanism. This mechanism achieves rapid FID reduction by training the generator using its own synthesized images, eliminating the need for real data or reverse-diffusion-based generation, all accomplished within significantly shortened generation time. Upon evaluation across four benchmark datasets, the SiD algorithm demonstrates high iteration efficiency during distillation and surpasses competing distillation approaches, whether they are one-step or few-step, data-free, or dependent on training data, in terms of generation quality. This achievement not only redefines the benchmarks for efficiency and effectiveness in diffusion distillation but also in the broader field of diffusion-based generation. Our PyTorch implementation will be publicly accessible on GitHub. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 人間の見地における有効性の探求--学際的視点から
On the Quest for Effectiveness in Human Oversight: Interdisciplinary Perspectives ( http://arxiv.org/abs/2404.04059v1 ) ライセンス: Link先を確認 | Sarah Sterz, Kevin Baum, Sebastian Biewer, Holger Hermanns, Anne Lauber-Rönsberg, Philip Meinel, Markus Langer, | (参考訳) 人間の監視は、現在、リスクの高いAIアプリケーションの負の側面に対処するための潜在的な保護として議論されている。
このことは、これらのシステムの効果的または有意義な人的監督と称されるものに必要な役割と条件を批判的に検討するきっかけとなる。
本稿では,心理学的,法学的,哲学的,技術的領域から洞察を合成し,効果的な人間の監視について検討する。
人間の監視の主目的がリスク軽減であるという主張に基づいて、人間の監視における有効性について、人間の監視が効果的であるためには、人間の監督者が持たなければならない、という現実的な理解を提案する。
a)システムとその効果に関する十分な因果力
b) 状況の関連面への適切なてんかんアクセス
(c)自己の行動に対する自己統制、及び
(d)彼らの役割にふさわしい意図。
さらに、これは人間の監督者が道徳的に責任を持ち、適切な意図を持っている場合に限り有効であると言うことと等価であると主張する。
このような背景から,実用化に向けて努力する際,ヒトの監視に有効なファシリテーターや阻害剤を提案する。
本稿では,3つの領域,すなわちシステムの技術的設計,人的監督者の個々人的要因,および監督者が活動する環境条件について論じる。
最後に,欧州連合の今後のAI法(特に人的監督に関する第14条)を,効果的な人的監督の理解の実践性を研究するための模範的な規制枠組みとして精査する。
欧州AI法(European AI Act)の提案の条項と含意を分析することで、提案が効果的な人間の監視に関する我々の分析と、それが人間の監視における有効性の概念的理解によってどのように豊かになるかについて、どこまで一致しているかを見極めることができる。
Human oversight is currently discussed as a potential safeguard to counter some of the negative aspects of high-risk AI applications. This prompts a critical examination of the role and conditions necessary for what is prominently termed effective or meaningful human oversight of these systems. This paper investigates effective human oversight by synthesizing insights from psychological, legal, philosophical, and technical domains. Based on the claim that the main objective of human oversight is risk mitigation, we propose a viable understanding of effectiveness in human oversight: for human oversight to be effective, the human overseer has to have (a) sufficient causal power with regards to the system and its effects, (b) suitable epistemic access to relevant aspects of the situation, (c) self-control over their own actions, and (d) fitting intentions for their role. Furthermore, we argue that this is equivalent to saying that a human overseer is effective if and only if they are morally responsible and have fitting intentions. Against this backdrop, we suggest facilitators and inhibitors of effectiveness in human oversight when striving for practical applicability. We discuss factors in three domains, namely, the technical design of the system, individual factors of human overseers, and the environmental circumstances in which the overseer operates. Finally, this paper scrutinizes the upcoming AI Act of the European Union -- in particular Article 14 on Human Oversight -- as an exemplary regulatory framework in which we study the practicality of our understanding of effective human oversight. By analyzing the provisions and implications of the European AI Act proposal, we pinpoint in how far that proposal aligns with our analyses regarding effective human oversight as well as how it might get enriched by our conceptual understanding of effectiveness in human oversight. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 複素系に対する微分自由木最適化
Derivative-free tree optimization for complex systems ( http://arxiv.org/abs/2404.04062v1 ) ライセンス: Link先を確認 | Ye Wei, Bo Peng, Ruiwen Xie, Yangtao Chen, Yu Qin, Peng Wen, Stefan Bauer, Po-Yen Tung, | (参考訳) 材料、物理学、生物学における膨大な範囲の設計タスクは、その閉形式表現や微分を知ることなく、多くのパラメータに依存する目的関数の最適性を見つけるものとして定式化することができる。
従来の微分自由最適化手法は、しばしば客観的関数に関する強い仮定に依存し、したがって100次元を超える非凸系を最適化しない。
本稿では,高次元複素系の最適設計を高速化する,微分自由度最適化のための木探索手法を提案する。
具体的には,局所最適化を回避するため,確率木拡張,動的上層信頼境界,短距離バックプロパゲーション機構を導入し,機械学習モデルを用いてグローバル最適化を反復的に近似する。
この開発は、様々なベンチマーク関数にまたがるグローバル最適化への収束を最大2,000次元まで達成し、既存の手法を10倍から20倍に越え、次元的に困難な問題に効果的に直面する。
本手法は, 物質, 物理, 生物学にまたがる多種多様な実世界の複雑なシステムに適用可能であることを示す。
これにより、効率的な自律的な知識発見が可能になり、自律的な仮想研究所が容易になる。
自然科学の領域における問題に焦点をあてるが、ここで達成された最適化手法の進歩は、あらゆる量的分野にわたる幅広い課題に適用できる。
A tremendous range of design tasks in materials, physics, and biology can be formulated as finding the optimum of an objective function depending on many parameters without knowing its closed-form expression or the derivative. Traditional derivative-free optimization techniques often rely on strong assumptions about objective functions, thereby failing at optimizing non-convex systems beyond 100 dimensions. Here, we present a tree search method for derivative-free optimization that enables accelerated optimal design of high-dimensional complex systems. Specifically, we introduce stochastic tree expansion, dynamic upper confidence bound, and short-range backpropagation mechanism to evade local optimum, iteratively approximating the global optimum using machine learning models. This development effectively confronts the dimensionally challenging problems, achieving convergence to global optima across various benchmark functions up to 2,000 dimensions, surpassing the existing methods by 10- to 20-fold. Our method demonstrates wide applicability to a wide range of real-world complex systems spanning materials, physics, and biology, considerably outperforming state-of-the-art algorithms. This enables efficient autonomous knowledge discovery and facilitates self-driving virtual laboratories. Although we focus on problems within the realm of natural science, the advancements in optimization techniques achieved herein are applicable to a broader spectrum of challenges across all quantitative disciplines. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # 教師なし異常検出のためのFusing Dictionary Learning and Support Vector Machines
Fusing Dictionary Learning and Support Vector Machines for Unsupervised Anomaly Detection ( http://arxiv.org/abs/2404.04064v1 ) ライセンス: Link先を確認 | Paul Irofti, Iulian-Andrei Hîji, Andrei Pătraşcu, Nicolae Cleju, | (参考訳) 本稿では,一級支援ベクトルマシン(OC-SVM)の改良について,教師なし異常検出のためのスパース表現技術を用いて検討する。
辞書学習(DL)は、最近、データのスパースパターンを隠蔽する一般的な分析手法となり、この知見を用いて、パターンの発見と次元を制御し、教師なし検出を可能にする。
我々は,OC-SVMとDL残差関数を1つの合成対象に統一した新しい異常検出モデルを導入し,その後,K-SVD型反復アルゴリズムを用いて解いた。
交互K-SVD反復の閉形式を新しい合成モデルに対して明示的に導出し、実用的な実装可能なスキームについて論じる。
標準DLモデルは辞書ペアラーニング(DPL)の文脈に適応し、通常の空間制約を自然に排除する。
最後に、両方の目的をカーネル関数の使用を可能にするより一般的な設定に拡張する。
得られたアルゴリズムの実験的収束特性を提供し、それらのパラメトリゼーションの詳細な解析を行い、既存の手法と比較して数値性能を実証する。
We study in this paper the improvement of one-class support vector machines (OC-SVM) through sparse representation techniques for unsupervised anomaly detection. As Dictionary Learning (DL) became recently a common analysis technique that reveals hidden sparse patterns of data, our approach uses this insight to endow unsupervised detection with more control on pattern finding and dimensions. We introduce a new anomaly detection model that unifies the OC-SVM and DL residual functions into a single composite objective, subsequently solved through K-SVD-type iterative algorithms. A closed-form of the alternating K-SVD iteration is explicitly derived for the new composite model and practical implementable schemes are discussed. The standard DL model is adapted for the Dictionary Pair Learning (DPL) context, where the usual sparsity constraints are naturally eliminated. Finally, we extend both objectives to the more general setting that allows the use of kernel functions. The empirical convergence properties of the resulting algorithms are provided and an in-depth analysis of their parametrization is performed while also demonstrating their numerical performance in comparison with existing methods. | 翻訳日:2024-04-08 16:14:58 公開日:2024-04-05 |
| # VoicePilot:物理支援ロボットのための音声インタフェースとしてのLLMのハーネス化
VoicePilot: Harnessing LLMs as Speech Interfaces for Physically Assistive Robots ( http://arxiv.org/abs/2404.04066v1 ) ライセンス: Link先を確認 | Akhil Padmanabha, Jessie Yuan, Janavi Gupta, Zulekha Karachiwalla, Carmel Majidi, Henny Admoni, Zackory Erickson, | (参考訳) 身体支援ロボットは、日常生活の活動を完了できない運動障害や他の障害のある個人の健康と自立を著しく向上させる機会を提供する。
音声インタフェース、特にLarge Language Models (LLMs) を利用するものは、個人がロボットに対して高レベルなコマンドや微妙な好みを効果的に、そして自然に伝達することができる。
高度なタスク計画とコード生成のためのロボットへのインタフェースとしてLLMを統合するためのフレームワークが提案されているが、補助インタフェースを開発する際に不可欠な人間中心の考察を取り入れていない。
本研究では,身体支援ロボットの音声インタフェースとしてLLMを組み込むための枠組みを提案し,給餌ロボットを用いた3段階の試験を反復的に構築し,11人の高齢者を対象に独立した生活施設で評価を行った。
最終研究から得られた定量データと定性的データの両方を用いて、我々のフレームワークを検証するとともに、補助ロボットのための音声インタフェースとしてLLMを使用するための設計ガイドラインを提供する。
https://sites.google.com/andrew.cmu.edu/voicepilot/
Physically assistive robots present an opportunity to significantly increase the well-being and independence of individuals with motor impairments or other forms of disability who are unable to complete activities of daily living. Speech interfaces, especially ones that utilize Large Language Models (LLMs), can enable individuals to effectively and naturally communicate high-level commands and nuanced preferences to robots. Frameworks for integrating LLMs as interfaces to robots for high level task planning and code generation have been proposed, but fail to incorporate human-centric considerations which are essential while developing assistive interfaces. In this work, we present a framework for incorporating LLMs as speech interfaces for physically assistive robots, constructed iteratively with 3 stages of testing involving a feeding robot, culminating in an evaluation with 11 older adults at an independent living facility. We use both quantitative and qualitative data from the final study to validate our framework and additionally provide design guidelines for using LLMs as speech interfaces for assistive robots. Videos and supporting files are located on our project website: https://sites.google.com/andrew.cmu.edu/voicepilot/ | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # CLUE:LLMの臨床言語理解評価
CLUE: A Clinical Language Understanding Evaluation for LLMs ( http://arxiv.org/abs/2404.04067v1 ) ライセンス: Link先を確認 | Amin Dada, Marie Bauer, Amanda Butler Contreras, Osman Alperen Koraş, Constantin Marc Seibold, Kaleb E Smith, Jens Kleesiek, | (参考訳) 大規模言語モデル(LLM)は、患者のケア、診断、管理プロセスに大きく貢献する可能性を示している。
新たなバイオメディカルLLMは、プライバシ要求や計算上の制約を含む、医療特有の課題に対処する。
しかし、これらのモデルの評価は主に臨床応用の複雑さを反映しない非臨床的なタスクに限られている。
また,臨床業務における生物医学と一般ドメインLLMの徹底的な比較は行われていない。
このギャップを埋めるために,実世界の臨床におけるLCMを評価するためのベンチマークであるCLUE(CLUE)を提案する。
CLUEには、MIMIC IV放電文字から派生した2つの新しいデータセットと、医療環境におけるLSMの実用性をテストするために設計された4つの既存のタスクが含まれている。
バイオメディカルおよび一般分野のLSMについて検討し,臨床成績と適用性について考察した。
CLUEは、医療におけるLCMの評価と開発のための標準化されたアプローチへの一歩であり、将来のモデル開発と臨床応用の現実的なニーズを整合させるものである。
評価とデータ生成スクリプトを公開します。
Large Language Models (LLMs) have shown the potential to significantly contribute to patient care, diagnostics, and administrative processes. Emerging biomedical LLMs address healthcare-specific challenges, including privacy demands and computational constraints. However, evaluation of these models has primarily been limited to non-clinical tasks, which do not reflect the complexity of practical clinical applications. Additionally, there has been no thorough comparison between biomedical and general-domain LLMs for clinical tasks. To fill this gap, we present the Clinical Language Understanding Evaluation (CLUE), a benchmark tailored to evaluate LLMs on real-world clinical tasks. CLUE includes two novel datasets derived from MIMIC IV discharge letters and four existing tasks designed to test the practical applicability of LLMs in healthcare settings. Our evaluation covers several biomedical and general domain LLMs, providing insights into their clinical performance and applicability. CLUE represents a step towards a standardized approach to evaluating and developing LLMs in healthcare to align future model development with the real-world needs of clinical application. We publish our evaluation and data generation scripts: https://github.com/dadaamin/CLUE | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # 情報抽出の品質評価
Assessing the quality of information extraction ( http://arxiv.org/abs/2404.04068v1 ) ライセンス: Link先を確認 | Filip Seitl, Tomáš Kovářík, Soheyla Mirshahi, Jan Kryštůfek, Rastislav Dujava, Matúš Ondreička, Herbert Ullrich, Petr Gronat, | (参考訳) 大規模言語モデルの進歩は、構造化されていない、あるいは半構造化されていないデータソースからの情報抽出の効率を著しく向上させた。
これらの技術が様々な応用に不可欠なものとなるにつれて、情報抽出の質の客観的な尺度を確立することが不可欠となる。
しかし、ラベル付きデータの不足は、この取り組みに重大な課題をもたらしている。
本稿では,情報抽出の品質と完全性を評価するための自動フレームワークを提案する。
このフレームワークは、エンティティの形式での情報抽出とその特性に焦点を当てている。
本稿では,大規模言語モデルの入力/出力サイズ制限の扱い方と,情報を反復的に抽出する際の性能分析について論じる。
最後に、抽出の質を評価するためにメトリクスを導入し、メトリクスの解釈方法について広範囲に議論する。
Advances in large language models have notably enhanced the efficiency of information extraction from unstructured and semi-structured data sources. As these technologies become integral to various applications, establishing an objective measure for the quality of information extraction becomes imperative. However, the scarcity of labeled data presents significant challenges to this endeavor. In this paper, we introduce an automatic framework to assess the quality of the information extraction and its completeness. The framework focuses on information extraction in the form of entity and its properties. We discuss how to handle the input/output size limitations of the large language models and analyze their performance when iteratively extracting the information. Finally, we introduce metrics to evaluate the quality of the extraction and provide an extensive discussion on how to interpret the metrics. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # 階層型ニューラル付加モデルによる需要予測の解釈
Hierarchical Neural Additive Models for Interpretable Demand Forecasts ( http://arxiv.org/abs/2404.04070v1 ) ライセンス: Link先を確認 | Leif Feddersen, Catherine Cleophas, | (参考訳) 需要予測は在庫管理から戦略的施設計画まで、多くのビジネス決定の重要な基盤である。
機械学習(ML)アプローチは精度の向上を提供するが、その解釈可能性と受容性は明らかに欠落している。
このジレンマに対処するために、時系列のための階層型ニューラル付加モデル(HNAM)を導入する。
HNAMは、レベルを持つ時系列固有の加算モデルを導入し、共変成分を相互作用することによって、ニューラル付加モデル(NAM)を拡張する。
共変量相互作用は、ユーザが指定した相互作用階層に従ってのみ許可される。
例えば、平日効果は他の共変量と独立して推定されるが、休日効果は平日に依存し、追加の促進は相互作用階層においてより低い両方の共変量に依存する。
これにより、HNAMは直感的な予測インターフェースとなり、アナリストは既知の各共変量に対する貢献を観察できる。
提案手法を評価し,実際の小売データに基づいて,他の最先端の機械学習および統計モデルと比較した。
その結果,HNAMは妥当な説明を提供しながら,競合予測性能を提供することがわかった。
Demand forecasts are the crucial basis for numerous business decisions, ranging from inventory management to strategic facility planning. While machine learning (ML) approaches offer accuracy gains, their interpretability and acceptance are notoriously lacking. Addressing this dilemma, we introduce Hierarchical Neural Additive Models for time series (HNAM). HNAM expands upon Neural Additive Models (NAM) by introducing a time-series specific additive model with a level and interacting covariate components. Covariate interactions are only allowed according to a user-specified interaction hierarchy. For example, weekday effects may be estimated independently of other covariates, whereas a holiday effect may depend on the weekday and an additional promotion may depend on both former covariates that are lower in the interaction hierarchy. Thereby, HNAM yields an intuitive forecasting interface in which analysts can observe the contribution for each known covariate. We evaluate the proposed approach and benchmark its performance against other state-of-the-art machine learning and statistical models extensively on real-world retail data. The results reveal that HNAM offers competitive prediction performance whilst providing plausible explanations. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # 視覚言語モデルを用いたゼロショット分類のためのラベル伝搬
Label Propagation for Zero-shot Classification with Vision-Language Models ( http://arxiv.org/abs/2404.04072v1 ) ライセンス: Link先を確認 | Vladan Stojnić, Yannis Kalantidis, Giorgos Tolias, | (参考訳) VLM(Vision-Language Models)は、ゼロショット分類において印象的な性能を示す。
本稿では,ラベルなしデータの存在下でのゼロショット分類に挑戦する。
ラベルのないデータのグラフ構造を利用し、分類に測地距離を利用するラベル伝搬(LP)に基づくZLaPを導入する。
テキスト特徴と画像特徴の両方を含むグラフに対してLPを調整し、さらに、二重解とスパーシフィケーションステップに基づく帰納的推論を効率的に行う方法を提案する。
提案手法の有効性を14の共通データセットで評価し,ZLaPが最新の研究より優れていることを示す。
コード:https://github.com/vladan-stojnic/ZLaP
Vision-Language Models (VLMs) have demonstrated impressive performance on zero-shot classification, i.e. classification when provided merely with a list of class names. In this paper, we tackle the case of zero-shot classification in the presence of unlabeled data. We leverage the graph structure of the unlabeled data and introduce ZLaP, a method based on label propagation (LP) that utilizes geodesic distances for classification. We tailor LP to graphs containing both text and image features and further propose an efficient method for performing inductive inference based on a dual solution and a sparsification step. We perform extensive experiments to evaluate the effectiveness of our method on 14 common datasets and show that ZLaP outperforms the latest related works. Code: https://github.com/vladan-stojnic/ZLaP | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # 光活性スピンのクロストーク緩和マイクロエレクトロニクス制御
Crosstalk-mitigated microelectronic control for optically-active spins ( http://arxiv.org/abs/2404.04075v1 ) ライセンス: Link先を確認 | Hao-Cheng Weng, John G. Rarity, Krishna C. Balram, Joe A. Smith, | (参考訳) 大規模な量子情報処理のために量子ビットのサブナノメートル次元を利用するために、対応する制御アーキテクチャはエネルギーと空間効率の両方を必要とし、単位セルエレクトロニクスのオンチップフットプリントは理想的にはミクロンスケールである。
しかし, 近接パッキングにおけるクビットのスピンコヒーレンスは, 近隣の制御部位からのマイクロ波クロストークによって著しく悪化する。
そこで本研究では, マイクロエレクトロニクスを用いたクロストーク緩和手法を提案し, 量子ビット検出を必要とせずに100馬力以下での固体スピンに対処する。
ナノダイアモンドの窒素空孔中心を量子ビットのプロトタイプとして使用し、マイクロ波パワーのミリワットで10MHzのRabi振動を初めて実証した。
アクティブキャンセプションの実装により、近隣の格子サイトからのクロストーク場が検出不能なレベルまで減少できることが証明される。
最終的に、クロストーク緩和の下でスピンコヒーレンスを3倍にすることで、量子ビット制御の増大を示すスキームを拡張した。
集積光学に対抗して、シリコンマイクロエレクトロニクスを用いた量子プラットフォーム間のスケーラブルな制御に向けたステップを示す。
To exploit the sub-nanometre dimensions of qubits for large-scale quantum information processing, corresponding control architectures require both energy and space efficiency, with the on-chip footprint of unit-cell electronics ideally micron-scale. However, the spin coherence of qubits in close packing is severely deteriorated by microwave crosstalk from neighbouring control sites. Here, we present a crosstalk-mitigation scheme using foundry microelectronics, to address solid-state spins at sub-100 um spacing without the need for qubit-detuning. Using nitrogen-vacancy centres in nanodiamonds as qubit prototypes, we first demonstrate 10 MHz Rabi oscillation at milliwatts of microwave power. Implementing the active cancellation, we then prove that the crosstalk field from neighbouring lattice sites can be reduced to undetectable levels. We finally extend the scheme to show increased qubit control, tripling the spin coherence under crosstalk mitigation. Compatible with integrated optics, our results present a step towards scalable control across quantum platforms using silicon microelectronics. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # Fat-Pipe ネットワーク用離散時間流シミュレータにおける高量子計算能を有する待ち時間ネットワーク制御アルゴリズム
Queue-aware Network Control Algorithm with a High Quantum Computing Readiness-Evaluated in Discrete-time Flow Simulator for Fat-Pipe Networks ( http://arxiv.org/abs/2404.04080v1 ) ライセンス: Link先を確認 | Arthur Witt, | (参考訳) 量子コンピューティングの新たな技術は、将来どのように問題が解決されるかを変える可能性がある。
本研究では、D-Wave Advantageのような量子アニーリングの原理に基づく、既存の量子コンピュータ上で実行可能な集中型ネットワーク制御アルゴリズムを提案する。
広域ネットワークにおける交通工学のための資源再占有アルゴリズムを提案する。
提案アルゴリズムは、過負荷のトランシーバの場合のトラフィックステアリングとリソース割り当てを変更する。
ファイバアンプやトランシーバーなどの活性成分の設定は、安定性のために変更されない。
このアルゴリズムは、ネットワークトラフィックが数秒の時間スケールで変動したり、自発的なバーストが発生したりする場合に有用である。
さらに,広域ネットワークにおけるアルゴリズムの性能を調べるために,離散時間フローシミュレータを開発した。
ネットワークシミュレータではバッファリング伝送線路のバックログと損失のモデリングについて検討する。
並行フローは、バックログの場合も同様に扱われます。
この研究は、量子アニールコンピュータに適用可能な、ILPベースのネットワーク構成アルゴリズムを提供する。
本稿では, 資源再占有アルゴリズムをバーストトラフィックのあるネットワークに適用した場合, トラフィック損失を2倍に低減できることを示す。
重負荷時の再占有により資源の効率が向上するにつれて、ネットワークのオーバープロビジョンを削減できる。
このように、この新しい形態のネットワーク操作は、ゼロマージンネットワークへと導かれる。
新たに導入したネットワークシミュレータにより,フェットパイプネットワーク内のバッファリングなどの短時間効果を解析できることを示す。
実規模ネットワークにおけるネットワーク構成の計算は一般的に時間を要するため、量子コンピューティングは提案したネットワーク構成アルゴリズムを実規模ワイドエリアネットワークに適用することができる。
The emerging technology of quantum computing has the potential to change the way how problems will be solved in the future. This work presents a centralized network control algorithm executable on already existing quantum computer which are based on the principle of quantum annealing like the D-Wave Advantage. We introduce a resource reoccupation algorithm for traffic engineering in wide-area networks. The proposed optimization algorithm changes traffic steering and resource allocation in case of overloaded transceivers. Settings of active components like fiber amplifiers and transceivers are not changed for the reason of stability. This algorithm is beneficial in situations when the network traffic is fluctuating in time scales of seconds or spontaneous bursts occur. Further, we developed a discrete-time flow simulator to study the algorithm's performance in wide-area networks. Our network simulator considers backlog and loss modeling of buffered transmission lines. Concurring flows are handled equally in case of a backlog. This work provides an ILP-based network configuring algorithm that is applicable on quantum annealing computers. We showcase, that traffic losses can be reduced significantly by a factor of 2 if a resource reoccupation algorithm is applied in a network with bursty traffic. As resources are used more efficiently by reoccupation in heavy load situations, overprovisioning of networks can be reduced. Thus, this new form of network operation leads toward a zero-margin network. We show that our newly introduced network simulator enables analyses of short-time effects like buffering within fat-pipe networks. As the calculation of network configurations in real-sized networks is typically time-consuming, quantum computing can enable the proposed network configuration algorithm for application in real-sized wide-area networks. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # サブ線形複雑性によるクロックオフセット回復は、量子鍵分布のための低レベルハードウェア上での同期を可能にする
Clock offset recovery with sublinear complexity enables synchronization on low-level hardware for quantum key distribution ( http://arxiv.org/abs/2404.04081v1 ) ライセンス: Link先を確認 | Jan Krause, Nino Walenta, Jonas Hilt, Ronald Freund, | (参考訳) 量子鍵分布(QKD)のためのFPGAやマイクロコントローラなどの低レベルハードウェアの実装のために設計されたクロックオフセットリカバリ手法であるiQSyncを紹介する。
iQSyncは最小限のメモリを必要とし、単純な命令セット(例えば浮動小数点演算など)しか必要とせず、通常は単純なループの数千回以上のイテレーションを含む、サブ線形時間で評価できる。
さらに、iQSyncは、大きなオフセットであっても数秒以内の正確なクロックオフセットリカバリを可能にし、使用済みのQKDプロトコルにかかわらず、高いチャネル損失と低信号-雑音比のシナリオに適している。
提案手法をQKDプラットフォームに実装し,70dB以上のチャネル減衰に対する解析的成功確率と適合性を実証した。
We introduce iQSync, a clock offset recovery method designed for implementation on low-level hardware, such as FPGAs or microcontrollers, for quantum key distribution (QKD). iQSync requires minimal memory, only a simple instruction set (e.g. no floating-point operations), and can be evaluated with sublinear time complexity, typically involving no more than a few thousand iterations of a simple loop. Furthermore, iQSync allows for a precise clock offset recovery within few seconds, even for large offsets, and is well suited for scenarios with high channel loss and low signal-to-noise ratio, irrespective of the prepare-and-measure QKD protocol used. We implemented the method on our QKD platform, demonstrating its performance and conformity with analytically derived success probabilities for channel attenuations exceeding 70 dB. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # STPAから安全行動モデルへ
From STPA to Safe Behavior Models ( http://arxiv.org/abs/2404.04093v1 ) ライセンス: Link先を確認 | Jette Petzold, Reinhard von Hanxleden, | (参考訳) モデル検査は, リスク分析手法であるシステム理論プロセス分析(STPA)の結果に基づいて, LTL式を自動生成するルールを提案する。
さらに,これらのLTL式から安全行動モデルの合成を提案する。
また、モデル内の生存性特性をカバーするために、Desired Control Actionsを用いてSTPAを拡張した。
本稿では,行動モデルにSCChartsを用いた実例システムを提案する。
結果のモデルは必ずしも完成していないが、安全と生きた特性をすでにカバーしている優れた基盤を提供する。
Model checking is a proven approach for checking whether the behavior model of a safety-critical system fulfills safety properties that are stated as LTL formulas.We propose rules for generating such LTL formulas automatically based on the result of the risk analysis technique System-Theoretic Process Analysis (STPA). Additionally, we propose a synthesis of a Safe Behavior Model from these generated LTL formulas. To also cover liveness properties in the model, we extend STPA with Desired Control Actions. We demonstrate our approach on an example system using SCCharts for the behavior model. The resulting model is not necessarily complete but provides a good foundation that already covers safety and liveness properties. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # 重み付き木グラフ上の連続時間量子ウォークにおけるほぼゼロ転移
Almost zero transfer in continuous-time quantum walks on weighted tree graphs ( http://arxiv.org/abs/2404.04094v1 ) ライセンス: Link先を確認 | Rafael Vieira, Edgard P. M. Amorim, | (参考訳) 重み付き木グラフ上の連続時間量子ウォークにおける中心頂点上の確率フラックスについて検討する。
重み付きグラフでは、各エッジはホッピングと呼ばれる重みを持つ。
このホッピングは、端によって接続された頂点の間の粒子の跳躍速度を設定する。
ここでは、中央頂点(ルート)のエッジは、他のエッジよりも$J$大きいホッピングパラメータを持つ。
星グラフの場合、このホッピングは、歩行者が時間とともに中心の頂点を訪れる頻度だけを与える。
しかし、重み付きクモグラフの$S_{n,2}$と$S_{n,3}$の場合、中央頂点の確率は、葉の頂点の重畳状態から始まるウォークに対して$J^2$となる。
ケイリー木$C_{3,2}$と$C_{3,3}$をこれらのクモグラフにマッピングし、同じ依存関係を観測する。
以上の結果から、これは重み付き木の歩行の一般的な特徴であり、オープン量子系コンテキストにおけるデコヒーレンス効果の探索方法であることが示唆された。
We study the probability flux on the central vertex in continuous-time quantum walks on weighted tree graphs. In a weighted graph, each edge has a weight we call hopping. This hopping sets the jump rate of the particle between the vertices connected by the edge. Here, the edges of the central vertex (root) have a hopping parameter $J$ larger than those of the other edges. For star graphs, this hopping gives only how often the walker visits the central vertex over time. However, for weighted spider graphs $S_{n,2}$ and $S_{n,3}$, the probability on the central vertex drops with $J^2$ for walks starting from a state of any superposition of leaf vertices. We map Cayley trees $C_{3,2}$ and $C_{3,3}$ into these spider graphs and observe the same dependency. Our results suggest this is a general feature of such walks on weighted trees and a way of probing decoherence effects in an open quantum system context. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # テキスト・画像生成のための動的プロンプト最適化
Dynamic Prompt Optimizing for Text-to-Image Generation ( http://arxiv.org/abs/2404.04095v1 ) ライセンス: Link先を確認 | Wenyi Mo, Tianyu Zhang, Yalong Bai, Bing Su, Ji-Rong Wen, Qing Yang, | (参考訳) テキストから画像への生成モデル、特にImagenやStable Diffusionのような拡散モデルに基づくモデルは、大幅な進歩を遂げている。
近年,テキストプロンプトの微妙な洗練への関心が高まっている。
ユーザは、テキストプロンプト内の特定の単語のインジェクションタイムステップを割り当てたり、変更したりすることで、生成された画像の品質を改善することができる。
しかし、微調整プロンプトの成功は、テキストプロンプトの正確さと、かなりの手作業による介入を必要とする重みと時間ステップの慎重に選択に依存する。
この問題に対処するために、我々は、PaE (PaE) 法を導入している。
画像生成のためのオリジナルのプロンプトの精細化に加えて、各単語の重みと射出時間ステップを探索するオンライン強化学習戦略も活用し、動的微調整プロンプトを導いた。
トレーニング中の報酬関数は、美的スコア、セマンティック一貫性、ユーザの好みを考慮することを奨励する。
実験により,提案手法は本来のプロンプトを効果的に改善し,セマンティックアライメントを維持しつつ,視覚的により魅力的な画像を生成することを示した。
コードはhttps://github.com/Mowenyii/PAE.comで入手できる。
Text-to-image generative models, specifically those based on diffusion models like Imagen and Stable Diffusion, have made substantial advancements. Recently, there has been a surge of interest in the delicate refinement of text prompts. Users assign weights or alter the injection time steps of certain words in the text prompts to improve the quality of generated images. However, the success of fine-control prompts depends on the accuracy of the text prompts and the careful selection of weights and time steps, which requires significant manual intervention. To address this, we introduce the \textbf{P}rompt \textbf{A}uto-\textbf{E}diting (PAE) method. Besides refining the original prompts for image generation, we further employ an online reinforcement learning strategy to explore the weights and injection time steps of each word, leading to the dynamic fine-control prompts. The reward function during training encourages the model to consider aesthetic score, semantic consistency, and user preferences. Experimental results demonstrate that our proposed method effectively improves the original prompts, generating visually more appealing images while maintaining semantic alignment. Code is available at https://github.com/Mowenyii/PAE. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # 深層ニューラルネットワークにおける視覚的プライバシの保護
You Can Use But Cannot Recognize: Preserving Visual Privacy in Deep Neural Networks ( http://arxiv.org/abs/2404.04098v1 ) ライセンス: Link先を確認 | Qiushi Li, Yan Zhang, Ju Ren, Qi Li, Yaoxue Zhang, | (参考訳) 画像データは、例えば自律運転や医療画像分析など、さまざまなシナリオにおけるDeep Neural Network(DNN)タスクで広く使用されている。
既存のプライバシー保護技術では、そのようなデータを効率的に保護することはできない。
例えば、新たな技術である差分プライバシー(DP)は、強力なプライバシー保証を持つデータを保護するが、露出した画像データセットの視覚的特徴を効果的に保護することはできない。
本稿では,画素シャッフルにより視覚的DNNタスクのトレーニングデータを保護し,ノイズを注入することなく,新たなプライバシー保護フレームワークであるVisualMixerを提案する。
VisualMixerは、Visual Feature Entropy(VFE)と呼ばれる新しいプライバシーメトリクスを使用して、生物学的およびマシンビジョンの両面から画像の視覚的特徴を効果的に定量化する。
VisualMixer では,DNN トレーニングと推論のための視覚的プライバシを保護するために,タスクに依存しない画像難読化手法を考案した。
各画像について、所望のVFEに応じて、画像中のピクセルシャッフルの領域と、これらの領域のサイズを決定する。
ノイズを注入することなく、領域内の空間領域と色チャネル空間の両方で画素をシャッフルし、視覚的特徴の認識や認識を防止しつつ、無視できる精度の損失を招く。
実世界のデータセットに対する大規模な実験により、VisualMixerは無視できる精度の損失、すなわち平均2.35ポイントのモデル精度の損失で視覚的プライバシを効果的に維持できることを示した。
Image data have been extensively used in Deep Neural Network (DNN) tasks in various scenarios, e.g., autonomous driving and medical image analysis, which incurs significant privacy concerns. Existing privacy protection techniques are unable to efficiently protect such data. For example, Differential Privacy (DP) that is an emerging technique protects data with strong privacy guarantee cannot effectively protect visual features of exposed image dataset. In this paper, we propose a novel privacy-preserving framework VisualMixer that protects the training data of visual DNN tasks by pixel shuffling, while not injecting any noises. VisualMixer utilizes a new privacy metric called Visual Feature Entropy (VFE) to effectively quantify the visual features of an image from both biological and machine vision aspects. In VisualMixer, we devise a task-agnostic image obfuscation method to protect the visual privacy of data for DNN training and inference. For each image, it determines regions for pixel shuffling in the image and the sizes of these regions according to the desired VFE. It shuffles pixels both in the spatial domain and in the chromatic channel space in the regions without injecting noises so that it can prevent visual features from being discerned and recognized, while incurring negligible accuracy loss. Extensive experiments on real-world datasets demonstrate that VisualMixer can effectively preserve the visual privacy with negligible accuracy loss, i.e., at average 2.35 percentage points of model accuracy loss, and almost no performance degradation on model training. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # LLMの耐雑音性を考慮したロバスト優先最適化
Robust Preference Optimization with Provable Noise Tolerance for LLMs ( http://arxiv.org/abs/2404.04102v1 ) ライセンス: Link先を確認 | Xize Liang, Chao Chen, Jie Wang, Yue Wu, Zhihang Fu, Zhihao Shi, Feng Wu, Jieping Ye, | (参考訳) 嗜好アライメントは、一般的なAIシステムを開発する上で不可欠な、人間の値に適合する応答を生成するために、大きな言語モデル(LLM)を可能にすることを目的としている。
ランク付けベースの手法(アライメントアプローチの有望なクラス)は、好ましくない応答と好ましくない応答の間のログライクなマージンを最適化することで、応答ペアを含むデータセットから人間の好みを学習する。
しかし、アノテータの好みに固有の違いがあるため、応答対の比較のランキングラベルは避けられないほどうるさい。
これは既存のランキングベースの手法の信頼性を著しく損なう。
この問題に対処するため,ROPO (RObust Preference Optimization) というノイズ耐性のある優先アライメント手法を提案する。
我々の知る限りでは、ROPOは耐雑音性を保証する最初の選好アライメント法である。
ROPOの鍵となる考え方は、応答間のログライクなマージンに基づいて、ラベルの不確かさの高い応答対に対して、保守的な勾配重みを動的に割り当てることである。
雑音の勾配を効果的に抑制することにより, 重み付け戦略により, 騒音の有無と比によらず, 予測されるリスクが同じ勾配方向であることを保証する。
ROPOは2.8Bから13Bまでの4つの基本モデルを持つ3つのオープンエンドテキスト生成タスクの実験により、ROPOが既存のランキングベースの手法を大幅に上回ることを示した。
The preference alignment aims to enable large language models (LLMs) to generate responses that conform to human values, which is essential for developing general AI systems. Ranking-based methods -- a promising class of alignment approaches -- learn human preferences from datasets containing response pairs by optimizing the log-likelihood margins between preferred and dis-preferred responses. However, due to the inherent differences in annotators' preferences, ranking labels of comparisons for response pairs are unavoidably noisy. This seriously hurts the reliability of existing ranking-based methods. To address this problem, we propose a provably noise-tolerant preference alignment method, namely RObust Preference Optimization (ROPO). To the best of our knowledge, ROPO is the first preference alignment method with noise-tolerance guarantees. The key idea of ROPO is to dynamically assign conservative gradient weights to response pairs with high label uncertainty, based on the log-likelihood margins between the responses. By effectively suppressing the gradients of noisy samples, our weighting strategy ensures that the expected risk has the same gradient direction independent of the presence and proportion of noise. Experiments on three open-ended text generation tasks with four base models ranging in size from 2.8B to 13B demonstrate that ROPO significantly outperforms existing ranking-based methods. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # ToTToの入力問題に対処したニューラルテーブル・トゥ・テキスト出力の精度向上
Improving Factual Accuracy of Neural Table-to-Text Output by Addressing Input Problems in ToTTo ( http://arxiv.org/abs/2404.04103v1 ) ライセンス: Link先を確認 | Barkavi Sundararajan, Somayajulu Sripada, Ehud Reiter, | (参考訳) ニューラルテーブル・トゥ・テキストモデルは幻覚を起こす傾向があり、事実の誤りを含むテキストを生成する。
出力におけるそのような誤りが、入力の問題に遡ることができるかどうかを考察する。
ToTToデータセットの政治領域で複数のモデルによって生成された1,837のテキストを手動で注釈付けした。
我々は,多くの出力誤差の原因となる入力問題を同定し,これらの入力の修正によって,実際のエラーが52%から76%減少することを示す(モデルによる)。
さらに,入力が行と列の値が異なる場合や,列ヘッダが対応する値に正しくマッピングされていない場合など,非標準的な方法で構造化された表型入力を処理するのに,モデルが苦労していることが観察された。
Neural Table-to-Text models tend to hallucinate, producing texts that contain factual errors. We investigate whether such errors in the output can be traced back to problems with the input. We manually annotated 1,837 texts generated by multiple models in the politics domain of the ToTTo dataset. We identify the input problems that are responsible for many output errors and show that fixing these inputs reduces factual errors by between 52% and 76% (depending on the model). In addition, we observe that models struggle in processing tabular inputs that are structured in a non-standard way, particularly when the input lacks distinct row and column values or when the column headers are not correctly mapped to corresponding values. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # ニューラル合成による3次元顔表情解析
3D Facial Expressions through Analysis-by-Neural-Synthesis ( http://arxiv.org/abs/2404.04104v1 ) ライセンス: Link先を確認 | George Retsinas, Panagiotis P. Filntisis, Radek Danecek, Victoria F. Abrevaya, Anastasios Roussos, Timo Bolkart, Petros Maragos, | (参考訳) 既存の画像からの3次元顔の再構成法は全体の顔の形状を復元するのに優れているが、一般的には微妙、極端、非対称、まれに観察される表現を見逃す。
SMIRK(Spatial Modeling for Image-based Reconstruction of Kinesics)を用いて,画像から表現力のある3次元顔を忠実に再構成する手法を改良する。
既存の手法では,自己指導型トレーニングの定式化における欠点と,訓練画像における表現の多様性の欠如の2つの重要な限界を識別する。
トレーニングでは、ほとんどのメソッドは、予測された顔メッシュと入力画像を比較するために微分レンダリングを使用し、さらに多くの損失関数を付加する。
この差別化可能なレンダリング損失は、3次元顔形状、カメラ、アルベド、照明の最適化のための監督を提供するだけでなく、レンダリングと入力画像の間の領域ギャップが学習プロセスを妨げている。
その代わり、SMIRKは異なるレンダリングをニューラルネットワークのレンダリングモジュールに置き換え、予測されたメッシュ形状と入力画像のわずかにサンプリングされたピクセルが顔画像を生成する。
ニューラルネットワークがサンプル画像画素から色情報を取得すると、ニューラルネットワークによる再構成損失の監視は、幾何学のみに焦点を合わせることができる。
さらに、トレーニング中に様々な表現で入力アイデンティティの画像を生成することができる。
これらは復元モデルへの入力として利用され、地上の真理幾何学の監督として使用される。
これにより、トレーニングデータを効果的に強化し、多様な表現の一般化を強化する。
我々の質的,定量的,特に知覚的評価は、SMIRKが正確な表現再構成における新しい最先端技術を実現することを証明している。
プロジェクトWebページ: https://georgeretsi.github.io/smirk/.com
While existing methods for 3D face reconstruction from in-the-wild images excel at recovering the overall face shape, they commonly miss subtle, extreme, asymmetric, or rarely observed expressions. We improve upon these methods with SMIRK (Spatial Modeling for Image-based Reconstruction of Kinesics), which faithfully reconstructs expressive 3D faces from images. We identify two key limitations in existing methods: shortcomings in their self-supervised training formulation, and a lack of expression diversity in the training images. For training, most methods employ differentiable rendering to compare a predicted face mesh with the input image, along with a plethora of additional loss functions. This differentiable rendering loss not only has to provide supervision to optimize for 3D face geometry, camera, albedo, and lighting, which is an ill-posed optimization problem, but the domain gap between rendering and input image further hinders the learning process. Instead, SMIRK replaces the differentiable rendering with a neural rendering module that, given the rendered predicted mesh geometry, and sparsely sampled pixels of the input image, generates a face image. As the neural rendering gets color information from sampled image pixels, supervising with neural rendering-based reconstruction loss can focus solely on the geometry. Further, it enables us to generate images of the input identity with varying expressions while training. These are then utilized as input to the reconstruction model and used as supervision with ground truth geometry. This effectively augments the training data and enhances the generalization for diverse expressions. Our qualitative, quantitative and particularly our perceptual evaluations demonstrate that SMIRK achieves the new state-of-the art performance on accurate expression reconstruction. Project webpage: https://georgeretsi.github.io/smirk/. | 翻訳日:2024-04-08 16:05:12 公開日:2024-04-05 |
| # オンライン確率待ち行列ネットワーク最適化のための介入支援政策勾配法:技術報告
Intervention-Assisted Policy Gradient Methods for Online Stochastic Queuing Network Optimization: Technical Report ( http://arxiv.org/abs/2404.04106v1 ) ライセンス: Link先を確認 | Jerrod Wigmore, Brooke Shrader, Eytan Modiano, | (参考訳) Deep Reinforcement Learning (DRL)は、確率的キューイングネットワーク(SQN)のためのニューラルネットワーク制御ポリシをトレーニングするための強力なアプローチを提供する。
しかし、従来のDRLメソッドはオフラインのシミュレーションや静的データセットに依存しており、SQN制御における実際のアプリケーションを制限する。
本研究は、知的エージェントが実環境と直接対話し、これらのオンラインインタラクションから最適な制御ポリシーを学ぶための代替手段として、オンライン深層強化学習ベース制御(ODRLC)を提案する。
SQNは、ネットワーク内のキューの非有界性のため、ODRLCに挑戦する。
境界のない状態空間は、ニューラルネットワークが目に見えない状態への外挿に弱いことで知られているため、ニューラルネットワークポリシーにとって特に困難である。
この課題に対処するために、我々は、既知の安定したポリシーからの戦略的介入を活用して、キューサイズがバウンドのままであることを保証する、介入支援フレームワークを提案する。
このフレームワークは、ニューラルネットワークの学習能力と、SQNの古典的な制御ポリシーの安定性を両立させる。
本稿では、ネットワークの安定性を確保するために、これらの介入支援ポリシーを設計する手法を提案する。
さらに、介入支援政策の基本DRL定理を拡張し、SQNのODRLCに特化した2つの実用的なアルゴリズムを開発した。
最後に,提案アルゴリズムが従来の制御手法とODRLCアルゴリズムより優れていることを示す。
Deep Reinforcement Learning (DRL) offers a powerful approach to training neural network control policies for stochastic queuing networks (SQN). However, traditional DRL methods rely on offline simulations or static datasets, limiting their real-world application in SQN control. This work proposes Online Deep Reinforcement Learning-based Controls (ODRLC) as an alternative, where an intelligent agent interacts directly with a real environment and learns an optimal control policy from these online interactions. SQNs present a challenge for ODRLC due to the unbounded nature of the queues within the network resulting in an unbounded state-space. An unbounded state-space is particularly challenging for neural network policies as neural networks are notoriously poor at extrapolating to unseen states. To address this challenge, we propose an intervention-assisted framework that leverages strategic interventions from known stable policies to ensure the queue sizes remain bounded. This framework combines the learning power of neural networks with the guaranteed stability of classical control policies for SQNs. We introduce a method to design these intervention-assisted policies to ensure strong stability of the network. Furthermore, we extend foundational DRL theorems for intervention-assisted policies and develop two practical algorithms specifically for ODRLC of SQNs. Finally, we demonstrate through experiments that our proposed algorithms outperform both classical control approaches and prior ODRLC algorithms. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # ドメイン固有知識を用いたオントロジーのインスタンス化のためのオラクルとしての大規模言語モデル
Large language models as oracles for instantiating ontologies with domain-specific knowledge ( http://arxiv.org/abs/2404.04108v1 ) ライセンス: Link先を確認 | Giovanni Ciatto, Andrea Agiollo, Matteo Magnini, Andrea Omicini, | (参考訳) 背景。
セマンティックなデータでインテリジェントなシステムを構築するには、ドメイン固有の知識でオントロジを設計およびインスタンス化する必要がある。
特に初期の段階では、これらの活動は一般的に人間の専門家が手動で行う。
結果として得られるプロセスは時間がかかり、エラーが発生し、オントロジーデザイナの個人的な背景に偏っていることが多い。
目的。
この問題を軽減するために,大規模言語モデル(LLM)をオラクルとして活用することにより,オントロジーをドメイン固有の知識で自動的にインスタンス化する,ドメインに依存しない新しいアプローチを提案する。
方法。
はじめに
(i)相互関係のクラスとプロパティから構成される初期スキーマ
i) クエリテンプレートのセット,LLMのマルチプルタイムをクエリし,その応答からクラスとプロパティの両方のインスタンスを生成する。
したがって、オントロジーはドメイン固有の知識で自動的に満たされ、初期スキーマに準拠している。
その結果、オントロジーは多様体のインスタンスで迅速かつ自動的に濃縮され、専門家は自身のニーズや専門知識に応じて、維持、調整、破棄、または補完することを検討できる。
貢献。
我々は,本手法を汎用的に定式化し,様々なLCM上でのインスタンス化を行い,具体的な事例研究を行った。
食餌のオントロジーと食材が半自動でスクラッチからインスタンス化される栄養領域に根ざした実験を報告する。
そこで我々は、生成されたオントロジーの質を分析し、異なるLLMを利用して得られるオントロジーを比較した。
最後に,提案手法のSWOT解析について述べる。
Background. Endowing intelligent systems with semantic data commonly requires designing and instantiating ontologies with domain-specific knowledge. Especially in the early phases, those activities are typically performed manually by human experts possibly leveraging on their own experience. The resulting process is therefore time-consuming, error-prone, and often biased by the personal background of the ontology designer. Objective. To mitigate that issue, we propose a novel domain-independent approach to automatically instantiate ontologies with domain-specific knowledge, by leveraging on large language models (LLMs) as oracles. Method. Starting from (i) an initial schema composed by inter-related classes andproperties and (ii) a set of query templates, our method queries the LLM multi- ple times, and generates instances for both classes and properties from its replies. Thus, the ontology is automatically filled with domain-specific knowledge, compliant to the initial schema. As a result, the ontology is quickly and automatically enriched with manifold instances, which experts may consider to keep, adjust, discard, or complement according to their own needs and expertise. Contribution. We formalise our method in general way and instantiate it over various LLMs, as well as on a concrete case study. We report experiments rooted in the nutritional domain where an ontology of food meals and their ingredients is semi-automatically instantiated from scratch, starting from a categorisation of meals and their relationships. There, we analyse the quality of the generated ontologies and compare ontologies attained by exploiting different LLMs. Finally, we provide a SWOT analysis of the proposed method. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # 時間依存シュレーディンガー方程式の擬スペクトル離散化
Pseudospectral discretization of the time-dependent Schrödinger equation ( http://arxiv.org/abs/2404.04109v1 ) ライセンス: Link先を確認 | Håkon Kristiansen, Einar Aurbakken, | (参考訳) 本論文の目的は、疑似スペクトル法を用いて、時間に依存しない、時間に依存しないSchr\"odingerの解法と実装を記述することである。
現在、この記述は球面座標における古典的電磁場と相互作用する単一粒子系に関するものである。
The purpose of this document is to describe the solution and implementation of the time-independent and time-dependent Schr\"odinger using pseudospectral methods. Currently, the description is for single particle systems interacting with a classical electromagnetic field in spherical coordinates. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # ニューラルネットハイパーパラメータ最適化における1Epoch後の早期発見の有効性
The Unreasonable Effectiveness Of Early Discarding After One Epoch In Neural Network Hyperparameter Optimization ( http://arxiv.org/abs/2404.04111v1 ) ライセンス: Link先を確認 | Romain Egele, Felix Mohr, Tom Viering, Prasanna Balaprakash, | (参考訳) ディープラーニングで高いパフォーマンスを達成するためには、ハイパーパラメータ最適化(HPO)が不可欠である。
このプロセスは通常、ニューラルネットワークの高価な評価のために時間を要する。
早期廃棄技術は、実証学習曲線を観察し、候補者の競争力の欠如が明らかになると、ニューラルネットワークのトレーニングをキャンセルすることで、未証明の候補者に与えられるリソースを制限する。
20年にわたる研究にもかかわらず、廃棄の積極性と予測性能の喪失との間のトレードオフについてはほとんど理解されていない。
本研究は, 連続半減算や学習曲線外挿など, 広く使われている廃棄技術とのトレードオフについて考察する。
意外な発見は、これらの一般的なテクニックは、トレーニングのエポックな連続的な回数の後に破棄する単純な戦略に比べて、最小限または無付加価値を提供するということです。
選択されたエポックの数は、おもに利用可能な計算予算に依存する。
我々は、このアプローチをi-Epoch(iはニューラルネットワークが訓練されるエポックの一定数のエポック)と呼び、i-EpochのPareto-Frontを補完するPareto-Front(使用済みトレーニングエポックと予測性能)を比較して、早期破棄技術の品質を評価することを提案する。
To reach high performance with deep learning, hyperparameter optimization (HPO) is essential. This process is usually time-consuming due to costly evaluations of neural networks. Early discarding techniques limit the resources granted to unpromising candidates by observing the empirical learning curves and canceling neural network training as soon as the lack of competitiveness of a candidate becomes evident. Despite two decades of research, little is understood about the trade-off between the aggressiveness of discarding and the loss of predictive performance. Our paper studies this trade-off for several commonly used discarding techniques such as successive halving and learning curve extrapolation. Our surprising finding is that these commonly used techniques offer minimal to no added value compared to the simple strategy of discarding after a constant number of epochs of training. The chosen number of epochs depends mostly on the available compute budget. We call this approach i-Epoch (i being the constant number of epochs with which neural networks are trained) and suggest to assess the quality of early discarding techniques by comparing how their Pareto-Front (in consumed training epochs and predictive performance) complement the Pareto-Front of i-Epoch. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # MarsSeg:マルチレベルエクストラクタとコネクタによる火星表面セマンティックセマンティックセグメンテーション
MarsSeg: Mars Surface Semantic Segmentation with Multi-level Extractor and Connector ( http://arxiv.org/abs/2404.04155v1 ) ライセンス: Link先を確認 | Junbo Li, Keyan Chen, Gengju Tian, Lu Li, Zhenwei Shi, | (参考訳) 火星の表面のセグメンテーションと解釈は、火星探査において重要な役割を担い、軌道計画とローバーの障害物回避に不可欠なデータを提供する。
しかし、複雑な地形、類似した表面の特徴、広範囲な注釈付きデータの欠如は、火星表面の高精度なセマンティックセグメンテーションに重大な課題をもたらす。
これらの課題に対処するため、我々はMarsSegと呼ばれる新しいエンコーダデコーダベースの火星セグメンテーションネットワークを提案する。
具体的には、局所的な詳細を保存するために、最小限のダウンサンプリング層を持つエンコーダデコーダ構造を用いる。
シャドーマルチレベル特徴マップの高レベルな意味理解を容易にするために,エンコーダとデコーダの間に位置する機能拡張接続層を導入する。
この層にはMini-ASPP(Mini-ASPP)、PSA(Polarized Self-Attention)、SPPM(Strip Pyramid Pooling Module)が含まれる。
Mini-ASPPとPSAは特にシャドー機能拡張のために設計されており、ローカルの詳細や小さなオブジェクトを表現できる。
逆に、SPPMは、高レベルのセマンティックカテゴリ関連情報の抽出を容易にする深い機能強化に使用される。
Mars-SegとAI4Marsのデータセットから得られた実験結果は、提案されたMarsSegがセグメンテーション性能において他の最先端手法よりも優れており、提案された各コンポーネントの有効性が検証されていることを裏付けている。
The segmentation and interpretation of the Martian surface play a pivotal role in Mars exploration, providing essential data for the trajectory planning and obstacle avoidance of rovers. However, the complex topography, similar surface features, and the lack of extensive annotated data pose significant challenges to the high-precision semantic segmentation of the Martian surface. To address these challenges, we propose a novel encoder-decoder based Mars segmentation network, termed MarsSeg. Specifically, we employ an encoder-decoder structure with a minimized number of down-sampling layers to preserve local details. To facilitate a high-level semantic understanding across the shadow multi-level feature maps, we introduce a feature enhancement connection layer situated between the encoder and decoder. This layer incorporates Mini Atrous Spatial Pyramid Pooling (Mini-ASPP), Polarized Self-Attention (PSA), and Strip Pyramid Pooling Module (SPPM). The Mini-ASPP and PSA are specifically designed for shadow feature enhancement, thereby enabling the expression of local details and small objects. Conversely, the SPPM is employed for deep feature enhancement, facilitating the extraction of high-level semantic category-related information. Experimental results derived from the Mars-Seg and AI4Mars datasets substantiate that the proposed MarsSeg outperforms other state-of-the-art methods in segmentation performance, validating the efficacy of each proposed component. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # 時間外相関の飽和を利用した焼成フィールドフロケット系のカオス的および可積分的状態の判別
Discriminating chaotic and integrable regimes in quenched field Floquet system using saturation of Out-of-time-order correlation ( http://arxiv.org/abs/2404.04177v1 ) ライセンス: Link先を確認 | Rohit Kumar Shukla, Gaurav Rudra Malik, S. Aravinda, Sunil Kumar Mishra, | (参考訳) 時間外相関器(OTOC)の動的領域は、古典的および半古典的システムにおけるカオスの貴重な判別器であり、特徴的な指数関数的成長を捉えている。
しかし、スピン系ではカオスを確実に定量化せず、可積分系とカオス系の両方で同様の振る舞いを示す。
代わりに、カオス型と可積分型を区別する手段として、OTOCの飽和挙動を利用する。
我々は、この判別器を記述するために、積分可能で非可積分な焼成体Floquetシステムを使用する。
可積分系では、OTOCsの飽和領域は振動挙動を示すが、カオス系では正確な飽和、すなわち系は熱化される。
振動のより明確な理解を得るために、OTOCの正規化フーリエスペクトルに対する逆参加比(IPR)を計算する。
そこで本研究では,時間依存ユニタリ演算子の近辺間隔分布(NNSD)について検討する。
この分布は、OTOCの飽和挙動から得られる結果と相関して、カオス領域と正規領域を効果的に区別する。
The dynamic region of out-of-time-ordered correlators (OTOCs) is a valuable discriminator of chaos in classical and semiclassical systems, as it captures the characteristic exponential growth. However, in spin systems, it does not reliably quantify chaos, exhibiting similar behavior in both integrable and chaotic systems. Instead, we leverage the saturation behavior of OTOCs as a means to differentiate between chaotic and integrable regimes. We use integrable and nonintegrable quenched field Floquet systems to describe this discriminator. In the integrable system, the saturation region of OTOCs exhibits oscillatory behavior, whereas, in the chaotic system, it shows exact saturation i.e., system gets thermalized. To gain a clearer understanding of the oscillations, we calculate the inverse participation ratio (IPR) for the normalized Fourier spectrum of OTOC. In order to further substantiate our findings, we propose the nearest-neighbor spacing distribution (NNSD) of time-dependent unitary operators. This distribution effectively differentiates chaotic and regular regions, corroborating the outcomes derived from the saturation behavior of OTOC. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # 量子ウォークコンピューティングの展望:理論・実装・応用
Review on Quantum Walk Computing: Theory, Implementation, and Application ( http://arxiv.org/abs/2404.04178v1 ) ライセンス: Link先を確認 | Xiaogang Qiang, Shixin Ma, Haijing Song, | (参考訳) 古典的なランダムウォーク形式は、幅広い応用において重要な役割を担っている。
量子ウォークは量子コンピューティングの重要な理論モデルとして提案されている。
重ね合わせ、干渉、絡み合いなどの量子効果を活用することで、量子ウォークとその多様性は古典的な計算能力を超えるために広く研究され、代数的および最適化問題、グラフとネットワーク分析、量子ハミルトンおよび生化学的プロセスシミュレーション、更には量子ウォークモデルといった分野における量子アルゴリズムの設計に広く用いられている。
従来の量子回路モデルと比較して、量子ウォークは、特にノイズの多い中間スケール量子時代において、アプリケーション固有の量子コンピューティングを実装するための実現可能な経路を示す。
近年、様々な量子ウォークや量子ウォークアプリケーションの実装において顕著な進歩が達成され、量子ウォークの大きな可能性を示している。
本稿では,量子ウォークと量子ウォークコンピューティングについて概説し,量子ウォーク理論と特徴の側面,その物理的実装の進歩,そして発展的に発達した量子ウォークコンピューティングの応用について述べる。
また、近い将来、実用的な量子コンピュータの実現に向けて、量子ウォークコンピューティングが直面する課題についても論じる。
Classical random walk formalism shows a significant role across a wide range of applications. As its quantum counterpart, the quantum walk is proposed as an important theoretical model for quantum computing. By exploiting the quantum effects such as superposition, interference and entanglement, quantum walks and their variety have been extensively studied for achieving beyond classical computing power, and they have been broadly used in designing quantum algorithms in fields ranging from algebraic and optimization problems, graph and network analysis, to quantum Hamiltonian and biochemical process simulations, and even further quantum walk models have proven their capabilities for universal quantum computation. Compared to the conventional quantum circuit models, quantum walks show a feasible path for implementing application-specific quantum computing in particularly the noisy intermediate-scale quantum era. Recently remarkable progress has been achieved in implementing a wide variety of quantum walks and quantum walk applications, demonstrating the great potential of quantum walks. In this review, we provide a thorough summary of quantum walks and quantum walk computing, including aspects of quantum walk theories and characteristics, advances in their physical implementations and the flourishingly developed quantum walk computing applications. We also discuss the challenges facing quantum walk computing, toward realizing a practical quantum computer in the near future. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # SCAResNet:送電塔におけるTinyオブジェクト検出に最適化されたResNetバリアント
SCAResNet: A ResNet Variant Optimized for Tiny Object Detection in Transmission and Distribution Towers ( http://arxiv.org/abs/2404.04179v1 ) ライセンス: Link先を確認 | Weile Li, Muqing Shi, Zhonghua Hong, | (参考訳) 従来のディープラーニングベースのオブジェクト検出ネットワークは、しばしばデータ前処理の段階で画像を再サイズ化し、特徴マップの均一なサイズとスケールを達成する。
リサイズは、モデル伝播と完全に連結された分類を容易にするために行われる。
しかし、再サイズは必然的に画像のオブジェクトの変形や貴重な情報の喪失につながる。
この欠点は、直線的な形状と少ないピクセルを持つ分布塔のような小さな物体に対して特に顕著になる。
この問題に対処するため,リサイズ操作の廃止を提案する。
代わりに、位置エンコード型マルチヘッドCriss-Crossアテンションを導入する。
これにより、モデルはコンテキスト情報をキャプチャし、複数の表現部分空間から学習し、分散塔のセマンティクスを効果的に強化することができる。
さらに、3つのプールされた特徴マップを新しい統一マップに再構成し、計算負担を軽減し、空間ピラミッドのプール化を強化した。
このアプローチにより、大きさやスケールの異なる画像が一様次元の特徴写像を生成でき、特徴写像の伝搬に利用できる。
SCAResNetは前述の改善をバックボーンネットワークのResNetに組み込んでいます。
デューク大学のElectric Transmission and Distribution Infrastructure Imageryデータセットを用いてSCAResNetを評価した。
追加のトリックを伴わずに,ガウス受容場に基づくラベルアサインメントをベースラインとして,様々な物体検出モデルを適用した。
SCAResNetをベースラインモデルに組み込むことで、mAPの2.1%の改善を実現しました。
これにより、送信塔や配電塔の検出におけるSCAResNetの利点と、微小物体検出におけるその価値が示される。
ソースコードはhttps://github.com/LisavilaLee/SCAResNet_mmdetで公開されている。
Traditional deep learning-based object detection networks often resize images during the data preprocessing stage to achieve a uniform size and scale in the feature map. Resizing is done to facilitate model propagation and fully connected classification. However, resizing inevitably leads to object deformation and loss of valuable information in the images. This drawback becomes particularly pronounced for tiny objects like distribution towers with linear shapes and few pixels. To address this issue, we propose abandoning the resizing operation. Instead, we introduce Positional-Encoding Multi-head Criss-Cross Attention. This allows the model to capture contextual information and learn from multiple representation subspaces, effectively enriching the semantics of distribution towers. Additionally, we enhance Spatial Pyramid Pooling by reshaping three pooled feature maps into a new unified one while also reducing the computational burden. This approach allows images of different sizes and scales to generate feature maps with uniform dimensions and can be employed in feature map propagation. Our SCAResNet incorporates these aforementioned improvements into the backbone network ResNet. We evaluated our SCAResNet using the Electric Transmission and Distribution Infrastructure Imagery dataset from Duke University. Without any additional tricks, we employed various object detection models with Gaussian Receptive Field based Label Assignment as the baseline. When incorporating the SCAResNet into the baseline model, we achieved a 2.1% improvement in mAPs. This demonstrates the advantages of our SCAResNet in detecting transmission and distribution towers and its value in tiny object detection. The source code is available at https://github.com/LisavilaLee/SCAResNet_mmdet. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # DQC1モデルにおける純状態合成のノーゴー結果
A no-go result for pure state synthesis in the DQC1 model ( http://arxiv.org/abs/2404.04198v1 ) ライセンス: Link先を確認 | Zachary Stier, | (参考訳) 量子量子計算のDQC1(One Clean Qubit)モデルにおける状態合成の問題について検討し、量子回路を適用した後、量子ビットのサブセットを計測または破棄した上で、単一の純量子ビットと最大混合量子ビットを$n$で提供する。
廃棄の場合、追加の純量子ビットを作成することは不可能であり、追加の量子ビット上で非常に低温ギブス状態を作成することは不可能であることを示す。
測定の場合、$m$追加量子ビットを合成する確率は$2^{1-m}$、低温ギブス状態を作成する確率は$2^{2-m}$となる。
結果として、最近研究された相互作用量子アルゴリズムのクラスにおいて、より低いバウンドのランタイムを与える。
これらの技術は、それぞれの密度とユニタリ行列のエントリーレベルにおける研究状態と回路を用いていた。
We study the problem of state synthesis in the DQC1 (One Clean Qubit) model of quantum computation, which provides a single pure qubit and $n$ maximally mixed qubits, and after applying any quantum circuit some subset of the qubits are measured or discarded. In the case of discarding, we show that it is impossible to prepare additional pure qubits, and that it is impossible to prepare very low-temperature Gibbs states on additional qubits. In the case of measurements, we show that the probability of synthesizing $m$ additional qubits is bounded by $2^{1-m}$, and that the probability of preparing low-temperature Gibbs states is bounded by $2^{2-m}$. As a consequence, we give a lower-bound the runtime of a recently studied class of repeated interaction quantum algorithms. The techniques used study states and circuits at the level of entries of their respective density and unitary matrices. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # メカニカルラーニングによる固体中の量子光学記憶
Machine-Learning-Enhanced Quantum Optical Storage in Solids ( http://arxiv.org/abs/2404.04200v1 ) ライセンス: Link先を確認 | Yisheng Lei, Haechan An, Zongfeng Li, Mahdi Hosseini, | (参考訳) ストレージ効率と帯域幅の高い量子メモリデバイスは、将来の量子ネットワークにとって必須の要素である。
ソリッドステート量子メモリはブロードバンドストレージを提供するが、主にストレージ効率の低下に悩まされる。
我々は、量子メモリ効率の6倍近く向上を示すために、受動的最適化と機械学習技術を用いている。
本研究では,信号対雑音比の高いコヒーレントかつ単一光子レベルのストレージを実演する。
ここで提示される最適化手法は、ほとんどの固体量子メモリに適用することで、メモリ帯域幅を妥協することなく、記憶効率を大幅に改善することができる。
Quantum memory devices with high storage efficiency and bandwidth are essential elements for future quantum networks. Solid-state quantum memories can provide broadband storage, but they primarily suffer from low storage efficiency. We use passive optimization and machine learning techniques to demonstrate nearly a 6-fold enhancement in quantum memory efficiency. In this regime, we demonstrate coherent and single-photon-level storage with a high signal-to-noise ratio. The optimization technique presented here can be applied to most solid-state quantum memories to significantly improve the storage efficiency without compromising the memory bandwidth. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # ロバスト・ガウス・スプレイティング
Robust Gaussian Splatting ( http://arxiv.org/abs/2404.04211v1 ) ライセンス: Link先を確認 | François Darmon, Lorenzo Porzi, Samuel Rota-Bulò, Peter Kontschieder, | (参考訳) 本稿では,3Dガウス撮影(3DGS)の一般的な誤差源として,不完全なカメラポーズ,色の不整合などを挙げる。
我々の主な貢献は、カメラポーズ上のガウス分布として動きのぼかしをモデル化することであり、カメラポーズの洗練と動きのぼかしの修正を統一的に行うことができる。
また, 周囲の光や影, あるいはホワイトバランスの設定の変化など, カメラ関連要因によって生じる色の不整合に対処する機構も提案する。
提案手法は3DGSの定式化とシームレスに統合され, トレーニング効率とレンダリング速度の面でその利点を保っている。
Scannet++やDeblur-NeRFなど,関連するベンチマークデータセットへのコントリビューションを実験的に検証し,最先端の成果と,関連するベースラインに対する一貫した改善を実現した。
In this paper, we address common error sources for 3D Gaussian Splatting (3DGS) including blur, imperfect camera poses, and color inconsistencies, with the goal of improving its robustness for practical applications like reconstructions from handheld phone captures. Our main contribution involves modeling motion blur as a Gaussian distribution over camera poses, allowing us to address both camera pose refinement and motion blur correction in a unified way. Additionally, we propose mechanisms for defocus blur compensation and for addressing color in-consistencies caused by ambient light, shadows, or due to camera-related factors like varying white balancing settings. Our proposed solutions integrate in a seamless way with the 3DGS formulation while maintaining its benefits in terms of training efficiency and rendering speed. We experimentally validate our contributions on relevant benchmark datasets including Scannet++ and Deblur-NeRF, obtaining state-of-the-art results and thus consistent improvements over relevant baselines. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # テキストスーパービジョンセマンティックセマンティックセグメンテーションのための画像テキスト共分解
Image-Text Co-Decomposition for Text-Supervised Semantic Segmentation ( http://arxiv.org/abs/2404.04231v1 ) ライセンス: Link先を確認 | Ji-Jia Wu, Andy Chia-Hao Chang, Chieh-Yu Chuang, Chun-Pei Chen, Yu-Lun Liu, Min-Hung Chen, Hou-Ning Hu, Yung-Yu Chuang, Yen-Yu Lin, | (参考訳) 本稿では,高密度アノテーションを伴わない画像テキストペアのみを用いて,画像内の任意の視覚概念をセグメント化できるモデルを学習することを目的としたテキスト教師ありセマンティックセマンティックセマンティックセマンティックセマンティクスについて述べる。
既存の手法では、画像とテキストのペアにおけるコントラスト学習が、視覚セグメントとテキストの意味を効果的に一致させることが示されている。
テキストアライメントとセマンティックセグメンテーションの間には相違点があることに気付く: テキストはしばしば複数のセマンティックな概念から構成されるが、セマンティックセグメンテーションはセマンティックに同質なセグメンテーションを作成するために努力する。
この問題に対処するために,画像とテキストを画像領域と単語セグメントの集合に分割する新しいフレームワークである画像テキスト共分解(CoDe)を提案する。
視覚言語モデルを扱うために、画像セグメントや単語セグメントをハイライトする余分な表現を導出する素早い学習機構を提案し、そのセグメントからより効果的な特徴を抽出する。
総合的な実験結果から,提案手法は6つのベンチマークデータセット上で既存のテキスト教師付きセマンティックセマンティックセマンティクス法に対して良好に機能することが示された。
This paper addresses text-supervised semantic segmentation, aiming to learn a model capable of segmenting arbitrary visual concepts within images by using only image-text pairs without dense annotations. Existing methods have demonstrated that contrastive learning on image-text pairs effectively aligns visual segments with the meanings of texts. We notice that there is a discrepancy between text alignment and semantic segmentation: A text often consists of multiple semantic concepts, whereas semantic segmentation strives to create semantically homogeneous segments. To address this issue, we propose a novel framework, Image-Text Co-Decomposition (CoDe), where the paired image and text are jointly decomposed into a set of image regions and a set of word segments, respectively, and contrastive learning is developed to enforce region-word alignment. To work with a vision-language model, we present a prompt learning mechanism that derives an extra representation to highlight an image segment or a word segment of interest, with which more effective features can be extracted from that segment. Comprehensive experimental results demonstrate that our method performs favorably against existing text-supervised semantic segmentation methods on six benchmark datasets. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # DiffOp-net:unsupervised deformable Image Registrationのための差分演算子に基づく完全畳み込みネットワーク
DiffOp-net: A Differential Operator-based Fully Convolutional Network for Unsupervised Deformable Image Registration ( http://arxiv.org/abs/2404.04244v1 ) ライセンス: Link先を確認 | Jiong Wu, | (参考訳) 既存の教師なしの変形可能な画像登録法は、通常、正規化用語として予測された変位や速度場の勾配に適用されるメトリクスに頼り、変換のスムーズさが保証され、登録精度が制限される可能性がある。
本研究では、新しい微分演算子を登録フレームワークに導入することにより、教師なしの変形可能な画像登録を強化する新しい手法を提案する。
この演算子は速度場に作用して双対空間にマッピングし、最適化中の速度場の滑らかさを保証し、正確な変形可能な登録を容易にする。
さらに,画像ペア内の大きな変形を捕捉する課題に対処するために,CCA(Cross-Coordinate Attention Module)を導入し,提案するFCN(Fully Convolutional Networks)ベースのマルチレゾリューション登録アーキテクチャに組み込む。
2つのMRIデータセットを用いて評価実験を行った。
従来のアルゴリズムや教師なし学習に基づく3つの代表的な手法など,さまざまな最先端の登録手法と比較して,本手法は優れた精度を実現し,望ましい微分特性を維持し,良好な登録速度を示す。
Existing unsupervised deformable image registration methods usually rely on metrics applied to the gradients of predicted displacement or velocity fields as a regularization term to ensure transformation smoothness, which potentially limits registration accuracy. In this study, we propose a novel approach to enhance unsupervised deformable image registration by introducing a new differential operator into the registration framework. This operator, acting on the velocity field and mapping it to a dual space, ensures the smoothness of the velocity field during optimization, facilitating accurate deformable registration. In addition, to tackle the challenge of capturing large deformations inside image pairs, we introduce a Cross-Coordinate Attention module (CCA) and embed it into a proposed Fully Convolutional Networks (FCNs)-based multi-resolution registration architecture. Evaluation experiments are conducted on two magnetic resonance imaging (MRI) datasets. Compared to various state-of-the-art registration approaches, including a traditional algorithm and three representative unsupervised learning-based methods, our method achieves superior accuracies, maintaining desirable diffeomorphic properties, and exhibiting promising registration speed. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # Sigma: マルチモーダルセマンティックセマンティックセグメンテーションのためのSamese Mamba Network
Sigma: Siamese Mamba Network for Multi-Modal Semantic Segmentation ( http://arxiv.org/abs/2404.04256v1 ) ライセンス: Link先を確認 | Zifu Wan, Yuhao Wang, Silong Yong, Pingping Zhang, Simon Stepputtis, Katia Sycara, Yaqi Xie, | (参考訳) マルチモーダルセマンティックセグメンテーションはAIエージェントの認識とシーン理解を大幅に強化する。
従来のRGBと並行して熱や深度といった追加のモダリティ(X-モダリティ)を活用することで、より堅牢で信頼性の高いセグメンテーションが可能になる。
本研究では,Selective Structured State Space Model, Mambaを利用して,マルチモーダルなセマンティックセマンティックセグメンテーションのためのSiamese MambaネットワークであるSigmaを紹介する。
局所受容場に制限がある従来のCNN(Vits)とは異なり,2次複雑度を犠牲にして世界受容場を提供するビジョントランスフォーマー(ViTs)は,線形複雑度で世界受容場をカバーできる。
シームズエンコーダを用いて,マンバ核融合機構を革新することにより,様々なモーダルから本質的な情報を効果的に選択する。
次にデコーダを開発し、モデルのチャネルワイド・モデリング能力を向上する。
提案手法は,RGB-サーマルとRGB-ディープスセグメンテーションの両タスクに対して厳密に評価し,その優位性を実証し,マルチモーダル認識タスクにおけるステートスペースモデル(SSM)の初成功例を示す。
コードはhttps://github.com/zifuwan/Sigma.comで入手できる。
Multi-modal semantic segmentation significantly enhances AI agents' perception and scene understanding, especially under adverse conditions like low-light or overexposed environments. Leveraging additional modalities (X-modality) like thermal and depth alongside traditional RGB provides complementary information, enabling more robust and reliable segmentation. In this work, we introduce Sigma, a Siamese Mamba network for multi-modal semantic segmentation, utilizing the Selective Structured State Space Model, Mamba. Unlike conventional methods that rely on CNNs, with their limited local receptive fields, or Vision Transformers (ViTs), which offer global receptive fields at the cost of quadratic complexity, our model achieves global receptive fields coverage with linear complexity. By employing a Siamese encoder and innovating a Mamba fusion mechanism, we effectively select essential information from different modalities. A decoder is then developed to enhance the channel-wise modeling ability of the model. Our method, Sigma, is rigorously evaluated on both RGB-Thermal and RGB-Depth segmentation tasks, demonstrating its superiority and marking the first successful application of State Space Models (SSMs) in multi-modal perception tasks. Code is available at https://github.com/zifuwan/Sigma. | 翻訳日:2024-04-08 15:55:28 公開日:2024-04-05 |
| # BEAR: 因果的および仮面的言語モデルにおける関係知識評価のための統一フレームワーク
BEAR: A Unified Framework for Evaluating Relational Knowledge in Causal and Masked Language Models ( http://arxiv.org/abs/2404.04113v1 ) ライセンス: Link先を確認 | Jacek Wiland, Max Ploner, Alan Akbik, | (参考訳) 知識探索は、言語モデル(LM)が事前学習中に関係知識を習得した度合いを評価する。
プローブは、異なるサイズのLMとトレーニング構成を比較するための安価な方法である。
しかし、従来のアプローチは、予めトレーニングされたLMで使用される目的関数に依存しており、マスクや因果的LMにのみ適用できる。
その結果、異なる種類のLMを比較することは不可能となる。
そこで本研究では,ある文章文のログ類似度を推定する,LM固有の能力を利用する手法を提案する。
我々は,7,731インスタンス(40,916インスタンス)の評価データセットを慎重に設計し,その1つが正しいリレーショナル事実に対する代替ステートメントを生成する。
次に、LMが正しいステートメントに最も高いログライクな状態を正しく割り当てているかどうかを評価する。
22種類の共通LMを実験的に評価した結果,提案するフレームワークであるBEARは,異なるLMタイプの知識を効果的に探索できることがわかった。
我々はBEARデータセットと、LMの評価と開発を容易にするための研究コミュニティへの探索的アプローチを実装するオープンソースフレームワークをリリースする。
Knowledge probing assesses to which degree a language model (LM) has successfully learned relational knowledge during pre-training. Probing is an inexpensive way to compare LMs of different sizes and training configurations. However, previous approaches rely on the objective function used in pre-training LMs and are thus applicable only to masked or causal LMs. As a result, comparing different types of LMs becomes impossible. To address this, we propose an approach that uses an LM's inherent ability to estimate the log-likelihood of any given textual statement. We carefully design an evaluation dataset of 7,731 instances (40,916 in a larger variant) from which we produce alternative statements for each relational fact, one of which is correct. We then evaluate whether an LM correctly assigns the highest log-likelihood to the correct statement. Our experimental evaluation of 22 common LMs shows that our proposed framework, BEAR, can effectively probe for knowledge across different LM types. We release the BEAR datasets and an open-source framework that implements the probing approach to the research community to facilitate the evaluation and development of LMs. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # GNNBENCH:シングルGPU GNNシステムのための公正で生産的なベンチマーク
GNNBENCH: Fair and Productive Benchmarking for Single-GPU GNN System ( http://arxiv.org/abs/2404.04118v1 ) ライセンス: Link先を確認 | Yidong Gong, Pradeep Kumar, | (参考訳) 標準化されたベンチマークが存在しないことで、GNNシステム設計とコミュニティが見落としている評価にいくつかの根本的な落とし穴が生じたと仮定する。
本稿では,システム革新に着目したGNNBenchを提案する。
GNNBenchは、キャプチャテンソルデータを交換する新しいプロトコルを提示し、System APIのカスタムクラスをサポートし、同じシステムモジュールをPyTorchやTensorFlowといった多くのディープラーニングフレームワークに自動統合することを可能にする。
このようなベンチマークフレームワークの重要性を示すため、複数のGNNシステムを統合した。
結果から,GNNBenchとの統合は,コミュニティから注目に値するいくつかの測定問題を特定するのに役立ちました。
We hypothesize that the absence of a standardized benchmark has allowed several fundamental pitfalls in GNN System design and evaluation that the community has overlooked. In this work, we propose GNNBench, a plug-and-play benchmarking platform focused on system innovation. GNNBench presents a new protocol to exchange their captive tensor data, supports custom classes in System APIs, and allows automatic integration of the same system module to many deep learning frameworks, such as PyTorch and TensorFlow. To demonstrate the importance of such a benchmark framework, we integrated several GNN systems. Our results show that integration with GNNBench helped us identify several measurement issues that deserve attention from the community. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 風車部品の予測保守のための物理制約RNNによる一般化可能な温度表示
Generalizable Temperature Nowcasting with Physics-Constrained RNNs for Predictive Maintenance of Wind Turbine Components ( http://arxiv.org/abs/2404.04126v1 ) ライセンス: Link先を確認 | Johannes Exenberger, Matteo Di Salvo, Thomas Hirsch, Franz Wotawa, Gerald Schweiger, | (参考訳) 機械学習は、現在の風力エネルギー生産システムの運用において重要な役割を担っている。
1つの中心的な応用は、ダウンタイムを減らして効率を高め、電力コストを下げるための予測的メンテナンスである。
ニューラルネットワークにおける物理ベースの知識を統合して物理的なプラウシビリティを強制することは、現在のアプローチを改善するための有望な方法であるが、不完全なシステム情報はしばしば、現実のシナリオにおける彼らの応用を妨げる。
本稿では,風車用ギアボックス軸受の物理制約付き深部学習に基づく予測保守を,部分的なシステム知識で簡便かつ効率的に行う方法について述べる。
この手法は、未知の系係数を学習可能なニューラルネットワークパラメータとして扱う物理によって制約された温度流し込みに基づいている。
その結果、ベースラインニューラルネットワークと比較して一般化性能が向上し、現実世界のアプリケーションでしばしば発生する低データシナリオにおいて特に重要であることがわかった。
Machine learning plays an important role in the operation of current wind energy production systems. One central application is predictive maintenance to increase efficiency and lower electricity costs by reducing downtimes. Integrating physics-based knowledge in neural networks to enforce their physical plausibilty is a promising method to improve current approaches, but incomplete system information often impedes their application in real world scenarios. We describe a simple and efficient way for physics-constrained deep learning-based predictive maintenance for wind turbine gearbox bearings with partial system knowledge. The approach is based on temperature nowcasting constrained by physics, where unknown system coefficients are treated as learnable neural network parameters. Results show improved generalization performance to unseen environments compared to a baseline neural network, which is especially important in low data scenarios often encountered in real-world applications. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 宇宙ミッションにおけるキューブサットのサンドボックス化の可能性について
On the Feasibility of CubeSats Application Sandboxing for Space Missions ( http://arxiv.org/abs/2404.04127v1 ) ライセンス: Link先を確認 | Gabriele Marra, Ulysse Planta, Philipp Wüstenberg, Ali Abbasi, | (参考訳) 本稿では、開発中の衛星に適したサンドボックス機構の設計と選択の過程について詳述し、小型衛星に焦点をあてる。
我々の研究の中心は、衛星ペイロードに対するサンドボックスの選択基準の開発と、その適切性を評価することである。
我々はまた、すでに運用されている2つの衛星であるS suchaiとSALSATに対して、その有効性を検証するためにアプローチを検証した。
これらの実験は、実世界の宇宙システムのための選択されたサンドボックス方式の実用性と効率性を強調した。
我々の結果は、宇宙セクターにおけるアプリケーションサンドボックスの統合に関わる課題を洞察し、強調する。
This paper details our journey in designing and selecting a suitable application sandboxing mechanism for a satellite under development, with a focus on small satellites. Central to our study is the development of selection criteria for sandboxing and assessing its appropriateness for our satellite payload. We also test our approach on two already operational satellites, Suchai and SALSAT, to validate its effectiveness. These experiments highlight the practicality and efficiency of our chosen sandboxing method for real-world space systems. Our results provide insights and highlight the challenges involved in integrating application sandboxing in the space sector. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # スマートコントラクト言語の比較分析
Smart Contract Languages: a comparative analysis ( http://arxiv.org/abs/2404.04129v1 ) ライセンス: Link先を確認 | Massimo Bartoletti, Lorenzo Benetollo, Michele Bugliesi, Silvia Crafa, Giacomo Dal Sasso, Roberto Pettinau, Andrea Pinna, Mattia Piras, Sabina Rossi, Stefano Salis, Alvise Spanò, Viacheslav Tkachenko, Roberto Tonelli, Roberto Zunino, | (参考訳) 分散型ブロックチェーンプラットフォームは、信頼できるサードパーティに頼ることなく、ユーザ間の資産の安全な交換をサポートする。
これらの交換はスマートコントラクトでプログラムされ、コンピュータプログラムはブロックチェーンノードによって直接実行される。
現在、複数のスマートコントラクト言語が開発者に提供されており、それぞれ独自の特徴、長所、短所がある。
本稿では,Ethereum,Solana,Cardano,Algorand,Aptos,Tezosの6つの主要なブロックチェーンプラットフォームで使用されているスマートコントラクト言語について検討する。
設計選択の高レベルな概要から始めて、検討中のすべてのスマートコントラクト言語に共通するユースケースを含むオリジナルのベンチマークに基づいて、プログラミングスタイル、セキュリティ、コード可読性、ユーザビリティに焦点を当てた包括的な評価を提供する。
Decentralized blockchain platforms support the secure exchange of assets among users without relying on trusted third parties. These exchanges are programmed with smart contracts, computer programs directly executed by blockchain nodes. Multiple smart contract languages are available nowadays to developers, each with its own distinctive features, strengths, and weaknesses. In this paper, we examine the smart contract languages used in six major blockchain platforms: Ethereum, Solana, Cardano, Algorand, Aptos, and Tezos. Starting with a high-level overview of their design choices, we provide a comprehensive assessment that focuses on programming style, security, code readability, and usability, drawing on an original benchmark that encompasses a common set of use cases across all the smart contract languages under examination. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # BinSym:インストラクションセマンティクスの形式記述を用いたバイナリレベルシンボリック実行
BinSym: Binary-Level Symbolic Execution using Formal Descriptions of Instruction Semantics ( http://arxiv.org/abs/2404.04132v1 ) ライセンス: Link先を確認 | Sören Tempel, Tobias Brandt, Christoph Lüth, Rolf Drechsler, | (参考訳) BinSymはバイナリ形式でソフトウェアを記号的に解析するフレームワークである。
以前の作業とは対照的に、バイナリコード命令を直接操作し、それらを中間表現(IR)に持ち上げる必要はない。
これは、バイナリコード命令セマンティクスの形式記述の上にシンボルセマンティクスを定式化することで達成される。
既存の公式記述に基づいて、BinSymはIRへの変換を実装する事前作業に必要な手作業を取り除き、エラーのマージンを減らす。
さらに、BinSymのシンボリックセマンティクスはバイナリコードに直接関連し、ソルバクエリの複雑さを減らすことでシンボリック実行速度を改善することができる。
BinSym is a framework for symbolic program analysis of software in binary form. Contrary to prior work, it operates directly on binary code instructions and does not require lifting them to an intermediate representation (IR). This is achieved by formulating the symbolic semantics on top of a formal description of binary code instruction semantics. By building on existing formal descriptions, BinSym eliminates the manual effort required by prior work to implement transformations to an IR, thereby reducing the margin for errors. Furthermore, BinSym's symbolic semantics can be directly related to the binary code, which improves symbolic execution speed by reducing solver query complexity. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 幾何平均作用素による混合量子状態の測地学
Geodesics for mixed quantum states via their geometric mean operator ( http://arxiv.org/abs/2404.04136v1 ) ライセンス: Link先を確認 | Paul M. Alsing, Carlo Cafaro, Shannon Ray, | (参考訳) 任意の次元の2つの混合状態間の測地を、その幾何学的平均作用素を用いて検討する。
2つの混合状態密度作用素$\rho_1$と$\rho_2$の基底空間における距離$M$は、(ヒルベルト・シュミット)バンドル空間$E$の最短距離によって与えられる。
後者は、水平リフトに沿ったバーズ距離によって、$\rho_1$ と $\rho_2$ の間の測地線の$E$ で与えられることが知られている。
水平リフトは、$E$のユニークな曲線で、ファイバーを直交する$F\subset E$が$M$の曲線より上を横切り、それに射影する。
この形式を概観し、初期$\rho_1$と最終$\rho_2$状態の間のアフィンパラメータ$s$でパラメータ化された基底空間測地線に沿って、中間混合量子状態$\rho(s)$を構築するためにどのように使用できるかを示す。
幾何平均作用素 $M(s) = \rho_1^{-1/2}\, \sqrt{\rho_1^{1/2}\rho(s)\rho_1^{1/2}}\,\rho_1^{-1/2}$, ここで、Uhlmannの根の忠実さは$\rho_1$と$\rho(s)$で、$\sqrt{F}(\rho_1,\rho(s)) = Tr[M(s)\,\rho_1] = Tr[\sqrt{\rho_1^{1/2}\rho(s)\,\rho_1^{1/2}}]$,$\rho(s)$で与えられる。
任意の次元における極大混合状態と純状態の間の測地線と、ヴェルナー状態の測地線について、$\rho(p) = (1-p) I/N + p\,|\Psi\rangle\langle \Psi|$ with $|\Psi\rangle = \{|GHZ\rangle, |W\rangle\}$ in dimension $N=2^3$。
後者については、極限$p\to1$の式を、直交純状態 $|GHZ\rangle$ と $|W\rangle$ の可能な測地線の無限個の数と比較する。
最後に、ブロッホ球内の2つの任意の終端量子密度行列を次元$N=2$で接続する測地線に沿った密度行列の解析形式を計算する。
We examine the geodesic between two mixed states of arbitrary dimension by means of their geometric mean operator. We utilize the fiber bundle approach by which the distance between two mixed state density operators $\rho_1$ and $\rho_2$ in the base space $M$ is given by the shortest distance in the (Hilbert Schmidt) bundle space $E$ of their purifications. The latter is well-known to be given by the Bures distance along the horizontal lift in $E$ of the geodesic between the $\rho_1$ and $\rho_2$ in $M$. The horizontal lift is that unique curve in $E$ that orthogonally traverses the fibers $F\subset E$ above the curve in $M$, and projects down onto it. We briefly review this formalism and show how it can be used to construct the intermediate mixed quantum states $\rho(s)$ along the base space geodesic parameterized by affine parameter $s$ between the initial $\rho_1$ and final $\rho_2$ states. We emphasize the role played by geometric mean operator $M(s) = \rho_1^{-1/2}\, \sqrt{\rho_1^{1/2}\rho(s)\rho_1^{1/2}}\,\rho_1^{-1/2}$, where the Uhlmann root fidelity between $\rho_1$ and $\rho(s)$ is given by $\sqrt{F}(\rho_1,\rho(s)) = Tr[M(s)\,\rho_1] = Tr[\sqrt{\rho_1^{1/2}\rho(s)\rho_1^{1/2}}]$, and $\rho(s) = M(s)\,\rho_1\,M(s)$. We give examples for the geodesic between the maximally mixed state and a pure state in arbitrary dimensions, as well as for the geodesic between Werner states $\rho(p) = (1-p) I/N + p\,|\Psi\rangle\langle \Psi|$ with $|\Psi\rangle = \{|GHZ\rangle, |W\rangle\}$ in dimension $N=2^3$. For the latter, we compare expressions in the limit $p\to1$ to the infinite number of possible geodesics between the orthogonal pure states $|GHZ\rangle$ and $|W\rangle$. Lastly, we compute the analytic form for the density matrices along the geodesic that connects two arbitrary endpoint qubit density matrices within the Bloch ball for dimension $N=2$. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # フェデレーション学習におけるデータポジショニング攻撃軽減のための高精度指導手法
Precision Guided Approach to Mitigate Data Poisoning Attacks in Federated Learning ( http://arxiv.org/abs/2404.04139v1 ) ライセンス: Link先を確認 | K Naveen Kumar, C Krishna Mohan, Aravind Machiry, | (参考訳) Federated Learning(FL)は、参加者が機密データのプライバシを保持しながら、共有マシンラーニングモデルを集合的にトレーニングすることを可能にする、共同学習パラダイムである。
それにもかかわらず、FLの本質的な分散化およびデータ不透明な特性は、データ中毒攻撃に対する感受性を示す。
これらの攻撃は、局所的なモデルトレーニング中に不正または悪意のある入力を導入し、その後、グローバルモデルに影響を与え、誤った予測をもたらす。
データ中毒攻撃に対する現在のFL防御戦略は、正確性と堅牢性の間のトレードオフを伴うか、あるいはサーバに均一に分散されたルートデータセットの存在を必要とする。
これらの制限を克服するために、FLにおけるデータ中毒攻撃を効果的に対処するためにゾーンベースの退避更新(ZBDU)機構を利用するFedZZを提案する。
さらに、これらのクライアントクラスタ(ゾーン)を積極的に特徴付ける精度誘導手法を導入し、サーバにおける悪意ある更新の認識と破棄を支援する。
CIFAR10とEMNISTの2つの広く知られているデータセットにおけるFedZZの評価は、データ中毒の軽減効果を実証し、単一および複数クライアントの攻撃シナリオと様々な攻撃ボリュームにおける最先端の手法の性能を上回った。
特に、FedZZは、高度に非IIDおよびアタックフリーシナリオであっても、堅牢なクライアント選択戦略として機能する。
さらに, 毒性率の増大に直面して, FedZZにより得られたモデル精度は, 既存技術に比べて優れたレジリエンスを示した。
例えば、悪意のあるクライアントが50%存在する場合、FedZZは67.43%の精度を保ち、第2位のソリューションであるFL-Defenderの精度は43.36%に低下する。
Federated Learning (FL) is a collaborative learning paradigm enabling participants to collectively train a shared machine learning model while preserving the privacy of their sensitive data. Nevertheless, the inherent decentralized and data-opaque characteristics of FL render its susceptibility to data poisoning attacks. These attacks introduce malformed or malicious inputs during local model training, subsequently influencing the global model and resulting in erroneous predictions. Current FL defense strategies against data poisoning attacks either involve a trade-off between accuracy and robustness or necessitate the presence of a uniformly distributed root dataset at the server. To overcome these limitations, we present FedZZ, which harnesses a zone-based deviating update (ZBDU) mechanism to effectively counter data poisoning attacks in FL. Further, we introduce a precision-guided methodology that actively characterizes these client clusters (zones), which in turn aids in recognizing and discarding malicious updates at the server. Our evaluation of FedZZ across two widely recognized datasets: CIFAR10 and EMNIST, demonstrate its efficacy in mitigating data poisoning attacks, surpassing the performance of prevailing state-of-the-art methodologies in both single and multi-client attack scenarios and varying attack volumes. Notably, FedZZ also functions as a robust client selection strategy, even in highly non-IID and attack-free scenarios. Moreover, in the face of escalating poisoning rates, the model accuracy attained by FedZZ displays superior resilience compared to existing techniques. For instance, when confronted with a 50% presence of malicious clients, FedZZ sustains an accuracy of 67.43%, while the accuracy of the second-best solution, FL-Defender, diminishes to 43.36%. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 物体間関係のキャプチャによる空中画像の検出改善
Improving Detection in Aerial Images by Capturing Inter-Object Relationships ( http://arxiv.org/abs/2404.04140v1 ) ライセンス: Link先を確認 | Botao Ren, Botian Xu, Yifan Pu, Jingyi Wang, Zhidong Deng, | (参考訳) 多くの画像領域において、シーン内のオブジェクトの空間分布は、意味的な関係によって支配される意味のあるパターンを示す。
しかし、現代のほとんどの検出パイプラインでは、検出提案は独立して処理され、オブジェクト間の基盤となる関係を見渡せる。
本研究では,これらのオブジェクト間の関係を捕捉し,検出対象の分類と回帰結果を洗練するためのトランスフォーマーに基づくアプローチを提案する。
2段階検出器上に構築し、変換器エンコーダによって処理される関心領域(RoI)の提案をトークン化する。
空間的および幾何学的関係は、注意重みに組み込まれ、適応的に変調および正規化される。
実験結果から,DOTA-v1.0,DOTA-v1.5,HRSC 2016の3つのベンチマークで一貫した性能向上が得られた。
具体的には, DOTA-v1.0では1.59 mAP, DOTA-v1.5では4.88 mAP, HRSC 2016では2.1 mAPの増加がみられた。
In many image domains, the spatial distribution of objects in a scene exhibits meaningful patterns governed by their semantic relationships. In most modern detection pipelines, however, the detection proposals are processed independently, overlooking the underlying relationships between objects. In this work, we introduce a transformer-based approach to capture these inter-object relationships to refine classification and regression outcomes for detected objects. Building on two-stage detectors, we tokenize the region of interest (RoI) proposals to be processed by a transformer encoder. Specific spatial and geometric relations are incorporated into the attention weights and adaptively modulated and regularized. Experimental results demonstrate that the proposed method achieves consistent performance improvement on three benchmarks including DOTA-v1.0, DOTA-v1.5, and HRSC 2016, especially ranking first on both DOTA-v1.5 and HRSC 2016. Specifically, our new method has an increase of 1.59 mAP on DOTA-v1.0, 4.88 mAP on DOTA-v1.5, and 2.1 mAP on HRSC 2016, respectively, compared to the baselines. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # ロバスト非コヒーレント完全吸収
Robust incoherent perfect absorption ( http://arxiv.org/abs/2404.04141v1 ) ライセンス: Link先を確認 | H. S. Xu, L. Jin, | (参考訳) コヒーレント完全吸収器は入力波を完全に吸収することができる。
しかし、コヒーレント完全吸収は入力波の重畳に大きく依存し、完全吸収は吸収体の異常に敏感である。
したがって、入力波の重畳やシステム障害に敏感な頑健な非コヒーレントな完全吸収が実用化に望ましい。
ここでは、ポート接続における線形独立な破壊干渉がコヒーレント入力の制約を取り除くことを実証する。
損失と局所化の相互作用を利用して不整合完全吸収を形成する手法を提案する。
どちらの港からも共鳴音が完全に吸収される。
さらに、フラットバンドを支える格子構成を利用して、障害免疫非コヒーレントな完全吸収を示す。
私たちの研究は、光、マイクロ波、音、機械波などを完全に吸収するための基礎と応用の洞察を与えてくれます。
A coherent perfect absorber is capable of completely absorbing input waves. However, the coherent perfect absorption severely depends on the superposition of the input waves, and the perfect absorption is sensitive to the disorder of the absorber. Thus, a robust incoherent perfect absorption, being insensitive to the superposition of input waves and the system disorder, is desirable for practical applications. Here, we demonstrate that the linearly independent destructive interference at the port connections removes the constraint on the coherent input. We propose an approach using the interplay between the loss and localization to form the incoherent perfect absorption. The resonant incidence from either port is completely absorbed. Furthermore, we utilize the lattice configuration supporting the flat band to demonstrate the disorder-immune incoherent perfect absorption. Our findings provide insight into the fundamentals and applications for the perfect absorption of light, microwaves, sound, mechanical waves, and beyond. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 分類のためのノイズラベル処理:サーベイ
Noisy Label Processing for Classification: A Survey ( http://arxiv.org/abs/2404.04159v1 ) ライセンス: Link先を確認 | Mengting Li, Chuang Zhu, | (参考訳) 近年、ディープニューラルネットワーク(DNN)はコンピュータビジョンタスクにおいて顕著な成果を上げており、DNNの成功はしばしばデータの豊かさに大きく依存している。
しかし、データの獲得プロセスと高品質な地上真実は、多くの人力とお金を必要とします。
長い、退屈なデータアノテーションのプロセスでは、アノテータは誤りを犯しがちであり、結果として画像の誤ラベル、すなわちノイズラベルが生じる。
ノイズラベルの出現は避けられない。
さらに、DNNがノイズラベルに容易に適合できることが研究によって示されているので、ノイズラベルの存在はモデルトレーニングプロセスに大きなダメージを与えることになる。
したがって,コンピュータビジョンタスク,特に分類タスクにおいて,ノイズの多いラベルと戦うことが重要である。
本研究ではまず,画像分類タスクにおけるノイズラベルの競合に対する様々なディープラーニング手法の進化について概観的に検討する。
さらに、ロバストなアルゴリズムを設計するために提案された様々なノイズパターンについても検討する。
さらに,実世界のラベルノイズの内部パターンを探索し,実世界のデータによって誘導される合成ラベルノイズパターンを生成するアルゴリズムを提案する。
我々は、このアルゴリズムをよく知られた実世界のデータセットCIFAR-10N上でテストし、新しい実世界のデータ誘導合成ベンチマークを作成し、そのベンチマークで典型的なノイズロス法を評価する。
In recent years, deep neural networks (DNNs) have gained remarkable achievement in computer vision tasks, and the success of DNNs often depends greatly on the richness of data. However, the acquisition process of data and high-quality ground truth requires a lot of manpower and money. In the long, tedious process of data annotation, annotators are prone to make mistakes, resulting in incorrect labels of images, i.e., noisy labels. The emergence of noisy labels is inevitable. Moreover, since research shows that DNNs can easily fit noisy labels, the existence of noisy labels will cause significant damage to the model training process. Therefore, it is crucial to combat noisy labels for computer vision tasks, especially for classification tasks. In this survey, we first comprehensively review the evolution of different deep learning approaches for noisy label combating in the image classification task. In addition, we also review different noise patterns that have been proposed to design robust algorithms. Furthermore, we explore the inner pattern of real-world label noise and propose an algorithm to generate a synthetic label noise pattern guided by real-world data. We test the algorithm on the well-known real-world dataset CIFAR-10N to form a new real-world data-guided synthetic benchmark and evaluate some typical noise-robust methods on the benchmark. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 言語モデルがDense Retrievalに長いドキュメントを埋め込む方法
Dwell in the Beginning: How Language Models Embed Long Documents for Dense Retrieval ( http://arxiv.org/abs/2404.04163v1 ) ライセンス: Link先を確認 | João Coelho, Bruno Martins, João Magalhães, Jamie Callan, Chenyan Xiong, | (参考訳) 本研究では,テキスト表現学習のためのトランスフォーマーモデルにおける位置バイアスの存在について,特にWeb文書検索における検討を行った。
我々は、因果言語モデルの入力シーケンスの途中で情報を失うことを実証し、それを表現学習の領域に拡張した以前の研究に基づいて構築した。
エンコーダ・デコーダモデルの訓練段階における位置バイアスについて,言語モデル事前学習,コントラスト事前学習,コントラスト微調整などを検討した。
MS-MARCO文書コレクションによる実験では、対照的な事前学習の後、モデルはすでに入力の初期の内容をよりよくキャプチャする埋め込みを生成しており、細調整によりこの効果はさらに増大している。
This study investigates the existence of positional biases in Transformer-based models for text representation learning, particularly in the context of web document retrieval. We build on previous research that demonstrated loss of information in the middle of input sequences for causal language models, extending it to the domain of representation learning. We examine positional biases at various stages of training for an encoder-decoder model, including language model pre-training, contrastive pre-training, and contrastive fine-tuning. Experiments with the MS-MARCO document collection reveal that after contrastive pre-training the model already generates embeddings that better capture early contents of the input, with fine-tuning further aggravating this effect. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 中国語Tiny LLM:中国語中心の大規模言語モデルの事前学習
Chinese Tiny LLM: Pretraining a Chinese-Centric Large Language Model ( http://arxiv.org/abs/2404.04167v1 ) ライセンス: Link先を確認 | Xinrun Du, Zhouliang Yu, Songyang Gao, Ding Pan, Yuyang Cheng, Ziyang Ma, Ruibin Yuan, Xingwei Qu, Jiaheng Liu, Tianyu Zheng, Xinchen Luo, Guorui Zhou, Binhang Yuan, Wenhu Chen, Jie Fu, Ge Zhang, | (参考訳) 本研究では,LLM開発における中国語の優先化に向けた重要なシフトを示す2B大規模言語モデル(LLM)であるCT-LLMを紹介する。
CT-LLMは、スクラッチからはじめて、800億の中国トークン、300億の英語トークン、1000億のコードトークンを含む1200億のトークンの広範なコーパスを利用して、主に中国語のテキストデータを組み込むことによって、従来の手法から分離した。
この戦略構成は、アライメント技術によってさらに強化された、中国語の理解と処理において、モデルが卓越した能力を促進する。
CHC-Benchでの顕著な性能を示すために、CT-LLMは中国語のタスクに優れており、SFTによる英語での適応性を示している。
本研究は,LLMを英語コーパスに基づいて学習し,それを他の言語に適応させることによって,LLM学習方法論の地平を広げるという,一般的なパラダイムに挑戦する。
得られた大量事前学習型中国語コーパス(MAP-CC)、高度多分野の中国語ハードケースベンチマーク(CHC-Bench)、および2Bサイズの中国語Tiny LLM(CT-LLM)を含む詳細なデータ処理手順をオープンソース化することにより、学術と産業の両方におけるさらなる探索と革新を促進し、より包括的で多目的な言語モデルの実現を目指す。
In this study, we introduce CT-LLM, a 2B large language model (LLM) that illustrates a pivotal shift towards prioritizing the Chinese language in developing LLMs. Uniquely initiated from scratch, CT-LLM diverges from the conventional methodology by primarily incorporating Chinese textual data, utilizing an extensive corpus of 1,200 billion tokens, including 800 billion Chinese tokens, 300 billion English tokens, and 100 billion code tokens. This strategic composition facilitates the model's exceptional proficiency in understanding and processing Chinese, a capability further enhanced through alignment techniques. Demonstrating remarkable performance on the CHC-Bench, CT-LLM excels in Chinese language tasks, and showcases its adeptness in English through SFT. This research challenges the prevailing paradigm of training LLMs predominantly on English corpora and then adapting them to other languages, broadening the horizons for LLM training methodologies. By open-sourcing the full process of training a Chinese LLM, including a detailed data processing procedure with the obtained Massive Appropriate Pretraining Chinese Corpus (MAP-CC), a well-chosen multidisciplinary Chinese Hard Case Benchmark (CHC-Bench), and the 2B-size Chinese Tiny LLM (CT-LLM), we aim to foster further exploration and innovation in both academia and industry, paving the way for more inclusive and versatile language models. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 文変換者は一般テキストから準空間概念を学ぶか?
Do Sentence Transformers Learn Quasi-Geospatial Concepts from General Text? ( http://arxiv.org/abs/2404.04169v1 ) ライセンス: Link先を確認 | Ilya Ilyankou, Aldo Lipani, Stefano Cavazzi, Xiaowei Gao, James Haworth, | (参考訳) 文変換器は意味探索を行うために設計された言語モデルである。
本研究では,非対称な意味探索のための一般的な質問文探索データセットを微調整した文変換器の能力について検討し,イギリス全土における人文生成経路の記述と,ハイキング体験の記述によく使用されるクエリを関連づける。
文変換器は、経路タイプや難易度などの準地理空間概念を理解するためのゼロショット機能を備えており、ルーティングレコメンデーションシステムとしての可能性を示している。
Sentence transformers are language models designed to perform semantic search. This study investigates the capacity of sentence transformers, fine-tuned on general question-answering datasets for asymmetric semantic search, to associate descriptions of human-generated routes across Great Britain with queries often used to describe hiking experiences. We find that sentence transformers have some zero-shot capabilities to understand quasi-geospatial concepts, such as route types and difficulty, suggesting their potential utility for routing recommendation systems. | 翻訳日:2024-04-08 15:45:42 公開日:2024-04-05 |
| # 長射程相互作用系の熱圏法則
Thermal Area Law in Long-Range Interacting Systems ( http://arxiv.org/abs/2404.04172v1 ) ライセンス: Link先を確認 | Donghoon Kim, Tomotaka Kuwahara, Keiji Saito, | (参考訳) バイパルタイト情報測度の領域法則は、量子多体物理学の最も基本的な側面の1つを特徴づける。
熱平衡において、相互情報の領域法則は、系が短距離相互作用を持つ限り、任意の温度で普遍的に保持される。
停電相互作用を持つシステムでは、$r^{-\alpha}$$$r$: distance では、熱圏法則の条件が解明される。
本研究は,熱領域法則が普遍的に保持する最適条件 $\alpha> \alpha_c$ を明らかにすることを目的とする。
この条件を考えるための標準的なアプローチは、2つのサブシステム間の境界相互作用の大きさに焦点を合わせることである。
しかし, 熱圏法則は, 従来の議論より頑健であることがわかった。
熱領域法則の最適しきい値として$\alpha_c= (D+1)/2$$$(D$:格子の空間次元)を示す。
注目すべきは、この条件は熱力学的に不安定な状態でさえも含むことである。
我々はこの条件を数値的に検証し、可積分系と非可積分系の両方に対して定性的に正確であることを示した。
熱領域法則の無条件証明は、しきい値温度より上の$\alpha > D$のパワー・ロー・クラスタリング定理を開発することで可能である。
さらに対数ネガティビティの数値計算は、同じ基準である$\alpha > (D+1)/2$が量子絡み合いの熱領域法則に適用されることを示している。
The area law of the bipartite information measure characterizes one of the most fundamental aspects of quantum many-body physics. In thermal equilibrium, the area law for the mutual information universally holds at arbitrary temperatures as long as the systems have short-range interactions. In systems with power-law decaying interactions, $r^{-\alpha}$ ($r$: distance), conditions for the thermal area law are elusive. In this work, we aim to clarify the optimal condition $\alpha> \alpha_c$ such that the thermal area law universally holds. A standard approach to considering the conditions is to focus on the magnitude of the boundary interaction between two subsystems. However, we find here that the thermal area law is more robust than this conventional argument suggests. We show the optimal threshold for the thermal area law by $\alpha_c= (D+1)/2$ ($D$: the spatial dimension of the lattice), assuming a power-law decay of the clustering for the bipartite correlations. Remarkably, this condition encompasses even the thermodynamically unstable regimes $\alpha < D$. We verify this condition numerically, finding that it is qualitatively accurate for both integrable and non-integrable systems. Unconditional proof of the thermal area law is possible by developing the power-law clustering theorem for $\alpha > D$ above a threshold temperature. Furthermore, the numerical calculation for the logarithmic negativity shows that the same criterion $\alpha > (D+1)/2$ applies to the thermal area law for quantum entanglement. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # H3DFact:ホログラム表現による因子化のための不均一な3次元統合CIM
H3DFact: Heterogeneous 3D Integrated CIM for Factorization with Holographic Perceptual Representations ( http://arxiv.org/abs/2404.04173v1 ) ライセンス: Link先を確認 | Zishen Wan, Che-Kai Liu, Mohamed Ibrahim, Hanchen Yang, Samuel Spetalnick, Tushar Krishna, Arijit Raychowdhury, | (参考訳) 様々な感覚信号の識別特性は、人間のような知覚と推論の中心であり、高次認知とニューロシンボリックAIシステムにとって重要なタスクである。
この複雑な分解を表現するためのエレガントなアプローチは、脳にインスパイアされたベクトル記号アーキテクチャに基づく高次元ホログラフィックベクトルである。
しかし、ホログラフィック分解は高次元行列ベクトル乗法による反復計算を伴い、非収束問題に悩まされる。
本稿では,高次元ホログラム表現を効率よく分解できる不均一な3次元統合インメモリ計算エンジンであるH3DFactを提案する。
H3DFactは、ホログラフィックベクトルの計算-重畳能力と、記憶量に基づく3D計算-インメモリに関連する内在的確率性を利用する。
H3DFactは、大規模な分解と知覚の問題から評価され、5.5倍の計算密度、1.2倍のエネルギー効率の改善、5.9倍のシリコンフットプリントを持つ、最大5桁の分解精度と運転能力の優れた能力を示す。
Disentangling attributes of various sensory signals is central to human-like perception and reasoning and a critical task for higher-order cognitive and neuro-symbolic AI systems. An elegant approach to represent this intricate factorization is via high-dimensional holographic vectors drawing on brain-inspired vector symbolic architectures. However, holographic factorization involves iterative computation with high-dimensional matrix-vector multiplications and suffers from non-convergence problems. In this paper, we present H3DFact, a heterogeneous 3D integrated in-memory compute engine capable of efficiently factorizing high-dimensional holographic representations. H3DFact exploits the computation-in-superposition capability of holographic vectors and the intrinsic stochasticity associated with memristive-based 3D compute-in-memory. Evaluated on large-scale factorization and perceptual problems, H3DFact demonstrates superior capability in factorization accuracy and operational capacity by up to five orders of magnitude, with 5.5x compute density, 1.2x energy efficiency improvements, and 5.9x less silicon footprint compared to iso-capacity 2D designs. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 非エルミート時間反転対称性における競合位相-ベルネヴィグ=ヒューズ=張モデル
Competing topological phases in a non-Hermitian time-reversal symmetry-broken Bernevig-Hughes-Zhang model ( http://arxiv.org/abs/2404.04184v1 ) ライセンス: Link先を確認 | Dipendu Halder, Srijata Lahiri, Saurabh Basu, | (参考訳) 量子スピンホール絶縁体の研究の基盤となるBernevig-Hughes-Zhang (BHZ) モデルは、ナノリボン幾何学において堅牢なスピンフィルタリングヘリカルエッジ状態を示す。
平面内磁場の存在下では、これらの(一階の)ヘリカル状態は、適切な開境界条件下で2階のコーナー状態に置き換えられる。
ここでは、スピン依存非エルミート均衡ゲイン/ロスポテンシャルの包含が、これらの第1次位相と第2次位相の競合を引き起こすことを示す。
驚くべきことに、非エルミート効果が強まり、磁場が果たす役割を効果的に中和するナノリボンの1次ヘリカルエッジ状態が再び表面化した。
投影されたスピンスペクトルとスピンチャーン数を用いて、時間反転対称性を破ったBHZモデルにおいて、非ハーミティシティの存在下での1階位相特性の復活を決定的に説明する。
最後に、非自明な巻線を示す生物直交スピン分解ベリー相は、これらの回復したエッジ状態のトポロジカルな性質を決定的に確立し、磁場上における非ハーモニティの優位性を強調する。
The Bernevig-Hughes-Zhang (BHZ) model, which serves as a cornerstone in the study of the quantum spin Hall insulators, showcases robust spin-filtered helical edge states in a nanoribbon geometry. In the presence of an in-plane magnetic field, these (first-order) helical states gap out to be replaced by second-order corner states under suitable open-boundary conditions. Here, we show that the inclusion of a spin-dependent non-Hermitian balanced gain/loss potential induces a competition between these first and second-order topological phases. Surprisingly, the previously dormant first-order helical edge states in the nanoribbon resurface as the non-Hermitian effect intensifies, effectively neutralizing the role played by the magnetic field. By employing the projected spin spectra and the spin Chern number, we conclusively explain the resurgence of the first-order topological properties in the time-reversal symmetry-broken BHZ model in presence of non-Hermiticity. Finally, the biorthogonal spin-resolved Berry phase, exhibiting a non-trivial winding, definitively establishes the topological nature of these revived edge states, emphasizing the dominance of non-Hermiticity over the magnetic field. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 電子物質波の逆・長手制御のための構造自由空間光学場
Structured free-space optical fields for transverse and longitudinal control of electron matter waves ( http://arxiv.org/abs/2404.04187v1 ) ライセンス: Link先を確認 | Sven Ebel, Nahid Talebi, | (参考訳) 自由電子運動量状態を制御することは、運動量とエネルギー解決された物理系の探索と操作を達成するための電子顕微鏡に高い関心を持つ。
自由電子と光の相互作用は、これを達成するための強力な技術として現れている。
本稿では、Kapitza-Dirac効果を空間構造レーザー光に拡張することにより、低速電子波束の縦・横位相制御を実証する。
この拡張は、非弾性および弾性刺激コンプトン散乱の両方を可能にする。
相互作用は異なる電子の逆運動量列の形成を明らかにし、それぞれがコム状の電子エネルギースペクトルを示す。
波長、電界強度、パルス持続時間、空間モードオーダーを含む光パラメータの完全な制御とそれらの組み合わせにより、数メガVエネルギーと複数の光子運動量オーダーで分離されたこれらの電子エネルギー-運動量状態の集団をコヒーレントに制御することができる。
この自由空間の電子-光相互作用現象は、電子顕微鏡における電子ビームのエネルギーと運動量をコヒーレントに制御する能力を有する。
さらに、プラズモン、エキシトン、フォノンなどの様々な物質励起の選択的プローブを容易にし、横方向の電子ビームでタルボット・ラウ物質波干渉計を実行することができる。
Controlling free-electron momentum states is of high interest in electron microscopy to achieve momentum and energy resolved probing and manipulation of physical systems. Free-electron and light interactions have emerged as a powerful technique to accomplish this. Here, we demonstrate both longitudinal and transverse phase control of a slow electron wavepacket by extending the Kapitza-Dirac effect to spatially-structured pulsed laser beams. This extension enables both inelastic and elastic stimulated Compton scattering. The interaction reveals the formation of distinct electron transverse momentum orders, each demonstrating a comb-like electron energy spectrum. By exerting complete control over light parameters, including wavelength, field intensity, pulse duration, and spatial mode order, as well as their combinations, it is possible to coherently control the population of these electron energy-momentum states that are separated by a few meV energy and multiple photon momentum orders. This free-space electron-light interaction phenomenon possesses the capability to coherently control the energy and momentum of electron beams in electron microscopes. Moreover, it has the potential to facilitate the selective probing of various material excitations, including plasmons, excitons, and phonons, and performing Talbot-Lau matter-wave interferometry with transversely shaped electron beams. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 逆ロバストサイバーアタック検出のための信頼性の高い特徴選択
Reliable Feature Selection for Adversarially Robust Cyber-Attack Detection ( http://arxiv.org/abs/2404.04188v1 ) ライセンス: Link先を確認 | João Vitorino, Miguel Silva, Eva Maia, Isabel Praça, | (参考訳) サイバーセキュリティの脅威が高まっているため、ノイズや欠落したデータなしに、高品質なデータを使用して機械学習(ML)モデルをトレーニングすることが不可欠である。
サイバー攻撃検出の最も関連性の高い特徴を選択することで、サイバーセキュリティシステムで使用されるモデルの堅牢性と計算効率を改善することができる。
この研究は、複数のメソッドを組み合わせて複数のネットワークデータセットに適用する機能選択とコンセンサスプロセスを示す。
2つの異なる特徴セットが選択され、複数のMLモデルを正規および敵の訓練で訓練するために使用された。
最後に、異なる特徴集合の信頼性と、それらのモデルが敵の例に対する感受性に与える影響を分析するために、逆回避頑健性ベンチマークを実施した。
データ多様性が向上し、最高の時間関連機能とより具体的な機能セットを選択し、敵のトレーニングを実行することで、MLモデルはより逆向きに堅牢な一般化を実現することができた。
モデルのロバスト性は、通常のトラフィックフローへの一般化、誤報の増加、計算資源の多さを伴わずに大幅に改善され、エンタープライズコンピュータネットワークにおける不審な活動や乱れのあるトラフィックフローの確実な検出を可能にした。
The growing cybersecurity threats make it essential to use high-quality data to train Machine Learning (ML) models for network traffic analysis, without noisy or missing data. By selecting the most relevant features for cyber-attack detection, it is possible to improve both the robustness and computational efficiency of the models used in a cybersecurity system. This work presents a feature selection and consensus process that combines multiple methods and applies them to several network datasets. Two different feature sets were selected and were used to train multiple ML models with regular and adversarial training. Finally, an adversarial evasion robustness benchmark was performed to analyze the reliability of the different feature sets and their impact on the susceptibility of the models to adversarial examples. By using an improved dataset with more data diversity, selecting the best time-related features and a more specific feature set, and performing adversarial training, the ML models were able to achieve a better adversarially robust generalization. The robustness of the models was significantly improved without their generalization to regular traffic flows being affected, without increases of false alarms, and without requiring too many computational resources, which enables a reliable detection of suspicious activity and perturbed traffic flows in enterprise computer networks. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # ラグランジュメッシュ法による$\text{H}+e^-$の低エネルギー$S$波散乱
Low-energy $S$-wave scattering of $\text{H}+e^-$ by a Lagrange-mesh method ( http://arxiv.org/abs/2404.04191v1 ) ライセンス: Link先を確認 | Jean Servais, Jérémy Dohet-Eraly, | (参考訳) ラグランジュ・メシュと複雑なコーン変分法を組み合わせて、3体クーロン系のフレームにおける2$+$1弾性散乱の$\mathcal{S}$行列を計算する方法を開発した。
共鳴パラメータは、いくつかの散乱エネルギーにおける$\mathcal{S}$行列の値から得られる。
この方法は、電子を水素に$S$波の低エネルギー散乱で示される。
計算された位相シフトは、少なくとも文学結果と同程度正確であり、共鳴パラメータは、数桁のオーダーによる最高の文学結果よりも正確である。
無限陽子質量の場合と有限陽子質量の場合の両方が考慮される。
A method combining the Lagrange-mesh and the complex Kohn variational methods is developed for computing the $\mathcal{S}$ matrix of a 2$+$1 elastic scattering in the frame of three-body Coulomb systems. Resonance parameters can be obtained from values of the $\mathcal{S}$ matrix at several scattering energies. The method is illustrated with the $S$-wave low-energy scattering of an electron onto hydrogen. The computed phase shifts are at least as accurate as the literature results, and the resonance parameters are more accurate than the best literature results by several orders of magnitude. Both the infinite and finite proton mass cases are considered. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 半教師付き学習のための確率モデル探索
Exploring Probabilistic Models for Semi-supervised Learning ( http://arxiv.org/abs/2404.04199v1 ) ライセンス: Link先を確認 | Jianfeng Wang, | (参考訳) この論文は、様々な半教師付き学習(SSL)タスクの理論的基礎と実践的応用を含む高度な確率モデルを研究する。
提案した確率論的手法は、信頼性の高い不確実性推定を迅速に提供し、実アプリケーションにおけるAIシステムの安全性を向上させると同時に、決定論的手法と比較して競合性能を達成することができる。
実験結果から,論文で提案する手法は,自動運転や医用画像解析などの安全クリティカルな領域において大きな価値があり,SSL分野における高効率かつ効率的な確率論的アプローチの発見の道を開くことが示唆された。
This thesis studies advanced probabilistic models, including both their theoretical foundations and practical applications, for different semi-supervised learning (SSL) tasks. The proposed probabilistic methods are able to improve the safety of AI systems in real applications by providing reliable uncertainty estimates quickly, and at the same time, achieve competitive performance compared to their deterministic counterparts. The experimental results indicate that the methods proposed in the thesis have great value in safety-critical areas, such as the autonomous driving or medical imaging analysis domain, and pave the way for the future discovery of highly effective and efficient probabilistic approaches in the SSL sector. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 放射線治療計画のためのCT画像中の小容積のディープラーニング分割
Deep-learning Segmentation of Small Volumes in CT images for Radiotherapy Treatment Planning ( http://arxiv.org/abs/2404.04202v1 ) ライセンス: Link先を確認 | Jianxin Zhou, Kadishe Fejza, Massimiliano Salvatori, Daniele Della Latta, Gregory M. Hermann, Angela Di Fulvio, | (参考訳) 危険臓器に対する我々の理解は、冠動脈などの物理的な小組織を含むように進歩しており、多くの小臓器や組織の放射線感受性が高い。
したがって、放射線治療における小量の正確なセグメンテーションは、過照射から保護するために重要である。
さらに、粒子療法やオンボードイメージングの発展に伴い、治療はより正確かつ正確になる。
本研究の目的は小器官の臓器分割アルゴリズムを最適化することである。
我々はStructSeg2019の3次元CT画像50枚を用いて,頭頸部領域に20の臓器を分割する汎用V-Netモデルを開発した。
この解剖学的領域における小体積のセグメンテーション精度,すなわち眼球レンズのセグメンテーション精度を向上させるための具体的な戦略を適用した。
次に,小容量セグメンテーションに最適化されたVNetモデルのロバスト性を検証するため,OSFの医療用ヘッドイメージを17枚追加した。
StructSeg2019画像を用いて、画像正規化範囲と分類閾値の最適化により、小さなボリュームに最適化されていないV-Netと比較して、眼のレンズのセグメンテーション精度が約50%向上することを発見した。
我々は、最適化されたモデルを用いて、異種プロトコルを用いて取得した17の画像をセグメント化した。
0.61+/minus 0.07/minus 0.58+/minus 0.10)とStructSeg2019画像に対して比較したDice係数値を得た。
Our understanding of organs at risk is progressing to include physical small tissues such as coronary arteries and the radiosensitivities of many small organs and tissues are high. Therefore, the accurate segmentation of small volumes in external radiotherapy is crucial to protect them from over-irradiation. Moreover, with the development of the particle therapy and on-board imaging, the treatment becomes more accurate and precise. The purpose of this work is to optimize organ segmentation algorithms for small organs. We used 50 three-dimensional (3-D) computed tomography (CT) head and neck images from StructSeg2019 challenge to develop a general-purpose V-Net model to segment 20 organs in the head and neck region. We applied specific strategies to improve the segmentation accuracy of the small volumes in this anatomical region, i.e., the lens of the eye. Then, we used 17 additional head images from OSF healthcare to validate the robustness of the V Net model optimized for small-volume segmentation. With the study of the StructSeg2019 images, we found that the optimization of the image normalization range and classification threshold yielded a segmentation improvement of the lens of the eye of approximately 50%, compared to the use of the V-Net not optimized for small volumes. We used the optimized model to segment 17 images acquired using heterogeneous protocols. We obtained comparable Dice coefficient values for the clinical and StructSeg2019 images (0.61 plus/minus 0.07 and 0.58 plus/minus 0.10 for the left and right lens of the eye, respectively) | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 大規模言語モデルを用いたソーシャルスキルトレーニング
Social Skill Training with Large Language Models ( http://arxiv.org/abs/2404.04204v1 ) ライセンス: Link先を確認 | Diyi Yang, Caleb Ziems, William Held, Omar Shaikh, Michael S. Bernstein, John Mitchell, | (参考訳) 人々は紛争解決のような社会的スキルに頼り、効果的にコミュニケーションし、仕事と個人の生活の両方で繁栄する。
しかし、社会的スキルの実践環境は、たいていの人には手の届かない。
ソーシャルスキルのトレーニングをより利用しやすくし、アクセスし、招待しやすくするにはどうすればいいのか?
コミュニケーションと心理学の学際的研究に基づき, 専門分野に進出する上での社会的スキル障壁を明らかにする。
次に,大規模言語モデルを用いた汎用フレームワークによるソーシャルスキルトレーニングのソリューションを提案する。
私たちのAIパートナであるAI Mentorフレームワークは、経験的学習と現実的な実践と調整されたフィードバックを融合します。
この研究は、究極的には、労働開発と社会的平等に対する幅広い影響に対処するために、学際的な革新を要求する。
People rely on social skills like conflict resolution to communicate effectively and to thrive in both work and personal life. However, practice environments for social skills are typically out of reach for most people. How can we make social skill training more available, accessible, and inviting? Drawing upon interdisciplinary research from communication and psychology, this perspective paper identifies social skill barriers to enter specialized fields. Then we present a solution that leverages large language models for social skill training via a generic framework. Our AI Partner, AI Mentor framework merges experiential learning with realistic practice and tailored feedback. This work ultimately calls for cross-disciplinary innovation to address the broader implications for workforce development and social equality. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # IoTインテリジェンスを強化する - トランスフォーマーベースの強化学習方法論
Enhancing IoT Intelligence: A Transformer-based Reinforcement Learning Methodology ( http://arxiv.org/abs/2404.04205v1 ) ライセンス: Link先を確認 | Gaith Rjoub, Saidul Islam, Jamal Bentahar, Mohammed Amin Almaiah, Rana Alrawashdeh, | (参考訳) IoT(Internet of Things)の普及により、相互接続されたデバイスによって生成されたデータが急増し、複雑な環境でのインテリジェントな意思決定の機会と課題が提示された。
従来の強化学習(RL)アプローチは、IoTアプリケーション固有の複雑なパターンや依存関係を処理および解釈する能力に制限があるため、このデータを十分に活用するのに苦労することが多い。
本稿では,これらの課題に対処するため,トランスフォーマーアーキテクチャをPPO(Proximal Policy Optimization)と統合する新しいフレームワークを提案する。
変換器の自己保持機構を活用することで,動的IoT環境におけるRLエージェントの理解と動作能力を高め,意思決定プロセスの改善につながる。
スマートホーム自動化から産業制御システムに至るまで,さまざまなIoTシナリオにおける手法の有効性を実証し,意思決定効率と適応性を大幅に向上させた。
コントリビューションには、異種IoTデータ処理におけるトランスフォーマーの役割の詳細な調査、さまざまな環境におけるフレームワークのパフォーマンスの包括的な評価、従来のRLメソッドに対するベンチマークなどが含まれています。
その結果、RLエージェントがIoTエコシステムの複雑さをナビゲートし、IoTの状況におけるインテリジェントな自動化と意思決定に革命をもたらす、という私たちのアプローチの可能性を浮き彫りにしている。
The proliferation of the Internet of Things (IoT) has led to an explosion of data generated by interconnected devices, presenting both opportunities and challenges for intelligent decision-making in complex environments. Traditional Reinforcement Learning (RL) approaches often struggle to fully harness this data due to their limited ability to process and interpret the intricate patterns and dependencies inherent in IoT applications. This paper introduces a novel framework that integrates transformer architectures with Proximal Policy Optimization (PPO) to address these challenges. By leveraging the self-attention mechanism of transformers, our approach enhances RL agents' capacity for understanding and acting within dynamic IoT environments, leading to improved decision-making processes. We demonstrate the effectiveness of our method across various IoT scenarios, from smart home automation to industrial control systems, showing marked improvements in decision-making efficiency and adaptability. Our contributions include a detailed exploration of the transformer's role in processing heterogeneous IoT data, a comprehensive evaluation of the framework's performance in diverse environments, and a benchmark against traditional RL methods. The results indicate significant advancements in enabling RL agents to navigate the complexities of IoT ecosystems, highlighting the potential of our approach to revolutionize intelligent automation and decision-making in the IoT landscape. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 物質波干渉計におけるフォノン誘起コントラスト
Phonon Induced Contrast in Matter Wave Interferometer ( http://arxiv.org/abs/2404.04210v1 ) ライセンス: Link先を確認 | Qian Xiang, Run Zhou, Sougato Bose, Anupam Mazumdar, | (参考訳) Stern-Gerlach 装置を用いて物質波重畳状態を生成することは、量子領域における潜在的な応用だけでなく、重力の量子的性質の研究にも基本的な意味があるため、長年の目標である。
マクロな量子干渉計を作成する際の主な課題は、主に2つのチャネルを通してコヒーレンスを失うことである。
1つのチャネルは、マクロな物質の環境と強く結合し、デコヒーレンスをもたらす。
他のチャネルは、様々なソースの外部および内部のゆらぎによって発生する波パケットのオーバーラップの精度に関連している。
後者は、マクロな物体の質量運動の中心を摂動させることによって、より大規模な質量に対してユニークな挑戦をもたらす。
ここでは、内部自由度の問題、特にフォノンの変動とコントラストの減少について研究する。
本研究は、質量の量子重力誘起絡み合い(QGEM)におけるフォノン占有レベルにおけるスピン磁場と磁気相互作用によるコントラスト低減について検討する。
Utilizing the Stern-Gerlach apparatus to create matter-wave superposition states is a long-sought-after goal, not only due to its potential applications in the quantum realm but also because of its fundamental implications for studying the quantum properties of gravity. The main challenge in creating a macroscopic quantum interferometer arises from the loss of coherence, primarily through two channels. One channel involves strong coupling with the environment for macroscopic matter, leading to decoherence. The other channel relates to the precision of wave packet overlap, which can occur due to external and internal fluctuations of various sources. The latter introduces a unique challenge for larger-scale masses by perturbing the centre of mass motion of the macroscopic object. Here, we study a particular challenge, namely, the issue of internal degrees of freedom, specifically phonon fluctuations and contrast reduction. This work will investigate the contrast reduction caused by spin-magnetic field and diamagnetic interactions at the phonon occupation level in the quantum gravity-induced entanglement of masses (QGEM) protocol configuration. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 低リソース言語翻訳のためのアンロックパラメータ効率の良いファインチューニング
Unlocking Parameter-Efficient Fine-Tuning for Low-Resource Language Translation ( http://arxiv.org/abs/2404.04212v1 ) ライセンス: Link先を確認 | Tong Su, Xin Peng, Sarubi Thillainathan, David Guzmán, Surangika Ranathunga, En-Shiun Annie Lee, | (参考訳) パラメータ効率細調整(PEFT)法は、様々なタスクに大規模に事前訓練された言語モデルを適用する上で、適応性と計算効率のバランスをとるためにますます重要になっている。
低リソース言語(LRL)ニューラルマシン翻訳(NMT)において、最小限のリソースで翻訳精度を向上させるために重要である。
しかし、その実践的効果は言語によって大きく異なる。
各種LRLドメインとサイズを用いて総合的な実験を行い,SacreBLEUスコアを用いて8 PEFT法の性能評価を行った。
6 のPEFTアーキテクチャがドメイン内テストとドメイン外テストの両方のベースラインを上回り、Houlsby+Inversion アダプタがPEFT 手法の有効性を証明し、全体として最高の性能を示した。
Parameter-efficient fine-tuning (PEFT) methods are increasingly vital in adapting large-scale pre-trained language models for diverse tasks, offering a balance between adaptability and computational efficiency. They are important in Low-Resource Language (LRL) Neural Machine Translation (NMT) to enhance translation accuracy with minimal resources. However, their practical effectiveness varies significantly across different languages. We conducted comprehensive empirical experiments with varying LRL domains and sizes to evaluate the performance of 8 PEFT methods with in total of 15 architectures using the SacreBLEU score. We showed that 6 PEFT architectures outperform the baseline for both in-domain and out-domain tests and the Houlsby+Inversion adapter has the best performance overall, proving the effectiveness of PEFT methods. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # ソフトハンドイン・ハンドマニピュレーションのための強化学習型制御器の継続的な政策拡張
Continual Policy Distillation of Reinforcement Learning-based Controllers for Soft Robotic In-Hand Manipulation ( http://arxiv.org/abs/2404.04219v1 ) ライセンス: Link先を確認 | Lanpei Li, Enrico Donato, Vincenzo Lomonaco, Egidio Falotico, | (参考訳) 多指のロボットハンドによってしばしば促進されるデクサラスな操作は、現実世界のアプリケーションにしっかりと影響を与えている。
ソフトロボットハンドは、その適合性から、物体の握りと操作時の柔軟性と適応性を提供する。
しかし、特に指の調整のための制御開発において、利点は課題を生んでいる。
強化学習(Reinforcement Learning, RL)は、オブジェクト固有の手動操作ポリシーを訓練するために用いられるが、適応性と一般化性は制限される。
本研究では,4本の指の柔らかいグリップ内で異なる物体の形状と大きさを回転させるために,手動操作のための多目的コントローラを取得するためのCPD(Continuous Policy Distillation)フレームワークを提案する。
このフレームワークは政策蒸留(PD)を利用して、専門家の政策から継続的に進化する学生政策ネットワークに知識を伝達する。
典型的なリハーサル法は、破滅的な忘れを緩和し、一般化を促進するために統合される。
様々なリプレイ戦略に対するCDDフレームワークの性能は、複数の専門家の知識を集約し、手作業における多目的かつ適応的な行動を実現する上で、その効果を示す。
Dexterous manipulation, often facilitated by multi-fingered robotic hands, holds solid impact for real-world applications. Soft robotic hands, due to their compliant nature, offer flexibility and adaptability during object grasping and manipulation. Yet, benefits come with challenges, particularly in the control development for finger coordination. Reinforcement Learning (RL) can be employed to train object-specific in-hand manipulation policies, but limiting adaptability and generalizability. We introduce a Continual Policy Distillation (CPD) framework to acquire a versatile controller for in-hand manipulation, to rotate different objects in shape and size within a four-fingered soft gripper. The framework leverages Policy Distillation (PD) to transfer knowledge from expert policies to a continually evolving student policy network. Exemplar-based rehearsal methods are then integrated to mitigate catastrophic forgetting and enhance generalization. The performance of the CPD framework over various replay strategies demonstrates its effectiveness in consolidating knowledge from multiple experts and achieving versatile and adaptive behaviours for in-hand manipulation tasks. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 生成モデルを用いたソフトロボットインタラクションのためのマルチモーダル認識
Multi-modal perception for soft robotic interactions using generative models ( http://arxiv.org/abs/2404.04220v1 ) ライセンス: Link先を確認 | Enrico Donato, Egidio Falotico, Thomas George Thuruthel, | (参考訳) 知覚は、物理的エージェントと外部環境との活発な相互作用に不可欠である。
触覚や視覚などの複数の感覚モダリティの統合は、この知覚的プロセスを強化し、より包括的で堅牢な世界理解を生み出す。
このような融合はソフトロボットのような高度に変形可能な物体に特に有用である。
多感覚入力からコンパクトで包括的状態表現を開発することは、複雑な制御戦略を開発するための道を開くことができる。
本稿では,多様なモダリティからのデータを調和させて,全体的状態表現を構築し,本質的な情報を同化させる知覚モデルを提案する。
このモデルは感覚入力とロボット動作の因果関係に依存しており、融合した情報を効率的に圧縮し、次の観測を予測するための生成モデルを用いている。
本研究は,ソフトロボットの視覚と受容からタッチがどのように予測されるか,クロスモーダル・ジェネレーションの重要性,非構造環境におけるソフト・ロボティクスの相互作用に欠かせない理由を初めて提示する。
Perception is essential for the active interaction of physical agents with the external environment. The integration of multiple sensory modalities, such as touch and vision, enhances this perceptual process, creating a more comprehensive and robust understanding of the world. Such fusion is particularly useful for highly deformable bodies such as soft robots. Developing a compact, yet comprehensive state representation from multi-sensory inputs can pave the way for the development of complex control strategies. This paper introduces a perception model that harmonizes data from diverse modalities to build a holistic state representation and assimilate essential information. The model relies on the causality between sensory input and robotic actions, employing a generative model to efficiently compress fused information and predict the next observation. We present, for the first time, a study on how touch can be predicted from vision and proprioception on soft robots, the importance of the cross-modal generation and why this is essential for soft robotic interactions in unstructured environments. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # バイリンガル・レキシコン・インダクションはどのようにレキシカルか?
How Lexical is Bilingual Lexicon Induction? ( http://arxiv.org/abs/2404.04221v1 ) ライセンス: Link先を確認 | Harsh Kohli, Helian Feng, Nicholas Dronen, Calvin McCarter, Sina Moeini, Ali Kebarighotbi, | (参考訳) 現代の機械学習によるバイリンガル語彙誘導(BLI)のアプローチでは、モデルは言語対の埋め込み空間間のマッピングを学習する。
近年、BLIに対する検索とランクのアプローチは、タスクにおける最先端の結果を得た。
しかし、データの質が悪いため、低リソース設定では依然として問題は解決しない。
このタスクは言語間の語彙変化などの要因によって複雑になる。
近年の検索・ランクアプローチに語彙情報を追加することで,語彙誘導が向上すると考えられる。
提案手法の有効性を実証し,すべての言語対に対して平均2\%向上した。
In contemporary machine learning approaches to bilingual lexicon induction (BLI), a model learns a mapping between the embedding spaces of a language pair. Recently, retrieve-and-rank approach to BLI has achieved state of the art results on the task. However, the problem remains challenging in low-resource settings, due to the paucity of data. The task is complicated by factors such as lexical variation across languages. We argue that the incorporation of additional lexical information into the recent retrieve-and-rank approach should improve lexicon induction. We demonstrate the efficacy of our proposed approach on XLING, improving over the previous state of the art by an average of 2\% across all language pairs. | 翻訳日:2024-04-08 15:35:54 公開日:2024-04-05 |
| # 標的干渉による化学複合体の復号化のための能動的因果学習
Active Causal Learning for Decoding Chemical Complexities with Targeted Interventions ( http://arxiv.org/abs/2404.04224v1 ) ライセンス: Link先を確認 | Zachary R. Fox, Ayana Ghosh, | (参考訳) 分子構造に基づく固有の特性の予測と強化は、医学、材料科学、環境管理におけるタスクの設計に最重要である。
現在の機械学習とディープラーニングのアプローチのほとんどは、予測の標準となっているが、分子表現とターゲット特性の相関に依存するため、異なるデータセットにまたがって適用した場合、課題に直面している。
これらのアプローチは通常、化学空間内の多様性を捉えるために大きなデータセットに依存し、より正確な近似、補間、または分子の化学挙動の補間を促進する。
本研究では,グラフ損失関数を用いた戦略的サンプリングにより,基礎となる因果関係を識別する能動的学習手法を提案する。
この方法は、より大きな化学空間の最も多くの情報を符号化できるデータセットの最小サブセットを特定する。
その後、同定された因果関係を利用して体系的な介入を行い、モデルがこれまで遭遇していなかった化学空間における設計タスクを最適化する。
本実装では, 分子, 材料設計, 発見における幅広い応用の可能性を秘めつつ, インテリジェントサンプリングと介入によって駆動される, 大規模な双極子モーメントとアクティブ因果学習アプローチを備えた, 特定の設計タスクフィニング分子のためのQM9量子化学データセットに着目した。
Predicting and enhancing inherent properties based on molecular structures is paramount to design tasks in medicine, materials science, and environmental management. Most of the current machine learning and deep learning approaches have become standard for predictions, but they face challenges when applied across different datasets due to reliance on correlations between molecular representation and target properties. These approaches typically depend on large datasets to capture the diversity within the chemical space, facilitating a more accurate approximation, interpolation, or extrapolation of the chemical behavior of molecules. In our research, we introduce an active learning approach that discerns underlying cause-effect relationships through strategic sampling with the use of a graph loss function. This method identifies the smallest subset of the dataset capable of encoding the most information representative of a much larger chemical space. The identified causal relations are then leveraged to conduct systematic interventions, optimizing the design task within a chemical space that the models have not encountered previously. While our implementation focused on the QM9 quantum-chemical dataset for a specific design task-finding molecules with a large dipole moment-our active causal learning approach, driven by intelligent sampling and interventions, holds potential for broader applications in molecular, materials design and discovery. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 回転分光における双子 : 回転スペクトルは分子を一意に識別するか?
Twins in rotational spectroscopy: Does a rotational spectrum uniquely identify a molecule? ( http://arxiv.org/abs/2404.04225v1 ) ライセンス: Link先を確認 | Marcus Schwarting, Nathan A. Seifert, Michael J. Davis, Ben Blaiszik, Ian Foster, Kirill Prozument, | (参考訳) 回転分光法は、気体相の分子構造を決定する最も正確な方法である。
回転スペクトルは分子のユニークな「フィンガープリント」であるとしばしば仮定される。
大規模分子データベースの可用性と分光のための人工知能手法の開発は、この仮定をタイムリーにテストする。
本稿では,逆問題として分子構造を回転スペクトルから決定する。
この枠組みでは、2つ以上の分子である分子双対を探索するために、ファンネルに基づくアプローチを採用するが、これは似た回転スペクトルを持つが、明確に異なる分子構造を持つ。
いくつかの大規模分子データベースから多くの分子の回転定数を生成することによって、計算精度の標準的なレベルには双対が存在することを示す。
しかし、いくつかの双子は理論的な手法の精度を高めたり、追加の実験を行うことで区別することができる。
Rotational spectroscopy is the most accurate method for determining structures of molecules in the gas phase. It is often assumed that a rotational spectrum is a unique "fingerprint" of a molecule. The availability of large molecular databases and the development of artificial intelligence methods for spectroscopy makes the testing of this assumption timely. In this paper, we pose the determination of molecular structures from rotational spectra as an inverse problem. Within this framework, we adopt a funnel-based approach to search for molecular twins, which are two or more molecules, which have similar rotational spectra but distinctly different molecular structures. We demonstrate that there are twins within standard levels of computational accuracy by generating rotational constants for many molecules from several large molecular databases, indicating the inverse problem is ill-posed. However, some twins can be distinguished by increasing the accuracy of the theoretical methods or by performing additional experiments. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # マルチアスペクト制御可能なテキスト生成のベンチマークと構成一般化の改善
Benchmarking and Improving Compositional Generalization of Multi-aspect Controllable Text Generation ( http://arxiv.org/abs/2404.04232v1 ) ライセンス: Link先を確認 | Tianqi Zhong, Zhaoyi Li, Quan Wang, Linqi Song, Ying Wei, Defu Lian, Zhendong Mao, | (参考訳) 構成一般化は、トレーニングデータから単一属性を再結合することによって得られる新しい属性の組み合わせで、モデルがテキストを生成する能力を表すものであり、マルチアスペクト制御可能なテキスト生成(MCTG)メソッドにとって重要な特性である。
それにもかかわらず、MCTGの総合的な構成一般化評価ベンチマークはいまだに欠落している。
多様なマルチアスペクトラベル付きデータセットと3次元評価プロトコルを含むベンチマークであるCompMCTGを提案する。
MCTGの既存の作業は、一般的に、構成的テストにおいて顕著なパフォーマンス低下に直面している。
そこで,メタラーニングを取り入れたトレーニングフレームワークであるMeta-MCTGを導入し,トレーニングフェーズにおける構成一般化シナリオをシミュレートすることで,モデルによる一般化の方法の学習を可能にする。
94.4%の症例において,Meta-MCTGの作曲試験性能に対する明らかな改善(少なくとも3.64%)を達成し,Meta-MCTGの有効性を実証した。
Compositional generalization, representing the model's ability to generate text with new attribute combinations obtained by recombining single attributes from the training data, is a crucial property for multi-aspect controllable text generation (MCTG) methods. Nonetheless, a comprehensive compositional generalization evaluation benchmark of MCTG is still lacking. We propose CompMCTG, a benchmark encompassing diverse multi-aspect labeled datasets and a crafted three-dimensional evaluation protocol, to holistically evaluate the compositional generalization of MCTG approaches. We observe that existing MCTG works generally confront a noticeable performance drop in compositional testing. To mitigate this issue, we introduce Meta-MCTG, a training framework incorporating meta-learning, where we enable models to learn how to generalize by simulating compositional generalization scenarios in the training phase. We demonstrate the effectiveness of Meta-MCTG through achieving obvious improvement (by at most 3.64%) for compositional testing performance in 94.4% cases. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # player2vec: ゲームにおけるプレイヤーの振る舞いを理解するための言語モデリングアプローチ
player2vec: A Language Modeling Approach to Understand Player Behavior in Games ( http://arxiv.org/abs/2404.04234v1 ) ライセンス: Link先を確認 | Tianze Wang, Maryam Honari-Jahromi, Styliani Katsarou, Olga Mikheeva, Theodoros Panagiotakopoulos, Sahar Asadi, Oleg Smirnov, | (参考訳) 過去の行動ログから潜在ユーザ表現を学習する方法は、eコマース、コンテンツストリーミング、その他の設定におけるレコメンデーションタスクの注目を集めている。
しかし、この領域はビデオやモバイルのゲーム分野ではまだ比較的過小評価されている。
本研究では,自然言語処理領域からプレイヤー行動データへの長距離トランスフォーマーモデルの拡張により,この制限を克服する新しい手法を提案する。
本研究では,ゲームにおける行動追跡の具体性を議論し,ゲーム内イベントを文中の単語と類似して見ることによって,前処理とトークン化のアプローチを提案する。
本研究では,本提案手法の有効性を,固有言語モデルメトリクスの評価により実験的に検証した。
さらに、学習した埋め込み空間の出現構造を質的に分析し、下流アプリケーションに通知するための行動パターンに対する洞察を生み出す価値を示す。
Methods for learning latent user representations from historical behavior logs have gained traction for recommendation tasks in e-commerce, content streaming, and other settings. However, this area still remains relatively underexplored in video and mobile gaming contexts. In this work, we present a novel method for overcoming this limitation by extending a long-range Transformer model from the natural language processing domain to player behavior data. We discuss specifics of behavior tracking in games and propose preprocessing and tokenization approaches by viewing in-game events in an analogous way to words in sentences, thus enabling learning player representations in a self-supervised manner in the absence of ground-truth annotations. We experimentally demonstrate the efficacy of the proposed approach in fitting the distribution of behavior events by evaluating intrinsic language modeling metrics. Furthermore, we qualitatively analyze the emerging structure of the learned embedding space and show its value for generating insights into behavior patterns to inform downstream applications. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 離陸のためのクリア化? 作曲・条件推論は、(航空予約)言語エージェントに対するアキレスヒールかもしれない
Cleared for Takeoff? Compositional & Conditional Reasoning may be the Achilles Heel to (Flight-Booking) Language Agents ( http://arxiv.org/abs/2404.04237v1 ) ライセンス: Link先を確認 | Harsh Kohli, Huan Sun, | (参考訳) 大規模言語モデル(LLM)の急速な進歩は、標準ベンチマークでの人間のパフォーマンスよりも優れ、しばしば上回っている。
これにより、LLMエージェントのような多くのダウンストリームアプリケーションは、複雑なタスク要求をナビゲートするための洗練された推論に依存することができる。
しかし、LCMは単純なタスクや一見単純な状況下で予期せぬ失敗を犯すことで知られており、彼らの真の能力を測定するためのより良い、より多様な評価設定の必要性を強調している。
この目的のために、我々は、人間の認知の2つの基礎となる構成的および条件的推論について研究することを選び、これらの推論スキルをフライト予約の現実的な問題に結合する語彙的に多彩なベンチマークであるGroundCocoaを紹介した。
私たちのタスクは、詳細なユーザの好みと、複数の選択形式で提示される利用可能なフライトオプションを整合させることです。
GPT-4 Turboは, 先進的なプロンプト技術にもかかわらず精度が67%を超えなかった。
The rapid progress of large language models (LLMs) has seen them excel and frequently surpass human performance on standard benchmarks. This has enabled many downstream applications, such as LLM agents, to rely on their sophisticated reasoning to navigate complex task requirements. However, LLMs are known to unexpectedly falter in simple tasks and under seemingly straightforward circumstances - underscoring the need for better and more diverse evaluation setups to measure their true capabilities. To this end, we choose to study compositional and conditional reasoning, two cornerstones of human cognition, and introduce GroundCocoa - a lexically diverse benchmark connecting these reasoning skills to the real-world problem of flight booking. Our task involves aligning detailed user preferences with available flight options presented in a multiple-choice format. Results indicate a significant disparity in performance among current state-of-the-art LLMs with even the best performing model, GPT-4 Turbo, not exceeding 67% accuracy despite advanced prompting techniques. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # シミュレーションフリー流れによる動的条件最適輸送
Dynamic Conditional Optimal Transport through Simulation-Free Flows ( http://arxiv.org/abs/2404.04240v1 ) ライセンス: Link先を確認 | Gavin Kerrigan, Giosue Migliorini, Padhraic Smyth, | (参考訳) 我々は条件最適輸送(COT)の幾何学を研究し、ベナモ・ブレニエ定理を一般化する動的定式化を証明した。
これらのツールを用いて,条件付き生成モデリングのためのシミュレーション不要なフローベース手法を提案する。
提案手法は,任意のソース分布と指定されたターゲット分布を三角COT計画により結合する。
我々は,このCOT計画によって誘導される測地線経路を近似することにより,条件付き生成モデルを訓練するためのフローマッチングの枠組みを構築した。
我々の理論と手法は無限次元の設定に適用でき、逆問題には適している。
実験により,2つの画像間翻訳タスクと無限次元ベイズ逆問題に対する提案手法を実証した。
We study the geometry of conditional optimal transport (COT) and prove a dynamical formulation which generalizes the Benamou-Brenier Theorem. With these tools, we propose a simulation-free flow-based method for conditional generative modeling. Our method couples an arbitrary source distribution to a specified target distribution through a triangular COT plan. We build on the framework of flow matching to train a conditional generative model by approximating the geodesic path of measures induced by this COT plan. Our theory and methods are applicable in the infinite-dimensional setting, making them well suited for inverse problems. Empirically, we demonstrate our proposed method on two image-to-image translation tasks and an infinite-dimensional Bayesian inverse problem. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 言語を組み込んだ特徴分野からの物性理解
Physical Property Understanding from Language-Embedded Feature Fields ( http://arxiv.org/abs/2404.04242v1 ) ライセンス: Link先を確認 | Albert J. Zhai, Yuan Shen, Emily Y. Chen, Gloria X. Wang, Xinlei Wang, Sheng Wang, Kaiyu Guan, Shenlong Wang, | (参考訳) コンピュータは視覚のみを通して物体の物理的特性を知覚できるのか?
認知科学と視覚科学の研究は、人間が物質を識別し、純粋に視覚的外観に基づいて物理的特性を推定するのに優れていることを示した。
本稿では,画像の集合を用いて物体の物理的特性を高密度に予測する手法を提案する。
人間が視覚を通して物理学をどう考えるかに触発されて、我々は大きな言語モデルを活用して、各対象に対して候補となる材料を提案する。
次に,言語埋め込みの点群を構築し,ゼロショットカーネル回帰手法を用いて各3次元点の物理特性を推定する。
我々の手法は正確で、アノテーションなしで、オープン世界のどんなオブジェクトにも適用できます。
実験は、一般的な物体の質量を推定したり、摩擦や硬さといった他の特性を推定したり、様々な物理的特性推論タスクにおいて提案されたアプローチの有効性を示す。
Can computers perceive the physical properties of objects solely through vision? Research in cognitive science and vision science has shown that humans excel at identifying materials and estimating their physical properties based purely on visual appearance. In this paper, we present a novel approach for dense prediction of the physical properties of objects using a collection of images. Inspired by how humans reason about physics through vision, we leverage large language models to propose candidate materials for each object. We then construct a language-embedded point cloud and estimate the physical properties of each 3D point using a zero-shot kernel regression approach. Our method is accurate, annotation-free, and applicable to any object in the open world. Experiments demonstrate the effectiveness of the proposed approach in various physical property reasoning tasks, such as estimating the mass of common objects, as well as other properties like friction and hardness. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # テキスト・画像モデルの多目的パーソナライズのためのアイデンティティ・デカップリング
Identity Decoupling for Multi-Subject Personalization of Text-to-Image Models ( http://arxiv.org/abs/2404.04243v1 ) ライセンス: Link先を確認 | Sangwon Jang, Jaehyeong Jo, Kimin Lee, Sung Ju Hwang, | (参考訳) テキスト・ツー・イメージ拡散モデルでは、いくつかの参照画像に基づいてパーソナライズされた主題を生成することに顕著な成功を収めている。
しかし、現在の手法は複数の主題を同時に扱うのに苦労しており、しばしば異なる主題の属性が混ざり合った同一性をもたらす。
本研究では,複数の被験者のアイデンティティを効果的に分離することで,マルチオブジェクトのパーソナライズを可能にする新しいフレームワークであるMuDIを提案する。
本研究の主な目的は,Segment Anything Model が生成過程のトレーニングと初期化のためのデータ拡張の形式として,トレーニングと推論の両方に用いたセグメンテーションである。
実験により, 図1に示すように, 同一性混合を伴わずに, 高品質なパーソナライズ画像が作成できることが実証された。
人的評価では、 MuDI は既存のベースラインよりもアイデンティティミキシングを伴わない複数の被験者のパーソナライズに成功し、最強ベースラインに比べて70%以上好まれる。
さらなる結果はhttps://mudi-t2i.github.io/.com/で公開されている。
Text-to-image diffusion models have shown remarkable success in generating a personalized subject based on a few reference images. However, current methods struggle with handling multiple subjects simultaneously, often resulting in mixed identities with combined attributes from different subjects. In this work, we present MuDI, a novel framework that enables multi-subject personalization by effectively decoupling identities from multiple subjects. Our main idea is to utilize segmented subjects generated by the Segment Anything Model for both training and inference, as a form of data augmentation for training and initialization for the generation process. Our experiments demonstrate that MuDI can produce high-quality personalized images without identity mixing, even for highly similar subjects as shown in Figure 1. In human evaluation, MuDI shows twice as many successes for personalizing multiple subjects without identity mixing over existing baselines and is preferred over 70% compared to the strongest baseline. More results are available at https://mudi-t2i.github.io/. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 対人ロバスト性の評価 : FGSM,Carini-Wagnerアタック,および防御機構としての蒸留の役割の比較
Evaluating Adversarial Robustness: A Comparison Of FGSM, Carlini-Wagner Attacks, And The Role of Distillation as Defense Mechanism ( http://arxiv.org/abs/2404.04245v1 ) ライセンス: Link先を確認 | Trilokesh Ranjan Sarkar, Nilanjan Das, Pralay Sankar Maitra, Bijoy Some, Ritwik Saha, Orijita Adhikary, Bishal Bose, Jaydip Sen, | (参考訳) この技術レポートは、画像分類に使用されるディープニューラルネットワーク(DNN)に特化した敵攻撃を詳細に調査するものである。
また,機械学習モデルの堅牢性向上を目的とした防御機構についても検討した。
本研究は,FGSM (Fast Gradient Sign Method) とCarini-Wagner (CW) の2つの攻撃手法の分岐を理解することに焦点を当てている。
これらの攻撃は、Tiny-ImageNetデータセットを用いて、Resnext50_32x4d、DenseNet-201、VGG-19の3つの事前訓練済み画像分類器について検討した。
さらに,FGSMおよびCW攻撃に対する防御機構として,防衛蒸留の堅牢性を提案する。
この防御機構はCIFAR-10データセットを用いて評価され、CNNモデル、特にresnet101とResnext50_32x4dはそれぞれ教師モデルと学生モデルとして機能する。
提案した防衛蒸留モデルは,FGSMなどの防腐攻撃における有効性を示す。
しかし、CWアタックのようなより高度なテクニックの影響を受けやすいことが知られている。
本書は提案方式の厳密な検証を行う。
詳細な総合的な結果を提供し、使用した防御機構の有効性と限界を解明する。
厳密な実験と分析を通じて、DNNに対する敵対的攻撃のダイナミクスと、その影響を緩和するための防衛戦略の有効性に関する洞察を提供する。
This technical report delves into an in-depth exploration of adversarial attacks specifically targeted at Deep Neural Networks (DNNs) utilized for image classification. The study also investigates defense mechanisms aimed at bolstering the robustness of machine learning models. The research focuses on comprehending the ramifications of two prominent attack methodologies: the Fast Gradient Sign Method (FGSM) and the Carlini-Wagner (CW) approach. These attacks are examined concerning three pre-trained image classifiers: Resnext50_32x4d, DenseNet-201, and VGG-19, utilizing the Tiny-ImageNet dataset. Furthermore, the study proposes the robustness of defensive distillation as a defense mechanism to counter FGSM and CW attacks. This defense mechanism is evaluated using the CIFAR-10 dataset, where CNN models, specifically resnet101 and Resnext50_32x4d, serve as the teacher and student models, respectively. The proposed defensive distillation model exhibits effectiveness in thwarting attacks such as FGSM. However, it is noted to remain susceptible to more sophisticated techniques like the CW attack. The document presents a meticulous validation of the proposed scheme. It provides detailed and comprehensive results, elucidating the efficacy and limitations of the defense mechanisms employed. Through rigorous experimentation and analysis, the study offers insights into the dynamics of adversarial attacks on DNNs, as well as the effectiveness of defensive strategies in mitigating their impact. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 仕事中のヒューマノイドロボット:我々はどこにいるのか?
Humanoid Robots at work: where are we ? ( http://arxiv.org/abs/2404.04249v1 ) ライセンス: Link先を確認 | Fabrice R. Noreils, | (参考訳) Elon Musk(イーロン・マスク)氏とOptimus(オプティマス)氏が立ち上げた新しいレースは、すでに多くの企業が参加している。
目的は、新しい世代のヒューマノイドロボットを2～3年以内に産業環境に要求することにある。
この目的は現実的か?
第一に、成熟度と市場へのアプローチに基づいて企業を区別するのに役立つ8つの基準に基づく12の企業の分析 第二に、ヒューマノイドは非常に複雑なシステムであるので、対処すべき技術的課題の概要を提供する。
これは、製品の成熟度と市場に対応するためのヒューマノイドサプライヤーの戦略をテストするための重要なステップであり、2つの実践的なアプローチについて議論する。
Launched by Elon Musk and its Optimus, we are witnessing a new race in which many companies have already engaged. The objective it to put at work a new generation of humanoid robots in demanding industrial environments within 2 or 3 years. Is this objective realistic ? The aim of this document and its main contributions is to provide some hints by covering the following topics: First an analysis of 12 companies based on eight criteria that will help us to distinguish companies based on their maturity and approach to the market; second as these humanoids are very complex systems we will provide an overview of the technological challenges to be addressed; third when humanoids are deployed at scale, Operation and Maintenance become critical and the we will explore what is new with these complex machines; Finally Pilots are the last step to test the feasibility of a new system before mass deployment. This is an important step to test the maturity of a product and the strategy of the humanoid supplier to address a market and two pragmatic approaches will be discussed. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 評価を誰が評価するか : T2IScoreScore (TS2) を用いたテキスト・イメージ・プロンプト・コヒーレンス・メトリクスの客観的な評価
Who Evaluates the Evaluations? Objectively Scoring Text-to-Image Prompt Coherence Metrics with T2IScoreScore (TS2) ( http://arxiv.org/abs/2404.04251v1 ) ライセンス: Link先を確認 | Michael Saxon, Fatima Jahara, Mahsa Khoshnoodi, Yujie Lu, Aditya Sharma, William Yang Wang, | (参考訳) テキスト・ツー・イメージ(T2I)モデルの品質向上に伴い、生成した画像のセマンティック・コヒーレンス(セマンティック・コヒーレンス)を条件付きプロンプトに即時忠実度をベンチマークすることに興味が持たれている。
クロスモーダルな埋め込みと視覚言語モデル(VLM)の進歩を活用するため、様々なT2I忠実度指標が提案されている。
しかし、これらの指標は厳密な比較やベンチマークではなく、容易に識別できる一連の画像に対して人間のLikertスコアと相関して、弱いベースラインに対して提示される。
T2IScoreScore (TS2) はプロンプトとセットの誤画像を含む意味的誤りグラフのキュレートされた集合である。
これにより、確立された統計的検定から得られたメタメトリックスコアを用いて、与えられた素早い忠実度メトリックが、客観的なエラー数に対して正しく画像を順序付けし、異なるエラーノード間で顕著に識別できるかどうかを厳格に判断することができる。
驚いたことに、私たちがテストした最先端のVLMベースのメトリクス(例えば、TIFA、DSG、LLMScore、VIEScore)は、CLIPScoreのような単純な機能ベースのメトリクス、特に自然に発生するT2Iモデルエラーのハードサブセットを著しく上回りません。
TS2は、目標条件下での予測順序と分離との整合性をより厳密に比較することで、より良いT2Iの信頼度指標の開発を可能にする。
With advances in the quality of text-to-image (T2I) models has come interest in benchmarking their prompt faithfulness-the semantic coherence of generated images to the prompts they were conditioned on. A variety of T2I faithfulness metrics have been proposed, leveraging advances in cross-modal embeddings and vision-language models (VLMs). However, these metrics are not rigorously compared and benchmarked, instead presented against few weak baselines by correlation to human Likert scores over a set of easy-to-discriminate images. We introduce T2IScoreScore (TS2), a curated set of semantic error graphs containing a prompt and a set increasingly erroneous images. These allow us to rigorously judge whether a given prompt faithfulness metric can correctly order images with respect to their objective error count and significantly discriminate between different error nodes, using meta-metric scores derived from established statistical tests. Surprisingly, we find that the state-of-the-art VLM-based metrics (e.g., TIFA, DSG, LLMScore, VIEScore) we tested fail to significantly outperform simple feature-based metrics like CLIPScore, particularly on a hard subset of naturally-occurring T2I model errors. TS2 will enable the development of better T2I prompt faithfulness metrics through more rigorous comparison of their conformity to expected orderings and separations under objective criteria. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 成長するQ-Networks: 適応的制御解決による継続的制御タスクの解決
Growing Q-Networks: Solving Continuous Control Tasks with Adaptive Control Resolution ( http://arxiv.org/abs/2404.04253v1 ) ライセンス: Link先を確認 | Tim Seyde, Peter Werner, Wilko Schwarting, Markus Wulfmeier, Daniela Rus, | (参考訳) 最近の強化学習アプローチは、連続制御ベンチマークを解くためのバンバンポリシーの驚くほど強力な能力を示している。
基礎となる粗い作用空間の離散化は、しばしば好ましい探索特性をもたらすが、最終的な性能は最適制御理論に則って、作用のペナル化が欠如していることに視覚的に苦しむことはない。
ロボット工学の応用においては、スムーズな制御信号はシステム摩耗とエネルギー効率を低下させるために一般的に好まれるが、初期の訓練において、行動コストは探索に有害である。
本研究では,高次元の動作空間へのアプローチをディム(A) = 38まで拡張するために,離散的な動作空間を粗い状態から微妙な制御解像度に拡張することで,この性能ギャップを埋めることを目的としている。
我々の研究は、値分解とアダプティブ・コントロール・リゾリューションが組み合わさることで、単純な批判のみのアルゴリズムが得られ、連続制御タスクにおいて驚くほど高い性能が得られることを示唆している。
Recent reinforcement learning approaches have shown surprisingly strong capabilities of bang-bang policies for solving continuous control benchmarks. The underlying coarse action space discretizations often yield favourable exploration characteristics while final performance does not visibly suffer in the absence of action penalization in line with optimal control theory. In robotics applications, smooth control signals are commonly preferred to reduce system wear and energy efficiency, but action costs can be detrimental to exploration during early training. In this work, we aim to bridge this performance gap by growing discrete action spaces from coarse to fine control resolution, taking advantage of recent results in decoupled Q-learning to scale our approach to high-dimensional action spaces up to dim(A) = 38. Our work indicates that an adaptive control resolution in combination with value decomposition yields simple critic-only algorithms that yield surprisingly strong performance on continuous control tasks. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 透かしに基づくAI生成コンテンツの検出と属性
Watermark-based Detection and Attribution of AI-Generated Content ( http://arxiv.org/abs/2404.04254v1 ) ライセンス: Link先を確認 | Zhengyuan Jiang, Moyang Guo, Yuepeng Hu, Neil Zhenqiang Gong, | (参考訳) Google、Microsoft、OpenAIなどいくつかの企業が、AI生成したコンテンツを透かし、積極的な検出を可能にする技術を展開している。
しかし、既存の文献は主にユーザに依存しない検出に焦点を当てている。
Attributionは、AI生成として検出された所定のコンテンツを生成する生成AIサービスのユーザをさらに追跡することを目的としている。
重要性は増しているが、帰属は未発見である。
本研究では,このギャップを埋めるために,透かしに基づくユーザ認識検出とAI生成コンテンツの帰属に関する最初の体系的な研究を提供することを目的とする。
具体的には,厳密な確率解析による検出と帰属性能について理論的に検討する。
さらに,ユーザの属性性能を向上させるために,効率的な透かし選択アルゴリズムを開発した。
理論的および実証的な結果から,透かしによる検出と帰属が透かし法の精度と(非)難解性を引き継いでいることが示唆された。
Several companies--such as Google, Microsoft, and OpenAI--have deployed techniques to watermark AI-generated content to enable proactive detection. However, existing literature mainly focuses on user-agnostic detection. Attribution aims to further trace back the user of a generative-AI service who generated a given content detected as AI-generated. Despite its growing importance, attribution is largely unexplored. In this work, we aim to bridge this gap by providing the first systematic study on watermark-based, user-aware detection and attribution of AI-generated content. Specifically, we theoretically study the detection and attribution performance via rigorous probabilistic analysis. Moreover, we develop an efficient algorithm to select watermarks for the users to enhance attribution performance. Both our theoretical and empirical results show that watermark-based detection and attribution inherit the accuracy and (non-)robustness properties of the watermarking method. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 対称性を破る境界デファスティングをもつイジング鎖のゼノ物理
Zeno physics of the Ising chain with symmetry-breaking boundary dephasing ( http://arxiv.org/abs/2404.04255v1 ) ライセンス: Link先を確認 | Umar Javed, Riccardo J. Valencia-Tortora, Jamir Marino, Vadim Oganesyan, Michael Kolodrubetz, | (参考訳) 数量子系では、量子ゼノ効果は、測定が十分に頻繁に発生し、スピンが測定間で緩和できないときに生じる。
これはハミルトン項と競合し、測定速度とコヒーレント振動の比に非単調に依存する興味深い緩和過程をもたらす。
単一の量子ビットに対するゼノ物理学はよく理解されているが、興味深い疑問は、測定されたスピンを非自明なバルクに結合することによってゼノ効果がどう修正されるかである。
本研究では,一次元の逆場Isingを,境界に居住するZenoスピンに結合する効果について検討する。
境界緩和力学において鋭い特異点が出現し、分析的に見られるエッジモードの出現や破壊と結びつくことができる。
最後に、積分可能性-破壊相互作用の存在下で、動的特異点が安定であることの数値的な証拠を提供する。
In few-qubit systems, the quantum Zeno effect arises when measurement occurs sufficiently frequently that the spins are unable to relax between measurements. This can compete with Hamiltonian terms, resulting in interesting relaxation processes which depend non-monotonically on the ratio of measurement rate to coherent oscillations. While Zeno physics for a single qubit is well-understood, an interesting open question is how the Zeno effect is modified by coupling the measured spin to a non-trivial bulk. In this work, we study the effect of coupling a one-dimensional transverse field Ising to a Zeno spin which lives at the boundary. We find that sharp singularities occur in the boundary relaxation dynamics, which can be tied to the emergence or destruction of edge modes that can be found analytically. Finally, we provide numerical evidence that the dynamical singularities are stable in the presence of integrability-breaking interactions. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # 有機発光ダイオードの非コヒーレント偏光子ダイナミクスと非線形性
Incoherent polariton dynamics and nonlinearities in organic light-emitting diodes ( http://arxiv.org/abs/2404.04257v1 ) ライセンス: Link先を確認 | Olli Siltanen, Kimmo Luoma, Konstantinos S. Daskalakis, | (参考訳) 有機発光ダイオード(OLED)は、環境に優しい点と柔軟性で光を再定義している。
しかし、蛍光分子の電子状態の25%しか電気的励起によって発光できないため、OLEDの全体的な効率は制限される。
鏡を使ってOLED内に光を閉じ込めることで実現された強い光物質結合は、残りの75%の電子状態を活性化できる分極子(ハイブリッド光物質状態)を生成する。
ここでは、現象論的量子マスター方程式モデルを用いて、このような偏光子OLEDの異なるプロセスがどのように変化するかを示す。
我々は特に、暗い三重項状態から放出される下方偏光子に直接起こる逆系間交差に関心を持っている。
線形状態における分極RISCの増強係数の簡単な表現を導出する。
さらに, モデルから高次元への拡張について検討し, トリプルトリップレット消滅などの非線形過程における強結合の影響について検討する。
Organic light-emitting diodes (OLEDs) have redefined lighting with their environment-friendliness and flexibility. However, only 25 % of the electronic states of fluorescent molecules can emit light upon electrical excitation, limiting the overall efficiency of OLEDs. Strong light-matter coupling, achieved by confining light within OLEDs using mirrors, generates polaritons - hybrid light-matter states - that could activate the remaining 75 % electronic states. Here, we show how different processes in such polariton OLEDs can be expected to change using a phenomenological quantum master equation model. We are especially interested in reverse inter-system crossing happening directly from the dark triplet states to the emitting lower polariton. We derive a simple expression for the enhancement factor of polaritonic RISC in the linear regime. In addition, we explore the extension of our model to higher dimensions and study some potential effects of strong coupling on nonlinear processes such as triplet-triplet annihilation. | 翻訳日:2024-04-08 15:26:09 公開日:2024-04-05 |
| # あなたの学生は予想以上に良い: テキスト・コンディション・拡散モデルのための適応型教師・学生協調
Your Student is Better Than Expected: Adaptive Teacher-Student Collaboration for Text-Conditional Diffusion Models ( http://arxiv.org/abs/2312.10835v4 ) ライセンス: Link先を確認 | Nikita Starodubcev, Artem Fedorov, Artem Babenko, Dmitry Baranchuk, | (参考訳) 近年, 知識蒸留法は, 少数の推論ステップを必要とせず, 大規模拡散モデルの合成を高速化する上で有望な方向であることが示されている。
最近、いくつかの強力な蒸留法が提案されているが、学生標本の全体的な品質は教師のものよりも低い。
本研究では,教師のテキスト・画像拡散モデルによるサンプルの相対的品質とその蒸留された学生版について検討する。
筆者らの主な経験的発見として,学生標本の顕著な部分は,生徒の「近似的」な性質にもかかわらず,教師のものよりも優れた忠実さを示すことが判明した。
そこで本研究では,学生と教師の拡散モデルを用いた効果的なテキスト・画像合成手法を提案する。
具体的には、蒸留したモデルが初期サンプルを生成し、その後、オラクルが遅い教師モデルでさらなる改善が必要であるかどうかを判断する。
大規模な実験により、デザインされたパイプラインは、人間の好みの観点から様々な推論予算に対して最先端のテキスト・ツー・イメージの代替を超越していることが示された。
さらに、テキスト誘導画像編集や制御可能な生成など、一般的なアプリケーションでは、提案手法が自然に利用できる。
Knowledge distillation methods have recently shown to be a promising direction to speedup the synthesis of large-scale diffusion models by requiring only a few inference steps. While several powerful distillation methods were recently proposed, the overall quality of student samples is typically lower compared to the teacher ones, which hinders their practical usage. In this work, we investigate the relative quality of samples produced by the teacher text-to-image diffusion model and its distilled student version. As our main empirical finding, we discover that a noticeable portion of student samples exhibit superior fidelity compared to the teacher ones, despite the "approximate" nature of the student. Based on this finding, we propose an adaptive collaboration between student and teacher diffusion models for effective text-to-image synthesis. Specifically, the distilled model produces the initial sample, and then an oracle decides whether it needs further improvements with a slow teacher model. Extensive experiments demonstrate that the designed pipeline surpasses state-of-the-art text-to-image alternatives for various inference budgets in terms of human preference. Furthermore, the proposed approach can be naturally used in popular applications such as text-guided image editing and controllable generation. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # SpikeNAS: ニューラルネットワークベースの自律エージェントをスパイクするための高速メモリ対応ニューラルネットワーク検索フレームワーク
SpikeNAS: A Fast Memory-Aware Neural Architecture Search Framework for Spiking Neural Network-based Autonomous Agents ( http://arxiv.org/abs/2402.11322v3 ) ライセンス: Link先を確認 | Rachmad Vidya Wicaksana Putra, Muhammad Shafique, | (参考訳) 自律型移動エージェント(UAV、UGVなど)は、通常、ポータブルバッテリーによって駆動されるため、機械学習タスク(オブジェクト認識など)を解決するために低電力/エネルギー消費が期待されている。
これらの要求は、バイオインスパイアされたスパイクベースの操作が高精度で超低消費電力/エネルギー計算を提供するため、スパイクニューラルネットワーク(SNN)によって満たされる。
現在、ほとんどのSNNアーキテクチャは、ニューロンのアーキテクチャと操作がSNNとは異なる人工ニューラルネットワークから派生しており、自律移動エージェントの基盤となる処理ハードウェアからメモリ予算を考慮せずに開発されている。
これらの制限により、SNNは正確性と効率性において大きな可能性を秘めている。
そこで本研究では,SNNのための新しい高速メモリ対応ニューラルアーキテクチャ探索(NAS)フレームワークであるSpikeNASを提案する。
これを実現するために、私たちのSpikeNASでは、ネットワーク操作が正確性に与える影響を分析し、学習品質を改善するためにネットワークアーキテクチャを強化し、高速なメモリ認識検索アルゴリズムを開発しました。
実験結果から,我々のSpikeNASは検索時間を向上し,メモリ予算を満たしながら最先端と比較して高い精度を維持する(例えば,Nvidia RTX 6000 Ada GPUマシンを用いて,CIFAR100の1.3%の精度向上を図った4.4倍高速探索)。
Autonomous mobile agents (e.g., UAVs and UGVs) are typically expected to incur low power/energy consumption for solving machine learning tasks (such as object recognition), as these mobile agents are usually powered by portable batteries. These requirements can be fulfilled by Spiking Neural Networks (SNNs), since their bio-inspired spike-based operations offer high accuracy and ultra low-power/energy computation. Currently, most of the SNN architectures are derived from Artificial Neural Networks whose neurons' architectures and operations are different from SNNs, or developed without considering memory budgets from the underlying processing hardware of autonomous mobile agents. These limitations hinder SNNs from reaching their full potential in accuracy and efficiency. Toward this, we propose SpikeNAS, a novel fast memory-aware neural architecture search (NAS) framework for SNNs that quickly finds an appropriate SNN architecture with high accuracy under the given memory budgets from autonomous mobile agents. To do this, our SpikeNAS employs several key steps: analyzing the impacts of network operations on the accuracy, enhancing the network architecture to improve the learning quality, and developing a fast memory-aware search algorithm. The experimental results show that our SpikeNAS improves the searching time and maintains high accuracy as compared to state-of-the-art while meeting the given memory budgets (e.g., 4.4x faster search with 1.3% accuracy improvement for CIFAR100, using an Nvidia RTX 6000 Ada GPU machine), thereby quickly providing the appropriate SNN architecture for the memory-constrained autonomous mobile agents. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # 言語モデルアライメントのためのリワードハックを緩和する正規化ベストオブNサンプリング
Regularized Best-of-N Sampling to Mitigate Reward Hacking for Language Model Alignment ( http://arxiv.org/abs/2404.01054v2 ) ライセンス: Link先を確認 | Yuu Jinnai, Tetsuro Morimura, Kaito Ariu, Kenshi Abe, | (参考訳) 報奨モデルを用いたBest-of-N(BoN)サンプリングは、復号時の人間の嗜好に合わせてLLM(Large Language Models)を調整するための効果的な戦略であることが示されている。
BoNサンプリングは、報酬ハッキングとして知られる問題の影響を受けやすい。
報酬モデルは真の目的に対する不完全なプロキシであるため、その価値を過度に最適化することは、真の目的に対するパフォーマンスを損なう可能性がある。
優先学習技術における報酬ハックを防ぐ一般的な解決策は、言語モデルが参照モデルに近く続けることを保証する近接正規化(例えば、KL正規化)を使用して報酬を最適化することである。
本研究では,プライオリティ学習手法と同様に,応答選択に近接項を組み込むことで報奨ハッキングを緩和することを目的とした,BoNの変種であるRegularized Best-of-N(RBoN)を提案する。
本稿では、AlpacaFarmデータセット上でRBoNの2つの変種を評価し、特にプロキシ報酬モデルが真の目的と相関が低い場合、BoNより優れていることを示す。
Best-of-N (BoN) sampling with a reward model has been shown to be an effective strategy for aligning Large Language Models (LLMs) to human preferences at the time of decoding. BoN sampling is susceptible to a problem known as reward hacking. Because the reward model is an imperfect proxy for the true objective, over-optimizing its value can compromise its performance on the true objective. A common solution to prevent reward hacking in preference learning techniques is to optimize a reward using proximity regularization (e.g., KL regularization), which ensures that the language model remains close to the reference model. In this research, we propose Regularized Best-of-N (RBoN), a variant of BoN that aims to mitigate reward hacking by incorporating a proximity term in response selection, similar to preference learning techniques. We evaluate two variants of RBoN on the AlpacaFarm dataset and find that they outperform BoN, especially when the proxy reward model has a low correlation with the true objective. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # サイバーレジリエンスの基礎:ゲーム,制御,学習理論の関連性
Foundations of Cyber Resilience: The Confluence of Game, Control, and Learning Theories ( http://arxiv.org/abs/2404.01205v2 ) ライセンス: Link先を確認 | Quanyan Zhu, | (参考訳) サイバーレジリエンス(サイバーレジリエンス)は、サイバーセキュリティの補完的な概念であり、予防が難しいサイバー脅威の準備、対応、回復に焦点を当てている。
組織は、進化するサイバー脅威の状況において、このような脅威に直面している。
サイバーレジリエンスの基礎を理解し確立することは、サイバーリスク評価、緩和政策評価、リスクインフォームド・ディフェンス設計に対する定量的かつ体系的なアプローチを提供する。
サイバーリスクに対するシステム科学的見解は、全体論的かつシステムレベルの解決策を提供する。
この章は、サイバーリスクに対する体系的な見解から始まり、ゲーム理論、制御理論、学習理論の融合を示します。
ゲームおよび制御理論の手法は、ディフェンダーとアタッカーの間の戦略的および動的相互作用を捉えるための一連のモデリングフレームワークを提供する。
コントロールと学習のフレームワークが組み合わさって、脅威に対する自律的かつ適応的な応答を可能にする、フィードバック駆動のメカニズムを提供する。
ゲームと学習のフレームワークは、敵対的な行動やレジリエントな戦略について積極的に推論するための、データ駆動のアプローチを提供する。
これら3つの組み合わせは、サイバー・レジリエンスの分析と設計の理論的基礎を成している。
この章は、最近の交差点における進歩として、動的非対称ゲーム、移動地平線制御、客観学習、メタラーニングなど、様々な理論パラダイムを提示している。
この章は、サイバーレジリエンスにおけるニューロシンボリックラーニングの役割と基礎モデルとゲームモデルとの相乗効果の今後の方向性と議論で締めくくります。
Cyber resilience is a complementary concept to cybersecurity, focusing on the preparation, response, and recovery from cyber threats that are challenging to prevent. Organizations increasingly face such threats in an evolving cyber threat landscape. Understanding and establishing foundations for cyber resilience provide a quantitative and systematic approach to cyber risk assessment, mitigation policy evaluation, and risk-informed defense design. A systems-scientific view toward cyber risks provides holistic and system-level solutions. This chapter starts with a systemic view toward cyber risks and presents the confluence of game theory, control theory, and learning theories, which are three major pillars for the design of cyber resilience mechanisms to counteract increasingly sophisticated and evolving threats in our networks and organizations. Game and control theoretic methods provide a set of modeling frameworks to capture the strategic and dynamic interactions between defenders and attackers. Control and learning frameworks together provide a feedback-driven mechanism that enables autonomous and adaptive responses to threats. Game and learning frameworks offer a data-driven approach to proactively reason about adversarial behaviors and resilient strategies. The confluence of the three lays the theoretical foundations for the analysis and design of cyber resilience. This chapter presents various theoretical paradigms, including dynamic asymmetric games, moving horizon control, conjectural learning, and meta-learning, as recent advances at the intersection. This chapter concludes with future directions and discussions of the role of neurosymbolic learning and the synergy between foundation models and game models in cyber resilience. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # 効率的なLDM生成のためのプロンプト・プロンプト混合専門家
Prompt-prompted Mixture of Experts for Efficient LLM Generation ( http://arxiv.org/abs/2404.01365v2 ) ライセンス: Link先を確認 | Harry Dong, Beidi Chen, Yuejie Chi, | (参考訳) トランスフォーマーベースの大規模言語モデル (LLM) の開発により、これらのモデルは目覚ましい実用性のために多くの分野に適用されているが、デプロイにはかなりの計算コストがかかる。
幸いなことに、専門家の混合体(MoE)の切断や構築などの手法は、トランスフォーマーフィードフォワード(FF)ブロックの疎結合を利用して、高速化とメモリ要求の削減を図っている。
しかしながら、これらのテクニックは、トレーニングを必要とすることや、特定のタイプのアーキテクチャに制限されることが多いため、実際には非常にコストがかかり、柔軟性がない。
GRIFFINは、異なる非ReLUアクティベーション関数を持つ複数のLLMをまたいで効率よく生成するために、シーケンスレベルで独自のFFエキスパートを選択する新しいトレーニングフリーMoEである。
これは、多くの訓練されたLLMが自然に配列内で高度に構造化されたFF活性化パターンを発生させるという批判的な観察のためである。
我々の手法の単純さにもかかわらず、GRIFFINは従来のモデルの性能を様々な分類タスクや生成タスクでほとんど劣化させることなく維持する(例えば、NVIDIA L40ではLlama 2 13Bで1.25$\times$ Speed-up)。
コードはhttps://github.com/hdong920/GRIFFINで入手できる。
With the development of transformer-based large language models (LLMs), they have been applied to many fields due to their remarkable utility, but this comes at a considerable computational cost at deployment. Fortunately, some methods such as pruning or constructing a mixture of experts (MoE) aim at exploiting sparsity in transformer feedforward (FF) blocks to gain boosts in speed and reduction in memory requirements. However, these techniques can be very costly and inflexible in practice, as they often require training or are restricted to specific types of architectures. To address this, we introduce GRIFFIN, a novel training-free MoE that selects unique FF experts at the sequence level for efficient generation across a plethora of LLMs with different non-ReLU activation functions. This is possible due to a critical observation that many trained LLMs naturally produce highly structured FF activation patterns within a sequence, which we call flocking. Despite our method's simplicity, we show with 50% of the FF parameters, GRIFFIN maintains the original model's performance with little to no degradation on a variety of classification and generation tasks, all while improving latency (e.g. 1.25$\times$ speed-up in Llama 2 13B on an NVIDIA L40). Code is available at https://github.com/hdong920/GRIFFIN. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # テープ状ナノビームを用いた効率よく識別不可能なCバンド光子
Efficient, indistinguishable telecom C-band photons using a tapered nanobeam ( http://arxiv.org/abs/2404.01562v2 ) ライセンス: Link先を確認 | Mohammad Habibur Rahaman, Samuel Harper, Chang-Min Lee, Kyu-Young Kim, Mustafa Atabey Buyukkaya, Victor J. Patel, Samuel D. Hawkins, Je-Hyung Kim, Sadhvikas Addamane, Edo Waks, | (参考訳) テレコムのCバンド単一光子は、光ファイバーにおいて最低減衰を示し、長期の量子安全な通信を可能にする。
しかし、これらの単一光子が長距離伝送において効果的なキャリアとなるためには、光ファイバーとの効率的な結合が不可欠である。
本研究では,InAs/InP量子ドットをテープ状ナノビームに結合した電気通信用Cバンドにおいて,効率的なファイバー結合型単一光子源を実証する。
テーパ状ナノビーム構造は、レンズファイバにモード整合した方向性発光を促進し、ナノビームから単一モードファイバへの回収効率を最大65%向上させる。
このアプローチを用いて、単光子数レートが575$\pm$ 5 Kcps、単光子純度が$g^2$ (0) = 0.015$\pm$ 0.003であることを示す。
さらに、放射光子からの香港・ウー・マンデル干渉の可視性は0.84$\pm$ 0.06である。
これらの測定から、光子のコヒーレンス時間は450$\pm$20 psであり、寿命限界からわずか8.3離れた。
この研究は、ファイバベースの長距離量子ネットワークを実現するために必要な、明るく、純粋で、識別不可能な光子を放出する通信用Cバンド単一光子源の開発に向けた重要なステップである。
Telecom C-band single photons exhibit the lowest attenuation in optical fibers, enabling long-haul quantum-secured communication. However, efficient coupling with optical fibers is crucial for these single photons to be effective carriers in long-distance transmission. In this work, we demonstrate an efficient fiber-coupled single photon source at the telecom C-band using InAs/InP quantum dots coupled to a tapered nanobeam. The tapered nanobeam structure facilitates directional emission that is mode-matched to a lensed fiber, resulting in a collection efficiency of up to 65% from the nanobeam to a single-mode fiber. Using this approach, we demonstrate single photon count rates of 575 $\pm$ 5 Kcps and a single photon purity of $g^2$ (0) = 0.015 $\pm$ 0.003. Additionally, we demonstrate Hong-Ou Mandel interference from the emitted photons with a visibility of 0.84 $\pm$ 0.06. From these measurements, we determine a photon coherence time of 450 $\pm$ 20 ps, a factor of just 8.3 away from the lifetime limit. This work represents an important step towards the development of telecom C-band single-photon sources emitting bright, pure, and indistinguishable photons, which are necessary to realize fiber-based long-distance quantum networks | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # FashionEngine: 3D衣服の対話的生成と編集
FashionEngine: Interactive Generation and Editing of 3D Clothed Humans ( http://arxiv.org/abs/2404.01655v2 ) ライセンス: Link先を確認 | Tao Hu, Fangzhou Hong, Zhaoxi Chen, Ziwei Liu, | (参考訳) FashionEngineはインタラクティブな3Dヒューマン生成と編集システムで、自然言語、視覚知覚、手描きなど、人間が世界とどのように相互作用するかに合わせて3Dデジタル人間を設計できる。
FashionEngineは、3つの重要なコンポーネントで3Dヒューマンプロダクションを自動化する。
1)2次元画像訓練データから意味的UV潜伏空間における3次元人間のモデリングを学習する事前学習された3次元人体拡散モデル。
2) マルチモーダル入力を暗黙のUV潜在空間に忠実に整合させ, 制御可能な3次元編集を実現する。
マルチモーダルUV空間は、テキスト、画像、スケッチなどの異なるユーザ入力間で共有され、様々な共同マルチモーダル編集タスクを可能にする。
3)マルチモーダル・UVアラインド・サンプラーは,マルチモーダルユーザ入力に先立つ拡散から,高品質で多様な3D人間をサンプリングすることを学ぶ。
大規模な実験は、条件生成/編集タスクに対するFashionEngineの最先端のパフォーマンスを検証する。
さらに,FashionEngine用の対話型ユーザインタフェースを提案する。これは条件付きおよび非条件生成タスクと,ポーズ/ビュー/シェープ制御,テキスト,画像,スケッチ駆動3D編集,仮想トライオンなどの編集タスクを統合されたフレームワークで実現する。
私たちのプロジェクトページは以下の通りです。
We present FashionEngine, an interactive 3D human generation and editing system that allows us to design 3D digital humans in a way that aligns with how humans interact with the world, such as natural languages, visual perceptions, and hand-drawing. FashionEngine automates the 3D human production with three key components: 1) A pre-trained 3D human diffusion model that learns to model 3D humans in a semantic UV latent space from 2D image training data, which provides strong priors for diverse generation and editing tasks. 2) Multimodality-UV Space encoding the texture appearance, shape topology, and textual semantics of human clothing in a canonical UV-aligned space, which faithfully aligns the user multimodal inputs with the implicit UV latent space for controllable 3D human editing. The multimodality-UV space is shared across different user inputs, such as texts, images, and sketches, which enables various joint multimodal editing tasks. 3) Multimodality-UV Aligned Sampler learns to sample high-quality and diverse 3D humans from the diffusion prior for multimodal user inputs. Extensive experiments validate FashionEngine's state-of-the-art performance for conditional generation/editing tasks. In addition, we present an interactive user interface for our FashionEngine that enables both conditional and unconditional generation tasks, and editing tasks including pose/view/shape control, text-, image-, and sketch-driven 3D human editing and 3D virtual try-on, in a unified framework. Our project page is at: https://taohuumd.github.io/projects/FashionEngine. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # Octopus v2:スーパーエージェントのオンデバイス言語モデル
Octopus v2: On-device language model for super agent ( http://arxiv.org/abs/2404.01744v3 ) ライセンス: Link先を確認 | Wei Chen, Zhiyuan Li, | (参考訳) 言語モデルは様々なソフトウェアアプリケーション、特に自動ワークフローに関連するタスクにおいて有効性を示している。
これらのモデルには、AIエージェントを作成する上で不可欠な機能を呼び出す重要な能力がある。
クラウド環境での大規模言語モデルのパフォーマンスは高いが、プライバシやコストに関する懸念に関係していることが多い。
関数呼び出しの現在のオンデバイスモデルには、レイテンシと正確性がある。
本研究では,20億のパラメータを持つデバイス上でのモデルを用いて,GPT-4の性能を精度とレイテンシの両方で上回り,コンテキスト長を95%削減する手法を提案する。
Llama-7BをRAGベースの関数呼び出し機構で比較すると,レイテンシを35倍に向上する。
この方法では,実環境におけるさまざまなエッジデバイスへのデプロイに適したレベルへの遅延を低減し,実環境アプリケーションのパフォーマンス要件に適合する。
Language models have shown effectiveness in a variety of software applications, particularly in tasks related to automatic workflow. These models possess the crucial ability to call functions, which is essential in creating AI agents. Despite the high performance of large-scale language models in cloud environments, they are often associated with concerns over privacy and cost. Current on-device models for function calling face issues with latency and accuracy. Our research presents a new method that empowers an on-device model with 2 billion parameters to surpass the performance of GPT-4 in both accuracy and latency, and decrease the context length by 95\%. When compared to Llama-7B with a RAG-based function calling mechanism, our method enhances latency by 35-fold. This method reduces the latency to levels deemed suitable for deployment across a variety of edge devices in production environments, aligning with the performance requisites for real-world applications. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # 大規模言語モデルによる数学多重選択問題に対する自動ディトラクタ生成の探索
Exploring Automated Distractor Generation for Math Multiple-choice Questions via Large Language Models ( http://arxiv.org/abs/2404.02124v2 ) ライセンス: Link先を確認 | Wanyong Feng, Jaewook Lee, Hunter McNichols, Alexander Scarlatos, Digory Smith, Simon Woodhead, Nancy Otero Ornelas, Andrew Lan, | (参考訳) 多重選択質問(MCQ)は、管理しやすく、格付けしやすく、評価や実践の信頼性の高いフォーマットであるため、ほぼ全てのレベルの教育においてユビキタスである。
MCQの最も重要な側面の1つは、実際の学生の間でよくある誤りや誤解を狙った誤った選択肢である。
現在まで、高品質なイントラクタを開発するというタスクは、拡張性に制限のある教師や学習コンテンツデザイナにとって、労働力と時間を要するプロセスのままである。
本研究では,数学MCQの領域における自動散逸器生成の課題について検討し,文脈内学習から微調整に至るまで,多種多様な大規模言語モデル(LLM)に基づくアプローチを探索する。
実世界の数学MCQデータセットを用いて広範な実験を行い、LLMは数学的に有効な散逸器を生成できるが、実際の学生の間での一般的な誤りや誤解を予測できないことを発見した。
Multiple-choice questions (MCQs) are ubiquitous in almost all levels of education since they are easy to administer, grade, and are a reliable format in assessments and practices. One of the most important aspects of MCQs is the distractors, i.e., incorrect options that are designed to target common errors or misconceptions among real students. To date, the task of crafting high-quality distractors largely remains a labor and time-intensive process for teachers and learning content designers, which has limited scalability. In this work, we study the task of automated distractor generation in the domain of math MCQs and explore a wide variety of large language model (LLM)-based approaches, from in-context learning to fine-tuning. We conduct extensive experiments using a real-world math MCQ dataset and find that although LLMs can generate some mathematically valid distractors, they are less adept at anticipating common errors or misconceptions among real students. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # WorDepth: 単眼深度推定に先立つ変分言語
WorDepth: Variational Language Prior for Monocular Depth Estimation ( http://arxiv.org/abs/2404.03635v2 ) ライセンス: Link先を確認 | Ziyao Zeng, Daniel Wang, Fengyu Yang, Hyoungseob Park, Yangchao Wu, Stefano Soatto, Byung-Woo Hong, Dong Lao, Alex Wong, | (参考訳) 単一画像からの3次元3次元再構成は、固有の曖昧さ、すなわちスケールに関する不適切な問題である。
テキスト記述(s)から3Dシーンを予測するのも同様に、例えば、記述されたオブジェクトの空間配置が不適切である。
本研究では,2つの本質的にあいまいなモダリティを併用して,メートル法スケールの再構成を行うことができるかどうかを考察する。
これをテストするために、単眼深度推定(単眼深度推定)、一眼画像から深度マップを予測する問題、シーンを記述した追加のテキストキャプションに焦点をあてる。
この目的のために,テキストキャプションを平均および標準偏差として符号化することから始め,変分フレームワークを用いて,テキストキャプションに対応する3次元シーンの可算的再現の分布を先行として学習する。
特定の再構成や深度マップを「選択」するために、与えられた画像を条件付きサンプルにより符号化し、変分テキストエンコーダの潜時空間からサンプリングし、出力深度マップに復号する。
1つの最適化ステップでは、標準ガウス語からのテキスト記述とサンプルからの平均偏差と標準偏差を予測し、もう1つは(画像)条件付きサンプルを用いてサンプルをサンプリングする。
トレーニングが完了すると、条件付きサンプルを用いて、エンコードされたテキストから深度を直接予測する。
室内(NYUv2)と屋外(KITTI)のシナリオに対する我々のアプローチを実証する。
Three-dimensional (3D) reconstruction from a single image is an ill-posed problem with inherent ambiguities, i.e. scale. Predicting a 3D scene from text description(s) is similarly ill-posed, i.e. spatial arrangements of objects described. We investigate the question of whether two inherently ambiguous modalities can be used in conjunction to produce metric-scaled reconstructions. To test this, we focus on monocular depth estimation, the problem of predicting a dense depth map from a single image, but with an additional text caption describing the scene. To this end, we begin by encoding the text caption as a mean and standard deviation; using a variational framework, we learn the distribution of the plausible metric reconstructions of 3D scenes corresponding to the text captions as a prior. To "select" a specific reconstruction or depth map, we encode the given image through a conditional sampler that samples from the latent space of the variational text encoder, which is then decoded to the output depth map. Our approach is trained alternatingly between the text and image branches: in one optimization step, we predict the mean and standard deviation from the text description and sample from a standard Gaussian, and in the other, we sample using a (image) conditional sampler. Once trained, we directly predict depth from the encoded text using the conditional sampler. We demonstrate our approach on indoor (NYUv2) and outdoor (KITTI) scenarios, where we show that language can consistently improve performance in both. | 翻訳日:2024-04-08 11:45:06 公開日:2024-04-05 |
| # サブサハラ語文脈における多言語音声表現のためのアフリカ中心の自己教師付き事前学習
Africa-Centric Self-Supervised Pre-Training for Multilingual Speech Representation in a Sub-Saharan Context ( http://arxiv.org/abs/2404.02000v2 ) ライセンス: Link先を確認 | Antoine Caubrière, Elodie Gauthier, | (参考訳) アフリカ語のみに特化して訓練された最初の自己教師型多言語音声モデルを提案する。
このモデルは、サハラ以南のアフリカで話されている21の言語と方言で、6万時間近い未ラベルの音声セグメントから学習された。
FLEURS-102データセットのSSAサブセットでは,HuBERT$_{base}$ (0.09B)アーキテクチャに基づくアプローチが,FLEURSベンチマークで提案されたw2v-bert-51(0.6B)事前学習モデルと比較して,ASRダウンストリームタスクに対する競合結果を示している。
さらに,LIDダウンストリームタスクの文脈では,FLEURSの精度を22.5%以上向上させる。
We present the first self-supervised multilingual speech model trained exclusively on African speech. The model learned from nearly 60 000 hours of unlabeled speech segments in 21 languages and dialects spoken in sub-Saharan Africa. On the SSA subset of the FLEURS-102 dataset, our approach based on a HuBERT$_{base}$ (0.09B) architecture shows competitive results, for ASR downstream task, compared to the w2v-bert-51 (0.6B) pre-trained model proposed in the FLEURS benchmark, while being more efficient by using 7x less data and 6x less parameters. Furthermore, in the context of a LID downstream task, our approach outperforms FLEURS baselines accuracy by over 22\%. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # EGTR:Scene Graph 生成のための Transformer からのグラフ抽出
EGTR: Extracting Graph from Transformer for Scene Graph Generation ( http://arxiv.org/abs/2404.02072v3 ) ライセンス: Link先を確認 | Jinbae Im, JeongYeon Nam, Nokyung Park, Hyungmin Lee, Seunghyun Park, | (参考訳) SGG(Scene Graph Generation)は、オブジェクトを検出し、オブジェクト間の関係を予測するための課題である。
DETRの開発後、一段物体検出器に基づく一段SGGモデルが活発に研究されている。
しかし、オブジェクト間の関係を予測するために複雑なモデリングが使用され、オブジェクト検出器のマルチヘッド自己アテンションで学習したオブジェクトクエリー間の固有の関係は無視されている。
本稿では,DETRデコーダのマルチヘッド自己アテンション層で学習した様々な関係から関係グラフを抽出する軽量一段SGGモデルを提案する。
自己注意副産物を十分に活用することにより、浅い関係抽出ヘッドで関係グラフを効果的に抽出することができる。
対象検出タスクにおける関係抽出タスクの依存性を考慮して,検出対象の品質に応じて関係ラベルを適応的に調整する新しい関係平滑化手法を提案する。
関係の平滑化により、モデルは訓練開始時の対象検出タスクに焦点を当てた連続カリキュラムに従って訓練され、対象検出性能が徐々に向上するにつれてマルチタスク学習を行う。
さらに,関係抽出の補助タスクとして,オブジェクトペア間に関係が存在するかどうかを予測する接続予測タスクを提案する。
本稿では,Visual Genome と Open Image V6 データセットに対する提案手法の有効性と有効性を示す。
私たちのコードはhttps://github.com/naver-ai/egtr.comで公開されています。
Scene Graph Generation (SGG) is a challenging task of detecting objects and predicting relationships between objects. After DETR was developed, one-stage SGG models based on a one-stage object detector have been actively studied. However, complex modeling is used to predict the relationship between objects, and the inherent relationship between object queries learned in the multi-head self-attention of the object detector has been neglected. We propose a lightweight one-stage SGG model that extracts the relation graph from the various relationships learned in the multi-head self-attention layers of the DETR decoder. By fully utilizing the self-attention by-products, the relation graph can be extracted effectively with a shallow relation extraction head. Considering the dependency of the relation extraction task on the object detection task, we propose a novel relation smoothing technique that adjusts the relation label adaptively according to the quality of the detected objects. By the relation smoothing, the model is trained according to the continuous curriculum that focuses on object detection task at the beginning of training and performs multi-task learning as the object detection performance gradually improves. Furthermore, we propose a connectivity prediction task that predicts whether a relation exists between object pairs as an auxiliary task of the relation extraction. We demonstrate the effectiveness and efficiency of our method for the Visual Genome and Open Image V6 datasets. Our code is publicly available at https://github.com/naver-ai/egtr. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # 量子ガウスセンシングにおけるジェームズ・スタイン推定
James-Stein Estimation in Quantum Gaussian Sensing ( http://arxiv.org/abs/2404.02203v2 ) ライセンス: Link先を確認 | Wilfred Salmon, Sergii Strelchuk, David Arvidsson-Shukur, | (参考訳) ジェームズ=シュタイン推定器は偏りのある推定器であり、有限個のサンプルに対してその期待値は真の平均ではない。
最大形推定器(MLE)は偏りがなく、漸近的に最適である。
しかし、平均値が3ドル以上の場合、ジェームス・スタイン推定器はMLEよりも誤差が小さい(予想される)。
頻度論的およびベイズ的両面から、ジェームズ=シュタイン推定器を量子力学の分野に導入する。
我々は、未知の多変量量子ガウス状態の平均を推定するタスクである量子ガウスセンシングのレンズを通して、ジェームズ=シュタイン推定器に対する量子現象の影響を特徴づける。
ノイズのない絡み合いやコヒーレンスによりジェームズ・スタイン推定器の性能は向上するが、MLEに対する優位性は低下する。
ノイズの存在下では、ジェームズ=スタインの利点が復元される。
量子効果はジェームズ=スタインの優位性を高めることもできる。
量子効果を用いてパラメータを不完全検出器で測定する多変量後選択性メタロジ(一般化弱値増幅)を探索することによりこれを実証する。
測定データを異なる処理で処理することで、量子実験における誤差を減らすことができる。
The James-Stein estimator is a biased estimator -- for a finite number of samples its expected value is not the true mean. The maximum-likelihood estimator (MLE), is unbiased and asymptotically optimal. Yet, when estimating the mean of $3$ or more normally-distributed random variables, the James-Stein estimator has a smaller total (expected) error than the MLE. We introduce the James-Stein estimator to the field of quantum metrology, from both the frequentist and Bayesian perspectives. We characterise the effect of quantum phenomena on the James-Stein estimator through the lens of quantum Gaussian sensing, the task of estimating the mean of an unknown multivariate quantum Gaussian state. We find that noiseless entanglement or coherence improves performance of the James-Stein estimator, but diminishes its advantage over the MLE. In the presence of noise, the James-Stein advantage is restored. Quantum effects can also boost the James-Stein advantage. We demonstrate this by investigating multivariate postselective metrology (generalised weak-value amplification), a strategy that uses quantum effects to measure parameters with imperfect detectors. Simply by post-processing measured data differently, our techniques reduce errors in quantum experiments. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # RAT:クリックスルーレート予測のための検索拡張変圧器
RAT: Retrieval-Augmented Transformer for Click-Through Rate Prediction ( http://arxiv.org/abs/2404.02249v2 ) ライセンス: Link先を確認 | Yushen Li, Jinpeng Wang, Tao Dai, Jieming Zhu, Jun Yuan, Rui Zhang, Shu-Tao Xia, | (参考訳) クリックスルー率(CTR)の予測は、Webアプリケーションにとって基本的なタスクであり、そこでは、機能相互作用の効果的なモデルを作成することが重要な課題である。
現在の方法論は、主に個々のサンプル内の特徴的相互作用をモデル化することに集中しているが、予測を強化するための参照コンテキストとして機能する可能性のある、潜在的にサンプル間の関係を見越している。
このような欠陥を補うために, 試料内および試料間における微細な特徴相互作用の獲得を目的とした検索・拡張変換器 (RAT) を開発した。
類似したサンプルを検索することで,各対象サンプルに対する付加的な入力を構築する。
次にトランスフォーマー層を構築し,CTR予測を改善するための総合的推論を容易にするとともに,効率の維持を図る。
実世界のデータセットに関する大規模な実験は、RATの有効性を裏付け、ロングテールシナリオにおいてその利点を示唆している。
コードは \url{https://github.com/YushenLi807/WWW24-RAT} でオープンソース化された。
Predicting click-through rates (CTR) is a fundamental task for Web applications, where a key issue is to devise effective models for feature interactions. Current methodologies predominantly concentrate on modeling feature interactions within an individual sample, while overlooking the potential cross-sample relationships that can serve as a reference context to enhance the prediction. To make up for such deficiency, this paper develops a Retrieval-Augmented Transformer (RAT), aiming to acquire fine-grained feature interactions within and across samples. By retrieving similar samples, we construct augmented input for each target sample. We then build Transformer layers with cascaded attention to capture both intra- and cross-sample feature interactions, facilitating comprehensive reasoning for improved CTR prediction while retaining efficiency. Extensive experiments on real-world datasets substantiate the effectiveness of RAT and suggest its advantage in long-tail scenarios. The code has been open-sourced at \url{https://github.com/YushenLi807/WWW24-RAT}. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # PhonologyBench: 大規模言語モデルの音韻論的スキルの評価
PhonologyBench: Evaluating Phonological Skills of Large Language Models ( http://arxiv.org/abs/2404.02456v2 ) ライセンス: Link先を確認 | Ashima Suvarna, Harshita Khandelwal, Nanyun Peng, | (参考訳) 音声学は、音声の構造と発音規則の研究であり、Large Language Model (LLM) 研究において批判的であるが、しばしば見落とされがちな要素である。
LLMは、教育ツールや詩生成といった音韻学を活用する様々な下流アプリケーションで広く使われている。
さらに、LLMはトレーニングデータから、正書法と音韻法の間の不完全関連を学習することができる。
したがって、LLMの音韻論的スキルをベンチマークすることは必須である。
そこで本研究では, 音韻変換, 音節カウント, 韻律生成という, LLMの音韻的スキルを明示的にテストするための3つの診断タスクからなる新しいベンチマークであるPhonologyBenchを提案する。
音声データにアクセスできなかったにもかかわらず、LLMはPhonologyBenchタスクで顕著なパフォーマンスを示した。
しかし,Rhyme Word GenerationとSyllable countingでは,人間に比べて17%,Syllable countingでは45%の差が見られた。
本研究は, 実世界の応用に不注意に影響を及ぼす音韻的タスクにおけるLLM性能の研究の重要性を浮き彫りにした。
さらに,下流アプリケーションと密接な関係にある音韻的タスクにおいて,どのモデルも全てのタスクにおいて他のモデルより常に優れていないことを知るため,研究者はLLMを選択することを推奨する。
Phonology, the study of speech's structure and pronunciation rules, is a critical yet often overlooked component in Large Language Model (LLM) research. LLMs are widely used in various downstream applications that leverage phonology such as educational tools and poetry generation. Moreover, LLMs can potentially learn imperfect associations between orthographic and phonological forms from the training data. Thus, it is imperative to benchmark the phonological skills of LLMs. To this end, we present PhonologyBench, a novel benchmark consisting of three diagnostic tasks designed to explicitly test the phonological skills of LLMs in English: grapheme-to-phoneme conversion, syllable counting, and rhyme word generation. Despite having no access to speech data, LLMs showcased notable performance on the PhonologyBench tasks. However, we observe a significant gap of 17% and 45% on Rhyme Word Generation and Syllable counting, respectively, when compared to humans. Our findings underscore the importance of studying LLM performance on phonological tasks that inadvertently impact real-world applications. Furthermore, we encourage researchers to choose LLMs that perform well on the phonological task that is closely related to the downstream application since we find that no single model consistently outperforms the others on all the tasks. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # ソフトウェア工学教育におけるAIチューニング
AI-Tutoring in Software Engineering Education ( http://arxiv.org/abs/2404.02548v2 ) ライセンス: Link先を確認 | Eduard Frankford, Clemens Sauerwein, Patrick Bassner, Stephan Krusche, Ruth Breu, | (参考訳) 様々な領域における人工知能(AI)の急速な進歩により、教育部門は変革をめざすことになる。
学習体験、特にプログラミングにおけるAI駆動ツールの可能性は非常に大きい。
しかし、AI-Tutorとして自動プログラミングアセスメントシステム(APAS)で使用されるLarge Language Models(LLMs)の科学的評価はほとんど未定である。
したがって、学生がそのようなAI-Tutorとどのように相互作用するかを理解し、その経験を分析する必要がある。
本稿では,GAT-3.5-TurboモデルをAI-TutorとしてAPASアルテミスに組み込むことにより,探索的ケーススタディを行った。
実験データ収集と探索調査を組み合わせることで,AI-Tutorとのインタラクションパターンに基づいて,さまざまなユーザタイプを特定した。
さらにこの発見は、タイムリーなフィードバックやスケーラビリティといったメリットも強調している。
しかし,AI-Tutor を用いた場合,一般的な応答や学習進行抑制に対する学生の懸念も明らかであった。
この研究は、AIの教育における役割について論じるものである。
With the rapid advancement of artificial intelligence (AI) in various domains, the education sector is set for transformation. The potential of AI-driven tools in enhancing the learning experience, especially in programming, is immense. However, the scientific evaluation of Large Language Models (LLMs) used in Automated Programming Assessment Systems (APASs) as an AI-Tutor remains largely unexplored. Therefore, there is a need to understand how students interact with such AI-Tutors and to analyze their experiences. In this paper, we conducted an exploratory case study by integrating the GPT-3.5-Turbo model as an AI-Tutor within the APAS Artemis. Through a combination of empirical data collection and an exploratory survey, we identified different user types based on their interaction patterns with the AI-Tutor. Additionally, the findings highlight advantages, such as timely feedback and scalability. However, challenges like generic responses and students' concerns about a learning progress inhibition when using the AI-Tutor were also evident. This research adds to the discourse on AI's role in education. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # 最適化型タスク・アンド・モーションプランニングに関する調査研究:古典的アプローチから学習的アプローチへ
A Survey of Optimization-based Task and Motion Planning: From Classical To Learning Approaches ( http://arxiv.org/abs/2404.02817v2 ) ライセンス: Link先を確認 | Zhigen Zhao, Shuo Cheng, Yan Ding, Ziyi Zhou, Shiqi Zhang, Danfei Xu, Ye Zhao, | (参考訳) タスク・アンド・モーション・プランニング(TAMP)は、高レベルのタスク・プランニングと低レベルのモーション・プランニングを統合し、ロボットに自律性を持たせ、長期の動的タスクを効果的に推論する。
最適化ベースのTAMPは、目的関数を介して目標条件を定義し、ロボットと環境の間のオープンな目標、ロボット力学、物理的相互作用を扱うことができるハイブリッド最適化アプローチに焦点を当てている。
したがって、最適化に基づくTAMPは、高度に複雑で接触に富んだ移動と操作の問題を解くのに特に適している。
この調査は最適化に基づくTAMPの包括的なレビューを提供する。
一 動作記述言語及び時間論理を含むドメイン表現の計画
(II)AI計画・軌道最適化(TO)を含むTAMPコンポーネントの個別ソリューション戦略
三 論理ベースのタスク計画とモデルベースのTOの動的相互作用
この調査の特に焦点は、TAMP、特に階層的および分散的アプローチを効率的に解くアルゴリズム構造を明らかにすることである。
さらに、この調査は古典的手法と大規模言語モデルのような現代的学習に基づく革新との相乗効果を強調している。
さらに,この調査では,TAMPの今後の研究方向性について論じ,アルゴリズムとアプリケーション固有の課題を取り上げている。
Task and Motion Planning (TAMP) integrates high-level task planning and low-level motion planning to equip robots with the autonomy to effectively reason over long-horizon, dynamic tasks. Optimization-based TAMP focuses on hybrid optimization approaches that define goal conditions via objective functions and are capable of handling open-ended goals, robotic dynamics, and physical interaction between the robot and the environment. Therefore, optimization-based TAMP is particularly suited to solve highly complex, contact-rich locomotion and manipulation problems. This survey provides a comprehensive review on optimization-based TAMP, covering (i) planning domain representations, including action description languages and temporal logic, (ii) individual solution strategies for components of TAMP, including AI planning and trajectory optimization (TO), and (iii) the dynamic interplay between logic-based task planning and model-based TO. A particular focus of this survey is to highlight the algorithm structures to efficiently solve TAMP, especially hierarchical and distributed approaches. Additionally, the survey emphasizes the synergy between the classical methods and contemporary learning-based innovations such as large language models. Furthermore, the future research directions for TAMP is discussed in this survey, highlighting both algorithmic and application-specific challenges. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # パラメータ化された行動空間に対するモデルに基づく強化学習
Model-based Reinforcement Learning for Parameterized Action Spaces ( http://arxiv.org/abs/2404.03037v2 ) ライセンス: Link先を確認 | Renhao Zhang, Haotian Fu, Yilin Miao, George Konidaris, | (参考訳) 本稿では,パラメータ化行動マルコフ決定プロセス(PAMDP)のためのモデルベース強化学習アルゴリズム - パラメータ化行動を用いた動的学習と予測制御(DLPA)を提案する。
エージェントはパラメータ化された動作条件付き力学モデルを学び、修正されたモデル予測経路積分制御で計画する。
リプシッツ連続性(英語版)のレンズを用いて達成された値の計画において、生成された軌跡と最適軌跡との差を理論的に定量化する。
いくつかの標準ベンチマークにおける実験結果から,本アルゴリズムは最先端のPAMDP法よりも優れたサンプリング効率と漸近性能が得られることが示された。
We propose a novel model-based reinforcement learning algorithm -- Dynamics Learning and predictive control with Parameterized Actions (DLPA) -- for Parameterized Action Markov Decision Processes (PAMDPs). The agent learns a parameterized-action-conditioned dynamics model and plans with a modified Model Predictive Path Integral control. We theoretically quantify the difference between the generated trajectory and the optimal trajectory during planning in terms of the value they achieved through the lens of Lipschitz Continuity. Our empirical results on several standard benchmarks show that our algorithm achieves superior sample efficiency and asymptotic performance than state-of-the-art PAMDP methods. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # パートアテンションに基づくモデルにより、付加した人物の認識をより強くする
Part-Attention Based Model Make Occluded Person Re-Identification Stronger ( http://arxiv.org/abs/2404.03443v2 ) ライセンス: Link先を確認 | Zhihao Chen, Yiyuan Ge, | (参考訳) 密閉者再識別(ReID)の目的は、密閉された状況下で特定の歩行者を回収することである。
しかし、隠された人物であるReIDは、モデルの性能を制限する、バックグラウンドの乱雑さと低品質なローカル特徴表現に悩まされている。
本研究では, 上記の課題に効果的に取り組むために, パートアテンション機構を組み込んだ新しいReIDモデルであるPAB-ReIDを提案する。
まず、より正確な人的部分注意マップの生成を導くために、人間のパーシングラベルを導入する。
また、背景干渉を抑えつつ、きめ細かい人間の局所的特徴表現を生成するための細粒度特徴焦点器を提案する。
さらに,クラス内/クラス間距離を最適化する局所特徴の学習を監督するために,部分三重項損失を設計する。
我々は、特殊閉塞とレギュラーReIDデータセットに関する広範な実験を行い、我々のアプローチが既存の最先端手法よりも優れていることを示した。
The goal of occluded person re-identification (ReID) is to retrieve specific pedestrians in occluded situations. However, occluded person ReID still suffers from background clutter and low-quality local feature representations, which limits model performance. In our research, we introduce a new framework called PAB-ReID, which is a novel ReID model incorporating part-attention mechanisms to tackle the aforementioned issues effectively. Firstly, we introduce the human parsing label to guide the generation of more accurate human part attention maps. In addition, we propose a fine-grained feature focuser for generating fine-grained human local feature representations while suppressing background interference. Moreover, We also design a part triplet loss to supervise the learning of human local features, which optimizes intra/inter-class distance. We conducted extensive experiments on specialized occlusion and regular ReID datasets, showcasing that our approach outperforms the existing state-of-the-art methods. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # イベントベース自動車データを考慮したスパイクニューラルネットワークパラメータの影響に関する一検討
A Methodology to Study the Impact of Spiking Neural Network Parameters considering Event-Based Automotive Data ( http://arxiv.org/abs/2404.03493v2 ) ライセンス: Link先を確認 | Iqra Bano, Rachmad Vidya Wicaksana Putra, Alberto Marchisio, Muhammad Shafique, | (参考訳) 自律運転(AD)システムは、人間の移動と交通の未来と見なされている。
リアルタイムのADシステムを実現するためには,画像分類や物体検出・分離などのコンピュータビジョンタスクを高精度かつ低消費電力で解決する必要がある。
これらの要件は、スパイキングニューラルネットワーク(SNN)によって満たされる可能性がある。
しかしながら、SNNベースのADシステムにおける最先端の作業は、精度の高いネットワークモデルの提案に重点を置いており、イベントベースの自動車データ学習において、SNNパラメータの役割を体系的に研究していない。
したがって、ADシステムのためのSNNモデルを効果的に開発する方法については、まだ理解されていない。
そこで本稿では,イベントベース自動車データを考慮したSNNパラメータの影響を体系的に研究し,分析する手法を提案する。
そこで我々はまず,学習メカニズム(バッチサイズ,学習速度,ニューロン閾値電位,体重減衰など)に直接影響を及ぼすSNNパラメータの異なる設定を探索し,精度を解析する。
その後,SNNの精度を向上し,トレーニング時間を短縮する手法を提案する。
実験結果から,NCARSデータセットの精度は86%,等精度(標準偏差0.5%以下で約85%)を達成でき,トレーニング時間を1.9倍に向上できることがわかった。
このようにして、本研究は、SNNパラメータ拡張のための一連のガイドラインを提供し、SNNベースのADシステムの実用的な開発を可能にする。
Autonomous Driving (AD) systems are considered as the future of human mobility and transportation. Solving computer vision tasks such as image classification and object detection/segmentation, with high accuracy and low power/energy consumption, is highly needed to realize AD systems in real life. These requirements can potentially be satisfied by Spiking Neural Networks (SNNs). However, the state-of-the-art works in SNN-based AD systems still focus on proposing network models that can achieve high accuracy, and they have not systematically studied the roles of SNN parameters when used for learning event-based automotive data. Therefore, we still lack understanding of how to effectively develop SNN models for AD systems. Toward this, we propose a novel methodology to systematically study and analyze the impact of SNN parameters considering event-based automotive data, then leverage this analysis for enhancing SNN developments. To do this, we first explore different settings of SNN parameters that directly affect the learning mechanism (i.e., batch size, learning rate, neuron threshold potential, and weight decay), then analyze the accuracy results. Afterward, we propose techniques that jointly improve SNN accuracy and reduce training time. Experimental results show that our methodology can improve the SNN models for AD systems than the state-of-the-art, as it achieves higher accuracy (i.e., 86%) for the NCARS dataset, and it can also achieve iso-accuracy (i.e., ~85% with standard deviation less than 0.5%) while speeding up the training time by 1.9x. In this manner, our research work provides a set of guidelines for SNN parameter enhancements, thereby enabling the practical developments of SNN-based AD systems. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # SCIM MILQ: HPC量子スケジューリング器
SCIM MILQ: An HPC Quantum Scheduler ( http://arxiv.org/abs/2404.03512v2 ) ライセンス: Link先を確認 | Philipp Seitz, Manuel Geiger, Christian Ufrecht, Axel Plinge, Christopher Mutschler, Daniel D. Scherer, Christian B. Mendl, | (参考訳) 量子ハードウェアの高度化と能力向上に伴い、その統合とハイパフォーマンスコンピューティング(HPC)インフラでの雇用が重要となる。
これにより、現在のクラウドアクセスモデルを超えて、量子古典コンピューティング環境で、ほとんど探索されていないアクセスモデルとスケジューリングの質問が開きます。
SCIM MILQは、HPCインフラにおける量子タスクのスケジューラである。
確立されたスケジューリング技術と、回路切断のような量子コンピューティング特有の手法を組み合わせる。
SCIM MILQは作業の開始から終了までの時間を最小化し、平均25%改善する。
さらに、回路内のノイズを最大10%低減し、結果の信頼性を高める。
既存のベースラインと比較し、HPC環境での生存可能性を示す。
With the increasing sophistication and capability of quantum hardware, its integration, and employment in high performance computing (HPC) infrastructure becomes relevant. This opens largely unexplored access models and scheduling questions in such quantum-classical computing environments, going beyond the current cloud access model. SCIM MILQ is a scheduler for quantum tasks in HPC infrastructure. It combines well-established scheduling techniques with methods unique to quantum computing, such as circuit cutting. SCIM MILQ can schedule tasks while minimizing the makespan, i.e., the time that elapses from the start of work to the end, improving on average by 25%. Additionally, it reduces the noise in the circuit by up to 10%, increasing the outcome's reliability. We compare it against an existing baseline and show its viability in an HPC environment. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # BanglaAutoKG:意味的ニューラルグラフフィルタリングによるバングラ知識グラフの自動構築
BanglaAutoKG: Automatic Bangla Knowledge Graph Construction with Semantic Neural Graph Filtering ( http://arxiv.org/abs/2404.03528v2 ) ライセンス: Link先を確認 | Azmine Toushik Wasi, Taki Hasan Rafi, Raima Islam, Dong-Kyu Chae, | (参考訳) 知識グラフ(KG)は、関連エンティティをリンクし、コンテキストに富んだ情報を提供し、効率的な情報検索と知識発見をサポートし、情報フローを極めて効果的な方法で提示するため、情報処理や推論アプリケーションにおいて必須であることが証明されている。
世界中で広く使われているにもかかわらず、バングラは包括的データセット、エンコーダ、NER(エンティティ認識)モデル、POS(part-of-speech)タグガー、レムマタイザの欠如、言語における効率的な情報処理と推論を妨げているため、KGでは比較的不足している。
ベンガルにおけるKG不足に対処し、バングラテキストからベンガルKGを自動構築できる先駆的なフレームワークであるBanglaAutoKGを提案する。
我々は多言語LLMを用いて様々な言語を理解し、エンティティと関係を普遍的に関連付ける。
翻訳辞書を用いて、英語の等価部分を識別し、事前学習されたBERTモデルから単語の特徴を抽出することにより、基礎的なKGを構築する。
雑音を低減し、単語の埋め込みをゴールに合わせるために、グラフベースの多項式フィルタを用いる。
最後に、文脈的理解を高め、不要なエッジをトリムするGNNベースのセマンティックフィルタを実装し、決定的なKGを形成する。
実験的な結果とケーススタディにより,任意のテキストから意味豊かなKGを自律的に構築できるモデルの有効性が実証された。
Knowledge Graphs (KGs) have proven essential in information processing and reasoning applications because they link related entities and give context-rich information, supporting efficient information retrieval and knowledge discovery; presenting information flow in a very effective manner. Despite being widely used globally, Bangla is relatively underrepresented in KGs due to a lack of comprehensive datasets, encoders, NER (named entity recognition) models, POS (part-of-speech) taggers, and lemmatizers, hindering efficient information processing and reasoning applications in the language. Addressing the KG scarcity in Bengali, we propose BanglaAutoKG, a pioneering framework that is able to automatically construct Bengali KGs from any Bangla text. We utilize multilingual LLMs to understand various languages and correlate entities and relations universally. By employing a translation dictionary to identify English equivalents and extracting word features from pre-trained BERT models, we construct the foundational KG. To reduce noise and align word embeddings with our goal, we employ graph-based polynomial filters. Lastly, we implement a GNN-based semantic filter, which elevates contextual understanding and trims unnecessary edges, culminating in the formation of the definitive KG. Empirical findings and case studies demonstrate the universal effectiveness of our model, capable of autonomously constructing semantically enriched KGs from any text. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |
| # EASSE-DE:ドイツ語の自動文簡易化評価
EASSE-DE: Easier Automatic Sentence Simplification Evaluation for German ( http://arxiv.org/abs/2404.03563v2 ) ライセンス: Link先を確認 | Regina Stodden, | (参考訳) 本研究では,英語以外の言語での文の自動評価を容易にするフレームワークであるEASSE-multiを提案する。
オリジナルのEASSEフレームワークと比較して、EASSE-multiは英語のみに焦点を当てていない。
トークン化器と、複数の言語に適したテキスト単純化評価メトリクスのバージョンを含んでいる。
本稿では、ドイツ語TSにおけるEASSE-multiの使用例を示し、その結果、EASSE-DEとなる。
さらに、異なる言語での評価やメトリクスのトークン化設定において、テキストの単純化結果を比較する。
これに基づいて、我々は(ドイツ)TSモデルの評価をより透明化し、比較しやすくする方法に関する勧告を定式化する。
EASSE-multiとそのドイツの特殊化(EASSE-DE)のコードはhttps://github.com/rstodden/easse-deにある。
In this work, we propose EASSE-multi, a framework for easier automatic sentence evaluation for languages other than English. Compared to the original EASSE framework, EASSE-multi does not focus only on English. It contains tokenizers and versions of text simplification evaluation metrics which are suitable for multiple languages. In this paper, we exemplify the usage of EASSE-multi for German TS, resulting in EASSE-DE. Further, we compare text simplification results when evaluating with different language or tokenization settings of the metrics. Based on this, we formulate recommendations on how to make the evaluation of (German) TS models more transparent and better comparable. The code of EASSE-multi and its German specialisation (EASSE-DE) can be found at https://github.com/rstodden/easse-de. | 翻訳日:2024-04-08 11:37:03 公開日:2024-04-05 |