2020年02月07日に発表されたニューラルネットワーク分野の論文6本のAbstractをまとめて和訳しました。
この記事の見出し
- 1 The Costs and Benefits of Goal-Directed Attention in Deep Convolutional Neural Networks
- 2 From Data to Actions in Intelligent Transportation Systems: a Prescription of Functional Requirements for Model Actionability
- 3 A Neural Approach to Ordinal Regression for the Preventive Assessment of Developmental Dyslexia
- 4 Exploring Maximum Entropy Distributions with Evolutionary Algorithms
- 5 $ε$-shotgun: $ε$-greedy Batch Bayesian Optimisation
- 6 Convergence analysis of particle swarm optimization using stochastic Lyapunov functions and quantifier elimination
The Costs and Benefits of Goal-Directed Attention in Deep Convolutional Neural Networks
深い畳み込みニューラルネットワークにおける目標指向型注意のコストと利点
URL:http://arxiv.org/abs/2002.02342v1
この論文の概要(機械翻訳による和訳)
機械学習の注意は主にボトムアップですが、人々はトップダウンの目標指向の注意も展開します。神経科学の研究に動機付けられ、既存のディープコンボリューショナルニューラルネットワーク(DCNN)に簡単に追加できる、プラグアンドプレイのトップダウンアテンションレイヤーを評価しました。物体認識タスクでは、トップダウンの注意を高めることには利点(ヒット率の増加)とコスト(誤警報率の増加)があります。中程度のレベルでは、注意は標準画像、混合画像、および自然の敵対画像を含むタスクのバイアスの適度な増加のみで感度を改善します(つまり、$ d ^ prime $を増加します)。これらの理論的結果は、トップダウンの注意が、現在のタスク目標によりよく適合するように汎用DCNNを効果的に再構成できることを示唆しています。この結果が、神経科学と機械学習の間の実り多い対話を継続することを願っています。
From Data to Actions in Intelligent Transportation Systems: a Prescription of Functional Requirements for Model Actionability
インテリジェント交通システムのデータからアクションまで:モデルのアクション可能性の機能要件の規定
URL:http://arxiv.org/abs/2002.02210v1
この論文の概要(機械翻訳による和訳)
最近、データサイエンスの進歩がTransportationScienceおよびEngineeringのすべての分野に浸透しており、輸送部門の開発はデータ駆動型であると想像するのは簡単です。今日、IntelligentTransportation Systems(ITS)は、大量のデータを集中的に生成および消費する「ストーリー」としてほぼ間違いなくアプローチできるでしょう。インフラストラクチャ、車両、または旅行者の個人用デバイスに密に広がる多様なセンシングデバイスは、最終的に自動デバイス、アクチュエーター、または制御システムで実行されるソフトウェアに供給されるデータフローのソースとして機能し、ユーザー、トラフィックマネージャー、データ間の複雑な情報フローを生成しますこれらの情報フローは、モデル開発と意思決定を改善する大きな機会を提供します。本研究の目的は、さまざまなITSソースからのデータを使用して、ITS資産、システム、およびプロセスを効率的に運用するためのデータ駆動型モデルを学習および適応する方法を説明することです。言い換えれば、データベースのモデルが完全に実行可能になります。このITSのデータモデリングパイプラインに基づいて、データ融合、適応学習、モデル評価という3つの複合化段階に固有の特性、工学的要件、課題を定義します。私たちの論文の中核は、ほとんどの学習者が大部分のITSアプリケーションの根底にある絶え間なく変化する現象に適応しなければならないという確固たる信念があるからです。最後に、データベースのITSモデリングに顕著な進歩をもたらすことができる、データサイエンスレルム内の現在の研究ラインの展望を提供します。
A Neural Approach to Ordinal Regression for the Preventive Assessment of Developmental Dyslexia
発達性失読症の予防的評価のための順序回帰への神経アプローチ
URL:http://arxiv.org/abs/2002.02184v1
この論文の概要(機械翻訳による和訳)
発達性失読症(DD)は、人口の約5%に影響を及ぼす読書能力の習得に関連する学習障害です。 DDは、影響を受けた子供の知的および個人的な発達に大きな影響を与える可能性があるため、早期発見は言語教育の予防戦略を実施するための鍵となります。研究により、音素処理に影響するDDの生物学的基盤が存在する可能性があり、したがって、これらの症状は、読解能力が獲得される前に識別可能であり、早期の介入が可能になることが示されています。この論文では、生徒が読むことを学ぶ前にDDのリスクを評価する新しい方法論を提案します。この目的のために、5歳で完了できるテストからディスレクシアのリスクレベルを計算する混合神経モデルを提案します。私たちの方法は、最初に自動エンコーダーをトレーニングし、次にトレーニングされたエンコーダーを、予測の一貫性を確保するために考案された最適化された順序回帰ニューラルネットワークと組み合わせます。私たちの実験は、システムが主に音韻処理に基づいてDDのリスクを評価できる2年前に影響を受けていない被験者を検出し、0.969の特異性と0.92以上の正しいレートを与えることを示しています。さらに、訓練されたエンコーダーを使用して、テスト結果を解釈可能な対象の空間分布に変換し、リスク評価を容易にし、方法論を検証することができます。
Exploring Maximum Entropy Distributions with Evolutionary Algorithms
進化的アルゴリズムによる最大エントロピー分布の調査
URL:http://arxiv.org/abs/2002.01973v1
この論文の概要(機械翻訳による和訳)
この論文は、与えられた制約のセットに対する最大エントロピー確率分布を数値的に進化させる方法を示します。これは変分法の問題です。進化的アルゴリズムは、いくつかのよく知られた分析結果の近似値を取得できますが、さらに柔軟性があり、閉式を簡単に記述できない分布を見つけることができます。数値的アプローチは、有限間隔での分布を処理します。手順を実行する方法は2つあることを示します。制約付き問題のラグランジアンを直接最適化する方法、または制約を満たす分布のサブセット間でエントロピーを最適化する方法です。漸進的進化戦略は、制約された問題が2つの方法のいずれかで解決されると、他の分布の中で、均一、指数、ガウス、対数正規、ラプラスを簡単に取得します。混合(「キメラ」)分布のソリューションも見つけることができます。分布の多くが対称的かつ連続的であるが、一部はそうではない理由を説明します。
$ε$-shotgun: $ε$-greedy Batch Bayesian Optimisation
$ε$ -shotgun:$ε$ -greedy Batch Bayesian Optimization
URL:http://arxiv.org/abs/2002.01873v1
この論文の概要(機械翻訳による和訳)
ベイジアン最適化は、高価なブラックボックス関数を最適化するための一般的な代理モデルベースのアプローチです。代理モデルが与えられた場合、安価にクエリを取得する関数を最大化することで、費用のかかる評価を行う次の場所が選択されます。ブラックボックス関数を複数回並行して評価できるバッチ設定でのベイズ最適化のための$ epsilon $ -greedy手順を示します。私たちの$ epsilon $ -shotgunアルゴリズムは、モデルの予測、不確実性、および景観の変化率の概算を活用して、推定位置に分散するバッチソリューションの広がりを決定します。初期ターゲットの場所は、平均予測で搾取的な方法で、または-確率$ epsilon $-で設計空間の他の場所から選択されます。これにより、関数が急速に変化している領域でより高密度にサンプリングされた場所と、インロケーションが良好であると予測された(つまり、予測された最適値に近い)位置になり、関数がより平坦であるか、品質が低い領域でより多くの散乱サンプルが発生します。一連の合成関数と2つの実世界の問題で$ epsilon $ -shotgunメソッドを経験的に評価し、それらが少なくとも最新のバッチメソッドと同様に実行され、多くの場合それらのパフォーマンスを上回ることを発見しました。
Convergence analysis of particle swarm optimization using stochastic Lyapunov functions and quantifier elimination
確率的リアプノフ関数と数量詞消去を使用した粒子群最適化の収束解析
URL:http://arxiv.org/abs/2002.01673v1
この論文の概要(機械翻訳による和訳)
この論文は、確率的リアプノフ関数を採用し、数量詞消去により収束集合を決定することを提案することにより、粒子群安定性の理論的側面に関する議論に追加します。計算手順を提示し、このアプローチが、リアプノフアプローチの低迷の仮定を使用して、PSOの既知の安定領域の再評価と拡張につながることを示します。