ニューラルネットワーク分野論文まとめ【2020年01月28日arXiv公開】

この論文の概要（機械翻訳による和訳）
Meenaを公開します。これは、パブリックドメインのソーシャルメディアの会話からデータマイニングおよびフィルター処理されたエンドツーエンドのマルチターンオープンドメインチャットボットです。この2.6Bパラメータニューラルネットワークは、複雑さを最小限に抑えるようにトレーニングされています。これは、マルチターンの会話品質の人間の判断と比較する自動メトリックです。この判断をキャプチャするために、私たちは良好な会話の重要な要素をキャプチャする感度と特異度平均（SSA）と呼ばれる人間の評価指標を提案します。興味深いことに、我々の実験は、複雑さとSSAの間に強い相関関係があることを示しています。エンドツーエンドで最適なパープレキシティがSSAでトレーニングされたMeenascores（マルチターン評価で72％）であるという事実は、パープレキシティをより適切に最適化できる場合、86％の人間レベルのSSAが潜在的に到達可能であることを示唆しています。 Meena（フィルタリングメカニズムとtuneddecodingを使用）のスコアは79％SSAで、次に評価したスコアリングチャットボットよりも23％高くなりました。

この論文の概要（機械翻訳による和訳）
生き続けるためには、生物は積極的に自らを維持しなければなりません。オートポイエーシスは、生物の研究における重要な概念であり、生物自体の境界は、システム自体によって動的に調節されることにより静的ではありません。自己境界の自律的調節を研究するために、生物学的および人工的なニューラルネットワークの両方を使用して、環境の変化に対する神経ホメオダイナミクス応答に焦点を当てます。以前の研究では、体化された培養神経ネットワークとスパイクタイミング依存可塑性（STDP）のスパイクニューラルネットワークは、外部からの刺激を避けるため、アクションを学習することが示されました。この論文では、具体化された培養ニューロンを使用した実験の結果、ネットワークが刺激を回避できるようにする2番目の特性もあることがわかりました。エージェントが外部刺激を回避するためのアクションを学習できない場合、刺激誘発スパイクを減少させる傾向があります、制御不能な入力を無視するかのように。また、このような動作が非対称STDPのスパイクネットワークによって再現されることも示しています。これらの特性は、制御可能なニューロンが自己と見なされ、制御不能なニューロンが非自己と見なされるネットワークの自己および非自己の自律的規制と見なされます。最後に、刺激回避の原理を提案することにより、神経の自己形成を紹介します。

この論文の概要（機械翻訳による和訳）
データの視覚化は、ビッグデータセットを理解するためのデータマイニングの重要なツールです。よく知られている最先端の方法であるt-Distributed Stochastic NeighbourEmbeddingを含む多くの視覚化方法が提案されています。ただし、最も強力な視覚化方法には大きな制限があります。データセットの元の機能から視覚化を作成する方法は完全に不透明です。多くのドメインでは、元の機能に関してデータを理解する必要があります。したがって、理解可能なモデルを使用する強力な視覚化方法が必要です。この作業では、データセットから高品質の視覚化に解釈可能なマッピングを進化させるためのGPtSNEという名前の遺伝的プログラミングアプローチを提案します。単一の実行でさまざまな視覚化を生成する多目的アプローチが設計されており、視覚的品質とモデルの複雑さの間で異なるトレードオフが得られます。さまざまなデータセットのベースラインメソッドに対するテストにより、GP-tSNEの明確な可能性が示され、既存の視覚化メソッドによって提供されるデータよりも深い洞察が得られます。さらに、候補フロントの詳細な分析を通じて、多目的アプローチの利点を強調します。

この論文の概要（機械翻訳による和訳）
領域の視覚的特徴は、特徴に基づいてマシンの生成機能を強化しますが、適切な相互作用の注意知覚を欠いているため、偏った、または無相関の文や断片の情報になります。この作業では、属性の相互作用-テンソルProductRepresentation（aiTPR）を提案します。これは、直交結合を通じてより多くの情報を収集し、相互作用を物理エンティティ（テンソル）として学習し、キャプションを改善する便利な方法です。機能が未定義の機能空間に追加される以前の作品と比較して、TPRは組み合わせの健全性を維持するのに役立ち、直交性はおなじみの空間を定義するのに役立ちます。オブジェクトとその相互作用を定義する新しいコンセプトレイヤーを導入し、さまざまな記述の決定に重要な役割を果たすことができます。インタラクションの部分は、キャプションの品質を大幅に向上させ、このドメインとMSCOCOデータセットに関する以前のさまざまな成果を上回っています。私たちは、地域の画像特徴と抽象化された相互作用尤度を画像キャプションに埋め込むという概念を初めて導入しました。

この論文の概要（機械翻訳による和訳）
出力の観察から、確率的多層ニューラルネットワークの入力変数と隠れ変数を推測する問題を検討します。各レイヤーの隠し変数は行列として表されます。この問題は、深い生成的事前モデル、マルチタスクおよび混合回帰、および特定のクラスの2層ニューラルネットワークを介した信号回復に適用されます。 MAPとMMSEの両方の推論に対する統一近似アルゴリズムは、最近開発された多層ベクトル近似メッセージパッシング（ML-VAMP）アルゴリズムを拡張して、行列値の未知数を処理することによって提案されます。提案された多層マトリックスVAMP（ML-Mat-VAMP）アルゴリズムのパフォーマンスは、特定のランダムな大規模システムの制限で正確に予測できることが示されています。右矢印 infty $、$ d $修正済み。 2層ニューラルネットワークの学習問題では、このスケーリングは、入力フィーチャとトレーニングサンプルの数が無限に増加する場合に対応しますが、非表示ノードの数は固定されたままです。分析により、パラメータの正確な予測と学習のテストエラーが可能になります。