多項式関数を近似する3層ニューラルネットワーク構造の計算

摘要

フィードフォワードネットワークを適当に構築すれば，与えられた連続関数を十分な精度で近似できることが関数近似定理として証明されている．しかし，この定理では関数を近似した場合の具体的な構造についての情報は扱われていない．本報告では，近似対象となる関数を多項式に限定し，それを近似する3層ネットワークの一つの具体的な構造を求める．ネットワークの構造はシステムパラメータで決定する．活性化関数が十分に滑らかな場合，システムパラメータは活性化関数のテイラー展開および行列演算から系統的に導かれる．提案方法から得られる3層ネットワーク構造は，学習則に対しても有効な情報を与えるものと期待できる．