活性化関数

活性化関数には、中間層でよく使われる「シグモイド関数」や「ReLU（ランプ関数）」、出力層で使われる「恒等関数」や「ソフトマックス関数」があります。どれも聞きなれない名前が付いているので、いっけん難しそうに思えますが、実際にプログラムでこれらの関数を作ってみると、わずか数行のコードでできてしまうほど簡単です。そこで今回は、Python（バージョン３）での活性化関数の実装方法をまとめてみました。