始めに 活性化関数で有名なものとして，ReLU[1]があります．ReLUが有名になった（かつ，ReLUがディープラーニングを有名にした）のは，2012年頃でしょうか．数年前，ReLUと同様にブレイ…