diff --git "a/01.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\237\272\347\241\200/1.\346\277\200\346\264\273\345\207\275\346\225\260/1.\346\277\200\346\264\273\345\207\275\346\225\260.md" "b/01.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\237\272\347\241\200/1.\346\277\200\346\264\273\345\207\275\346\225\260/1.\346\277\200\346\264\273\345\207\275\346\225\260.md" index 1201205..3e33488 100644 --- "a/01.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\237\272\347\241\200/1.\346\277\200\346\264\273\345\207\275\346\225\260/1.\346\277\200\346\264\273\345\207\275\346\225\260.md" +++ "b/01.\345\244\247\350\257\255\350\250\200\346\250\241\345\236\213\345\237\272\347\241\200/1.\346\277\200\346\264\273\345\207\275\346\225\260/1.\346\277\200\346\264\273\345\207\275\346\225\260.md" @@ -119,7 +119,7 @@ $$ \operatorname{PReLU}(z)=\left\{\begin{array}{ll}\alpha \cdot z & \text { if } z \leqslant 0 \\ z & \text { if } z>0\end{array}\right. $$ -RReLU 的公式如下,这里的 $\alpha$是从一个高斯分布中随机产生的,在训练过程中每次这个 $\alpha$ 都是不相同的;在推理时会将这个$\alpha$都是不相同的;在推理时会将这个 +RReLU 的公式如下,这里的 $\alpha$是从一个高斯分布中随机产生的,在训练过程中每次这个 $\alpha$ 都是不相同的: $$ \operatorname{RReLU}(z)=\left\{\begin{array}{ll}\alpha \cdot z & \text { if } z \leqslant 0 \\ z & \text { if } z>0\end{array}\right.