超级会员免费看
径向基函数网络的变体、特殊情况及与核方法的关系
1. RBF网络监督训练的偏导数与问题
在RBF网络中，我们可以计算关于带宽 $\sigma$ 和原型向量各分量的偏导数。
关于带宽 $\sigma$ 的偏导数计算如下：
$$
\frac{\partial L}{\partial \sigma} = \sigma \sum_{j=1}^{m} \frac{\partial L}{\partial \sigma_{j}} \cdot \frac{\partial \sigma_{j}}{\partial \sigma} = \sigma \sum_{j=1}^{m} \frac{\partial L}{\partial \sigma_{j}} = \sigma \sum_{j=1}^{m} \sum_{i=1}^{n} (W \cdot H_{i}^{T} - y_{i}) w_{j} \Phi_{j}(X_{i}) \frac{||X_{i} - \mu_{j}||^{2}}{\sigma^{3}}
$$
设 $\mu_{jk}$ 表示 $\mu_{j}$ 的第 $k$ 个元素，$x_{ik}$ 表示第 $i$ 个训练向量 $X_{i}$ 的第 $k$ 个分量，关于 $\mu_{jk}$ 的偏导数计算如下：
$$
\frac{\partial L}{\partial \mu_{jk}} = \sum_{i=1}^{n} (W \cdot H_{i}^{T} - y_{i}) w_{j} \Phi_{j}(X_{i}) \frac{(x_{ik} - \mu_{jk})}{\sigma_{j}^{2}}
$$
订阅专栏 解锁全文
扫一扫
109
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
