cs231n 作业1 心路历程

cs231n Assignment 1 cww note

做cs231n的作业的一个心路历程，不会重复别人写好的材料，别人写的数学分析，代码，比我高到不知道哪里去了

We are here

这也是一门经典的课程了，网上材料一堆，在自己很菜的情况下不上网查是不可能的，查了哪些引用了哪些我直接链接过去，这里记录自己的探索过程，并没有什么阅读价值~

KNN

在cs231-lec2中讲解了这个很粗暴的算法：比较两张图片的每一个像素作为distance，对于每一个测试选取训练集中与之dist最小的。

比较有意思的是里面计算距离矩阵的三种方法, two_loops, one_loop, no_loop, 完全平方公式还有python中的broadcast比较有意思，还是能学到东西的。

最后的交叉验证，之前在博哥的ML课上做过。所以就skip了

赶紧看模态融合啊，先鸽了，明天之后再写这个。(2019.12.16)

SVM

梯度怎么求，这谁记得住啊？救

回忆SVM的loss

scores = X[i].dot(W)

注意到这里是X[i] 在前，W在后，X的shape是(500, 3073)，那么X[i]便是一个长度为3073的行向量,而W是(3073, 10)。

第i张图片在第j个分类的得分只与W的第j列有关，所以当margin > 0即有loss的时候