支持向量机入门系列-1：引子

最新推荐文章于 2026-05-06 00:01:00 发布
原创 最新推荐文章于 2026-05-06 00:01:00 发布 · 1.8w 阅读 · 42
标签
#优化 #xp #图形 #任务
本文作为支持向量机入门系列的第一篇，介绍了支持向量机的目的，即寻找最大间隔的超平面将样本分类。讨论了超平面的概念、线性可分与不可分情况、支持向量及其重要性，以及如何通过最大化间隔来优化超平面。最后，形式化了该优化问题并引入了约束条件。
 

 

好了，现在开始写支持向量机系列，希望能坚持下去。

仅供参考，请勿转载，因为随时都可能会修改。

 

第一部分   引子

 

1. 支持向量机的目的是什么？

对于用于分类的支持向量机来说，给定一个包含正例和反例（正样本点和负样本点）的样本集合，支持向量机的目的是寻找一个超平面来对样本进行分割，把样本中的正例和反例用超平面分开，但是不是简单地分看，其原则是使正例和反例之间的间隔最大。

超平面是什么呢？简单地说，超平面就是平面中的直线在高维空间中的推广。那么，对于三维空间，超平面就是平面了。对于更高维的空间，我们只能用公式来表达，而缺少直观的图形了。总之，在n维空间中的超平面是n-1维的。

超平面的公式为。公式中的w为可以调整的系数向量，b为bias。注意我们的表达习惯，所有的向量都是列向量，所以在第一项的内积中向量w需要进行转置。

现在考虑样本集合{xi，di}，xi是输入的特征，di是样本对应的分类。现在规定当样本xi属于第一类时，di为1，当xi属于第二类时，di为-1。

那么，线性可分的意思就是一个超平面可以把两类样本完全地分割开来。用公式表达就

最低0.47元/天 解锁文章
机器学习：支持向量机(SVM)与Python实现第(一)篇
08-23 1万+
前言最近看了Andrew Ng的机器学习视频中的支持向量机，视频的内容比较浅显，没有深入解释支持向量机中的数学原理。但是对于一个比较执着于知道为什么的人，笔者还是去网上查找了有关支持向量机原理以及实现的相关资料。在查找的过程中，笔者发现支持向量机的内容还是蛮多的，于是笔者根据自己的理解，并且参考了一些相关资料，最终写下了支持向量机的四篇博客。 机器学习：支持向量机(SVM)与Python实现第(一
支持向量机通俗导论（理解SVM的三层境界）
深耕汽车电子：AUTOSAR、电机控制，助力数字汽车
11-11 4026
            支持向量机通俗导论（理解SVM的三层境界） 作者：July 。致谢：pluskid、白石、JerryLead。 说明：本文最初写于2012年6月，而后不断反反复复修改&优化，修改次数达上百次，最后修改于2016年11月。 声明：本文于2012年便早已附上所有参考链接，并注明是篇“学习笔记”，且写明具体参考...
机器学习笔记(4)——支持向量机(SVM)
icepoint的博客
08-04 2474
SVM 支持向量机 SupportVectorMachine 1. 概念 SVM是个二分类的分类模型。也就是说，给定一个包含正例和反例（正样本点和负样本点）的样本集合，支持向量机的目的是寻找一个超平面来对样本进行分割，把样本中的正例和反例用超平面分开，但是不是简单地分看，其原则是使正例和反例之间的间隔最大。学习的目标是在特征空间中找到一个分类超平面wx+b=0，分类面由法向量w和
ML：支持向量机的基本原理与实现
最新发布
qq_41176800的博客
05-06 604
有一类方法的关注点更集中：它试图找到一个能够把不同类别尽量分开的边界，并且希望这个边界不仅能分开训练样本，还能对新样本保持较好的泛化能力。如果先看最简单的二分类情形，假设两类样本在特征空间中可以被一条直线、一个平面或更高维超平面分开，那么支持向量机不会只满足于“把它们分开”，而是进一步要求：在所有可分开的边界中，选择那个间隔最大的边界。而远离边界的样本，即使略有移动，对边界影响也往往不大。支持向量机与一般线性分类器的关键区别，不在于“是否有一个线性边界”，而在于它追求的是最大间隔分类。
机器学习 —— 支持向量机
DreamWendy的博客
12-31 1万+
一、基于最大间隔分隔数据 1.1 线性模型 1.2 超平面 1.3 支持向量 1.4 支持向量机 二、寻找最大间隔 三、拉格朗日乘子法与对偶问题 3.1对偶问题：等式约束 3.2不等式约束的KKT条件 3.3最大间隔问题的拉格朗日乘法 四、SMO算法 4.1 小规模数据集 4.2 应用简化版 SMO 算法处理小规模数据集 4.3、利用完整Platt SMO算法加速优化 五、示例：基于SVM的手写数字识别 5.1 数据集 5.2 算法实现 六、实验总结
什么是支持向量机【SVM，详细理论推导】
v20000727的博客
12-21 1万+
支持向量机(support vector machines, SVM)是一种二分类模型。本文详细介绍线性可分支持向量机和线性支持向量机的原理、算法推导，同时有不少图帮助理解。
支持向量机（SVM）
星辰的博客
01-17 3万+
算法简介 支持向量机(SVM)是种二类分类模型。 它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机:支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划的问题，也等价于正则化的合页损失函数的最小化问题。支持向量机的学习算法是求解凸二次规划的最优化算法。 支持向量机学习方法包含构建由简至繁的模型:线性可分支持向量机、线性支持向量机以及非线性支持向量机。简单模型是复杂模型的基础，也是复杂模型的特殊情况。当训练数据线
1、支持向量机在多吸引子动力学学习中的应用
peach的博客
08-27 68
本文提出一种增强型支持向量机（A-SVM），通过结合梯度观测和函数值观测，有效学习具有多个吸引子的非线性动力系统。该方法引入分类、Lyapunov和稳定性三类约束，构建调制函数以确保轨迹在各自吸引域内运动并收敛至期望吸引子。通过二次规划求解对偶问题，实现对复杂运动模式的精确建模与控制。实验验证了其在十自由度机器人平台上的实时性、鲁棒性和适应性，适用于机器人运动规划、多目标切换等复杂场景。
《机器学习》学习笔记（六）——支持向量机（SVM）
闭关修炼——暂退
04-29 7894
机器学习(Machine Learning)是一门多学科交叉专业，涵盖概率论知识，统计学知识以及复杂算法知识，使用计算机作为工具并致力于真实实时的模拟人类学习方式， 并将现有内容进行知识结构划分来有效提高学习效率。本专栏将以学习笔记形式对《机器学习》的重点基础知识进行总结整理，欢迎大家一起学习交流！专栏链接：《机器学习》学习笔记 1. 概述 支持向量机（support vector mac...
《机器学习》——支持向量机（SVM）
Gavin_Thomas的博客
06-11 807
1. 概述支持向量机（support vector machines, SVM）是一种二分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。与之前学习笔记所述的分类问题不同的是：分类问题强调将不同类的样本点以一条线分隔开，而支持向量机则是强调将不同的两类样本点分隔的间隔最大。
机器学习之支持向量机（SVM）
十年以上架构设计经验，专注于软件架构和人工智能领域，对机器视觉、NLP、音视频等领域都有涉猎
06-26 4万+
支持向量机（support vector machine，SVM）是有监督学习中最有影响力的机器学习算法之一，该算法的诞生可追溯至上世纪 60 年代， 前苏联学者 Vapnik 在解决模式识别问题时提出这种算法模型，此后经过几十年的发展直至 1995 年， SVM 算法才真正的完善起来，其典型应用是解决手写字符识别问题。SVM 是一种非常优雅的算法，有着非常完善的数学理论基础，其预测效果，在众多机器学习模型中“出类拔萃”。在深度学习没有普及之前，“支持向量机”可以称的上是传统机器学习中的“霸主”。
机器学习——支持向量机
wsndddhh的博客
06-11 5626
支持向量机（Support Vector Machines, SVM）是一种监督学习模型，用于解决二分类问题，在机器学习领域有着广泛的应用。SVM通过在样本空间中寻找一个划分超平面，将不同类别的样本分开，同时使得两个点集到此平面的距离（即间隔）最大，因此又被称为最大间隔超平面。有效处理高维数据：SVM在高维空间中表现优异，能够处理特征维数大于样本数的情况。它的性能不会因为特征数量多而显著下降。支持非线性分类：通过核函数，SVM可以将原始数据映射到高维空间，从而能够有效地处理非线性分类问题。
机器学习算法（二）---支持向量机SVM
u012121721的博客
08-06 4178
支持向量机是一种二分类模型，它的目的是寻找一个超平面来对样本进行分割，分割的原则是间隔最大化，最终转化为一个凸二次规划问题求解。 非线性问题：SVM的处理方法是选择一个核函数，通过将数据映射到高维空间，来解决在原始空间中线性不可分的问题。 ...
机器学习：支持向量机（SVM）
热门推荐
燕双嘤
11-06 20万+
支持向量机（SVM）是一类按监督学习方式对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面，可以将问题化为一个求解凸二次规划的问题。与逻辑回归和神经网络相比，支持向量机，在学习复杂的非线性方程时提供了一种更为清晰，更加强大的方式。
支持向量机（SVM算法）
lili_lak的博客
06-11 7158
支持向量机（SVM, support Vector Machines）：二分类算法模型，它的目的是寻找一个超平面来对样本进行分割，分割的原则是间隔最大化，最终转化为一个凸二次规划问题来求解。当训练样本线性可分时，通过硬间隔最大化，学习一个线性可分支持向量机当训练样本近似线性可分时，通过软间隔最大化，学习一个线性支持向量机当训练样本线性不可分时，通过核技巧和软间隔最大化，学习一个非线性支持向量机用于解决模式识别领域中的数据分类问题，属于有监督学习算法。支持向量机可以分为线性核非线性两大类。
支持向量机（SVM）通俗版讲解
czhendehaonan的博客
04-08 8921
而对于更高的维度，虽然我们处在三维的世界，无法想象三维以上的世界，但我们可以使用数学方法描述更高维度，同样也可以使用数学方法推导出高维的线性模型。所以我们可以这样描述SVM的目的：找到这样一个超平面wx+b=0，使得在超平面上方的点x代入函数y=wT x+b，y全部大于0，在超平面下方的点x代入函数y=wx+b，y全部小于0。显然，在上述的二维空间中，我们的目标就是找到这样的一条直线，能够把样本集划分成两部分，我们把这样的线称作。的函数，分类效果最好的超平面应该使d最大，我们的目的就是寻找这样的。
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值