机器学习（一）机器的发展史与概念

一、机器学习定义

• 机器学习本质上就是让计算机自己在数据中学习规律，并根据所得到的规律对未来数据进行预测
• 机器学习包括聚类、分类、决策树，贝叶斯，神经网络，深度学习等算法
• 机器学习的基本思路是 模仿人类学习的过程。比如说我们在现实中的新问题一般是通过经验归纳，总结规律，从而预测未来的过程，机器学习也类似

二、机器学习的发展历史

这个不重要，有兴趣可以去了解了解

三、机器学习中常见知识点（常识性的）

泛化（generalization）：模型处理新的数据的能力。处理新数据的能力越强，我们成为泛化能力越强。

通俗理解，模型能从训练数据集中学到的规律，去处理没有见过的数据的能力。

四、机器学习分类

机器学习可分为监督学习、半监督学习、无监督学习和强化学习（奖励与惩罚）

4.1 监督学习

监督学习就是需要你事先准备好要输入的数据（就是训练集，也可以叫做特征）和真实的输出结果（就是标签），然后通过计算机的学习得到一个预测模型，再用这个得到的预测模型去预测未知的样本

• 监督学习主要用于分类算法与回归算法
• 常见的分类算法有 K近邻（KNN），朴素贝叶斯，决策树，随机森林，逻辑回归，SVM支持向量机，神经网络等
• 常见的回归算法有线性回归，岭回归和拉索回归（防止过拟合），逻辑回归

4.2 半监督学习

• 半监督学习（Semi-Supervised Learning）是利用少量标注数据和大量无标注数据进行学习的模式

4.3 无监督学习

• 无监督学习（Unsupervised Learning）计算机根据样本的特征或相关性，实现从样本数据中训练出相应的预测模型

• 无监督学习主要用于关联分析、聚类和降维

• 常见的无监督学习算法有 K-Means算法（K 均值算法）

4.4 强化学习

• 强化学习类似于监督学习，但未使用样本数据进行训练，是通过不断试错进行学习的模式

• 核心机制是奖励与惩罚

想象一下教一只小狗做动作：

1. 你发出“坐下”的指令（状态 State）。

2. 小狗尝试着坐下（动作 Action）。

3. 如果它做对了，你就给它一块零食作为奖励（奖励 Reward）。

4. 如果做错了，就没有零食（甚至可能有轻微的惩罚）。

5. 经过多次尝试，小狗学会了将“坐下”这个指令、它做出的坐下动作、以及获得零食的快乐联系起来，最终一听到指令就会立刻坐下。

强化学习的核心思想与此完全一致：通过试错来学习。

4.5 区别

• 监督学习就是有大量特征，大量标签来训练
• 半监督学习就是大量特征，但只有部分标签
• 无监督学习就是大量特征，没有标签
• 强化学习就是试错试错寻找最优策略

五、机器学习项目常用的开发步骤

后面大多数算法都是按这个步骤来的，不同的只是模型训练那里选取的算法不同

1. 准备数据集  
2. 数据清洗     这一步是最麻烦耗时的了（这里一般要处理数据集里面的数据，因为有时候数据集里面会有很多空缺值，需求看情况填充，可以用众数，平均数，中位数等看情况填充，然后还需要对数据集进行特征工程处理，比如把非数值型数据转化为数值型数据，对一些数据，比如那种东西南北，地区啥的有时候需要进行独热编码（独热编码见最后面，我解释））数据清洗完毕后就需要获取所有的特征和标签
3. 划分数据集
4. 归一化或者标准化
5. 创建模型对象，用什么算法就创建哪一个对象
6. 训练模型
7. 测试模型
8. 优化模型

六、补充知识（独热编码）

import pandas as pd
​
# 示例数据
data = {'所在区域': ['北京', '上海', '北京', '广州'], '年龄': [25, 30, 22, 28]}
df = pd.DataFrame(data)
​
# 执行独热编码
df = pd.get_dummies(df, columns=['所在区域'], prefix='区域')
​
# 显示结果
print(df)  # 在终端或脚本中输出

什么是独热编码？

独热编码（One-Hot Encoding）是一种将分类变量转换为机器学习算法更易理解形式的预处理技术。它将具有N个不同类别的特征扩展为N个二进制特征（0或1），每个新特征对应原始特征的一个类别。

为什么需要独热编码？

大多数机器学习算法（如线性回归、逻辑回归、支持向量机等）不能直接处理分类数据，因为它们基于数学运算。将分类变量转换为数值形式是必要的，但简单的数值编码（如"北京"=1，"上海"=2）会引入错误的数值关系（暗示上海比北京"大"）。独热编码避免了这个问题。

工作原理

假设有一个"城市"特征包含三个类别：北京、上海、广州

原始数据：

独热编码后：