残差图（Residual Plot）：模型诊断的关键工具

最新推荐文章于 2026-06-27 14:57:35 发布

原创最新推荐文章于 2026-06-27 14:57:35 发布 · 2.1k 阅读

23 ·

本内容遵循CC 4.0 BY-SA版权协议

GEO检测

收录于

人工智能

Python

OTHER

Python3.8

Conda

Python

Python 是一种高级、解释型、通用的编程语言，以其简洁易读的语法而闻名，适用于广泛的应用，包括Web开发、数据分析、人工智能和自动化脚本

本文由「大千AI助手」原创发布，专注用真话讲AI，回归技术本质。拒绝神话或妖魔化。搜索「大千AI助手」关注我，一起撕掉过度包装，学习真实的AI技术！

1 残差图的基本概念

残差图（Residual Plot）是回归分析中用于评估模型拟合优度的重要诊断工具。在统计学和机器学习中，残差（Residual）定义为观测值与模型预测值之间的差异，即 $e_i = y_i - \hat{y}_i$ ，其中 $y_i$ 是实际观测值， $\hat{y}_i$ 是模型预测值。残差图则是将这些残差以散点图的形式可视化呈现，通常将预测值或某个自变量放在横轴，残差值放在纵轴。

残差图的主要作用在于帮助数据分析师识别模型中的潜在问题，包括但不限于：非线性关系、异方差性（heteroscedasticity）、异常值（outliers）以及模型缺乏拟合（lack-of-fit）等情况。通过分析残差图的模式，我们可以判断回归模型是否满足线性回归的基本假设——线性性、独立性、正态性和同方差性。

1.1 残差图的基本构成

一个典型的残差图包含以下元素：

横轴：可以是预测值 $\hat{y}_i$ 、某个自变量 $x_j$ 或者是观测时间序列（针对时间序列数据）
纵轴：残差值 $e_i = y_i - \hat{y}_i$
参考线：在 $y = 0$ 处的一条水平参考线，用于帮助识别残差的正负偏差

1.2 残差图的类型

根据不同的诊断目的，残差图有多种变体：

普通残差图：最基本的残差图，绘制残差与预测值或自变量的关系
标准化残差图：使用标准化后的残差（残差除以标准差），使得判断异常值更加容易
偏残差图（Partial Residual Plot）：多元回归中常用的诊断工具，用于评估模型中在一个或另一个解释变量中是否包含非线性项。它用偏残差代替残差图中的普通残差，能帮助识别单个变量对响应变量的非线性影响
学生化残差图：进一步调整了残差的尺度，使其更符合t分布，便于检测异常值

在多元回归模型中，由于预测变量之间的相关性，寻找非线性关系要比在简单回归中更困难。偏残差图能够帮助检测多元回归中的非线性，其基本思想是将响应变量与预测变量之间未进入模型的非线性关系体现在最小二乘法的残差中，从而揭示变量间的偏相关关系。

本文由「大千AI助手」原创发布，专注用真话讲AI，回归技术本质。拒绝神话或妖魔化。搜索「大千AI助手」关注我，一起撕掉过度包装，学习真实的AI技术！

往期文章推荐:

2 残差图的解读方法

正确解读残差图是模型诊断的关键步骤。下面详细介绍如何解读残差图中出现的各种模式及其意义。

2.1 线性性与非线性

如果模型充分捕获了数据中的线性关系，残差图应该显示出无模式（random pattern）的散点分布，即残差随机分布在零参考线周围。

如果残差图中出现明显的模式（如曲线结构、系统性偏移），则表明模型可能没有充分捕获数据中的非线性关系。这时需要考虑添加多项式项、使用非线性模型或对变量进行变换。

2.2 异方差性（Heteroscedasticity）

异方差性是指残差的方差随着预测值或自变量的变化而变化的现象。在残差图上表现为残差的离散程度呈现系统性变化（如漏斗形、扇形图案）。

异方差性会导致回归系数的标准误估计不准确，进而影响假设检验的可靠性。解决方法包括：变量变换（如对数变换）、加权最小二乘法（Weighted Least Squares）或使用广义线性模型（GLM）。

2.3 异常点和离群值（Outliers）

异常点是指残差绝对值异常大的数据点，它们在残差图中通常表现为远离零参考线的点。异常点可能对模型参数估计产生** disproportionate influence**（不成比例的影响），需要特别关注。

识别异常点后，需要检查这些观测值是否存在数据录入错误，或者考虑使用稳健回归（Robust Regression）方法来减少异常点的影响。

2.4 独立性

残差应该与预测值无关，也不应呈现任何系统性模式。如果残差图中出现明显的模式（如周期性波动），可能表明数据中存在未被模型捕获的结构，或者误差项之间存在相关性，这违反了回归模型的独立性假设。

3 残差图的Python实现示例

下面我们通过Python代码演示如何构建和解读残差图。我们将使用常用的数据科学库：pandas、numpy、matplotlib、seaborn和scikit-learn。

3.1 简单线性回归的残差图

首先，我们创建一个简单的线性回归例子，并绘制残差图：

import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.linear_model import LinearRegression
from sklearn.datasets import make_regression

# 创建示例数据
np.random.seed(42)
X, y = make_regression(n_samples=100, n_features=1, noise=10, random_state=42)

# 拟合线性回归模型
model = LinearRegression()
model.fit(X, y)
y_pred = model.predict(X)

# 计算残差
residuals = y - y_pred

# 创建残差图
plt.figure(figsize=(12, 6))

# 子图1：实际值与预测值的关系图
plt.subplot(1, 2, 1)
plt.scatter(X, y, alpha=0.7, label='Actual Data')
plt.plot(X, y_pred, color='red', label='Regression Line')
plt.xlabel('X')
plt.ylabel('y')
plt.title('Regression Fit')
plt.legend()

# 子图2：残差图
plt.subplot(1, 2, 2)
plt.scatter(y_pred, residuals, alpha=0.7)
plt.axhline(y=0, color='r', linestyle='--')
plt.xlabel('Predicted Values')
plt.ylabel('Residuals')
plt.title('Residual Plot')

plt.tight_layout()
plt.show()

# 添加Q-Q图检查残差正态性
from scipy.stats import probplot

plt.figure(figsize=(6, 4))
probplot(residuals, dist="norm", plot=plt)
plt.title('Q-Q Plot of Residuals')
plt.show()

这段代码首先创建了一个简单的线性回归数据集，然后拟合模型并计算残差。最后绘制了两个图形：左侧是回归拟合图，右侧是残差图。如果模型拟合良好，残差图应该显示无模式的散点分布 around the zero line。

3.2 多元线性回归的残差图

对于多元线性回归，我们可以使用偏残差图来评估每个自变量与因变量之间的关系。

4 残差图在大模型中的应用

在深度学习领域，残差的概念不仅用于模型诊断，更成为网络架构设计的核心思想。2015年，何恺明等人提出的深度残差网络（ResNet）彻底改变了深度学习领域对于深层神经网络训练的理解。

4.1 ResNet中的残差连接

ResNet通过引入跳跃连接（skip connection）让网络学习"差异"而非"整体"，解决了深层网络训练中的退化问题（degradation problem）。在残差块中，输入X可以直接传递到后续层，网络只需要学习目标H(X)与输入X的差异F(X) = H(X) - X，最终输出为H(X) = F(X) + X。

这种设计使得深层网络在反向传播时可以有效地避免梯度消失或爆炸的问题，使训练更加稳定。即使是新增层未能学习有用信息，性能也不会比浅层网络更差，因为输入可通过跳跃连接直接传递。