PyTorch实战：to(device)与.cuda()的GPU加速技巧对比

1. 从零开始：GPU加速为什么是PyTorch的必修课？

如果你刚开始接触深度学习，或者已经用PyTorch跑过一些模型，那你肯定对“GPU加速”这个词不陌生。我刚开始玩PyTorch那会儿，看着代码在CPU上慢悠悠地跑，一个epoch要等半天，心里那叫一个急。后来把数据丢到GPU上，速度直接起飞，那种感觉就像给自行车换上了火箭引擎。但问题来了，怎么把数据和模型“搬”到GPU上去呢？官方文档和社区代码里，最常见的就是.to(device)和.cuda()这两种写法。新手一看就懵：这俩有啥区别？我该用哪个？

简单来说，它们都是用来把PyTorch的张量（Tensor） 或者模型（Module） 从CPU内存转移到GPU显存里的工具。没有它们，你的模型就只能用CPU计算，速度会慢几十甚至上百倍。想象一下，你要处理一张高清图片，CPU就像一个数学教授，虽然很聪明，但一次只能算一道题；而GPU就像成千上万个小学生，虽然每个单独看不如教授，但可以同时算海量的简单题目。深度学习的计算恰恰就是这种可以高度并行化的“简单题目”，所以GPU的优势巨大。

那么，.cuda()和.to(device)就是指挥这些“小学生”干活的两条不同指令。.cuda()是PyTorch早期版本遗留下来的、比较直接的命令，意思就是“给我放到CUDA设备（也就是NVIDIA GPU）上去”。而.to(device)是后来推出的、更通用、更灵活的方式，它的意思是“给我放到我指定的那个设备上去”。这个“设备”可以是CPU，可以是某一块特定的GPU，甚至理论上可以是其他类型的计算设备。

我刚开始写代码的时候，图省事全用的.cuda()，觉得敲起来快。直到后来项目里需要兼容CPU和GPU环境，甚至要处理多块GPU，才被.cuda()坑了几次，慢慢转向了.to(device)。这篇文章，我就结合自己踩过的坑和实战经验，把这俩方法的里里外外、优劣对比、适用场景给你掰扯清楚，让你以后写代码时能做出最合适、最高效的选择。

2. 基础用法大拆解：.cuda()的直白与.to(device)的灵活

咱们先来看看最基础的用法，用代码说话最直观。假设你已经安装好了PyTorch和CUDA驱动，并且有一块可用的NVIDIA GPU。

2.1 .cuda()：简单粗暴的“老派”做法

.cuda()方法用起来非常直接，你几乎不需要思考。

import torch

# 创建一个在CPU上的张量
tensor_cpu = torch.tensor([1.0, 2.0, 3.0])
print(f"创建在: {tensor_cpu.device}")  # 输出: 创建在: cpu

# 使用.cuda()将其移动到GPU（默认第0块GPU）
tensor_gpu = tensor_cpu.cuda()
print(f"移动后: {tensor_gpu.device}")  # 输出: 移动在: cuda:0

# 也可以指定移动到哪一块GPU（如果你的机器有多块的话）
tensor_gpu_1 = tensor_cpu.cuda(device=1)  # 移动到第1号GPU（索引从0开始）
print(f"指定GPU: {tensor_gpu_1.device}")  # 输出: 指定GPU: cuda:1

看到没？.cuda()就像一句命令：“你，去GPU上待着！”它默认指向cuda:0，也就是你的第一块GPU。如果你有多块GPU，可以通过传入一个整数索引来指定目标。这种方式在早期代码和许多教程里非常常见，因为它写起来短，意图明确。

对于模型也是一样的操作：

import torch.nn as nn

model = nn.Linear(10, 5)  # 定义一个简单的线性层，初始在CPU
model.cuda()  # 将整个模型的所有参数移到默认GPU上

# 现在，输入数据也必须放在GPU上，否则会报错
input_data = torch.randn(2, 10).cuda()  # 创建一个batch为2的输入，并移到GPU
output = model(input_data)  # 计算可以在GPU上顺利进行
print(output.device)  # 输出: cuda:0

这里有个新手必踩的坑：你把模型.cuda()了，但输入数据如果还在CPU上，PyTorch就会报一个类型错误，告诉你数据不在同一个设备上。我当年没少因为这个debug半天。所以记住：模型和数据必须在同一个设备上。

2.2 .to(device)：面向未来的“通用”接口

.to(