Pytorch:dtype不一致(expected dtype Double but got dtype Float)

最新推荐文章于 2026-04-28 06:31:25 发布
原创 最新推荐文章于 2026-04-28 06:31:25 发布 · 1.3w 阅读 · 9
标签
#pytorch
本文探讨了在PyTorch中遇到的RuntimeError，详细解释了由于模型内部参数与输入类型不一致导致的问题，并提供了两种解决方案：一是统一声明变量类型，二是确保网络和数据类型一致。

RuntimeError: Expected object of scalar type Double but got scalar type Float for argument #3 ‘mat2’ in call to _th_addmm_out

1. 说明

在训练网络的过程中由于类型的冲突导致这种错误，主要是模型内部参数和输入类型不一致所导致的。主要有两个部分需要注意到：1.自己定义的变量要设置为一种数据类型；2.网络内部的变量类型也要统一。

2. 解决办法一

统一声明变量的类型。

# 将接下来创建的变量类型均为Double
torch.set_default_tensor_type(torch.DoubleTensor)

or

#将接下来创建的变量类型均为Float
torch.set_default_tensor_type(tor
最低0.47元/天 解锁文章
pytorch RuntimeError: expected backend CUDA and dtype Float but got backend CPU and dtype Float
Hello Word!
08-14 2656
代码： criterion = nn.BCEWithLogitsLoss(reduction='none') loss = criterion(output, target) loss.mul_(weights) 报错： Traceback (most recent call last): File “/home/user1/main_cs_0708.py”, line 391, in main() File “/home/user1/main_cs_0708.py”, line 301, in mai
解决“RuntimeError: expected backend CUDA and dtype Float but got backend CUDA and dtype Half”问题
SpadgerZ的博客
02-23 1788
问题描述 在运行Gituhub程序的时候，出现报错 ...... y[..., 0:2] = (y[..., 0:2] * 2. - 0.5 + self.grid[i].to(x[i].device)) * self.stride[i] # xy RuntimeError: expected backend CUDA and dtype Float but got backend CUDA and dtype Half 解决方法 经过网上搜索相关博客之后，发现可能是Pytorch的版本问题
【PyTorch】Chapter1：expected dtype Double but got dtype Float
两头大的博客
01-20 7406
1、简介 最近跟着《Dive into DL PyTorch》一书的代码写，出现了double类型的数据和float类型的数据之间相互冲突的问题，有时需要double类型但输入的是float类型，有时又需要float类型却得到double类型，因此代码运行错误。在书中，自己定义net，loss，optimizer，weight，bias等等，这可以直接指定数据类型，但是每次到了使用库函数时，比如书...
RuntimeError: expected dtype Double but got dtype Float 问题解决
gulaixiangjuejue的博客
09-15 8898
利用Pytorch框架自己构建网络结构，在程序运行到“loss.backward()”的时候报错： RuntimeError: expected dtype Double but got dtype Float (validate_dtype at ..\aten\src\ATen\native\TensorIterator.cpp:143) (no backtrace available) 通过查询资料得知，该错误来自于输入数据的类型和模型参数类型不一致。因此最好在程序开始统一数据类型。 Py.
PyTorch训练中遇到Double和Float类型不匹配？别慌，这3种方法帮你快速定位和修复
最新发布
weixin_30680385的博客
04-28 290
本文详细解析了PyTorch训练中常见的Double和Float类型不匹配问题，提供了3种高效排查和修复方法。从理解PyTorch数据类型系统基础架构到系统性诊断错误根源，再到针对不同场景的解决方案矩阵，帮助开发者快速解决RuntimeError问题，确保模型训练顺利进行。特别强调了类型检查清单和调试工具的使用技巧。
关于 c10::Half 类型和float不匹配
weixin_51552032的博客
03-02 1469
我在跑大模型推理的时候，遇到了上面的错误。首先有一个问题需要考虑： 我希望模型可以在gpu上面推理，但是我默认了模型会自动加载到gpu上面。。。 解决方法 检查llama模型是不是正确加载到gpu，一半出现 c10:Half 这个类型，模型很大概率是加载到CPU上面去推理的，所以只要修改到gpu上就不会报错了模型推理的时候，记得加上autocase 最后代码 因为是修改R2genGPT的，所以代码如下：
RuntimeError: mat1 and mat2 must have the same dtype解决办法
热门推荐
weixin_45665566的博客
06-29 1万+
报错的意思是类型不匹配，然后通过debug发现是float32，一个是float64，虽然都是浮点数，但就是不一样！解决办法：在这两个矩阵后面都加上.float()。这样就都是float32了！
mat1 and mat2 must have the same dtype, but got Double and Float 报错
tanixn的博客
09-23 5191
这个报错是因为你的输入数据和模型参数的数据类型不匹配。选择其中一种方法，确保数据类型一致即可。： 如果你更想保持输入数据的。），而模型的参数默认是。
RuntimeError: expected dtype Double but got dtype Float
sxl的博客
04-21 1117
  在使用Pytorch时报了RuntimeError: expected dtype Double but got dtype Float这个错误，仔细一查才发现是数据类型的问题。在处理数据时有时会用到numpy模块，处理完数据后为了加速计算然后转为tensor，用torch的计算方式进行运算。一运行结果发现报错了，报错的原因在于，numpy默认的数据类型是float64，而torch.tensor初始化默认的类型是float32，所以才会出现上面的报错原因。   所以在使用numpy处理数据后在转换te
pytorch报错: expected dtype Double but got dtype Float
weixin_40522580的博客
02-01 1070
RuntimeError: expected dtype Double but got dtype Float (validate_dtype at ..\aten\src\ATen\native\TensorIterator.cpp:143) (no backtrace available) pytorch训练网络时报错如上，定位在loss.backward()语句，随后在import语句后加入 torch.set_default_tensor_type(torch.DoubleTensor) .
RuntimeError: expected backend CUDA and dtype Float but got backend CUDA and dtype Long
qq_33949900的博客
05-10 5525
脱坑指南1、问题描述1.1 第一个1.2 第二个2、总结 1、问题描述 1.1 第一个 跑代码发现一个，如标题所示，遇到这个问题的原因是你的pytorch框架版本问题，换成1.3.1就没问题了，或者在报错的地方进行强制类型转换，加上.float()，具体怎么加还是要搜索一下。 1.2 第二个 如果是double类型的错误，那么也可以进行强制转换，在后面加上.double()，查一下Tensor的用法。 2、总结 我会继续补充的，看到这个博客的都是有缘人，再见。 ...
RuntimeError: Expected object of scalar type Long but got scalar type Double
yzf0011的专栏
06-22 1万+
问题说明 最近在使用一个新的数据集的时候,只改了原先代码的数据路径,和一些简单数据处理代码,在跑的时候就报了如下的错误: Traceback (most recent call last): File "train.py", line 172, in <module> main(parser.parse_args()) File "train.py", line 75,...
RuntimeError: mat1 and mat2 must have the same dtype
m0_54288526的博客
01-25 1万+
RuntimeError: mat1 and mat2 must have the same dtype
本地部署推理TextDiffuser-2：释放语言模型用于文本渲染的力量
weixin_47748259的博客
03-07 2500
可以先根据错误提示找到diffusers库包中attention_processor.py所在的位置，然后用assets文件夹下attention_processor.py进行替换即可解决问题。这个错误是因为安装的diffusers包里有个文件需要用官网提供的新文件进行替换。先将flash-attention模型仓库克隆下来。然后安装对应的软件包。
报错处理 - RuntimeError: Expected out tensor to have dtype c10::BFloat16, but got float instead
AI工程化、开源分享、文档翻译、代码笔记
07-15 1705
在 training_args 中，将 fp16 改为 True, bf16 改为 False。网友说是 数据类型的问题，我设置为 bf16 了。问题并没有解决，可能还出现 换了个类型的报错。跟着这篇文章微调 llama。可以自动判断类型，便修改。就没有再报类似错误了。
解决RuntimeError: index_copy_(): self and source expected to have the same dtype, but got (self) Int a
lingyunyuny的博客
07-08 447
原因是因为数据类型不对，一个时int，一个是long，修改一下数据类型就行。将代码修改为如下代码即可运行。在运行如下代码时遇到报错。
RuntimeError: mat1 and mat2 must have the same dtype, but got Long and Float
find_element_by_id的博客
09-16 551
具体来说，错误消息指出，矩阵 `mat1` 和 `mat2` 必须具有相同的数据类型，但实际上得到了 `Long` 和 `Float` 类型。这个问题通常出现在输入数据是整数类型（如 `Long`），而线性层的权重是浮点数类型（如 `Float`）时。2. **将线性层的权重转换为 Long 类型**：如果你确实需要使用整数类型的权重，你可以将线性层的权重转换为 Long 类型。这个错误消息表明，你的输入数据和权重矩阵具有不同的数据类型，在进行线性层的前向传播时出现了矩阵乘法的数据类型不兼容问题。
研发中遇到的问题总结
吉良的博客
03-17 6413
Python、Pytorch、AI算法、Linux、Windows开发过程中遇到的一些问题及其解决方法 （自备的，以便后面遇到同样问题时查阅，如果对你没有帮助，请划走）
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值