mysql 为大表添加索引,导致超时的解决办法

本文分享了一种解决mysql大表添加索引超时问题的方法,通过创建新表、分批导入数据来避免一次性操作过大导致的问题。并详细记录了从数据分组、分批导入到最终完成数据迁移的全过程。

mysql 为大表添加索引,导致超时的解决办法

简单的创建索引语句 : create unique index inxName on table A('Col') 。 

如果表数据量不大,没有问题,但是数据超过千万,可能你等了半天,却告知你超时了。

网上查到解决方案:

1. 复制表A 的数据结构 , 不复制数据

create table B like A;

2. 表B加上你需要的索引

3. 把原有数据导入新表 

4. 修改表A 的名称为A_old , 修改B表的 表名为A.  

我的问题出在步骤3. 

使用如下语句导入A表数据到B :

insert into B select * from A; 

执行了半天,又提示错误 table x  is full。 

网上找到另一种导入方式,即把A表数据导入文件,然后load 进B表 

select * from A into outfile '/var/money.txt'; 
load data infile '/var/money.txt' into table B; -- 这个路径需要和show variables like '%secure%'; 一致

我执行的时候提示没有权限,需要开启secure_file_priv 相关权限 ,我没有root用户权限,所以就放弃该方案了。 

解决: 

insert into B select * from A;   错误提示  table x  is full , 那就是一次导入太大。 那我改小点就是了,我们数据2000万条。

我按照日期 分组 (注意表A 原有按日期的索引),分组后发现最大的一天有700万条数据。

把导入语句改为 

insert into B select * from A where trans_date = '20190923'; --  执行时间1735s,近30分钟,还好没有报错。

 

 100多万的 46s 搞定,其他数据更少的日期基本几秒可以搞定,最终1个半小时完成数据复制

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值