Hive内表修改字段类型及注意事项

1 Hive表的前置说明

例如,我们需要一个t1表,在创建的时候,理所当然的认为了 hit_count 是一个整型类型创建了一个内表。

CREATE TABLE t1 (
  ...
  hit_count int
) PARTITIONED BY(
  statistical string
) STORED AS PARQUET 
LOCATION 'hdfs://nnCluster/warehouse/hive/yore.db/t1';

之后开始通过其他ETL工具开始将数据汇入这个表,每日会自动创建一个分区目录,然后根据表schema信息,在HDFS的目录下生成PARQUET文件。

业务查询这个表正常,一切似乎都在正常运行。

2 问题发生了

某天突然业务说某个查询t1表的任务异常了,其他却正常。

经过排查发现其他t1表正常的查询都没有涉及到 hit_count 字段,而报错的是查询了 hit_count 字段后发生的。

进一步排查,发现了问题,HDFS中汇入时生成的 PARQUET文件中 hit_count 字段是字符串类型,而Hive表中 hit_count 字段是整型。

在所难免了,这个问题就被你遇到了。

3 解决

因为t1表已经保存了很多数据(例如1年多的),因此首先肯定不能让汇入方进行改动了,要不然历史数据就无法查询了。所以PARQUET只能的结构只能这样了,将错就错吧, hit_count 就不得不当作字符串类型了。

剩下能解决的,就只有修改Hive表中 hit_count 字段类型。

3.1 方案一:直接修改字段类型

ALTER TABLE t1 CHANGE COLUMN hit_count hit_count string

想到能有如此简单的方法解决问题,就非常开心😊。
不过实际上如果表分区下已经有PARQUET数据了,类型存在不兼容时会执行失败。
ALTER TABLE Type ERROR

3.2 方案二:通过修改内表LOCATION,删除旧表,重建新表

注意:如果HMS有多个,在删除旧表时,务必一定一定一定要保证每一个HMS都已经同步/更新了元数据后再操作,否则就会有一次深刻的教训😭,可以多等一会。

-- 1 修改原内表的存储路径
-- 路径可以是任意的,这里是临时的,
-- 其实就是为了把原内表关联的HDFS存储路径解离
ALTER TABLE t1 SET LOCATION "hdfs://nnCluster/tmp/tmp_t1";

-- 2 查看下建表信息,确保内表的存储路径(LOCATION)已经改到了新的临时路径了
SHOW CREATE TABLE t1;

-- 3 可以放心的删除旧表了
DROP TABLE t1;

-- 4 建新的业务内表,
-- 此时字段类型可以放心的修改为需要的类型了(这里为string类型)
-- LOCATION指向原表的存储路径
CREATE TABLE t1 (
  ...
  hit_count string
) PARTITIONED BY(
  statistical string
) STORED AS PARQUET 
LOCATION 'hdfs://nnCluster/warehouse/hive/yore.db/t1';

-- 5 刷新分区元数据
MSCK REPAIR TABLE t1;

-- 6 查询验证
select * from t1 where statistical='2025-11-21' limit 5;

3.3 方案三:将内表修改为外表,删除旧表,重建新表

注意:如果HMS有多个,在删除旧表时,务必一定一定一定要保证每一个HMS都已经同步/更新了元数据后再操作,否则就会多一次深刻的教训😭,可以多等一会。

-- 1 内表修改为外表
ALTER TABLE t1 SET TBLPROPERTIES ("EXTERNAL"="TRUE");

-- 2 查看下建表信息,确保内表已修改为外表
SHOW CREATE TABLE t1;

-- 3 可以放心的删除旧表了
DROP TABLE t1;

-- 4 重建业务内表,
-- 此时字段类型可以放心的修改为需要的类型了(这里为string类型)
-- LOCATION指向原表的存储路径
CREATE TABLE t1 (
  ...
  hit_count string
) PARTITIONED BY(
  statistical string
) STORED AS PARQUET 
LOCATION 'hdfs://nnCluster/warehouse/hive/yore.db/t1';

-- 5 刷新分区元数据
MSCK REPAIR TABLE t1;

-- 6 查询验证
select * from t1 where statistical='2025-11-21' limit 5;
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Yore Yuen

你的支持认可是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值