在算法面试与工程开发中,海量数据求 TopK(最大 / 最小的前 K 个元素) 是经典高频问题。当数据量极大、无法一次性载入内存时,直接排序的时间复杂度和内存开销完全不可接受。本文就通过一份完整 C 语言代码,手把手解析小顶堆实现 TopK 最大值的核心思路,带你吃透海量数据处理逻辑。
一、问题背景
假设我们有10 万条随机整数数据存储在本地文本文件data.txt中,现在需要找出其中最大的前 K 个数字。直接将全部数据读入内存排序会有两个致命问题:
- 海量数据时内存溢出;
- 全量排序时间复杂度 O(NlogN),效率低下。
而小顶堆(最小堆) 可以将时间复杂度优化到 O(NlogK),且内存仅需维护 K 个元素,完美适配海量数据场景。
二、整体代码结构解析
这份代码分为 4 个核心部分:
- 生成海量随机数据写入文件(
CreateNDate函数) - 堆核心操作:向下调整(
AdjustDown函数,小顶堆维护) - 读取文件数据、用小顶堆筛选 TopK 最大值(
TopK函数) - 主函数调用逻辑
1. 生成海量随机数据:CreateNDate 函数
void CreateNDate()
{
int n = 100000;
srand((unsigned int)time(0)); // 设置随机数种子
const char* file = "data.txt";
FILE* fin = fopen(file, "w"); // 以写模式打开文件
if (fin == NULL)
{
perror("fopen fail!");
return;
}
for (int i = 0; i < n; i++)
{
int x = (rand() + i) % 1000000; // 生成0~999999随机整数
fprintf(fin, "%d ", x); // 写入文件
}
fclose(fin); // 关闭文件,释放资源
}
核心作用:模拟真实场景的海量数据,将 10 万条随机整数持久化到本地文件,避免一次性加载到内存。
2. 堆的核心:向下调整函数 AdjustDown
这是小顶堆的灵魂函数:
// 小顶堆向下调整:父节点大于子节点则交换,维护堆性质
void AdjustDown(int* minHeap, int parent, int k)
{
int child = parent * 2 + 1; // 左孩子下标
while (child < k)
{
// 右孩子存在,且右孩子更小,选择右孩子
if (child + 1 < k && minHeap[child + 1] < minHeap[child])
{
child++;
}
// 父节点大于最小的子节点,交换
if (minHeap[parent] > minHeap[child])
{
int temp = minHeap[parent];
minHeap[parent] = minHeap[child];
minHeap[child] = temp;
// 继续向下调整
parent = child;
child = parent * 2 + 1;
}
else
{
break; // 满足小顶堆性质,退出
}
}
}
小顶堆性质:堆顶(数组下标 0)是堆内最小值,堆内任意父节点 ≤ 子节点。
3. 海量数据筛选 TopK:TopK 函数
void TopK()
{
int k = 0;
printf("请输入k:");
scanf("%d", &k);
const char* file = "data.txt";
FILE* fout = fopen(file, "r"); // 读模式打开数据文件
if (fout == NULL)
{
perror("fopen fail!");
exit(1);
}
// 动态分配K个int空间,作为小顶堆
int* minHeap = (int*)malloc(k * sizeof(int));
if (minHeap == NULL)
{
perror("malloc fail!");
exit(2);
}
// 1. 读取前K个元素,初始化堆
for (int i = 0; i < k; i++)
{
fscanf(fout, "%d", &minHeap[i]);
}
// 建堆:从最后一个非叶子节点开始向下调整
for (int i = (k - 1 - 1) / 2; i >= 0; i--)
{
AdjustDown(minHeap, i, k);
}
// 2. 遍历剩余所有数据,筛选TopK最大值
int x = 0;
while (fscanf(fout, "%d", &x) != EOF)
{
// 当前元素比堆顶(堆内最小值)大,替换堆顶并调整堆
if (x > minHeap[0])
{
minHeap[0] = x;
AdjustDown(minHeap, 0, k);
}
}
// 输出最终TopK个最大值
for (int i = 0; i < k; i++)
{
printf("%d ", minHeap[i]);
}
fclose(fout);
free(minHeap); // 释放堆内存,避免内存泄漏
}
核心逻辑拆解:
- 初始化堆:先读取前 K 个数字,构建小顶堆,堆顶是这 K 个数里的最小值;
- 遍历筛选:逐个读取剩余数据,只有比堆顶大的数字,才有可能进入 TopK。替换堆顶后重新维护小顶堆;
- 最终结果:遍历结束后,堆内 K 个数字就是全局最大的前 K 个值。
4. 主函数调用
int main()
{
CreateNDate(); // 生成海量数据
TopK(); // 求TopK最大值
return 0;
}
执行流程:生成文件数据 → 输入 K 值 → 输出最大的前 K 个数字。
三、为什么用小顶堆,不用大顶堆?
很多同学会疑惑:求最大的前 K 个,为什么不用大顶堆?这里直接讲核心原理:
- 大顶堆:堆顶是最大值,若用大顶堆筛选 TopK,需要淘汰最大值,逻辑完全相反;
- 小顶堆:堆顶是当前 K 个元素的最小值。只要新元素比堆顶大,就说明它比当前 K 个里的最小值更有资格进入 TopK,直接替换即可。
内存层面:无论数据量多大,我们只维护 K 个元素的堆,10 万、100 万甚至上亿数据,内存开销恒定,完美解决海量数据内存溢出问题。
四、代码可优化点
这份代码是基础实现,工程中可优化:
- 增加输入校验,防止 k≤0 或 k>100000;
- 输出前对堆内元素排序,实现从大到小输出;
- 文件操作增加缓冲区,提升海量数据读写效率。
五、完整可运行代码
这里整合所有代码,直接复制即可编译运行:
#include <stdio.h>
#include <stdlib.h>
#include <time.h>
// 小顶堆向下调整
void AdjustDown(int* minHeap, int parent, int k)
{
int child = parent * 2 + 1;
while (child < k)
{
if (child + 1 < k && minHeap[child + 1] < minHeap[child])
{
child++;
}
if (minHeap[parent] > minHeap[child])
{
int temp = minHeap[parent];
minHeap[parent] = minHeap[child];
minHeap[child] = temp;
parent = child;
child = parent * 2 + 1;
}
else
{
break;
}
}
}
// 生成海量随机数据
void CreateNDate()
{
int n = 100000;
srand((unsigned int)time(0));
const char* file = "data.txt";
FILE* fin = fopen(file, "w");
if (fin == NULL)
{
perror("fopen fail!");
return;
}
for (int i = 0; i < n; i++)
{
int x = (rand() + i) % 1000000;
fprintf(fin, "%d ", x);
}
fclose(fin);
}
// 求TopK最大值
void TopK()
{
int k = 0;
printf("请输入k:");
scanf("%d", &k);
if (k <= 0)
{
printf("k必须大于0!\n");
return;
}
const char* file = "data.txt";
FILE* fout = fopen(file, "r");
if (fout == NULL)
{
perror("fopen fail!");
exit(1);
}
int* minHeap = (int*)malloc(k * sizeof(int));
if (minHeap == NULL)
{
perror("malloc fail!");
exit(2);
}
for (int i = 0; i < k; i++)
{
fscanf(fout, "%d", &minHeap[i]);
}
for (int i = (k - 2) / 2; i >= 0; i--)
{
AdjustDown(minHeap, i, k);
}
int x = 0;
while (fscanf(fout, "%d", &x) != EOF)
{
if (x > minHeap[0])
{
minHeap[0] = x;
AdjustDown(minHeap, 0, k);
}
}
printf("最大的前%d个数字:", k);
for (int i = 0; i < k; i++)
{
printf("%d ", minHeap[i]);
}
printf("\n");
fclose(fout);
free(minHeap);
}
int main()
{
CreateNDate();
TopK();
return 0;
}
六、总结
TopK 问题是堆排序最经典的应用场景,核心思想就是用 K 个元素的小顶堆过滤海量数据。
- 时间复杂度:O(NlogK),远优于全量排序的O(NlogN);
- 空间复杂度:O(K),内存开销恒定,适配海量数据;
- 核心技巧:求最大 TopK 用小顶堆,求最小 TopK 用大顶堆。
这份代码不仅可以用于学习算法,也可以直接适配真实业务中的日志统计、热门排行等海量数据场景。
1169

被折叠的 条评论
为什么被折叠?



