C 语言实现海量数据 TopK 问题:小顶堆实战详解

在算法面试与工程开发中,海量数据求 TopK(最大 / 最小的前 K 个元素) 是经典高频问题。当数据量极大、无法一次性载入内存时,直接排序的时间复杂度和内存开销完全不可接受。本文就通过一份完整 C 语言代码,手把手解析小顶堆实现 TopK 最大值的核心思路,带你吃透海量数据处理逻辑。

一、问题背景

假设我们有10 万条随机整数数据存储在本地文本文件data.txt中,现在需要找出其中最大的前 K 个数字。直接将全部数据读入内存排序会有两个致命问题:

  1. 海量数据时内存溢出;
  2. 全量排序时间复杂度 O(NlogN),效率低下。

小顶堆(最小堆) 可以将时间复杂度优化到 O(NlogK),且内存仅需维护 K 个元素,完美适配海量数据场景。

二、整体代码结构解析

这份代码分为 4 个核心部分:

  1. 生成海量随机数据写入文件(CreateNDate函数)
  2. 堆核心操作:向下调整(AdjustDown函数,小顶堆维护)
  3. 读取文件数据、用小顶堆筛选 TopK 最大值(TopK函数)
  4. 主函数调用逻辑

1. 生成海量随机数据:CreateNDate 函数

void CreateNDate()
{
    int n = 100000;
    srand((unsigned int)time(0)); // 设置随机数种子
    const char* file = "data.txt";
    FILE* fin = fopen(file, "w");  // 以写模式打开文件
    if (fin == NULL)
    {
        perror("fopen fail!");
        return;
    }
    for (int i = 0; i < n; i++)
    {
        int x = (rand() + i) % 1000000; // 生成0~999999随机整数
        fprintf(fin, "%d ", x); // 写入文件
    }
    fclose(fin); // 关闭文件,释放资源
}

核心作用:模拟真实场景的海量数据,将 10 万条随机整数持久化到本地文件,避免一次性加载到内存。

2. 堆的核心:向下调整函数 AdjustDown

这是小顶堆的灵魂函数:

// 小顶堆向下调整:父节点大于子节点则交换,维护堆性质
void AdjustDown(int* minHeap, int parent, int k)
{
    int child = parent * 2 + 1; // 左孩子下标
    while (child < k)
    {
        // 右孩子存在,且右孩子更小,选择右孩子
        if (child + 1 < k && minHeap[child + 1] < minHeap[child])
        {
            child++;
        }
        // 父节点大于最小的子节点,交换
        if (minHeap[parent] > minHeap[child])
        {
            int temp = minHeap[parent];
            minHeap[parent] = minHeap[child];
            minHeap[child] = temp;
            // 继续向下调整
            parent = child;
            child = parent * 2 + 1;
        }
        else
        {
            break; // 满足小顶堆性质,退出
        }
    }
}

小顶堆性质:堆顶(数组下标 0)是堆内最小值,堆内任意父节点 ≤ 子节点。

3. 海量数据筛选 TopK:TopK 函数

void TopK()
{
    int k = 0;
    printf("请输入k:");
    scanf("%d", &k);
    const char* file = "data.txt";
    FILE* fout = fopen(file, "r"); // 读模式打开数据文件
    if (fout == NULL)
    {
        perror("fopen fail!");
        exit(1);
    }
    // 动态分配K个int空间,作为小顶堆
    int* minHeap = (int*)malloc(k * sizeof(int));
    if (minHeap == NULL)
    {
        perror("malloc fail!");
        exit(2);
    }
    // 1. 读取前K个元素,初始化堆
    for (int i = 0; i < k; i++)
    {
        fscanf(fout, "%d", &minHeap[i]);
    }
    // 建堆:从最后一个非叶子节点开始向下调整
    for (int i = (k - 1 - 1) / 2; i >= 0; i--)
    {
        AdjustDown(minHeap, i, k);
    }
    // 2. 遍历剩余所有数据,筛选TopK最大值
    int x = 0;
    while (fscanf(fout, "%d", &x) != EOF)
    {
        // 当前元素比堆顶(堆内最小值)大,替换堆顶并调整堆
        if (x > minHeap[0])
        {
            minHeap[0] = x;
            AdjustDown(minHeap, 0, k);
        }
    }
    // 输出最终TopK个最大值
    for (int i = 0; i < k; i++)
    {
        printf("%d ", minHeap[i]);
    }
    fclose(fout);
    free(minHeap); // 释放堆内存,避免内存泄漏
}

核心逻辑拆解

  1. 初始化堆:先读取前 K 个数字,构建小顶堆,堆顶是这 K 个数里的最小值;
  2. 遍历筛选:逐个读取剩余数据,只有比堆顶大的数字,才有可能进入 TopK。替换堆顶后重新维护小顶堆;
  3. 最终结果:遍历结束后,堆内 K 个数字就是全局最大的前 K 个值。

4. 主函数调用

int main()
{
    CreateNDate(); // 生成海量数据
    TopK();        // 求TopK最大值
    return 0;
}

执行流程:生成文件数据 → 输入 K 值 → 输出最大的前 K 个数字。

三、为什么用小顶堆,不用大顶堆?

很多同学会疑惑:求最大的前 K 个,为什么不用大顶堆?这里直接讲核心原理:

  • 大顶堆:堆顶是最大值,若用大顶堆筛选 TopK,需要淘汰最大值,逻辑完全相反;
  • 小顶堆:堆顶是当前 K 个元素的最小值。只要新元素比堆顶大,就说明它比当前 K 个里的最小值更有资格进入 TopK,直接替换即可。

内存层面:无论数据量多大,我们只维护 K 个元素的堆,10 万、100 万甚至上亿数据,内存开销恒定,完美解决海量数据内存溢出问题。

四、代码可优化点

这份代码是基础实现,工程中可优化:

  1. 增加输入校验,防止 k≤0 或 k>100000;
  2. 输出前对堆内元素排序,实现从大到小输出;
  3. 文件操作增加缓冲区,提升海量数据读写效率。

五、完整可运行代码

这里整合所有代码,直接复制即可编译运行:

#include <stdio.h>
#include <stdlib.h>
#include <time.h>

// 小顶堆向下调整
void AdjustDown(int* minHeap, int parent, int k)
{
    int child = parent * 2 + 1;
    while (child < k)
    {
        if (child + 1 < k && minHeap[child + 1] < minHeap[child])
        {
            child++;
        }
        if (minHeap[parent] > minHeap[child])
        {
            int temp = minHeap[parent];
            minHeap[parent] = minHeap[child];
            minHeap[child] = temp;
            parent = child;
            child = parent * 2 + 1;
        }
        else
        {
            break;
        }
    }
}

// 生成海量随机数据
void CreateNDate()
{
    int n = 100000;
    srand((unsigned int)time(0));
    const char* file = "data.txt";
    FILE* fin = fopen(file, "w");
    if (fin == NULL)
    {
        perror("fopen fail!");
        return;
    }
    for (int i = 0; i < n; i++)
    {
        int x = (rand() + i) % 1000000;
        fprintf(fin, "%d ", x);
    }
    fclose(fin);
}

// 求TopK最大值
void TopK()
{
    int k = 0;
    printf("请输入k:");
    scanf("%d", &k);
    if (k <= 0)
    {
        printf("k必须大于0!\n");
        return;
    }
    const char* file = "data.txt";
    FILE* fout = fopen(file, "r");
    if (fout == NULL)
    {
        perror("fopen fail!");
        exit(1);
    }
    int* minHeap = (int*)malloc(k * sizeof(int));
    if (minHeap == NULL)
    {
        perror("malloc fail!");
        exit(2);
    }
    for (int i = 0; i < k; i++)
    {
        fscanf(fout, "%d", &minHeap[i]);
    }
    for (int i = (k - 2) / 2; i >= 0; i--)
    {
        AdjustDown(minHeap, i, k);
    }
    int x = 0;
    while (fscanf(fout, "%d", &x) != EOF)
    {
        if (x > minHeap[0])
        {
            minHeap[0] = x;
            AdjustDown(minHeap, 0, k);
        }
    }
    printf("最大的前%d个数字:", k);
    for (int i = 0; i < k; i++)
    {
        printf("%d ", minHeap[i]);
    }
    printf("\n");
    fclose(fout);
    free(minHeap);
}

int main()
{
    CreateNDate();
    TopK();
    return 0;
}

六、总结

TopK 问题是堆排序最经典的应用场景,核心思想就是用 K 个元素的小顶堆过滤海量数据

  • 时间复杂度:O(NlogK),远优于全量排序的O(NlogN);
  • 空间复杂度:O(K),内存开销恒定,适配海量数据;
  • 核心技巧:求最大 TopK 用小顶堆,求最小 TopK 用大顶堆。

这份代码不仅可以用于学习算法,也可以直接适配真实业务中的日志统计、热门排行等海量数据场景。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值