核内调度问题的分层优化：缓存管理与性能均衡策略 模型评价 模型缺点与改进方向

6.2 模型缺点与改进方向

针对问题 1 所构建的调度模型，虽然在控制缓存驻留峰值（max(Vstay)）方面表现出良 好的基础性能，但受竞赛时间等因素所限，该模型仍存在可进一步优化的局限性：

（1）L0 缓存调度策略过于简化，未能充分利用算子共性特征，当前算法在构建涉及 L0 缓存（如 L0A、L0B、L0C）的操作序列时，主要依据节点 ID 等基础属性进行排序，缺乏 对计算图中算子操作共性特征的深入分析与利用。由于 L0 缓存区的分配与释放时机直接 影响到上一级缓存（L1、UB）中数据块的生命周期，这种简化的调度策略可能错失通过优 化 L0 操作顺序来提前释放 L1/UB 缓存的机会。一个更优的方法应是结合计算图的反向拓 扑序，动态评估每个 L0 操作完成后所能释放的缓存资源，从而在全局层面更有效地压制 max(Vstay)。

（2）虚拟边生成机制静态化，限制了解空间的灵活性，为保证 L0 缓存操作的硬件约 束（即同一时刻每种 L0 缓存最多只能有一个缓冲区驻留），当前算法采用预先构建静态虚 拟边的方法。这种方法虽然保证了正确性，但在可扩展性上存在不足。当面临多个 L0 缓 存区可被同时分配的场景时，静态虚拟边会过早地固定执行顺序，限制了调度器探索更优 解的空间。理想的改进方向是开发一种动态虚拟边机制，该机制能在调度过程中实时判断新增的 ALLOC 节点是否会违反 L0 缓存的空间限制（而不仅仅是数量限制），并据此按需 添加依赖约束，从而在满足硬件限制的前提下获得更大的调度灵活性。

（3）节点选择策略陷入局部最优，缺乏全局生命周期视角，算法所采用的 MSC 策略， 在选择一个 L1 或 UB 的 ALLOC 节点时，仅考虑了该节点本身申请的缓存大小，而未能充 分考虑该操作之后直至其对应的 FREE 节点被执行前，所关联的整个缓存管理节点集合对 全局缓存占用的持续影响。这种“走一步看一步”的贪心策略，容易因为某个短期内看似 最优的选择，而导致后续一大片缓存资源被长时间占用无法释放，从而使得整体缓存占用 曲线的峰值 (max(Vstay)) 并非全局最优。应引入更前瞻的评估机制，优先选择那些不仅能及 时申请、更能被尽早释放的缓存区块。

为克服上述局限性，进一步提升模型的调度性能与鲁棒性，可从以下几个方向展开：

（1）开发基于缓存释放时机分析的 L0 调度优化算法，构建一个综合考虑 L0 操作特性 及其对 L1/UB 缓存释放影响的评估模型，利用反向拓扑序信息来指导 L0 操作序列的生成， 旨在实现全局缓存占用的提前降低。

（2）设计动态、条件触发的虚拟边管理机制，将虚拟边的添加从预处理阶段移至调度 运行时，根据当前缓存状态动态施加约束。这能有效扩大可行解空间的搜索范围，提升调 度方案的质量。

（3）引入具有前瞻性的节点评估函数，在贪心策略框架内，将节点选择的评估标准从 单一的“瞬时缓存增量”扩展到包含“预估生命周期长度”或“后续释放潜力”的复合指 标。例如，可考虑一个 ALLOC 节点与其对应 FREE 节点在拓扑序列中的距离，优先调度 生命周期短的缓存块。

针对问题 2 所构建的缓存分配与 Spill 管理模型，在表现出良好性能的同时，由于其设 计基于若干假设，模型的有效性在很大程度上依赖于问题 1 所提供初始调度序列的质量， 存在一定的局限性：

（1）为保证稳定性，“严格排除最后一次由 Spill_IN 使用的缓冲区”是一条较为刚性的 规则。在某些特殊场景下，这条规则可能会导致次优选择。例如，一个刚被换入的、尺寸 巨大的缓冲区，其下一次实际使用可能非常遥远，理论上它或许是最佳牺牲品，但当前规 则会禁止将其换出，从而可能导致一个更“有价值”（即即将被使用）的缓冲区被错误地 换出。

（2）模型虽然实现了多种分配算法，但在一次完整的求解过程中只能静态地使用其中 一种。不同算法在求解过程的不同阶段可能各有优劣。

（3）本模型严格遵循“先调度，后分配”的两阶段模式，然而两者存在强耦合关系。

为克服上述局限性，进一步提升模型的性能与鲁棒性，可从以下几个方向展开：

（1）可以将当前的“硬性排除”规则软化为在评分模型中引入一个巨大的惩罚项。即， 最后一次由 Spill_IN 使用的缓冲区仍然可以作为候选，但在计算其优先级得分时，对其应用一个极大的负向偏置。这样既可以保证在绝大多数情况下优先选择其他缓冲区，又保留 了在极端情况下做出最优选择的灵活性。

（2）可以探索建立自适应混合分配策略。例如，基于当前缓存的碎片化程度和待分配 缓冲区的大小，动态地在 First-Fit、Best-Fit 和 Worst-Fit 之间切换。

（3）探索建立调度与分配的联合优化模型。例如，在分配阶段，当检测到缓存压力即 将达到阈值时，可以被赋予有限的权限，在不违反主要数据依赖的前提下，对即将到来的、 独立的任务节点进行局部重排序。

针对问题 3 所构建的性能优化模型，在取得显著成效的同时，也存在一定的局限性：

（1）解空间探索不足，易陷入局部最优。模型依赖于固定的优先级规则进行调度优化， 本质上属于贪心策略的范畴。该方法虽能高效生成可行解，但搜索范围有限，缺乏对全局 解空间的系统性探索能力，因此可能无法跳出局部最优解，难以保证结果的全局最优性。

（2）参数依赖人工设定，缺乏自适应性。算法中的关键参数需要通过大量实验进行手 动调整与确定。这一过程不仅增加了使用者的工作量，更使得模型难以自适应于不同结构 和规模的计算图，限制了其在多样化场景下的鲁棒应用。

（3）“方案简单高效”的设计哲学是以牺牲对全局解空间的深入探索为代价的。这种权 衡使得该模型特别适合时间紧迫的任务，但同时也意味着其性能上限可能低于那些计算成 本更高、搜索更全面的算法。

为克服上述局限性，提升模型的整体性能与适应性，可从以下几个方向展开：

（1）引入元启发式搜索框架。可采用模拟退火（Simulated Annealing, SA） [9] 或遗传 算法（Genetic Algorithm, GA）[10] 等元启发式算法。这类方法能通过引入随机性（SA）或 种群多样性（GA）来有效探索全局解空间，有望跳出局部最优。特别是遗传算法，其并行 搜索特性适合优化多参数组合（如受害者评分权重）。然而，这类方法通常伴随较高的计 算开销（如大种群导致内存消耗增加、收敛速度较慢），需在解质量与计算资源之间进行 权衡。

（2）探索基于图神经网络（Graph Neural Network，GNN）[11] 的智能调度。利用 GNN 对计算图的拓扑结构进行嵌入学习，可以构建能够感知图结构特征的调度策略。这种数据 驱动的方法有望自动学习更优的调度规则，具备强大的泛化潜力。其主要挑战在于需要高 质量的训练数据与模型训练过程，并可能引入“黑箱”决策问题。

（3）发展混合优化策略。一个切实可行的路径是采用混合方法，可以将当前高效模型 作为快速生成高质量初始解的基线算法，然后利用其输出作为更复杂优化算法（如元启发 式算法）的起点进行精细搜索。这种“基线 + 后处理”的框架，既能利用现有模型的高效 性，又能通过后续步骤提升解的质量，实现效率与效果的良好平衡。