Day14 多目标优化算法

最新推荐文章于 2026-07-03 10:00:25 发布
原创 最新推荐文章于 2026-07-03 10:00:25 发布 · 37 阅读 · 0 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
GEO检测
收录于
python打卡

当前文章被收录于：

python打卡
38 篇文章 0 人学习
订阅专栏 查看详情 
import random
import lightgbm as lgb  # 核心新增：导入LightGBM库
from deap import base, creator, tools, algorithms
from sklearn.metrics import precision_score, recall_score  # 保留评估指标库

# 4.2 定义问题：个体与适应度（框架不变，无需修改）
# 定义适应度：最大化两个目标（精确率、召回率），权重都设为 1.0
creator.create("FitnessMulti", base.Fitness, weights=(1.0, 1.0))

# 定义个体：每个个体包含一组LightGBM的超参数
creator.create("Individual", list, fitness=creator.FitnessMulti)

# 4.3 创建工具箱 (Toolbox)
toolbox = base.Toolbox()

# ======================================
# 关键修改1：替换为LightGBM的核心超参数及生成方式
# ======================================
# LightGBM 整数型超参数生成
toolbox.register("attr_num_leaves", random.randint, 31, 127)  # 叶子节点数，需满足 num_leaves < 2^max_depth
toolbox.register("attr_max_depth", random.randint, 3, 20)     # 树的最大深度，无需过大
toolbox.register("attr_min_child_samples", random.randint, 5, 50)  # 叶子节点最小样本数，防止过拟合

# LightGBM 浮点型超参数生成（学习率）
def attr_learning_rate():
    return random.uniform(0.01, 0.3)  # 学习率范围：0.01 ~ 0.3
toolbox.register("attr_learning_rate", attr_learning_rate)

# ======================================
# 关键修改2：更新个体生成器，组合LightGBM的超参数
# ======================================
toolbox.register("individual", tools.initCycle, creator.Individual, 
               (toolbox.attr_num_leaves, toolbox.attr_max_depth, 
                toolbox.attr_learning_rate, toolbox.attr_min_child_samples), n=1)

# 定义种群（框架不变，无需修改）
toolbox.register("population", tools.initRepeat, list, toolbox.individual)

# ======================================
# 关键修改3：重写多目标评估函数，替换为LightGBM模型
# ======================================
def evaluate_lgb(individual):
    """
    评估函数：接收一个个体（LightGBM超参数组合），返回其在测试集上的（精确率, 召回率）
    """
    # 从个体中解析LightGBM超参数
    num_leaves, max_depth, learning_rate, min_child_samples = individual
    
    # 类型转换：整数型参数强转int，浮点型参数保持不变
    num_leaves = int(num_leaves)
    max_depth = int(max_depth)
    min_child_samples = int(min_child_samples)
    
    # 创建并训练LightGBM分类器
    lgb_model = lgb.LGBMClassifier(
        num_leaves=num_leaves,
        max_depth=max_depth,
        learning_rate=learning_rate,
        min_child_samples=min_child_samples,
        n_estimators=200,  # 固定迭代次数，也可加入多目标优化
        objective="binary",  # 适配二分类任务（Credit Default）
        random_state=42,
        n_jobs=-1,
        verbose=-1  # 关闭冗余训练输出，保持整洁
    )
    lgb_model.fit(X_train, y_train)
    
    # 在测试集上进行预测
    predictions = lgb_model.predict(X_test)
    
    # 计算精确率和召回率（保持多目标优化目标不变）
    precision = precision_score(y_test, predictions)
    recall = recall_score(y_test, predictions)
    
    # 返回评估结果（必须是元组，符合DEAP多目标要求）
    return (precision, recall)

# ======================================
# 关键修改4：注册评估函数和自定义变异算子（适配LightGBM参数）
# ======================================
# 注册LightGBM的评估函数
toolbox.register("evaluate", evaluate_lgb)

# 注册交叉算子（两点交叉，框架不变，无需修改）
toolbox.register("mate", tools.cxTwoPoint)

# 自定义变异算子：适配LightGBM的整数型+浮点型参数
def mutate_lgb_individual(individual):
    """
    自定义变异函数，分别处理LightGBM的整数型和浮点型超参数
    """
    # 1. 整数型参数变异（num_leaves, max_depth, min_child_samples）
    int_param_indices = [0, 1, 3]  # 对应个体中的整数型参数索引
    int_param_bounds = [
        (31, 127),   # num_leaves 边界
        (3, 20),     # max_depth 边界
        (5, 50)      # min_child_samples 边界
    ]
    
    for idx, (low, high) in zip(int_param_indices, int_param_bounds):
        if random.random() < 0.2:  # 对应原indpb=0.2的变异概率
            individual[idx] = random.randint(low, high)
    
    # 2. 浮点型参数变异（learning_rate，索引2）
    if random.random() < 0.2:
        individual[2] = random.uniform(0.01, 0.3)
    
    return individual,

# 注册自定义变异算子（替换原有的mutUniformInt）
toolbox.register("mutate", mutate_lgb_individual)

# 注册选择算子：NSGA-II 多目标选择算法（框架不变，无需修改）
toolbox.register("select", tools.selNSGA2)
import random
import lightgbm as lgb  # 核心新增：导入LightGBM库
from deap import base, creator, tools, algorithms
from sklearn.metrics import precision_score, recall_score  # 保留评估指标库

# 4.2 定义问题：个体与适应度（框架不变，无需修改）
# 定义适应度：最大化两个目标（精确率、召回率），权重都设为 1.0
creator.create("FitnessMulti", base.Fitness, weights=(1.0, 1.0))

# 定义个体：每个个体包含一组LightGBM的超参数
creator.create("Individual", list, fitness=creator.FitnessMulti)

# 4.3 创建工具箱 (Toolbox)
toolbox = base.Toolbox()

# ======================================
# 关键修改1：替换为LightGBM的核心超参数及生成方式
# ======================================
# LightGBM 整数型超参数生成
toolbox.register("attr_num_leaves", random.randint, 31, 127)  # 叶子节点数，需满足 num_leaves < 2^max_depth
toolbox.register("attr_max_depth", random.randint, 3, 20)     # 树的最大深度，无需过大
toolbox.register("attr_min_child_samples", random.randint, 5, 50)  # 叶子节点最小样本数，防止过拟合

# LightGBM 浮点型超参数生成（学习率）
def attr_learning_rate():
    return random.uniform(0.01, 0.3)  # 学习率范围：0.01 ~ 0.3
toolbox.register("attr_learning_rate", attr_learning_rate)

# ======================================
# 关键修改2：更新个体生成器，组合LightGBM的超参数
# ======================================
toolbox.register("individual", tools.initCycle, creator.Individual, 
               (toolbox.attr_num_leaves, toolbox.attr_max_depth, 
                toolbox.attr_learning_rate, toolbox.attr_min_child_samples), n=1)

# 定义种群（框架不变，无需修改）
toolbox.register("population", tools.initRepeat, list, toolbox.individual)

# ======================================
# 关键修改3：重写多目标评估函数，替换为LightGBM模型
# ======================================
def evaluate_lgb(individual):
    """
    评估函数：接收一个个体（LightGBM超参数组合），返回其在测试集上的（精确率, 召回率）
    """
    # 从个体中解析LightGBM超参数
    num_leaves, max_depth, learning_rate, min_child_samples = individual
    
    # 类型转换：整数型参数强转int，浮点型参数保持不变
    num_leaves = int(num_leaves)
    max_depth = int(max_depth)
    min_child_samples = int(min_child_samples)
    
    # 创建并训练LightGBM分类器
    lgb_model = lgb.LGBMClassifier(
        num_leaves=num_leaves,
        max_depth=max_depth,
        learning_rate=learning_rate,
        min_child_samples=min_child_samples,
        n_estimators=200,  # 固定迭代次数，也可加入多目标优化
        objective="binary",  # 适配二分类任务（Credit Default）
        random_state=42,
        n_jobs=-1,
        verbose=-1  # 关闭冗余训练输出，保持整洁
    )
    lgb_model.fit(X_train, y_train)
    
    # 在测试集上进行预测
    predictions = lgb_model.predict(X_test)
    
    # 计算精确率和召回率（保持多目标优化目标不变）
    precision = precision_score(y_test, predictions)
    recall = recall_score(y_test, predictions)
    
    # 返回评估结果（必须是元组，符合DEAP多目标要求）
    return (precision, recall)

# ======================================
# 关键修改4：注册评估函数和自定义变异算子（适配LightGBM参数）
# ======================================
# 注册LightGBM的评估函数
toolbox.register("evaluate", evaluate_lgb)

# 注册交叉算子（两点交叉，框架不变，无需修改）
toolbox.register("mate", tools.cxTwoPoint)

# 自定义变异算子：适配LightGBM的整数型+浮点型参数
def mutate_lgb_individual(individual):
    """
    自定义变异函数，分别处理LightGBM的整数型和浮点型超参数
    """
    # 1. 整数型参数变异（num_leaves, max_depth, min_child_samples）
    int_param_indices = [0, 1, 3]  # 对应个体中的整数型参数索引
    int_param_bounds = [
        (31, 127),   # num_leaves 边界
        (3, 20),     # max_depth 边界
        (5, 50)      # min_child_samples 边界
    ]
    
    for idx, (low, high) in zip(int_param_indices, int_param_bounds):
        if random.random() < 0.2:  # 对应原indpb=0.2的变异概率
            individual[idx] = random.randint(low, high)
    
    # 2. 浮点型参数变异（learning_rate，索引2）
    if random.random() < 0.2:
        individual[2] = random.uniform(0.01, 0.3)
    
    return individual,

# 注册自定义变异算子（替换原有的mutUniformInt）
toolbox.register("mutate", mutate_lgb_individual)

# 注册选择算子：NSGA-II 多目标选择算法（框架不变，无需修改）
toolbox.register("select", tools.selNSGA2)

@浙大疏锦行

标签
#算法 #python #开发语言
DAY 14 多目标优化算法
Salt_0728的博客
11-18 961
初始解 = 原始物种；适应度 = 生存能力；产生新解 = 繁殖变异；选择 = 适者生存；循环 = 一代代进化，越来越适应环境（目标）。不管是单目标还是多目标，核心都是通过 “迭代改进 + 筛选”，让解从 “随机瞎猜” 逐步变成 “优质方案”～所以核心就是排序这里：1.遗传算法多目标（NSGA-II）基于rank和拥挤距离2.粒子群多目标（MOPSO）是需要采取Pbest和Gbest的策略（比如随机选、基于密度选）
Day 14 多目标优化算法
2501_94044622的博客
11-17 1283
1.多目标优化 (MOO)Multi-Objective Optimization，同时优化两个或两个以上相互冲突的目标函数的问题。比如最大化模型的准确率和召回率，但是二者一般是矛盾的。初始化N个解（个体）计算函数值（适应度）利用旧解产生新解（各种策略均可，GA\PSO等）选择新一轮的解单目标：直接排序，保留最优的N个解多目标：保留N个帕累托最优点，不同算法筛选的策略不同再从步骤2循环遗传算法多目标（NSGA-II）基于rank和拥挤距离粒子群多目标（MOPSO。
【DAY14】多目标优化算法
No_Merman的博客
11-19 322
多目标优化（MOO）和它的算法 MOEA，其核心思想是：既然目标相互冲突，找不到一个完美的“最好解”把所有这些“最不差的权衡解”（帕累托最优解）在目标空间中描绘出来，它们形成的一条边界线或曲面，就是。既然目标互相冲突，找不到一个“完美解”能让所有目标都最好，我们就需要定义一种新的“最优”——这条线上的每一点都是一种可能的选择，将最终的方案选择权交给了使用者。多目标：保留N个帕累托最优点，不同算法筛选的策略不同。（例如，如果目标是最小化成本和时间，则 A 的成本。“最不差的权衡解”，并把选择权交给用户。
DAY14 多目标优化算法
2301_79903344的博客
12-01 575
对于信贷数据的lightgbm预测模型超参数采取多目标优化（NSGA-II）
day14多目标优化算法@浙大疏锦行
qq_35619695的博客
11-17 921
​ 多目标优化 (MOO)：Multi-Objective Optimization，同时优化两个或两个以上相互冲突的目标函数的问题。比如最大化模型的准确率和召回率，但是二者一般是矛盾的。​ 1. 初始化N个解（个体）​ 2. 计算函数值（适应度）​ 3. 利用旧解产生新解（各种策略均可，GA\PSO等）​ 4. 选择新一轮的解。
【day 14】多目标优化算法
m0_68909433的博客
11-19 323
尝试借助ai完成其他多目标问题，可借助ai生成模拟数据。对信贷数据集的其他模型采取多目标优化。
ππDAY 14 多目标优化算法
2503_93855664的博客
11-19 295
【代码】ππDAY 14 多目标优化算法。
Java 漏斗算法 及应用场景
最新发布
lizhengyu891231的博客
07-03 315
Java漏斗算法（漏桶算法）是一种流量整形技术，通过固定速率处理请求来平滑流量。核心实现基于阻塞队列和定时任务，以恒定速率消费队列元素。与令牌桶算法相比，漏斗算法严格控制输出速率但不允许突发流量。工业级推荐使用Guava的RateLimiter（令牌桶变体），分布式场景可采用Redis+Lua实现。典型应用包括数据库保护、API限流等，需根据业务需求权衡流量平滑性与突发处理能力，合理设置桶容量（建议=漏出速率×最大容忍延迟）。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值