ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

简介: ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)


目录

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1、LiR 线性回归算法

2、kNNR k最近邻算法

3、SVMR 支持向量机算法

4、DTR 决策树算法

5、RFR 随机森林算法

6、ExtraTR 极端随机树算法

7、SGDR 随机梯度上升算法

8、GBR 提升树算法

9、LightGBMR 算法

10、XGBR 算法

模型评估效果综合比较

模型推理预测综合比较


 

 

 

 

相关文章

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)

ML之回归预测:利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集回归预测(模型评估、推理并导到csv)实现

利用十类机器学习算法(线性回归、kNN、SVM、决策树、随机森林、极端随机树、SGD、提升树、LightGBM、XGBoost)对波士顿数据集【13+1,506】回归预测(模型评估、推理并导到csv)

输出数据集

1. 数据集的描述:  
2.  .. _boston_dataset:
3. 
4. Boston house prices dataset
5. ---------------------------
6. 
7. **Data Set Characteristics:**  
8. 
9.     :Number of Instances: 506
10. 
11.     :Number of Attributes: 13 numeric/categorical predictive. Median Value (attribute 14) is usually the target.
12. 
13.     :Attribute Information (in order):
14.         - CRIM     per capita crime rate by town
15.         - ZN       proportion of residential land zoned for lots over 25,000 sq.ft.
16.         - INDUS    proportion of non-retail business acres per town
17.         - CHAS     Charles River dummy variable (= 1 if tract bounds river; 0 otherwise)
18.         - NOX      nitric oxides concentration (parts per 10 million)
19.         - RM       average number of rooms per dwelling
20.         - AGE      proportion of owner-occupied units built prior to 1940
21.         - DIS      weighted distances to five Boston employment centres
22.         - RAD      index of accessibility to radial highways
23.         - TAX      full-value property-tax rate per $10,000
24.         - PTRATIO  pupil-teacher ratio by town
25.         - B        1000(Bk - 0.63)^2 where Bk is the proportion of blacks by town
26.         - LSTAT    % lower status of the population
27.         - MEDV     Median value of owner-occupied homes in $1000's
28. 
29.     :Missing Attribute Values: None
30. 
31.     :Creator: Harrison, D. and Rubinfeld, D.L.
32. 
33. This is a copy of UCI ML housing dataset.
34. https://archive.ics.uci.edu/ml/machine-learning-databases/housing/
35. 
36. 
37. This dataset was taken from the StatLib library which is maintained at Carnegie Mellon University.
38. 
39. The Boston house-price data of Harrison, D. and Rubinfeld, D.L. 'Hedonic
40. prices and the demand for clean air', J. Environ. Economics & Management,
41. vol.5, 81-102, 1978.   Used in Belsley, Kuh & Welsch, 'Regression diagnostics
42. ...', Wiley, 1980.   N.B. Various transformations are used in the table on
43. pages 244-261 of the latter.
44. 
45. The Boston house-price data has been used in many machine learning papers that address regression
46. problems.   
47.      
48. .. topic:: References
49. 
50.    - Belsley, Kuh & Welsch, 'Regression diagnostics: Identifying Influential Data and Sources of Collinearity', Wiley, 1980. 244-261.
51.    - Quinlan,R. (1993). Combining Instance-Based and Model-Based Learning. In Proceedings on the Tenth International Conference of Machine Learning, 236-243, University of Massachusetts, Amherst. Morgan Kaufmann.
52. 
53. 数据的初步查验:输出回归目标值target的差异
54. target_max 50.0
55. target_min 5.0
56. target_avg 22.532806324110677

 

1、LiR 线性回归算法

1. LiR Score value: 0.6757955014529482
2. LiR R2    value: 0.6757955014529482
3. LiR MAE   value: 3.5325325437053974
4. LiR MSE   value: 25.13923652035344

 

2、kNNR k最近邻算法

 

3、SVMR 支持向量机算法

 

 

4、DTR 决策树算法

 

5、RFR 随机森林算法

 

6、ExtraTR 极端随机树算法

 

7、SGDR 随机梯度上升算法

 

 

 

8、GBR 提升树算法

 

 

9、LightGBMR 算法

 

10、XGBR 算法

 

 

模型评估效果综合比较

 

模型推理预测综合比较

 

相关文章
|
2月前
|
机器学习/深度学习 人工智能 算法
【基于TTNRBO优化DBN回归预测】基于瞬态三角牛顿-拉夫逊优化算法(TTNRBO)优化深度信念网络(DBN)数据回归预测研究(Matlab代码实现)
【基于TTNRBO优化DBN回归预测】基于瞬态三角牛顿-拉夫逊优化算法(TTNRBO)优化深度信念网络(DBN)数据回归预测研究(Matlab代码实现)
168 0
|
3月前
|
机器学习/深度学习 编解码 并行计算
【创新未发表!】基于BKA算法优化-BP、HO算法优化-BP、CP算法优化-BP、GOOSE算法优化-BP、NRBO算法优化-BP神经网络回归预测比较研究(Matlab代码)
【创新未发表!】基于BKA算法优化-BP、HO算法优化-BP、CP算法优化-BP、GOOSE算法优化-BP、NRBO算法优化-BP神经网络回归预测比较研究(Matlab代码)
214 0
|
5月前
|
机器学习/深度学习 算法 安全
深度长文I 深度合成服务类-算法备案该怎么做?
本文详解“深度合成服务类”算法及其备案要求,涵盖定义、类型、备案流程等内容,助你全面理解合规要点。
|
9月前
|
机器学习/深度学习 数据采集 算法
基于PSO粒子群优化的CNN-LSTM-SAM网络时间序列回归预测算法matlab仿真
本项目展示了基于PSO优化的CNN-LSTM-SAM网络时间序列预测算法。使用Matlab2022a开发,完整代码含中文注释及操作视频。算法结合卷积层提取局部特征、LSTM处理长期依赖、自注意力机制捕捉全局特征,通过粒子群优化提升预测精度。适用于金融市场、气象预报等领域,提供高效准确的预测结果。
|
10月前
|
机器学习/深度学习 数据采集 算法
基于WOA鲸鱼优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
本项目基于MATLAB 2022a实现时间序列预测,采用CNN-GRU-SAM网络结构,结合鲸鱼优化算法(WOA)优化网络参数。核心代码含操作视频,运行效果无水印。算法通过卷积层提取局部特征,GRU层处理长期依赖,自注意力机制捕捉全局特征,全连接层整合输出。数据预处理后,使用WOA迭代优化,最终输出最优预测结果。
|
10月前
|
机器学习/深度学习 数据采集 算法
基于GA遗传优化的CNN-LSTM-SAM网络时间序列回归预测算法matlab仿真
本项目使用MATLAB 2022a实现时间序列预测算法,完整程序无水印。核心代码包含详细中文注释和操作视频。算法基于CNN-LSTM-SAM网络,融合卷积层、LSTM层与自注意力机制,适用于金融市场、气象预报等领域。通过数据归一化、种群初始化、适应度计算及参数优化等步骤,有效处理非线性时间序列,输出精准预测结果。
|
11月前
|
机器学习/深度学习 数据采集 算法
基于GA遗传优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
本项目基于MATLAB2022a实现时间序列预测,采用CNN-GRU-SAM网络结构。卷积层提取局部特征,GRU层处理长期依赖,自注意力机制捕捉全局特征。完整代码含中文注释和操作视频,运行效果无水印展示。算法通过数据归一化、种群初始化、适应度计算、个体更新等步骤优化网络参数,最终输出预测结果。适用于金融市场、气象预报等领域。
基于GA遗传优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
|
10月前
|
机器学习/深度学习 数据采集 算法
基于GWO灰狼优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
本项目基于MATLAB2022a,展示了时间序列预测算法的运行效果(无水印)。核心程序包含详细中文注释和操作视频。算法采用CNN-GRU-SAM网络,结合灰狼优化(GWO),通过卷积层提取局部特征、GRU处理长期依赖、自注意力机制捕捉全局特征,最终实现复杂非线性时间序列的高效预测。
|
9月前
|
机器学习/深度学习 数据采集 算法
基于WOA鲸鱼优化的CNN-LSTM-SAM网络时间序列回归预测算法matlab仿真
本内容介绍了一种基于CNN-LSTM-SAM网络与鲸鱼优化算法(WOA)的时间序列预测方法。算法运行于Matlab2022a,完整程序无水印并附带中文注释及操作视频。核心流程包括数据归一化、种群初始化、适应度计算及参数更新,最终输出最优网络参数完成预测。CNN层提取局部特征,LSTM层捕捉长期依赖关系,自注意力机制聚焦全局特性,全连接层整合特征输出结果,适用于复杂非线性时间序列预测任务。
|
机器学习/深度学习 数据采集 算法
基于PSO粒子群优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
本项目展示了基于PSO优化的CNN-GRU-SAM网络在时间序列预测中的应用。算法通过卷积层、GRU层、自注意力机制层提取特征,结合粒子群优化提升预测准确性。完整程序运行效果无水印,提供Matlab2022a版本代码,含详细中文注释和操作视频。适用于金融市场、气象预报等领域,有效处理非线性数据,提高预测稳定性和效率。