python线性回归

2020-12-15 13:32:07 阅读：311 来源： 互联网

标签：plt python boston 回归 test train lr 线性 import

一.理论基础

1.回归公式
　　对于单元的线性回归，我们有：f(x) = kx + b 的方程(k代表权重，b代表截距）。
　　对于多元线性回归，我们有：
　　　在这里插入图片描述
　　或者为了简化，干脆将b视为k₀·x₀,，其中k₀为1，于是我们就有：
　　　
２.损失函数

3.误差衡量
MSE,RMSE,MAE越接近于0越好，R方越接近于1越好。

MSE平均平方误差(mean squared error)
　　　在这里插入图片描述

RMSE，是MSE的开根号
　　
MAE平均绝对值误差(mean absolute error)
　　　在这里插入图片描述

Ｒ方
　　　在这里插入图片描述

其中y_hat是预测值。

二.代码实现

本次，我们将用iris数据集实现单元线性回归的机器学习，使用boston数据集实现多元线性回归的机器学习。在python中，单元线性回归与多元线性回归的操作完全一样，这里只是为了演示而将其一分为二。
1.鸢尾花花瓣长度与宽度的线性回归

# 导入鸢尾花数据集
from sklearn.datasets import load_iris
# 导入用于分割训练集和测试集的类
from sklearn.model_selection import train_test_split
# 导入线性回归类
from sklearn.linear_model import LinearRegression
import numpy as np

iris = load_iris()

'''
iris数据集的第三列是鸢尾花长度，第四列是鸢尾花宽度
x和y就是自变量和因变量
reshape(-1,1)就是将iris.data[:,3]由一维数组转置为二维数组,
以便于与iris.data[:,2]进行运算
'''
x,y = iris.data[:,2].reshape(-1,1),iris.data[:,3]
lr = LinearRegression()

'''
train_test_split可以进行训练集与测试集的拆分，
返回值分别为训练集的x，测试集的x，训练集的y，测试集的y,
分别赋值给x_train,x_test,y_train,y_test,
test_size:测试集占比
random_state:选定随机种子
'''
x_train,x_test,y_train,y_test = train_test_split(x,y,test_size = 0.25,random_state = 0)
# 利用训练集进行机器学习
lr.fit(x_train,y_train)
# 权重为lr.coef_
# 截距为lr.intercept_
# 运用训练出来的模型得出测试集的预测值
y_hat = lr.predict(x_test)
# 比较测试集的y值与预测出来的y值的前5条数据
print(y_train[:5])
print(y_hat[:5])

# 评价模型的准确性,用测试集来评价
# 导入分别用于求MSE,MAE和R方的包
from sklearn.metrics import mean_squared_error,mean_absolute_error,r2_score
# 求解MSE
print('MSE:',mean_squared_error(y_test,y_hat)）
# 求解RMSE,是MSE的开根号
print('RMSE:',np.sqrt(mean_squared_error(y_test,y_hat))
# 求解MAE
print('MAE:',mean_absolute_error(y_test,y_hat))
# 求解R方,有两种方法，注意lr.score的参数是x_test,y_test
print('R方:',r2_score(y_test,y_hat))
print('R方:',lr.score(x_test,y_test))


# 导入matplotlib模块，进行可视化
from matplotlib import pyplot as plt
plt.rcParams['font.family'] = 'SimHei'
plt.rcParams['axes.unicode_minus'] = False
plt.rcParams['font.size'] = 15
plt.figure(figsize = (20,8))
# 训练集散点图
plt.scatter(x_train,y_train,color = 'green',marker = 'o',label = '训练集')
# 测试集散点图
plt.scatter(x_test,y_test,color = 'orange',marker = 'o',label = '测试集')
# 回归线
plt.plot(x,lr.predict(x),'r-')
plt.legend()
plt.xlabel('花瓣长度')
plt.ylabel('花瓣宽度')

就这样画出了一张很丑的图，如果想画更精美的图或者其他方面的比较，各位读者不妨自己去试一试吧。

在这里插入图片描述
　　刚刚我们做了对鸢尾花花瓣长度和宽度的线性回归，探讨长度与宽度的关系，探究鸢尾花的花瓣宽度受长度变化的趋势是怎么样的。但是在现实生活当中的数据是十分复杂的，像这种单因素影响的事物是比较少的，我们需要引入多元线性回归来对多个因素的权重进行分配，从而与复杂事物相符合。

2.boston房价预测（多元线性回归）

呐，boston数据集的介绍在这里了，我就不详细介绍了
现在，我们要探讨boston当中每一个因素对房价的影响有多大，这就是一个多因素影响的典型例子。

import pandas as pd
import numpy as np
from sklearn.datasets import load_boston
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import train_test_split
boston = load_boston()
# lr继承LinearRegression类
lr = LinearRegression()
# 因为boston.data本身就是二维数组，所以无需转置,boston.target是房价
x,y = boston.data,boston.target
x_train,x_test,y_train,y_test = train_test_split(x,y,test_size = 0.15,random_state = 0)
lr.fit(x_train,y_train)
# 显示权重，因为有很多因素，所以权重也有很多个
print(lr.coef_)
# 显示截距
print(lr.intercept_)
y_hat = lr.predict(x_test)

# 模型评判仍然是用那几个包，这里不再赘述。

结果如下，可以发现每一个因素都有相应的权重。

[-1.24536078e-01 4.06088227e-02 5.56827689e-03 2.17301021e+00
-1.72015611e+01 4.02315239e+00 -4.62527553e-03 -1.39681074e+00
2.84078987e-01 -1.17305066e-02 -1.06970964e+00 1.02237522e-02
-4.54390752e-01]
36.09267761760974

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理

想要获取更多Python学习资料可以加
QQ:2955637827私聊
或加Q群630390733
大家一起来学习讨论吧！

标签：plt,python,boston,回归,test,train,lr,线性,import
来源： https://www.cnblogs.com/putao11111/p/14138011.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

ICode9

python线性回归

一.理论基础

二.代码实现