1500字范文,内容丰富有趣,写作好帮手!
1500字范文 > 【机器学习入门】(3) 朴素贝叶斯算法:多项式 高斯 伯努利 实例应用(心脏病预测

【机器学习入门】(3) 朴素贝叶斯算法:多项式 高斯 伯努利 实例应用(心脏病预测

时间:2019-10-18 19:58:43

相关推荐

【机器学习入门】(3) 朴素贝叶斯算法:多项式 高斯 伯努利 实例应用(心脏病预测

各位同学好,今天我和大家分享一下朴素贝叶斯算法中的三大模型。在上一篇文章中,我介绍了朴素贝叶斯算法的原理,并利用多项式模型进行了文本分类预测

朴素贝叶斯算法 -- 原理,多项式模型文档分类预测,附python完整代码和数据集

下面,我将对朴素贝叶斯算法进行补充,并通过案例心脏病预测向各位进一步说明。案例简介:有300多个心脏病样本数据,每个样本有13个特征(如:胆固醇、心跳率等),1个目标(即是否得了心脏病)。使用朴素贝叶斯高斯方法,建立心脏病预测模型。

1. 朴素贝叶斯模型

对于不同的数据,我们有不同的朴素贝叶斯模型进行分类。

1.1 多项式模型

(1)如果特征是离散型数据,比如文本这些,推荐使用多项式模型来实现。该模型常用于文本分类,特别是单词,统计单词出现的次数。

调用方法:from sklearn.naive_bayes import MultinomialNB

1.2 高斯模型

(2)如果特征是连续型数据,比如具体的数字,推荐使用高斯模型来实现,高斯模型即正态分布。当特征是连续变量的时候,运用多项式模型就会导致很多误差,此时即使做平滑,所得到的条件概率也难以描述真实情况。所以处理连续的特征变量,应该采用高斯模型。

调用方法: from sklearn.naive_bayes import GaussianNB

1.3 伯努利模型

(3)如果特征是离散性数据并且值只有0和1两种情况,推荐使用伯努利模型。在伯努利模型中,每个特征的取值是布尔型的,即TrueFalse,或者1和0。在文本分类中,表示一个特征有没有在一个文档中出现。

调用方法: from sklearn.naive_bayes import BernoulliNB

2. 心脏病预测

2.1 数据获取

获取心脏病的病例数据,共13项特征值,300多条数据。文末提供数据链接

#(1)导入心脏病数据import pandas as pdfilepath = 'C:\\Users\\admin\\.spyder-py3\\test\\文件处理\\心脏病\\heart.csv'data = pd.read_csv(filepath)

2.2 数据处理

首先将导入的数据重新洗牌,行数据之间随机交换。然后将原始数据拆分成特征值和目标值,特征参数是:胆固醇、年龄等13项数据,目标为target这一列,即是否得了心脏病。为了验证最后预测结果的正确性,取最后10行数据用于模型验证验证集的特征值数据用于输入最终的预测函数.predict()中,验证集的目标值来检验预测结果是否正确。提取出验证集之后,将用于建模的特征值和目标值删除最后10行即可。

#(2)数据处理# 重新洗牌,行互换后,让索引从0开始data = data.sample(frac=1).reset_index(drop=True)# 提取目标值target一列data_target = data['target']# 提取目标值data_feature = data.drop('target',axis=1)# 取出最后10行作为验证集data_predict_feature = data_feature[-10:] #作为最后预测函数的输入data_predict_target = data_target[-10:] #用来验证预测输出结果的正确性# 建模用的特征值和目标值删去最后10行data_feature = data_feature[:-10] #x数据data_target = data_target[:-10] #y数据

2.3 划分训练集和测试集

一般采用75%的数据用于训练,25%用于测试,因此把数据进行训练之前,先要对数据划分。

划分方式:

x_train,x_test,y_train,y_test = train_test_split(x数据,y数据,test_size=数据占比)

有关划分划分训练集和测试集的具体操作,包括参数、返回值等,点击下文链接的看第3.1小节:

K近邻算法 -- 算法原理、红酒分类预测实战

#(3)划分训练集和测试集from sklearn.model_selection import train_test_splitx_train,x_test,y_train,y_test = train_test_split(data_feature,data_target,test_size=0.25)

2.4 使用朴素贝叶斯高斯模型

心脏病数据中大多是连续型数据,少数是0、1离散型数据,因此先采用高斯模型进行训练,然后再采用多项式模型训练,对比这两种方法的准确率

#(4)高斯模型训练# 导入朴素贝叶斯--高斯模型方法from sklearn.naive_bayes import GaussianNB# gauss_nb接收高斯方法gauss_nb = GaussianNB()# 模型训练,输入训练集gauss_nb.fit(x_train,y_train)# 计算准确率--评分法gauss_accuracy = gauss_nb.score(x_test,y_test)# 预测gauss_result = gauss_nb.predict(data_predict_feature)

导入高斯模型方法,gauss_nb接收该方法;使用.fit()函数进模型训练;采用.score()函数用评分法查看模型准确率,根据x_test预测结果,把结果和真实的y_test比较,计算准确率;最终将验证集的特征值传入.predict()函数预测是否得了心脏病,将最终预测结果与真实值比较,发现有少许偏差,模型准确率在0.83左右。

2.5 使用朴素贝叶斯多项式模型

心脏病数据中存在少量的离散数据,实际操作中多项式模型不适用于该案例,我使用多项式模型和高斯模型进行比较,让大家优个直观感受。操作方法和高斯模型类似,在此不做过多叙述,有不明白的可以参考上一篇文章:朴素贝叶斯算法 -- 原理、多项式模型实现文本分类预测

#(5)多项式模型训练# 导入朴素贝叶斯--多项式方法from sklearn.naive_bayes import MultinomialNB# multi_nb接收多项式方法multi_nb = MultinomialNB()# 多项式方法进行训练,输入训练集multi_nb.fit(x_train,y_train)# 评分法计算准确率multi_accuracy = multi_nb.score(x_test,y_test)# 预测multi_result = multi_nb.predict(data_predict_feature)

最终的结果为,多项式模型的准确率在0.75左右,预测结果和实际结果相比偏差较大,因此在使用朴素贝叶斯方法,对有较多连续型数据进行分类预测时,高斯模型的准确度明显高于多项式模型。

心脏病数据集自取:

链接:百度网盘 请输入提取码提取码:a9wl

完整代码展示:

# 朴素贝叶斯高斯模型心脏病预测#(1)导入心脏病数据import pandas as pdfilepath = 'C:\\Users\\admin\\.spyder-py3\\test\\文件处理\\心脏病\\heart.csv'data = pd.read_csv(filepath)#(2)数据处理# 重新洗牌,行互换后,让索引从0开始data = data.sample(frac=1).reset_index(drop=True)# 提取目标值target一列data_target = data['target']# 提取目标值data_feature = data.drop('target',axis=1)# 取出最后10行作为验证集data_predict_feature = data_feature[-10:] #作为最后预测函数的输入data_predict_target = data_target[-10:] #用来验证预测输出结果的正确性# 建模用的特征值和目标值删去最后10行data_feature = data_feature[:-10] #x数据data_target = data_target[:-10] #y数据#(3)划分训练集和测试集from sklearn.model_selection import train_test_splitx_train,x_test,y_train,y_test = train_test_split(data_feature,data_target,test_size=0.25)#(4)高斯模型训练# 导入朴素贝叶斯--高斯模型方法from sklearn.naive_bayes import GaussianNB# gauss_nb接收高斯方法gauss_nb = GaussianNB()# 模型训练,输入训练集gauss_nb.fit(x_train,y_train)# 计算准确率--评分法gauss_accuracy = gauss_nb.score(x_test,y_test)# 预测gauss_result = gauss_nb.predict(data_predict_feature)#(5)多项式模型训练# 导入朴素贝叶斯--多项式方法from sklearn.naive_bayes import MultinomialNB# multi_nb接收多项式方法multi_nb = MultinomialNB()# 多项式方法进行训练,输入训练集multi_nb.fit(x_train,y_train)# 评分法计算准确率multi_accuracy = multi_nb.score(x_test,y_test)# 预测multi_result = multi_nb.predict(data_predict_feature)

【机器学习入门】(3) 朴素贝叶斯算法:多项式 高斯 伯努利 实例应用(心脏病预测)附python完整代码及数据集

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。