K最近邻(k-Nearest Neighbor,KNN)分类算法,最简单的机器学习算法之一
定义:如果一个样本在特征空间中的K个最相似(即特征空间中最邻近)的样本种大多数属于某一个类别,则该样本也属于这个类别。
用欧氏距离求两点之间的距离:
需要做标准化处理,
下载数据集:/c/facebook-v-predicting-check-ins
与预测有关系的是: xy坐标 精度 (时间戳(有可能当时周围酒店住满了,需要换下一个位置),日,时,周)
目标:入住位置ID
1.把样本量缩小一点 0<x<10 0<y<10
2.时间戳要处理,转换成年月日周时分秒,当做新的特征
3.类别很多 ,几千几万,可以删除常年不常入住的酒店
pandas的query()方法是基于DataFrame列的计算代数式,对于按照某列的规则进行过滤的操作,可以使用query方法。
在方法里直接写条件
pandas.to_datetime将参数转换为日期时间
pd.DatetimeIndex()该列时间戳设置为索引
pd.drop()删除一列
sklearn里axis=0 是列,而在pandas里,axis=1 是列
from sklearn.preprocessing import StandardScalerfrom sklearn.neighbors import KNeighborsClassifierfrom sklearn.model_selection import train_test_splitimport pandas as pddef knncls():"""K近邻算法预测入住:return:None"""#获取数据data = pd.read_csv("./train.csv")# print(data.head(10))#缩小数据量,查询数据筛选data = data.query("x>1.0 & x<1.25 & y>2.5 & y>2.75") #刚好组成正方形time_value = pd.to_datetime(data['time'], unit='s')#把日期格式转换成字典格式time_value = pd.DatetimeIndex(time_value)#构造一些特征,提取天加入到data_sample的列里面data['day'] = time_value.daydata['hour'] = time_value.hourdata['weekday'] = time_value.weekday#删除时间戳保留 天 时 周data = data.drop(['time'], axis=1)print(data)#将签到数量少于n个的删除place_count = data.groupby('place_id').count()tf = place_count[place_count.row_id >3].reset_index()data = data[data['place_id'].isin(tf.place_id)]#取出数据中的特征值和目标值y = data['place_id'] #先把目标值拿出来x = data.drop(['place_id'], axis=1)#进行数据的分割成 训练集和测试集x_train, x_test, y_train, y_test = train_test_split(x, y, test_size=0.25)#特征工程(标准化) ,训练集和测试集的特征值都要做标准化std = StandardScaler()x_train = std.fit_transform(x_train)x_test = std.fit_transform(x_test)knn = KNeighborsClassifier(n_neighbors=5)#输入训练集构建模型knn.fit(x_train, y_train)#得出预测结果y_predict = knn.predict(x_test)print('预测的未知ID为', y_predict)#得到准确率print("获得预测的准确率", knn.score(x_test, y_test))return Noneif __name__ =="__main__":knncls()
预测的未知ID为 [1557907710 2099677536 1120824422 ... 472354 2106470741 4377558379]获得预测的准确率 0.06646671493087876
二、K近邻算法的总结
K值很小时,和想要预测的目标 距离最近的点就是它的类别,容易受到异常点 的影响
K值很大时,容易受K值数量(类别)波动、